大模型应用开发极简入门：基于GPT-4和ChatGPT

本书为大模型应用开发极简入门手册，为初学者提供了一份清晰、全面的“可用知识”，带领大家快速了解GPT-4和ChatGPT的工作原理及优势，并在此基础上使用流行的Python编程语言构建大模型应用。通过本书，你不仅可以学会如何构建文本生成、问答和内容摘要等初阶大模型应用，还能了解到提示工程、模型微调、插件、LangChain等高阶实践技术。书中提供了简单易学的示例，帮你理解并应用在自己的项目中。此外，书后还提供了一份术语表，方便你随时参考。 准备好了吗？只需了解Python，你即可将本书作为进入大模型时代的启动手册，开发出自己的大模型应用。

奥利维耶·卡埃朗（Olivier Caelen） 国际支付服务先驱Worldline公司机器学习研究员、布鲁塞尔自由大学机器学习博士，业余时间在布鲁塞尔自由大学教授机器学习课程。 玛丽-艾丽斯·布莱特（Marie-Alice Blete） 国际支付服务先驱Worldline公司研发部门软件架构师、数据工程师。她还负责维护开发者关系，并担任技术演讲嘉宾。 何文斯（译者） 大模型创业公司 Dify 产品经理、自媒体“何文斯”作者，致力于研究大模型中间件技术和AI应用工程化的实际落地。业余时间撰写大模型相关技术的科普文章，期待共同见证通用人工智能的实现。

推荐序一　学习成为善用 AI 的人 | 宝玉 推荐序二　开启一段有趣、有启发、 有收获的冒险旅程 | 张路宇 推荐序三　人人都要学会和 AI 相处 | 孙志岗 推荐序四　AI 工程师：做新一轮智能革命的首批探索者 | 邓范鑫 推荐序五　进入智能应用的新时代 | 梁宇鹏（@一乐） 推荐序六　AGI：不要旁观，要真正参与 | 罗云 推荐序七　不要害怕被 ChatGPT 取代，要做第 一批驾驭新技术的人 | 宜博 译者序　没有谁天生就是 AI 工程师 | 何文斯 前言 第 1章　初识GPT-4 和 ChatGPT 1 1.1　LLM 概述 2 1.1.1　探索语言模型和 NLP 的基础 2 1.1.2　理解 Transformer 架构及其在 LLM 中的作用 4 1.1.3　解密 GPT 模型的标记化和预测步骤 7 1.2　GPT模型简史：从 GPT-1 到 GPT-4 9 1.2.1　GPT-1 9 1.2.2　GPT-2 10 1.2.3　GPT-3 11 1.2.4　从 GPT-3 到 InstructGPT 12 1.2.5　GPT-3.5、Codex 和 ChatGPT 14 1.2.6　GPT-4 15 1.3　LLM 用例和示例产品 16 1.3.1　Be My Eyes 16 1.3.2　摩根士丹利 17 1.3.3　可汗学院 17 1.3.4　多邻国 18 1.3.5　Yabble 18 1.3.6　Waymark 19 1.3.7　Inworld AI 19 1.4　警惕 AI 幻觉：限制与考虑 20 1.5　使用插件和微调优化 GPT 模型 23 1.6　小结 24 第 2章　深入了解 GPT-4 和 ChatGPT 的 API 25 2.1　基本概念 26 2.2　OpenAI API 提供的可用模型 27 2.3　在 OpenAI Playground 中使用 GPT 模型 29 2.4　开始使用 OpenAI Python 库 34 2.4.1　OpenAI 访问权限和 API 密钥 35 2.4.2　Hello World 示例程序 36 2.5　使用 GPT-4 和 ChatGPT 38 2.5.1　ChatCompletion 端点的输入选项 39 2.5.2　ChatCompletion 端点的输出格式 42 2.5.3　从文本补全到函数 43 2.6　使用其他文本补全模型 46 2.6.1　Completion 端点的输入选项 47 2.6.2　Completion 端点的输出格式 48 2.7　考虑因素 48 2.7.1　定价和标记限制 48 2.7.2　安全和隐私 50 2.8　其他 OpenAI API 和功能 50 2.8.1　嵌入 50 2.8.2　内容审核模型 53 2.8.3　Whisper 和 DALL · E 55 2.9　小结（含速查清单） 56 第3章　使用 GPT-4 和 ChatGPT 构建应用程序 59 3.1　应用程序开发概述 59 3.1.1　管理 API 密钥 60 3.1.2　数据安全和数据隐私 62 3.2　软件架构设计原则 62 3.3　LLM 驱动型应用程序的漏洞 63 3.3.1　分析输入和输出 64 3.3.2　无法避免提示词注入 65 3.4　示例项目 65 3.4.1　项目 1：构建新闻稿生成器 65 3.4.2　项目 2：YouTube 视频摘要 68 3.4.3　项目 3：打造《塞尔达传说：旷野之息》专家 71 3.4.4　项目 4：语音控制 77 3.5　小结 83 第4章　GPT-4 和 ChatGPT 的高级技巧 85 4.1　提示工程 85 4.1.1　设计有效的提示词 86 4.1.2　逐步思考 92 4.1.3　实现少样本学习 94 4.1.4　改善提示效果 96 4.2　微调 98 4.2.1　开始微调 99 4.2.2　使用 OpenAI API 进行微调 101 4.2.3　微调的应用 . 105 4.2.4　生成和微调电子邮件营销活动的合成数据 107 4.2.5　微调的成本 113 4.3　小结 114 第5章　使用 LangChain 框架和插件增强 LLM 的功能 117 5.1　LangChain 框架 117 5.1.1　动态提示词 119 5.1.2　智能体及工具 120 5.1.3　记忆 124 5.1.4　嵌入 125 5.2　GPT-4 插件 129 5.2.1　概述 130 5.2.2　API 131 5.2.3　插件清单 132 5.2.4　OpenAPI 规范 133 5.2.5　描述 135 5.3　小结 135 5.4　总结 136 术语表 137