大模型应用开发极简入门：基于GPT-4和ChatGPT(第2版)

本书为广受读者喜爱的畅销书升级版，旨在让读者快速、简单地上手大模型应用开发。 本书为初学者提供了一份清晰、全面的“最小可用知识”，带领你快速了解 GPT-4 和 ChatGPT 的工作原理及优势，并在此基础上使用流行的 Python 编程语言构建大模型应用。升级版在旧版的基础上进行了全面更新，融入了大模型应用开发的最新进展，比如 RAG、GPT-4 新特性的应用解析等。本书提供了大量简单易学的示例，帮你理解相关概念并将其应用在自己的项目中。 准备好了吗?只需了解 Python，你即可将本书作为进入大模型时代的启动手册，开发出自己的大模型应用。

奥利维耶·卡埃朗（Olivier Caelen） 国际支付服务先驱Worldline公司机器学习研究员、布鲁塞尔自由大学机器学习博士，业余时间在布鲁塞尔自由大学教授机器学习课程。 玛丽–艾丽斯·布莱特（Marie-Alice Blete） AI工程师，曾在Worldline公司研发部门担任软件架构师。热衷于分享AI知识，并经常在技术活动中担任演讲嘉宾。 何文斯（译者） 知名大模型创业公司 Dify 产品经理、公众号“何文斯”作者，致力于研究大模型中间件技术和AI应用工程化的实际落地。业余时间撰写大模型相关技术的科普文章，期待共同见证通用人工智能的实现。

目录 推荐序一　学习成为善用AI的人 | 宝玉 xi 推荐序二　开启一段有趣、有启发、有收获的冒险旅程 | 张路宇 xv 推荐序三　人人都要学会和AI相处 | 孙志岗 xvii 推荐序四　AI工程师：从智能革命的探索者到智能体时代的 缔造者 | 邓范鑫 xix 推荐序五　未来正在生成中 | 梁宇鹏 xxi 推荐序六　AGI：不要旁观，要真正参与 | 罗云 xxiii 推荐序七　AI是人类能力的指数级放大器 | 宜博 xxv 译者序　没有谁天生就是AI工程师 | 何文斯 xxvii 前言 xxxi 排版约定 xxviii 使用代码示例 xxix O’Reilly在线学习平台（O’Reilly Online Learning） xxix 联系我们 xxix 致谢 xxx 电子书 xxxi 第 1章　初识GPT-4和ChatGPT 1 1.1　LLM概述 1 1.1.1　探索语言模型和NLP的基础 2 1.1.2　理解Transformer架构及其在LLM中的作用 5 1.1.3　解密GPT模型的词元化和预测步骤 7 1.1.4　将视觉整合到LLM中 9 1.2　GPT模型简史：从GPT-1到GPT-4 11 1.2.1　GPT-1 11 1.2.2　GPT-2 12 1.2.3　GPT-3 12 1.2.4　从GPT-3到InstructGPT 13 1.2.5　GPT-3.5、ChatGPT和Codex 16 1.2.6　GPT-4 17 1.2.7　人工智能向多模态演进 20 1.3　LLM用例和示例产品 22 1.3.1　Be My Eyes 22 1.3.2　摩根士丹利 22 1.3.3　可汗学院 23 1.3.4　多邻国 23 1.3.5　Yabble 24 1.3.6　Waymark 24 1.3.7　Inworld AI 25 1.4　警惕AI幻觉：限制与注意事项 25 1.5　借助高级功能释放GPT潜力 28 1.6　小结 31 第 2章　深入了解OpenAI API 33 2.1　基本概念 34 2.2　OpenAI API中可用的模型 35 2.2.1　GPT Base 35 2.2.2　InstructGPT（遗留版） 35 2.2.3　GPT-3.5 36 2.2.4　GPT-4 37 2.3　在OpenAI Playground中使用GPT模型 37 2.4　入门：OpenAI Python库 41 2.4.1　OpenAI服务访问与API密钥 42 2.4.2　Hello World 44 2.5　使用聊天补全模型 46 2.5.1　聊天补全端点的输入选项 47 2.5.2　调整temperature和top_p 50 2.5.3　聊天补全端点的输出结果格式 53 2.5.4　视觉能力 54 2.5.5　请求JSON输出 58 2.6　使用其他文本补全模型 62 2.6.1　文本补全端点的输入选项 63 2.6.2　文本补全端点的输出结果格式 64 2.7　注意事项 64 2.7.1　定价和词元限制 64 2.7.2　安全与隐私：小心！ 65 2.8　其他OpenAI API和功能 65 2.8.1　嵌入 66 2.8.2　审核 69 2.8.3　文本转语音 72 2.8.4　语音转文本 74 2.8.5　图像 API 78 2.9　小结（含速查清单） 88 第3章　构建基于LLM的应用程序：功能与挑战 91 3.1　应用程序开发概述 91 3.1.1　API密钥管理 92 3.1.2　安全与数据隐私 94 3.2　软件架构设计原则 94 3.3　将LLM能力集成到你的项目中 95 3.3.1　对话能力 95 3.3.2　语言处理能力 96 3.3.3　人机交互能力 98 3.3.4　结合能力 99 3.4　示例项目 99 3.4.1　项目1：构建新闻生成器解决方案——语言处理 100 3.4.2　项目2：总结YouTube视频——语言处理 102 3.4.3　项目3：打造《塞尔达传说：旷野之息》专家—— 语言处理与对话 107 3.4.4　项目4：创建个人助理——人机界面 114 3.4.5　项目5：组织文档——语言处理 121 3.4.6　项目6：情感分析——语言处理 122 3.5　成本管理 129 3.6　基于LLM的应用程序的漏洞 131 3.6.1　分析输入和输出 132 3.6.2　提示词注入的不可避免性 133 3.7　合理使用外部API 133 3.7.1　处理错误和意外延迟问题 134 3.7.2　速率限制 135 3.7.3　提高响应能力，改善用户体验 135 3.8　小结 139 第4章　OpenAI高级LLM集成策略 141 4.1　提示工程 141 4.1.1　利用角色、上下文和任务设计有效的提示词 142 4.1.2　逐步思考 148 4.1.3　实现少样本学习 150 4.1.4　基于用户反馈的迭代优化 152 4.1.5　改善提示效果 158 4.2　微调 161 4.2.1　入门 161 4.2.2　使用OpenAI API进行微调 164 4.2.3　使用OpenAI的Web界面进行微调 168 4.2.4　微调应用程序 170 4.2.5　为电子邮件营销活动生成和微调合成数据 172 4.2.6　微调的成本 180 4.3　RAG 180 4.3.1　基础RAG 180 4.3.2　高级RAG 181 4.3.3　RAG的局限 187 4.4　策略选择 187 4.4.1　策略比较 188 4.4.2　评估 190 4.5　从普通应用程序到基于LLM的解决方案 191 4.5.1　提示词敏感性 191 4.5.2　非确定性 192 4.5.3　幻觉 193 4.6　小结 194 第5章　通过框架、插件等提升LLM的能力 197 5.1　LangChain框架 197 5.1.1　LangChain库 199 5.1.2　动态提示词 200 5.1.3　智能体和工具 201 5.1.4　记忆 205 5.1.5　嵌入 206 5.2　LlamaIndex框架 210 5.2.1　演示：10行代码实现RAG 210 5.2.2　LlamaIndex原则 211 5.2.3　定制化 212 5.3　GPT-4 插件 214 5.3.1　概述 216 5.3.2　API 216 5.3.3　插件清单 218 5.3.4　OpenAPI规范 219 5.3.5　描述 220 5.4　GPTs 221 5.5　Assistants API 227 5.5.1　创建Assistants API 228 5.5.2　利用你的Assistants API管理对话 230 5.5.3　函数调用 234 5.5.4　OpenAI Web平台上的助手 238 5.6　小结 241 第6章　综合运用 243 6.1　关键要点 243 6.2　综合运用：助手用例 245 6.2.1　第 一步：构思 245 6.2.2　第二步：定义需求 246 6.2.3　第三步：构建原型 247 6.2.4　第四步：改进、迭代 247 6.2.5　第五步：使解决方案更健壮 248 6.3　经验教训 250 关键术语表 251 工具、库和框架 259 作者简介 263 封面简介 264