ChatGLM3大模型本地化部署应用开发与微调/人工智能技术丛书

本书作为《PyTorch 2.0 深度学习从零开始学》的姊 妹篇，专注于大模型的本地 化部署、应用开发以及微调 等。本书不仅系统地阐述了 深度学习大模型的核心理论 ，更注重实践应用，通过丰 富的案例和场景，引导读者 从理论走向实践，真正领悟 和掌握大模型本地化应用的 精髓。 全书共分13章，全方位 、多角度地展示了大模型本 地化实战的完整方案，内容 包括大模型时代的开端、 PyTorch 2.0深度学习环境 搭建、基于gradio的云上自 托管ChatGLM3部署实战、 使用ChatGLM3与 LangChain实现知识图谱抽 取和智能问答、适配 ChatGLM3终端的Template 与Chain详解、ChatGLM3多 文本检索的增强生成实战、 构建以人为本的ChatGLM3 规范化Prompt提示工程、 使用ChatGLM3的思维链构 建、GLM源码分析与文本生 成实战、低资源单GPU微调 ChatGLM3实战、会使用工 具的ChatGLM3、上市公司 财务报表非结构化信息抽取 实战、上市公司财务报表智 能问答与财务预警实战。 本书适合大模型的初学 者、有一定基础的大模型研 究人员、大模型应用开发人 员。同时，本书还可作为高 等院校或高职高专相关专业 大模型课程的教材，助力培 养新一代的大模型领域人才 。

王晓华，计算机专业讲师，长期讲授面向对象程序设计、数据结构、Hadoop程序设计等研究生和本科生相关课程；主要研究方向为云计算、数据挖掘。曾主持和参与多项国家和省级科研课题，独立科研项目获省级成果认定，发表过多篇论文，拥有一项国家专利。著有《Spark MLlib机器学习实践》《TensorFlow深度学习应用实践》《OpenCV+TensorFlow深度学习与计算机视觉实战》《TensorFlow 2.0卷积神经网络实战》《TensorFlow+Keras自然语言处理实战》等图书。

第1章 大模型时代的开端 1.1 大模型的历史与发展 1.1.1 大模型的“涌现” 1.1.2 深度学习与大模型的起源 1.1.3 大模型的概念与特点 1.1.4 大模型开启了深度学习的新时代 1.2 为什么要使用大模型 1.2.1 大模型与普通模型的区别 1.2.2 为什么选择ChatGLM 1.2.3 大模型应用场合与发展趋势 1.3 本章小结 第2章 PyTorch 2.0深度学习环境搭建 2.1 安装Python开发环境 2.1.1 Miniconda的下载与安装 2.1.2 PyCharm的下载与安装 2.1.3 softmax函数练习 2.2 安装PyTorch 2.0 2.2.1 NVIDIA 10/20/30/40系列显卡选择的GPU版本 2.2.2 PyTorch 2.0 GPU NVIDIA运行库的安装 2.2.3 Hello PyTorch 2.3 Hello ChatGLM 2.3.1 ChatGLM3简介与安装 2.3.2 CPU版本的ChatGLM3推演 2.3.3 GPU（INT4或INT8量化）版本的ChatGLM3推演 2.3.4 GPU（half或float量化）版本的ChatGLM3推演 2.3.5 离线状态的ChatGLM3的使用 2.3.6 ChatGLM的高级使用 2.4 本章小结 第3章 基于gradio的云上自托管ChatGLM3部署实战 3.1 gradio的基本使用详解 3.1.1 从gradio的Interface开始 3.1.2 gradio输入与输出组件 3.1.3 启动gradio的launch 3.1.4 gradio中多样化的输入和输出组件 3.1.5 gradio中常用的几个组件 3.1.6 使用gradio搭建视频上色服务 3.2 基于gradio的猫狗分类可视化训练与预测实战 3.2.1 运行环境与数据集的准备 3.2.2 模型的设计 3.2.3 PyTorch模型训练的基本流程 3.2.4 可视化训练流程 3.2.5 使用训练好的模型完成gradio可视化图像分类 3.3 基于网页端的ChatGLM3部署和使用 3.3.1 使用gradio搭建ChatGLM3网页客户端 3.3.2 使用ChatGLM3自带的网页客户端 3.4 基于私有云服务的ChatGLM3部署和使用 3.4.1 使用FastAPI完成ChatGLM3私有云交互端口的搭建（重要） 3.4.2 基于streamlit的ChatGLM3自带的网页客户端 3.5 本章小结 第4章 使用ChatGLM3与LangChain实现知识图谱抽取和智能问答