制造业大模型的构建与实践

在智能制造和数字化转型的背景下，这是一本讲解大模型融合制造业应用的实战指南。由上市企业的智能化负责人，基于实际项目落地经验撰写。 本书主要内容如下： （1）基础篇 首先，探讨大模型在制造业中的应用与价值，使读者对二者的关联建立基本认知。然后，介绍大模型的发展历程、核心概念和 Transformer 架构原理。之后，深入讨论大模型构建路径，包括数据处理、分词、词嵌入和训练等关键步骤。同时，指出预训练模型的局限性，并提出相应的优化策略，如指令微调和混合专家模型。此外，本篇还涉及多模态大模型与 AIGC技术，以及提升大模型性能和安全性的提示词工程。 （2）应用篇 首先，介绍大模型技术在制造业企业中的应用方法，包括 8 种适用情形、垂直领域微调技术和 RAG（检索增强生成）技术。然后，围绕 AI Agent，介绍其内部原理、应用案例、与 RPA（机器人流程自动化）的关系以及实战工具 LangChain的使用方法。接着，详细介绍大模型的云端和边缘部署方案、大模型压缩的常用技术（如蒸馏、量化、剪枝等）以及软硬件适配策略。并且，通过两个实践案例，展示了大模型在工业制造、设备运维等领域的具体应用，涉及智能排产、生产工艺优化、预测性维护等关键知识。最后，综合全书内容，对大模型的技术与应用进行梳理和总结，并且对其未来发展趋势进行深入思考和展望。

郭秉义<br />上市公司的智能化研发负责人，主导推进制造领域的数字化与智能化转型，长期专注于人工智能融合工业应用。<br />先后就职于通信、教育、地产、制造等行业的世界500强企业，拥有丰富的智能化落地经验，主导千万级规模项目。<br />华南理工大学博士，加拿大不列颠哥伦比亚大学联合培养博士。热衷于专业内容输出，致力于打破专业知识的壁垒，为零基础读者提供清晰、易于理解的业务与技术知识。

CONTENTS<br />目　　录<br />前言<br />基础篇<br />第1章　制造业与大模型　2<br />1.1　制造业的数字化进展　2<br />1.1.1　企业数字化　3<br />1.1.2　智能制造　8<br />1.2　大模型的基本知识　11<br />1.2.1　什么是大模型　11<br />1.2.2　大模型的基本能力　12<br />1.2.3　对大模型的常见误区　17<br />1.3　制造业为什么需要大模型　19<br />1.3.1　大模型赋能制造业　19<br />1.3.2　制造业是大模型的主战场　20<br />1.3.3　大模型在制造业中的应用　22<br />1.3.4　制造业大模型　24<br />1.4　小结　26<br />小故事　27<br />第2章　大模型基础　28<br />2.1　人工智能的发展历程　28<br />2.1.1　人工智能发展的三起三落　29<br />2.1.2　人工智能技术的流派之争　34<br />2.2　大模型简介　36<br />2.2.1　模型的概念　37<br />2.2.2　模型的分类　37<br />2.2.3　大模型的发展　39<br />2.3　大模型架构原理　41<br />2.3.1　Transformer架构的背景　41<br />2.3.2　Transformer架构的原理　42<br />2.3.3　Transformer架构模型的特点与发展　51<br />2.4　小结　53<br />小故事　54<br />第3章　大模型构建路径　55<br />3.1　大模型构建的基本方法　55<br />3.1.1　基本路径　55<br />3.1.2　资源准备　59<br />3.2　数据处理　62<br />3.2.1　低质过滤　62<br />3.2.2　冗余去除　63<br />3.2.3　隐私消除　65<br />3.3　分词　65<br />3.3.1　词级分词　66<br />3.3.2　字母级分词　67<br />3.3.3　子词级分词　67<br />3.3.4　中文分词　71<br />3.3.5　常用的分词器　72<br />3.4　词嵌入　73<br />3.4.1　独热编码　73<br />3.4.2　Word2Vec　75<br />3.4.3　常用的词嵌入方法　77<br />3.5　模型训练　79<br />3.5.1　模型构建　79<br />3.5.2　模型训练步骤　80<br />3.6　小结　83<br />小故事　84<br />第4章　大模型价值对齐　85<br />4.1　预训练模型的局限性　85<br />4.1.1　可控性　86<br />4.1.2　鲁棒性　88<br />4.1.3　安全性　89<br />4.1.4　大模型幻觉　90<br />4.2　指令微调　91<br />4.2.1　有监督微调　92<br />4.2.2　奖励模型　94<br />4.2.3　基于人类反馈的强化学习　95<br />4.2.4　指令微调总结　96<br />4.3　混合专家模型　96<br />4.3.1　MoE的概念　97<br />4.3.2　MoE的基本原理　98<br />4.3.3　MoE的实现方式　101<br />4.3.4　MoE总结　104<br />4.4　小结　106<br />小故事　107<br />第5章　多模态大模型　109<br />5.1　多模态大模型简介　109<br />5.1.1　多模态大模型的概念　109<br />5.1.2　多模态大模型的发展历程　112<br />5.1.3　多模态大模型的主要任务　113<br />5.2　多模态基本技术　115<br />5.2.1　多模态编码　115<br />5.2.2　多模态融合　117<br />5.2.3　对比学习　118<br />5.3　AIGC技术　119<br />5.3.1　生成对抗网络　119<br />5.3.2　扩散模型　121<br />5.4　AIGC应用　127<br />5.4.1　常用的多模态大模型　128<br />5.4.2　文生图　128<br />5.4.3　文生视频　130<br />5.5　小结　134<br />小故事　136<br />第6章　提示词工程　137<br />6.1　提示词简介　137<br />6.1.1　提示词的概念　137<br />6.1.2　提示词的必要性　140<br />6.1.3　提示词的类别　141<br />6.2　提示词工程技术　142<br />6.2.1　少样本提示　142<br />6.2.2　零样本提示　143<br />6.2.3　提示词通用技巧　145<br />6.3　思维链系列技术　152<br />6.3.1　思维链　153<br />6.3.2　思维树　155<br />6.3.3　思维图　157<br />6.4　对抗提示　157<br />6.4.1　提示词攻击　158<br />6.4.2　防御策略　159<br />6.5　小结　160<br />小故事　162<br />应用篇<br />第7章　制造业企业应用大模型的方法　164<br />7.1　企业应用大模型的8种情形　164<br />7.1.1　企业资源现状　164<br />7.1.2　大模型应用的8种情形　167<br />7.2　垂直制造领域大模型的构建方法　169<br />7.2.1　全量微调　170<br />7.2.2　局部微调　170<br />7.2.3　适配式微调　171<br />7.2.4　前缀式微调　173<br />7.2.5　外挂式微调　175<br />7.2.6　混合式微调　177<br />7.2.7　微调技术对比　178<br />7.3　大模型检索增强生成　179<br />7.3.1　RAG的概念　181<br />7.3.2　向量数据库的构建　182<br />7.3.3　相似检索　185<br />7.3.4　智能生成　186<br />7.3.5　RAG效果评估　188<br />7.3.6　RAG应用场景　190<br />7.4　小结　190<br />小故事　193<br />第8章　基于大模型的AI Agent　195<br />8.1　AI Agent简介　195<br />8.1.1　AI Agent技术简史　195<br />8.1.2　对AI Agent的不同理解　197<br />8.2　AI Agent原理　199<br />8.2.1　基本框架　200<br />8.2.2　感知模块　201<br />8.2.3　大脑模块　204<br />8.2.4　行动模块　206<br />8.2.5　大模型与AI Agent的关系　207<br />8.3　AI Agent应用　208<br />8.3.1　流行的AI Agent　208<br />8.3.2　AI Agent与RPA的关系　211<br />8.4　LangChain：AI Agent高效实战工具　213<br />8.4.1　LangChain工具简介　214<br />8.4.2　提示词模板　216<br />8.4.3　链模块　218<br />8.4.4　代理模块　224<br />8.5　小结　225<br />小故事　227<br />第9章　大模型部署与压缩　228<br />9.1　大模型部署　228<br />9.1.1　云端部署　228<br />9.1.2　边缘部署　230<br />9.2　大模型压缩　231<br />9.2.1　模型压缩简介　232<br />9.2.2　蒸馏　234<br />9.2.3　量化　236<br />9.2.4　剪枝　238<br />9.2.5　参数共享　239<br />9.3　软硬件适配　241<br />9.4　小结　242<br />小故事　243<br />第10章　工业制造大模型的应用实践　244<br />10.1　工业制造大模型简介　244<br />10.1.1　工业制造大模型的概念　244<br />10.1.2　工业制造大模型的种类　246<br />10.1.3　工业制造大模型的构建方式　247<br />10.2　大模型在生产制造环节的应用　248<br />10.2.1　智能排产　249<br />10.2.2　生产工艺优化　251<br />10.2.3　产品质检　252<br />10.2.4　工业机器人　255<br />10.3　小结　257<br />小故事　258<br />第11章　设备运维大模型的应用实践　259<br />11.1　设备运维大模型的现状　259<br />11.1.1　设备运维行业的特点　259<br />11.1.2　设备运维大模型的行业案例　262<br />11.2　电梯运维行业　264<br />11.2.1　电梯运维简介　265<br />11.2.2　电梯运维行业的挑战　267<br />11.3　大模型在电梯运维行业的应用　268<br />11.3.1　人才培养与培训　269<br />11.3.2　预测性维护　271<br />11.3.3　运维现场规范管理　274<br />11.3.4　智能客服与知识问答　276<br />11.3.5　运维档案管理　278<br />11.4　小结　280<br />小故事　282<br />第12章　总结与展望　283<br />12.1　大模型技术大观园　283<br />12.1.1　技术理论流派　284<br />12.1.2　思想与技术　286<br />12.2　大模型应用万花筒　289<br />12.2.1　赋能千行百业　289<br />12.2.2　制造业应用　292<br />12.3　大模型展望　292<br />12.3.1　正确认识大模型　293<br />12.3.2　Transformer是终极架构吗　294<br />12.3.3　模型越大越好吗　295<br />12.3.4　通用还是垂直　297<br />12.3.5　大模型与机器人　299<br />12.3.6　伦理与道德　300<br />12.4　小结　302