金融大语言模型

本书系统介绍了大语言模型的技术原理，及其在金融领域的实践应用，为读者呈现人工智能技术与金融深度融合的全景图。 技术基础部分，深入浅出地介绍了从传统TF-IDF到Transformer架构的演进过程、BERT与GPT的技术异同、GPT系列从监督微调到零样本学习的范式转变等内容，并针对大语言模型的“幻觉”问题提出系统的评估和应对策略。 实践应用部分，展示了丰富的大语言模型金融场景应用案例，包括财报分析、情绪分析、选股策略等，详细介绍了美联储情绪指数的构建方法，以及提示工程和检索增强生成等关键技术。最后以文献综述形式，探讨大语言模型如何赋能金融学研究。 本书内容翔实，结构清晰，不仅蕴含坚实的理论基础，还提供了具有可复制性的实践案例，可作为高等学校金融学、数学经济及相关专业教材，也可作为金融从业者，研究人员的参考书。同时配有丰富数字资源，包括进阶版拓展阅读资料，以及教学课件等，读者可按书后提示获取相关资源。

熊鹏，全球宏观交易员，比特熊AI创始人，CCER中国证券市场数据库创始人，深交所投资时钟指数发明人，卧虎藏龙交易员训练营创始人，GBCI全球经济周期指数发明人，成都复旦西部国际金融研究院研究员。先后在金融学、经济学国际期刊发表多篇论文。他和他的团队专注于AI垂直行业应用，推出全栈AI智能体框架和落地运用，在农业、金融、法律、出版和医疗等多个领域取得突破性进展，具有丰富的AI项目落地实践经验。 高华声，复旦大学国际金融学院教授、博士生导师、党总支副书记副院长，成都复旦西部国际金融研究院副院长。致力于科技创新、金融大语言模型应用、公司金融的研究，先后在金融学、会计学、管理学经济学国际期刊发表论文30多篇，研究成果多次被The Wall Street Journal、The New YorkTimes等媒体报道，并入选美国斯坦福大学发布的全球前2%科学家和爱思唯尔中国高被引学者。 皮旭庭，美国加利福尼亚大学戴维斯分校(UC Davis)计算物理博士。求学期间专注于物理计算方法的算法开发以及机器学习在物理领域的应用研究；毕业后先后于加利福尼亚大学尔湾分校(UC Irvine)与加利福尼亚大学戴维斯分校担任博士后研究员；此后转任硅谷多家网络科技公司资深科学家等职务。目前主要从事自然语言处理、半监督学习、贝叶斯方法与大语言模型等领域的研究与应用，发表近30篇学木论文与专利。 陈剑，复旦大学国际金融学院金融学实践教授，成都复旦西部国际金融研究院研究员，教授“房地产金融”“结构化金融”“金融中的机器学习和人工智能”等课程。信风金融科技创始人兼CEO,财新智库高级业务顾问，中国资产证券化论坛信息披露专委会主席。

第1章金融大语言模型：新兴交叉学科的诞生 1. 1 大语言模型的前世今生 ……………………………………… 2 1. 2 当金融遇见大语言模型 ……………………………………… 4 1. 3 金融大语言模型对传统人工智能的突破 …………………… 8 1. 4 金融大语言模型可能的风险点 ……………………………… 9 第 2 章 认识自然语言处理 ∥ 12 2. 1 什么是自然语言处理 ………………………………………… 13 2. 2 最简单的编码模型：TF-IDF文本向量 ……………………… 14 2. 3 潜在语义分析 ………………………………………………… 16 2. 4 敲开自监督预训练的大门：Word2Vec ……………………… 18 2. 5 基于上下文的编码模型：ELMo …………………………… 22 2. 6 NLP的典范转移者：Transformer …………………………… 24 2. 7 大语言模型的先锋：BERT与GPT ………………………… 29 第 3 章 生成式大语言模型 ∥ 34 3. 1 GPT-1：用微调来解决下游任务 ……………………………… 36 3. 2 GPT-2：用零样本学习来解决下游任务 …………………… 37 3. 3 GPT-3：用少样本学习来解决下游任务 …………………… 38 3. 4 InstructGPT…………………………………… 39 3. 5 涌现现象 ……………………………………………………… 40 第 4 章 提示工程 ∥ 45 4. 1 什么是提示工程 ……………………………………………… 46 4. 2 魔法咒语与超能力 …………………………………………… 46 4. 3 上下文学习 …………………………………………………… 48 4. 4 思维链 ………………………………………………………… 52 4. 5 检索增强生成 ………………………………………………… 55 第 5 章 大语言模型中的幻觉问题 ∥ 61 5. 1 什么是幻觉 …………………………………………………… 63 5. 2 幻觉的类型 …………………………………………………… 64 5. 3 幻觉的利弊 …………………………………………………… 65 5. 4 幻觉的成因 …………………………………………………… 66 5. 5 如何评估幻觉 ………………………………………………… 69 5. 6 幻觉的检测 …………………………………………………… 71 5. 7 减少幻觉的手段 ……………………………………………… 73 第 6 章 大语言模型在金融领域的应用 ∥ 76 6. 1 大语言模型财务报告分析 …………………………………… 78 6. 2 社交媒体平台上个人投资者的“群智”分析 ……………… 84 6. 3 大语言模型选股 ……………………………………………… 88 6. 4 大语言模型解读分析师报告中的企业文化 ……………… 92 第7章金融大语言模型的数据基础 7. 1 金融大语言模型总体架构 …………………………… 103 7. 2 金融原始数据和数据预处理 ……………………………… 103 7. 3 BloombergGPT和FinGPT 的介绍及对比…………………… 112 第8章 利用大语言模型对金融信息进行深度分析 ∥118 8. 1 大语言模型的一般用途 …………………………………… 120 8. 2 用大语言模型深度分析英伟达财报电话会议 …………… 128 8. 3 对长文本进行关键词提取和摘要 ………………………… 133 8. 4 跟踪分析师对英伟达的观点变化 …………………… 137 8. 5 比较美联储会议纪要 ……………………………………… 140 8. 6 大语言模型分析和建立美联储情绪指数 ………………… 143 第 9 章 检索增强生成与股票分析系统 ∥ 153 9. 1 检索增强生成详解 ………………………………………… 154 9. 2 RAG应用案例：出口限制对英伟达营收的影响…………… 161 9. 3 AutoGen初步：RAG和股票分析 …………………………… 165 第 10 章 微调大模型 ∥ 178 10. 1 微调大模型的挑战 ………………………………………… 180 10. 2 Unsloth 项目介绍…………………………………………… 180 10. 3 微调 Llama 3 中国宏观经济分析大模型 ………………… 183 第 11 章 大语言模型与金融学研究交叉前沿 ∥ 192 11. 1 大语言模型在金融学研究中的主要应用方向 …………………… 193 11. 2 基于文本变量的构建效度 ……………………………… 200 11. 3 在金融学研究中使用大语言模型的指南 ……………… 203