强化学习

"为了让读者快速理解和应用强化学习技术，《强化学习》深入分析了相关算法的具体实现，由浅入深，循序渐进，内容丰富，易学实用。 《强化学习》作者具有丰富的行业实践经验，使得内容兼具理论性与实用性，不仅给出了算法的运行流程，还给出了该类算法的应用案例。书中列举了近20个强化学习算法案例，可以帮助读者快速提升自己的能力。 "

本书内容系统全面，覆盖面广，既有理论阐述、公式推导，又有丰富的典型案例，理论联系实际。书中全面系统地描述了强化学习的起源、背景和分类，各类强化学习算法的原理、实现方式以及各算法间的关系，为读者构建了一个完整的强化学习知识体系；同时包含丰富的经典案例，如各类迷宫寻宝、飞翔小鸟、扑克牌、小车爬山、倒立摆、钟摆、多臂赌博机、五子棋、AlphaGo、AlphaGo Zero、AlphaZero等，通过给出它们对应的详细案例说明和代码描述，让读者深度理解各类强化学习算法的精髓。书中案例生动形象，描述深入浅出，代码简洁易懂，注释详细。本书可作为高等院校计算机、自动化及相关专业的本科生或研究生教材，也可供对强化学习感兴趣的研究人员和工程技术人员阅读参考。

"邹伟 博士，睿客邦创始人，研究方向为机器学习、数据挖掘、计算几何，致力于机器学习和深度学习在实际中的应用；主持研发50多个人工智能领域工业级项目，并受邀在中国移动、花旗银行、中信集团、中航信、烽火科技、京东方、完美世界等公司进行了上百场讲座和内部培训。创立的睿客邦与国内十多所高校建立了AI联合实验室或实训基地；兼任天津大学创业导师、山东交通学院客座教授等。曾在多个在线平台讲授“机器学习”“深度学习”等课程，广受网友好评，累计学习人数超过百万。 鬲玲 硕士，北京神舟航天软件公司知识工程团队负责人，资深研发工程师。研究方向为知识工程、语义检索、强化学习、自然语言处理。作为牵头单位技术负责人参与并完成国家科技支撑计划项目1项，863计划项目1项。有多年知识管理系统以及自然语言处理项目研发经验，目前正致力于垂直领域知识图谱的落地以及强化学习在自然语言处理领域的应用。 刘昱杓 现供职于央视市场研究，深度学习、强化学习研发工程师，研究方向为计算机视觉。有多年深度学习视觉方向开发经验，参与了多个图像识别、目标检测、目标追踪等领域的落地项目。目前专注于深度强化学习方向的研究。 "

第1章 强化学习概述
1.1 强化学习的背景
1.2 强化学习初探
1.2.1 智能体和环境
1.2.2 智能体主要组成
1.2.3 强化学习、监督学习、非监督学习
1.2.4 强化学习分类
1.2.5 研究方法
1.2.6 发展历程
1.3 强化学习的重点概念
1.3.1 学习与规划
1.3.2 探索与利用
1.3.3 预测与控制
1.4 小结
1.5 习题
第2章 马尔可夫决策过程
2.1 马尔可夫基本概念
2.1.1 马尔可夫性
2.1.2 马尔可夫过程
2.1.3 马尔可夫决策过程
2.2 贝尔曼方程
2.2.1 贝尔曼期望方程
2.2.2 贝尔曼很优方程
2.3 很优策略
2.3.1 很优策略定义
2.3.2 求解很优策略
2.4 小结
2.5 习题
第3章 动态规划
3.1 动态规划简介
3.2 策略评估
3.3 策略改进
3.4 策略迭代
3.5 值迭代
3.6 实例讲解
3.6.1 “找宝藏”环境描述
3.6.2 策略迭代
3.6.3 值迭代
3.6.4 实例小结
3.7 小结
3.8 习题
第4章 蒙特卡罗
4.1 蒙特卡罗简介
4.2 蒙特卡罗评估
4.3 蒙特卡罗控制
4.4 在线策略蒙特卡罗
4.5 离线策略蒙特卡罗
4.5.1 重要性采样离线策略蒙特卡罗
4.5.2 加权重要性采样离线策略蒙特卡罗
4.6 实例讲解
4.6.1 “十点半”游戏
4.6.2 在线策略蒙特卡罗
4.6.3 离线策略蒙特卡罗
4.6.4 实例小结
4.7 小结
4.8 习题
第5章 时序差分
5.1 时序差分简介
5.2 三种方法的性质对比
5.3 Sarsa：在线策略TD
5.4 Q-learning：离线策略TD方法
……
第6章 资格迹
第7章 值函数逼近
第8章 随机策略梯度
第9章 Actor-Critic及变种
第10章 确定性策略梯度
第11章 学习与规划
第12章 探索与利用
第13章 博弈强化学习
参考文献