强化学习入门——基于Python（基于Python的数据分析丛书）

强化学习是三种基本机 器学习范式之一，与监督学 习和无监督学习并驾齐驱。 强化学习是一种自我进化的 机器学习类型，它使我们更 接近于实现真正的人工智能 （AI）。强化学习是机器学 习的一个分支，其中学习是 通过与环境交互来进行的。 强化学习是面向目标的学习 ，不教学习者采取什么行动 ，相反，学习者从其行为的 结果中学习。从早年的 AlphaGo到最近的ChatGPT 等人工智能产品表明，强化 学习已成为人工智能研究中 最活跃的领域之一。 没有实例做背景的概念 是没有生命力的，没有实践 支撑的算法是学不会的。本 书试图通过各种类型的实例 来介绍强化学习的各个方面 ，尽量避免因分类理念而造 成的麻烦。使用本书时最好 先看本书1.1节和1.2节的一 些例子，明白这些例子要做 些什么，不必完全明白其中 使用的代码。然后浏览1.7 节的例子，这些例子中的问 题是后面要解决的，因此需 要先有些印象。在此之后， 大致看看1.3～1.6节的知识 性内容，即使不能够马上理 解这些内容，也没有关系， 但要尽量掌握第2章关于马 尔可夫决策过程的理论知识 ，如果觉得理解起来困难， 可以结合第3章中的各种更 加具体的强化学习方法及具 体例子的编程，还可以回顾 第2章及第1章的有关内容。 这种在实践和理论（方法） 之间反复相互促进的方式是 学好强化学习的关键。最后 3章包含了关于Python、 PyTorch的内容及一些数学 知识。这些内容读者可根据 需要来学习或参考。 本书是一本面向希望从 头开始学习强化学习的数据 科学类专业(包括统计类专 业）的师生、实际工作者、 机器学习开发人员和深度学 习爱好者等广大读者的强化 学习入门书籍。

吴喜之，北京大学数学力学系本科，美国北卡罗莱纳大学统计博士。中国人民大学统计学院教授，博士生导师。曾在美国加利福尼亚大学、北卡罗来纳大学以及南开大学、北京大学等多所著名学府执教。

第一部分 强化学习基础与实践 第1章 引言 1.1 从迷宫问题谈起 1.1.1 人类和动物所面对的迷宫问题 1.1.2 迷宫的说明性例子 1.1.3 例1.1：奖励矩阵 1.1.4 例1.1：训练以得到关于状态和行动的奖励：Q矩阵 1.1.5 例1.1：使用Q矩阵来得到最优行动(路径) 1.1.6 例1.1：把代码组合成class 1.2 热身：井字游戏* 1.2.1 两个真人的简单井字游戏 1.2.2 人和机器的井字游戏的强化学习实践 1.2.3 井字游戏的强化学习代码解释 1.2.4 整个训练过程 1.2.5 使用训练后的模型做人机游戏 1.2.6 1.2.1节代码 1.2.7 附录：1.2.3节人和机器的井字游戏代码 1.3 强化学习的基本概念 1.4 马尔可夫决策过程的要素 1.5 作为目标的奖励 1.6 探索与开发的权衡 1.6.1 探索与开发 1.6.2 强化学习中的优化和其他学科的区别 1.7 本书将会讨论和运算的一些例子 1.7.1 例1.3格子路径问题 1.7.2 例1.4出租车问题 1.7.3 例1.5推车杆问题 1.7.4 例1.6倒立摆问题 1.7.5 例1.7多臂老虎机问题 1.7.6 例1.7和其他例子(例1.3、例1.5及例1.6)的区别 第2章 马尔可夫决策过程和动态规划 2.1 马尔可夫决策过程简介 2.1.1 马尔可夫性 2.1.2 策略 2.1.3 作为回报期望的价值函数 2.1.4 通过例 1.3 格子路径问题理解本节概念 2.2 动态规划 2.2.1 动态规划简介 2.2.2 Bellman方程 2.2.3 最优策略和最优价值函数 2.3 强化学习基本方法概述 2.3.1 代理与环境的互动 2.3.2 策略迭代：策略评估和策略改进 2.3.3 价值迭代 2.3.4 策略迭代与价值迭代比较 2.3.5 异步动态规划 2.3.6 广义策略迭代 2.3.7 策略梯度 2.3.8 off-policy, on-policy和offline RL 2.4 蒙特卡罗抽样