机器学习中的统计思维（Python实现）

机器学习是人工智能的 核心，而统计思维则是机器 学习方法的核心：从随机性 中寻找规律性。例如，利用 方差对不确定性的捕捉构造 k维树，采用贝叶斯公式构 建分类决策模型，等等。只 有树立正确的统计思维，才 能准确高效地运用机器学习 方法开展数据处理与分析。 本书以统计思维的视角，揭 示监督学习中回归和分类模 型的核心思想，帮助读者构 建理论体系。具体模型包括 线性回归模型、K近邻模型 、贝叶斯推断、逻辑回归模 型、决策树模型、感知机模 型、支持向量机、EM算法 和提升方法。 本书共12章，绪论介绍 贯穿本书的两大思维模式， 以及关于全书的阅读指南； 第1章介绍一些基本术语， 并给出监督学习的流程；第 2章介绍关于回归问题的机 器学习方法；第3～9章介绍 关于分类问题的机器学习方 法；第10章介绍可应用于具 有隐变量模型的参数学习算 法——EM算法；第11章简 单介绍集成学习，并重点阐 述其中的提升（Boosting） 方法。为满足个性化学习需 求的不同需求，本书从核心 思想、方法流程及实际案例 应用等不同角度，详细描述 各种方法的原理和实用价值 ，非常适合数据科学、机器 学习专业的本科生和研究生 学习，也可供相关从业者参 考。

董平（博士），上海对外经贸大学统计与信息学院讲师。曾获概率论与数理统计理学博士学位（山东大学2018）、 理学学士学位和经济学学士学位（山东大学2012）；美国迈阿密大学访问学者。主要研究领域为高维数据、假设检验、半监督回归、统计机器学习等。参与多项科研项目和工程类项目，主持多项校级课程建设项目，曾获第三届上海市高校教师教学创新大赛二等奖。

绪论 0.1 本书讲什么，初衷是什么 0.2 贯穿本书的两大思维模式 0.2.1 提问的思维方式 0.2.2 发散的思维方式 0.3 这本书决定它还想要这样 0.3.1 第一性原理 0.3.2 奥卡姆剃刀原理 0.4 如何使用本书 第1章 步入监督学习之旅 1.1 机器学习从数据开始 1.2 监督学习是什么 1.2.1 基本术语 1.2.2 学习过程如同一场科学推理 1.3 如何评价模型的好坏 1.3.1 评价模型的量化指标 1.3.2 拟合能力 1.3.3 泛化能力 1.4 损失最小化思想 1.5 怎样理解模型的性能：方差-偏差折中思想 1.6 如何选择最优模型 1.6.1 正则化：对模型复杂程度加以惩罚 1.6.2 交叉验证：样本的多次重复利用 1.7 本章小结 1.8 习题 第2章 线性回归模型 2.1 探寻线性回归模型 2.1.1 诺贝尔奖中的线性回归模型 2.1.2 回归模型的诞生 2.1.3 线性回归模型结构 2.2 最小二乘法 2.2.1 回归模型用哪种损失：平方损失 2.2.2 如何估计模型参数：最小二乘法 2.3 线性回归模型的预测 2.3.1 一元线性回归模型的预测 2.3.2 多元线性回归模型的预测 2.4 拓展部分：岭回归与套索回归 2.4.1 岭回归 2.4.2 套索回归 2.5 案例分析——共享单车数据集 2.6 本章小结 2.7 习题 第3章 K近邻模型 3.1 邻友思想 3.2 K近邻算法 3.2.1 聚合思想 3.2.2 K近邻模型的具体算法 3.2.3 K近邻算法的三要素 3.2.4 K近邻算法的可视化 3.3 最近邻分类器的误差率