Python机器学习 原理与实践

本书引领读者进入Python机器学习领域。理论上突出机器学习原理讲解的可读性并兼具知识深度和广度，实践上强调机器学习的可操作性并兼具应用广泛性。本书不仅对原理进行了深入透彻的理论讲解，而且通过Python编程给出了原理的直观解释以及可操作实现的应用案例。本书适合作为高等院校相关专业的机器学习教学用书，也可作为Python机器学习研究应用人员的参考用书。

第1章机器学习与Python概述
1.1机器学习与人工智能1.1.1符号主义人工智能
1.1.2基于机器学习的人工智能
1.2机器学习能做什么
1.2.1机器学习的学习对象：数据集
1.2.2机器学习的任务
1.3Python实践课：初识Python
1.3.1实践一：Python和Anaconda
1.3.2实践二：Python第三方包的引用
1.3.3实践三：学习Python的NumPy包
1.3.4实践四：学习Python的Pandas包
1.3.5实践五：学习Python的Matplotlib包
1.3.6实践六：了解Python的Scikit-learn包
附录
第2章数据预测中的相关问题
2.1数据预测与预测建模
2.1.1预测模型
2.1.2预测模型的几何理解
2.1.3预测模型参数估计的基本策略
2.2预测模型的评价
2.2.1模型误差的评价指标
2.2.2模型的图形化评价工具
2.2.3泛化误差的估计方法
2.2.4数据集的划分策略
2.3预测模型的选择问题
2.3.1几个重要观点
2.3.2模型过拟合
2.3.3预测模型的偏差和方差
2.4Python实践课：加深理论理解，探索应用实践
2.4.1实践一：预测模型中的一般线性回归模型和Logistic回归模型
2.4.2实践二：预测模型的评价指标和图形化评价工具
2.4.3实践三：不同复杂度模型下的训练误差和测试误差
2.4.4实践四：数据集划分以及测试误差估计
2.4.5实践五：模型的过拟合以及偏差和方差
附录
第3章数据预测建模：贝叶斯分类器
3.1贝叶斯概率和贝叶斯法则
3.1.1贝叶斯概率
3.1.2贝叶斯法则
3.2贝叶斯和朴素贝叶斯分类器
3.2.1贝叶斯和朴素贝叶斯分类器的一般内容
3.2.2贝叶斯分类器的先验分布
3.3贝叶斯分类器的分类边界
3.4Python实践课：加深理论理解，探索应用实践
3.4.1实践一：探索不同参数下的贝塔分布特点
3.4.2实践二：绘制贝叶斯分类器的分类边界
3.4.3实践三：二分类的空气污染预测
3.4.4实践四：多分类的文本分类预测
附录
第4章数据预测建模：近邻分析
4.1近邻分析：K-近邻法
4.1.1距离：K-近邻法的近邻度量
4.1.2参数K：1-近邻法还是K-近邻法
4.2基于观测相似性的加权K-近邻法
4.2.1加权K-近邻法的权重
4.2.2加权K-近邻法的预测
4.2.3加权K-近邻法的分类边界
4.3K-近邻法的适用性
4.4Python实践课：加深理论理解，探索应用实践
4.4.1实践一：K-近邻法不同参数K下的分类边界
4.4.2实践二：探讨加权K-近邻法中不同核函数的特点
4.4.3实践三：加权K{近邻法不同参数和加权策略下的分类边界
4.4.4实践三：空气质量等级预测中的很优参数K
4.4.5K-近邻法的回归预测问题
附录
第5章数据预测建模：决策树
5.1决策树的核心问题
5.1.1什么是决策树
5.1.2分类树的分类边界
5.1.3回归树的回归平面
5.1.4决策树的生长和剪枝
5.2分类回归树的生长
5.2.1分类树中的异质性度量
5.2.2回归树中的异质性度量
5.3分类回归树的剪枝
5.3.1代价复杂度和最小代价复杂度
5.3.2分类回归树的剪枝过程
5.4Python实践课：加深理论理解，探索应用实践
5.4.1实践一：回归树的回归面
5.4.2实践二：不同树深度下分类树的分类边界
5.4.3实践三：分类树中的基尼系数和熵
5.4.4实践四：空气质量等级的分类预测
5.4.5实践五：回归树和过拟合
附录
第6章数据预测建模：集成学习
6.1集成学习的一般问题
6.1.1集成学习：解决高方差问题
6.1.2集成学习：从弱模型到强模型
6.2基于重抽样自举法的集成学习
6.2.1重抽样自举法
6.2.2袋装策略
6.2.3随机森林
6.3集成学习：从弱模型到强模型
6.3.1提升策略
6.3.2AdaBoost.M1算法
6.3.3SAMME算法和SAMME.R算法
6.3.4回归预测中的提升策略
6.4梯度提升树
6.4.1梯度提升算法
6.4.2梯度提升回归树
6.4.3梯度提升分类树
6.5XGBoost算法精要
6.5.1XGBoost算法中的目标函数
6.5.2目标函数的近似表达
6.5.3决策树的求解
6.6Python实践课：加深理论理解，探索应用实践
6.6.1实践一：探讨袋装策略和随机森林的方差
6.6.2实践二：探讨提升策略集成学习的预测效果
6.6.3实践三：提升策略集成学习下高权重样本观测的变化
6.6.4实践四：不同损失函数下AdaBoost回归预测
6.6.5实践五：梯度提升算法和提升策略集成学习的对比
6.6.6实践六：基于空气质量监测数据,对比集成学习的各种策略
附录
第7章数据预测建模：人工神经网络
7.1人工神经网络的基本概念
7.1.1网络的基本构成
7.1.2网络节点的功能
7.2感知机网络
7.2.1感知机网络中的节点
7.2.2感知机节点中的加法器
7.2.3感知机节点中的激活函数
7.2.4感知机的权重训练
7.3多层感知机及B-P反向传播算法
7.3.1多层网络的结构
7.3.2多层网络的隐藏节点
7.3.3B-P反向传播算法
7.3.4多层网络的其他问题
7.4Python实践课：加深理论理解，探索应用实践
7.4.1实践一：探讨二层感知机输出节点不同激活函数的情况
7.4.2实践二：利用模拟数据探讨多层感知机网络中隐藏节点的影响
7.4.3实践三：基于手写体邮政编码点阵数据实现数字识别
7.4.4实践四：基于空气质量监测数据对PM2.5的浓度进行预测
附录
第8章数据预测建模：支持向量机
8.1支持向量分类的一般问题
8.1.1支持向量分类的基本思路
8.1.2支持向量分类的三种情况
8.2接近线性可分下的支持向量分类
8.2.1如何求解超平面
8.2.2参数求解的拉格朗日乘子法
8.2.3支持向量分类的预测
8.3广义线性可分下的支持向量分类
8.3.1广义线性可分下的超平面
8.3.2广义线性可分下的错误惩罚和目标函数
8.3.3广义线性可分下的超平面参数求解
8.4线性不可分问题下的支持向量分类
8.4.1线性不可分问题的一般解决方式
8.4.2支持向量分类克服维灾难的途径
8.5支持向量回归
8.5.1支持向量回归的基本思路
8.5.2支持向量回归的目标函数和约束条件
8.6Python实践课：加深理论理解，探索应用实践
8.6.1实践一：探讨支持向量机分类的意义
8.6.2实践二：探讨接近线性可分下的支持向量分类
8.6.3实践三：探讨广义线性可分下不同惩罚参数C下的分类边界
8.6.4实践四：探讨非线性可分下的空间变化思路
8.6.5实践五：探讨非线性可分下不同惩罚参数C和核函数下的分类曲面
8.6.6实践六：探讨支持向量回归中不同惩罚参数C和ɛ对回归的影响
附录
第9章特征选择：过滤、包裹和嵌入策略
9.1过滤式策略下的特征选择
9.1.1低方差过滤法
9.1.2分类预测中的高相关过滤法：F统计量
9.1.3分类预测中的高相关过滤法：x2统计量
9.1.4分类预测中的高相关过滤法：其他统计量
9.2包裹式策略下的特征选择
9.2.1包裹式策略的基本思路
9.2.2递归式特征剔除法
9.2.3基于交叉验证的递归式特征剔除法
9.3嵌入式策略下的特征选择
9.3.1岭回归和Lasso回归
9.3.2弹性网回归
9.4Python实践课：加深理论理解，探索应用实践
9.4.1实践一：探讨低方差过滤法的应用意义
9.4.2实践二：探索高相关过滤法中的F分布和卡方分布特点及应用
9.4.3实践三：探索包裹式策略下的特征选择及应用
9.4.4实践四：探索Lasso回归中收缩参数ɑ变化对特征选择的影响
9.4.5实践五：探索弹性网回归中不同L2范数率变化对模型的影响
附录
第10章特征提取：空间变换策略
10.1主成分分析
10.1.1主成分分析的基本出发点
10.1.2主成分分析的基本原理
10.1.3确定主成分
10.2矩阵的奇异值分解
10.2.1奇异值分解的基本思路
10.2.2基于奇异值分解的特征提取
10.3核主成分分析
10.3.1核主成分分析的出发点
10.3.2核主成分分析的基本原理
10.3.3核主成分分析中的核函数
10.4因子分析
10.4.1因子分析的基本出发点
10.4.2因子分析的基本原理
10.4.3因子载荷矩阵的求解
10.4.4因子得分的计算
10.4.5因子分析的其他问题
10.5Python实践课：加深理论理解，探索应用实践
10.5.1实践一：探索主成分分析的基本原理和实践
10.5.2实践二：基于脸部点阵灰度数据，探索奇异值分解的应用
10.5.3实践三：探索核主成分分析的意义和应用
10.5.4实践四：探索因子分析的基本原理
10.5.5实践五：基于空气质量监测数据,探索因子分析的应用
附录
第11章揭示数据内在结构：聚类分析
11.1聚类分析的一般问题
11.1.1聚类分析的目的
11.1.2聚类算法概述
11.1.3聚类解的评价
11.1.4聚类解的可视化
11.2基于质心的聚类模型：K-均值聚类
11.2.1K-均值聚类基本过程
11.2.2K-均值聚类中的聚类数目
11.2.3基于K-均值聚类的预测
11.3基于联通性的聚类模型：系统聚类
11.3.1系统聚类的基本过程
11.3.2系统聚类中距离的联通性测度
11.3.3系统聚类中的聚类数目
11.3.4系统聚类中的其他问题
11.4基于高斯分布的聚类模型：EM聚类
11.4.1基于高斯分布聚类的出发点：有限混合分布
11.4.2EM聚类算法
11.5Python实践课：加深理论理解，探索实践应用
11.5.1实践一：探讨K-值聚类特点和确定聚类数目K的方法
11.5.2实践二：探讨系统聚类过程和可视化工具
11.5.3实践三：探讨聚类分析的实际应用
11.5.4实践四：探讨EM聚类的适用场景和聚类实现
附录
第12章揭示数据内在结构：特色聚类
12.1基于密度的聚类：DBSCAN聚类
12.1.1DBSCAN聚类中的相关概念
12.1.2DBSCAN聚类过程
12.1.3DBSCAN聚类的参数敏感性
12.2Mean-Shift聚类
12.2.1什么是核密度估计
12.2.2核密度估计在Mean-Shift聚类中的意义
12.2.3Mean-Shift聚类过程
12.3BIRCH聚类
12.3.1BIRCH聚类的特点
12.3.2BIRCH算法中的聚类特征树
12.3.3BIRCH聚类的核心步骤
12.3.4BIRCH聚类的在线动态聚类
12.3.5BIRCH聚类解的优化
12.4Python实践课：加深理论理解，探索应用实践
12.4.1探索DBSCAN聚类算法的异形聚类特点以及参数敏感性
12.4.2实现单变量的核密度估计，理解Mean-Shift聚类算法
12.4.3探讨BIRCH聚类的动态性特点
附录