机器学习

系统阐述机器学习的基本理论、算法和实现。 每章配有基于Python的实验，方便读者编程实现。 书后附有丰富的彩色插图，引导读者对理论的理解。 配套提供电子课件、微课视频、习题答案、教学大纲、源代码、试卷。

本书系统阐述了机器学习的基本理论、算法和实现。全书共11章：第1章着重介绍了机器学习的基本知识；第2章介绍了样本数据预处理和提取的传统算法（如PCA和LDA），并增加了流形学习和稀疏表征等理论；第3~8章系统介绍了传统机器学习算法，如监督学习（贝叶斯、近邻、线性模型、非线性模型和集成学习）和非监督学习（聚类）；第9、10章分别介绍了概率图模型和人工神经网络的基本理论；第11章着重讲述了强化学习的基本理论和算法。 本书针对理论难点，插入了可视化图，引导读者对理论的理解；每章配有习题，以便指导读者深入地进行学习。每章还配有基于Python的实验，便于工程类读者快速将理论转化为实践应用，也方便学术型读者编程实现。 本书既可作为高等院校本科和研究生人工智能、控制工程、信息处理和智能制造等相关专业的课程教材，也可作为信息系统开发和大数据分析人员的技术参考书。

前言 第1章基本知识 11什么是机器学习 111属性 112标注 12机器学习的分类 121监督与无监督学习 122分类与回归 13模型评估 131分类模型评估 132回归模型评估 14优化 141损失函数 142目标函数 143最小二乘法 144梯度下降法 145梯度修正 146学习率调整 15小结与拓展 实验一：模型评价函数编程实验 习题 参考文献 第2章表征学习 21表征学习的目的 22数据预处理 23主成分分析 231目标函数 232基于主成分分析表征学习模型 233人脸PCA表征学习 24线性鉴别分析 241类内散布矩阵和类间散布矩阵 242类可判别性测度 243LDA原理 244人脸的LDA表征学习 25多维缩放 26流形学习 261流形 262等度量映射 263局部线性嵌入 27随机近邻嵌入 271基本随机近邻嵌入 272t分布随机近邻嵌入 28稀疏表征 281压缩感知 282重构算法 283字典学习 284压缩感知在人脸识别中的应用 29小结与拓展 实验二：表征学习实验 习题 参考文献 第3章贝叶斯分类器 31贝叶斯基本概念 32贝叶斯决策准则 33高斯混合模型 34未知概率密度函数估计 341极大似然估计 342极大后验概率估计 343期望极大算法 35朴素贝叶斯 36拉普拉斯平滑 37小结与拓展 实验三：贝叶斯分类器实验 习题 第4章近邻分类器 41近邻规则 42加权近邻分类器 43近邻分类器加速策略 431移除消极样本 432构建搜索树 433部分维度距离计算 44小结与拓展 实验四：近邻分类器实验 习题 参考文献 第5章线性模型 51二类线性模型 52Lasso回归 521Lasso回归求解 522坐标轴下降法 53逻辑回归 54支持向量机 541线性可分支持向量机 542近似线性可分支持向量机 55多类线性模型 551基本策略 552Softmax回归 56类不平衡问题 561阈值移动 562数据再平衡 57小结与拓展 实验五：线性模型实验 习题 参考文献 第6章非线性模型 61二次判别分析 62核方法 621希尔伯特空间 622核函数 623常用核函数 624核函数的应用 63小结与拓展 实验六：非线性模型实验 习题 参考文献 第7章集成学习 71集成学习理论依据 72集成学习机制 73决策树 731什么是决策树 732ID3和C45 733分类回归树 734剪枝 74随机森林 75自适应助推 751学习过程 752基本原理 76小结与拓展 实验七：集成学习实验 习题 参考文献 第8章聚类 81聚类基本理论 811聚类的性质 812相似性测度 813类簇中心 814聚类算法评价指标 82K均值聚类 83层次聚类 831凝聚筑巢 832平衡迭代削减层次聚类 84密度聚类 841DBSCAN 842高斯混合聚类 85小结与拓展 实验八：聚类实验 习题 参考文献 第9章概率图模型 91联合概率 92概率有向图模型 921基本概念 922有向分离 923贝叶斯网络 924隐马尔可夫模型 93概率无向图模型 931条件独立性 932团和势函数 933条件随机场 934马尔可夫随机场在图像处理中的应用 935条件随机场在自然语言处理中的应用 94因子图与和积算法 941因子图 942置信传播 95小结与拓展 实验九：概率图模型实验 习题 参考文献 第10章人工神经网络 101神经元及其基本模型 102激活函数 1021饱和激活函数 1022校正线性单元 1023swish激活函数 1024其他激活函数 103感知机 1031参数学习 1032感知机的异或难题 104前馈神经网络 1041前馈神经网络模型 1042三层前向神经网络实现异或门 1043反向传播算法 105卷积神经网络 1051互相关和卷积 1052卷积神经网络架构 1053卷积神经网络残差反向传播 106简单卷积神经网络 1061LeNet-5 1062AlexNet 1063VGGNet 1064Inception 1065ResNet 107小结与拓展 实验十：人工神经网络实验 习题 参考文献 第11章强化学习 111强化学习概述 1111基本概念 1112策略评估和策略控制 1113强化学习分类 112表格强化学习 1121蒙特卡洛 1122动态规划 1123时序差分学习 113深度强化学习 1131深度Q网络(DQN) 1132Dueling 网络 114小结与拓展 实验十一：强化学习实验 习题 参考文献