现代机器学习

机器学习为信息类学科的重要分支。本书作为机器学习入门、进阶与本硕博一体式培养教材，系统论述了机器学习研究的基本内容、概念、算法、应用以及近期新发展。本书共18章，分为机器学习基础、经典机器学习方法与现代机器学习方法三大部分。机器学习基础部分为第1、2章，内容为机器学习概述和数学基础知识；经典机器学习方法部分为第3～10章，内容分别为线性回归与分类模型、特征提取与选择、决策树与集成学习、支持向量机、贝叶斯决策理论、神经网络、聚类方法和半监督学习等；现代机器学习方法部分为第11～18章，内容涵盖了近年来新兴的与不断发展的前沿算法，如深度学习、深度强化学习、生成对抗网络、胶囊网络、图卷积神经网络、自监督学习、迁移学习以及自动机器学习等。本书可作为高等院校通信、电子信息、计算机、信息科学、自动化技术等相关专业本科生与研究生的教材与参考用书，也可作为人工智能、计算机科学、模式识别、控制科学、信息与通信工程、集成电路系统设计等领域研究人员的参考用书。

第1章机器学习概述
1.1机器学习的基本概念
1.2机器学习的基本类别
1.2.1经典机器学习
1.2.2现代机器学习
1.3机器学习的评估指标
1.3.1机器学习三要素
1.3.2评估方法
1.4机器学习典型应用
1.4.1专家系统
1.4.2语音识别
1.4.3机器翻译
1.4.4自动驾驶
1.4.5人脸检测
本章小结
习题
参考文献
第2章数学基础知识
2.1矩阵论基础
2.1.1矩阵代数基础
2.1.2矩阵方程求解
2.1.3矩阵分析
2.2很优化基础
2.2.1最小二乘与线性规划
2.2.2凸优化
2.2.3非线性优化
2.3统计学习基础
2.3.1条件概率
2.3.2期望与方差
2.3.3优选似然估计
本章小结
习题
参考文献
第3章线性回归与分类模型
3.1线性回归模型
3.1.1线性函数模型
3.1.2偏置与方差分解
3.2贝叶斯线性回归
3.2.1问题定义
3.2.2问题求解
3.3正则化线性回归
3.3.1岭回归
3.3.2Lasso回归
3.3.3逻辑回归
3.4线性分类模型
3.4.1生成式模型与判别式模型
3.4.2线性判别分析
3.4.3广义线性判别分析
本章小结
习题
参考文献
第4章特征提取与选择
4.1经典特征提取方法
4.1.1主成分分析法
4.1.2线性判别方法
4.1.3流形学习方法
4.2经典特征选择算法
4.2.1特征选择基本步骤
4.2.2特征选择搜索策略
4.2.3特征选择评价准则
4.3稀疏表示与字典学习
4.3.1稀疏表示
4.3.2字典学习
本章小结
习题
参考文献
第5章决策树与集成学习
5.1决策树
5.2经典决策树算法
5.2.1ID3算法
5.2.2C4.5算法
5.2.3CART算法
5.3决策树的剪枝
5.3.1预剪枝
5.3.2后剪枝
5.4集成学习
5.4.1Bagging
5.4.2Boosting
5.4.4Stacking
5.4.5深度集成学习
本章小结
习题
参考文献
第6章支持向量机
6.1支持向量机简介
6.2线性支持向量机
6.2.1函数间隔与几何间隔
6.2.2线性可分问题
6.2.3对偶问题
6.3非线性支持向量机
6.3.1核方法
6.3.2常用核函数
6.3.3非线性支持向量分类
6.4支持向量机的应用
本章小结
习题
参考文献
第7章贝叶斯决策理论
7.1贝叶斯分类器
7.1.1贝叶斯决策理论
7.1.2最小风险贝叶斯决策规则
7.2朴素贝叶斯分类器
7.3贝叶斯网络
7.4EM算法
本章小结
习题
参考文献
第8章神经网络
8.1神经网络基础
8.1.1神经网络发展史
8.1.2神经元
8.1.3感知器
8.2卷积神经网络
8.3前馈神经网络
8.4反向传播算法
8.5其他常见神经网络
8.5.1RBF网络
8.5.2SOM网络
8.5.3Hopfield网络
本章小结
习题
参考文献
第9章聚类方法
9.1聚类方法概述
9.2K均值聚类
9.3层次聚类
9.4密度聚类
9.4.1DBSCAN算法
9.4.2OPTICS算法
9.4.3MeanShift算法
9.5稀疏子空间聚类
本章小结
习题
参考文献
第10章半监督学习
10.1半监督学习概述
10.2半监督分类方法
10.2.1增量学习
10.2.2生成式半监督学习
10.2.3半监督支持向量机
10.2.4基于图的半监督学习
10.2.5基于分歧的半监督学习
10.3半监督聚类方法
本章小结
习题
参考文献
第11章深度学习
11.1深度学习简介
11.2深度卷积神经网络
11.2.1卷积层
11.2.2非线性激活层
11.2.3池化层
11.2.4全连接层
11.3受限玻耳兹曼机（RBM）与深度信念网络（DBN）
11.3.1玻耳兹曼机
11.3.2受限玻耳兹曼机
11.3.3深度信念网络
11.4深度自编码器
11.4.1欠完备自编码器
11.4.2正则自编码器
11.4.3自编码器的应用
11.5循环神经网络（RNN）与长短期记忆（LSTM）网络
11.5.1循环神经网络
11.5.2长短期记忆网络
本章小结
习题
参考文献
第12章深度强化学习
12.1任务与奖赏
12.2多臂老虎机
12.2.1守成与探索
12.2.2多臂老虎机问题建模及ε贪婪法
12.3马尔可夫决策过程（MDP）
12.3.1引入MDP的原因
12.3.2MDP的价值函数
12.3.3状态价值函数与动作价值函数的关系
12.3.4很优价值函数
12.4动态规划
12.5蒙特卡罗法
12.5.1不基于模型的强化学习
12.5.2预测问题
12.5.3控制问题
本章小结
习题
参考文献
第13章生成对抗网络
……