基于Python的机器学习

本书深入浅出地介绍了机器学习的基本原理与主要方法，以及必要的数学知识与程序设计方法。全书共有7章，分别讲解了机器学习的概念及应用、数学基础（导数与极值、向量与矩阵、概率统计、凸优化）、Python程序设计、线性回归及其程序实现、逻辑回归及多分类、分类与聚类、基于神经网络的机器学习。本书可作为高等院校机器学习课程的教材，也可作为机器学习爱好者及从事相关工作的工程技术人员的参考书。

第1章机器学习的概念及应用1
1.1机器学习的发展与应用1
1.1.1机器学习的发展历程1
1.1.2机器学习的应用3
1.2机器学习的概念4
1.2.1机器学习的特点5
1.2.2机器学习的要素6
1.2.3机器学习系统的结构8
1.3机器学习分类10
1.3.1映射函数与样本10
1.3.2监督学习11
1.3.3无监督学习13
1.3.4强化学习15
1.4深度学习16
1.4.1机器学习的困境16
1.4.2深度学习机制17
习题120
第2章数学基础21
2.1导数与极值21
2.1.1导数及求导法则21
2.1.2函数的单调性、凹凸性与极值22
2.1.3偏导数与梯度24
2.1.4多元函数的极值25
2.2向量与矩阵27
2.2.1矩阵及其性质27
2.2.2矩阵的基本运算29
2.2.3向量组与线性相关性31
2.2.4正交向量与相似矩阵34
2.3概率统计36
2.3.1随机事件与概率36
2.3.2条件概率与贝叶斯公式37
2.3.3随机变量的概率分布39
2.3.4随机变量的数字特征43
2.3.5中心极限定理45
2.3.6极大似然估计46
2.4凸优化48
习题252
第3章Python程序设计56
3.1Python程序的编辑与运行56
3.2数据与表达式60
3.2.1常量60
3.2.2变量62
3.2.3数据的输入输出63
3.2.4常用函数65
3.2.5运算符与表达式67
3.3序列和字典69
3.3.1字符串69
3.3.2列表72
3.3.3元组73
3.3.4字典74
3.4程序的控制结构76
3.4.1分支语句76
3.4.2while语句77
3.4.3for语句78
3.4.4用户自定义函数80
3.4.5模块81
3.5类和对象83
3.5.1类的定义和使用83
3.5.2面向对象程序设计方式86
3.5.3类的继承性87
3.5.4异常处理89
习题391
第4章线性回归及其程序实现96
4.1线性回归的概念96
4.1.1线性回归的源流96
4.1.2监督学习与线性回归97
4.2线性回归模型99
4.2.1一元线性回归模型99
4.2.2多元线性回归模型103
4.2.3模型的泛化与优劣106
4.3数据拟合与可视化操作108
4.3.1NumPy多维数组操作108
4.3.2Matplotlib数据可视化操作110
4.3.3SciPy数据拟合操作114
4.4最小二乘法线性回归程序118
4.4.1最小二乘法与一元线性回归118
4.4.2一元线性回归程序120
4.5梯度下降法及其程序122
习题4125
第5章逻辑回归及多分类127
5.1逻辑回归的概念与模型127
5.1.1Logistic函数127
5.1.2线性分类问题129
5.1.3逻辑回归模型131
5.2逻辑回归计算134
5.2.1逻辑回归模型的预测函数134
5.2.2逻辑回归模型的极大似然估计135
5.2.3逻辑回归模型的参数求解136
5.3逻辑回归与朴素贝叶斯分类139
5.4多分类策略143
5.5Softmax回归145
5.5.1广义线性模型145
5.5.2Softmax回归模型148
习题5150
第6章分类与聚类152
6.1决策树152
6.1.1决策树与决策过程152
6.1.2信息熵与信息增益154
6.1.3决策树的构造157
6.1.4寻找很好分裂162
6.1.5决策树训练的主要问题及流程165
6.2支持向量机167
6.2.1支持向量机基本原理167
6.2.2支持向量机实现鸢尾花分类171
6.3聚类算法173
6.3.1距离计算与聚类评价173
6.3.2K-均值聚类算法175
习题6177
第7章基于神经网络的机器学习179
7.1神经网络与人工神经网络179
7.2感知机182
7.2.1人工神经元与感知机182
7.2.2感知机训练算法185
7.2.3感知机训练实例187
7.2.4感知机训练与预测程序189
7.2.5线性可分性与多层感知机190
7.3BP算法193
7.3.1多层神经网络的结构193
7.3.2多层神经网络的参数调整194
7.3.3BP算法及评价196
7.4卷积的概念及运算198
7.4.1卷积的概念199
7.4.2二维互相关运算201
7.4.3二维卷积运算程序204
7.5卷积神经网络205
7.5.1卷积神经网络的特点206
7.5.2多通道卷积及常用卷积核209
7.5.3卷积神经网络的结构213
7.6卷积神经网络实例215
习题7218
附录A机器学习名词中英文对照220
参考文献230