Python机器学习实践

" 本书理论与实践并重，通过数学公式推导过程揭示算法背后的数学原理，从贴近生活的案例验证算法的有效性。 本书讲解经典的机器学习算法，每个算法除了数学公式推导，还利用Python中基本的列表、数组和调用机器学习常用工具包两种方式给出算法实现。 本书以西瓜分类、是否相亲、垃圾邮件分类等贴近生活的实例分析每个算法的思想、推导过程、实现及应用，内容讲解通俗易懂，每个算法有完整实现。 本书案例丰富，每一章的算法均提供了相应的案例以验证算法分类、聚类或回归的效果，最后以垃圾邮件分类、手写数字识别、零售商品销售分析预测、个性化推荐为例讲解如何将生活中的具体问题抽象成机器学习中的分类、回归问题进行解决，并理解、掌握机器学习处理问题的方法、步骤。"

本书介绍机器学习经典算法的原理、实现及应用，并通过综合案例讲解如何将实际问题转换为机器学习能处理的问题进行求解。本书配套源码、PPT课件、习题答案、开发环境与QQ群答疑。 本书共分14章。内容包括k近邻算法、朴素贝叶斯、聚类、EM算法、支持向量机、决策树、线性回归、逻辑回归、BP神经网络经典算法，以及垃圾邮件分类、手写数字识别、零售商品销售量分析与预测、个性化推荐等综合案例。本书算法首先给出了数学原理及公式推导过程，然后给出算法实现，最后所有算法及案例均以Python实现，方便读者在动手编程中理解机器学习的经典算法。 本书适合Python机器学习初学者、机器学习开发人员和研究人员使用，也可作为高等院校计算机、软件工程、大数据、人工智能等相关专业的本科生、研究生学习人工智能、机器学习的教材。

张建伟，郑州轻工业大学教授，长期从事计算机网络和程序设计技术的教育教学活动，经验丰富。现担任河南省“食品安全数据智能”重点实验室主任、河南省“公共安全数据融合与智能服务”工程技术研究中心主任、河南省软件工程重点学科负责人、河南省“软件工程技术与服务”教学团队负责人、重量创新创业孵化基地“星空众创空间”负责人、河南省大众创业导师、河南省计算机教育研究会理事、河南省计算机学会理事。

第1章 机器学习基础 1
1.1 机器学习概述 1
1.1.1 什么是机器学习 1
1.1.2 机器学习发展史 3
1.1.3 机器学习、人工智能、深度学习的关系 5
1.2 机器学习相关概念 6
1.3 机器学习的任务 8
1.3.1 监督学习 8
1.3.2 无监督学习 8
1.3.3 半监督学习 9
1.4 机器学习的一般步骤 9
1.5 机器学习Python基础 10
1.5.1 Python开发环境 10
1.5.2 Python基本语法 11
1.5.3 Python列表、元组、字典、集合 13
1.6 本章小结 18
1.7 习题 18
第2章 k近邻算法 19
2.1 k近邻算法原理 19
2.1.1 非参数估计与参数估计 20
2.1.2 非参数估计的一般推导 22
2.2 基于k近邻算法的实现 23
2.2.1 利用直方图估计概率密度、分类 23
2.2.2 利用Parzen矩形窗估计概率密度、分类 28
2.2.3 利用Parzen正态核估计概率密度、分类 29
2.3 k近邻算法应用─鸢尾花的分类 31
2.4 本章小结 35
2.5 习题 35
第3章 贝叶斯分类器 37
3.1 贝叶斯定理相关概念 37
3.1.1 先验概率、条件概率、后验概率与类条件概率 37
3.1.2 贝叶斯决策理论 38
3.1.3 极大似然估计 39
3.2 朴素贝叶斯分类器 42
3.2.1 手工设计贝叶斯分类器 43
3.2.2 贝叶斯分类器的实现 44
3.2.3 平滑方法 46
3.3 朴素贝叶斯分类算法实现─三文鱼和鲈鱼的分类 48
3.3.1 算法实现 48
3.3.2 调用系统函数实现 55
3.4 正态贝叶斯分类器 56
3.5 本章小结 57
3.6 习题 57
第4章 聚类 59
4.1 聚类算法简介 59
4.1.1 聚类算法分类 59
4.1.2 距离度量方法 60
4.2 K-means聚类 62
4.3 基于密度的聚类─DBSCAN聚类 68
4.3.1 DBSCAN算法原理及相关概念 68
4.3.2 DBSCAN聚类算法 69
4.4 基于层次的聚类─AGNES聚类 72
4.4.1 AGNES聚类算法思想 72
4.4.2 AGNES算法实现 74
4.5 聚类应用举例 76
4.6 各种聚类算法的比较 79
4.7 本章小结 80
4.8 习题 80
第5章 EM算法 82
5.1 EM算法原理及推导过程 82
5.1.1 EM算法思想 82
5.1.2 EM算法推导过程 83
5.2 高斯混合聚类 85
5.2.1 概率密度函数 85
5.2.2 高斯混合聚类算法推导过程 86
5.2.3 高斯混合聚类算法思想 87
5.2.4 高斯混合聚类应用举例 88
5.3 服从0-1二项分布的EM算法 92
5.3.1 服从0-1二项分布的EM算法思想 93
5.3.2 服从0-1二项分布的EM算法过程模拟 94
5.3.3 服从0-1二项分布的EM算法实现 96
5.4 本章小结 98
5.5 习题 98
第6章 支持向量机 100
6.1 SVM简介 100
6.1.1 线性可分与感知机 101
6.1.2 间隔优选化及线性SVM 104
6.2 线性SVM算法实现 108
6.3 非线性SVM与核函数 111
6.3.1 线性不可分 111
6.3.2 对偶问题与核函数 111
6.3.3 非线性SVM算法实现 115
6.4 SVM回归 118
6.5 SVM算法实现─鸢尾花的分类 120
6.5.1 sklearn中的SVC参数介绍 120
6.5.2 使用SVC对鸢尾花数据进行分类 121
6.6 本章小结 124
6.7 习题 125
第7章 决策树 126
7.1 决策树构造基本原理 126
7.2 决策树构造过程 127
7.3 决策树学习算法思想及实现 131
7.4 决策树算法实现─泰坦尼克号幸存者预测 133
7.5 本章小结 139
7.6 习题 139
第8章 线性回归 141
8.1 回归分析概述 141
8.2 单变量线性回归 142
8.2.1 梯度下降法求解线性回归原理与实现 142
8.2.2 牛顿法求解线性回归原理与实现 146
8.3 多变量回归分析 150
8.3.1 多变量回归分析原理 150
……