Python机器学习实践

本书介绍机器学习经典 算法的原理、实现及应用， 并通过综合案例讲解如何将 实际问题转换为机器学习能 处理的问题进行求解。本书 配套源码、PPT课件、习题 答案、开发环境与作者QQ 群答疑。 本书共分14章。主要内 容包括k近邻算法、朴素贝 叶斯、聚类、EM算法、支 持向量机、决策树、线性回 归、逻辑回归、BP神经网 络经典算法，以及垃圾邮件 分类、手写数字识别、零售 商品销售额分析与预测、个 性化推荐等综合案例。本书 算法首先给出了数学原理及 公式推导过程，然后给出算 法实现，最后所有算法及案 例均以Python实现，方便读 者在动手编程中理解机器学 习的经典算法。 本书适合Python机器学 习初学者、机器学习开发人 员和研究人员使用，也可作 为高等院校计算机、软件工 程、大数据、人工智能等相 关专业的本科生、研究生学 习人工智能、机器学习的教 材。

第1章 机器学习基础 1.1 机器学习概述 1.1.1 什么是机器学习 1.1.2 机器学习发展史 1.1.3 机器学习、人工智能、深度学习的关系 1.2 机器学习相关概念 1.3 机器学习的任务 1.3.1 监督学习 1.3.2 无监督学习 1.3.3 半监督学习 1.4 机器学习的一般步骤 1.5 机器学习Python基础 1.5.1 Python开发环境 1.5.2 Python基本语法 1.5.3 Python列表、元组、字典、集合 1.6 本章小结 1.7 习题 第2章 k近邻算法 2.1 k近邻算法原理 2.1.1 非参数估计与参数估计 2.1.2 非参数估计的一般推导 2.2 基于k近邻算法的实现 2.2.1 利用直方图估计概率密度、分类 2.2.2 利用Parzen矩形窗估计概率密度、分类 2.2.3 利用Parzen正态核估计概率密度、分类 2.3 k近邻算法应用——鸢尾花的分类 2.4 本章小结 2.5 习题 第3章 贝叶斯分类器 3.1 贝叶斯定理相关概念 3.1.1 先验概率、条件概率、后验概率与类条件概率 3.1.2 贝叶斯决策理论 3.1.3 极大似然估计 3.2 朴素贝叶斯分类器 3.2.1 手工设计贝叶斯分类器 3.2.2 贝叶斯分类器的实现 3.2.3 平滑方法 3.3 朴素贝叶斯分类算法实现——三文鱼和鲈鱼的分类 3.3.1 算法实现 3.3.2 调用系统函数实现 3.4 正态贝叶斯分类器 3.5 本章小结 3.6 习题 第4章 聚类 4.1 聚类算法简介 4.1.1 聚类算法分类 4.1.2 距离度量方法 4.2 K-means聚类 4.3 基于密度的聚类——一DBSCAN聚类 4.3.1 DBSCAN算法原理及相关概念 4.3.2 DBSCAN聚类算法 4.4 基于层次的聚类——AGNES聚类 4.4.1 AGNES聚类算法思想 4.4.2 AGNES算法实现 4.5 聚类应用举例 4.6 各种聚类算法的比较 4.7 本章小结 4.8 习题 第5章 EM算法 5.1 EM算法原理及推导过程 5.1.1 EM算法思想 5.1.2 EM算法推导过程 5.2 高斯混合聚类 5.2.1 概率密度函数 5.2.2 高斯混合聚类算法推导过程 5.2.3 高斯混合聚类算法思想 5.2.4 高斯混合聚类应用举例 5.3 服从0-1二项分布的EM算法 5.3.1 服从0-1二项分布的EM算法思想 5.3.2 服从0-1二项分布的EM算法过程模拟 5.3.3 服从0-1二项分布的EM算法实现 5.4 本章小结 5.5 习题 第6章 支持向量机 6.1 SVM简介 6.1.1 线性可分与感知机 6.1.2 间隔最大化及线性SVM 6.2 线性SVM算法实现 6.3 非线性SVM与核函数 6.3.1 线性不可分 6.3.2 对偶问题与核函数 6.3.3 非线性SVM算法实现 6.4 SVM回归 6.5 SVM 算法实现——鸢尾花的分类 6.5.1 skleam 中的SVC参数介绍 6.5.2 使用SVC对鸢尾花数据进行分类 6.6 本章小结 6.7 习题 第7章 决策树 7.1 决策树构造基本原理 7.2 决策树构造过程 7.3 决策树学习算法思想及实现 7.4 决策树算法实现——秦坦尼克号幸存者预测 7.5 本章小结 7.6 习题 第8章 线性回归 8.1 回归分析概述 8.2 单变量线性回归 8.2.1 梯度下降法求解线性回归原理与实现 8.2.2 牛顿法求解线性回归原理与实现 8.3 多变量回归分析 8.3.1 多变量回归分析原理 8.3.2 多变量线性回归算法实现 8.4 多项式回归分析 8.5 本章小结 8.6 习题 第9章 逻辑回归 9.1 sigmoid函数与逻辑回归模型 9.2 梯度下降与推导过程 9.3 参数学习向量化 9.4 逻辑回归的Python实现——乳腺良性与恶性肿瘤的预测 9.5 评估方法 9.6 本章小结 9.7 习题 第10章 人工神经网络 10.1 从感知机到多层感知机 10.2 神经网络模型 10.3 BP神经网络算法思想及实现 10.3.1 BP神经算法模型参数学习过程 10.3.2 BP神经网络算法实现 10.4 BP神经网络算法实现——鸢尾花分类 10.5 本章小结 10.6 习题 第11章 综合案例分析：垃圾邮件分类 11.1 文本预处理 11.1.1 中文分词 11.1.2 文本向量化 11.2 中文垃圾邮件分类算法及实现 11.3 本章小结 11.4 习题 第12章 综合案例分析：手写数字识别 12.1 图像的存储表示 12.2 数据预处理 12.2.1 将图像转换为文本 12.2.2 将矩阵转换为向量 12.3 基于kNN的手写数字识别 12.3.1 划分训练集和测试集 12.3.2 kNN分类模型 12.3.3 kNN分类模型评估 12.4 基于神经网络的手写数字识别 12.4.1 定义神经网络模型 12.4.2 主函数 12.5 本章小结 12.6 习题 第13章 综合案例分析：零售商品销售额分析与预测 13.1 问题描述与分析 13.2 数据探索与预处理 13.2.1 数据探索 13.2.2 属性特征的数