机器学习导论与实践(高等学校人工智能理论与应用实践系列教材)

本书详细介绍了人工智 能发展史中的一些里程碑级 的算法，为每个算法精心设 计了应用案例，并给出了基 于Python的实现代码，相应 算法与应用案例的设计与实 现能帮助读者从编程实现的 角度理解机器学习的核心算 法，建立起使用机器学习算 法解决实际问题的方法论。 本书可作为高等院校计 算机科学与技术、人工智能 、数据科学等专业相关课程 的教材和人工智能通识教育 的教材，也可作为广大IT从 业人员的参考书。

饶泓，女，1973年生，博士，南昌大学教授，现任南昌大学信息工程学院副院长，博士生导师。曾先后赴美国伊利诺伊州立大学、美国堪萨斯大学访学。主要研究方向为机器学习、数据挖掘、大数据处理算法及其应用。近年来致力于机器学习领域的多分类模型研究，并将机器学习理论应用于特种设备监测、大型桥梁健康监测及预测，网络广告的精准推荐、舆情监测与预测、自然语言理解等领域。

第1章 绪论 1.1 机器学习的定义 1.2 基本术语 1.3 模型评估与选择 1.3.1 经验误差与过拟合 1.3.2 评估方法 1.4 机器学习解决问题的基本思路 1.5 Python语言 1.5.1 Python简介 1.5.2 Python基础语法 1.5.3 NumPy快速入门 1.5.4 Matplotlib快速入门 1.6 习题 第2章 线性模型 2.1 基本形式 2.2 线性回归 2.3 逻辑回归 2.3.1 Logistic分布 2.3.2 逻辑回归与Sigmoid函数 2.3.3 基于最优化方法确定最佳回归系数 2.4 应用实例 2.4.1 线性回归——波士顿房价预测 2.4.2 逻辑回归——从疝气病症预测病马的死亡率 2.5 习题 第3章 朴素贝叶斯 3.1 朴素贝叶斯相关统计学知识 3.2 朴素贝叶斯法的学习与分类 3.2.1 基本方法 3.2.2 后验概率最大化的含义 3.2.3 朴素贝叶斯分类基本流程 3.3 极大似然估计 3.4 应用实例——PC评论分类 3.5 习题 第4章 k-近邻算法 4.1 k-近邻算法概述 4.2 kNN算法主要步骤 4.2.1 距离度量 4.2.2 k值的选择 4.2.3 分类决策 4.3 应用实例——鸢尾花分类 4.3.1 项目背景 4.3.2 读取数据与数据可视化 4.3.3 划分数据集 4.3.4 kNN算法 4.3.5 如何测试分类器 4.4 习题 第5章 决策树 5.1 决策树的基本概念 5.1.1 定义 5.1.2 决策树的构造 5.2 决策树学习基础算法 5.3 最优属性的选择 5.3.1 ID3——信息增益（Gain） 5.3.2 C4.5 ——信息增益率（Gain_ratio） 5.3.3 CART——基尼指数（Gini_index） 5.4 决策树的剪枝 5.5 应用实例——性别决策 5.6 Python实现过程 5.6.1 计算给定数据集的信息熵 5.6.2 数据集的划分 5.6.3 递归构建决策树 5.7 使用Matplotlib绘制决策树 5.7.1 Matplotlib注解 5.7.2 绘制决策树 5.8 习题 第6章 支持向量机 6.1 基于最大间隔分隔数据 6.2 寻找最大间隔 6.2.1 拉格朗日对偶性 6.2.2 SMO算法 6.3 软间隔最大化 6.4 核函数 6.5 径向基函数 6.6 应用实例 6.7 习题 第7章 神经网络 7.1 神经元模型 7.2 感知机与多层前馈神经网络 7.2.1 感知机 7.2.2 多层前馈神经网络 7.3 BP神经网络 7.4 其他常见神经网络 7.4.1 RBF网络 7.4.2 ART网络 7.4.3 SOM网络 7.4.4 级联相关网络 7.4.5 Elman网络 7.5 应用实例——从疝气病症预测病马的死亡率 7.5.1 处理数据中的缺失值 7.5.2 用BP神经网络进行预测 7.6 习题 第8章 深度学习 8.1 卷积神经网络 8.2 典型的卷积神经网络 8.2.1 LeNet 8.2.2 AlexNet 8.2.3 VGGNet 8.2.4 ResNet 8.3 循环神经网络 8.4 深度学习框架 8.4.1 深度学习框架的作用 8.4.2 常见的深度学习框架 8.4.3 飞桨概述——深度学习开源平台PaddlePaddle 8.5 线性回归小实例在飞桨深度学习平台的应用 8.6 深度学习应用实例——口罩识别 8.7 习题 第9章 集成学习方法 9.1 集成学习的分类 9.2 Bagging和随机森林 9.2.1 Bagging并行集成学习 9.2.2 随机森林 9.3 Boosting集成学习方法 9.4 基于AdaBoost的分类 9.5 基于XGBoost的分类 9.5.1 GBDT 9.5.2 XGBoost 9.6 应用实例 9.6.1 基于AdaBoost算法 9.6.2 基于XGBoost算法 9.7 习题 第10章 K-均值聚类 10.1 K-均值聚类算法 10.1.1 模型 10.1.2 算法 10.1.3 算法特性 10.2 二分K-均值算法 10.2.1 使用后处理来提高聚类性能 10.2.2 二分K-均值聚类算法 10.3 应用实例 10.4 习题 第11章 Apriori算法及关联分析 11.1 关联分析 11.1.1 频繁项集的评估标准 11.1.2 关联分析算法过程 11.2 Apriori算法基本原理 11.3 使用Apriori算法来发现频繁项集 11.4 从频繁项集中挖掘关联规则 11.5 应用实例 11.6 习题 第12章 FP-growth算法及频繁项集的挖掘 12.1 FP树介绍 12.2 构造FP树 12.2.1 头指针表的建立 12.2.2 FP树的建立 12.3 从FP树中挖掘频繁项集 12.3.1 抽取条件模式基 12.3.2 FP算法归纳 12.4 应用实例 12.5 习题 第13章 PCA及数据降维 13.1 降维技术 13.2 PCA技术 13.2.1 PCA的推导：基于最小投影距离 13.2.2 PCA的推导：基于最大投影方差 13.2.3 PCA算法流程 13.3 应用实例 13.4 习题 第14章 奇异值分解及应用 14.1 奇异值分解的应用 14.1.1 隐形语义索引 14.1.2 推荐系统 14.2 奇异值分解原理 14.