机器学习基础与案例实战（Python+Sklearn+TensorFlow）（慕课版）

机器学习作为人工智能的重要分支，已在不同行业得到了广泛应用。本书以锤炼读者机器学习相关技术的实战能力为导向，将案例与项目贯穿全文，全面系统地介绍了代表性机器学习算法及其应用。本书共12?章，分为?4?篇，即入门篇、监督学习篇、无监督学习篇、进阶篇。入门篇概述机器学习，监督学习篇主要介绍K近邻、决策树、线性模型、支持向量机和贝叶斯模型，无监督学习篇主要介绍聚类、主成分分析和奇异值分解，进阶篇主要介绍集成学习、特征工程和深度学习。 本书可作为高校工科专业机器学习相关课程的教材，也可供相关领域的培训机构教学使用，还可作为人工智能爱好者和相关方向技术人员的参考书。

张平： 湖南工商大学计算机与信息工程学院\"双师型\"教师，博士，副教授，硕士生导师；主持教育部青年项目、湖南省教改项目等科研/教研项目多项，在CCF推荐的权威期刊上发表SCI论文若干篇；主编《Python程序设计基础与案例实战（慕课版）》《Linux操作系统案例教程（CentOS Stream 9/RHEL 9）（微课版）》《Ubuntu Linux操作系统案例教程》等多本畅销教材，理论功底扎实，实践经验颇丰。

【章名目录】 ### 第 1篇 入门篇 ### 第 1章 机器学习概述 ### 第 2篇 监督学习篇 ### 第 2章 K近邻 第3章 决策树 第4章 线性模型 第5章 支持向量机 第6章 贝叶斯模型 ### 第3篇 无监督学习篇 ### 第7章 聚类 第8章 主成分分析 第9章 奇异值分解 ### 第4篇 进阶篇 ### 第 10章 集成学习 第 11章 特征工程 第 12章 深度学习 【详细目录】 ### 第 1篇 入门篇 ### 第 1章 机器学习概述 1.1 机器学习基础 2 1.1.1 机器学习的定义 2 1.1.2 机器学习基本概念 3 1.1.3 机器学习分类 3 1.1.4 机器学习开发步骤：以股价预测为例 5 1.2 机器学习发展简史 7 1.3 机器学习相近概念简介 8 1.3.1 机器学习、深度学习和人工智能 8 1.3.2 机器学习与数据挖掘 8 1.3.3 机器学习与模式识别 8 1.3.4 机器学习与数学建模 9 1.4 机器学习典型应用领域 9 1.4.1 医疗保健领域 9 1.4.2 金融领域 9 1.4.3 电子商务与新零售领域 10 1.4.4 自然语言处理与语音识别领域 10 1.4.5 物联网领域 10 1.5 综合案例：机器学习开发环境配置和使用 10 1.5.1 案例概述 10 1.5.2 Windows版Anaconda安装和卸载 12 1.5.3 代表性的开发模式实践 13 1.5.4 Linux版Anaconda安装和使用 20 习题1 24 实训1 24 ### 第 2篇 监督学习篇 ### 第 2章 K近邻 2.1 K近邻概述 26 2.1.1 原理及图解 26 2.1.2 距离度量 28 2.1.3 形式化描述 30 2.1.4 优势和不足 30 2.2 监督学习模型评价指标 31 2.2.1 分类模型评价指标 31 2.2.2 回归模型评价指标 36 2.3 综合案例：使用K近邻分类器预测鸢尾花类型 38 2.3.1 案例概述 38 2.3.2 案例实现：Python版 41 2.3.3 案例实现：Sklearn版 42 2.4 综合案例：使用K近邻回归器预测房价 43 2.4.1 案例概述 43 2.4.2 案例实现：Python版 46 2.4.3 案例实现：Sklearn版 47 习题2 48 实训2 48 第3章 决策树 3.1 决策树概述 49 3.1.1 决策树图解 49 3.1.2 决策树构建 51 3.1.3 纯度测量 51 3.1.4 优势和不足 53 3.1.5 常见决策树算法 53 3.2 综合案例：使用决策树分类器预测葡萄酒类别 54 3.2.1 案例概述 54 3.2.2 案例实现：Python版——基于基尼系数 58 3.2.3 案例实现：Python版——基于信息增益 61 3.2.4 案例实现：Sklearn版 62 3.3 决策树剪枝 63 3.3.1 预剪枝和后剪枝 63 3.3.2 剪枝技术的实现 63 3.4 综合案例：基于决策树剪枝的鸢尾花分类 64 3.4.1 案例概述 64 3.4.2 案例实现：Sklearn版 64 3.5 综合案例：使用决策树回归器预测汽车燃油效率 65 3.5.1 案例概述 65 3.5.2 案例实现：Python版 68 3.5.3 案例实现：Sklearn版 70 习题3 70 实训3 71 第4章 线性模型 4.1 线性回归 72 4.1.1 线性模型概述 72 4.1.2 线性回归原理及图解 73 4.1.3 线性回归的变种 74 4.1.4 线性回归的优势和不足 75 4.2 模型优化算法 76 4.2.1 最小二乘法 76 4.2.2 梯度下降法及其变种 78 4.2.3 模型优化实战 79 4.3 综合案例：基于线性回归的电气元件电阻测量 81 4.3.1 案例概述 81 4.3.2 案例实现：Python版 82 4.3.3 案例实现：Sklearn版 83 4.4 逻辑回归 83 4.4.1 Logistic函数 83 4.4.2 逻辑回归图解 84 4.5 综合案例：基于逻辑回归的收入级别预测 85 4.5.1 案例概述 85 4.5.2 案例实现：Python版 90 4.5.3 案例实现：Sklearn版 92 4.6 Softmax回归 93 4.6.1 Softmax函数与Softmax回归 93 4.6.2 二分类和多分类 93 4.7 综合案例：基于Softmax回归的手写字符分类 94 4.7.1 案例概述 94 4.7.2 案例实现：Sklearn版 95 习题4 97 实训4 97 第5章 支持向量机 5.1 问题引入 98 5.1.1 从逻辑回归说起 98 5.1.2 SVM图解 100 5.2 SVM原理简介 102 5.2.1 形式化描述 102 5.2.2 求解优化问题 103 5.2.3 核函数 105 5.2.4 代表性参数 107 5.2.5 分类和回归 109 5.2.6 SVM的优点和限制 109 5.3 综合案例：基于SMO算法的SVM分类器 110 5.3.1 案例概述 110 5.3.2 线性版本SVM分类器：Python版 110 5.3.3 核函数版本SVM分类器：Python版 117 5.4 综合案例：基于SVC的乳腺肿瘤分类 119 5.4.1 案例概述 119 5.4.2 案例实现：Sklearn版 122 5.5 综合案例：基于SVR的体能训练效果预测 123 5.5.1 案例概述 123 5.5.2 案例实现：Sklearn版 125 习题5 125 实训5 126 第6章 贝叶斯模型 6.1 贝叶斯模型概述 127 6.1.1 贝叶斯模型及相关概念 127 6.1.2 朴素贝叶斯分类模型 131 6.1.3 平滑技术 133 6.1.4 贝叶斯统计学与频率派统计学 133 6.1.5 贝叶斯网络 135 6.1.6 贝叶斯模型的优点和缺点 135 6.2 文本数据特征提取 136 6.2.1 文本特征提取方法 136 6.2.2 文本特征提取基本流程 137 6.2.3 文本特征提取实例 137 6.3 综合案例：基于贝叶斯模型的垃圾邮件识别 138 6.3.1 案例概述 138 6.3.2 案例分析 138 6.3.3 文本特征提取 139 6.3.4 案例实现：Python版 141 6.3.5 案例实现：Sklearn版 144 6.4 贝叶斯岭回归 145 6.5 综合案例：基于贝叶斯岭回归的房价预测 146 6.5.1 案例概述 146 6.5.2 案例实现：Python版 146 6.5.3 案例实现：Sklearn版 149 习题6 149 实训6 149 ### 第3篇 无监督学习篇 ### 第7章 聚类 7.1 聚类基础 152 7.1.1 概述 152 7.1.2 聚类算法基本步骤 153 7.1.3 聚类性能评估指标 153 7.2 常见的聚类算法 154 7.2.1 原型聚类算法 154 7.2.2 层次聚类算法 155 7.2.3 密度聚类算法 157 7.2.4 谱聚类算法 158 7.2.5 模型聚类算法 159 7.3 综合案例：原型聚类算法实践 159 7.3.1 案例概述 159 7.3.2 案例实现：Python版KMeans 160 7.3.3 案例实现：Python版KMedoids 161 7.3.4 案例实现：Sklearn版 163 7.4 综合案例：层次聚类算法实践 164 7.4.1 案例概述 164 7.4.2 案例实现：少量数据 167 7.4.3 案例实现：完整数据集 168 7.5 综合案例：谱聚类算法实践 169 7.5.1 案例概述 169 7.5.2 案例实现：Python版 169 7.5.3 案例实现：Sklearn版 171 7.6 综合案例：代表性聚类算法性能比较 172 7.6.1 案例概述 172 7.6.2 案例实现：Sklearn版 172 习题7 175 实训7 175 第8章 主成分分析 8.1 概述 176 8.1.1 降维方法 176 8.1.2 主成分分析 177 8.2 PCA的基本原理 177 8.2.1 方差和协方差 177 8.2.2 主成分 178 8.2.3 PCA基本步骤 179 8.2.4 PCA典型应用 180 8.2.5 PCA的优势和不足 180 8.3 综合案例：基于PCA的图像压缩实践 181 8.3.1 案例概述 181 8.3.2 案例实现：Python版 182 8.3.3 案例实现：Sklearn版 183 8.4 综合案例：基于PCA的鸢尾花数据集可视化分析 186 8.4.1 案例概述 186 8.4.2 案例实现：Python版 186 8.4.3 案例实现：Sklearn版 188 习题8 189 实训8 190 第9章 奇异值分解 9.1 奇异值分解概述 191 9.1.1 矩阵与特征值 191 9.1.2 奇异值分解 193 9.1.3 奇异值和奇异向量 194 9.1.4 奇异值分解变体 195 9.1.5 SVD的典型应用领域 196 9.2 基于SVD的协同过滤 197 9.2.1 协同过滤 197 9.2.2 基于SVD的协同过滤原理 198 9.3 综合案例：基于SVD的电影推荐系统 199 9.3.1 案例概述 199 9.3.2 案例分析 199 9.3.3 案例实现 201 9.4 综合案例：基于SVD的图像压缩 204 9.4.1 案例概述 204 9.4.2 案例实现：累积能量占比分析 204 9.4.3 案例实现：图像压缩 205 习题9 207 实训9 207 ### 第4篇 进阶篇 ### 第 10章 集成学习 10.1 集成学习概述 210 10.1.1 基本原理 210 10.1.2 常见类型 211 10.1.3 优势和不足 212 10.2 Bagging和随机森林算法 212 10.2.1 Bagging原理 212 10.2.2 随机森林算法 213 10.3 综合案例：基于随机森林的心脏病预测 214 10.3.1 案例概述 214 10.3.2 案例实现：Python版 217 10.3.3 案例实现：Sklearn版 220 10.4 Boosting及其代表性算法 221 10.4.1 Boosting原理 221 10.4.2 AdaBoost 222 10.4.3 XGBoost 223 10.4.4 LightGBM 223 10.5 综合案例：AdaBoost、XGBoost和LightGBM实践 224 10.5.1 案例概述 224 10.5.2 案例实现：AdaBoost版 224 10.5.3 案例实现：XGBoost版 224 10.5.4 案例实现：LightGBM版 225 10.6 Stacking概述 226 10.7 综合案例：基于Stacking的葡萄酒分类 227 10.7.1 案例概述 227 10.7.2 案例实现 227 习题10 228 实训10 228 第 11章 特征工程 11.1 特征工程概述 229 11.1.1 特征和数据 229 11.1.2 特征工程 230 11.2 数据预处理 231 11.2.1 数据清洗 231 11.2.2 数据集成 232 11.2.3 特征缩放 232 11.3 综合案例：数据预处理实践 233 11.3.1 案例概述 233 11.3.2 案例实现 233 11.4 特征构建 237 11.4.1 数值特征 238 11.4.2 类别特征 238 11.4.3 组合特征 240 11.4.4 非线性变换 240 11.5 综合案例：特征构建实践 241 11.5.1 案例概述 241 11.5.2 案例实现 241 11.6 特征选择 245 11.6.1 过滤式 246 11.6.2 包裹式 247 11.6.3 嵌入式 248 11.7 综合案例：特征选择实践 248 11.7.1 案例概述 248 11.7.2 案例实现 248 习题11 252 实训11 253 第 12章 深度学习 12.1 深度学习概述 254 12.1.1 感知机和多层感知机 255 12.1.2 激活函数和损失函数 256 12.1.3 反向传播算法和优化方法 258 12.1.4 深度学习框架 259 12.2 综合案例：基于MLP的汽车燃油效率预测 259 12.2.1 案例概述 259 12.2.2 开发环境配置 260 12.2.3 案例实现 262 12.3 卷积神经网络 265 12.3.1 卷积层 265 12.3.2 池化层 266 12.4 综合案例：基于CNN的服装分类 267 12.4.1 案例概述 267 12.4.2 案例实现 267 12.5 循环神经网络 269 12.5.1 序列和文本 270 12.5.2 RNN原理 270 12.5.3 LSTM原理 271 12.6 综合案例：基于RNN的情感分类 272 12.6.1 案例概述 272 12.6.2 案例实现 272 12.7 综合案例：基于LSTM的垃圾邮件识别 275 12.7.1 案例概述 275 12.7.2 案例实现 275 习题12 276 实训12 276