机器学习与算法应用

本教材从实用的角度出发，采用理论与实践相结合的方式，介绍机器学习算法与应用的基础知识，力求培养读者使用机器学习相关算法进行数据分析的能力。本教材的主要内容有机器学习概述，机器学习的Python常用库，回归分析与应用，特征工程、降维与超参数调优，分类算法与应用，关联规则，聚类算法与应用，神经网络，文本分析，图像数据分析，深度学习入门。本教材可以作为人工智能学科相关的机器学习技术的入门教材，目的不在于覆盖机器学习技术的所有知识点，而是介绍机器学习的常用算法及其应用，使读者了解机器学习的基本构成及不同场景下使用何种机器学习算法。为了增强实践效果，本教材引入了多个基础技术案例及综合实践案例，以帮助读者了解机器学习涉及的基本知识和技能。本教材可作为高等院校机器学习算法与应用课程的教材，也可供对机器学习技术感兴趣的读者阅读参考。

第1章 机器学习概述 1
1.1 机器学习简介 1
1.1.1 机器学习简史 1
1.1.2 机器学习主要流派 3
1.2 人工智能、数据挖掘和机器学习 5
1.2.1 什么是人工智能 5
1.2.2 什么是数据挖掘 6
1.2.3 人工智能、数据挖掘和机器学习的关系 7
1.3 典型机器学习应用领域 7
1.3.1 艺术创作 7
1.3.2 金融领域 8
1.3.3 医疗领域 9
1.3.4 自然语言处理 10
1.3.5 网络安全 12
1.4 机器学习算法分类 14
1.4.1 分类算法 15
1.4.2 关联分析 19
1.4.3 回归分析 19
1.4.4 深度学习 20
1.5 机器学习的一般流程 22
第2章 机器学习的Python常用库 24
2.1 Numpy简介及基础使用 24
2.1.1 Numpy简介 24
2.1.2 Numpy基础使用 27
2.2 Pandas简介及基础使用 31
2.2.1 Pandas简介 31
2.2.2 Pandas自行车数据统计分析 36
2.3 Matplotlib简介及基础使用 42
2.3.1 Matplotlib简介 42
2.3.2 Matplotlib绘图实例 45
2.4 Scikit-Learn简介及基础使用 52
2.4.1 Scikit-Learn安装与简介 52
2.4.2 Scikit-Learn基础使用 56
2.5 波士顿房价预测实验 59
第3章 回归分析与应用 64
3.1 回归分析问题 64
3.1.1 介绍 64
3.1.2 常见回归数据集 66
3.2 线性回归 68
3.2.1 原理与应用场景 68
3.2.2 实现线性回归 70
3.2.3 Python实现最小二乘法拟合直线 71
3.3 岭回归和Lasso回归 72
3.3.1 原理与应用场景 73
3.3.2 实现岭回归 75
3.3.3 实现Lasso回归 76
3.4 逻辑回归 76
3.4.1 原理与应用场景 76
3.4.2 实现逻辑回归 78
第4章 特征工程、降维与超参数调优 80
4.1 特征工程 80
4.1.1 缺失值处理 81
4.1.2 数据的特征值化 87
4.1.3 特征选择 89
4.1.4 特征构建 89
4.2 降维与超参数调优 91
4.2.1 降维 91
4.2.2 实现降维 92
4.2.3 超参数调优 93
第5章 分类算法与应用 97
5.1 分类问题简介 97
5.1.1 分类问题的流程与任务 97
5.1.2 常用的分类数据集 98
5.2 K近邻算法 102
5.2.1 K近邻算法原理与应用场景 102
5.2.2 基于K近邻算法实现分类任务 103
5.2.3 使用Python实现KNN算法 110
5.3 概率模型 111
5.3.1 原理 111
5.3.2 应用场景 111
5.4 朴素贝叶斯分类 112
5.4.1 原理与应用场景 112
5.4.2 朴素贝叶斯算法应用 115
5.5 向量空间模型 115
5.5.1 原理与应用场景 115
5.5.2 向量空间模型应用 116
5.6 支持向量机 120
5.6.1 支持向量机概述 120
5.6.2 支持向量机实现分类 122
5.6.3 支持向量机实现回归 123
5.6.4 支持向量机异常检测 123
5.6.5 过拟合问题 125
5.7 集成学习 129
5.7.1 集成学习概述 129
5.7.2 决策树 131
5.7.3 随机森林 135
5.7.4 Adaboost算法 137
第6章 关联规则 140
6.1 关联规则的概念 140
6.1.1 什么是关联规则 140
6.1.2 关联规则的挖掘过程 141
6.2 Apriori算法 142
6.2.1 Apriori算法概念 142
6.2.2 Apriori算法实现原理 142
6.2.3 实现Apriori算法 144
第7章 聚类算法与应用 148
7.1 无监督学习问题 148
7.1.1 无监督学习 148
7.1.2 聚类分析的基本概念与原理 149
7.1.3 常见聚类数据集 150
7.2 划分聚类 152
7.2.1 划分聚类概述 152
7.2.2 K-Means算法 152
7.2.3 sklearn中K-Means算法聚类的使用 155
7.2.4 使用聚类进行图像压缩 156
7.2.5 Numpy实现K-Means聚类 158
7.3 层次聚类 159
7.3.1 层次聚类算法 159
7.3.2 使用层次聚类算法聚类 161
7.4 密度聚类 162
7.4.1 DBSCAN算法 163
7.4.2 OPTICS算法 167
7.4.3 DENCLUE算法 168
7.5 聚类效果评测 169
第8章 神经网络 172
8.1 神经网络介绍 172
8.1.1 神经元原理 173
8.1.2 前馈神经网络 174
8.1.3 反馈神经网络 175
8.1.4 自组织神经网络 176
8.2 神经网络相关概念 177
8.2.1 激活函数 177
8.2.2 Softmax算法与损失函数 182
8.2.3 梯度下降算法 185
8.2.4 学习率 186
8.2.5 过拟合与欠拟合 187
8.2.6 神经网络模型的评估指标 189
8.3 神经网络识别MNIST手写数据集 190
第9章 文本分析 198
9.1 文本数据处理的相关概念 198
9.2 中英文的文本数据处理方法对比 199
9.2.1 中英文分词与分词粒度 200
9.2.2 中英文的多种形态 200
9.2.3 词性标注方法的差异 201
9.2.4 句法结构分析方法 201
9.3 文本数据处理分析案例 202
9.3.1 使用NLTK进行文本数据分析 202
9.3.2 使用jieba进行文本数据分析 215
9.4 自然语言处理的应用 221
第10章 图像数据分析 226
10.1 图像数据 226
10.2 图像数据分析方法 228
10.3 图像数据分析案例 230
10.3.1 PIL：Python图像处理类库应用示例 230
10.3.2 Numpy图像数据分析示例 235
10.3.3 SciPy图像数据分析示例 238
10.3.4 Scikit-Image 241
10.3.5 OpenCV 246
10.4 计算机视觉的应用 255
10.4.1 图像分类 256
10.4.2 目标检测 257
10.4.3 图像分割 258
10.4.4 风格迁移 260
10.4.5 图像重构 260
10.4.6 超分辨率 261
10.4.7 图像生成 261
10.4.8 人脸图像的应用 262
10.4.9 其他 262
第11章 深度学习入门 263
11.1 深度学习的概述 263
11.2 卷积神经网络 264
11.2.1 卷积神经网络简介 264
11.2.2 卷积神经网络的整体结构 265
11.2.3 常见的卷积神经网络 267
11.3 循环神经网络 276
11.3.1 RNN基本原理 276
11.3.2 长短期记忆网络 278
11.3.3 门限循环单元 282
11.4 深度学习流行框架 283
11.5 基于卷积神经网络识别手写数字的实战 284
11.5.1 实验目的 284
11.5.2 实验背景 284
11.5.3 实验原理 285
11.5.4 实验环境 285
11.5.5 实验步骤 285