机器学习之路

机器学习需要一条脱离过高理论门槛的入门之路。本书《机器学习篇》从小红帽采蘑菇的故事开篇，介绍了基础的机器学习分类模型的训练（靠前章）。如何评估、调试模型？如何合理地发掘事物的特征？如何利用几个模型共同发挥作用？后续章节一步一步讲述了如何优化模型，更好地完成分类预测任务（第2章），并且初步尝试将这些技术运用到金融股票交易中（第3章）。自然界优选的非线性模型莫过于人类的大脑。《深度学习篇》从介绍并对比一些常见的深度学习框架开始（第4章），讲解了DNN模型的直观原理，尝试给出一些简单的生物学解释，完成简单的图片识别任务（第5章）。后续章节在此基础上，完成更为复杂的图片识别CNN模型（第6章）。接着，本书展示了使用Caffe完成一个完整的图片识别项目，从准备数据集，到完成识别任务（第7章）。后面简单描述了RNN模型（第8章），接着展示了一个将深度学习技术落地到图片处理领域的项目（第9章）。

阿布，多年互联网金融技术从业经验，曾就职于奇虎360、百度互联网证券、百度金融等互联网型金融公司，现自由职业，个人量化交易者，擅长个人中小资金量化交易领域系统开发，以及为中小型量化私募资金提供技术解决方案、技术支持、量化培训等工作。
胥嘉幸，北京大学硕士，先后就职于百度金融证券、百度糯米搜索部门。多年致力于大数据机器学习方面的研究，有深厚的数学功底和理论支撑。在将机器学习技术融于传统金融量化领域方面颇有研究。

第1篇机器学习篇
第1章初识机器学习2
1.1机器学习——赋予机器“学习”的灵魂2
1.1.1小红帽识别毒蘑菇2
1.1.2三种机器学习问题6
1.1.3常用符号6
1.1.4回顾7
1.2KNN——相似的邻居请投票7
1.2.1模型原理7
1.2.2鸢尾花卉数据集（IRIS）9
1.2.3训练模型9
1.2.4评估模型12
1.2.5关于KNN14
1.2.6运用KNN模型15
1.2.7回顾16
1.3逻辑分类I：线性分类模型16
1.3.1参数化的模型16
1.3.2逻辑分类：预测18
1.3.3逻辑分类：评估22
1.3.4逻辑分类：训练23
1.3.5回顾24
1.4逻辑分类II：线性分类模型24
1.4.1寻找模型的权重24
1.4.2去均值和归一化31
1.4.3实现33
1.4.4回顾34
第2章机器学习进阶35
2.1特征工程35
2.1.1泰坦尼克号生存预测35
2.1.2两类特征38
2.1.3构造非线性特征41
2.1.4回顾45
2.2调试模型46
2.2.1模型调试的目标46
2.2.2调试模型49
2.2.3回顾52
2.3分类模型评估指标53
2.3.1混淆矩阵系指标53
2.3.2评估曲线58
2.3.3回顾61
2.4回归模型61
2.4.1回归与分类61
2.4.2线性回归62
2.4.3波士顿房价预测66
2.4.4泰坦尼克号生存预测：回归预测特征年龄Age69
2.4.5线性模型与非线性模型72
2.4.6回顾73
2.5决策树模型73
2.5.1信息与编码74
2.5.2决策树76
2.5.3对比线性模型和决策树模型的表现77
2.5.4回顾79
2.6模型融合80
2.6.1融合成群体（Ensamble）80
2.6.2Bagging：随机森林（RandomForest）82
2.6.3Boosting：GBDT83
2.6.4Stacking86
2.6.5泰坦尼克号生存预测：小结93
2.6.6回顾94
第3章实战：股票量化95
3.1第1步：构造童话世界95
3.1.1股票是什么95
3.1.2当机器学习与量化交易走在一起96
3.1.3构造一个童话世界96
3.1.4回顾100
3.2第二步：应用机器学习100
3.2.1构建特征数据100
3.2.2回归预测股票价格103
3.2.3分类预测股票涨跌108
3.2.4通过决策树分类，绘制决策图112
3.2.5回顾114
3.3第三步：在真实世界应用机器学习114
3.3.1回测115
3.3.2基于特征的交易预测119
3.3.3破灭的童话——真实世界的机器学习122
第二篇深度学习篇
第4章深度学习：背景和工具126
4.1背景126
4.1.1人工智能——为机器赋予人的智能126
4.1.2图灵测试126
4.1.3强人工智能vs弱人工智能127
4.1.4机器学习和深度学习128
4.1.5过度的幻想128
4.1.6回顾129
4.2深度学习框架简介129
4.2.1评测方式130
4.2.2评测对象131
4.2.3深度学习框架评测131
4.2.4小结135
4.3深度学习框架快速上手135
4.3.1符号主义135
4.3.2MNIST136
4.3.3Keras完成逻辑分类138
4.3.4回顾141
4.4Caffe实现逻辑分类模型141
4.4.1Caffe训练MNIST概览142
4.4.2Caffe简介144
4.4.3准备数据集145
4.4.4准备模型146
4.4.5模型训练流程149
4.4.6使用模型149
4.4.7Caffe的Python接口150
4.4.8回顾151
第5章深层学习模型152
5.1解密生物智能154
5.1.1实验一：大脑的材料154
5.1.2实验二：探索脑皮层的功能区域156
5.1.3实验三：不同的皮层组织——区别在于函数算法158
5.1.4实验四：可替换的皮层模块——神经元组成的学习模型161
5.1.5模拟神经元162
5.1.6生物结构带来的启发163
5.1.7回顾164
5.2DNN神经网络模型164
5.2.1线性内核和非线性激活164
5.2.2DNN、CNN、RNN165
5.2.3逻辑分类：一层神经网络166
5.2.4更多的神经元167
5.2.5增加HiddenLayer（隐层）168
5.2.6ReLu激活函数170
5.2.7理解隐层171
5.2.8回顾172
5.3神经元的深层网络结构172
5.3.1问题：更宽or更深172
5.3.2链式法则：深层模型训练更快173
5.3.3生物：深层模型匹配生物的层级识别模式175
5.3.4深层网络结构177
5.3.5回顾178
5.4典型的DNN深层网络模型：MLP178
5.4.1优化梯度下降179
5.4.2处理过拟合：Dropout181
5.4.3MLP模型182
5.4.4回顾185
5.5Caffe实现MLP185
5.5.1搭建MLP185
5.5.2训练模型189
5.5.3回顾190
第6章学习空间特征191
6.1预处理空间数据192
6.1.1像素排列展开的特征向量带来的问题192
6.1.2过滤冗余194
6.1.3生成数据195
6.1.4回顾198
6.2描述图片的空间特征：特征图199
6.2.1图片的卷积运算.199
6.2.2卷积指令和特征图201
6.2.3回顾206
6.3CNN模型I：卷积神经网络原理206
6.3.1卷积神经元207
6.3.2卷积层208
6.3.3多层卷积211
6.3.4回顾216
6.4CNN模型II：图片识别216
6.4.1连接分类模型216
6.4.2猫狗分类217
6.4.3反思CNN与DNN的结合：融合训练221
6.4.4深度学习与生物视觉222
6.4.5回顾224
6.5CNN的实现模型224
6.5.1ImageNet简介224
6.5.2Googlenet模型和Inception结构226
6.5.3VGG模型228
6.5.4其他模型231
6.5.5回顾232
6.6微训练模型（fine-tuning）232
6.6.1二次训练一个成熟的模型232
6.6.2微训练在ImageNet训练好的模型233
6.6.3回顾239
第7章Caffe实例：狗狗品种辨别240
7.1准备图片数据240
7.1.1搜集狗狗图片240
7.1.2清洗数据241
7.1.3标准化数据242
7.1.4回顾243
7.2训练模型243
7.2.1生成样本集244
7.2.2生成训练、测试数据集245
7.2.3生成lmdb246
7.2.4生成去均值文件.247
7.2.5更改prototxt文件247
7.2.6训练模型249
7.2.7回顾249
7.3使用生成的模型进行分类249
7.3.1更改deploy.prototxt249
7.3.2加载模型250
7.3.3回顾257
第8章漫谈时间序列模型258
8.1Embedding259
8.1.1简单的文本识别.260
8.1.2深度学习从读懂词义开始261
8.1.3游戏：词义运算.264
8.1.4回顾264
8.2输出序列的模型265
8.2.1RNN265
8.2.2LSTM266
8.2.3并用人工特征和深度学习特征——一个NLP模型的优化历程268
8.2.4反思：让模型拥有不同的能力270
8.2.5回顾273
8.3深度学习：原理篇总结273
8.3.1原理小结273
8.3.2使用建议275
第9章用深度学习做个艺术画家——模仿实现PRISMA277
9.1机器学习初探艺术作画278
9.1.1艺术作画概念基础278
9.1.2直观感受一下机器艺术家279
9.1.3一个有意思的实验280
9.1.4机器艺术作画的愿景281
9.1.5回顾282
9.2实现秒级艺术作画282
9.2.1主要实现思路分解讲解283
9.2.2使用统计参数期望与标准差寻找mask290
9.2.3工程代码封装结构及使用示例299
9.2.4回顾和后记302
附录A机器学习环境部署303
附录B深度学习环境部署307
附录C随书代码运行环境部署312