深度学习原理与PyTorch实战

 

本书是一本系统介绍深度学习及开源框架PyTorch的入门书。全书注重实战，每章围绕一个有意思的实战案例展开，不仅循序渐进地讲解了PyTorch的基本使用、神经网络的搭建、卷积神经网络和循环神经网络的实现，而且全面深入地介绍了计算机视觉、自然语言处理、迁移学习，以及对抗学习和深度强化学习等前沿技术。读者通过阅读本书，可以轻松入门深度学习，学会构造一个图像识别器，生成逼真的图画，让机器理解单词与文本，让机器作曲，教会机器玩游戏，还可以实现一个简单的机器翻译系统。本书适用于人工智能行业的软件工程师、对人工智能感兴趣的学生，也非常适合作为深度学习培训教程。

 

第1章深度学习简介1
1.1深度学习与人工智能1
1.2深度学习的历史渊源2
1.2.1从感知机到人工神经网络3
1.2.2深度学习时代4
1.2.3巨头之间的角逐5
1.3深度学习的影响因素6
1.3.1大数据6
1.3.2深度网络架构7
1.3.3GPU11
1.4深度学习为什么如此成功11
1.4.1特征学习11
1.4.2迁移学习12
1.5小结13
参考文献14
第2章PyTorch简介15
2.1PyTorch安装15
2.2初识PyTorch15
2.2.1与Python的完美融合16
2.2.2张量计算16
2.2.3动态计算图20
2.3PyTorch实例：预测房价27
2.3.1准备数据27
2.3.2模型设计28
2.3.3训练29
2.3.4预测31
2.3.5术语汇总32
2.4小结33
第3章单车预测器：你的第一个神经网络35
3.1共享单车的烦恼35
3.2单车预测器1.037
3.2.1神经网络简介37
3.2.2人工神经元38
3.2.3两个隐含层神经元40
3.2.4训练与运行42
3.2.5失败的神经预测器43
3.2.6过拟合48
3.3单车预测器2.049
3.3.1数据的预处理过程49
3.3.2构建神经网络52
3.3.3测试神经网络55
3.4剖析神经网络Neu57
3.5小结61
3.6Q&A61
第4章机器也懂感情——中文情绪分类器63
4.1神经网络分类器64
4.1.1如何用神经网络做分类64
4.1.2分类问题的损失函数66
4.2词袋模型分类器67
4.2.1词袋模型简介68
4.2.2搭建简单文本分类器69
4.3程序实现70
4.3.1数据获取70
4.3.2数据处理74
4.3.3文本数据向量化75
4.3.4划分数据集76
4.3.5建立神经网络78
4.4运行结果80
4.5剖析神经网络81
4.6小结85
4.7Q&A85
第5章手写数字识别器——认识卷积神经网络87
5.1什么是卷积神经网络88
5.1.1手写数字识别任务的CNN网络及运算过程88
5.1.2卷积运算操作90
5.1.3池化操作96
5.1.4立体卷积核97
5.1.5超参数与参数98
5.1.6其他说明99
5.2手写数字识别器100
5.2.1数据准备100
5.2.2构建网络103
5.2.3运行模型105
5.2.4测试模型106
5.3剖析卷积神经网络107
5.3.1第一层卷积核与特征图107
5.3.2第二层卷积核与特征图109
5.3.3卷积神经网络的健壮性试验110
5.4小结112
5.5Q&A112
5.6扩展阅读112
第6章手写数字加法机——迁移学习113
6.1什么是迁移学习114
6.1.1迁移学习的由来114
6.1.2迁移学习的分类115
6.1.3迁移学习的意义115
6.1.4如何用神经网络实现迁移学习116
6.2应用案例：迁移学习如何抗击贫困118
6.2.1背景介绍118
6.2.2方法探寻119
6.2.3迁移学习方法120
6.3蚂蚁还是蜜蜂：迁移大型卷积神经网络121
6.3.1任务描述与初步尝试121
6.3.2ResNet与模型迁移122
6.3.3代码实现123
6.3.4结果分析127
6.3.5更多的模型与数据128
6.4手写数字加法机128
6.4.1网络架构128
6.4.2代码实现129
6.4.3训练与测试136
6.4.4结果138
6.4.5大规模实验138
6.5小结143
6.6实践项目：迁移与效率143
第7章你自己的Prisma——图像风格迁移145
7.1什么是风格迁移145
7.1.1什么是风格145
7.1.2风格迁移的涵义146
7.2风格迁移技术发展简史147
7.2.1神经网络之前的风格迁移147
7.2.2特定风格的实现148
7.3神经网络风格迁移149
7.3.1神经网络风格迁移的优势150
7.3.2神经网络风格迁移的基本思想150
7.3.3卷积神经网络的选取151
7.3.4内容损失152
7.3.5风格损失152
7.3.6风格损失原理分析153
7.3.7损失函数与优化156
7.4神经网络风格迁移实战157
7.4.1准备工作157
7.4.2建立风格迁移网络159
7.4.3风格迁移训练162
7.5小结165
7.6扩展阅读165
第8章人工智能造假术——图像生成与对抗学习166
8.1反卷积与图像生成169
8.1.1CNN回顾169
8.1.2反卷积操作171
8.1.3反池化过程173
8.1.4反卷积与分数步伐174
8.1.5输出图像尺寸公式175
8.1.6批正则化技术176
8.2图像生成实验1——最小均方误差模型177
8.2.1模型思路177
8.2.2代码实现178
8.2.3运行结果182
8.3图像生成实验2——生成器-识别器模型184
8.3.1生成器-识别器模型的实现184
8.3.2对抗样本187
8.4图像生成实验3——生成对抗网络GAN190
8.4.1GAN的总体架构191
8.4.2程序实现192
8.4.3结果展示195
8.5小结197
8.6Q&A197
8.7扩展阅读198
第9章词汇的星空——神经语言模型与Word2Vec199
9.1词向量技术介绍199
9.1.1初识词向量199
9.1.2传统编码方式200
9.2NPLM：神经概率语言模型201
9.2.1NPLM的基本思想202
9.2.2NPLM的运作过程详解202
9.2.3读取NPLM中的词向量205
9.2.4NPLM的编码实现206
9.2.5运行结果209
9.2.6NPLM的总结与局限211
9.3Word2Vec211
9.3.1CBOW模型和Skip-gram模型的结构211
9.3.2层级软优选213
9.3.3负采样213
9.3.4总结及分析214
9.4Word2Vec的应用214
9.4.1在自己的语料库上训练Word2Vec词向量214
9.4.2调用现成的词向量216
9.4.3女人-男人=皇后-国王218
9.4.4使用向量的空间位置进行词对词翻译220
9.4.5Word2Vec小结221
9.5小结221
9.5Q&A222
第10章LSTM作曲机——序列生成模型224
10.1序列生成问题224
10.2RNN与LSTM225
10.2.1RNN226
10.2.2LSTM231
10.3简单01序列的学习问题235
10.3.1RNN的序列学习236
10.3.2LSTM的序列学习245
10.4LSTM作曲机248
10.4.1MIDI文件248
10.4.2数据准备249
10.4.3模型结构249
10.4.4代码实现250
10.5小结257
10.6Q&A258
10.7扩展阅读258
……
第11章神经翻译机——端到端机器翻译
第12章AI游戏高手——深度强化学习