Python深度学习实战

本书以自上而下和自下而上的方法来展示针对不同领域实际问题的深度学习解决方案，包括图像识别、自然语言处理、时间序列预测和机器人操纵等。还讨论了采用诸如TensorFlow、PyTorch、Keras和CNTK等流行的深度学习开源框架用于实际问题的解决方案及其优缺点。本书内容包括：用于深度学习的编程环境、GPU计算和云端解决方案；前馈神经网络与卷积神经网络；循环与递归神经网络；强化学习与生成对抗网络；深度学习用于计算机视觉、自然语言处理、语音识别、视频分析、时间序列预测、结构化数据分析以及游戏智能体（Agents）和机器人操控等。后讨论了深度学习的超参数选择和神经网络的内在结构以及预训练模型的使用技巧等。

Indra den Bakker是一位经验丰富的深度学习工程师和培训师。他是23insights平台的创始人，这是NVIDIA所属孵化项目计划的一部分，这是一个机器学习构建解决方案的初创型计划，可以改变世界上重要的行业。在开放课程平台Udacity，他指导了在深度学习和相关领域攻读微学位（Nanodegree）的学生，他还负责审查学生的实习项目。Indra拥有计算智能背景，并在创建23insights平台之前作为IPG Mediabrands的品牌代理以及Screen6的数据科学家若干年。

译者序
原书前言
第1章编程环境、GPU计算、云解决方案和深度学习框架 1
1.1简介 1
1.2搭建一个深度学习环境 2
1.3在AWS上启动实例 2
1.4在GCP上启动实例 3
1.5安装CUDA和cuDNN 4
1.6安装Anaconda和库文件 6
1.7连接服务器上的JupyterNotebooks 7
1.8用 TensorFlow构建最先进的即用模型 8
1.9直观地用Keras建立网络 10
1.10使用PyTorch的RNN动态计算图 12
1.11用CNTK实现高性能模型 14
1.12使用MXNet构建高效的模型 15
1.13使用简单、高效的Gluon编码定义网络 17
第2章前馈神经网络 19
2.1简介 19
2.2理解感知器 19
2.3实现一个单层神经网络 23
2.4构建一个多层神经网络 27
2.5开始使用激活函数 30
2.6关于隐层和隐层神经元的实验 35
2.7实现一个自动编码器 38
2.8调整损失函数 41
2.9测试不同的优化器 44
2.10使用正则化技术提高泛化能力 47
2.11添加Dropout以防止过拟合 51
第3章卷积神经网络 56
3.1简介 56
3.2开始使用滤波器和参数共享 56
3.3应用层合并技术 60
3.4使用批量标准化进行优化 62
3.5理解填充和步长 66
3.6试验不同类型的初始化 72
3.7实现卷积自动编码器 76
3.8将一维CNN应用于文本 79
第4章递归神经网络 81
4.1简介 81
4.2实现一个简单的RNN 82
4.3添加LSTM 84
4.4使用GRU 86
4.5实现双向RNN 89
4.6字符级文本生成 91
第5章强化学习 95
5.1简介 95
5.2实现策略梯度 95
5.3实现深度Q学习算法 102
第6章生成对抗网络 109
6.1简介 109
6.2了解GAN 109
6.3实现DCGAN 112
6.4使用SRGAN来提高图像分辨率 117
第7章计算机视觉 125
7.1简介 125
7.2利用计算机视觉技术增广图像 125
7.3图像中的目标分类 130
7.4目标在图像中的本地化 134
7.5实时检测框架 139
7.6用U-net将图像分类 139
7.7语义分割与场景理解 143
7.8寻找人脸面部关键点 147
7.9人脸识别 151
7.10将样式转换为图像 157
第8章自然语言处理 162
8.1简介 162
8.2情绪分析 162
8.3句子翻译 165
8.4文本摘要 169
第9章语音识别和视频分析 174
9.1简介 174
9.2从零开始实现语音识别流程 174
9.3使用语音识别技术辨别讲话人 177
9.4使用深度学习理解视频 181
第10章时间序列和结构化数据 185
10.1简介 185
10.2使用神经网络预测股票价格 185
10.3预测共享单车需求 189
10.4使用浅层神经网络进行二元分类 192
第11章游戏智能体和机器人 194
11.1简介 194
11.2通过端到端学习来驾驶汽车 194
11.3通过深度强化学习来玩游戏 199
11.4用GA优化超参数 205
第12章超参数选择、调优和神经网络学习 211
12.1简介 211
12.2用TensorBoard和Keras可视化训练过程 211
12.3使用批量和小批量工作 215
12.4使用网格搜索调整参数 219
12.5学习率和学习率调度 221
12.6比较优化器 224
12.7确定网络的深度 227
12.8添加Dropout以防止过拟合 227
12.9通过数据增广使模型更加鲁棒 232
12.10利用TTA来提高精度 234
第13章网络内部构造 235
13.1简介 235
13.2用TensorBoard可视化训练过程 235
13.3用TensorBoard可视化网络结构 239
13.4分析网络权重等 239
13.5冻结层 244
13.6存储网络结构并训练权重 246
第14章预训练模型 250
14.1简介 250
14.2使用GoogLeNet/Inception进行大规模视觉识别 250
14.3用ResNet提取瓶颈特征 252
14.4对新类别使用预训练的VGG模型 253
14.5用Xception细调 256

深度学习正在为广泛的行业带来革命性的变化。对于许多应用来说，深度学习通过做出更快和更准确的预测，证明其已经超越人类的预测。本书提供了自上而下和自下而上的方法来展示深度学习对不同领域现实问题的解决方案。这些应用程序包括计算机视觉、自然语言处理、时间序列预测和机器人。本书主要内容第 1章  编程环境、 GPU计算、云解决方案和深度学习框架  主要包括与环境和 GPU计算相关的信息和方案。对于在不同平台上设置环境有问题的读者来说，这是一个必读内容。第 2章  前馈神经网络  提供了与前馈神经网络有关的一系列方法，并作为其他章节的基础。本章的重点是为不同网络拓扑常见的实现问题提供解决方案。第 3章  卷积神经网络  着重介绍卷积神经网络及其在计算机视觉中的应用。它提供了有关 CNN中使用的技术和优化方法。第 4章  递归神经网络  提供了一系列与递归神经网络相关的方法，包括 LSTM（长短期记忆）网络和 GRU（门控递归神经元）。本章的重点是为循环神经网络的常见的实现问题提供解决方案。第 5章  强化学习  涵盖强化学习神经网络的各种方法。本章介绍了在单智能体环境中深度强化学习的概念。第 6章  生成对抗网络  提供了与无监督学习问题相关的一系列方法，这包括图像生成和超分辨率的生成对抗网络。第 7章  计算机视觉  包含图像编码相关的数据处理方法，如视频帧。将提供使用 Python处理图像数据的经典技术，以及用于图像检测、分类和分割的最佳解决方案。第 8章  自然语言处理  涵盖与文本数据处理相关的方法，包括与文本特征表示和处理相关的方法，包括文字嵌入和文本数据存储。第 9章  语音识别和视频分析  涵盖与流数据处理相关的方法，这包括音频、视频和帧序列。第 10章  时间序列和结构化数据  提供与数字运算相关的方法，这包括序列和时间序列。第 11章  游戏智能体和机器人  专注于最先进的深度学习研究应用，这包括与多智能体环境（模拟）和自主车辆中游戏智能体相关的方法。第 12章  超参数选择、调优和神经网络学习  阐述了神经网络学习过程涉及的方方面面。本章的总体目标是提供非常简洁和具体的技巧来提升网络性能。第 13章  网络内部构造  介绍了一个神经网络的内部构造，这包括张量分解、权重初始化、拓扑存储、瓶颈特征和相应的嵌入。第 14章  预训练模型  涵盖了流行的深度学习模型，如 VGG-16和 Inception V4。学习本书所需的准备工作本书专注于 AI（人工智能）的 Python实现，而不是 Python本身。本书使用 Python 3来构建各种应用程序，专注于如何以最好的方式利用各种 Python库来构建真实世界的应用程序。本着这样的精神，尽力使所有的代码尽可能无误易懂，这将使读者能够轻松理解代码，并在不同的场景中使用它。本书读者对象本书面向那些希望使用深度学习算法来创建真实 Python应用程序的机器学习专业人士。对机器学习概念和 Python库（如 NumPy、SciPy和 Scikit-learn）有深入的理解。此外，还需要具备线性代数和微积分的基本知识。约定惯例在本书中，读者将看到许多区分不同类型信息的文本样式。下面是这些样式的一些例子，以及对其含义的解释。文本、数据库表名、文件夹名、文件名、文件扩展名、路径名、虚拟 URL、用户输入和 Twitter句柄中的代码字如下所示：“为提供虚拟数据集，将使用 numpy和以下代码”。设置如下一段代码：任意命令行的输入或输出如下：新术语和关键词以黑体显示。在屏幕上看到的单词，例如菜单或对话框，就会像这样出现在文本中：警告或重要关注。提示和技巧图标。读者反馈欢迎读者反馈意见。让作者了解读者对本书的看法，喜欢什么或不喜欢什么。读者反馈对于作者开发真正让读者受益的主题非常重要。若要给作者反馈意见，只需发送邮件到 feedback@packtpub.com，并在邮件标题中注明书名。如果有读者擅长的主题或有兴趣参与撰写或出版的书籍，请查看 www.packtpub.com/ authors上的作者指南。用户支持既然读者购买了 Packt出版社出版的书籍，那么出版社将会帮助读者获得最大收益。示例代码下载读者可以在 http://www.packtpub.com上根据账户下载本书的示例代码。如果想要购买本书电子版，可以访问 http://www.packtpub.com/support并注册，将直接通过电子邮件发送给读者。下载代码文件步骤如下： 1）通过邮件地址和密码在网站上登录或注册。 2）鼠标指向顶部的 SUPPORT选项。 3）单击 Code Downloads & Errata。 4）在 Search框中输入书名。 5）选择想要下载代码文件的书籍。 6）在下拉菜单中选择购买本书的方式。 7）单击 Code Download。下载完成后，请用以下软件最新版本来解压文件夹： . WinRAR / 7-Zip for Windows。 . Zipeg / iZip / UnRarX for Mac。 . 7-Zip / PeaZip for Linux。本书的代码包还托管在 GitHub上，https://github.com/PacktPublishing/Hands-On-Deep-Learning-with-TensorFlow。另外在 https://github.com/PacktPublishing/上的大量图书和视频目录中还有其他代码