生成式深度学习

学习如何通过变分自动编码器改变图像中人物的面部表情。学习如何构建GAN模型，包括风格迁移模型CycleGAN以及音乐生成模型MuseGAN。学习如何通过循环生成模型来生成文本，以及如何利用注意力机制改善模型。学习如何利用生成模型帮助智能体在强化学习环境中完成任务。探索Transformer（BERT、GPT-2），以及ProGAN和StyleGAN等图像生成模型的架构。

前言1
第一部分生成式深度学习概述
第1章生成建模11
1.1什么是生成建模？11
1.1.1生成建模与判别建模13
1.1.2机器学习的发展14
1.1.3生成建模的兴起15
1.1.4生成建模的框架18
1.2概率生成模型21
1.2.1你好，Wrodl！24
1.2.2你的第一个概率生成模型25
1.2.3朴素贝叶斯28
1.2.4你好，Wrodl！续篇31
1.3生成建模的难题33
表示学习34
1.4设置环境37
1.5小结40
第2章深度学习41
2.1结构化与非结构化数据41
2.2深度神经网络43
Keras和TensorFlow44
2.3第一个深度神经网络45
2.3.1加载数据46
2.3.2建立模型48
2.3.3编译模型52
2.3.4训练模型54
2.3.5评估模型55
2.4改进模型58
2.4.1卷积层58
2.4.2批标准化64
2.4.3Dropout层66
2.4.4结合所有层68
2.5小结71
第3章变分自动编码器73
3.1画展73
3.2自动编码器76
3.2.1第一个自动编码器77
3.2.2编码器78
3.2.3解码器80
3.2.4连接编码器与解码器82
3.2.5分析自动编码器84
3.3变化后的画展87
3.4构建变分自动编码器89
3.4.1编码器89
3.4.2损失函数94
3.4.3分析变分自动编码器97
3.5使用VAE生成面部图像98
3.5.1训练VAE99
3.5.2分析VAE102
3.5.3生成新面孔103
3.5.4隐空间的算术104
3.5.5面部变形106
3.6小结.107
第4章生成对抗网络108
4.1神秘兽108
4.2生成对抗网络简介111
4.3第一个生成对抗网络112
4.3.1判别器113
4.3.2生成器115
4.3.3训练GAN119
4.4GAN面临的难题125
4.4.1损失震荡125
4.4.2模式收缩126
4.4.3不提供信息的损失函数126
4.4.4超参数127
4.4.5解决GAN面临的难题127
4.5WGAN127
4.5.1Wasserstein损失128
4.5.2利普希茨约束130
4.5.3权重裁剪131
4.5.4训练WGAN132
4.5.5分析WGAN133
4.6WGAN-GP134
4.6.1梯度惩罚损失135
4.6.2分析WGAN-GP139
4.7小结140
第二部分教机器绘画、写作、作曲和玩游戏
第5章绘画145
5.1苹果和橙子146
5.2CycleGAN149
5.3第一个CycleGAN模型151
5.3.1简介151
5.3.2生成器（U-Net）153
5.3.3判别器157
5.3.4编译CycleGAN158
5.3.5训练CycleGAN161
5.3.6分析CycleGAN162
5.4创建一个模仿莫奈作品的CycleGAN164
5.4.1生成器（ResNet）165
5.4.2分析CycleGAN166
5.5神经风格迁移168
5.5.1内容损失169
5.5.2风格损失172
5.5.3总方差损失175
5.5.4运行神经风格迁移176
5.5.5分析神经风格迁移模型177
5.6小结178
第6章写作179
6.1坏家伙们的文学社180
6.2长短期记忆网络181
6.3第一个LSTM网络182
6.3.1分词183
6.3.2建立数据集185
6.3.3LSTM架构187
6.3.4嵌入层187
6.3.5LSTM层188
6.3.6LSTM元胞190
6.4生成新文本192
6.5RNN扩展196
6.5.1堆叠式循环网络196
6.5.2门控制循环单元198
6.5.3双向元胞200
6.6编码器-解码器模型200
6.7问答生成器203
6.7.1问答数据集204
6.7.2模型架构205
6.7.3推断210
6.7.4模型的结果212
6.8小结214
第7章作曲215
7.1前提知识216
音符216
7.2第一个生成音乐的RNN219
7.2.1注意力220
7.2.2使用Keras建立注意力机制222
7.2.3分析注意力RNN226
7.2.4编码器-解码器网络中的注意力232
7.2.5生成复音音乐236
7.3MuseGAN237
7.4第一个MuseGAN238
7.5MuseGAN生成器241
7.5.1和弦、风格、旋律和律动242
7.5.2小节生成器245
7.5.3汇总246
7.6评论者248
7.7分析MuseGAN249
7.8小结251
第8章玩游戏253
8.1强化学习254
OpenAIGym256
8.2世界模型架构257
8.2.1变分自动编码器258
8.2.2MDN-RNN259
8.2.3控制器260
8.3设定261
8.4训练过程概述262
8.5收集随机rollout数据263
8.6训练VAE266
8.6.1VAE架构268
8.6.2探索VAE270
8.7收集训练RNN的数据273
8.8训练MDN-RNN274
8.8.1MDN-RNN的架构275
8.8.2从MDN-RNN中采样下一个z和奖励276
8.8.3MDN-RNN的损失函数277
8.9训练控制器279
8.9.1控制器的架构280
8.9.2CMA-ES281
8.9.3并行CMA-ES283
8.9.4控制器训练的输出结果285
8.10在想象环境中训练286
8.10.1在想象环境中训练控制器288
8.10.2在想象环境中训练的挑战290
8.11小结291
第9章生成建模的未来292
9.1五年的进步292
9.2Transformer294
9.2.1位置编码295
9.2.2多头注意力297
9.2.3解码器299
9.2.4Transformer的分析299
9.2.5BERT301
9.2.6GPT-2301
9.2.7MuseNet302
9.3图像生成的进步303
9.3.1ProGAN303
9.3.2自我注意力GAN（SAGAN）305
9.3.3BigGAN306
9.3.4StyleGAN307
9.4生成建模的应用310
9.4.1AI艺术311
9.4.2AI音乐311
第10章总结314
作者介绍317
封面介绍317