Python迁移学习

1. 快速掌握知识点 本书能带你厘清机器学习和深度学习的关键基本概念，对重要的深度学习架构进行描述，卷积神经网络、深度神经网络、递归神经网络、长短时记忆神经网络以及胶囊网络都有所涉及。 2. 用实操夯实迁移学习理论 通过阅读本书，读者能够深刻理解迁移学习的相关概念，并结合相关的编程案例掌握模型冻结、模型调优、预训练模型（包括VGG模型、Inception模型和ResNet模型）等。 3. 掌握实用技能 本书集中讨论了大量现实世界中不同领域的案例和问题，例如计算机视觉、音频分析以及自然语言处理。

迁移学习是机器学习技术的一种，它可以从一系列机器学习问题的训练中获得知识，并将这些知识用于训练其他相似类型的问题。本书分为3个部分：第1部分是深度学习基础，介绍了机器学习的基础知识、深度学习的基础知识和深度学习的架构；第2部分是迁移学习精要，介绍了迁移学习的基础知识和迁移学习的威力；第3部分是迁移学习案例研究，介绍了图像识别和分类、文本文档分类、音频事件识别和分类、DeepDream算法、风格迁移、自动图像扫描生成器、图像着色等内容。本书适合数据科学家、机器学习工程师和数据分析师阅读，也适合对机器学习和迁移学习感兴趣的读者阅读。在阅读本书之前，希望读者对机器学习和Python编程有基本的掌握。

 

第1部分深度学习基础
第1章机器学习基础2
1.1什么是机器学习3
1.1.1机器学习的正式定义4
1.1.2浅层学习和深度学习4
1.2机器学习算法5
1.2.1监督学习6
1.2.2无监督学习9
1.3CRISP-DM11
1.3.1业务理解12
1.3.2数据理解12
1.3.3数据准备13
1.3.4建模13
1.3.5评估13
1.3.6部署14
1.4标准机器学习工作流14
1.4.1数据检索15
1.4.2数据准备15
1.4.3建模16
1.4.4模型评估和调优17
1.4.5部署和监控21
1.5探索性数据分析22
1.6特征提取和特征工程29
1.7特征选择33
1.8总结34
第2章深度学习精要35
2.1什么是深度学习35
2.2深度学习框架37
2.3创建一个支持GPU的云端深度学习环境40
2.3.1选择一个云供应商41
2.3.2设置虚拟服务器41
2.3.3配置虚拟服务器45
2.3.4安装和升级深度学习依赖项47
2.3.5访问深度学习云环境52
2.3.6在深度学习环境中验证启用GPU53
2.4创建一个支持GPU的、健壮的内部深度学习环境55
2.5神经网络基础55
2.5.1一个简单的线性神经元55
2.5.2基于梯度的很优化问题56
2.5.3雅可比矩阵和海森矩阵60
2.5.4导数的链式法则61
2.5.5随机梯度下降法61
2.5.6非线性神经单元64
2.5.7学习一个简单的非线性单元——逻辑单元66
2.5.8损失函数67
2.5.9数据表示68
2.5.10多层神经网络71
2.5.11反向传播——训练深度神经网络73
2.5.12神经网络学习中的挑战75
2.5.13模型参数初始化78
2.5.14提升SGD80
2.5.15神经网络的过拟合和欠拟合81
2.5.16神经网络的超参数84
2.6总结85
第3章理解深度学习架构86
3.1神经网络架构86
3.2各种神经网络架构88
3.2.1多层感知机和深度神经网络88
3.2.2自编码神经网络88
3.2.3变分自编码器89
3.2.4生成式对抗网络91
3.2.5卷积神经网络93
3.2.6胶囊网络103
3.2.7递归神经网络107
3.2.8记忆神经网络114
3.2.9神经图灵机117
3.2.10基于注意力的神经网络模型121
3.3总结122
第2部分迁移学习精要
第4章迁移学习基础124
4.1迁移学习简介124
4.2迁移学习策略127
4.3迁移学习和深度学习129
4.3.1迁移学习方法论130
4.3.2预训练模型131
4.3.3应用131
4.4深度迁移学习类型132
4.4.1领域适应132
4.4.2领域混淆132
4.4.3多任务学习133
4.4.4一次性学习133
4.4.5零样本学习134
4.5迁移学习的挑战134
4.5.1负向迁移134
4.5.2迁移边界135
4.6总结135
第5章释放迁移学习的威力136
5.1迁移学习的必要性137
5.1.1阐述现实世界问题137
5.1.2构建数据集138
5.1.3描述方法140
5.2从零开始构建CNN模型140
5.2.1基本CNN模型143
5.2.2正则化的CNN模型146
5.2.3图像增强的CNN模型148
5.3使用预训练的CNN模型利用迁移学习153
5.3.1理解VGG-16模型154
5.3.2作为特征提取器的预训练CNN模型156
5.3.3作为特征提取器并使用图像增强的预训练CNN模型162
5.3.4使用微调和图像增强的预训练CNN模型164
5.4评估我们的深度学习模型168
5.4.1模型在一个样本测试图像上进行预测168
5.4.2将CNN模型的感知可视化170
5.4.3在测试数据上评估模型性能174
5.5总结177
第3部分迁移学习案例研究
第6章图像识别和分类180
6.1基于深度学习的图像分类180
6.2基准数据集181
6.3很优选的深度图像分类模型182
6.4图像分类和迁移学习183
6.4.1CIFAR-10数据集183
6.4.2犬种鉴定数据集189
6.5总结199
第7章文本文档分类200
7.1文本分类201
7.1.1传统文本分类201
7.1.2BoW模型的缺点202
7.1.3基准数据集203
7.2单词表示形式204
7.2.1Word2vec模型204
7.2.2使用gensim框架的Word2vec模型205
7.2.3GloVe模型208
7.3CNN文档模型210
7.3.1构建一个评论情感分类器216
7.3.2哪些单词嵌入变化优选220
7.3.3迁移学习在IMDB数据集中的应用220
7.3.4使用Wordvec嵌入在完整的IMDB数据集上进行训练223
7.3.5使用CNN模型创建文档摘要224
7.3.6使用CNN模型进行多类别分类228
7.3.7文档嵌入可视化231
7.4总结233
第8章音频事件识别和分类234
8.1理解音频事件分类235
8.2音频事件的探索性分析236
8.3音频事件的特征工程和表示方法245
8.4使用迁移学习进行音频事件分类249
8.4.1根据基本特征构建数据集250
8.4.2利用迁移学习进行特征提取251
8.4.3构建分类模型253
8.4.4评估分类器的性能257
8.5构建一个深度学习音频事件识别器260
8.6总结263
第9章DeepDream264
9.1介绍264
9.1.1计算机视觉中的算法幻想性视错觉265
9.1.2可视化特征图267
9.2DeepDream算法273
9.3总结277
第10章风格迁移278
10.1理解神经风格迁移279
10.2图像预处理方法280
10.3构建损失函数282
10.3.1内容损失282
10.3.2风格损失283
10.3.3总变差损失283
10.3.4总体损失函数284
10.4创建一个自定义优化器285
10.5风格迁移实战286
10.6总结290
第11章自动图像扫描生成器291
11.1理解图像描述292
11.2明确目标293
11.3理解数据294
11.4构建自动图像描述系统的方法295
11.4.1概念方法295
11.4.2实际动手的方法299
11.5使用迁移学习的图像特征提取301
11.6为描述构建一个词汇表306
11.7构建一个图像描述数据集生成器308
11.8构建图像语言编码器-解码器深度学习模型314
11.9训练图像描述深度学习模型316
11.10评估图像描述深度学习模型320
11.10.1加载数据和模型320
11.10.2理解贪婪搜索和集束搜索321
11.10.3实现一个基于集束搜索的描述生成器321
11.10.4理解并实现BLEU分数323
11.10.5在测试数据上评估模型性能324
11.11自动图像描述实战327
11.11.1户外场景样本图像描述329
11.11.2流行运动样本图像描述332
11.11.3未来的改进空间334
11.12总结334
第12章图像着色335
12.1问题陈述336
12.2彩色图像336
12.2.1颜色理论337
12.2.2颜色模型和颜色空间337
12.2.3重审问题陈述339
12.3构建一个着色深度神经网络341
12.3.1预处理341
12.3.2损失函数342
12.3.3编码器343
12.3.4迁移学习——特征提取344
12.3.5融合层344
12.3.6解码器345
12.3.7后处理347
12.3.8训练和结果348
12.4挑战350
12.5进一步改进350
12.6总结350