深度学习与图像分析——基础与应用

本书分基础和应用两个部分深入介绍了深度学习应用于图像分析的基本概念、方法和技术。在基础部分，第1章介绍了神经网络与深度学习基础知识，在此基础上，第2、3、4、5章分别深入讨论了近年来深度学习在图像分类、对象检测、语义分割及图像生成等应用领域的相关技术和方法。在每个应用领域下，对相关技术和方法的核心思想与进化历程及发展脉络进行详细梳理和分析阐述，并对每个应用主题下的方法的性能进行了深入的比较与评价。在应用部分，第6、7、8、9、10章分别介绍了本研究团队应用深度学习技术进行车道线检测、火灾检测、视频隐写分析、病虫害检测以及虚假图像识别的方法和技术，在每个章节中详细阐述了所提出方法的背景及原理、模型设计与实现并对其性能进行了详细的实验与分析。本书既是一本专著，也可以作为高等学校计算机、电子信息、自动化及其他相关专业研究生及高年级本科生的深度学习与图像分析入门书籍，还可供从事图像分析、深度学习、计算机视觉等相关专业的科技工作者参考。

前言
第一部分基础部分
第1章神经网络与深度学习基础知识3
1.1神经元模型与感知机3
1.2从感知机到神经网络——激活函数的引入6
1.3从神经网络到深度学习网络12
1.4深度学习网络示例16
1.5深度学习网络训练过程20
1.5.1数据集的准备20
1.5.2常用损失函数的介绍与比较21
1.5.3基于数值微分计算损失函数关于网络参数的梯度23
1.5.4基于误差反向传播算法计算损失函数关于网络参数的梯度25
1.5.5基于随机梯度下降算法实现网络参数更新29
1.5.6基于动量法实现网络参数更新30
1.5.7基于自适应梯度算法实现网络参数更新31
1.5.8基于自适应矩估计算法实现网络参数更新32
1.6深度学习常用工具介绍与比较32
1.6.1TensorFlow框架介绍与实例32
1.6.2Caffe框架介绍与实例35
1.6.3MXNet框架介绍与实例38
1.6.4Keras框架介绍与实例39
1.6.5PyTorch框架介绍与实例40
1.6.6各框架性能比较与评价41
1.7本章小结41
参考文献42
第2章基于深度学习的图像分类算法核心思想与算法进化44
2.1图像分类基础概念与原理44
2.2基于深度学习的图像分类算法的诞生与发展46
2.2.1基于深度学习的图像分类算法的诞生——LeNet546
2.2.2开创基于深度学习图像分类算法的新局面——AlexNet47
2.2.3基于小卷积核的图像分类算法——VGGNet49
2.2.4基于*优局部稀疏结构的图像分类算法——Inception系列50
2.2.5基于恒等映射残差单元的图像分类算法——ResNet54
2.2.6基于聚合转换残差单元的图像分类算法——ResNeXt55
2.2.7基于多层密集连接的图像分类算法——DenseNet57
2.2.8基于特征通道重标定的图像分类算法——SENet59
2.2.9基于通道压缩与扩展的图像分类算法——SqueezeNet61
2.2.10基于深度可分离卷积的图像分类算法——MobileNet63
2.2.11基于逐点群卷积与通道混洗的图像分类算法——ShuffleNet65
2.2.12基于神经架构自动搜索的图像分类算法——NASNet67
2.3算法评价与性能比较68
2.3.1常用数据集介绍69
2.3.2评价指标69
2.3.3性能比较与算法评价70
2.4本章小结70
参考文献71
第3章基于深度学习的目标检测算法核心思想及优化过程73
3.1目标检测基础概念与原理73
3.2基于深度学习的目标检测算法的提出与优化74
3.2.1少有基于卷积神经网络的目标检测算法——R-CNN75
3.2.2基于空间金字塔池化的目标检测算法——SPPNet76
3.2.3基于R-CNN和SPPNet改进的目标检测算法——FastR-CNN78
3.2.4基于卷积提取候选区域的R-CNN——FasterR-CNN79
3.2.5基于语义分割和FasterR-CNN的目标检测网络——MaskR-CNN82
3.2.6一步式目标检测算法的提出——YOLO系列84
3.2.7基于特征金字塔的目标检测算法——FPN91
3.2.8基于单发细化目标的检测算法——RefineDet92
3.2.9基于主干架构搜索的目标检测算法——DetNAS94
3.2.10基于神经架构搜索的目标检测算法——NAS-FPN96
3.3性能比较99
3.4本章小结106
参考文献106
第4章基于深度学习的语义分割算法的本质与革新109
4.1语义分割基础概念与原理109
4.2基于深度学习的语义分割算法的提出与改进110
4.2.1少有基于深度学习的语义分割算法——FCN111
4.2.2基于深度编解码结构的语义分割算法——SegNet112
4.2.3基于空洞卷积的语义分割算法——dilateconvolution114
4.2.4基于金字塔池化聚合多尺度信息的语义分割算法——PSPNet115
4.2.5基于卷积神经网络与条件随机场的语义分割算法——DeepLab-v1117
4.2.6基于空洞空间金字塔池化与条件随机场的语义分割算法——DeepLab-v2119
4.2.7基于级联空洞卷积与并行多空洞率金字塔池化的语义分割算法——DeepLab-v3120
4.2.8基于深度可分离卷积与并行多空洞率金字塔池化的语义分割算法——DeepLab-v3+121
4.2.9基于多路径优化的语义分割算法——RefineNet123
4.2.10基于注意力优化与特征融合的语义分割算法——BiSeNet125
4.2.11基于增强特征融合的语义分割算法——ExFuse126
4.2.12基于双路注意力机制的语义分割算法——DANet129
4.3算法评价与性能比较131
4.3.1常用数据集介绍131
4.3.2评价指标132
4.3.3性能比较与算法评价133
4.4本章小结133
参考文献134
第5章基于深度学习的图像生成算法原理及发展136
5.1图像生成基础136
5.2基于深度学习的图像生成算法的提出与发展138
5.2.1生成对抗网络的提出——GAN138
5.2.2基于条件约束的生成对抗网络——CGAN140
5.2.3基于深度卷积的生成对抗网络——DCGAN141
5.2.4基于*小二乘法的生成对抗网络——LSGAN142
5.2.5基于Wasserstein距离的生成对抗网络——WGAN142
5.2.6从能量的角度理解GAN——EBGAN143
5.2.7实现图像到图像翻译的生成对抗网络——PIX2PIX144
5.2.8基于两领域图像风格转换的生成对抗网络——CycleGAN145
5.2.9基于多领域图像生成的生成对抗网络——StarGAN146
5.2.10基于神经架构搜索的生成对抗网络——AutoGAN148
5.3性能比较150
5.4本章小结155
参考文献156
第二部分应用部分
第6章基于非对称卷积块架构增强和通道特征选择机制的车道线检测算法159
6.1引言159
6.2相关研究现状160
6.2.1基于深度学习的车道线检测160
6.2.2注意力机制161
6.2.3生成对抗网络161
6.3非对称卷积与通道特征选择机制网络模型162
6.3.1卷积下采样单元162
6.3.2转置卷积上采样单元163
6.3.3非对称卷积模型164
6.3.4双通道注意力机制165
6.3.5通道选择机制166
6.4网络结构167
6.5模型实现169
6.5.1数据加载169
6.5.2模型的构建170
6.5.3训练和测试175
6.6性能分析与讨论177
6.6.1数据准备177
6.6.2模型训练178
6.6.3结果与分析178
6.7本章小结181
参考文献181
第7章基于多尺度特征提取和重用及特征重标定的高效火灾检测方法184
7.1引言184
7.2相关研究现状185
7.3高效的火灾检测模型187
7.3.1多尺度特征提取188
7.3.2多尺度特征重用189
7.3.3特征重标定190
7.3.4特征分类191
7.3.5模型设计过程191
7.4模型实现193
7.4.1数据加载193
7.4.2模型定义195
7.4.3模型训练198
7.5性能分析与讨论200
7.5.1数据准备200
7.5.2模型训练201
7.5.3实验结果与分析201
7.6本章小结205
参考文献205
第8章基于噪声残差卷积神经网络的运动矢量和帧内预测模式调制信息隐藏通用检测方法209
8.1引言209
8.2相关研究现状210
8.3卷积神经网络用于信息隐藏检测的合理性211
8.4噪声残差卷积神经网络模型212
8.4.1残差卷积层214
8.4.2卷积层215
8.4.3激活函数216
8.4.4隐写残差单元217
8.4.5池化层218
8.4.6全连接层219
8.4.7批量标准化219
8.5模型实现219
8.5.1数据加载219
8.5.2模型定义220
8.5.3模型训练224
8.6性能分析与讨论226
8.6.1数据准备226
8.6.2模型训练227
8.6.3结果与分析227
8.7本章小结233
参考文献234
第9章基于多尺度特征融合和注意力机制的病虫害检测239
9.1引言239
9.2相关研究现状240
9.2.1病虫害识别与检测240
9.2.2语义分割技术241
9.3基于多尺度特征融合及注意力机制的病虫害检测模型242
9.3.1编码器243
9.3.2解码器247
9.4模型实现250
9.4.1数据加载250
9.4.2模型定义251
9.4.3模型训练256
9.5性能分析与讨论257
9.5.1数据准备257
9.5.2模型训练258
9.5.3评价指标259
9.5.4烧蚀实验结果与分析259
9.5.5与现有语义分割算法的比较262
9.6本章小结263
参考文献263
第10章基于深度学习的GAN生成虚假图像检测方法267
10.1引言267
10.2相关研究现状268
10.3基于宽度拓展的虚假图像检测卷积神经网络模型269
10.3.1网络宽度拓展271
10.3.2深层残差特征学习273
10.4模型实现274
10.4.1数据加载274
10.4.2模型定义275
10.4.3模型训练281
10.5性能分析与讨论282
10.5.1数据准备282
10.5.2模型训练284
10.5.3评价指标284
10.5.4烧蚀实验结果与分析284
10.5.5与现有方法的比较结果286
10.6本章小结286
参考文献287