深度学习基础教程

深度学习是当前的人工智能领域的技术热点。本书面向高等院校理工科专业学生的需求，介绍深度学习相关概念，培养学生研究、利用基于各类深度学习架构的人工智能算法来分析和解决相关专业问题的能力。本书内容包括深度学习概述、人工神经网络基础、卷积神经网络和循环神经网络、生成对抗网络和深度强化学习、计算机视觉以及自然语言处理。本书适合作为高校理工科相关专业深度学习、人工智能相关课程的教材，也适合作为技术人员的参考书或自学读物。

前言
第1章深度学习概述1
1.1深度学习的发展历程1
1.1.1深度学习的历史1
1.1.2深度学习领域的重要人物5
1.2深度学习的关键技术7
1.2.1深度学习的机理7
1.2.2深度学习的三要素8
1.2.3数据的特征9
1.2.4深度学习的主要模型10
1.2.5深度学习模型的训练过程11
1.2.6深度学习模型的学习方式12
1.2.7深度学习的常用框架14
1.3深度学习网络的发展脉络及应用领域18
1.3.1深度学习网络的发展脉络18
1.3.2深度学习的应用领域19
课后习题21
参考文献22
第2章人工神经网络基础24
2.1人工神经网络的生物学基础24
2.1.1神经元的基本模型24
2.1.2突触的结构26
2.2人工神经元模型26
2.2.1人工神经元的数学模型26
2.2.2常见的人工神经元模型30
2.3人工神经网络模型34
2.3.1神经网络的基本结构34
2.3.2神经网络的分类36
2.4神经网络的前向传播机制39
2.5神经网络的反向传播机制40
2.6基于反向传播算法的神经网络设计流程43
2.7人工神经网络的参数优化问题45
2.7.1神经网络层数的优化问题45
2.7.2归一化指数函数softmax47
2.7.3学习率49
2.7.4欠拟合和过拟合问题50
课后习题52
参考文献53
第3章卷积神经网络和循环神经网络54
3.1卷积神经网络54
3.1.1卷积神经网络的基本概念54
3.1.2卷积神经网络的结构58
3.1.3卷积神经网络的常用架构65
3.2循环神经网络72
3.2.1循环神经网络的基本概念72
3.2.2循环神经网络的应用——语言模型77
3.2.3循环神经网络的梯度问题及解决方法80
3.2.4循环神经网络的改进84
课后习题87
参考文献89
第4章生成对抗网络和深度强化学习92
4.1生成对抗网络92
4.1.1生成对抗网络概述92
4.1.2生成对抗网络的基本原理94
4.1.3几种改进的生成对抗网络模型99
4.1.4生成对抗网络的应用103
4.2强化学习106
4.2.1强化学习概述106
4.2.2强化学习的决策过程108
4.2.3Q-Learning算法111
4.2.4深度强化学习112
课后习题118
参考文献119
第5章计算机视觉121
5.1计算机视觉概述121
5.1.1计算机视觉的历史122
5.1.2计算机视觉的挑战与机遇123
5.1.3计算机视觉常见的数据集125
5.1.4计算机视觉处理的基本流程130
5.2图像预处理131
5.2.1图像去噪131
5.2.2图像归一化133
5.2.3图像分割技术134
5.3计算机视觉常用的网络结构136
5.3.1图像分类常用的深度学习网络结构136
5.3.2视频分类常用的深度学习网络结构140
5.3.3目标检测常用的深度学习网络结构144
课后习题152
参考文献154
第6章自然语言处理156
6.1自然语言处理概述156
6.1.1发展历史157
6.1.2自然语言处理的过程158
6.1.3基础技术160
6.1.4词嵌入算法162
6.1.5N-gram语言模型166
6.1.6注意力机制167
6.2自然语言处理的应用模型171
6.2.1文本分类171
6.2.2自动文本摘要175
6.2.3自动问答系统178
6.2.4触发字检测181
课后习题182
参考文献183