神经网络与深度学习

   本书主要介绍神经网络与深度学习的相关知识点，注重分析神经网络与深度学习的基本概念、基本原理和网络结构，并对主要算法及其应用展开讨论及阐述。
全书分为两部分：基础知识篇与网络应用篇。基础知识篇介绍了神经网络与深度学习的概念及发展，神经网络与深度学习相关的数学基础知识，神经网络、卷积神经网络与自编码器等基础算法原理及其特点。网络应用篇对深度学习及计算机视觉领域的主要应用进行剖析，从图像分类、语义分割、目标检测等方面对典型算法进行详细介绍。全书内容体系完整、层次分明，结合深度学习的近期新技术进展，帮助读者更深入地了解深度学习的算法原理及使用方法。
本书主要面向高校人工智能及相关专业的学生，也可供从事相关领域工作的工程技术人员参考使用。

前言
基础知识篇
第1章绪论
1.1人工智能相关概念
1.2神经网络算法发展及应用
1.2.1神经网络结构
1.2.2神经网络的发展及应用
1.3深度学习算法的发展及应用
1.3.1卷积神经网络技术的发展
1.3.2自编码器的发展
习题
第2章神经网络模型
2.1神经网络模型构成
2.1.1神经元模型
2.1.2感知器
2.2BP神经网络
2.2.1BP神经网络结构
2.2.2改进的BP神经网络
习题
第3章相关数学基础知识
3.1矩阵
3.1.1基本概念
3.1.2矩阵运算
3.2范数
3.3卷积运算
3.4激活函数
3.4.1线性激活函数
3.4.2非线性激活函数
3.5信息熵
习题
第4章卷积神经网络
4.1卷积神经网络原理
4.2LeNet
4.2.1分层结构
4.2.2反向传播
4.3A1exNet
4.3.1网络结构
4.3.2网络特点
习题
第5章卷积神经网络扩展机制
5.1注意力机制
5.1.1注意力机制的分类
5.1.2深度学习中的注意力机制
5.2卷积变体
5.2.1分组卷积
5.2.2深度可分离卷积
5.2.3膨胀卷积
5.2.4全卷积网络
5.2.5可变形卷积
习题
第6章深度学习中涉及的相关网络
6.1循环神经网络
6.1.1网络结构
6.1.2RNN的类型
6.1.3RNN反向传播
6.2LSTM
6.2.1遗忘门
6.2.2输入门
6.2.3细胞更新
6.2.4输出门
6.3生成式对抗网络
6.3.1前向传播过程
6.3.2优化训练过程
6.4特征金字塔网络
6.4.1基本概念
6.4.2特征金字塔的应用
习题
第7章自编码器
7.1相关概念
7.2自编码器原理
713自编码器的拓展网络
7.3.1稀疏自编码器
7.3.2栈式自编码器
7.3.3其他自编码器
习题
第8章损失函数与优化算法
8.1正则化与归一化
8.1.1参数范数惩罚
8.1.2Dropout
8.1.3归一化
8.2损失函数
8.2.1交叉熵损失函数
8.2.2其他损失函数
8.3基于梯度的优化方法
8.3.1基本算法
8.3.2自适应学习率算法
习题
第9章深度学习中的相关问题
9.1拟合
9.1.1数据增强
9.1.2正则化
9.2梯度消失和梯度爆炸
9.3卷积神经网络的压缩
9.3.1核的稀疏化
9.3.2剪枝
9.3.3模型量化
9.3.4模型蒸馏
习题
第10章深度学习中的性能指标
10.1分类指标
10.2指标曲线
10.2.1ROC曲线
10.2.2如何画ROC曲线
10.2.3AUC
10.3分割指标
10.3.1分割指标概述
10.3.2常用的几种分割指标
10.4模型复杂度
10.4.1参数量
10.4.2计算量
习题
网络应用篇
第11章图像数据集
11.1图像分类数据集
11.2语义分割数据集
11.3细粒度图像分类通用数据集
11.4目标变化检测数据集
第12章典型卷积神经网络
12.1GoogLeNet网络
12.2ResNet网络
12.3ShuffieNet网络
12.4Mobi1eNet网络
12.4.1网络结构
12.4.2Mobi1eNetV2
12.4.3Mobi1eNetV3
第13章基于深度学习的语义分割算法
13.1传统语义分割算法
13.2典型卷积语义分割算法
13.2.1全卷积类语义分割网络
13.2.2金字塔类语义分割网络
13.2.3注意力机制类语义分割网络
13.3PSPNet程序分析与实现
13.3.1数据集处理
13.3.2主干网搭建
13.3.3PSPNet搭建
第14章基于深度学习的目标检测
14.1两阶段目标检测算法
14.1.1R-CNN算法框架
14.1.2FasterR-CNN算法
14.2端到端目标检测方法
14.2.1YOL0系列算法
14.2.2FCOS
14.3YOLOV3目标检测程序分析与实现
14.3.1数据读取
14.3.2模块搭建
14.3.3程序训练与测试
第15章基于深度学习的细粒度图像分类模型
15.1细粒度图像分类模型
15.1.1基于高阶编码形式
15.1.2基于网络集成的方法
15.1.3基于定位.识别的方法
15.2基于定位.识别方法的程序分析与实现
15.2.1数据集处理
15.2.2主干网络搭建
15.213WS.DAN网络搭建
第16章基于深度学习的实例分割算法
16.1典型实例分割算法
16.1.1MaskR-CNN
16.1.2Po1arMask
……