解剖深度学习原理 从0编写深度学习库

深度学习是目前人工智能的核心技术，本书从原理到实现，结合实战案例介绍了深度学习的基本理论、网络结构、优化技术和实际应用。

本书深入浅出地介绍了深度学习的基本原理和实现过程，带领读者用Python的NumPy库从底层而不是借助现有的深度学习库，从0开始构建属于自己的深度学习库。本书在介绍基本的Python编程、微积分、概率、统计知识的基础上，按照深度学习的发展脉络介绍了回归模型、神经网络、卷积神经网络、循环神经网络、生成对抗网络等深度学习的核心知识，在深入浅出地剖析原理的同时，给出了详细的代码实现过程。本书既适合没有任何深度学习基础的初学者阅读，也适合具有深度学习库使用经验、想了解其底层实现原理的从业人员参考。同时，本书特别适合作为高等院校的深度学习教材。

"哈尔滨工业大学数学力学系应用数学本科、基础数学硕士，南京航空航天大学航空宇航制造工程专业博士。2008-2009年德州农工大学tamu访问学者，2016年休斯敦大学访问研究。从事过曲面造型、特征造型的算法研究和系统实现，开发过数控玻璃切割系统。在高校从事过高等数学、线性代数、概率统计、数据结构、C++编程语言、图形学、计算机网络等课程教学，目前主要研究方向：计算机图形学与计算机视觉、深度学习人工智能等。编著了《C++17从入门到精通》《Python 3从入门到实战》等书。 "

第1章 编程和数学基础
1.1 Python快速入门
1.1.1 快速安装Python
1.1.2 Python基础
1.1.3 Python中的常见运算
1.1.4 Python控制语句
1.1.5 Python常用容器类型
1.1.6 Python常用函数
1.1.7 类和对象
1.1.8 Matplotlib入门
1.2 张量库NumPy
1.2.1 什么是张量
1.2.2 创建ndarray对象
1.2.3 ndarray数组的索引和切片
1.2.4 张量的计算
1.3 微积分
1.3.1 函数
1.3.2 四则运算和复合运算
1.3.3 极限和导数
1.3.4 导数的四则运算和链式法则
1.3.5 计算图、正向计算和反向传播求导
1.3.6 多变量函数的偏导数与梯度
1.3.7 向量值函数的导数与Jacobian矩阵
1.3.8 积分
1.4 概率基础
1.4.1 概率
1.4.2 条件概率、联合概率、全概率公式、贝叶斯公式
1.4.3 随机变量
1.4.4 离散型随机变量的概率分布
1.4.5 连续型随机变量的概率密度
1.4.6 随机变量的分布函数
1.4.7 期望、方差、协方差、协变矩阵
第2章 梯度下降法
2.1 函数极值的必要条件
2.2 梯度下降法基础
2.3 梯度下降法的参数优化策略
2.3.1 Momentum法
2.3.2 AdaGrad法
2.3.3 AdaDelta法
2.3.4 RMSprop法
2.3.5 Adam法
2.4 梯度验证
2.4.1 比较数值梯度和分析梯度
2.4.2 通用的数值梯度
2.5 分离梯度下降法与参数优化策略
2.5.1 参数优化器
2.5.2 接受参数优化器的梯度下降法
第3章 线性回归、逻辑回归和softmax回归
3.1 线性回归
3.1.1 餐车利润问题
3.1.2 机器学习与人工智能
3.1.3 什么是线性回归
3.1.4 用正规方程法求解线性回归问题
3.1.5 用梯度下降法求解线性回归问题
3.1.6 调试学习率
3.1.7 梯度验证
3.1.8 预测
……
第4章 神经网络
第5章 改进神经网络性能的基本技巧
第6章 卷积神经网络
第7章 循环神经网络
第8章 生成模型
参考文献