深度学习原理与TensorFlow实践

 

本书介绍了深度学习原理与TensorFlow实践。着重讲述了当前学术界和工业界的深度学习核心知识：机器学习概论、神经网络、深度学习。着重讲述了深度学习的实现以及深度学习框架TensorFlow：Python编程基础、TensorFlow编程基础、TensorFlow模型、TensorFlow编程实践、TensorFlowLite和TensorFlow.js、TensorFlow案例——医学应用和Seq2Seq+attention模型及其应用案例。本书优选特色是既有由浅入深的理论知识，又有从入门到高深的应用编程的技术知识。本书涵盖了深度学习的理论、Python编程语言以及TensorFlow编程知识和代码解读，为深度学习初学者以及进阶人员提供了详尽的必要知识。本书可用于大学本科生高年级以及研究生人工智能教材，也可作为应用领域技术人员、工程技术人员和科学研究工作者的参考资料。

黄理灿，浙江理工大学网络与分布式计算研究所所长，曾任浙江省信息化促进会理事长，International Conference on Networking and Distributed Computing(ICNDC)网络与分布式计算国际会议主席。一直从事网络与分布式计算研究。IEEE高级会员，域搜云平台创始人。

第1章绪论1
1.1引言2
1.2深度学习的发展历程3
1.3TensorFlow应用现状5
习题6
第2章机器学习概论7
2.1机器学习相关的数学知识8
2.1.1微积分8
2.1.2线性代数11
2.1.3概率论14
2.2机器学习方法15
2.2.1监督学习16
2.2.2无监督学习24
2.2.3半监督学习26
2.2.4强化学习28
2.3数据的预处理方法31
习题34
第3章神经网络35
3.1神经网络基础知识36
3.1.1MP模型36
3.1.2感知机38
3.1.3三层感知机41
3.2神经网络模型53
3.2.1径向基函数网络54
3.2.2Hopfield神经网络56
3.2.3Elman神经网络56
3.2.4玻尔兹曼机57
3.2.5自动编码器60
3.2.6生成对抗网络62
习题64
第4章深度学习65
4.1多层感知机神经网络66
4.2激活函数、损失函数和过拟合71
4.2.1激活函数71
4.2.2损失函数（代价函数）74
4.2.3防止过拟合78
4.3卷积神经网络80
4.3.1卷积神经网络原理81
4.3.2*卷积神经网络BP算法的数学推导86
4.4循环神经网络89
4.4.1循环神经网络模型原理90
4.4.2*BPTT算法91
4.4.3双向循环神经网络95
4.4.4深度循环神经网络96
4.4.5长短时记忆网络96
4.4.6门控循环单元网络98
4.5深度置信网络99
4.5.1RBM原理99
4.5.2RBM求解算法100
4.5.3对比散度算法101
4.5.4*公式推导101
4.5.5深度置信网络训练105
4.6深度学习框架106
4.6.1TensorFlow107
4.6.2Caffe107
4.6.3Theano108
4.6.4Keras109
习题110
第5章Python编程基础111
5.1Python环境搭建112
5.1.1Python安装112
5.1.2JupyterNotebook编程器安装使用112
5.2Python编程基础知识117
5.2.1Python标识符117
5.2.2Python标准数据类型118
5.2.3Python语句118
5.2.4Python运算符119
5.2.5代码组121
5.2.6Python流程控制122
5.2.7Python函数123
5.2.8Python模块126
5.2.9Python类127
5.2.10命名空间和作用域131
5.3Python标准库132
5.4Python机器学习库132
5.4.1NumPy132
5.4.2Scipy140
5.4.3Pandas143
5.4.4Scikit-learn148
习题153
第6章TensorFlow编程基础155
6.1TensorFlow的发展历程与演进156
6.2TensorFlow的搭建配置158
6.2.1在Windows系统环境下安装TensorFlow158
6.2.2在MacOS系统环境下安装TensorFlow158
6.2.3在Linux系统环境下安装TensorFlow159
6.3TensorFlow编程基础知识159
6.3.1张量159
6.3.2符号式编程160
6.3.3变量和常量161
6.3.4会话（Session）161
6.3.5占位符（placeholder）、获取（Fetch）和馈送（Feed）162
6.3.6Variable类163
6.3.7常量、序列以及随机值164
6.3.8执行图（RunningGraphs）166
6.3.9操作运算167
6.3.10基本数学函数170
6.3.11矩阵数学函数171
6.3.12张量数学函数176
6.3.13张量Reduction操作176
6.3.14累加和累积179
6.3.15张量拆分操作179
6.3.16序列比较与索引182
6.3.17张量数据类型转换183
6.3.18TensorFlow张量形状的确定与改变184
6.4TensorFlow系统架构及源码结构185
6.5EagerExecution188
6.6TensorFlow示例代码189
6.6.1简单回归拟合189
6.6.2波士顿房价预测191
习题193
第7章TensorFlow模型194
7.1TensorFlow模型编程模式195
7.1.1tf.nn模块195
7.1.2tf.layers模块207
7.1.3tf.estimator模块210
7.1.4tf.keras模块211
7.2读取数据212
7.2.1载入数据212
7.2.2创建迭代器214
7.2.3使用dataset数据216
7.3TensorFlow模型搭建218
7.4TensorFlow模型训练220
7.4.1损失函数——tf.losses模块220
7.4.2优化器——tf.train模块220
7.4.3训练示例222
7.5TensorFlow评估222
7.5.1评价指标222
7.5.2评估函数——tf.metrics模块225
7.6TensorFlow模型载入、保存及调用227
7.7可视化分析和评估模型229
7.7.1tf.summary模块229
7.7.2TensorBoard可视化评估工具229
7.7.3TensorBoard使用案例230
7.8示例——鸢尾花分类239
习题242
第8章TensorFlow编程实践243
8.1MNIST手写数字识别244
8.1.1使用tf.nn模块实现MNIST手写数字识别245
8.1.2使用tf.estimator模块实现MNIST手写数字识别248
8.2FashionMNIST253
8.2.1Keras序列模型253
8.2.2FashionMNIST代码259
8.3RNN简笔画识别265
习题275
第9章TensorFlowLite和TensorFlow.js276
9.1TensorFlowLite.277
9.1.1转化训练好的模型为.tflite文件278
9.1.2编写自定义操作代码279
9.1.3在TensorFlowLite的移动端进行安卓开发280
9.1.4在TensorFlowLite的移动端进行iOS开发283
9.2TensorFlow.js284
9.2.1TensorFlow.jsJavaScript库引入284
9.2.2TensorFlow.js基础知识285
9.2.3TensorFlow.js示例289
习题302
第10章TensorFlow案例——医学应用303
10.1开源医学图像分析平台DLTK的安装运行304
10.2开源医学图像分析平台DLTK的使用305
10.3开源医学图像分析平台DLTK案例310
10.4开源医学图像分析平台DLTK模型312
习题323
第11章Seq2Seqattention模型及其应用案例324
11.1Seq2Seq和attention模型325
11.2TensorFlow自动文本摘要生成327
11.2.1TextSum安装运行328
11.2.2TextSum整体结构329
11.3聊天机器人350
11.3.1DeepQA350
11.3.2Stanford TensorFlow Chatbot356
习题356