飞桨PaddlePaddle深度学习实战/智能系统与技术丛书

（1）本书由百度官方出品，PaddlePaddle总架构师共同创作。 （2）百度公司CTO王海峰博士作序，张钹院士、李未院士、百度集团副总裁吴甜联袂推荐 （3）“内容全面、由浅入深、注重实践”，结合新近PaddlePaddle技术版本，详细讲解了PaddlePaddle的技术和原理，以及如何从零开始快速掌握深度学习。

本书由百度官方出品，百度首席技术官王海峰博士作序，张钹院士、李未院士、百度集团副总裁吴甜联袂推荐。 本书遵循“内容全面、由浅入深、注重实践”的原则，基于飞桨PaddlePaddle深度学习平台，较为全面地覆盖了学习深度学习技术所必须具备的基础知识以及深度学习主要核心技术，包括相关的数学基础、Python编程基础、机器学习基础以及正向/反向传播算法、卷积神经网络、循环神经网络等，尽量做到读懂一本书即可达到“零基础”到“全精通”。 在章节安排上，考虑读者的特点和认知规律，在知识架构和案例穿插的设计上确保循序渐进、由浅入深。同时，本书提供了大量的深度学习实战案例，覆盖了当前计算机视觉、自然语言处理、个性化推荐等领域主流应用典型的算法，每章都单独配以飞桨代码实现，详细解析实操过程，手把手引导读者开展实践练习，深入掌握相关知识。 本书提供配套代码合集，可扫描如下二维码获取相关内容。

刘祥龙 副教授，博士生导师，现任职于北京航空航天大学软件开发环境国家重点实验室，主要研究大数据检索、大规模视觉分析、可信赖深度学习等。近年来，主持国家自然科学基金、国防科技创新重点项目、科技创新2030人工智能重大项目等多项国家课题；发表人工智能领域国际很好会议及期刊论文60余篇。Pattern Recognition等多个国际SCI期刊编委/客座编辑以及ACM MM 2019/2020等很好国际会议领域主席/高级程序委员等，国家新一代人工智能产业技术创新战略联盟启智开源开放平台技术委员会委员。曾作为主要执笔人参与国家新一代人工智能实施建议、AI 2.0 国家战略研究发展报告的撰写。获陕西省自然科学一等奖、北京市科技新星、中国计算机学会博士学位论文、中国计算机学会首届青年人才发展计划等奖励和荣誉。 ?杨晴虹 博士，中科院系列高级工程师，北航软件学院人工智能专业主讲教师，美国南康涅狄格州立大学图书信息科学访问学者，美国耶鲁大学技术创新实验室数据分析专家。发表国际论文几十篇，主要研究领域有机器学习、知识挖掘、大数据分析、项目管理和科研管理等。在机器学习、深度学习、神经网络等领域有丰富的实践经验，曾主导和参与多个相关的项目并取得成功。 ?胡晓光 百度杰出研发架构师，10余年自然语言处理研发经验，参与的机器翻译项目获得国家科技进步二等奖，现负责飞桨核心训练框架和模型算法的研发，致力于打造*好用的深度学习平台。 ?于佃海 百度深度学习平台飞桨（PaddlePaddle）总架构师。2008年从北京大学毕业加入百度，长期从事机器学习、自然语言处理相关的技术研发和平台建设工作，在国际学术会议发表论文十余篇，作为骨干成员参与了国家973计划、国家重点研发计划、科技创新2030等国家科技计划的多个项目，曾获中国电子学会科技进步一等奖、2019年CCF杰出工程师奖。 ?白浩杰 北航、大连理工特聘讲师，百度认证深度学习布道师，美国佛罗里达国际大学高性能数据实验室访问学者，致力于移动对象数据库、数据可视化、机器学习、深度学习等方向的研究。鸥若教育人工智能主讲教师，具有丰富的PaddlePaddle深度学习授课和实验设计经验。

序
前言
第一部分 数学与编程基础篇
第1章 数学基础与Python库
1.1 Python是进行人工智能编程的主要语言
1.2 数学基础
1.2.1 线性代数基础
1.2.2 微积分基础
1.3 Python库的操作
1.3.1 NumPy操作
1.3.2 Matplotlib操作
1.4 本章小结
第2章 深度学习概论与飞桨入门
2.1 人工智能、机器学习和深度学习
2.1.1 人工智能
2.1.2 机器学习
2.1.3 深度学习
2.2 深度学习的发展历程
2.2.1 神经网络的第一次高潮
2.2.2 神经网络的第一次寒冬
2.2.3 神经网络的第二次高潮
2.2.4 神经网络的第二次寒冬
2.2.5 深度学习的来临
2.2.6 深度学习崛起的时代背景
2.3 深度学习的应用场景
2.3.1 图像与视觉
2.3.2 语音识别
2.3.3 自然语言处理
2.3.4 个性化推荐
2.4 常见的深度学习网络结构
2.4.1 全连接网络结构
2.4.2 卷积神经网络
2.4.3 循环神经网络
2.5 机器学习回顾
2.5.1 线性回归的基本概念
2.5.2 数据处理
2.5.3 模型概览
2.5.4 效果展示
2.6 深度学习框架简介
2.6.1 深度学习框架的优势
2.6.2 常见的深度学习框架
2.6.3 飞桨简介
2.6.4 飞桨安装
2.6.5 AI Studio
2.7 飞桨实现
2.8 飞桨服务平台和工具组件
2.8.1 PaddleHub
2.8.2 X2Paddle
2.8.3 PARL
2.8.4 EasyDL
2.9 本章小结
第二部分 深度学习基础篇
第3章 深度学习的单层网络
3.1 Logistic回归模型
3.1.1 Logistic回归概述
3.1.2 损失函数
3.1.3 Logistic回归的梯度下降
3.2 实现Logistic回归模型
3.2.1 NumPy版本
3.2.2 飞桨版本
3.3 本章小结
第4章 浅层神经网络
4.1 神经网络
4.1.1 神经网络的定义及其结构
4.1.2 神经网络的计算
4.2 BP算法
4.2.1 逻辑回归与BP算法
4.2.2 单样本双层神经网络的BP算法
4.2.3 多样本神经网络的BP算法
4.3 BP算法实践
4.3.1 NumPy版本
4.3.2 飞桨版本
4.4 本章小结
第5章 深层神经网络
5.1 深层网络介绍
5.1.1 深度影响算法能力
5.1.2 网络演化过程与常用符号
5.2 传播过程
5.2.1 神经网络算法核心思想
5.2.2 深层网络正向传播过程
5.2.3 深层网络反向传播过程
5.2.4 传播过程总结
5.3 网络的参数
5.4 代码实现
5.4.1 NumPy版本
5.4.2 飞桨版本
5.5 本章小结
第6章 卷积神经网络
6.1 图像分类问题描述
6.2 卷积神经网络介绍
6.2.1 卷积层
6.2.2 ReLU激活函数
6.2.3 池化层
6.2.4 Softmax分类层
6.2.5 主要特点
6.2.6 经典神经网络架构
6.3 飞桨实现
6.3.1 数据介绍
6.3.2 模型概览
6.3.3 配置说明
6.4 本章小结
第7章 循环神经网络
7.1 任务描述
7.2 循环神经网络介绍
7.2.1 长短期记忆网络
7.2.2 门控循环单元
7.2.3 双向循环神经网络
7.2.4 卷积循环神经网络
7.3 利用飞桨实现机器翻译
7.3.1 数据准备
7.3.2 柱搜索
7.3.3 模型配置
7.3.4 模型训练
7.3.5 加载训练模型进行预测
7.4 本章小结
第8章 注意力机制
8.1 任务描述
8.2 注意力机制介绍
8.2.1 Transformer
8.2.2 Non-local神经网络
8.2.3 AttentionCluster神经网络
8.3 利用飞桨实现视频分类
8.3.1 Non-local神经网络
8.3.2 AttentionCluster
8.4 本章小结
第9章 算法优化
9.1 基础知识
9.1.1 训练、验证和测试集
9.1.2 偏差和方差
9.2 评估
9.2.1 选定评估目标
9.2.2 迭代过程
9.2.3 欠拟合和过拟合
9.3 调优策略
9.3.1 降低偏差
9.3.2 降低方差
9.4 超参数调优
9.4.1 随机搜索和网格搜索
9.4.2 超参数范围
9.4.3 分阶段搜索
9.4.4 例子：对学习率的调整
9.5 本章小结
第三部分 飞桨实践篇
第10章 目标检测
10.1 任务描述
10.2 常见模型解析
10.2.1 R-CNN系列
10.2.2 YOLO
10.2.3 SSD
10.3 PaddleDetection应用实践
10.3.1 Faster-R-CNN
10.3.2 YOLOv
10.4 本章小结
第11章 图像生成
11.1 任务描述
11.1.