深度学习框架PyTorch 入门与实践(第2版)

本书从多维数组Tensor开始，循序渐进地介绍PyTorch各方面的基础知识，并结合深度学习中的经典应用，带领读者从零开始完成几个经典而有趣的实际项目，包括动漫头像生成、风格迁移、自动写诗以及目标检测。本书还介绍了PyTorch的几个高级扩展，包括向量化计算、分布式加速以及CUDA扩展。 本书既适合深度学习的初学者及第一次接触PyTorch的研究人员阅读，也适合有一定PyTorch使用经验的用户阅读，帮助他们建立对PyTorch的基本认识，提高使用PyTorch框架解决实际问题的能力。

王博，北京邮电大学模式识别实验室在读硕士研究生，主要研究方向为深度学习与计算机视觉。Python程序员，PyTorch推广者。作为助教为大一学生讲解《人工智能导论》实验课程，受到同学们的好评。

第1章 深度学习框架简介
1.1 深度学习框架编年史
1.2 PyTorch与TensorFlow的对比
1.3 为什么选择PyTorch
第2章 PyTorch快速入门
2.1 安装与配置
2.1.1 在Linux系统下安装PyTorch
2.1.2 在Windows系统下安装PyTorch
2.1.3 学习工具介绍
2.1.4 服务器开发介绍
2.2 PyTorch快速入门指南
2.2.1 Tensor
2.2.2 autograd：自动微分
2.2.3 神经网络
2.2.4 小试牛刀：CIFAR-10分类
2.3 小结
第3章 Tensor和autograd
3.1 Tensor基础
3.1.1 Tensor的基本操作
3.1.2 命名张量
3.1.3 Tensor与NumPy
3.1.4 Tensor的基本结构
3.1.5 变形记：N种改变Tensor形状的方法
3.2 小试牛刀：线性回归
3.3 autograd和计算图基础
3.3.1 autograd的用法：requires_grad与backward
3.3.2 autograd的原理：计算图
3.3.3 扩展autograd：Function
3.3.4 小试牛刀：利用autograd实现线性回归
3.4 小结
第4章 神经网络工具箱nn
4.1 nn.Module
4.2 常用的神经网络层
4.2.1 图像相关层
4.2.2 激活函数
4.2.3 构建神经网络
4.2.4 循环神经网络
4.2.5 损失函数
4.3 nn.functional
4.3.1 nn.functional与nn.Module的区别
4.3.2 采样函数
4.4 初始化策略
4.5 优化器
4.6 nn.Module深入分析
4.7 小试牛刀：搭建ResNet
4.8 小结
第5章 PyTorch中常用的工具
5.1 数据处理
5.1.1 Dataset
5.1.2 DataLoader
5.2 预训练模型
5.3 可视化工具
5.3.1 TensorBoard
5.3.2 Visdom
5.4 使用GPU加速：CUDA
5.5 小结
第6章 向量化
6.1 向量化简介
6.2 广播法则
6.3 索引操作
6.3.1 基本索引
6.3.2 高级索引
6.3.3 einsum/einops
6.4 小试牛刀：使用向量化思想解决实际问题
6.4.1 Box_IoU
6.4.2 RoI Align
6.4.3 反向Unique
6.5 小结
第7章 PyTorch与Multi-GPU
7.1 单机多卡并行
7.1.1 并行原理介绍
7.1.2 DataParallel使用示例
7.2 分布式系统
7.2.1 分布式系统的基本概念
7.2.2 分布式消息传递接口
7.2.3 小试牛刀：分布式计算实操演练
7.3 PyTorch分布式训练
7.3.1 使用MPI 进行分布式训练
7.3.2 使用torch.distributed进行分布式训练
7.3.3 使用Horovod进行分布式训练
7.4 分布式训练中的注意事项
7.4.1 保持同步
7.4.2 进程协作
7.4.3 常用调试技巧
7.5 进阶扩展
7.6 小结
第8章 CUDA 扩展与编译
8.1 PyTorch C++扩展简介
8.1.1 C++扩展
8.1.2 CUDA扩展
8.2 CUDA、NVIDIA-driver、cuDNN、PyTorch之间的关系
8.3 小结
第9章 PyTorch实战指南
9.1 编程实战：猫和狗二分类
9.1.1 比赛介绍
9.1.2 文件组织结构
9.1.3 __init__.py
9.1.4 数据加载
9.1.5 模型定义
9.1.6 工具函数
9.1.7 配置文件
9.1.8 main.py
9.1.9 使用
9.1.10 争议
9.2 PyTorch调试指南
9.2.1 ipdb介绍
9.2.2 在PyTorch中调试
9.3 小结
第10章 AI插画师：生成对抗网络
10.1 GAN原理简介
10.2 使用GAN生成动漫人物头像
10.3 实验结果分析
10.4 小结
第11章 AI诗人：用Transformer写诗
11.1 自然语言处理的基础知识
11.1.1 词向量
11.1.2 RNN
11.2 CharRNN
11.3 Transformer
11.3.1 自注意力模块
11.3.2 位置编码模块
11.4 使用PyTorch实现Transformer写诗
11.5 小结
第12章 AI艺术家：神经网络风格迁移
12.1 风格迁移原理介绍
12.2 使用PyTorch实现风格迁移
12.3 实验结果分析
12.4 小结
第13章 CenterNet：目标检测
13.1 目标检测概述
13.2 CenterNet原理介绍
13.3 使用PyTorch实现CenterNet
13.3.1 使用pycocotools加载COCO数据集
13.3.2 搭建CenterNet网络
13.4 实验结果分析
13.5 小结
参考文献