PyTorch自然语言处理入门与实战

运用PyTorch 探索自然语言处理与机器学习！ 这是一本兼顾理论基础和工程实践的入门级教程，基于 PyTorch，揭示自然语言处理的原理，描绘学术研究脉络，通过实践与项目展现技术与应用的细节，并提供可扩展阅读的论文出处。 1.路线图：从基础工具、基本原理，到常用模型，再到领域前沿。 2.有项目：中文地址解析 + 诗句补充。 3.可实践：给出代码、数据集和论文出处。

这是一本运用PyTorch探索自然语言处理与机器学习的书，从入门到实战，循序渐进地带领读者实践并掌握自然语言处理的相关内容。本书首先对自然语言处理进行了概述，并介绍了Python自然语言处理基础；然后介绍了什么是PyTorch和PyTorch的基本使用方法；接着介绍了多种机器学习技术及其在自然语言处理中的应用，包括RNN、词嵌入、Seq2seq、注意力机制、Transformer和预训练语言模型；最后介绍了用自然语言处理实现的两个项目，即"中文地址解析"和"诗句补充"。
本书适合从事人工智能、机器学习、语言处理、文本大数据等技术开发和研究的工程师与研究人员，以及高等院校计算机、语言技术等相关专业的学生阅读参考。

孙小文：毕业于北京邮电大学计算机学院（国家示范性软件学院），目前就职于微软（中国），研究领域包括自然语言处理、分布式存储和计算、搜索技术。 王薪宇：毕业于北京邮电大学计算机学院（国家示范性软件学院），曾在知名互联网公司工作，主要研究领域为自然语言处理。 杨谈：北京邮电大学计算机学院（国家示范性软件学院）副教授，作为主研人或项目负责人参与了多个国家项目和企业合作项目。

第1篇自然语言处理基础篇
第1章 自然语言处理概述
1.1 什么是自然语言处理
1.1.1 定义
1.1.2 常用术语
1.1.3 自然语言处理的任务
1.1.4 自然语言处理的发展历程
1.2 自然语言处理中的挑战
1.2.1 歧义问题
1.2.2 语言的多样性
1.2.3 未登录词
1.2.4 数据稀疏
1.3 自然语言处理中的常用技术
1.4 机器学习中的常见问题
1.4.1 Batch和Epoch
1.4.2 BatchSize的选择
1.4.3 数据集不平衡问题
1.4.4 预训练模型与数据安全
1.4.5 通过开源代码学习
1.5 小结
第2章 Python自然语言处理基础
2.1 搭建环境
2.1.1 选择Python版本
2.1.2 安装Python
2.1.3 使用pip包管理工具和Python虚拟环境
2.1.4 使用集成开发环境
2.1.5 安装Python自然语言处理常用的库
2.2 用Python处理字符串
2.2.1 使用str类型
2.2.2 使用StringIO类
2.3 用Python处理语料
2.3.1 从文件读取语料
2.3.2 去重
2.3.3 停用词
2.3.4 编辑距离
2.3.5 文本规范化
2.3.6 分词
2.3.7 词频-逆文本频率
2.3.8 One-Hot编码
2.4 Python的一些特性
2.4.1 动态的解释型语言
2.4.2 跨平台
2.4.3 性能问题
2.4.4 并行和并发
2.5 在Python中调用其他语言
2.5.1 通过ctypes调用CC++代码
2.5.2 通过网络接口调用其他语言
2.6 小结
第2篇PyTorch入门篇
第3章 PyTorch介绍
3.1 概述
3.2 与其他框架的比较
3.2.1 TensorFlow
3.2.2 PaddlePaddle
3.2.3 CNTK
3.3 PyTorch环境配置
3.3.1 通过pip安装
3.3.2 配置GPU环境
3.3.3 其他安装方法
3.3.4 在PyTorch中查看GPU是否可用
3.4 Transformers简介及安装
3.5 Apex简介及安装
3.6 小结
第4章 PyTorch基本使用方法
4.1 张量的使用
4.1.1 创建张量
4.1.2 张量的变换
4.1.3 张量的索引
4.1.4 张量的运算
4.2 使用torch.nn
4.3 激活函数
4.3.1 Sigmoid函数
4.3.2 Tanh函数
4.3.3 ReLU函数
4.3.4 Softmax函数
4.3.5 Softmin函数
4.3.6 LogSoftmax函数
4.4 损失函数
4.4.1 0-1损失函数
4.4.2 平方损失函数
……