自然语言处理与应用

集自然语言处理学术前沿、教学成果与应用实践于一体； 充分反映自然语言处理方向的国际学术前沿进展； 融入北京理工大学团队20余年自然语言处理与应用方向的创新性成果，获得多项省部级科技奖，NLPIR自然语言处理与信息检索共享平台网提供配套的演示程序及代码； 六年多研究型一线教学实践，收录了多个研究小组优秀项目业作为应用案例剖析。

本书集学术前沿、教学成果与应用实践于一体，系统讲述自然语言处理理论与应用。全书分为5篇。基础理论篇包括第1～4章，主要内容为自然语言处理与应用概述、面向自然语言处理的深度学习经典平台与算法、面向自然语言处理的深度学习前沿进展、预训练语言模型；信息处理篇包括第5～9章，主要内容为网络爬虫技术、多格式文档解析与管理、语音文字识别、图像语义表示与字符识别、中文分词与词性标注；语义分析篇包括第10～13章，主要内容为情感分析、新词发现、命名实体识别与关键词提取、知识图谱的大数据自动构建与应用；文本挖掘篇包括第14～18章，主要内容为信息过滤、文本分类、文本聚类、文本校对、自动摘要；应用篇包括第19、20章，主要内容为自然语言处理应用项目和案例。
本书可作为高等学校自然语言处理方向研究生与高年级本科生的专业课教材，也可供自然语言处理方向的科研人员、工程技术人员和爱好者参考。

第1篇基础理论篇
第1章自然语言处理与应用概述3
1.1自然语言处理3
1.1.1自然语言处理的定义、难点及其发展历程3
1.1.2自然语言处理的上下游任务4
1.2中文自然语言处理发展现状7
1.2.1自然语言处理任务评测结果7
1.2.2中文数据集与评测现状8
1.2.3中文预训练语言模型现状9
1.2.4中国影响力现状9
1.3自然语言处理的发展趋势11
1.3.1处理从人工到自动化11
1.3.2应用从通用到场景化13
1.3.3算法从单一到平台化15
1.4中文互联网自然语言处理面临的挑战16
1.4.1信息对抗16
1.4.2多语言交互16
1.4.3社会演化17
第2章面向自然语言处理的深度学习经典平台与算法18
2.1深度学习经典平台18
2.1.1TensorFlow18
2.1.2PyTorch20
2.1.3PaddlePaddle21
2.2深度学习经典算法22
2.2.1卷积神经网络22
2.2.2循环神经网络23
2.2.3生成对抗网络26
第3章面向自然语言处理的深度学习前沿进展30
3.1传统深度学习遇到的瓶颈30
3.1.1深度学习概述30
3.1.2传统深度学习遇到的问题31
3.2面向数据的深度学习前沿进展33
3.2.1主动学习33
3.2.2自监督学习35
3.2.3提示学习37
3.2.4图神经网络39
3.2.5多模态学习41
3.3面向训练的深度学习前沿进展43
3.3.1多任务学习43
3.3.2终身学习45
3.3.3范式迁移46
3.4面向应用的深度学习前沿进展47
3.4.1模型压缩47
3.4.2可解释学习48
3.4.3对抗与算法安全49
第4章预训练语言模型51
4.1预训练语言模型概述51
4.1.1预训练语言模型定义51
4.1.2预训练语言模型的发展历程51
4.2常见预训练语言模型介绍52
4.2.1BERT52
4.2.2GPT354
4.2.3ELMo54
4.2.4ERNIE55
4.3预训练语言模型的使用56
4.3.1迁移学习56
4.3.2微调56
4.4预训练语言模型发展趋势58
4.4.1多语种58
4.4.2多模态58
4.4.3增大模型58
4.4.4替换预训练任务59
4.4.5结合外部知识60
4.4.6预训练语言模型压缩61
4.5应用与分析61
4.5.1模型介绍61
4.5.2模型使用62
第2篇信息处理篇
第5章网络爬虫技术65
5.1概述65
5.1.1网络爬虫的概念内涵65
5.1.2网络爬虫的技术发展65
5.1.3网络爬虫的爬取过程66
5.2网络爬虫分类67
5.2.1通用网络爬虫67
5.2.2深层网络爬虫68
5.2.3聚焦网络爬虫68
5.2.4增量式网络爬虫70
5.3网络爬虫库与框架71
5.3.1网络爬虫库71
5.3.2网络爬虫框架72
5.4网络爬虫技术前沿75
5.4.1网络爬虫技术的近期新进展75
5.4.2反爬的前沿技术75
5.5应用与分析76
第6章多格式文档解析与管理80
6.1概述80
6.1.1文档格式80
6.1.2文档标准的发展历程80
6.2多格式文档解析81
6.2.1Word文档解析81
6.2.2PDF文档解析83
6.3多格式文档管理85
6.3.1在线文档管理85
6.3.2区块链文档管理87
6.4应用与分析88
6.4.1多格式文档读取算法88
……