自然语言处理技术 文本信息抽取及应用研究

文本信息抽取的目的是从海量互联网文本信息中抽取结构化知识，是知识图谱自动化构建、更新的基础，为信息检索、推荐系统、智能问答等诸多研究领域提供底层知识推理支撑并取得了重大突破，是推动人工智能技术由感知走向认知的关键要素，具有重要的研究意义和实用价值。本书梳理了命名实体识别、关系抽取、事件抽取等相关研究方向的知识资源、基础理论和实践应用，详细介绍了实体关系联合抽取、弱监督关系抽取、基于迁移学习的关系抽取、多实例联合事件抽取、基于因变量的事件模板推导等前沿理论研究，并以领域知识图谱、事理图谱等为例，详细介绍了信息抽取在图谱构建中的应用。最后本书对信息抽取进行了总结和未来研究方向展望。

黄河燕，籍贯湖南。1986年1月加入中国共产党，1989年3月参加工作。1983年毕业于武汉测绘科技大学计算机系获学士学位，1986年毕业于国防科技大学计算机系获硕士学位，1989年毕业于中国科学院计算技术研究所获博士学位，后留所工作，先后任助理研究员、副研究员、研究员；1997年至2009年在中科院计算机语言信息工程研究中心任副主任、研究员并先后兼任中科院华建集团党委委员、副书记，2009年至今任北京理工大学计算机学院院长、教授，兼北京市海量语言信息处理与云计算应用工程技术研究中心主任及中-德语言信息处理联合实验室主任；现为国家"863计划”主题专家组成员、中国人工智能学会及中国中文信息学会副理事长、教育部计算机教学指导委员会委员、北京市学位委员会委员。主持承担了国家自科基金重点项目、"973计划”课题、"863计划”项目等20多项重量科研攻关项目，获得了国家科技进步一等奖等8项重量和省部级奖励，1997年享受国务院政府特殊津贴，2014年当选全国优秀科技工作者。

第1章绪论1
1.1研究背景及意义1
1.2基本定义及问题描述3
1.2.1概念3
1.2.2命名实体识别3
1.2.3关系抽取4
1.2.4事件抽取4
1.2.5资源受限6
1.2.6信息抽取应用7
1.3基本研究方法与代表性系统9
1.3.1基于规则的方法9
1.3.2基于统计模型的方法10
1.3.3基于深度学习的方法10
1.3.4基于文本挖掘的方法10
1.4本书章节组织架构11
第2章基础理论13
2.1词汇语义表示13
2.1.1基于矩阵分解的方法13
2.1.2基于预测任务的方法15
2.2序列标注16
2.3条件随机场18
2.3.1线性链条件随机场18
2.3.2Viterbi算法19
2.4循环神经网络20
2.4.1朴素循环神经网络21
2.4.2长短期记忆网络22
2.4.3门控循环单元22
2.4.4双向循环神经网络23
2.5卷积神经网络24
2.5.1文本上的卷积25
2.5.2卷积神经网络的优点25
2.6图卷积神经网络26
2.7多任务学习28
2.7.1多任务学习模式28
2.7.2多任务学习有效性分析29
2.8远程监督30
2.9迁移学习30
2.9.1基于实例的迁移学习31
2.9.2基于特征的迁移学习31
2.9.3基于共享参数的迁移学习31
参考文献32
第3章信息抽取相关评测和标注资源35
3.1MUC系列评测会议35
3.2ACE系列评测会议37
3.3TAC-KBP系列评测会议40
3.4其他研究活动43
3.5信息抽取标注资源43
参考文献45
第4章联合实体识别的关系抽取48
4.1引言48
4.2问题描述51
4.3基于序列建模的实体识别51
4.3.1基于BERT的句子编码51
4.3.2头实体识别52
4.3.3尾实体识别53
4.4基于生成的实体关系联合抽取53
4.4.1句子编码55
4.4.2基于集合预测的解码过程56
4.5基于翻译的实体关系联合抽取57
4.5.1输入编码57
4.5.2实体识别58
4.5.3关系预测58
4.5.4基于翻译的实体关系联合抽取案例61
4.6实验验证62
4.6.1数据集和评价指标63
4.6.2对比算法63
4.6.3实验结果64
4.6.4问题与思考65
4.7本章小结66
参考文献67
第5章弱监督的关系抽取69
5.1引言69
5.2问题分析70
5.3基于注意力机制的弱监督关系抽取73
5.3.1基于切分卷积神经网络的关系抽取73
5.3.2基于句子级别的注意力机制的远程监督关系抽取76
5.3.3基于实体描述的句子级别的注意力机制的远程监督关系抽取77
5.3.4基于非独立同分布的远程监督关系抽取80
5.4基于图卷积的远程监督关系抽取82
5.4.1基于依存树的图卷积关系抽取82
5.4.2基于注意力机制引导的图卷积神经网络关系抽取85
5.5基于篇章级别的远程监督关系抽取87
5.6实验验证91
5.7本章小结95
参考文献96
第6章基于知识迁移的关系抽取101
6.1引言101
6.2同类别迁移的关系抽取102
6.2.1引言102
6.2.2相关工作104
6.2.3基于领域分离映射的领域自适应关系抽取框架106
6.2.4实验部分111
6.2.5总结与分析117
6.3跨类别迁移的关系抽取118
6.3.1引言118
6.3.2相关工作120
6.3.3基于任务感知的小实例关系抽取模型122
6.3.4实验部分129
6.3.5总结与分析134
6.4不均衡模型训练方法135
6.4.1引言135
6.4.2相关工作137
6.4.3基于多分布选择的不均衡数据分类方法140
6.4.4实验部分144
6.4.5总结与分析149
6.5本章小结149
参考文献150