终身机器学习(原书第2版)

终身机器学习（Lifelong Machine Learning）第二版是对高级机器学习范式的介绍，通过积累过去的知识持续地学习，并将所学到的知识用于帮助未来的学习和问题解决。本书适用于对机器学习、数据挖掘、自然语言处理或模式识别感兴趣的学生、研究人员和从业人员。讲师随时可以在任何这些相关领域的课程中使用本书。

  

译者序
前言
致谢
第1章引言1
1.1传统机器学习范式1
1.2案例3
1.3终身学习简史7
1.4终身学习的定义9
1.5知识类型和关键挑战14
1.6评估方法和大数据的角色17
1.7本书大纲18
第2章相关学习范式20
2.1迁移学习20
2.1.1结构对应学习21
2.1.2朴素贝叶斯迁移分类器22
2.1.3迁移学习中的深度学习23
2.1.4迁移学习与终身学习的区别24
2.2多任务学习25
2.2.1多任务学习中的任务相关性25
2.2.2GO-MTL：使用潜在基础任务的多任务学习26
2.2.3多任务学习中的深度学习28
2.2.4多任务学习与终身学习的区别30
2.3在线学习30
2.4强化学习31
2.5元学习32
2.6小结34
第3章终身监督学习35
3.1定义和概述36
3.2基于记忆的终身学习37
3.2.1两个基于记忆的学习方法37
3.2.2终身学习的新表达37
3.3终身神经网络39
3.3.1MTL网络39
3.3.2终身EBNN40
3.4ELLA：高效终身学习算法41
3.4.1问题设定41
3.4.2目标函数42
3.4.3解决第一个低效问题43
3.4.4解决第二个低效问题45
3.4.5主动的任务选择46
3.5终身朴素贝叶斯分类47
3.5.1朴素贝叶斯文本分类47
3.5.2LSC的基本思想49
3.5.3LSC技术50
3.5.4讨论52
3.6基于元学习的领域词嵌入52
3.7小结和评估数据集54
第4章持续学习与灾难性遗忘56
4.1灾难性遗忘56
4.2神经网络中的持续学习58
4.3无遗忘学习61
4.4渐进式神经网络62
4.5弹性权重合并63
4.6iCaRL：增量分类器与表示学习65
4.6.1增量训练66
4.6.2更新特征表示67
4.6.3为新类构建范例集68
4.6.4在iCaRL中完成分类68
4.7专家网关69
4.7.1自动编码网关69
4.7.2测量训练的任务相关性70
4.7.3为测试选择最相关的专家71
4.7.4基于编码器的终身学习71
4.8生成式重放的持续学习72
4.8.1生成式对抗网络72
4.8.2生成式重放73
4.9评估灾难性遗忘74
4.10小结和评估数据集75
第5章开放式学习79
5.1问题定义和应用80
5.2基于中心的相似空间学习81
5.2.1逐步更新CBS学习模型82
5.2.2测试CBS学习模型84
5.2.3用于未知类检测的CBS学习84
5.3DOC：深度开放式分类87
5.3.1前馈层和一对其余层87
5.3.2降低开放空间风险89
5.3.3DOC用于图像分类90
5.3.4发现未知类90
5.4小结和评估数据集91
第6章终身主题建模93
6.1终身主题建模的主要思想93
6.2LTM：终身主题模型97
6.2.1LTM模型97
6.2.2主题知识挖掘99
6.2.3融合过去的知识100
6.2.4Gibbs采样器的条件分布102
6.3AMC：少量数据的终身主题模型102
6.3.1AMC整体算法103
6.3.2挖掘must-link知识104
6.3.3挖掘cannot-link知识107
6.3.4扩展的Pólya瓮模型108
6.3.5Gibbs采样器的采样分布110
6.4小结和评估数据集112
第7章终身信息提取114
7.1NELL：永不停止语言学习器114
7.1.1NELL结构117
7.1.2NELL中的提取器与学习118
7.1.3NELL中的耦合约束120
7.2终身评价目标提取121
7.2.1基于推荐的终身学习122
7.2.2AER算法123
7.2.3知识学习124
7.2.4使用过去知识推荐125
7.3在工作中学习126
7.3.1条件随机场127
7.3.2一般依赖特征128
7.3.3L-CRF算法130
7.4Lifelong-RL：终身松弛标记法131
7.4.1松弛标记法132
7.4.2终身松弛标记法133
7.5小结和评估数据集133
第8章聊天机器人的持续知识学习135
8.1LiLi：终身交互学习与推理136
8.2LiLi的基本思想139
8.3LiLi的组件141
8.4运行示例142
8.5小结和评估数据集142
第9章终身强化学习144
9.1基于多环境的终身强化学习146
9.2层次贝叶斯终身强化学习147
9.2.1动机147
9.2.2层次贝叶斯方法148
9.2.3MTRL算法149
9.2.4更新层次模型参数150
9.2.5对MDP进行采样151
9.3PG-ELLA：终身策略梯度强化学习152
9.3.1策略梯度强化学习152
9.3.2策略梯度终身学习设置154
9.3.3目标函数和优化154
9.3.4终身学习的安全策略搜索156
9.3.5跨领域终身强化学习156
9.4小结和评估数据集157
第10章结论及未来方向159
参考文献164