集成多标签学习方法/电子信息前沿技术丛书

随着社会需求的变化， 越来越多的人工智能应用涉 及多标签学习问题，如文本 分类、语义标注、社交网络 、基因预测和疾病诊疗等， 多标签学习已成为当前人工 智能领域的研究热点之一。 本书基于集成学习相关理论 ，围绕多标签局部依赖、多 标签缺失补全、极端量级多 标签学习、长尾多标签学习 和开放词多标签学习等一系 列问题进行展开，讨论了一 系列高效的集成多标签学习 方法。我们提出了一种集成 多标签学习方法，该方法巧 妙融合了多标签学习与集成 学习的优势，旨在克服传统 多标签学习在多样化应用场 景中面临的挑战。本书将详 细阐述方法在不同实际场景 下的具体解决方案及其背后 的技术支撑，同时，通过展 示一些典型的实际应用问题 解决案例，来验证提出方法 在处理复杂、多维度标签任 务上的优越性，为相关领域 的研究与应用提供了参考和 启示。 本书可作为高等院校计 算机科学、人工智能等相关 专业师生的教学参考书，也 可为大数据处理、人工智能 应用开发领域的专业人员、 科技工作者及研究人员提供 宝贵的实践指南与理论参考 。

夏跃龙，博士，云南师范大学硕士生导师，长期从事机器学习、数据挖掘和模式识别的基础理论研究，在深度集成学习、迁移学习、联邦学习等相关领域进行了深入研究。近年来，主持厅级项目2项，民族教育信息化教育部重点实验室开放基金1项，云南省智慧教育重点实验室开放基金1项，参与国家级/省部级项目4项，中央军民融合项目1项，发明专利1项，发表SCI/EI论文10余篇，获云南省教学成果二等奖1项，获工信部人工智能应用工程（高级）证书，华为昇腾AI人工智能结业，相关研究成果主要发表于国际知名学术期刊与会议，成果主要应用于多标签学习、多模态迁移学习、联邦学习、智慧医疗、智慧教育等大数据分析系统，拥有丰富的项目开发经验。

第1章 绪论 1.1 背景及意义 1.2 多标签学习研究现状 1.2.1 传统多标签学习方法 1.2.2 深度多标签学习方法 1.3 多标签学习评估标准 1.4 多标签学习面临的挑战 1.5 本章小结 第2章 集成多标签学习相关理论 2.1 集成学习相关理论 2.1.1 偏差-方差分解 2.1.2 统计、计算和表示 2.1.3 多样性 2.2 集成学习研究现状 2.2.1 传统集成学习 2.2.2 深度集成学习 2.3 需要考虑的两个问题 2.4 集成多标签学习方法 2.5 本书组织结构 第3章 基于加权堆叠选择集成的传统多标签学习 3.1 引言 3.2 问题描述 3.3 MLWSE算法设计 3.3.1 加权的堆叠集成 3.3.2 基于稀疏正则的分类器选择 3.3.3 标签依赖关系的建模 3.3.4 多标签的预测 3.4 MLWSE算法优化 3.4.1 MLWSE-L1优化 3.4.2 MLWSE-L21优化 3.5 实验结果与分析 3.5.1 2D仿真实验 3.5.2 Benchmark基准实验 3.5.3 Real-world数据实验 3.5.4 Friedman检验分析 3.5.5 参数敏感性分析 3.5.6 收敛性分析 3.6 本章小结 第4章 基于流形子空间集成的不完全多标签学习 4.1 引言 4.2 问题描述 4.3 BDMC-EMR算法描述 4.3.1 联合的共嵌入学习 4.3.2 共享的标签嵌入 4.3.3 集成的流形正则嵌入 4.3.4 双向矩阵补全 4.4 BDMC-EMR相关理论分析 4.5 BDMC-EMR算法优化 4.6 实验结果与分析 4.6.1 2D仿真实验 4.6.2 直推式不完全多标签学习 4.6.3 归纳式不完全多标签学习 4.6.4 Friedman检验分析 4.6.5 参数敏感性分析 4.6.6 时间复杂度分析 4.7 本章小结 第5章 基于不同表征网络集成的极端多标签学习 5.1 引言 5.2 问题描述 5.3 HybridRCNN框架 5.3.1 空间语义信息表征 5.3.2 时序语义信息表征 5.3.3 自适应权重集成预测 5.4 改进的Multi-V-Transformer框架 5.4.1 多视图注意力Transformer表征 5.4.2 极端多标签聚类学习 5.4.3 约简的标签集嵌入学习 5.4.4 集成的Multi-V-Transformer预测 5.5 中间量级多标签文本实验分析 5.5.1 实验设置 5.5.2 CNN-RNN集成结构比较 5.5.3 注意力机制网络结构比较 5.5.4 HybridRCNN消融分析 5.5.5 HybridRCNN可视化分析 5.5.6 HybridRCNN时间复杂度比较 5.6 极端量级多标签文本实验分析 5.6.1 实验设置 5.6.2 极端多标签实验比较 5.6.3 Multi-V-Transformer集成消融分析 5.6.4 Multi-V-Transformer聚类学习分析 5.7 本章小结 第6章 基于自蒸馏集成网络的长尾多标签学习 6.1 引言 6.2 问题描述 6.3 监督的OLSD自蒸馏集成框架 6.3.1 特征一致性表征学习 6.3.2 平衡自蒸馏向导知识迁移 6.3.3 倾向尾类多数的Mixup增强 6.3.4 相关理论分析 6.4 改进的自监督DS-SED表征蒸馏集成框梁 6.4.1 Mixup对比表征学习 6.4.2 最大化互信息表征蒸馏 6.4.3 logits补偿多标签分类器学习 6.4.4 相关理论分析 6.5 监督OLSD实验结果与分析 6.5.1 实验设置 6.5.2 单标签长尾数据实验分析 6.5.3 多标签长尾数据实验分析 6.6 自监督DS-SED实验结果与分析 6.6.1 自监督DS-SED表征性能实验分析 6.6.2 下游Many-shot和Few-shot任务实验分析 6.6.3 下游长尾可视化识别任务实验分析 6.6.4 下游目标检测及语义分割任务实验分析 6.7 本章小结 第7章 基于多模态知识集成的开放词多标签学习 7.1 引言 7.2 问题描述 7.3 多模态知识集成的开放词多标签学习框架 7.3.1 多标签知识蒸馏 7.3.2 多模态原型对比表征蒸馏模块 7.3.3 多模态交叉图像结构对比蒸馏模块 7.3.4 动态的多标签原型校正 7.4 实验结果与分析 7.4.1 实验设置 7.4.2 与蒸馏方法实验比较 7.4.3 与非蒸馏方法实验比较 7.4.4 可视化注意力图 7.4.5 原型校正可视化分析 7.5 本章小结 第8章 总结和展望 8.1 本书总结 8.2 本书展望 参考文献