超限学习机:理论、技术与应用

首先，本书由相关专业领域的国内外知名教授参与撰写，概念与理论分析一脉相承、深入浅出，技术与方法介绍脉络清晰、准确详尽，应用与实现案例与时俱进、眼界开阔；其次，本书是国内首部对超限学习机理论、技术和应用进行全方位阐述的中文书籍，对国内相关领域的学习与研究人员具有重要意义。

本书对超限学习机近年来取得的各方面成果进行详细的阐述与分析。本书分为4个部分：第1部分（第1～2章）主要介绍超限学习机的基本概念与核心理论；第2部分（第3～4章）系统介绍超限学习机理论为应对数据分类、回归以及特征学习等重要机器学习任务所做的技术性调整；第3部分（第5～6章）主要介绍超限学习机的工程实现与领域应用案例；第4部分（第7章）对全书进行总结，并归纳出若干挑战性问题以待后续研究。本书附录部分为与超限学习机相关的数学基础知识，以便读者查阅。本书可供对超限学习机感兴趣的研究人员阅读，也可为信号处理领域的工程技术人员提供技术参考。

邓宸伟，北京理工大学教授、博士生导师，IEEE高级会员。近年来，紧密围绕“高分辨率对地观测”领域国家重大需求，开展航空、航天遥感图像处理方向的基础和应用研究。

第1章绪论1
1．1引言1
1．2ELM研究背景2
1．3ELM概念与内涵3
1．3．1快速前馈神经网络3
1．3．2通用机器学习单元4
1．3．3可信生物学习机制5
1．4ELM的发展历程6
1．4．1第一阶段（2006—2010年）：新型神经网络结构与理论6
1．4．2第二阶段（2011—2015年）：通用学习模型构建与解释7
1．4．3第三阶段（2016—至今）：生物学习机制研究与硬件实现7
1．5本书内容具体安排8
参考文献8
第2章超限学习机理论11
2．1ELM网络模型11
2．1．1网络结构描述11
2．1．2网络参数学习13
2．2ELM网络性能分析14
2．2．1有效拟合：随机投影与通用逼近15
2．2．2快速学习：等式约束优化19
2．3ELM学习机制通用性分析23
2．3．1显式映射形式与参数求解策略24
2．3．2核化映射形式与参数对偶表示25
2．3．3“显式”与“核化”的统一27
2．4本章小结29
参考文献30
第3章超限学习机分类与回归32
3．1分类与回归——ELM的统一性解决策略32
3．1．1均方误差代价函数：分类与回归的统一33
3．1．2等式优化约束项：二分类与多分类的统一34
3．2标签不平衡——加权ELM35
3．2．1加权ELM模型构建36
3．2．2加权ELM机理分析37
3．2．3加权ELM性能评估39
3．3标签缺失——弱监督ELM40
3．3．1弱监督ELM模型构建41
3．3．2弱监督ELM机理分析45
3．3．3弱监督ELM性能评估45
3．4样本动态更迭——在线序贯ELM53
3．4．1在线序贯ELM模型构建54
3．4．2在线序贯ELM机理分析56
3．4．3在线序贯ELM性能评估56
3．5样本含噪——滤波型ELM59
3．5．1滤波型ELM模型构建59
3．5．2滤波型ELM机理分析62
3．5．3滤波型ELM性能评估63
3．6本章小结66
参考文献66
第4章超限学习机特征学习69
4．1ELM特征选择69
4．1．1ELM包裹式特征选择71
4．1．2ELM嵌入式特征选择77
4．2ELM单隐藏层特征映射学习80
4．2．1有监督随机特征映射81
4．2．2无监督特征自编码器87
4．3ELM层次化特征映射学习92
4．3．1随机特征映射递归93
4．3．2特征自编码器栈式堆叠97
4．4ELM层次化特征映射学习与深度学习的联系100
4．4．1特征映射建模：普适性与自适应性100
4．4．2特征优化方法：凸优化与非凸寻优102
4．5本章小结104
参考文献105
第5章超限学习机工程实现107
5．1面向模型训练的并行加速技术107
5．1．1分布式软件架构加速108
5．1．2GPU平台加速121
5．1．3云端集群计算平台加速124
5．2面向模型测试的嵌入式实时处理系统设计127
5．2．1基于FPGA平台的ELM模拟验证系统128
5．2．2基于ASIC平台的ELM实际架构系统132
5．3本章小结146
参考文献147
第6章超限学习机领域应用149
6．1智能安防应用实例149
6．1．1监控系统的目标跟踪149
6．1．2门禁系统的人脸识别154
6．1．3报警系统的行为识别159
6．2卫星遥感应用实例163
6．2．1SAR图像在轨变化检测163
6．2．2高光谱图像农作物分类170
6．2．3可见光气象影像云图分类识别176
6．3生物医药应用实例182
6．3．1运动想像脑电信号分类182
6．3．2骨髓细胞分类187
6．3．3基因表达数据分类192
6．4本章小结195
参考文献196
第7章研究总结与未来展望199
7．1研究总结与结论200
7．2发展趋势分析200
7．2．1应用前景201
7．2．2技术走向201
7．2．3难点与挑战203
7．3本章小结206
参考文献206
附录A矩阵与很优化208
A．1范数及最小化208
A．2流形假设与图拉普拉斯矩阵210
A．2．1流形假设210
A．2．2图拉普拉斯矩阵210
附录B概率与不等式213
B．1高斯分布与投影结果分析213
B．2不等式与投影结果的稳定性描述214
名词索引217