嵌入式深度学习 算法和硬件实现技术

本书面向的是供能受限的嵌入式平台，在这样的平台上部署深度学习应用，能耗是最重要的指标。本书详细介绍如何在应用层、算法层、硬件架构层和电路层进行设计和优化，以及跨层次的软硬件协同设计，以使深度学习应用能以大力度优惠的能耗运行在电池容量受限的可穿戴设备上。本书适合从事深度学习硬件架构、深度学习软硬件协同设计等研究的高校学生阅读，也可供从事相关领域工作的技术人员参考。

译者序
前言
致谢
缩写词
第1章嵌入式深度神经网络1
1.1简介1
1.2机器学习2
1.2.1任务T3
1.2.2性能度量P3
1.2.3经验E4
1.3深度学习4
1.3.1深度前馈神经网络6
1.3.2卷积神经网络8
1.3.3循环神经网络16
1.3.4训练深度神经网络18
1.4嵌入式深度神经网络的挑战25
1.5本书创新点27
参考文献29
第2章优化的层次级联处理34
2.1简介34
2.2层次级联系统36
2.2.1泛化的两级唤醒系统36
2.2.2层次化的代价、精度和召回率37
2.2.3层次化分类器的Roofline模型40
2.2.4优化的层次级联感知42
2.3概念的一般性证明43
2.3.1系统描述43
2.3.2输入统计45
2.3.3实验46
2.3.4本节小结48
2.4案例研究：基于CNN的层次化人脸识别49
2.4.1人脸识别的分层结构49
2.4.2层次化的代价、精度和召回率51
2.4.3优化的人脸识别分层结构52
2.5小结55
参考文献56
第3章硬件–算法协同优化58
3.1简介58
3.1.1利用网络结构59
3.1.2增强并利用稀疏性63
3.1.3增强并利用容错性64
3.2低精度神经网络的能量增益66
3.2.1片外访存的能耗67
3.2.2硬件平台的一般性建模68
3.3测试时定点神经网络69
3.3.1分析和实验70
3.3.2量化对分类准确率的影响70
3.3.3稀疏FPNN的能耗73
3.3.4结果75
3.3.5讨论76
3.4训练时量化神经网络77
3.4.1训练QNN78
3.4.2QNN的能耗81
3.4.3实验81
3.4.4结果84
3.4.5讨论88
3.5聚类神经网络88
3.6小结90
参考文献91
第4章近似计算的电路技术95
4.1近似计算范式简介95
4.2近似计算技术98
4.2.1容错分析与质量管理98
4.2.2近似电路99
4.2.3近似架构100
4.2.4近似软件101
4.2.5讨论102
4.3DVAFS：动态电压精度频率调节102
4.3.1DVAFS基础102
4.3.2DVAFS的容错识别105
4.3.3DVAFS的能量增益106
4.4DVAFS的性能分析109
4.4.1模块级的DVAFS109
4.4.2系统级的DVAFS111
4.5DVAFS实现的挑战115
4.5.1基础DVA（F）S模块的功能实现115
4.5.2基础DVA（F）S模块的物理实现117
4.6小结和讨论118
参考文献119
第5章Envision：能耗可调节的稀疏卷积神经网络处理122
5.1神经网络加速122
5.2针对嵌入式CNN的二维MAC处理器架构124
5.2.1处理器数据通路125
5.2.2片上存储架构128
5.2.3利用网络稀疏性的硬件支持130
5.2.4通过定制化指令集实现高能效的灵活性132
5.3基于40nm CMOS的DVAS兼容的Envision处理器133
5.3.1RTL级的硬件支持134
5.3.2物理实现135
5.3.3测量结果136
5.3.4Envision V1回顾143
5.4基于28nm FD-SOI的DVAFS兼容的Envision处理器144
5.4.1RTL级硬件支持146
5.4.2物理实现147
5.4.3测量结果147
5.4.4Envision V2回顾156
5.5小结157
参考文献158
第6章BinarEye：常开的数字及混合信号二值神经网络处理160
6.1二值神经网络160
6.1.1简介160
6.1.2二值神经网络层161
6.2二值神经网络应用165
6.3可编程的输入到标签的加速器架构167
6.3.1256X：基础的BinaryNet计算架构169
6.3.2SX：灵活的DVAFSBinaryNet计算架构178
6.4MSBNN：混合信号的256X实现182
6.4.1开关电容神经元阵列183
6.4.2测量结果184
6.4.3模拟信号通路代价188
6.5BinarEye：数字的SX实现189
6.5.1全数字的二值神经元189
6.5.2物理实现190
6.5.3测量结果190
6.5.4BinarEye中的DVAFS194
6.5.5与最优选水平的对比195
6.6数字与模拟二值神经网络的实现对比197
6.7展望与未来工作200
6.8小结202
参考文献204
第7章结论、贡献和未来工作206
7.1结论207
7.2未来工作的建议210
参考文献211
索引212