神经网络加速器的计算架构及存储优化技术研究

本书针对不同应用类型，提出了两套计算架构，分别是面向通用神经网络近似的神经网络计算架构RNA和面向专用人工智能领域的神经网络计算架构DNA。此外，为解决神经网络计算中的访存瓶颈问题，提出了基于数据保持时间的神经网络存储优化框架RANA。

随着通用处理器性能增长的减缓及基于神经网络的智能应用的不断涌现，神经网络加速器正逐步成为新型计算系统中不可或缺的部分。过去几年，学术界乃至工业界出现了大量的神经网络加速器芯片。针对过去的神经网络加速器设计在计算模式、计算架构和存储优化方面存在的不足，本书的研究总结出两套神经网络加速器的优化设计方法：基于"计算模式-动态重构"的计算架构设计方法和基于"器件特性-容错能力"的存储优化方法。主要介绍三项基于上述优化设计方法的研究工作，即面向通用神经网络近似的神经网络计算架构RNA、面向专用人工智能领域的神经网络计算架构DNA和基于数据保持时间的神经网络存储优化框架RANA。
本书可供从事神经网络加速器、专用领域计算、可重构计算研究的高校师生和科研院所研宄人员及相关技术人员阅读参考。

涂锋斌，2019年于清华大学微纳电子系获得博士学位，现于加州大学圣塔芭芭拉分校电子与计算机工程系担任博士后研究员。涂锋斌长期从事人工智能芯片方向的研究，连续做出世界很好的工作。涂锋斌在2016年设计出一款基于可重构计算架构的人工智能芯片Thinker。该款芯片作为清华唯二的作品参加全国双创周，获得李克强总理的高度赞许，先后被杨澜访谈录、雷锋网AI科技评论和MIT科技评论报道。Thinker芯片在2017获得ISLPED国际低功耗电子设计竞赛冠军（中国大陆首次）。截止目前，涂锋斌已发表18篇论文，其中包括计算机体系结构领域很好会议ISCA?

第1章绪论1
1.1研究背景1
1.2研究现状3
1.2.1神经网络算法的发展历程3
1.2.2神经网络加速器的研究现状7
1.3研究动机10
1.4研究思路与研究内容11
1.4.1研究思路11
1.4.2研究内容12
第2章面向通用神经网络近似的神经网络计算架构RNA14
2.1引言14
2.2问题背景17
2.2.1神经网络近似与加速17
2.2.2通用架构模型17
2.3计算模式19
2.3.1RNA架构概览19
2.3.2FP计算模式20
2.3.3NE计算模式21
2.3.4CE计算模式23
2.3.5调度框架24
2.4RNA架构设计31
2.4.1RNA架构的PE设计31
2.4.2RNA架构的互连设计31
2.4.3RNA架构的控制器设计34
2.5实验结果37
2.5.1实验设置37
2.5.2RNA架构的版图和硬件指标38
2.5.3RNA架构的性能分析39
2.5.4RNA架构的参数探索47
2.6小结50
第3章面向专用人工智能领域的神经网络计算架构DNA51
3.1引言51
3.2问题背景53
3.2.1CNN模型53
3.2.2以CNN加速器为中心的计算系统架构55
3.2.3CNN加速的两大执行目标和挑战56
3.3计算模式57
3.3.1计算模式概览57
3.3.2数据复用模式57
3.3.3卷积映射方法66
3.3.4对全连接层的支持70
3.4DNA架构设计71
3.4.1可重构数据通路设计71
3.4.2可重构卷积引擎设计73
3.4.3DNA架构的工作流程和调度框架77
3.5实验结果79
3.5.1实验设置79
3.5.2DNA架构的版图和硬件指标79
3.5.3DNA架构的访存和整体能耗分析80
3.5.4DNA架构的性能分析84
3.5.5DNA架构与国际很好工作的比较85
3.5.6基于DNA架构的人工智能计算芯片Thinker88
3.6小结90
第4章基于数据保持时间的神经网络存储优化框架RANA92
4.1引言92
4.2问题背景95
4.2.1CNN模型95
4.2.2CNN加速器96
4.2.3CNN加速器的缓存容量问题97
4.2.4eDRAM及数据保持问题98
4.3研究动机99
4.3.1实验平台99
4.3.2问题分析100
4.3.3优化机会102
4.4RANA框架102
4.4.1RANA框架概览102
4.4.2基于数据保持时间的训练方法104
4.4.3混合计算模式107
4.4.4刷新优化的eDRAM控制器113
4.5实验结果114
4.5.1实验设置114
4.5.2对RANA框架的评估115
4.5.3在DaDianNao上的扩展性分析120
4.6小结121
第5章总结与展望123
5.1工作总结123
5.2未来工作展望124
参考文献126
在学期间发表的学术论文与研究成果137
致谢139