AI嵌入式系统：算法优化与实现

1.本书面向人工智能的嵌入式应用，涵盖了基于运算量，内存，功耗等多维度的机器学习算法优化理论与技术。从算法底层单元到机器学习算法训练-推理联合优化及自动优化部署算法等方面进行阐述，并结合通用嵌入式处理器进行了验证。本书集机器学习算法优化理论和应用实践为一体，为实现高效的人工智能嵌入式系统提供了基础理论与方法。2.本书作者常年从事嵌入式教学与研究，书中的内容凝练了他们长期从事人工智能算法研究与系统设计的研究与经验，为人工智能应用普及提供了详实的学习和研究指南。3。本书配套的源代码和教辅材料可在华章网站的本书链接下载。

本书介绍机器学习推理算法在嵌入式系统中的底层实现技术与优化。给出不同层级的优化方法，包括面向机器学习推理模型结构的优化；面向运算图中各个算子计算优化；面向二进制比特运算优化以及面向CPU硬件特性的优化。内容结合了理论和实践，其中底层算法的优化方法涉及其背后的信号处理理论介绍，但同时通过应用例子和大量代码说明其软件实现方法。所讨论的内容能够帮助读者在嵌入式平台上实现机器学习算法，另外也为进一步实现通用的嵌入式环境下机器学习算法自动优化和部署工具的开发提供基本知识。本书内容面向电子信息及计算机专业本科教学，也可供相关领域工程技术人员参考。

前言第1章  绪论 11.1  AI嵌入式系统的概念与特点 11.2  机器学习在嵌入式系统中的实现 41.3  本书内容概述 6第2章  嵌入式软件编程模式和优化 82.1  嵌入式软件编程模式 82.1.1  基于周期调用的运行模式 92.1.2  基于中断的前后台运行模式 122.1.3  基于事件队列的运行模式 142.1.4  带时间信息的事件队列运行模式 162.1.5  计算图运行模式 172.2  通用软件优化方法 202.2.1  循环结构优化 212.2.2  时间空间平衡 232.2.3  运算精度和性能平衡 252.2.4  底层运算的快速实现算法 282.2.5  内存使用优化 302.3  小结 34参考文献 34第3章  机器学习算法概述 353.1  高斯朴素贝叶斯分类器 353.1.1  原理概述 353.1.2  模型训练和推理 363.2  感知器 383.2.1  原理概述 383.2.2  模型训练和推理 393.3  SVM分类器 403.3.1  原理概述 403.3.2  模型训练和推理 423.4  决策树 433.4.1  原理概述 433.4.2  模型训练和推理 443.4.3  决策树分类器的代码实现 453.5  线性数据降维 473.5.1  原理概述 473.5.2  模型训练和推理 473.6  神经网络 483.6.1  原理概述 483.6.2  模型训练和推理 503.7  小结 54参考文献 54第4章  数值的表示和运算 554.1  浮点数 554.1.1  单精度和双精度浮点数 554.1.2  16位浮点数 574.2  定点数 614.2.1  定点数的二进制表示形式 614.2.2  定点数的运算 644.2.3  给定算法的定点化方法 714.3  仿射映射量化 784.3.1  量化数据表示 784.3.2  量化数据运算 834.3.3  基于量化数据的矩阵运算 844.4  常数整数乘法优化 884.4.1  基于正则有符号数的常数整数乘法优化 894.4.2  基于运算图的常数整数乘法优化 924.4.3  多常数整数乘法优化 974.4.4  浮点数和整数常数乘法优化 1014.4.5  常数整数乘法优化的应用 1034.5  小结 108参考文献 108第5章  卷积运算优化 1095.1  卷积运算的定义 1095.1.1  一维线性卷积 1105.1.2  一维循环卷积 1115.1.3  二维线性卷积 1125.1.4  二维循环卷积 1135.2  快速卷积算法 1145.2.1  一维循环卷积频域快速算法 1145.2.2  短序列一维线性卷积快速算法 1175.2.3  长序列一维线性卷积的构建 1245.2.4  快速FIR滤波器算法 1295.2.5  二维快速卷积算法 1405.3  近似卷积算法 1525.3.1  基于卷积核低秩分解的二维快速卷积 1535.3.2  矩形卷积核近似卷积 1545.3.3  分段线性卷积核近似 1605.3.4  卷积核的分段近似 1645.3.5  基于IIR滤波器的近似卷积 1685.3.6  基于卷积核低秩近似的二维近似快速卷积 1725.3.7  基于二维矩形卷积核的近似快速卷积 1735.4  小结 176参考文献 177第6章  矩阵乘法优化 1786.1  机器学习算法中的矩阵乘法 1786.2  Strassen矩阵相乘算法 1806.3  Winograd矩阵相乘算法 1846.4  低秩矩阵乘法 1876.5  循环矩阵乘法 1886.6  近似矩阵乘法 1906.6.1  基于矩阵低秩近似的矩阵乘法 1916.6.2  基于数据统计相关性的近似矩阵乘法 1926.6.3  基于向量量化的近似矩阵乘法 1946.7  小结 202参考文献 203第7章  神经网络的实现与优化 2047.1  神经网络基本运算及软件实现 2057.1.1  全连接层运算 2057.1.2  卷积层运算 2077.1.3  BN层运算 2137.1.4  激活层运算 2147.1.5  池化层运算 2167.1.6  神经网络示例 2177.2  神经网络的权重系数优化 2217.2.1  权重系数二值化 2227.2.2  权重系数的定点数量化 2247.2.3  权重系数量化和神经网络训练结合 2267.3  神经网络结构优化 2337.3.1  剪枝优化 2337.3.2  卷积结构优化 2457.3.3  知识蒸馏 2517.4  小结 255参考文献 255第8章  ARM平台上的机器学习编程 2578.1  CMSIS软件框架概述 2588.2  CMSIS-DSP软件框架和编程 2618.2.1  矩阵运算 2638.2.2  高斯朴素贝叶斯算法实现 2678.2.3  SVM算法实现 2718.2.4  数据降维 2758.3  基于CMSIS-NN的神经网络编程 2778.3.1  基于卷积神经网络的手写数字识别算法 2778.3.2  CMSIS-NN的卷积神经网络实