昇腾AI处理器CANN架构与编程/华为智能计算技术丛书

本书专注昇腾AI处理器 和昇腾AI异构计算架构 CANN，全书共7章。第1章 介绍昇腾AI处理器硬件架构 。首先介绍昇腾AI处理器的 达芬奇架构，为后续章节提 供了计算单元、存储系统、 控制单元、指令集等知识储 备，然后介绍基于该架构分 别面向训练和推理的昇腾AI 处理器，最后介绍围绕昇腾 AI处理器的Atlas系列硬件产 品。第2章介绍昇腾AI异构 计算架构CANN。涵盖CANN 概述、昇腾计算图、训练和 推理两种场景运行架构、开 发环境安装及全流程开发和 全流程开发工具链 MindStudio等重要内容。第 3章介绍CANN自定义算子开 发，以示例的方式介绍TBE DSL、TBE TIK和AI CPU三 种算子开发方式。第4章介 绍昇腾计算语言。首先讲述 AscendCL的编程模型，包 括线程模型和内存模型，接 着介绍AscendCL提供的五 大开放能力，包括资源管理 、模型加载与执行、算子能 力开发和高级功能等。第5 章介绍基于CANN的通用AI 模型训练方法。以模型训练 的全流程作为起始，对比了 主流深度学习框架的异同， 然后讲述基于CANN的模型 训练方法和训练辅助工具的 使用方法。第6章介绍基于 CANN的模型部署方法。讲 述模型部署全流程以及数字 视觉预处理模块、模型转换 工具、模型压缩工具的使用 方法。第7章介绍两个典型 行业应用实例。围绕个性化 影视推荐系统和智能巡检机 器人，提供全流程的完整开 发实例。 本书是昇腾AI处理器架 构、昇腾AI异构计算架构与 编程的官方教材，可以作为 高校人工智能、智能科学与 技术、计算机科学与技术、 软件工程、电子信息工程、 自动化等专业的教材，也可 以作为从事人工智能系统开 发的科研和工程技术人员的 参考用书。

苏统华，博士，哈尔滨工业大学副教授，自然手写中文文本识别的开拓者。曾出版手写汉字识别领域的首本英文专著，以及7本GPU计算和大数据分析方面的译作，所领导的NVIDIA GPU教育中心连续4年被NVIDIA评为中国区最佳GPU教育中心。

引言 第1章 昇腾AI基础 1.1 人工智能与深度学习 1.1.1 人工智能简史 1.1.2 深度学习概述 1.2 达芬奇架构 1.2.1 计算单元 1.2.2 存储系统 1.2.3 控制单元 1.2.4 指令集设计 1.2.5 卷积加速计算实例 1.3 昇腾AI处理器 1.3.1 昇腾310处理器 1.3.2 昇腾910处理器 1.4 Atlas硬件计算平台 1.4.1 模组（Atlas 200）与开发者套件（Atlas 200DK） 1.4.2 Atlas 300板卡 1.4.3 Atlas 500智能小站 1.4.4 服务器（Atlas 800/Atlas 500 Pro） 1.4.5 Atlas 900 AI集群 1.5 本章小结 第2章 昇腾AI异构计算架构CANN 2.1 CANN概述 2.2 昇腾计算图 2.3 运行架构 2.3.1 训练场景运行架构 2.3.2 推理场景运行架构 2.4 开发环境安装 2.5 全流程开发 2.5.1 开发工具链 2.5.2 典型开发流程 2.6 全流程开发工具链MindStudio 2.6.1 MindStudio简介 2.6.2 模型开发 2.6.3 应用开发与调优 2.6.4 算子开发 2.7 本章小结 第3章 CANN自定义算子开发 3.1 TBE开发概述 3.1.1 算子基本概念 3.1.2 TBE基本概念 3.1.3 TBE开发方式与流程 3.2 TBE DSL算子开发 3.2.1 开发环境准备 3.2.2 DSL的API接口 3.2.3 DSL算子开发示例 3.2.4 算子原型定义与算子信息定义 3.2.5 算子适配插件开发与算子编译及部署 3.2.6 算子单元测试 3.2.7 算子系统测试