混合架构超算并行程序设计与应用

本书面向国产E级超算的体系结构和高性能计算领域，关注近年来出现的新超算硬件和新软件技术（如神威E级超算编程模式、DCU编程模式）。本书涵盖神威、曙光等超算的硬件架构与编程方法，深度结合国产超算体系结构特点，以实例的形式探讨异构超算上的高性能算法设计、优化技术及高性能软件的开发和优化方法。
本书可作为高等院校计算机科学与技术、软件工程等专业本科生或研究生的教材，使其在掌握通用计算机程序设计的基础上，进一步提升在该领域的理论知识水平和程序优化实践技能，也可作为从事高性能计算和体系结构研究的科研工作者与工程技术人员的参考资料，同时也能为关注高性能计算与超算技术发展的读者提供有益参考。

第1章绪论1
1.1高性能计算应用需求和意义1
1.2混合架构超算发展趋势2
1.3如何进行异构混合架构上的程序设计2
1.4本书的内容和安排3
第2章异构混合架构概述5
2.1国际国内超算现状5
2.1.1超算发展历程6
2.1.2超算发展现状8
2.1.3我国超算发展现状12
2.2典型的混合架构计算机13
2.2.1CPU+GPU架构：以Frontier、Summit、Aurora为代表13
2.2.2ARM架构：日本富岳16
2.2.3CPU+DCU：曙光超算17
2.2.4神威主从核架构：新一代神威超算18
2.2.5新一代天河超算19
2.3混合架构程序设计语言与框架概述22
2.3.1OpenMP22
2.3.2MPI23
2.3.3CUDA/HIP24
2.3.4OpenACC25
2.3.5Athread26
2.3.6OpenCL27
2.3.7oneAPI28
习题29
参考文献30
第3章异构混合架构性能分析理论31
3.1并行程序的时间开销31
3.2相对性能31
3.3绝对性能36
3.4性能瓶颈37
3.4.1计算密度37
3.4.2访存密集与计算密集38
3.4.3roofline性能模型38
3.4.4roofline分析示例：SpMV39
习题41
参考文献42
第4章CPU高性能程序设计43
4.1内存模型与OpenMP、MPI并行编程方法43
4.2OpenMP并行编程简介44
4.2.1OpenMP的HelloWorld45
4.2.2编译制导指令47
4.2.3运行时库函数49
4.2.4环境变量49
4.2.5OpenMPoffload49
4.3MPI并行编程简介50
4.3.1MPI基本函数50
4.3.2MPI通信模式55
4.4SIMD向量化60
4.4.1CPU向量化指令集发展60
4.4.2向量化编程实践61
4.5性能分析工具65
4.5.1perf工具65
4.5.2gprof工具69
4.5.3IPM工具70
4.5.4Score-P工具73
习题76
第5章神威异构众核程序设计77
5.1神威超算及编程环境概述77
5.1.1神威超算的背景及历史77
5.1.2神威·太湖之光超算架构78
5.1.3新一代神威超算架构80
5.1.4神威编程环境81
……