并行编程模型研究

本书详细介绍了并行编 程的基本原理和并行计算机 体系结构，并对国内外学术 界和工业界已提出的各种并 行编程模型进行了全面阐述 。在此基础上，本书对并行 编程模型设计与实现中的各 项关键技术，特别是对任务 调度技术、容错技术进行了 深入探讨。本书介绍了一种 适用于多核集群的层次化自 适应任务调度方法，以及一 种支持容错的任务并行编程 模型。本书还探讨了面向异 构系统的并行编程模型的设 计和实现，介绍了一种面向 CPU+GPU异构系统的递归 应用并行编程模型。 本书可供计算机专业的 高年级本科生和研究生，以 及计算机系统领域的研究人 员使用，也可作为软件开发 人员学习并行编程的专业参 考书。

第1章 并行编程概述 1.1 为什么要进行并行编程 1.2 如何实现并行程序 1.3 并行编程示例 1.4 并行程序的结构和模式 1.4.1 并行程序的算法结构 1.4.2 并行编程模式 1.5 并行程序的性能评估 1.5.1 加速比和并行效率 1.5.2 可扩展性 1.5.3 Amdahl定律 1.5.4 Gustafson定律 1.5.5 程序计时 1.6 并行编程的挑战 第2章 并行计算机系统结构 2.1 计算机系统结构基础 2.1.1 计算机系统的理论和现实模型 2.1.2 存储系统 2.1.3 计算机系统的分类 2.2 指令级并行性 2.3 多核处理器 2.4 异构系统 第3章 并行编程模型的现状 3.1 共享存储系统并行编程模型 3.1.1 Pthreads 3.1.2 OpenMP 3.1.3 Cilk 3.1.4 TBB 3.1.5 PPL 3.2 分布式存储系统并行编程模型 3.2.1 消息传递接口 3.2.2 大数据处理中的编程模型 3.2.3 图计算编程模型 3.3 异构并行编程模型 3.3.1 工业界常见异构并行编程模型 3.3.2 学术界常见异构并行编程模型 3.3.3 异构并行编程模型的关键问题 3.4 任务并行编程模型 第4章 并行编程模型的关键技术问题 4.1 任务划分 4.1.1 任务分解 4.1.2 数据分解 4.1.3 依赖关系分析 4.1.4 任务划分的建议 4.2 任务调度 4.3 数据分布 4.3.1 数据分布问题 4.3.2 数据重组 4.3.3 AoS和SoA 4.3.4 矩阵数据的布局方式