本书介绍并行程序设计方法及相关编程工具与实践，分5篇共14章。第一篇“并行程序设计基础”含两章，包括并行计算机系统与结构模型、并行程序设计简介；第二篇“SIMD指令级并行编程”含两章，包括SIMD基本概念和x86处理器上的并行指令编程方法和示例、ARM结构上的NEON向量指令编程与示例；第三篇“多核并行计算”含4章，包括Pthread多线程编程、OpenMP编程、GPU上的CUDA编程、寒武纪MLU编程基础；第四篇“多机并行计算”含4章，包括MPI并行计算及示例、Hadoop编程方法及示例、Spark编程和示例、TensorFlow多机异构计算的编程方法和示例；第五篇给出了并行算法实现示例。
本书涉及范围广，覆盖了单核、多核和多机环境下的并行编程方法，读者可根据自己的计算问题和计算平台特性，选择合适的并行编程方法和工具，结合各章给出的性能调优思路有效地实现并行编程。本书可作为高等学校计算机及相关专业本科高年级学生和研究生的教材，也可供从事并行程序设计及其实现的科技人员参考阅读。

陈国良，中国科学技术大学教授，博士生导师，中国科学院院士，首届高等学校国家教学名师。1938年6月生于安徽省颍上县，1961年毕业于西安交通大学计算数学与计算仪器专业。1981—1983年在美国普渡大学做访问学者，1984年至今曾多次应邀赴东京大学、京都大学、普渡大学、澳大利亚国立大学、格里菲斯大学、堪萨斯大学、艾奥瓦大学、香港城市大学、香港理工大学、澳门大学等讲学交流。现任国家高性能计算中心(合肥)主任，国际高性能计算(亚洲)常务理事，中国计算机学会理事和高性能计算专业委员会主任等。曾任教育部高等学校计算机科学与技术教学指导委员会副主任，教育部高等学校计算机基础课程教学指导委员会主任，全国高等教育电子、电工和信息类专业自考指导委员会副主任，安徽省计算机学会理事长，全国自然科学名词审定委员会委员，中国科学技术大学计算机系主任等。
陈国良教授长期从事计算机科学技术的研究与教学工作。主要研究领域为并行算法和高性能计算及其应用等。先后承担10多项国家863计划、国家攀登计划、国家自然科学基金、国家973计划等科研项目。取得了多项被国内外广泛引用、达国际先进水平的科研成果，发表论文200多篇，出版著作9部、译著5部，参与主编计算机类辞典、词汇5部。曾获国家科技进步二等奖、国家级教学成果二等奖、教育部科技进步一等奖、中国科学院科技进步二等奖、全国优秀教材一等奖、水利部大禹一等奖、安徽省科技进步二等奖等20余项，并获2001年度“国家863计划15周年先进个人重要贡献奖”和2009年度安徽省重大科技成就奖。

第一篇 并行程序设计基础
第1章 并行计算机系统与结构模型
1.1 典型并行计算机系统简介
1.1.1 阵列处理机
1.1.2 向量处理机
1.1.3 共享存储多处理机
1.1.4 分布存储多计算机
1.1.5 分布共享存储多处理机
1.2 当代并行计算机体系结构
1.2.1 并行计算机体系结构模型
1.2.2 并行计算机存储结构模型
1.2.3 分布式高速缓存与主存体系结构
1.3 小结
习题
第2章 并行程序设计简介
2.14 并行程序开发方法
2.1.1 并行层次与代码粒度
2.1.2 并行程序开发策略
2.1.3 并行编程模式
2.1.4 PCAM设计方法学
2.2 并行程序设计模型
2.2.1 计算π样本程序
2.2.2 数据并行模型
2.2.3 消息传递模型
2.2.4 共享变量模型
2.3 并行编程语言和环境概述
2.3.1 早期并行编程语言
2.3.2 近代并行编程语言与高生环境
2.3.3 并行说明性语言环境
2.4 循环程序并行化的一般方法
2.4.1 数据相关分析
2.4.2 数据划分与处理器指派
2.4.3 循环重构
2.5 小结
习题
第二篇 SIMD指令级并行编程
第3章 SIMD并行编程
3.1 SIMD指令
3.1.1 工作原理
3.1.2 SIMD程序性能分析
3.1.3 典型的SIMD指令集
3.2 SIMD编程方法
3.2.1 基于SIMD库函数的编程
3.2.2 编译器自动向量化
3.2.3 编译制导、内置函数与汇编方法
……
第三篇 多核并行计算
第四篇 多机并行计算
第五篇 并行算法实现示例
参考文献