《并行程序设计导论》全面涵盖了并行软件和硬件的方方面面，深入浅出地介绍如何使用MPI（分布式内存编程）、Pthreads和OpenMP（共享内存编程）编写高效的并行程序。各章节包含了难易程度不同的编程习题。《并行程序设计导论》可以用做计算机科学专业低年级本科生的专业课程的教材，也可以作为软件开发人员学习并行程序设计的专业参考书。
出版者的话译者序本书赞誉前言致谢第1章 为什么要并行计算1.1 为什么需要不断提升的性能1.2 为什么需要构建并行系统1.3 为什么需要编写并行程序1.4 怎样编写并行程序1.5 我们将做什么1.6 并发、并行、分布式1.7 本书的其余部分1.8 警告1.9 字体约定1.10 小结1.11 习题第2章 并行硬件和并行软件2.1 背景知识2.1.1 冯·诺依曼结构2.1.2 进程、多任务及线程2.2 对冯·诺依曼模型的改进2.2.1 Cache基础知识2.2.2 Cache映射2.2.3 Cache和程序：一个实例2.2.4 虚拟存储器2.2.5 指令级并行2.2.6 硬件多线程2.3 并行硬件2.3.1 SIMD系统2.3.2 MIMD系统2.3.3 互连网络2.3.4 Cache一致性2.3.5 共享内存与分布式内存2.4 并行软件2.4.1 注意事项2.4.2 进程或线程的协调2.4.3 共享内存2.4.4 分布式内存2.4.5 混合系统编程2.5 输入和输出2.6 性能2.6.1 加速比和效率2.6.2 阿姆达尔定律2.6.3 可扩展性2.6.4 计时2.7 并行程序设计2.8 编写和运行并行程序2.9 假设2.10 小结2.10.1 串行系统2.10.2 并行硬件2.10.3 并行软件2.10.4 输入和输出2.10.5 性能2.10.6 并行程序设计2.10.7 假设2.11 习题第3章 用MPI进行分布式内存编程3.1 预备知识3.1.1 编译与执行3.1.2 MPI程序3.1.3 MPI_Init和MPI_Finalize3.1.4 通信子、MPI_Comm_size和MPI_Comm_rank3.1.5 SPMD程序3.1.6 通信3.1.7 MPI_Send3.1.8 MPI_Recv3.1.9 消息匹配3.1.10 status_p参数3.1.11 MPI_Send和MPI_Recv的语义3.1.12 潜在的陷阱3.2 用MPI来实现梯形积分法3.2.1 梯形积分法3.2.2 并行化梯形积分法3.3 I/O处理3.3.1 输出3.3.2 输入3.4 集合通信3.4.1 树形结构通信3.4.2 MPI_Reduce3.4.3 集合通信与点对点通信3.4.4 MPI_Allreduce3.4.5 广播3.4.6 数据分发3.4.7 散射3.4.8 聚集3.4.9 全局聚集3.5 MPI的派生数据类型3.6 MPI程序的性能评估3.6.1 计时3.6.2 结果3.6.3 加速比和效率3.6.4 可扩展性3.7 并行排序算法3.7.1 简单的串行排序算法3.7.2 并行奇偶交换排序3.7.3 MPI程序的安全性3.7.4 并行奇偶交换排序算法的重要内容3.8 小结3.9 习题3.10 编程作业第4章 用Pthreads进行共享内存编程4.1 进程、线程和Pthreads4.2 “Hello，World”程序4.2.1 执行4.2.2 准备工作4.2.3 启动线程4.2.4 运行线程4.2.5 停止线程4.2.6 错误检查4.2.7 启动线程的其他方法4.3 矩阵-向量乘法4.4 临界区4.5 忙等待4.6 互斥量4.7 生产者-消费者同步和信号量4.8 路障和条件变量4.8.1 忙等待和互斥量4.8.2 信号量4.8.3 条件变量4.8.4 Pthreads路障4.9 读写锁4.9.1 链表函数4.9.2 多线程链表4.9.3 Pthreads读写锁4.9.4 不同实现方案的性能4.9.5 实现读写锁4.10 缓存、缓存一致性和伪共享4.11 线程安全性4.12 小结4.13 习题4.14 编程作业第5章 用OpenMP进行共享内存编程5.1 预备知识5.1.1 编译和运行OpenMP程序5.1.2 程序5.1.3 错误检查5.2 梯形积分法5.3 变量的作用域5.4 归约子句5.5 parallelfor指令5.5.1 警告5.5.2 数据依赖性5.5.3 寻找循环依赖5.5.4 π值估计5.5.5 关于作用域的更多问题5.6 更多关于OpenMP的循环：排序5.6.1 冒泡排序5.6.2 奇偶变换排序5.7 循环调度5.7.1 schedule子句5.7.2 static调度类型5.7.3 dynamic和guided调度类型5.7.4 runtime调度类型5.7.5 调度选择5.8 生产者和消费者问题5.8.1 队列5.8.2 消息传递5.8.3 发送消息5.8.4 接收消息5.8.5 终止检测5.8.6 启动5.8.7 atomic指令5.8.8 临界区和锁5.8.9 在消息传递程序中使用锁5.8.10 critical指令、atomic指令、锁的比较5.8.11 经验5.9 缓存、缓存一致性、伪共享5.10 线程安全性5.11 小结5.12 习题5.13 编程作业第6章 并行程序开发6.1 n体问题的两种解决方法6.1.1 问题6.1.2 两个串行程序6.1.3 并行化n体算法6.1.4 关于I/O6.1.5 用OpenMP并行化基本算法6.1.6 用OpenMP并行化简化算法6.1.7 评估OpenMP程序6.1.8 用Pthreads并行化算法6.1.9 用MPI并行化基本算法6.1.10 用MPI并行化简化算法6.1.11 MPI程序的性能6.2 树形搜索6.2.1 递归的深度优先搜索6.2.2 非递归的深度优先搜索6.2.3 串行实现所用的数据结构6.2.4 串行实现的性能6.2.5 树形搜索的并行化6.2.6 采用Pthreads实现的静态并行化树搜索6.2.7 采用Pthreads实现的动态并行化树搜索6.2.8 Pthreads树搜索程序的评估6.2.9 采用OpenMp实现的并行化树搜索程序6.2.10 OpenMp实现的性能6.2.11采用MPI和静态划分来实现树搜索6.2.12 采用MPI和动态划分来实现树搜索6.3 忠告6.4 选择哪个API6.5 小结6.5.1 Pthreads和OpenMP6.5.2 MPI6.6 习题6.7 编程作业第7章 接下来的学习方向参考文献索引
书单推荐
