本文内容摘抄自张云泉老师的《并行计算:模型与算法:models and algorithms》一书。乃读书时随手摘抄，暂作一记。这本书条理清晰，满满都是干货，读惯清新科普文的我，啃起来很累，但确实觉得这是一本值得细读的书。暂时未读完，日后继续。
并行计算模型
并行计算即利用多个处理部件同时执行计算解决某个问题，IEEE电子工程名词标准词典里对并行的定义为“分别使用独立设备并且在同一时刻转移、产生或者处理一个整体的几个独立部分”。并行计算的主要目标是提升问题求解速度，同时，并行环境的存储容量也支持处理规模更大的问题。
- 第一代并行计算模型
- 第二代并行计算模型
- 第三代并行计算模型
因为理论与技术发展的进步，并行计算关注的点也发生变化，进而使得并行计算模型得以演进。
基本度量参数
串行参数
- 指令计算性能
- 硬件峰值性能
- 程序性能
- 程序负载
- 问题规模
- 程序时间
- 利用率
- 数据传输性能
- 带宽
- 延迟
- 吞吐量
- 容量
并行参数
- 处理器个数 \( P \)通常为问题规模 \( n \) 的函数。
- 并行执行时间 \( T_p \) 为并行算法运行的时间。
- 加速比 \( S \) 为串行执行时间与并行执行时间之比， \( S = T_l \setminus T_P \)。
- 并行成本 \(C\) 定义为并行执行时间乘以处理器个数 \( C = P \times T_P \)
[latex]
