并行体系结构
计算机分类 : Flynn分类法:
graph TB
a[计算机体系结构]---b1[SISD]
a---b2[SIMD]
a---b3[MISD]
a---b4[MIMD]
b2---c1[阵列处理机]
b2---c2[向量处理机]
b4---d1[多处理器]
b4---d2[多计算机]
d1---e1[UMA]
d1---e2[NUMA]
d2---f1[MPP]
d2---f2[Cluster]
d2---f3[网格]
f1-->xx(消息传递)
f2-->xx
f3-->xx
e1-->yy(共享内存)
e2-->yy(共享内存)
subgraph ;
s1[SISD:单指令流单数据流<br>SIMD:单指令流多数据流<br>MISD:多指令流单数据流<br>MIMD:多指令流多数据流机器]
end;
class b1,b2,b3,b4 B;
class c1,c2,d1,d2 C;
class e1,e2,f1,f2,f3 F;
class xx,yy X;
style a fill:#dae1e7, stroke:#333
classDef B fill:#f9c49a, stroke:#333
classDef C fill:#ffcbcb, stroke:#333
classDef F fill:#ffe9c5, stroke:#333
classDef X fill:#ffffff, stroke:#333
style s1 fill:#dae1e7, stroke:#333
SIMD
阵列处理机
向量处理机
MIMD
多处理器系统
多处理器系统的显著特点是共享内存
根据共享内存的不同实现方式 :
UMA多处理器系统 : Uniform Memory Access, 一致性存储器访问计算机
NUMA多处理器系统 : Non-Uniform Memory Access, 非一致性存储器访问计算机
多计算机系统
由独立的计算机作为节点, 通过高速互连网络相互连接而构成的系统
多计算机系统要解决的主要问题 :
- 负载平衡技术
- 可靠性技术
- 并行程序调试工具
互联网络
- 集中式交换网络
- 分布式交换网络
MPP, 机群 ( 集群 ), 网格
-
MPP
一台机器, 一堆CPU
- 机群
一堆机器
机群系统 ( Cluster ) : 一组完整的计算机互联, 它们作为一个统一的计算机资源一起工作, 并能产生一台计算机的印象
- 完整计算机 : 一台计算离开集群仍能运行自己的任务
- 结点 : 集群系统中每台计算机
局域网和机群 :
局域网中计算机基本都是独立地工作, 计算机通过局域网共享资源
机群中要求计算机协同工作, 充分利用机器资源达到高并行性和高可靠性的要求
-
网格
