GaussDB数据库技术解读——分布式执行

GaussDB数据库技术解读——分布式执行

分布式执行主要为分布式数据库提供一套完备的支撑数据跨节点交换，协同计算的计算框架，能够支撑位于不同地点的许多计算分片机通过网络互相连接，共同组成一个完整的、全局的逻辑上集中、物理上分布的大型数据库，数据的分布式切片方式从大的分类上有3种：

（1）Share-Memory共享内存（典型代表SQL Server），多个处理进程共享同一片内存，处理进程之间通过内部通讯机制进行通讯，通常具有很高的效率；但当更多的处理进程被添加到主机上时，内存/CPU资源竞争就成为瓶颈，进程越多瓶颈越厉害

（2）Share-Disk共享磁盘（典型代表Oracle RAC），各个处理单元使用自己的私有 CPU和Memory，共享磁盘系统，可通过增加节点来提高并行处理的能力，扩展能力较好，类似于SMP（对称多处理）模式，这种架构需要通过一个狭窄的数据管道将所有I/O信息过滤到昂贵的共享磁盘子系统，当存储器接口达到饱和的时候，增加节点并不能获得更高的性能 。

（3）Share-Nothing无共享（典型代表Teradata，GaussDB），各个处理单元都有自己私有的CPU/内存/硬盘等彼此之间相互独立，类似于MPP（大规模并行处理）模式，它是把某个表从物理存储上被水平分割，并分配给多台服务器（或多个实例），每台服务器可以独立工作，各处理单元之间通过协议通信，并行处理和扩展能力更好，只需增加服务器数就可以增加处理能力和容量，缺点是对于数据分库分表的设计存在门槛。

分布式执行-数据的分布与分区：

GaussDB的分布式部署模式采用shared-nothing方式，每个定义的表逻辑上通过分布列进行分布，通过分布类查询可以做到单DN访问。

分布式执行：数据重分布Data-Shuffling

分布式数据库中当两表关联的时候，如果有一张表的关联键不是分布键，或者发生聚集操作GroupKey不是分布键，那么就会发生表的广播或者重分布，将数据移动到一个节点上进行关联,否则查询的正确性无法得到保证。

数据库工作节点数据迁移的类型主要有Broadcast广播（N:1）和Redistribute重分布（N:M）两种

表信息：    - T1: distribute By HASH(c1)    - T2: distribute By HASH(c2)执行查询：    - select * from t1 join t2 on t1.c1 = t2.c1

由于T1、T2的分布键不相同，直接在各个datanode上关联T1、T2查询的结果正确性无法保证。

方案1：对表T2按照t2.c1的键值进行重分布redistribute操作redis(t2)->t2’, t1 join t2’

方案2：对T1进行复制broadcast操作dup(t1)->t1’, t1’join t2

方案3：对T2进行复制broadcast操作dup(t2)->t2’, t2’join t1

对于两表关联中如果之间的Data-Locality不匹配，则需要先进行data-shuffling方可进行关联操作，data-shuffling的方案根据代价通常是数据移动的成本（数据量大小、数据倾斜）因素由优化器进行判断。