《Java架构师的第一性原理》41存储之MySQL第10篇数据库切分

所有概念均以“用户中心”举例。

1 单库架构

单库架构,是业务初期最常见的数据库架构。

  • user-service:用户中心服务,对调用者提供友好的RPC接口
  • user-db:一个库进行数据存储

2 分组架构

 数据库分组架构,即最常见的一主多从,主从同步,读写分离数据库架构:

  • user-service:依旧是用户中心服务
  • user-db-M(master):主库,提供数据库写服务
  • user-db-S(slave):从库,提供数据库读服务

主和从构成的数据库集群称为“一组”。

同一个组里的数据库集群:

  • 主从之间通过binlog进行数据同步
  • 多个实例数据库结构完全相同
  • 多个实例存储的数据也完全相同,本质上是将数据进行复制

数据库分组架构究竟解决什么问题?大部分互联网业务读多写少,数据库的读往往最先成为性能瓶颈,如果希望:

  • 线性提升数据库读性能
  • 通过消除读写锁冲突提升数据库写性能
  • 通过冗余从库实现数据的“读高可用”

此时可以使用分组架构,需要注意的是,分组架构中,数据库的主库依然是写单点。

一句话总结,分组解决的是“数据库读写高并发量高”问题,常实施的架构设计。

3 分片架构

 数据库分片架构,是大伙最常说的水平切分(sharding):

  • user-service:依旧是用户中心服务
  • user-db1:水平切分成2份中的第一份
  • user-db2:水平切分成2份中的第二份

分片后,多个数据库实例也会构成一个数据库集群。水平切分,到底是分库还是分表?强烈建议分库,因为:

  • 分表依然公用一个数据库文件,仍然有磁盘IO的竞争
  • 分库能够很容易的将数据迁移到不同数据库实例,甚至数据库机器上,扩展性更好

画外音:当然,分库后,数据库连接数会更多。

如何进行水平切分?

常见的方法是“范围法”和“哈希法”:

 

范围法如上,以用户中心的业务主键uid为划分依据,将数据水平切分到两个数据库实例上去。

 哈希法如上,也是以用户中心的业务主键uid为划分依据,将数据水平切分到两个数据库实例上去。

画外音:本例中哈希算法是“取模”。

哈希法在互联网数据库架构中,使用较为广泛。 分片架构,同一个集群里的各个分片:

  • 多个实例之间本身不直接产生联系,不像主从间有binlog同步
  • 多个实例数据库结构,也完全相同
  • 多个实例存储的数据之间没有交集,所有实例间数据并集构成全局数据

分片架构究竟解决什么问题?大部分互联网业务数据量很大,单库容量容易成为瓶颈,此时通过分片可以:

  • 线性提升数据库写性能,需要注意的是,分组架构是不能线性提升数据库写性能的
  • 降低单库数据容量

 

一句话总结,分片解决的是“数据库数据量大”问题,常实施的架构设计。

 

场景:

数据存储中,相互关系的表,尽量分库时落到同一个库中,避免遍历多个库查询,而且还能避免分布式事务。

一般分库或者分表我们采用取余操作,余数相同的id落到相同的库中,或分表规则一致。

解决理论:

参考:https://stackoverflow.com/questions/6670715/mod-of-power-2-on-bitwise-operators

根据理论:

He meant that taking number mod 2^n is equivalent to stripping off all but the n lowest-order (right-most) bits of number.

一个数取余2的n次方,那么余数就是这个数的二进制的最后n位数。所有我们可以位操作符把高位清零就可以得到余数。

int mod = number & ~(-1 << n)

所以,n的取舍关系到分库的数量或者分表的数量,即2^n 个库或表。故我们把二进制的最后n位数,即上述代码中的mod称为分库分表因子。

4 分组+分片架构

 如果业务读写并发量很高,数据量也很大,通常需要实施分组+分片的数据库架构:

  • 通过分片来降低单库的数据量,线性提升数据库的写性能
  • 通过分组来线性提升数据库的读性能,保证读库的高可用

画外音:大部分线上的真实架构,是这样子的。

5 垂直切分

数据库垂直切分,也是一类常见的数据库架构设计,垂直切分一般和业务结合比较紧密。

 还是以用户中心为例,可以这么进行垂直切分:

User_Base(uid, uname, passwd, sex, age, …)User_EX(uid, intro, sign, …)

  • 垂直切分开的表,主键都是uid
  • 登录名,密码,性别,年龄等属性放在一个垂直表(库)里
  • 自我介绍,个人签名等属性放在另一个垂直表(库)里

如何进行垂直切分?

根据业务对数据进行垂直切分时,一般要考虑属性的“长度”和“访问频度”两个因素:

  • 长度较短,访问频率较高的放在一起
  • 长度较长,访问频度较低的放在一起

这是因为,数据库会以行(row)为单位,将数load到内存(buffer)里,在内存容量有限的情况下,长度短且访问频度高的属性,内存能够load更多的数据,命中率会更高,磁盘IO会减少,数据库的性能会提升。

垂直切分和水平切有相似的地方,又不太相同:

  • 多个实例之间也不直接产生联系,即没有binlog同步
  • 多个实例数据库结构,都不一样
  • 多个实例存储的数据之间至少有一列交集,一般来说是业务主键,所有实例间数据并集构成全局数据

垂直切分解决什么问题?

垂直切分即可以降低单库的数据量,还可以降低磁盘IO从而提升吞吐量,但它与业务结合比较紧密,并不是所有业务都能够进行垂直切分的。

文章较长,简单总结:

  • 业务初期用单库
  • 读压力大,读高可用,用分组
  • 数据量大,写线性扩容,用分片
  • 属性短,访问频度高的属性,垂直拆分到一起

99 直接读这些牛人的原文

【数据库架构】

100亿数据量1万属性10万并发数据库架构设计

数据库秒级平滑扩容架构方案

业界难题,跨库分页的四种方案

100亿数据平滑迁移,不停服务

MySQL数据冗余的三种方案

【数据库-容量】

每每谈到数据库架构,我们在讨论什么

用户中心,数据库架构优化与实践

帖子中心,数据库架构优化与实践

好友中心,数据库架构优化与实践

订单中心,如何做到数据库无限容量

【数据库中间件】

数据库中间件,需求调研

数据库中间件,cobar调研笔记

数据库中间件,TDDL调研笔记

数据库中间件,atlas调研笔记

数据库中间件,mysql-proxy调研笔记

假如让你来设计数据库中间件

 

posted @ 2021-04-12 22:46  沙漏哟  阅读(73)  评论(0编辑  收藏  举报