Redis学习(十二):Redis集群技术

Redis Cluster 是 Redis 的分布式解决方案,在 3.0 版本正式推出,有效地解决了Redis 分布式方面的需求。当遇到单机内存、并发、流量等瓶颈时,可以采用

Cluster 架构方案达到负载均衡的目的。之前,Redis 分布式方案一般有两种:

·客户端分区方案,优点是分区逻辑可控,缺点是需要自己处理数据路由、高可用、故障转移等问题。

·代理方案,优点是简化客户端分布式逻辑和升级维护便利,缺点是加重架构部署复杂度和性能损耗。

现在官方为我们提供了专有的集群方案:Redis Cluster,它非常优雅地解决了Redis 集群方面的问题,因此理解应用好 Redis Cluster 将极大地解放我们使用分布式 Redis 的工作量,同时它也是学习分布式存储的绝佳案例。

本章将从数据分布、搭建集群、节点通信、集群伸缩、请求路由、故障转移、

集群运维几个方面介绍 Redis Cluster。

Redis.1 数据分布

Redis.1.1 数据分布理论

分布式数据库首先要解决把整个数据集按照分区规则映射到多个节点的问题,

即把数据集划分到多个节点上,每个节点负责整体数据的一个子集。

需要重点关注的是数据分区规则。常见的分区规则有哈希分区和顺序分区两

种,下表对这两种分区规则进行了对比。

分布式存储数据分区

由于 Redis Cluster 采用哈希分区规则,这里我们重点讨论哈希分区,常见的哈希分区规则有几种,下面分别介绍。

1.节点取余分区

使用特定的数据,如 Redis 的键或用户 ID,再根据节点数量 N 使用公式:hash(key)%N 计算出哈希值,用来决定数据映射到哪一个节点上。这种方案存在一个问题:当节点数量变化时,如扩容或收缩节点,数据节点映射关系需要重新计算,会导致数据的重新迁移。

这种方式的突出优点是简单性,常用于数据库的分库分表规则,一般采用预分

区的方式,提前根据数据量规划好分区数,比如划分为 512 或 1024 张表,保证可支撑未来一段时间的数据量,再根据负载情况将表迁移到其他数据库中。

扩容时通常采用翻倍扩容,避免数据映射全部被打乱导致全量迁移的情况,如

图所示。

2.一致性哈希分区

一致性哈希分区(Distributed Hash Table)实现思路是为系统中每个节点分配一个 token,范围一般在 0~2^{32},这些 token 构成一个哈希环。数据读写执行节点查找操作时,先根据 key 计算 hash 值,然后顺时针找到第一个大于等于该哈希值的 token 节点

 

 

这种方式相比节点取余最大的好处在于加入和删除节点只影响哈希环中相邻的

节点,对其他节点无影响。但一致性哈希分区存在几个问题:

·加减节点会造成哈希环中部分数据无法命中,需要手动处理或者忽略这部分数据,因此一致性哈希常用于缓存场景。

·当使用少量节点时,节点变化将大范围影响哈希环中数据映射,因此这种方式不适合少量数据节点的分布式方案

·普通的一致性哈希分区在增减节点时需要增加一倍或减去一半节点才能保证数据和负载的均衡。

正因为一致性哈希分区的这些缺点,一些分布式系统采用虚拟槽对一致性哈希

进行改进,比如 Dynamo 系统。

3.虚拟槽分区

虚拟槽分区巧妙地使用了哈希空间,使用分散度良好的哈希函数把所有数据映

射到一个固定范围的整数集合中,整数定义为槽(slot)。这个范围一般远远大于节点数,比如 Redis Cluster 槽范围是 0~16383。槽是集群内数据管理和迁移的基本单位。采用大范围槽的主要目的是为了方便数据拆分和集群扩展。每个

节点会负责一定数量的槽,如图所示。

 

当前集群有 5 个节点,每个节点平均大约负责 3276 个槽。由于采用高质量的哈希算法,每个槽所映射的数据通常比较均匀,将数据平均划分到 5 个节点进行数据分区。Redis Cluster 就是采用虚拟槽分区,下面就介绍 Redis 数据分区方法。

Redis.1.2 Redis 数据分区

Redis Cluser 采用虚拟槽分区,所有的键根据哈希函数映射到 0~16383 整数槽内,计算公式:slot=CRC16(key)&16383。每一个节点负责维护一部分槽以及槽所映射的键值数据,如图 10-5 所示。

 

 

Redis 虚拟槽分区的特点:

·解耦数据和节点之间的关系,简化了节点扩容和收缩难度。

·节点自身维护槽的映射关系,不需要客户端或者代理服务维护槽分区元数据。

·支持节点、槽、键之间的映射查询,用于数据路由、在线伸缩等场景。

数据分区是分布式存储的核心,理解和灵活运用数据分区规则对于掌握 Redis Cluster 非常有帮助。

posted @ 2022-01-19 18:34  IT6889  阅读(51)  评论(0编辑  收藏  举报