7 Redis 集群

7 Redis 集群

7.1 集群介绍

随着业务规模越来越大，会出现以下这些问题，

  • 容量不够，redis如何进行扩容？

  • 并发写操作， redis如何分摊？

为了解决这些问题，集群随之产生，在早期的时候通过代理主机来解决，但是redis3.0中提供了解决方案。就是无中心化集群配置。

另外，主从模式，薪火相传模式，主机宕机，导致ip地址发生变化，应用程序中配置需要修改对应的主机地址、端口等信息。

Redis 集群实现了对Redis的水平扩容，即启动N个redis节点，将整个数据库分布存储在这N个节点中，每个节点存储总数据的1/N。

Redis 集群通过分区（partition）来提供一定程度的可用性（availability）： 即使集群中有一部分节点失效或者无法进行通讯， 集群也可以继续处理命令请求。

7.2 创建集群

7.2.1 创建目录

mkdir -p /usr/local/redis-master-0{1..3}
mkdir -p /usr/local/redis-node-0{1..3}
mkdir -p /data/biglog/redis_cluster/

image-20211104162250142

7.2.2 创建配置文件

1）复制分发配置文件

cp /usr/local/redis/redis.conf /usr/local/redis-master-01/
cp /usr/local/redis/redis.conf /usr/local/redis-master-02/
cp /usr/local/redis/redis.conf /usr/local/redis-master-03/
cp /usr/local/redis/redis.conf /usr/local/redis-node-01/
cp /usr/local/redis/redis.conf /usr/local/redis-node-02/
cp /usr/local/redis/redis.conf /usr/local/redis-node-03/

2）关闭配置文件中的AOF持久化存储

sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-master-01/redis.conf
sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-master-02/redis.conf
sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-master-03/redis.conf
sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-node-01/redis.conf
sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-node-02/redis.conf
sed  -i  's/appendonly yes/appendonly no/g' /usr/local/redis-node-03/redis.conf

4）创建配置文件

master节点

cat <<EOF> /usr/local/redis-master-01/redis-6380.conf
# 引用公共配置文件部分
include /usr/local/redis-master-01/redis.conf
# PID文件路径
pidfile /var/run/redis_6380.pid
# 服务端口号
port 6380
# RDB文件名称
dbfilename dump-6380.rdb
# RDB文件存储位置
dir /usr/local/redis-master-01/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6380.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6380.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF
cat <<EOF> /usr/local/redis-master-02/redis-6381.conf
# 引用公共配置文件部分
include /usr/local/redis-master-02/redis.conf
# PID文件路径
pidfile /var/run/redis_6381.pid
# 服务端口号
port 6381
# RDB文件名称
dbfilename dump-6381.rdb
# RDB文件存储位置
dir /usr/local/redis-master-02/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6381.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6381.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF
cat <<EOF> /usr/local/redis-master-03/redis-6382.conf
# 引用公共配置文件部分
include /usr/local/redis-master-03/redis.conf
# PID文件路径
pidfile /var/run/redis_6382.pid
# 服务端口号
port 6382
# RDB文件名称
dbfilename dump-6382.rdb
# RDB文件存储位置
dir /usr/local/redis-master-03/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6382.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6382.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF

node节点

cat <<EOF> /usr/local/redis-node-01/redis-6390.conf
# 引用公共配置文件部分
include /usr/local/redis-node-01/redis.conf
# PID文件路径
pidfile /var/run/redis_6390.pid
# 服务端口号
port 6390
# RDB文件名称
dbfilename dump-6390.rdb
# RDB文件存储位置
dir /usr/local/redis-node-01/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6390.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6390.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF
cat <<EOF> /usr/local/redis-node-02/redis-6391.conf
# 引用公共配置文件部分
include /usr/local/redis-node-02/redis.conf
# PID文件路径
pidfile /var/run/redis_6391.pid
# 服务端口号
port 6391
# RDB文件名称
dbfilename dump-6391.rdb
# RDB文件存储位置
dir /usr/local/redis-node-02/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6391.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6391.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF
cat <<EOF> /usr/local/redis-node-03/redis-6392.conf
# 引用公共配置文件部分
include /usr/local/redis-node-03/redis.conf
# PID文件路径
pidfile /var/run/redis_6392.pid
# 服务端口号
port 6392
# RDB文件名称
dbfilename dump-6392.rdb
# RDB文件存储位置
dir /usr/local/redis-node-03/
# 日志文件路径
logfile "/data/biglog/redis_cluster/redis_err_6392.log"
# 打开集群模式
cluster-enabled yes
# 设定节点配置文件名
cluster-config-file nodes-6392.conf
# 设定节点失联时间，超过该时间（毫秒），集群自动进行主从切换。
cluster-node-timeout 15000
EOF

7.2.3 启动服务

redis-server /usr/local/redis-master-01/redis-6380.conf
redis-server /usr/local/redis-master-02/redis-6381.conf
redis-server /usr/local/redis-master-03/redis-6382.conf
redis-server /usr/local/redis-node-01/redis-6390.conf
redis-server /usr/local/redis-node-02/redis-6391.conf
redis-server /usr/local/redis-node-03/redis-6392.conf

7.2.4 查看运行状态

 ps -ef | grep redis

image-20211104165432567

7.2.5 启动集群

1）启动服务后，目录结构

image-20211104164006049

2）设置集群

# 需要依赖rb环境，切换到redis 安装目录中
cd /usr/local/redis/src
# 执行设置集群
./redis-cli --cluster create --cluster-replicas 1 192.168.5.6:6380 192.168.5.6:6381 192.168.5.6:6382 192.168.5.6:6390 192.168.5.6:6391 192.168.5.6:6392

  • 此处不要用127.0.0.1， 请用真实IP地址

  • 一个集群至少要有三个主节点。

  • 选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。

  • 分配原则尽量保证每个主数据库运行在不同的IP地址，每个从库和主库不在一个IP地址上。

image-20211104165506168

image-20211104165547155

3）连接redis

redis-cli -c -p 6380
# -c 采用集群策略连接，设置数据会自动切换到相应的写主

4）查看集群信息

cluster nodes

image-20211104170315920

7.3 什么是slots

image-20211104165547155

一个 Redis 集群包含 16384 个插槽（hash slot）， 数据库中的每个键都属于这 16384 个插槽的其中一个，

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽， 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子， 如果一个集群可以有主节点， 其中：

  • 节点 A 负责处理 0 号至 5460 号插槽。

  • 节点 B 负责处理 5461 号至 10922 号插槽。

  • 节点 C 负责处理 10923 号至 16383 号插槽。

7.4 在集群中录入数据

在redis-cli每次录入、查询键值，redis都会计算出该key应该送往的插槽，如果不是该客户端对应服务器的插槽，redis会报错，并告知应前往的redis实例地址和端口。

redis-cli客户端提供了 –c 参数实现自动重定向。

如 redis-cli -c –p 6380 登入后，再录入、查询键值对可以自动重定向。

image-20211104172540875

不在一个slot下的键值，是不能使用mget,mset等多键操作。

mset m1 v1 m2 v2 m3 v3 m4 v4

image-20211104172633432

可以通过{}来定义组的概念，从而使key中{}内相同内容的键值对放到一个slot中去。

mset m1{user} v1 m2{user} v2 m3{user} v3 m4{user} v4

image-20211104172850967

1）计算key的插槽值

cluster keyslot <keys>

image-20211104173104345

2）查看插槽的值（只能查看节点本身的值）

cluster countkeysinslot <slot>

image-20211104173534513

3）查询集群中数据（只能查看节点本身的值）

cluster getkeysinslot <slot> <count> 
# 返回 count 个 slot 槽中的键。

image-20211104173920572

7.5 故障恢复

如果主节点下线？从节点能否自动升为主节点？注意：15秒超时

image-20211104174230431

主节点恢复后，主从关系会如何？主节点回来变成从机。

image-20211104174313127

如果所有某一段插槽的主从节点都宕掉，redis服务是否还能继续?

  • redis.conf中的参数 cluster-require-full-coverage

  • 如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为yes ，那么 ，整个集群都挂掉

  • 如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为no ，那么，该插槽数据全都不能使用，也无法存储。

7.6 集群优势与不足

优势：

  • 实现扩容

  • 分摊压力

  • 无中心配置相对简单

劣势：

  • 多键操作是不被支持的

  • 多键的Redis事务是不被支持的。lua脚本不被支持

  • 由于集群方案出现较晚，很多公司已经采用了其他的集群方案，而代理或者客户端分片的方案想要迁移至redis cluster，需要整体迁移而不是逐步过渡，复杂度较大。

posted @ 2021-11-03 16:36  孤独的小人物  阅读(106)  评论(0)  编辑  收藏  举报