Redis Sentinel(哨兵模式)
-
当master节点发生故障时,需要手动进行故障转移
-
写能力与存储能力受限,写能力和存储能力都依赖于master节点
Redis Sentinel架构
在主从复制的基础上,新增多个Redis Sentinel节点,这些Sentinel不存储任何的数据。这些Sentinel节点会完成Redis的故障判断并故障转移的处理,然后通知客户端。一套Redis Sentinel集群可以监控多套Redis主从,每一套Redis主从通过master-name作为标识。
客户端不直接连接Redis服务,而连接Redis Sentinel。在Redis Sentinel中清楚哪个节点是master节点。
故障转移流程
-
多个Sentinel发现并确认master有问题
-
-
选出一个slave作为master
-
通知其余slave成为新的master的slave
-
通知客户端主从发生的变化
-
等待老的master复活成为新master的slave
Redis Sentinel的相关配置
配置 | 含义 |
---|---|
port ${port} | sentinel的端口号 |
dir "/redisDataPath" | redis的工作目录 |
logfile "${port}.log" | redis的日志文件 |
sentinel monitor mymaster 127.0.0.1 7000 2 | 名称为mymaster的主从 masterIP=127.0.0.1 masterPort=7000 2个sentinel发现这个master有问题后执行故障转移 |
sentinel down-after-milliseconds mymaster 30000 | 每个sentinel在连续ping 30000ms不通后认为有问题 |
sentinel parallel-syncs mymaster 1 | 在故障转移时,该名称为mymaster的集群中 同一时间点只允许1个节点进行复制 |
sentinel failover-timeout mymaster 180000 | 故障转移的超时时间 |
Redis Sentinel的安装与配置
1.配置开启主从节点
-
redis-7000.conf
port 7000
daemonize yes
pidfile /var/run/redis-7000.pid
logfile "7000.log"
dir /redisDataPath
-
redis-7001.conf
port 7001
daemonize yes
pidfile /var/run/redis-7001.pid
logfile "7001.log"
dir /redisDataPath
slaveof 127.0.0.1 7000
-
redis-7002.conf
port 7002
daemonize yes
pidfile /var/run/redis-7002.pid
logfile "7002.log"
dir /redisDataPath
slaveof 127.0.0.1 7000
2.配置开启sentinel监控主节点(sentinel是特殊的redis)
-
redis-26379.conf(redis sentinel的默认端口是26379)
port 26379
daemonize yes
dir "/redisDataPath"
logfile "26379.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000
-
redis-26380.conf
port 26380
daemonize yes
dir "/redisDataPath"
logfile "26380.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000
-
redis-26381.conf
port 26381
daemonize yes
dir "/redisDataPath"
logfile "26381.log"
sentinel monitor mymaster 127.0.0.1 7000 2
sentinel down-after-milliseconds mymaster 30000
sentinel parallel-syncs mymaster 1
sentinel failover-timeout mymaster 180000
客户端接入基本原理
-
客户端需要所有的sentinel节点以及对应的masterName
-
客户端会遍历所有的sentinel节点,获取一个可用的sentinel节点
-
向可用的sentinel调用 sentinel get-master-addr-by-name masterName, 可用的sentinel将返回master节点信息。
-
客户端连接该master节点,调用role或者role replication,确认该节点是master节点。
-
如果master发生故障转移,sentinel是能够感知,并通过发布订阅模型将最新的master信息告知客户端
Set<String> sentinelSet = new HashSet<String>() {{
add("127.0.0.1:26379");
add("127.0.0.1:26380");
add("127.0.0.1:26381");
}};
JedisPoolConfig poolConfig = new JedisPoolConfig();
String masterName = "myMaster";
int timeout = 30_000; //jedis连接sentinel的超时时间
JedisSentinelPool sentinelPool = new JedisSentinelPool(
masterName , sentinelSet , poolConfig , timeout);
Jedis jedis = sentinelPool.getResource();
jedis.close();
三个定时任务
-
每10秒每个sentinel对master和slave执行info
-
发现slave节点
-
确认主从关系
-
-
每2秒每个sentinel通过mster节点的channel交换信息(pub/sub)
-
通过__sentinel__:hello频道交互
-
交互对节点的“看法”和自身信息
-
-
每1秒每个sentinel对其他sentinel和redis执行ping
主观下线与客观下线
-
主观下线:每个sentinel节点对Redis节点失败的看法。
-
sentinel down-after-milliseconds masterName timeout
-
每个sentinel节点每秒会对Redis节点进行ping,当连续timeout毫秒之后还没有得到PONG,则sentinel认为redis下线。
-
-
客观下线:所有sentinel节点对Redis节点失败达成共识。
-
sentinel monitor masterName ip port quorum
-
大于等于quorum个sentinel主观认为Redis节点失败下线
-
通过sentinel is-master-down-by-addr提出自己认为Redis master下线
领导者选举
-
原因:只有sentinel节点完成故障转移
-
选举:通过 sentinel is-master-down-by-addr 命令都希望成为领导者
-
每个主观下线的sentinel节点向其他sentinel节点发送命令,要求将它设置为领导者
-
收到命令的Sentinel节点如果没有同意其他Sentinel节点发送的命令,那么将同意该请求,否则拒绝。
-
如果该Sentinel节点发现自己的票数已经超过Sentinel集合半数且超过quorum,那么将它成为领导者
-
如果此过程有多个Sentinel节点成为了领导者,那么将等待一段时间重新进行选举
-
故障转移(Sentinel领导者节点完成之后)
-
从slave节点中选出一个“合适的”节点作为新的master节点
-
选择slave-priority(slave节点优先级)最高的slave节点,如果存在则返回,不存在则继续
-
选择复制偏移量最大的slave节点(复制的最完整性),如果存在则返回,不存在则继续
-
选择runId最小的slave节点
-
-
对上面的slave节点执行slave no one命令让其成为master节点
-
向其余的slave节点发送命令,让它们成为新master节点的slave节点,复制规则和parallel-syncs参数有关。
-
更新对原来master节点配置为slave,并保持对其“关注”,当其恢复后命令它去复制新的master节点
节点运维(上线与下线)
生产节点下线可能原因
-
机器下线:过保等情况
-
机器性能不足:例如CPU、内存、磁盘、网络等
1.主节点
##节点下线
##手动进行故障转移
sentinel failover ${masterName}
##跳过主观下线、客观下线与领导者选举,领导者即为当前连接的sentinel节点
##节点上线
config set slave-priority num #调大新增节点的优先级
sentinel failover ${masterName}
2.从节点
需要区分是临时下线还是永久下线。例如需要做一些配置、AOF、RDB等方面的清理工作。
当上线时候,执行slaveof masterIp masterPort即可
3.Sentinel节点
需要区分是临时下线还是永久下线。例如需要做一些配置的清理工作。