Redis集群及高可用
Redis主从复制
主从复制,是指将一台Redis服务器的数据,复制到其他的Redis服务器。前者称为主节点(Master),后者称为从节点(Slave);数据的复制是单向的,只能由主节点到从节点。
默认情况下,每台Redis服务器都是主节点:且一个主节点可以有多个从节点(或没有从节点),但一个从节点只能有一个主节点。
#主从复制的作用:
数据冗余:主从复制实现了数据的热备份,是持久化之外的一种数据冗余方式。
故障恢复:当主节点出现问题时,可以由从节点提供服务,实现快速的故障恢复;实际上是一种服务的冗余。
负载均衡:在主从复制的基础上,配合读写分离,可以由主节点提供写服务,由从节点提供读服务(即写Redis数据时应用连接主节点,读Redis数据时应用连接从节点) ,分担服务器负载;尤其是在写少读多的场景下,通过多个从节点分担读负载,可以大大提高Redis服务器的并发量。
高可用基石:除了上述作用以外,主从复制还是哨兵和集群能够实施的基础,因此说主从复制是Redis高可用的基础。
#主从复制流程:
(1)若启动一个slave机器进程,则它会向Master机器发送一个"sync command"命令,请求同步连接。
(2)无论是第一次连接还是重新连接, Master机器都会启动一个后台进程,将数据快照保存到数据文件中(执行rdb操作) ,同时Master还会记录修改数据的所有命令并缓存在数据文件中。
(3)后台进程完成缓存操作之后, Master机器就会向Slave机器发送数据文件, Slave端机器将数据文件保存到硬盘上,然后将其加载到内存中,接着Master机器就会将修改数据的所有操作一并发送给Slave端机器。若Slave出现故障导致宕机,则恢复正常后会自动重新连接。
(4) Master机器收到Slave端机器的连接后,将其完整的数据文件发送给Slave端机器,如果Mater同时收到多个Slave发来的同步请求,则Master会在后台启动一个进程以保存数据文件,然后将其发送给所有的Slave端机器,确保所有的Slave端机器都正常。
----------------搭建Redis主从复制----------------
Master节点：192.168.73.30
Slave1节点：192.168.73.40
Slave2节点：192.168.73.50
systemctl stop firewalld
setenforce 0
安装Redis
修改Redis配置文件（Slave节点）
vim /etc/redis/6379.conf
bind 0.0.0.0 #70行，修改监听地址为0.0.0.0 daemonize yes #137行，开启守护进程 logfile /var/log/redis_6379.log #172行，指定日志文件目录 dir /var/lib/redis/6379 #264行，指定工作目录 replicaof 192.168.73.30 6379 #288行，指定要同步的Master节点IP和端口 appendonly yes #700行，开启AOF持久化功能
/etc/init.d/redis_6379 restart
验证主从效果
在Master节点上查看日志
tail -f /var/log/redis_6379.log
在Master节点上验证从节点
redis-cli info replication
Redis哨兵模式
#哨兵模式原理
#哨兵模式的作用:
监控:哨兵会不断地检查主节点和从节点是否运作正常。
自动故障转移:当主节点不能正常工作时,哨兵会开始自动故障转移操作,它会将失效主节点的其中一个从节点升级为新的主节点,并让其他从节点改为复制新的主节点。
通知(提醒) :哨兵可以将故障转移的结果发送给客户端
#哨兵结构由两部分组成,哨兵节点和数据节点:
哨兵节点:哨兵系统由一个或多个哨兵节点组成,哨兵节点是特殊的redis节点,不存储数据。
数据节点:主节点和从节点都是数据节点。
哨兵的启动依赖于主从模式,所以须把主从模式安装好的情况下再去做哨兵模式,所有节点上都需要部署哨兵模式,哨兵模式会监控所有的Redis工作节点是否正常,当Master出现问题的时候,因为其他节点与主节点失去联系,因此会投票,投票过半就认为这个
Master的确出现问题,然后会通知哨兵间,然后从Slaves中选取一个作为新的Master.
需要特别注意的是,客观下线是主节点才有的概念:如果从节点和哨兵节点发生故障,被哨兵主观下线后,不会再有后续的客观下线和故障转移操作。
#故障转移机制
1、由哨兵节点定期监控发现主节点是否出现了故障每个哨兵节点每隔1秒会向主节点、从节点及其它哨兵节点发送一次ping命令做一次心跳检测。如果主节点在一定时间范围内不回复或者是回复一个错误消息,那么这个哨兵就会认为这个主节点主观下线了(单方面的) 。当超过半数哨兵节点认为该主节点主观下线了,这样就客观下线了。
2、当主节点出现故障,此时哨兵节点会通过Raft算法(选举算法)实现选举机制共同选举出一个哨兵节点为leader,来负责处理主节点的故障转移和通知。所以整个运行哨兵的集群的数量不得少于3个节点
3、由leader哨兵节点执行故障转移,过程如下
·将某一个从节点升级为新的主节点,让其它从节点指向新的主节点;
·若原主节点恢复也变成从节点,并指向新的主节点;
·通知客户端主节点已经更换。
需要特别注意的是,客观下线是主节点才有的概念:如果从节点和哨兵节点发生故障,被哨兵主观下线后,不会再有后续的客观下线和故障转移操作。
#主节点的选举
1、过滤掉不健康的(已下线的) ,没有回复哨兵ping响应的从节点
2、选择配置文件中从节点优先级配置最高的。(replica-priority,默认值为100)
3、选择复制偏移量最大,也就是复制最完整的从节点。
哨兵的启动依赖于主从模式,所以须把主从模式安装好的情况下再去做哨兵模式
----------------搭建Redis哨兵模式----------------
Master节点：192.168.73.30
Slave1节点：192.168.73.40
Slave2节点：192.168.73.50
修改Redis哨兵模式的配置文件（所有节点）
vim /opt/redis-5.0.7/sentinel.conf
protected-mode no #17行，关闭保护模式 port 26379 #21行，Redis哨兵默认的监听端口 daemonize yes #26行，指定sentinel后台启动 logfile "/var/log/sentinel.log" #36行，指定日志存放路径 dir "/var/lib/redis/6379" #65行，指定数据库存放路径 sentinel monitor mymaster 192.168.73.30 6379 2 #84行，
指定监控的主节点，最后的2表示至少需要2个哨兵节点同意，才能进行主节点的故障判定和故障转移 sentinel down-after-milliseconds mymaster 3000 #113行，判定服务器down掉的时间周期，默认为30000毫秒（30秒） sentinel failover-timeout mymaster 180000 #146行，故障节点的最大超时时间为180000（180秒）
启动哨兵模式
先启动master，再启动slave
cd /opt/redis-5.0.7/ redis-sentinel sentinel.conf &
查看哨兵信息
redis-cli -p 26379 info Sentinel
故障模拟
查看redis-server进程号
ps -ef | grep redis
杀死Master节点上redis-server的进程号
验证结果
Redis集群模式
集群,即Redis Cluster,是Redis 3.0开始引入的分布式存储方案。
集群由多个节点(Node)组成, Redis的数据分布在这些节点中。集群中的节点分为主节点和从节点:只有主节点负责读写请求和集群信息的维护;从节点只进行主节点数据和状态信息的复制。
#集群的作用,可以归纳为两点:
(1)数据分区:数据分区(或称数据分片)是集群最核心的功能。
集群将数据分散到多个节点,一方面突破了Redis单机内存大小的限制,存储容量大大增加;另一方面每个主节点都可以对外提供读服务和写服务,大大提高了集群的响应能力。
Redis单机内存大小受限问题,在介绍持久化和主从复制时都有提及;例如,如果单机内存太大, bgsave和bgrewriteaof的fork操作可能导致主进程阻塞,主从环境下主机切换时可能导致从节点长时间无法提供服务,全量复制阶段主节点的复制缓冲区可能溢出。
(2)高可用:集群支持主从复制和主节点的自动故障转移(与哨兵类似) ;当任一节点发生故障时,集群仍然可以对外提供服务。
#Redis集群的数据分片
#以3个节点组成的集群为例:
#Redis集群的主从复制模型
----------------搭建Redis群集模式----------------
cd /etc/redis/
mkdir -p redis-cluster/redis600{1..6}
for i in {1..6}
> do
> cp /opt/redis-5.0.7/redis.conf /etc/redis/redis-cluster/redis600$i
> cp /opt/redis-5.0.7/src/redis-cli /opt/redis-5.0.7/src/redis-server /etc/redis/redis-cluster/redis600$i
> done
#bind 127.0.0.1 #69行，注释掉bind项，默认监听所有端口 protected-mode no #88行，关闭保护模式 port 6001 #92行，修改redis监听端口 daemonize yes #136行，开启守护进程，以独立进程启动 cluster-enabled yes #832行，取消注释，开启群集功能 cluster-config-file nodes-6001.conf #840行，取消注释，群集名称文件设置 cluster-node-timeout 15000 #846行，取消注释群集超时时间 appendonly yes #700行，开启AOF持久化
cd /etc/redis/redis-cluster/redis6001 redis-server redis.conf
for d in {1..6} do cd /etc/redis/redis-cluster/redis600$d redis-server redis.conf done ps -ef | grep redis
#启动集群
redis-cli --cluster create \ > 127.0.0.1:6001 127.0.0.1:6002 127.0.0.1:6003 \ > 127.0.0.1:6004 127.0.0.1:6005 127.0.0.1:6006 \ > --cluster-replicas 1
#测试集群
加 -c 参数使节点之间可以互相跳转
查看节点的哈希槽编号范围
在节点6001上创建键，新键被存储至6003节点
查看哈希值
在其他节点上查看所有键会提示为空，但可以直接查看teacher键
