分布式缓存(十四)

单点Redis的问题

数据丢失问题;实现Redis数据持久化

并发能力问题;搭建主从集群,实现读写分离;

存储能力问题;搭建分片集群,利用插槽机制实现动态扩容。

故障恢复问题;利用Redis哨兵,实现健康检测和自动恢复;

1 Redis持久化

1.1 RDB持久化

RDB全称Redis Database Backup fie(Redis数据备份文件),也被叫做Redis数据快照。简单来说就是把内存中的所有数据都记录到磁盘中。当Redis实例故障重启后,从磁盘读取快照文件,恢复数据。

快照文件称为RDB文件,默认是保存在当前运行目录。

命令

1)save(不推荐此命令):由redis主进程来执行RDB,会阻塞所有命令

2)bgsave:开启子进程执行RDB,避免主进程受到影响。

RDB方式bgsave基本流程

  • fork主进程得到一个子进程,共享内存空间;
  • 子进程读取内存数据并写入新的RDB文件;
  • 用新RDB文件替换旧的RDB文件。

RDB会在什么时候执行?save 60 1000代表什么含义?

  • 默认是服务停止时;
  • 代表60秒内至少执行1000次修改则触发RDB;

RDB的缺点?

  • RDB执行间隔时间长,两次RDB之间写入数据有丢失的风险;
  • fork子进程、压缩、写出RDB文件都比较耗时。

1.2 AOF持久化

AOF全称是Append Only File(追加文件)。Redis处理的每一个写命令都会记录在AOF文件,可以看做是命令日志文件

AOF默认是关闭的,需要修改redis.conf配置文件来开启AOF:

# 是否开启AOF功能,默认是no
appendonly yes
# AOF文件的名称
appendfilename “appendonly.aof”

AOF命令记录的频率也可以通过redis.conf文件来配

# 表示每执行一次写命令,立即记录到AOF文件
appendfsync always
# 写命令执行完先放入AOF缓冲区,然后表示每隔1秒将缓冲区数据写到AOF文件,是默认方案
appendfsync everysec
# 写命令执行完先放入AOF缓冲区,由操作系统决定何时将缓冲区内容写回磁盘
appendfsync no
配置项 刷盘时机 优点 缺点
Always 同步刷盘 可靠性高,几乎不丢数据 性能影响大
everysec 每秒刷盘 性能适中 最多丢失1秒数据
no 操作系统控制 性能最好 可靠性较差,可能丢失大量数据

bgrewriteaof:让AOF文件执行重写功能,用最少得命令达到相同效果。

RDB 和 AOF 的对比分析

  RDB AOF
持久化方式 定时对整个内存做快照 记录每一次执行的命令
数据完整性 不完整,两次备份之间会丢失 相对完整,取决于刷盘策略
文件大小 会有压缩,文件体积小 记录命令,文件体积大
宕机恢复速度 很快
数据恢复优先级 低,因为数据完整性不如AOF 高,因为数据完整性更高
系统资源占用 高,大量CPU和内存损耗 低,主要是磁盘IO资源但AOF重写时会占用大量CPU和内存资源
使用场景 可以容忍数分钟的数据丢失,追求更快的启动速度 对数据安全性要求较高常见

2 Redis主存

全量同步的流程

  • slave节点请求增量同步;
  • master节点判断repid,发现不一致,拒绝增量同步;
  • master将完整内存数据生成RDB,发送RDB到slave;
  • slave清空本地数据,加载master的RDB;
  • master将RDB期间的命令记录在repl_baklog,并持续将log中的命令发送给slave;
  • slave执行接收到的命令,保持与master之间的同步。

全量同步和增量同步的区别

  • 全量同步:master将完整内存数据生成RDB,发送RDB到slave。后续命令则记录在repl_baklog,逐个发送给slave;
  • 增量同步:slave提交自己的offset到master,master获取repl_baklog中从offset之后的命令给slave。

什么时候执行全量同步?

  • slave节点第一次连接master节点时;
  • slave节点断开时间太久,repl_baklog中的offset已经被覆盖时。

什么时候执行增量同步?

  • slave节点断开又恢复,并且在repl_baklog中能找到offset时。

3 Redis哨兵

3.1 哨兵的作用和原理

Redis提供了哨兵机制来实现主从集群的自动故障恢复。

哨兵的结构和作用

  • 监控Sentinel不断检查您的masterslave是否按预期工作
  • 自动故障恢复:如果master故障,Sentinel会将一个slave提升为master。当故障实例恢复后也以新的master为主;
  • 通知:Sentinel充当Redis客户端的服务发现来源,当集群发生故障转移时,会将最新消息推送给Redis的客户端。

3.2 服务状态监控

Sentinel基于心跳机制检测服务状态,每隔1秒向集群的每个实例发送ping命令:

  • 主观下线:如果某Sentinel节点发现某实例未在规定时间响应,则认为该实例主观下线
  • 客观下线:若超过指定数量(quorum)的sentinel都认为该实例主观下线,则该实例客观下线。quorum值最好超过Sentinel实例数量的一半。

故障转移步骤

  • 首先选定一个slave作为新的master,执行slaveof no one;
  • 然后让所有节点都执行slaveof 新 master;
  • 修改故障节点配置,添加slaveof 新master。

3.3 搭建哨兵集群

3.4 RedisTemplate的哨兵模式

4 Redis分片集群

4.1 分片集群结构

主从哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决:

  • 海量数据存储问题;
  • 高并发写的问题;

使用分片集群可以解决上述问题,分片集群特征

  • 集群中有多个master,每个master保存不同数据;
  • 每个master都可以有多个slave节点;
  • master之间通过ping检测彼此健康状态;
  • 客户端请求可以访问集群任意节点,最终都会被转发到正确节点。

原文链接:【SpringCloud+RabbitMQ+Docker+Redis+搜索+分布式,系统详解springcloud微服务技术栈课程|黑马程序员Java微服务-哔哩哔哩】 https://b23.tv/vv527Ac

posted @   DAYTOY-105  阅读(10)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?
点击右上角即可分享
微信分享提示

目录导航