Linux-redis持久化-RDB和AOF

redis 持久化

Redis 虽然是一个内存级别的缓存程序，也就是redis 是使用内存进行数据的缓存的，但是其可以将内存 的数据按照一定的策略保存到硬盘上，从而实现数据持久保存的目的

目前redis支持两种不同方式的数据持久化保存机制，分别是RDB和AOF

 

 

 RDB模式

RDB模式工作原理

 

 

 RDB(Redis DataBase)：基于时间的快照，其默认只保留当前最新的一次快照，特点是执行速度比较 快，缺点是可 能会丢失从上次快照到当前时间点之间未做快照的数据

RDB bgsave 实现快照的具体过程:

 

 

 Redis从master主进程先fork出一个子进程，使用写时复制机制，子进程将内存的数据保存为一个临时 文件，比如:tmp-.rdb，当数据保存完成之后再将上一次保存的RDB文件替换掉，然后关闭子进程，这样 可以保证每一次做RDB快照保存的数据都是完整的

因为直接替换RDB文件的时候,可能会出现突然断电等问题,而导致RDB文件还没有保存完整就因为突然关 机停止保存,而导致数据丢失的情况.后续可以手动将每次生成的RDB文件进行备份，这样可以最大化保存 历史数据

RDB 相关配置

save 900 1     #900秒内修改了1个key即触发保存RDB文件
save 300 10    #300秒内修改了10个key即触发保存RDB文件
save 60 10000  #60秒内修改了10000个key即触发保存RDB文件
dbfilename dump.rdb
dir ./         #编泽编译安装,默认RDB文件存放在启动redis的工作目录,建议明确指定存入目录
stop-writes-on-bgsave-error yes
rdbcompression yes
rdbchecksum yes

实现RDB方式

  • save: 同步,会阻赛其它命令,不推荐使用
  • bgsave: 异步后台执行,不影响其它命令的执行
  • 自动: 制定规则,自动执行

RDB 模式的优缺点

　　优点

  • RDB快照保存了某个时间点的数据，可以通过脚本执行redis指令bgsave(非阻塞，后台执行)或者 save(会阻塞写操作,不推荐)命令自定义时间点备份，可以保留多个备份，当出现问题可以恢复到不 同时间点的版本,很适合备份,并且此文件格式也支持有不少第三方工具可以进行后续的数据分析
    • 比如: 可以在最近的24小时内，每小时备份一次RDB文件，并且在每个月的每一天，也备份一个 RDB文件。这样的话，即使遇上问题，也可以随时将数据集还原到不同的版本。
  • RDB可以最大化Redis的性能，父进程在保存 RDB文件时唯一要做的就是fork出一个子进程，然后 这个子进程就会处理接下来的所有保存工作，父进程无须执行任何磁盘工/0操作。
  • RDB在大量数据,比如几个G的数据，恢复的速度比AOF的快

　　缺点

  • 不能实时保存数据，可能会丢失自上一次执行RDB备份到当前的内存数据
    • 如果你需要尽量避免在服务器故障时丢失数据，那么RDB不适合你。虽然Redis允许你设置不同的 保存点（save point）来控制保存RDB文件的频率，但是，因为RDB文件需要保存整个数据集的状 态，所以它并不是一个轻松快速的操作。因此一般会超过5分钟以上才保存一次RDB文件。在这种 情况下，一旦发生故障停机，你就可能会丢失好几分钟的数据。
  • 当数据量非常大的时候，从父进程fork子进程进行保存至RDB文件时需要一点时间，可能是毫秒或 者秒，取决于磁盘IO性能
    • 在数据集比较庞大时，fork()可能会非常耗时，造成服务器在一定时间内停止处理客户端﹔如果数 据集非常巨大，并且CPU时间非常紧张的话，那么这种停止时间甚至可能会长达整整一秒或更久。 虽然 AOF重写也需要进行fork()，但无论AOF重写的执行间隔有多长，数据的持久性都不会有任何 损失。

AOF模式

AOF 模式工作原理

 

  •  AOF：AppendOnylFile，按照操作顺序依次将操作追加到指定的日志文件末尾
  • AOF 和 RDB 一样使用了写时复制机制，AOF默认为每秒钟 fsync一次，即将执行的命令保存到AOF文件 当中，这样即使redis服务器发生故障的话最多只丢失1秒钟之内的数据，也可以设置不同的fsync策略 always，即设置每次执行命令的时候执行fsync，fsync会在后台执行线程，所以主线程可以继续处理用 户的正常请求而不受到写入AOF文件的I/O影响
  • 同时启用RDB和AOF,进行恢复时,默认AOF文件优先级高于RDB文件,即会使用AOF文件进行恢复
  • 注意: AOF 模式默认是关闭的,第一次开启AOF后,并重启服务生效后,会因为AOF的优先级高于RDB,而AOF 默认没有文件存在,从而导致所有数据丢失

AOF rewrite 重写

将一些重复的,可以合并的,过期的数据重新写入一个新的AOF文件,从而节约AOF备份占用的硬盘空间,也 能加速恢复过程

 

启用AOF功能的正确方式

[root@centos8 ~]#ll /var/lib/redis/
total 314392
-rw-r--r-- 1 redis redis 187779391 Oct 17 14:23 dump.rdb
[root@centos8 ~]#redis-cli
127.0.0.1:6379> config get appendonly
1) "appendonly"
2) "no"
127.0.0.1:6379> config set appendonly  yes
OK
[root@centos8 ~]#ll /var/lib/redis/
total 314392
-rw-r--r-- 1 redis redis 187779391 Oct 17 14:23 dump.rdb
-rw-r--r-- 1 redis redis  85196805 Oct 17 14:45 temp-rewriteaof-2146.aof
[root@centos8 ~]#ll /var/lib/redis/
total 366760
-rw-r--r-- 1 redis redis 187779391 Oct 17 14:45 appendonly.aof
-rw-r--r-- 1 redis redis 187779391 Oct 17 14:23 dump.rdb
[root@centos8 ~]#vim /etc/redis.conf
appendonly yes #改为yes

AOF 相关配置

appendonly yes
appendfilename "appendonly-${port}.aof"
appendfsync everysec
dir /path

no-appendfsync-on-rewrite yes
auto-aof-rewrite-percentage 100
auto-aof-rewrite-min-size 64mb
aof-load-truncated yes

动态修改配置自动生成appendonly.aof文件

127.0.0.1:6379> CONFIG set appendonly yes

 AOF配置说明

appendonly no
#是否开启AOF日志设置，默认redis使用的是rdb方式持久化，这种方式在许多应用中已经是够用了，但是redis如果中途宕机
会导致可能有几分钟的数据丢失（取决于dump数据的剑个时间），根据save来策略进行持久化，append only file 是另一
种持久化方式，可以提供更好的持久化特性，redis会把每次写入的数据在接收后都写入appendonly.aof文件，每次启动时
redis都会先把这个文件的数据读入内存中，先忽略RDB文件。默认不启用此功能

appendfilename "appendonly.aof" #文本文件AOF的文件名，存放在dir指令指定的目录中
appendfsync everysec             #aof初九话策略的配置
#no 标识有操作系统保证数据同步的磁盘，Linux的默认fsync策略时30秒，最多会丢失30s的数据
#always 表示每次写入都执行fsync，以保证数据同步到磁盘安全性，性能较差
#everysec 表示每秒执行一次 fsync，可能会导致丢失这1s数据，此为默认值，也是生产建议值

 AOF rewrite 配置说明

#同时在执行bgrewirteaof操作和进程写aof文件的操作，两者都会操作磁盘，而bgrewriteaof往往会涉及大量磁盘操作，这样
就会造成主进程在写aof文件的时候初见阻塞的情形，以下参数是现实控制

no-appendfsync-no-rewrite no

#在aof rewrite期间，是否对aof新记录的append暂缓使用文件同步策略，主要考虑磁盘IO开支和请求阻塞时间
#默认为 no ，表示"不暂缓",新的aof记录仍然会被立即同步到磁盘，是最安全的方式，不会丢失数据，但是要忍受阻塞的问题
#为 yes ，相当于将appendfsync设置为0，这说明并没有执行磁盘操作，只是写入缓冲区，因此这样并不会造成阻塞（应为没有竞争磁盘）
但是如果这个时候redis挂掉，就会丢失数据呢？Linux的默认fsync策略是30秒，最多丢失30s的数据，但由于yes性能较好而且避免出现阻塞因此比较推荐

rewrite #即对aof文件进程整理，将空闲空间回收，从而可以减少恢复数据时间
auto-aof-rewrite-percentage 100  #当aof log增长超过指定百分比例是，重写aof文件，设置为0表示不自动重写aof日志，
重写是为了使aof体积保持最小，但是还可以确保保存最完整的数据
auto-aof-rewrite-min-size 64mb   #触发aof rewrite的最小文件大小
aof-load-truncated yes           #是否加载由于默写原因导致的末尾异常的aof文件（主进程被kill /断电等），建议yes

 

手动执行AOF重写 BGREWRITEAOF 命令

BGREWRITEAOF （bgrewriteaof）
时间复杂度： O(N)， N 为要追加到 AOF 文件中的数据数量。执行一个 AOF文件 重写操作。重写会创建一个当前 AOF 文件的体积优化版本。

即使 BGREWRITEAOF 执行失败，也不会有任何数据丢失，因为旧的 AOF 文件在 BGREWRITEAOF 成功之前不会被修改。

重写操作只会在没有其他持久化工作在后台执行时被触发，也就是说：
如果 Redis 的子进程正在执行快照的保存工作，那么 AOF 重写的操作会被预定(scheduled)，等到保存工作完成之后再执行 AOF 重写。在这种情况下， BGREWRITEAOF 的返回值仍然是 OK ，但还会加上一条
额外的信息，说明 BGREWRITEAOF 要等到保存操作完成之后才能执行。在 Redis 2.6 或以上的版本，可以使用 INFO [section] 命令查看 BGREWRITEAOF 是否被预定。

如果已经有别的 AOF 文件重写在执行，那么 BGREWRITEAOF 返回一个错误，并且这个新的BGREWRITEAOF 请求也不会被预定到下次执行。

从 Redis 2.4 开始， AOF 重写由 Redis 自行触发， BGREWRITEAOF 仅仅用于手动触发重写操作。

手动bgrewriteaof

127.0.0.1:6379> BGREWRITEAOF
Background append only file rewriting started

 

AOF 模式优缺点

　　优点

  • 数据安全性相对较高，根据所使用的fsync策略(fsync是同步内存中redis所有已经修改的文件到存 储设备)，默认是appendfsync everysec，即每秒执行一次 fsync,在这种配置下，Redis 仍然可以保 持良好的性能，并且就算发生故障停机，也最多只会丢失一秒钟的数据( fsync会在后台线程执行， 所以主线程可以继续努力地处理命令请求)
  • 由于该机制对日志文件的写入操作采用的是append模式，因此在写入过程中不需要seek, 即使出现 宕机现象，也不会破坏日志文件中已经存在的内容。然而如果本次操作只是写入了一半数据就出现 了系统崩溃问题，不用担心，在Redis下一次启动之前，可以通过 redis-check-aof 工具来解决数据 一致性的问题
  • Redis可以在 AOF文件体积变得过大时，自动地在后台对AOF进行重写,重写后的新AOF文件包含了 恢复当前数据集所需的最小命令集合。整个重写操作是绝对安全的，因为Redis在创建新 AOF文件 的过程中，append模式不断的将修改数据追加到现有的 AOF文件里面，即使重写过程中发生停 机，现有的 AOF文件也不会丢失。而一旦新AOF文件创建完毕，Redis就会从旧AOF文件切换到新 AOF文件，并开始对新AOF文件进行追加操作。
  • AOF包含一个格式清晰、易于理解的日志文件用于记录所有的修改操作。事实上，也可以通过该文 件完成数据的重建
    • AOF文件有序地保存了对数据库执行的所有写入操作，这些写入操作以Redis协议的格式保存，因 此 AOF文件的内容非常容易被人读懂，对文件进行分析(parse)也很轻松。导出（export)AOF文件 也非常简单:举个例子，如果不小心执行了FLUSHALL.命令，但只要AOF文件未被重写，那么只要停 止服务器，移除 AOF文件末尾的FLUSHAL命令，并重启Redis ,就可以将数据集恢复到FLUSHALL执 行之前的状态。

　　缺点

  • 即使有些操作是重复的也会全部记录，AOF 的文件大小要大于 RDB 格式的文件
  • AOF 在恢复大数据集时的速度比 RDB 的恢复速度要慢
  • 根据fsync策略不同,AOF速度可能会慢于RDB
  • bug 出现的可能性更多

RDB和AOF 的选择

如果主要充当缓存功能,或者可以承受数分钟数据的丢失, 通常生产环境一般只需启用RDB即可,此也是默 认值

如果数据需要持久保存,一点不能丢失,可以选择同时开启RDB和AOF

一般不建议只开启AOF

posted @ 2022-06-13 14:24  goodbay说拜拜  阅读(271)  评论(0)  编辑  收藏  举报