AOF重写导致的Redis进程被kill

Redis环境描述

服务器：阿里云16GB服务器
Redis版本： 5.0.5
持久化方式： AOF

问题描述

阿里云环境，使用docker安装的单节点redis5.x，频繁出现redis进程被操作系统kill，直到redis容器直接启动失败，查找/var/log/messages文件，可以看到以下内容：

谷歌了一下total-vm和anon-rss，没看太明白什么意思，服务器物理内存是16GB，姑且认为total-vm是物理内存，anon-rss就是redis进程占用的内存量了，这么看应该是redis占用内存过高导致的进程被杀；

问题查找

查看redis持久化文件appendonly.aof存储目录，如下所示：

从上图可以看到当前目录存在很多temp-rewriteaof-xxx.aof，这是aof文件重写时产生的临时文件，xxx表示重写时fork的子进程的进程号，这里存在这么多的临时文件表示redis已经进行了很多次重写，但是因为内存不足导致子进程被kill掉。查看阿里云的监控信息，发现确实存在内存飙升的情况：

正常来说子进程被kill掉，不应该影响redis容器，但是现在的情况是redis容器直接不可用了，需要重启docker服务才可以，这个应该跟docker的进程管理有关，不做深究，现在基本可以定位导致问题的原因是redis发生aof重写时由于内存不足导致子进程被kill掉，从而导致redis服务不可用。

aof重写原理

这个要从AOF文件重写的过程来说，AOF是Redis的一种持久化方式，在客户端执行写入命令时，Redis会将命令缓存在AOF缓冲区中，再根据同步策略（三种：always、everysec、no）将命令同步到appendonly.aof文件中，随着aof文件越来越大，达到配置文件中auto-aof-rewrite-min-size和auto-aof-rewrite-percentage参数配置的阈值时，redis将触发aof重写，此时会fork一个子进程进行aof重写，在aof重写过程中客户端新的写入命令会暂存于aof重写缓冲区中，直到子进程重写完成后，将aof重写缓冲区中的内容再追加到新的aof文件中，最后使用新的aof文件替换旧的aof文件。

基于以上aof重写原理可以知道，如果在子进程重写过程中，系统的写入量很大，那么aof重写缓冲区占用的内存就会越来越大，从而导致内存占用量持续上升。

问题处理

修改redis配置文件中auto-aof-rewrite-percentage参数值为800，表示当当前的aof文件大小是上次重写后aof文件大小的8倍时才触发重写。

然后将redis重启，经过漫长的数据加载之后，通过redis客户端工具可以看到，redis中数据已经超过13GB，服务器的屋里内存是16GB，按理说fork子进程进行重写时使用的是copy_on_write，每10GB内存只需要20MB左右的内存页表，还剩下3GB的内存可用，即使aof复制缓冲区zai在持续增大也不至于直接将redis给kill掉，这个牵扯到操作系统另外一个参数的配置，如下所示：

这个牵扯到linux内存分配的问题，不做深究，根据提示就是需要将vm.overcommit_memory这个参数由0改为1，表示内核允许超量使用内存直到用完为止，设置命令如下：

$ echo "vm.overcommit_memory=1" >> /etc/sysctl.conf
$ sysctl vm.overcommit_memory=1

redis启动时另外一个警告，如下：

这个是redis内核默认开启了THP特性，支持大内存页分配，当开启时可以降低fork子进程的速度，但fork操作之后，每个内存页由4k变成了2M，这个会大幅度增加重写期间主进程内存的消耗，同时每次写命令引起的复制内存页单位放大了512倍，会拖慢写操作的执行时间，导致大量的写操作慢查询，因此redis建议关闭该特性。

禁用命令：

$ echo never >  /sys/kernel/mm/transparent_hugepage/enabled

以上两个参数修改完成以后还需要修改redis的最大内存，建议单个redis最大内存在10GB以内，但是目前redis的内存占用已经达到了13GB，因此将该redis迁移到另外一台内存为32GB的服务器上，因为还要进行其他操作暂未设置最大内存，如果考虑集群的话最好单个redis内存不超过10GB，不搭建集群的话需要设置redis的最大内存，建议保留20%-30%的空闲物理内存。

本次问题先使用临时的解决方案进行处理，后续优化缓存内容以及扩展机器以后再进行整体的优化配置。

参考内容

1.Redis开发与运维

__EOF__

本文作者：一步一年
本文链接：https://www.cnblogs.com/ybyn/p/14245885.html
关于博主：评论和私信会在第一时间回复。或者直接私信我。
版权声明：编写不易，转载请注明出处
声援博主：如果您觉得文章对您有帮助，可以点击文章右下角【推荐】一下。您的鼓励是博主的最大动力！