redis 学习(20)-- 常见的持久化开发与运维问题

常见的持久化开发与运维问题

fork 操作

  • fork 操作是一个同步操作,若执行较慢会阻塞 redis 主线程

  • 执行时间与内存量相关:内存越大,耗时越长;虚拟机较慢,真机较快

  • 查看 fork 执行时间,可做监控

    info : latest_fork_usec 上一次执行fork的微秒数

改善 fork
  • 优先使用物理机或者高效支持fork操作的虚拟化技术

  • 控制 Redis 实际最大可用内存:maxmemory

  • 合理配置 Linux 内存分配策略 vm.overcommit_memory = 1

    默认这个值为 0,表示当发现没有足够内存做内存分配的时候,就不去分配。在内存比较低的时候,会发生fork 阻塞。设置为 1 表示认为机器有足够内存,来做内存分配。

  • 降低 fork 频率:例如放宽 AOF 重写自动触发时机,不必要的全量复制

子进程开销和优化

  • CPU 开销
    • RDB 和 AOF 都会生成文件,属于 CPU 密集型
    • 优化1:不做 CPU 绑定,不和 CPU 密集型的应用部署在同一台服务器上
    • 优化2:避免在单机多部署的场景大量发生 AOF 重写
  • 内存
    • 开销:fork内存开销,copy-on-write,子进程会共享父进程的物理内存页,当父进程执行写请求的时候会创建一个副本,此时会消耗内存。即父进程在大量写入的时候,子进程开销会比较大,创建副本。
    • 优化1:防止单机多部署的时候发生大量的重写
    • 优化2:echo never > /sys/kernel/mm/transparent_hugepage/enabled
      • Linux 内核的 2.6.38 版本中增加以上配置,支持大的内存页的分配
      • 内存页分配越大,会提高创建副本页的大小,影响性能
  • 硬盘
    • 开销:RDB 与 AOF 文件写入的场景,可以结合 iostat、iotop 工具进行分析
    • 优化1:不要和高硬盘负载服务部署在一起,例如存储服务、消息队列
    • 配置:no-appendfsync-on-rewrite = yes
    • 根据写入量决定磁盘类型:例如 SSD
    • 单机多实例持久化目录可以考虑分盘以及做资源限制,例如 cgroup

AOF 追加阻塞

Redis在执行 fsync 的时候,redis 为了保证 AOF 文件安全性,会校验上次 fsync 的时间是否大于2秒。若超过2秒,会发生阻塞。

AOF 阻塞定位
  • 通过Redis日志进行定位。出行这行,即发生阻塞:

    Asynchronous AOF fsync is taking too long (disk is busy?)
    Writing the AOF buffer without waiting for fsync to complete,this may show down Redis
    
  • 通过 info persistence 命令进行查看:每发生一次,aof_delayed_fsync 会增 1 。

如图,aof_deloayed_fsync:0,说明 aof 并没有发生阻塞。

  • 通过 df -hdu -sh 统计整体磁盘情况和查看单独目录点用情况。

优化方法可以参考硬盘优化策略。

posted @ 2019-06-04 16:31  希希里之海  阅读(308)  评论(0编辑  收藏  举报