内存管理——内存回收机制

内存回收的方式

前文提到malloc的内存分配方式,malloc申请的是虚拟内存,只有在程序去访问时,才会触发缺页异常进入内核态,在缺页中断函数中建立物理内存映射。

如果物理内存充足,则直接建立页框与页的映射。当物理内存不足时,内核会进行物理内存回收,内存回收的方式主要有:

  1. 后台内存回收(kswapd)
  2. 直接内存回收(direct reclaim)
  3. OOM机制(Out of Memory)

三种内存回收方式按内存的紧缺程度递进。

后台内存回收——kswapd

本小节提到的内存主要针对物理内存

kswapd 是一个内核线程,在内存不足时负责在后台进行内存回收,这个过程发生在后台,因此是异步发生,不会阻塞进程。

内核对的容量设置了三个阈值:

  • 页最小阈值(pages_min);
  • 页低阈值(pages_low);
  • 页高阈值(pages_high);

当内存大于 pages_low 时,表示此时系统内存足够,不会进行内存回收。

当内存小于 pages_low 时,表示此时内存存在压力,会触发 kswapd0 进行后台内存回收,直到 pages_high 为止

当内存小于 pages_min 时,表示此时用户内存耗尽,会触发直接内存回收,进程被阻塞。

如果要调整 kswapd 的触发时机,需要修改 pages_low 的值,而pages_low的值由pages_min计算,因此需要修改pages_min

内核选项 /proc/sys/vm/min_free_kbytes 可以设置 pages_min

因此可以通过 min_free_kbytes 的值来修改内存水位阈值。

直接内存回收

在进程申请并访问内存时,如果此时内存可用page数小于pages_min,不足以进行内存分配建立映射关系。

此时会触发直接内存回收,阻塞进程的同时开始回收内存,因此这种内存回收方式是同步的。

对进程的阻塞会造成长时间的延迟,系统CPU利用率会升高,系统负荷会增大,因此要尽量避免直接内存回收。

OOM——Out of Memory

如果直接内存回收之后,系统的剩余空闲内存还不足以进行内存分配,则会进一步触发OOM机制。

OOM Killer 机制会根据算法选择并kill掉一个占用物理内存较高的进程,以便释放内存资源,如果物理内存依然不足,OOM Killer 会继续杀死占用物理内存较高的进程,直到释放足够的内存位置。

Linux 内核里有一个 oom_badness() 函数,它会把系统中可以被杀掉的进程扫描一遍,并对每个进程打分,得分最高的进程就会被首先杀掉。

进程的得分一般由其占用的物理内存页框数量决定。

函数 oom_badness() 计算方法:points = process_pages + oom_score_adj*totalpages/1000

变量 含义
points 打分的结果
process_pages 进程已经使用的物理内存页面数
oom_score_adj 进程的 OOM 校准值 一般为0
totalpages 系统总的可用页面数

可以通过设置 OOM校准值 即 修改 /proc/[pid]/oom_score_adj 的值来调整OOM,从而改变这个进程的得分结果,降低该进程被 OOM 杀死的概率。

oom_score_adj的设置范围是[-1000,1000]

内存回收时机的性能影响

sar -B 1 命令可以观察内存回收情况:

pgscank/s : kswapd 每秒扫描的 page 个数
pgscand/s: 应用程序在内存申请过程中每秒直接扫描的 page 个数
pgsteal/s: 扫描的 page 中每秒被回收的个数(pgscank+pgscand)。

当 pages_low 设置不合理时,kswapd后台回收内存不及时,申请内存会经常触发直接内存回收,pgscand/s 数值会比较大,在性能上看会造成系统抖动。可以通过适当增大 min_free_kbytes,提前触发 kswapd 内核线程,避免直接内存回收。

修改 min_free_kbytes 的性能影响:

  • min_free_kbytes 比较小,系统预留较小的空闲内存,因此大部分内存都给进程使用。但是会导致kswapd回收不及时,触发直接内存回收,阻塞进程。
  • min_free_kbytes 比较大,系统则会预留更多空闲内存,在提升性能的同时会减少应用进程的可用内存,降低内存利用率,是空间换时间的方式。
  • min_free_kbytes 特别大,极端情况下接近总内存大小,只有很少的内存可以使用,可能会频繁触发OOM。

内存回收的具体过程——文件页和匿名页

上述提到的两种内存回收方式(kswapd和直接回收)主要回收的对象是内存中的文件页和匿名页。

  • 文件页(File-backed Page):内核缓存的磁盘数据(Buffer)和内核缓存的文件数据(Cache)都叫作文件页。
  • 匿名页(Anonymous Page):这部分内存没有实际载体,如堆、栈数据等,不像文件缓存有硬盘文件这样一个载体。

文件页和匿名页的回收都是基于LRU算法(最近最少使用算法)。

在Linux内核中LRU算法维护两条双向链表:active链表inactive链表,通过PG_active位状态判断是否活跃,通过PG_referenced位状态判断是否访问过。通过这两个页面标识符决定如何在两个链表之间移动页面。

实际上,对链表的并发访问需要使用自旋锁避免冲突,对此内核还提供了LRU缓存机制,只有当要插入到这两条链表的页面达到一定数量时才会一次性添加到相应链表中,从而降低锁的竞争,提升系统性能。

内存不足时,内核会优先回收 inactive链表 的尾部页面。

  • 文件页回收:如果这个文件页是干净的(clean),则直接释放内存,不影响系统性能。如果是脏页(dirty),则需要先写入磁盘,再释放内存,这个过程会发生IO操作,因此会影响系统性能。
  • 匿名页回收:因为这部分内存可能还会使用到,因此不能直接释放。如果开启了swap机制,则会先把内存存入磁盘中,等到需要的时候再从磁盘中读出。这个过程会发生IO操作,因此会影响系统性能。

可以看出,除了回收干净文件页,其他内存页回收基本都会发生磁盘IO,对系统的性能是会影响的。

因此,对于内存回收,应该设置根据需求设置合适的参数,从而调整kswapd的内存回收时机,调整直接内存回收的频率,减少OOM机制的触发,提高系统的性能和稳定性。


好文推荐:https://xiaolincoding.com/os/3_memory/mem_reclaim.html
关于LRU可以参考:https://www.cnblogs.com/muahao/p/10109712.html

posted @ 2022-08-26 14:41  Ethan'Chen  阅读(3067)  评论(0编辑  收藏  举报