redis自学(26)内存淘汰策略

内存淘汰策略

内存淘汰:就是当Redis内存使用达到设置的阈值时,redis主动挑选部分key删除以释放更多内存的流程。

Redis会在处理客户端命令的方法processCommand()中尝试做内存淘汰:

 

 

也就是说,redis是在任何命令执行之前,做内存的检查或者说尝试去淘汰一部分内存。

 

Redis支持8种不同策略来选择要删除的key:

noeviction:不淘汰任何key,但是内存满时不允许写入新数据,默认就是这种策略。

volatile-ttl:对设置了TTLkey,比较key剩余的TTL值,TTL越小越先被淘汰

allkeys-random:对全体key,随机进行淘汰。也就是直接从db->dict中随机挑选

volatile-random:对设置TTLkey,随机进行淘汰。也就是从db->expires中随机挑选

Allkeys-lru:对全体key,基于LRU算法进行淘汰。

Volatile-lru:对设置TTLkey,基于LRU算法进行淘汰。

Allkeys-lfu:对全体key,基于LFU算法进行淘汰。

Volatile-lfu:对设置TTLkey,基于LFU算法进行淘汰。

比较容易混淆的有两个:

LRULeast Recently Used,最少最近使用。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。

LFULeast Frequently Used,最少频率使用。会统计每个key的访问频率,值越小淘汰优先级越高。

 

 

根据策略不同,记录的信息也不一样

LFU的访问次数之所以叫做逻辑访问次数,是因为并不是每次key被访问都计数,而是通过运算:

① 生成0~1之间的随机数R

② 计算1/(旧次数*lfu_log_factor+1,记录为Plfu_log_factor默认为10

③ 如果R<P,则计数器+1,且最大不超过255

④ 访问次数会随时间衰减,距离上一次访问时间每隔lfu_decay_time分钟(默认1),计数器-1

8个比特位只能记录255个数,也就不可能记录真实的访问次数,所以采用了逻辑访问次数,用一个概率行的增加,上面的意思是,访问了,除了第一次,访问次数有可能不增加,但是只要访问次数多,逻辑计数的值大于其他访问次数少的可能性还是很高的。但是长时间不访问的话,它的次数也是一点点的随时间减少的。

lfu_log_factorlfu_decay_time都可通过配置文件或者命令行配置。

策略在配置文件设定

 

 

 

 

LRULFU以及TTL,不是一个一个去比较的,这样如果redis的缓存数量很大的话,挨个遍历消耗的时间和资源是很恐怖的,所以,搞了一个eviction_pool,随机找一堆,比较谁最应该被淘汰,虽然准确率不如挨个遍历,但是也够满足使用了,最主要是性能好。

随机数maxmemory_samples的默认值是5个,随机到后经过筛选才有可能按照idleTime升序放入eviction_pool,因为eviction_pool满了的情况下,如果idleTime比池子里的最小的idleTime还要小的话,就没有必要放入了,大的话,放入就把原先池子里最小的挤出去了。而idleTime根据策略不同计算方式不同(now是指现在时间,maxTTL是指long的最大值即9223372036854775807)。删除的时候倒序从eviction_pool中获取一个key删除。随着循环的次数越来越多,eviction_pool里面的idleTime会越来越大,那么准确率就会越来越高。

posted @ 2024-04-01 13:57  蓝海的bug本  阅读(29)  评论(0编辑  收藏  举报