一、缓存穿透
1.1 定义
缓存穿透是指查询一个一定不存在的数据,由于缓存是不命中时需要从数据库查询,查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到数据库去查询,造成缓存穿透。
1.2 解决
方案一: 缓存空对象
当存储层未命中后,即使数据库返回的空对象也对其进行缓存,同时设置一个过期时间,之后再访问这个数据将会从缓存中获取,保护了后端数据源。
方案二: 布隆过滤器
布隆过滤器是一种数据结构,对所有可能查询的参数以hash形式存储,在控制层进行校验,不符合则丢弃,从而避免了对底层存储系统的查询压力。
它的优点是空间效率和查询时间都远远超过一般的算法,缺点是有一定的误识别率和删除困难。
方案三: 设置可访问的白名单
使用bitmaps类型定义一个可以访问的名单,名单id作为bitmaps的偏移量,每次访问和bitmap里面的id进行比较,如果访问id不在bitmaps里面,进行拦截,不允许访问。
方案四: 进行实时监控
当发现Redis的命中率开始急速降低,需要排查访问对象和访问的数据,和运维人员配合,可以设置黑名单限制服务
二、缓存击穿
2.1 定义
key对应的数据存在,但在redis中过期,此时若有大量并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,但是缓存回设期,这个时候大并发的请求可能会瞬间把后端DB压垮。
案例:微博热搜问题
2.2 解决方案
方案一:预先设置热门数据
在redis高峰访问之前,把一些热门数据提前存入到redis里面,加大这些热门数据key的时长
方案二:设置热点数据永不过期
从缓存层面来说,没有设置过期时间,所以就不会出现热点key过期产生的问题
方案三:实时调整
现场监控哪些数据热门,实时调整key的过期时长
方案四:使用分布式锁
使用分布式锁,保证对于每个key同时只有一个线程去查询后端服务,其他线程在没有获取分布式锁的权限时,需要等待。这种方式将高并发的压力转移到了分布式锁,因此对于分布式锁的考验很大。
三、缓存雪崩
3.1 定义
缓存雪崩,是指在某个时间段,缓存集中过期失效,导致数据库异常的状况。
key对应的数据存在,但在redis中过期或者是缓存服务直接宕机,此时若有大量并发请求过来,这些请求发现缓存过期一般都会从后端DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把后端DB压垮。
3.2 解决方案
方案一:构建集群
通过搭建Redis集群,保障Redis的高可用
方案二:搭建多级缓存架构
Nginx缓存+Redis缓存+其他缓存(ehcache等)
方案三:限流降级
在缓存失效后,通过加锁或者队列来控制读数据库写缓存的线程数量,从而避免失效时大量的并发请求落到底层存储系统上。比如对某个key只允许一个线程查 询数据和写缓存,其他线程等待。
不适用高并发情况。
方案四:数据预热
在正式部署之前,先把可能的数据先预先访问一遍,这样部分可能大量访问的数据就会加载到缓存中,
在即将发生大并发访问前手动触发加载缓存不同的key,设置不同的过期时间,让缓存失效的时间点尽量均匀
方案五:设置过期标志更新缓存
记录缓存数据是否过期(设置提前量),如果过期会触发通知另外的线程在后台去更新实际key的缓存
方案六:将缓存失效时间分散开
比如我们可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。