缓存穿透与缓存雪崩

缓存穿透

什么是缓存穿透？

一般的缓存系统，都是依照key去缓存查询，假设不存在相应的value，就应该去后端系统查找（比方DB）。

假设key相应的value是一定不存在的，而且对该key并发请求量非常大。就会对后端系统造成非常大的压力。这就叫做缓存穿透。

 

怎样避免？

1：对查询结果为空的情况也进行缓存。缓存时间设置短一点，或者该key相应的数据insert了之后清理缓存。

2：对一定不存在的key进行过滤。

能够把全部的可能存在的key放到一个大的Bitmap中。查询时通过该bitmap过滤。

【感觉应该用的不多吧】

缓存雪崩

什么是缓存雪崩？

当缓存server重新启动或者大量缓存集中在某一个时间段失效，这样在失效的时候，也会给后端系统(比方DB)带来非常大压力。

怎样避免？

1：在缓存失效后，通过加锁或者队列来控制读数据库写缓存的线程数量。

比方对某个key仅仅同意一个线程查询数据和写缓存。其它线程等待。

2：不同的key，设置不同的过期时间，让缓存失效的时间点尽量均匀。

3：做二级缓存，A1为原始缓存，A2为拷贝缓存，A1失效时。能够訪问A2。A1缓存失效时间设置为短期，A2设置为长期（此点为补充）

 

分布式缓存系统

分布式缓存系统面临的问题

缓存一致性问题

1：缓存系统与底层数据的一致性。

这点在底层系统是“可读可写”时。写得尤为重要 

2：有继承关系的缓存之间的一致性。为了尽量提高缓存命中率。缓存也是分层：全局缓存，二级缓存。

他们是存在继承关系的。全局缓存能够有二级缓存来组成。 

3：多个缓存副本之间的一致性。为了保证系统的高可用性，缓存系统背后往往会接两套存储系统（如memcache，redis等）

缓存穿透和缓存雪崩

上面有讲述。

 

缓存数据的淘汰

缓存淘汰的策略有两种： (1) 定时去清理过期的缓存。 （2）当实用户请求过来时，再推断这个请求所用到的缓存是否过期。过期的话就去底层系统得到新数据并更新缓存。 

两者各有优劣，第一种的缺点是维护大量缓存的key是比較麻烦的，另外一种的缺点就是每次用户请求过来都要推断缓存失效，逻辑相对照较复杂。详细用哪种方案。大家能够依据自己的应用场景来权衡。

 

1. 预估失效时间 

2. 版本（必须单调递增，时间戳是最好的选择）

3. 提供手动清理缓存的接口。