如何保证缓存与数据库的双写一致性?

一般来说,如果允许缓存可以稍微的跟数据库偶尔有不一致的情况,也就是说如果你的系统不
是严格要求 “缓存+数据库” 必须保持一致性的话,最好不要做这个方案,即:读请求和写请
求串行化,串到一个内存队列里去。
串行化可以保证一定不会出现不一致的情况,但是它也会导致系统的吞吐量大幅度降低,用比
正常情况下多几倍的机器去支撑线上的一个请求。
缓存+数据库读写的模式:
  读的时候,先读缓存,缓存没有的话,就读数据库,然后取出数据后放入缓存,同时返回响应。
  更新的时候,先删除缓存,然后再更新数据库。
为什么是删除缓存,而不是更新缓存?
原因很简单,很多时候,在复杂点的缓存场景,缓存不单单是数据库中直接取出来的值。
比如可能更新了某个表的一个字段,然后其对应的缓存,是需要查询另外两个表的数据并进行
运算,才能计算出缓存最新的值的。
另外更新缓存的代价有时候是很高的。是不是说,每次修改数据库的时候,都一定要将其对应
的缓存更新一份?也许有的场景是这样,但是对于比较复杂的缓存数据计算的场景,就不是
这样了。如果你频繁修改一个缓存涉及的多个表,缓存也频繁更新。但是问题在于,这个缓存 到底会不会被频繁访问到?
举个栗子,一个缓存涉及的表的字段,在 1 分钟内就修改了 20 次,或者是 100 次,那么缓存更
新 20 次、100 次;但是这个缓存在 1 分钟内只被读取了 1 次,有大量的冷数据。实际上,如
果你只是删除缓存的话,那么在 1 分钟内,这个缓存不过就重新计算一次而已,开销大幅度降
低。用到缓存才去算缓存。
其实删除缓存,而不是更新缓存,就是一个 lazy 计算的思想,不要每次都重新做复杂的计算,
不管它会不会用到,而是让它到需要被使用的时候再重新计算。像 mybatis,hibernate,都有
懒加载思想。查询一个部门,部门带了一个员工的 list,没有必要说每次查询部门,都把里面的
1000 个员工的数据也同时查出来啊。80% 的情况,查这个部门,就只是要访问这个部门的信息
就可以了。先查部门,同时要访问里面的员工,那么这个时候只有在你要访问里面的员工的时
候,才会去数据库里面查询 1000 个员工

  

问题:先更新数据库,再删除缓存。如果删除缓存失败了,那么会导致数据库中是新数据,缓
存中是旧数据,数据就出现了不一致。
比较复杂的数据不一致问题分析
数据发生了变更,先删除了缓存,然后要去修改数据库,此时还没修改。一个请求过来,去读
缓存,发现缓存空了,去查询数据库,查到了修改前的旧数据,放到了缓存中。随后数据变
更的程序完成了数据库的修改。完了,数据库和缓存中的数据不一样了... 

为什么上亿流量高并发场景下,缓存会出现这个问题?
只有在对一个数据在并发的进行读写的时候,才可能会出现这种问题。其实如果说你的并发量
很低的话,特别是读并发很低,每天访问量就 1 万次,那么很少的情况下,会出现刚才描述的
那种不一致的场景。但是问题是,如果每天的是上亿的流量,每秒并发读是几万,每秒只要有
数据更新的请求,就可能会出现上述的数据库+缓存不一致的情况。
解决方案如下: 更新数据的时候,根据数据的唯一标识,将操作路由之后,发送到一个 jvm 内部队列中。读取 数据的时候,如果发现数据不在缓存中,那么将重新执行“读取数据+更新缓存”的操作,根据唯 一标识路由之后,也发送到同一个 jvm 内部队列中。 一个队列对应一个工作线程,每个工作线程串行拿到对应的操作,然后一条一条的执行。这样 的话,一个数据变更的操作,先删除缓存,然后再去更新数据库,但是还没完成更新。此时如 果一个读请求过来,没有读到缓存,那么可以先将缓存更新的请求发送到队列中,此时会在队 列中积压,然后同步等待缓存更新完成。 这里有一个优化点,一个队列中,其实多个更新缓存请求串在一起是没意义的,因此可以做 过滤,如果发现队列中已经有一个更新缓存的请求了,那么就不用再放个更新请求操作进去 了,直接等待前面的更新操作请求完成即可。 待那个队列对应的工作线程完成了上一个操作的数据库的修改之后,才会去执行下一个操作, 也就是缓存更新的操作,此时会从数据库中读取最新的值,然后写入缓存中。 如果请求还在等待时间范围内,不断轮询发现可以取到值了,那么就直接返回;如果请求等待 的时间超过一定时长,那么这一次直接从数据库中读取当前的旧值。
读请求长时阻塞

由于读请求进行了非常轻度的异步化,所以一定要注意读超时的问题,每个读请求必须在超时
时间范围内返回。
该解决方案,最大的风险点在于说,可能数据更新很频繁,导致队列中积压了大量更新操作
在里面,然后读请求会发生大量的超时,最后导致大量的请求直接走数据库

解决方案:另外一点,因为一个队列中,可能会积压针对多个数据项的更新操作。比如有100个商品,那么这个队列里可能有100个商品的修改操作,这样读请求就会慢。
这时候我们就可以加机器。比如加10台机器,通过一种路由规则让这100个商品上读写请求 分配到这10台机器上,这样 一台机器上的一个队列最多就只有10个商品的读写请求。
 
posted @ 2022-10-12 19:27  好记性不如烂笔头=>  阅读(53)  评论(0编辑  收藏  举报