缓存,热点key

热点Key问题的发现与解决

https://help.aliyun.com/document_detail/67252.html

缓存击穿、失效以及热点key问题

https://www.jianshu.com/p/d5a3668d4dad

2017双11技术揭秘—分布式缓存服务Tair的热点数据散列机制

 https://my.oschina.net/yunqi/blog/1596732

  • 缓存穿透
    • 解决:写空值,布隆过滤
  • 缓存并发
    • 解决:分布式锁,异步更新
  • 缓存雪崩
    • 解决:过期时间中增加随机时间片

 

热点key的解决方案:

  • 客户端热点key缓存:将热点key对应value并缓存在客户端本地,并且设置一个失效时间。对于每次读请求,将首先检查key是否存在于本地缓存中,如果存在则直接返回,如果不存在再去访问分布式缓存的机器。
  • 将热点key分散为多个子key,然后存储到缓存集群的不同机器上,这些子key对应的value都和热点key是一样的。当通过热点key去查询数据时,通过某种hash算法随机选择一个子key,然后再去访问缓存机器,将热点分散到了多个子key上。

 

架构中各节点的作用如下:

  • SLB层做负载均衡

  • Proxy层做读写分离自动路由

  • Master负责写请求

  • ReadOnly节点负责读请求

  • Replica节点和Master节点做高可用

实际过程中Client将请求传到SLB,SLB又将其分发至多个Proxy内,通过Proxy对请求的识别,将其进行分类发送。例如,将同为Write的请求发送到Master模块内,而将Read的请求发送至ReadOnly模块。而模块中的只读节点可以进一步扩充,从而有效解决热点读的问题。读写分离同时具有可以灵活扩容读热点能力、可以存储大量热点Key、对客户端友好等优点。



 

posted @   parkdifferent  阅读(642)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
· Manus重磅发布:全球首款通用AI代理技术深度解析与实战指南
点击右上角即可分享
微信分享提示