高可用架构流量治理核心策略
三高 :
高性能;
高可用;
易扩展。
- 熔断 机制,包括传统熔断器和 Google SRE 模型,作为防止系统过载的重要工具
- 隔离 策略,如动静隔离、读写隔离和机房隔离,通过物理或逻辑上分离资源和请求,减少单点故障的影响
- 重试 策略,包括同步和异步重试,以及各种退避机制,帮助在失败时优雅地恢复服务。
- 降级 操作,区分自动和手动降级,作为服务负载过重时的应急措施
- 超时 控制,通过精细的策略来避免长时间等待和资源浪费
- 限流 包括客户端和服务端限流,确保系统在高负载下仍能稳定运行
限流和降级
- 降级依靠牺牲一部分功能或体验保住容量,而限流则是依靠牺牲一部分流量来保住容量。
- 一般来说,限流的通用性会更强一些,因为每个服务理论上都可以设置限流,但并不是每个服务都能降级,比如 O2 系统中的登录服务和用户服务,就不可能被降级(没有这两个服务,用户都没法使用系统了)。
熔断:
隔离
降级
限流
https://mp.weixin.qq.com/s/yaCgQlZp1sfZhfJU_Qu67A