设计一个高并发系统
升级过程为:最初系统——添加负载均衡——数据库分库分表+读写分离——缓存集群+消息中间件集群
1、最初系统
假设系统机器是4核8G,数据库服务器是16核32G。日活用户1W,系统层面每秒10次请求,数据库层每秒30次请求。
2、添加负载均衡
用户量增长了50倍,日活用户50万,高峰期对系统每秒请求500/s,对数据库的每秒请求1500/s
问题:系统CPU负载过高,数据库可以接受
3、数据库分库分表+读写分离
用户量继续增长,达到了1000万注册用户,每天日活用户是100万。
问题:系统层面可以通过负载均衡解决,数据库层面接受的请求量达到3000/s会负载过高。
4、缓存集群+消息中间件集群
用户量继续增长。
问题:系统层面不停加机器,可以承载更高的并发请求。数据库层面写入并发越来越高,可以扩容加数据库服务器;读并发越来越高,就扩容加更多的从库。
数据库扩容成本高。
读多写少的压力:缓存集群
在写数据库的时候同时写一份数据到缓存集群里,然后用缓存集群来承载大部分的读请求。
高写入的压力:消息中间件集群
将写请求异步化处理。允许异步化的每秒 500 次请求写入 MQ,然后基于 MQ 做一个削峰填谷。以平稳的 100/s 的速度消费出来,然后落入数据库中。