代码改变世界

一直在说高并发,多少QPS才算高并发?

2021-03-01 17:04  Tanwheey  阅读(15267)  评论(0编辑  收藏  举报

高并发的四个角度

只说并发不提高可用就是耍流氓。可以从四个角度讨论这个问题。

首先是无状态前端机器不足以承载请求流量,需要进行水平扩展,一般QPS是千级。 然后是关系型数据库无法承载读取或写入峰值,需要数据库横向扩展或引入nosql,一般是千到万级。 之后是单机nosql无法承载,需要nosql横向扩展,一般是十万到百万QPS。 最后是难以单纯横向扩展nosql,比如微博就引入多级缓存架构,这种架构一般可以应对百万到千万对nosql的访问QPS。 当然面向用户的接口请求一般到不了这个量级,QPS递增大多是由于读放大造成的压力,单也属于高并发架构考虑的范畴。

PV和QPS

比如微博每天1亿多pv的系统一般也就1500QPS,5000QPS峰值。

比如有人说:

  • 2C4G机器单机一般1000QPS。
  • 8C8G机器单机可承受7000QPS。

要多久才能处理完这些请求

首先需要明确两个基本点:

1、处理每个请求需要耗费时间,哪怕时间很短

2、服务资源是有限的,不能一次性处理全部请求

假定总并发请求数量为10000,每个请求的处理时间为t秒,服务器一次性可以处理的请求数量为n个,那么处理完所有的请求需要用时为T

T = (10000 / n ) * t

由此可知,如果一次性可以处理10000个请求,那么总耗时只需要t秒

写在后面

具体多少QPS跟业务强相关,只读接口读缓存,将压力给到缓存单机3000+没问题,写请求1000+也正常,也复杂些可能也就几百+QPS。

所以QPS和业务场景和设计相关性很大,比如可以通过浏览器本地缓存,用缓存做热点数据查询,写事务MQ异步处理等方式提升QPS。

 

转载于:https://my.oschina.net/u/1000241/blog/3065185