QPS和并发数的关系

我们可以根据Little's Law 定律得出:

在一个稳定的系统中,设长时间观察到的平均顾客数为L,长时间观察到的有效速率达β,平均每个顾客花费的时间为W,可以得到如下表达式:

L = βW

QPS : 请求的速度

并发数 : 系统中同时存在的请求数

吞吐量(TPS) : 指系统在单位时间内处理请求的数量

响应时间(RT) : 是指对请求做出的响应时间