QPS和并发数

QPS:    请求进入的速度

并发数: 系统中同时存在的请求数

 

根据Little's Law，我们能得到如下的关系式：

并发数 = QPS * 耗时

 

以大学招生为例：大一新生的招收速度是5000人/年，每个学生在大学停留4年，整个大学的人数是20000，于是(下面的QPS改为以年为单位)：

QPS	耗时	并发数
5000人/年	4年	20000人

以某公司为例：180000员工，必须早上8:30-9:00之间在考勤系统签到，每次签到在系统需要停留0.1秒，于是：

QPS	耗时	并发数
100人/秒	0.1秒	10人

以动物园为例：每秒有1个人进入动物园，每个人在动物园中停留2小时，于是：

QPS	耗时	并发数
1人/秒	2*3600秒	7200人

假设在理想情况下，某系统的请求进入速度是1亿次/秒，系统处理的时间趋近为0，那么这个系统的并发量是多少呢？很显然：

QPS	耗时	并发数
1亿次/秒	趋近0	趋近0次

可见，虽然每秒有1亿次请求，但在某一随机时刻观察系统，会发现系统中不存在请求堆积的问题，系统的并发数趋近0.这是一个高QPS、低延时系统，是一个很好的系统，轻轻松松地快速处理各种请求，来一个灭一个。值得一提的是，此时并发数很低，但这不表明系统实际能够承受的并发数很低，它实际上可能承受很高的并发数。