高并发的常见应对方案

 

应对高并发，需要考虑的系统指标和业务指标

QPS：每秒查询量或请求数

响应时间：从请求发出到收到响应花费的时间

带宽：峰值流量和页面的平均大小

综合浏览量（page view）:页面浏览量和点击量

独立访问（unique visitor）:去重后的访问用户数

 

应对高并发的优化方案之数据库缓存

缓存数据是为了让客户端很少甚至不访问数据库，减少磁盘IO，提高并发量，提高应用数据的响应速度

 

应对高并发的优化方案之CDN加速

CDN全称是content delivery network，CDN系统能够实时地根据网络流量和各节点的连接、负载状况以及到用户的距离等综合信息将用户的请求重新导向离用户最近的服务节点上。

 

CDN通过内存缓存，就近访问，大幅提高静态页面的访问速度，实现跨运营商的网络加速，保证不同网络的用户都得到良好的访问质量。同时，减少远程访问的带宽，分担网络流量，减轻原站点web服务器负载

 

应对高并发的优化方案之以及负载均衡

基于http协议等应用信息的负载均衡，例如nginx，它能够自动剔除工作不正常的后端服务器，上传文件使用异步模式，支持多种分配策略，可以分配权重，分配方式灵活

 

应对高并发的优化方案之加权轮询

首先将请求都分给高权重的机器，直到该机器的权值降到了比其他机器低，才开始将请求分给下一个高权重的机器，即体现了加权权重，又体现了轮询