如何调优Linux系统的高并发方法
一 高并发概念
1.1 高并发概念
高并发（High Concurrency）是互联网分布式系统架构设计中必须考虑的因素之一，它通常是指，通过设计保证系统能够同时并行处理很多请求。
1.2 高并发相关指标
响应时间(Response Time)
系统对请求做出响应的时间。例如系统处理一个HTTP请求需要200ms，这个200ms就是系统的响应时间
吞吐量(Throughput)
单位时间内处理的请求数量
每秒查询率QPS(Query Per Second)
每秒响应请求数。在互联网领域，这个指标和吞吐量区分的没有这么明显
并发用户数(User Concurrence)
同时承载正常使用系统功能的用户数量。例如一个即时通讯系统，同时在线量一定程度上代表了系统的并发用户数
1.3 高并发优化方面
单进程最大打开文件数限制
内核TCP参数方面
IO事件分配机制
二 提升系统的并发能力
2.1 垂直扩展
提升单机处理能力
增强单机硬件性能，例如：增加CPU核数如32核，升级更好的网卡如万兆，升级更好的硬盘如SSD，扩充硬盘容量如2T，扩充系统内存如128G
提升单机架构性能，例如：使用Cache来减少IO次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间
2.2 水平扩展
增加服务器数量，就能线性扩充系统性能
2.3 常见互联网分层架构
（1）客户端层：典型调用方是浏览器browser或者手机应用APP
（2）反向代理层：系统入口，反向代理
（3）站点应用层：实现核心应用逻辑，返回html或者json
（4）服务层：如果实现了服务化，就有这一层
（5）数据-缓存层：缓存加速访问存储
（6）数据-数据库层：数据库固化数据存储
2.4 水平扩展架构
反向代理层的水平扩展
当nginx成为瓶颈的时候，只要增加服务器数量，新增nginx服务的部署，增加一个外网ip，就能扩展反向代理层的性能，做到理论上的无限高并发
通过“DNS轮询”实现的：dns-server对于一个域名配置了多个解析ip，每次DNS解析请求来访问dns-server，会轮询返回这些ip
站点层的水平扩展
通过“nginx”实现的。通过修改nginx.conf，可以设置多个web后端
当web后端成为瓶颈的时候，只要增加服务器数量，新增web服务的部署，在nginx配置中配置上新的web后端，就能扩展站点层的性能，做到理论上的无限高并发
服务层的水平扩展
通过“服务连接池”实现的
站点层通过RPC-client调用下游的服务层RPC-server时，RPC-client中的连接池会建立与下游服务多个连接，当服务成为瓶颈的时候，只要增加服务器数量，新增服务部署，在RPC-client处建立新的下游服务连接，就能扩展服务层性能，做到理论上的无限高并发
数据层的水平扩展
数据层（缓存，数据库）涉及数据的水平扩展，将原本存储在一台服务器上的数据（缓存，数据库）水平拆分到不同服务器上去，以达到扩充系统性能的目的。
存储一定范围的数据
user0库，存储uid范围1-1kw
user1库，存储uid范围1kw-2kw
按照哈希水平拆分
user0库，存储偶数uid数据
user1库，存储奇数uid数据
三 单台Linux服务器提升并发
3.1 iptables相关
关闭iptables防火墙，阻止kernel加载iptables模块
单进程最大打开文件数限制（默认单个进程最大打开1024个文件）
ulimit –n 65535
修改Linux系统对用户的打开文件数的软限制和硬限制
vim /etc/security/limits.conf
* soft nofile 65535 #'*'表示修改所有用户的限制
* hard nofile 65535
#用户完成系统登录后读取/etc/security/limits.conf文件
vim /etc/pam.d/login
sessionrequired /lib/security/pam_limits.so
3.2 内核TCP参数
TIME_WAIT状态
TCP连接断开后，会以TIME_WAIT状态保留一定的时间，然后才会释放端口。当并发请求过多的时候，就会产生大量的TIME_WAIT状态的连接，无法及时断开的话，会占用大量的端口资源和服务器资源
登录后复制
#查看TIME_WAIT状态连接
netstat -n | grep tcp | grep TIME_WAIT |wc -l
# vim /etc/sysctl.conf
net.ipv4.tcp_syncookies= 1 #表示开启SYNCookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN***，默认为0，表示关闭；
net.ipv4.tcp_tw_reuse= 1 #表示开启重用。允许将TIME-WAITsockets重新用于新的TCP连接，默认为0，表示关闭；
net.ipv4.tcp_tw_recycle= 1 #表示开启TCP连接中TIME-WAITsockets的快速回收，默认为0，表示关闭；
net.ipv4.tcp_fin_timeout= 30 #修改系統默认的TIMEOUT 时间。
解决步骤：
1、查看Linux支持的客户端连接端口范围：cat /proc/sys/net/ipv4/ip_local_port_range
2、调低端口释放后的等待时间，默认是60s，修改为15～30s：echo 30 > /proc/sys/net/ipv4/tcp_fin_timeout
3、修改tcp/ip协议配置，通过配置/proc/sys/net/ipv4/tcp_tw_reuse，默认为0，修改为1，释放TIME_WAIT端口给新连接使用：echo 1 > /proc/sys/net/ipv4/tcp_tw_resue
4、修改tcp/ip协议配置，快速回收socket资源，默认为0，修改为1:echo 1 > /proc/sys/net/ipv4/tcp_tw_recycle
5、配置生效：sysctl -p
