Tomcat 服务优化

一、Tomcat工作原理

1、TCP的三次握手

类比于A和B打电话：

A对B说：你好，我是A,你能听到我说话吗？

B对A说：嗯，我能听到你说话

A对B说：好，那我们开始聊天吧

2、TCP的四次挥手

同样用A和B打电话来说明：

A对B说：我说完了，我要挂电话了

B对A说：等一下，我还没说完

B继续对A说：我说完了，你可以挂电话了

A对B说：好，我挂电话了

3、图说TCP三次握手和四次挥手

状态比较多，但是不需要全部记忆，只需要记住几个重要的状态：ESTABLISHED 表示正在通信，TIME_WAIT 表示主动关闭，CLOSE_WAIT 表示被动关闭

如果服务器出了异常，百分之八九十都是下面两种情况：

1.服务器保持了大量TIME_WAIT状态

2.服务器保持了大量CLOSE_WAIT状态

这次Tomcat 服务优化主要也是针对TIME_WAIT和CLOSE_WAIT进行服务优化的。

二、针对TIME_WAIT过多进行的Tomcat服务优化

常见场景：一些爬虫服务器或者WEB服务器上

原因：

　　TIME_WAIT是主动关闭连接的一方保持的状态，对于爬虫服务器来说他本身就是“客户端”，在完成一个爬取任务之后，他就会发起主动关闭连接，从而进入TIME_WAIT的状态，然后在保持这个状态2MSL（max segment lifetime）时间之后，彻底关闭回收资源。

　　为什么关闭之后还要保持状态呢，原因是：1、防止上一次连接中的包重新出现，影响新连接；2、主动关闭方发送的最后一个 ack(FIN) ，有可能丢失，这时被动方会重新发fin, 如果这时主动方处于 CLOSED 状态 ，就会响应 rst 而不是 ack。所以主动方要处于 TIME_WAIT 状态，而不能是 CLOSED。

解决方法：

修改/etc/sysctl.conf文件

    #对于一个新建连接，内核要发送多少个 SYN 连接请求才决定放弃,不应该大于255，默认值是5，对应于180秒左右时间   
    net.ipv4.tcp_syn_retries=2  
    #net.ipv4.tcp_synack_retries=2  
    #表示当keepalive起用的时候，TCP发送keepalive消息的频度。缺省是2小时，改为300秒  
    net.ipv4.tcp_keepalive_time=1200  
    net.ipv4.tcp_orphan_retries=3  
    #表示如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间  
    net.ipv4.tcp_fin_timeout=30    
    #表示SYN队列的长度，默认为1024，加大队列长度为8192，可以容纳更多等待连接的网络连接数。  
    net.ipv4.tcp_max_syn_backlog = 4096  
    #表示开启SYN Cookies。当出现SYN等待队列溢出时，启用cookies来处理，可防范少量SYN攻击，默认为0，表示关闭  
    net.ipv4.tcp_syncookies = 1  
      
    #表示开启重用。允许将TIME-WAIT sockets重新用于新的TCP连接，默认为0，表示关闭  
    net.ipv4.tcp_tw_reuse = 1  
    #表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭  
    net.ipv4.tcp_tw_recycle = 1  
      
    ##减少超时前的探测次数   
    net.ipv4.tcp_keepalive_probes=5   
    ##优化网络设备接收队列   
    net.core.netdev_max_backlog=3000   

修改完之后执行/sbin/sysctl -p让参数生效

三、针对CLOSE_WAIT过多进行的Tomcat服务优化

场景：

Tomcat后台日志发现大量异常,时间一长Tomcat就会挂掉,无法处理其他请求

org.apache.http.conn.ConnectionPoolTimeoutException: Timeout waiting for connection

Linux下运行

netstat -n | awk '/^tcp/ {++S[$NF]} END {for(a in S) print a, S[a]}'

出现大量CLOSE_WAIT,一直没降过

原因：

在对方连接关闭之后，程序里没有检测到，或者程序压根就忘记了这个时候需要关闭连接，于是这个资源就一直被程序占着

解决方法：

从程序层面排查，重点注意HttpClient4推荐使用我们常用的InputStream.close()来确认连接关闭,如果使用其他方式，请确认连接可以被正确关闭。