Tomcat 基础优化
作者：北京运维
本文档是身边一些朋友、技术大佬之前分享的一些笔记，记录了 Tomcat 优化方法，笔记较多而且比较杂乱，经过整理、分类我个人觉得大致可以从以下几个方面优化 Tomcat：
- Tomcat 运行模式
- Tomcat 配置优化
- JVM 优化
- 内核参数优化
一、修改 Tomcat 运行模式
Tomcat Connector有三种运行模式：
-
bio：阻塞 IO bio 是三种运行模式中性能最低第一种。
-
nio：是一个基于缓冲区，并能提供非阻塞 I/O 操作的 JAVA API 因此 NIO 也成为非阻塞 I/O，比 bio 拥有更好的并发性能（默认是 nio）。
-
apr：调用 httpd 核心链接库来读取或文件传输，从而提高 tomcat 对静态文件的处理性能。Tomcat APR 模式也是 Tomcat 在高并发下的首选运行模式。
APR 模式文档链接：http://tomcat.apache.org/tomcat-8.5-doc/apr.html
1.1 安装 apr 和 apr-util
Apache Portable Runtime 是一个高度可移植的库，是 Apache HTTP Server 2.x 的核心。APR 有许多用途，包括访问高级 IO 功能（如sendfile，epoll 和 OpenSSL），操作系统级功能（随机数生成，系统状态等）和本机进程处理（共享内存，NT 管道和 Unix 套接字）。
$ cd /usr/local/src/
$ wget http://mirrors.tuna.tsinghua.edu.cn/apache//apr/apr-1.6.5.tar.gz
$ wget http://mirrors.tuna.tsinghua.edu.cn/apache//apr/apr-util-1.6.1.tar.gz
$ tar xf apr-1.6.5.tar.gz
$ cd apr-1.6.5
$ /configure --prefix=/usr/local/apr
$ make -j 2 && make install
$ cd ../
$ tar xf apr-util-1.6.1.tar.gz
$ cd apr-util-1.6.1
$ ./configure --prefix=/usr/local/apr-util --with-apr=/usr/local/apr/
1.2 安装 tomcat-native
tomcat-native 不用单独下载，解压缩 tomcat 程序包后再 bin/ 目录下存在该程序的源码包。
$ tar xf apache-tomcat-8.5.38.tar.gz -C /usr/local/
$ ln -sv /usr/local/apache-tomcat-8.5.38/ /usr/local/tomcat
$ cp /usr/local/tomcat/bin/tomcat-native.tar.gz /usr/local/src/
$ tar xf tomcat-native.tar.gz
$ cd tomcat-native-1.2.21-src/
$ cd native/
$ ./configure --prefix=/usr/local/apr --with-java-home=/usr/local/jdk1.8.0_121/
$ make -j 2 && make install
$ vim /etc/profile
export LD_LIBRARY_PATH=/usr/local/apr/lib ##添加apr path
$ source /etc/profile
1.3 修改 Tomcat 配置文件
1、修改 protocol 值
Tomcat 默认是 "HTTP/1.1" ，如果运行 apr 模式需要把 protocol 值修改成 apr 模式：org.apache.coyote.http11.Http11AprProtocol 参考官方文档中 protocol 说明：http://tomcat.apache.org/tomcat-8.5-doc/config/http.html#HTTP/1.1_and_HTTP/1.0_Support
$ cd /usr/local/tomcat/conf/
$ vim server.xml
<Connector port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol"
connectionTimeout="20000"
redirectPort="8443" />
2、修改 SSLEngine
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="off" />
1.4 启动 Tomcat 验证
查看 catalina.out 日志中最下面三行
二、Tomcat 配置优化
2.1 增大随机数熵池
你是否遇到过当你执行了 ./startup.sh 或者 ./catalina.sh start 后，访问你的服务会一直转啊转啊，可能要几分钟才能正常提供服务。
原因：
在apache-tomcat 官方文档：如何让 tomcat 启动更快里面提到了一些启动时的优化项，其中一项是关于随机数生成时，采用的 "熵源"(entropy source)的策略。提到 tomcat7 的 session id 的生成主要通过 java.security.SecureRandom 生成随机数来实现，随机数算法使用的是 ”SHA1PRNG” 文章具体内容见下图
在 http://wiki.apache.org/tomcat/HowTo/FasterStartUp (Entropy Source 部分)有一段解释。stackoverflow 上面也有一大批这方面的说明，所以这里就不再多做介绍。
2.1.1 使用伪随机函数生成器
通过修改 Tomcat 启动文件 -Djava.security.egd=file:/dev/urandom
通过修改 JRE 中的 java.security 文件 securerandom.source=file:/dev/urand
2.1.2 增大/dev/random的熵池（推荐）
安装熵池服务 rngd
$ yum -y install rng-tools
$ systemctl start rngd
$ systemctl enable rngd
启动服务后观察 cat /proc/sys/kernel/random/entropy_avail 基本在三千左右。
2.2 隐藏 Tomcat 版本号
隐藏 Tomcat 版本号，不在优化内容范围内，出于安全角度建议大家隐藏。
修改前如下：
$ cd /usr/local/tomcat/lib/
$ jar xf catalina.jar
$ cd org/apache/catalina/util/
$ vim ServerInfo.properties
# 修改下面信息
server.info=Apache Tomcat/8.5.38
server.number=8.5.38.0
server.built=Feb 5 2019 11:42:42 UTC
修改后为
server.info=Apache Tomcat
server.number=0.0.0.0
server.built=Feb 5 2019 11:42:42 UTC
将修改后的信息压缩回 jar 包：
$ cd /usr/local/tomcat/lib
$ jar uvf catalina.jar org/apache/catalina/util/ServerInfo.properties
正在添加: org/apache/catalina/util/ServerInfo.properties(输入 = 885) (输出 = 512)(压缩了 42%)
# 重启 Tomcat
修改后再查看如下：
2.3 server.xml 配置文件优化
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="40000"
maxHttpHeaderSize="32768"
redirectPort="8443"
maxThreads="1000"
minSpareThreads="100"
maxSpareThreads="1000"
acceptorThreadCount="2"
acceptCount="2000"
minProcessors="100"
maxProcessors="2000"
enableLookups="false"
maxKeepAliveRequests="-1"
keepAliveTimeout="-1"
disableUploadTimeout="false"
connectionUploadTimeout="150000"
useSendfile="false"
URIEncoding="UTF-8" />
配置参数说明
protocol="HTTP/1.1"
maxHttpHeaderSize="8192"
maxThreads="1000" //最大线程数，默认200
minSpareThreads="100" //Tomcat初始化时创建的socket线程数，线程的最小运行数目，这些始终保持运行，如果未指定，默认值为10
enableLookups="false"//关闭DNS反向查询，若设为true,则支持域名解析，可把ip地址解析为主机名
compression="on"//打开压缩功能
compressionMinSize="2048"
compressableMimeType="text/html,text/xml,text/javascript,text/css,text/plain"
connectionTimeout="20000"//代表连接超时时间，单位为毫秒，默认值为60000。通常情况下设置为30000
URIEncoding="utf-8"//URL统一编码
acceptCount="1000"//监听端口队列最大数，满了之后客户请求会被拒绝（不能小于maxSpareThreads），如果未指定，默认值为100
redirectPort="8443"//在需要基于安全通道的场合，把客户请求转发到基于SSL的redirectPort端口
disableUploadTimeout="true"/>//这个标志允许servlet[Container](http://lib.csdn.net/base/4)在一个servlet执行的时候，使用一个不同的，更长的连接超时。最终的结果是给servlet更长的时间以便完成其执行，或者在数据上载的时候更长的超时时间。如果没有指定，设为false
禁用 AJP（如果你服务器没有使用 Apache）
<!-- <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" /> -->
Tomcat 压缩配置，建议在前端 nginx 上开启压缩。Tomcat 作为应用服务器本身就很繁忙了。
compression="on"
compressionMinSize="2048"
compressableMimeType="text/html,text/xml,application/javascript,application/json,text/javascript,text/css,text/plain,image/gif,image/jpg,image/png"
三、JVM 优化
Java 程序调优，主要就是调『堆内存』和『垃圾回收机制』。
3.1 JVM 调优常用参数说明
| 参数 | 作用 |
|---|---|
| -Xms | 堆初始内存大小 |
| -Xmx | 堆最大内存大小 |
| -Xmn | 初始新生代内存大小，一般设置为整个堆的 1/3到 1/4 左右 |
| -XX:PrintGC | 每次触发GC的时候打印相关日志 |
| -XX:+PrintGCDetails | 更详细的GC日志 |
| -XX:SurvivorRatio=2 | 用来设置新生代中 Eden 空间和 from/to 空间比例，默认是 8 （Edem : from : to = 8 : 1 : 1） |
| -Dfile.encoding=UTF-8 | 设置字符集避免日志中出现乱码 |
| -Dsun.jnu.encoding=UTF-8 | 设置字符集避免日志中出现乱码 |
| -Duser.timezone=GMT+08 | 时区设置 |
| -XX:+HeapDumpOnOutOfMemoryError | 堆异常报错输出 |
| -XX:HeapDumpPath=path | 设置在dump heap时将文件dump到哪里。默认是当前目录下 java_pidpid.hprof这样形式的文件。 |
| -XX:+UseParallelGC | 选择垃圾收集器为并行收集器。此配置仅对年轻代有效。即上述配置下，年轻代使用并发收集，而年老代仍旧使用串行收集 |
| -XX:+UseParallelOldGC | 配置年老代垃圾收集方式为并行收集。 |
| -XX:ParallelGCThreads=8 | 设置支持并发GC的线程数。 |
3.2 调优总结
在实际工作中，我们可以直接将初始堆大小(-Xms)与最大堆大小(-Xmx) 配置相等，这样的好处就是可以减少程序运行时垃圾回收的次数，从而提高效率。
新生代与老年代的设置比例：1:3 或者 1:4
四、内核参数优化
以下内核参数是工作环境中大家经常会看到的一些：
net.core.netdev_max_backlog = 32768
net.core.somaxconn = 32768
net.core.rmem_default = 8388608
net.core.wmem_default = 8388608
net.core.rmem_max = 16777216
net.core.wmem_max = 16777216
net.ipv4.ip_local_port_range = 1024 65535
net.ipv4.route.gc_timeout = 100
net.ipv4.tcp_fin_timeout = 30
net.ipv4.tcp_keepalive_time = 1200
net.ipv4.tcp_timestamps = 1
net.ipv4.tcp_tw_recycle = 1
net.ipv4.tcp_tw_reuse = 1
net.ipv4.tcp_syn_retries = 1
net.ipv4.tcp_synack_retries = 1
net.ipv4.tcp_mem = 94500000 915000000 927000000
net.ipv4.tcp_max_orphans = 3276800
net.ipv4.tcp_max_syn_backlog = 65535
以上内核参数作用说明：
# cat /proc/sys/net/core/netdev_max_backlog
# 默认值：1000
# 作用：网卡设备将请求放入队列的长度
net.core.netdev_max_backlog = 32768
# cat /proc/sys/net/core/somaxconn
# 默认值：128
# 作用：已经成功建立连接的套接字将要进入队列的长度
net.core.somaxconn = 32768
# cat /proc/sys/net/core/rmem_default
# 默认值：212992
# 作用：默认的TCP数据接收窗口大小（字节）
net.core.rmem_default = 8388608
# cat /proc/sys/net/core/wmem_default
# 默认值：212992
# 作用：默认的TCP数据发送窗口大小（字节）
net.core.wmem_default = 8388608
# cat /proc/sys/net/core/rmem_max
# 默认值：212992
# 作用：最大的TCP数据接收窗口大小（字节）
net.core.rmem_max = 16777216
# cat /proc/sys/net/core/wmem_max
# 默认值：212992
# 作用：最大的TCP数据发送窗口大小（字节）
net.core.wmem_max = 16777216
# cat /proc/sys/net/ipv4/ip_local_port_range
# 默认值：32768 61000
# 作用：可用端口的范围
net.ipv4.ip_local_port_range = 1024 65535
# cat /proc/sys/net/ipv4/route/gc_timeout
# 默认值 300
# 作用：路由缓存刷新频率，当一个路由失败后多长时间跳到另一个路由
net.ipv4.route.gc_timeout = 100
# cat /proc/sys/net/ipv4/tcp_fin_timeout
# 默认 60
# 作用：表示如果套接字由本端要求关闭，这个参数决定了它保持在FIN-WAIT-2状态的时间
net.ipv4.tcp_fin_timeout = 30
# cat /proc/sys/net/ipv4/tcp_keepalive_time
# 默认值：7200
# 作用：间隔多久发送1次keepalive探测包
net.ipv4.tcp_keepalive_time = 1200
# cat /proc/sys/net/ipv4/tcp_timestamps
# 默认值：1
# 作用：TCP时间戳，时间戳必须要开启，否则下面的 TIME_WAIT 重用和快速回收无效
net.ipv4.tcp_timestamps = 1
# cat /proc/sys/net/ipv4/tcp_tw_recycle
# 默认值：0
# 作用：表示开启TCP连接中TIME-WAIT sockets的快速回收，默认为0，表示关闭。
net.ipv4.tcp_tw_recycle = 1
######################## cat /proc/sys/net/ipv4/tcp_tw_reuse
# 默认值：0
# 作用：针对 TIME-WAIT，做为客户端可以启用（例如，作为nginx-proxy前端代理，要访问后端的服务）
net.ipv4.tcp_tw_reuse = 1
# cat /proc/sys/net/ipv4/tcp_syn_retries
# 默认值 2
# 作用：在内核放弃建立连接之前发送SYN包的数量。
net.ipv4.tcp_syn_retries = 1
# cat /proc/sys/net/ipv4/tcp_synack_retries
# 默认值 2
# 作用：为了打开对端的连接，内核需要发送一个SYN并附带一个回应前面一个SYN的ACK。也就是所谓三次握手中的第二次握手。这个设置决定了内核放弃连接之前发送SYN+ACK包的数量。
net.ipv4.tcp_synack_retries = 1
# cat /proc/sys/net/ipv4/tcp_mem
#确定 TCP 栈应该如何反映内存使用；每个值的单位都是内存页（通常是 4KB）。
#第一个值是内存使用的下限。
#第二个值是内存压力模式开始对缓冲区使用应用压力的上限。
#第三个值是内存上限。在这个层次上可以将报文丢弃，从而减少对内存的使用。对于较大的 BDP 可以增大这些值（但是要记住，其单位是内存页，而不是字节）。
net.ipv4.tcp_mem = 94500000 915000000 927000000
# cat /proc/sys/net/ipv4/tcp_max_orphans
# 默认值 16384
# 作用：系统中最多有多少个TCP套接字不被关联到任何一个用户文件句柄上。如果超过这个数字，孤儿连接将即刻被复位并打印出警告信息。这个限制仅仅是为了防止简单 的DoS攻击，你绝对不能过分依靠它或者人为地减小这个值，更应该增加这个值(如果增加了内存之后)。
net.ipv4.tcp_max_orphans = 3276800
# cat /proc/sys/net/ipv4/tcp_max_syn_backlog
# 默认值：128
# 作用：增大SYN队列的长度，容纳更多连接
net.ipv4.tcp_max_syn_backlog = 65535
五、JVM 调优常用工具
5.1 为 Tomcat 配置 JMX 连接
开启 JMX 远程连接以后，就可以通过 jconsole 和 jvisualvm 两个 JDK 内置工具连接 JMX 从而查看当前主机的 JVM 相关信息。
$ cd /usr/local/tomcat/bin/
# 默认情况下，$CATALINA_HOME/bin 目录下是没有 setenv.sh，可以自己新建此文件
$ vim setenv.sh
CATALINA_OPTS="-Djava.rmi.server.hostname=10.100.4.169
-Dcom.sun.management.jmxremote.port=8686
-Dcom.sun.management.jmxremote.authenticate=false
-Dcom.sun.management.jmxremote.ssl=false"
:wq
JMX 配置说明：
# 通过哪个 IP 访问本机的 JMX
-Djava.rmi.server.hostname=10.100.4.169
# JMX 监听的端口，默认 8686
-Dcom.sun.management.jmxremote.port=8686
# 是否需要用户名密码认证，默认 false
-Dcom.sun.management.jmxremote.authenticate=false
# 是否启用 SSL
-Dcom.sun.management.jmxremote.ssl=false"
5.2 使用 jconsole 工具连接 JMX
Jconsole 是 JDK 自带的监控工具，在 JDK/bin 目录下可以找到。它用于连接正在运行的本地或者远程的 JVM，对运行在 java 应用程序的资源消耗和性能进行监控，并画出大量的图表，提供强大的可视化界面。
当你在 Windows 或者 Mac 下运行 jconsole 后就会在桌面弹出 jconsole 的控制台，选择远程连接，输入IP:端口 点击连接
我这里在配置 JMX 的时候没有启用 SSL 所以会提示不安全，点击『不安全的连接』
5.3 使用 jvisualvm 工具连接 JMX
jvisualvm 同样是 JDK 内置的工具，使用方法与 jconsole 类似。功能上要比 jconsole 强大一些。推荐使用。
运行 jvisualvm 后同样在桌面弹出一个控制台窗口
远程 --> 添加主机 --> 添加 JMX 连接
5.4 jmap 工具
jmap 可以输出 Java 进程 内存中对象的工具。jmap 一般和 jhat 或者 MAT 配合使用，以图像的形式直观的展示当前内存是否有问题。
5.4.1 参数说明
-dump:[live,]format=b,file=<filename>
以hprof二进制格式转储Java堆到指定filename的文件中。
live子选项是可选的，如果指定了live子选项，堆中只有活动的对象会被转储。
想要浏览heap dump，你可以使用 jhat(Java堆分析工具) 或者 MAT 读取生成的文件。
-finalizerinfo
打印等待终结的对象信息。
-heap
打印一个堆的摘要信息，包括使用的GC算法、堆配置信息和generation wise heap usage。
-histo[:live]
打印每个Java类、对象数量、内存大小(单位：字节)、完全限定的类名。
打印的虚拟机内部的类名称将会带有一个'*'前缀。
如果指定了live子选项，则只计算活动的对象。
-permstat
打印Java堆内存的永久保存区域的类加载器的智能统计信息。
对于每个类加载器而言，它的名称、活跃度、地址、父类加载器、它所加载的类的数量和大小都会被打印。
此外，包含的字符串数量和大小也会被打印。
-F
强制模式。如果指定的pid没有响应，请使用jmap -dump或jmap -histo选项。此模式下，不支持live子选项。
-h | -help
打印帮助信息。
-J<flag>
指定传递给运行jmap的JVM的参数。
5.4.2 例子
示例 1、jmap -histo <pid> 打印每个Java类、对象数量、内存大小(单位：字节)、完全限定的类名。
$ jmap -histo 14110
num #instances #bytes class name
----------------------------------------------
1: 50994 7789848 [C
2: 22160 6263680 [B
3: 8527 1437176 [I
4: 49099 1178376 java.lang.String
5: 63 936248 [J
6: 19118 611776 java.util.HashMap$Node
7: 6243 549384 java.lang.reflect.Method
8: 8948 509464 [Ljava.lang.Object;
9: 10588 423520 java.util.TreeMap$Entry
10: 3696 417952 java.lang.Class
11: 1372 230544 [Ljava.util.HashMap$Node;
12: 4760 228480 java.util.HashMap
13: 4789 191560 java.util.HashMap$ValueIterator
14: 5851 187232 java.io.File
B byte
C char
D double
F float
I int
J long
Z boolean
[ 数组，如[I表示int[]
[L+类名 其他对象
示例 2、jmap -heap <pid> 查看进程堆内存使用情况，包括使用的GC算法、堆配置参数和各代中堆内存使用情况。
$ jmap -heap 14110
Attaching to process ID 14110, please wait...
Debugger attached successfully.
Server compiler detected.
JVM version is 25.121-b13
using thread-local object allocation.
Parallel GC with 2 thread(s)
Heap Configuration:
MinHeapFreeRatio = 0
MaxHeapFreeRatio = 100
MaxHeapSize = 134217728 (128.0MB)
NewSize = 44564480 (42.5MB)
MaxNewSize = 44564480 (42.5MB)
OldSize = 89653248 (85.5MB)
NewRatio = 2
SurvivorRatio = 8
MetaspaceSize = 21807104 (20.796875MB)
CompressedClassSpaceSize = 1073741824 (1024.0MB)
MaxMetaspaceSize = 17592186044415 MB
G1HeapRegionSize = 0 (0.0MB)
Heap Usage:
PS Young Generation
Eden Space:
capacity = 19398656 (18.5MB)
used = 6316256 (6.023651123046875MB)
free = 13082400 (12.476348876953125MB)
32.56027634079392% used
From Space:
capacity = 12582912 (12.0MB)
used = 98304 (0.09375MB)
free = 12484608 (11.90625MB)
0.78125% used
To Space:
capacity = 12582912 (12.0MB)
used = 0 (0.0MB)
free = 12582912 (12.0MB)
0.0% used
PS Old Generation
capacity = 89653248 (85.5MB)
used = 20189088 (19.253814697265625MB)
free = 69464160 (66.24618530273438MB)
22.519081517269736% used
13984 interned Strings occupying 1890552 bytes.
示例 3、jmap -dump:format=b,file=<dumpFileName> <pid> 用jmap把进程内存使用情况dump到文件中
$ jmap -dump:format=b,file=/tmp/123.hprof 14110
Dumping heap to /tmp/123.hprof ...
Heap dump file created
5.5 jhat 工具
jhat 可以对 dump 出来的堆信息进行处理，以 html 页面的形式展示出来。
执行 jhat /tmp/123.hprof即可，默认端口是 7000，访问 http://localhost:7000 即可查看结果。通过 -port 指定端口。
以上就是我整理出的 Tomcat 基础优化方法，如果有不对的地方或者你有更好的建议，欢迎在评论区留言，谢谢。
