Tomcat优化
性能优化
Tomcat性能指标：吞吐量、响应时间、错误数、线程池、CPU 、内存等。
使用jmeter进行压测，然后观察相关指标
# 使用命令查看相关指标
01 查看tomcat进程pid
ps -ef | grep tomcat
02 查看进程的信息
cat /pro/pid/status
03 查看进程的cpu和内存
top -p pid
# 使用工具查看相关指标
jconsole、jvisualvm、arthas、psi-probe等
优化方式
01 conf/server.xml核心组件
通过官网对每个组件的描述：
Server、Service、Engine、Host 不建议修改
Connector【need】、Context【maybe】
02 conf/server.xml非核心组件
- Listener
Listener(即监听器)定义的组件，可以在特定事件发生时执行特定的操作；被监听的事件通常是Tomcat的启动和停止。
<Listener className="org.apache.catalina.core.AprLifecycleListener" SSLEngine="on" />
<!--监听内存溢出-->
<Listener className="org.apache.catalina.core.JreMemoryLeakPreventionListener" />
<Listener className="org.apache.catalina.mbeans.GlobalResourcesLifecycleListener" />
<Listener className="org.apache.catalina.core.ThreadLocalLeakPreventionListener" />
- Global Resources
GlobalNamingResources元素定义了全局资源，通过配置可以看出，该配置是通过读取$TOMCAT_HOME/
conf/tomcat-users.xml实现的。
<GlobalNamingResources>
<Resource name="UserDatabase" auth="Container"
type="org.apache.catalina.UserDatabase"
description="User database that can be updated and saved"
factory="org.apache.catalina.users.MemoryUserDatabaseFactory"
pathname="conf/tomcat-users.xml" />
</GlobalNamingResources>
- Valve
<Valve className="org.apache.catalina.valves.AccessLogValve" directory="logs"
prefix="localhost_access_log" suffix=".txt"
pattern="%h %l %u %t "%r" %s %b" />
- Realm
<Realm className="org.apache.catalina.realm.LockOutRealm">
<!-- This Realm uses the UserDatabase configured in the global JNDI
resources under the key "UserDatabase". Any edits
that are performed against this UserDatabase are immediately
available for use by the Realm. -->
<Realm className="org.apache.catalina.realm.UserDatabaseRealm"
resourceName="UserDatabase"/>
</Realm>
03 conf/web.xml
全局的web.xml文件有些标签用不到的，可以删除掉。
配置优化
01 减少web.xml/server.xml中标签
观察tomcat启动日志[时间/内容]，线程开销，内存大小，GC等
- DefaultServlet
<servlet>
<servlet-name>default</servlet-name>
<servlet-class>org.apache.catalina.servlets.DefaultServlet</servlet-class>
<init-param>
<param-name>debug</param-name>
<param-value>0</param-value>
</init-param>
<init-param>
<param-name>listings</param-name>
<param-value>false</param-value>
</init-param>
<load-on-startup>1</load-on-startup>
</servlet>
<servlet-mapping>
<servlet-name>default</servlet-name>
<url-pattern>/</url-pattern>
</servlet-mapping>
- JspServlet
<servlet>
<servlet-name>jsp</servlet-name>
<servlet-class>org.apache.jasper.servlet.JspServlet</servlet-class>
<init-param>
<param-name>fork</param-name>
<param-value>false</param-value>
</init-param>
<init-param>
<param-name>xpoweredBy</param-name>
<param-value>false</param-value>
</init-param>
<load-on-startup>3</load-on-startup>
</servlet>
<servlet-mapping>
<servlet-name>jsp</servlet-name>
<url-pattern>*.jsp</url-pattern>
<url-pattern>*.jspx</url-pattern>
</servlet-mapping>
- welcome-list-file
<welcome-file-list>
<welcome-file>index.html</welcome-file>
<welcome-file>index.htm</welcome-file>
<welcome-file>index.jsp</welcome-file>
</welcome-file-list>
- mime-mapping移除响应的内容
<mime-mapping>
<extension>123</extension>
<mime-type>application/vnd.lotus-1-2-3</mime-type>
</mime-mapping>
<mime-mapping>
<extension>3dml</extension>
<mime-type>text/vnd.in3d.3dml</mime-type>
</mime-mapping>
- session-config
<session-config>
<session-timeout>30</session-timeout>
</session-config>
调整优化server.xml中标签
01 Connector标签
- protocol属性
<Connector port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
对于protocol="HTTP/1.1"，查看源码
public Connector(String protocol) {
setProtocol(protocol);
}
else {
if ("HTTP/1.1".equals(protocol)) {
setProtocolHandlerClassName
("org.apache.coyote.http11.Http11NioProtocol");
} else if ("AJP/1.3".equals(protocol)) {
setProtocolHandlerClassName
("org.apache.coyote.ajp.AjpNioProtocol");
} else if (protocol != null) {
setProtocolHandlerClassName(protocol);
}
}
扩展：tomcat默认是BIO还是NIO？
通过源码我们会发现：
发现这里调用的是Http11NioProtocol，也就是说明tomcat8.0.x中默认使用的是NIO
使用同样的方式看tomcat7和tomcat8.5，你会发现tomcat7默认使用的是BIO，tomcat8.5默认使用的是NIO
tomcat官网Configuration/HTTP/protoco
org.apache.coyote.http11.Http11Protocol - blocking Java connector
org.apache.coyote.http11.Http11NioProtocol - non blocking Java NIO connector
org.apache.coyote.http11.Http11Nio2Protocol - non blocking Java NIO2 connector
org.apache.coyote.http11.Http11AprProtocol - the APR/native connector.
三种方式：（1）BIO (2)NIO (3)APR
- executor属性
最佳线程数公式 :((线程等待时间+线程cpu时间)/线程cpu时间) * cpu数量
默认类：StandardExecutor
官网：https://tomcat.apache.org/tomcat-8.0-doc/config/http.html
(1) acceptCount
达到最大连接数之后，等待队列中还能放多少连接，超过即拒绝，配置太大也没有意义
(2) maxConnections
达到这个值之后，将继续接受连接，但是不处理，能继续接受多少根据acceptCount的值
BIO:maxThreads
NIO/NIO2:10000 ——— AbstractEndpoint.maxConnections
APR:8192
(3) maxThreads
最大工作线程数，也就是用来处理request请求的，默认是200，如果自己配了executor，并且和Connector有关联了，则之前默认的200就会被忽略，
取决于CPU的配置。监控中就可以看到所有的工作线程是什么状态，通过监控就能知道开启多少个线程合适
(4) minSpareThreads
最小空闲线程数
Connector配合自定义的线程池:
<Connector executor="tomcatThreadPool"
port="8080" protocol="HTTP/1.1"
connectionTimeout="20000"
redirectPort="8443" />
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-"
maxThreads="150" minSpareThreads="4"/>
- enableLookups
设置为false
- 删掉AJP的Connector
02 Host标签
autoDeploy :Tomcat运行时，要用一个线程拿出来进行检查，生产环境之下一定要改成false
03 Context标签
reloadable
reloadable:如果这个属性设为true，tomcat服务器在运行状态下会监视在WEB-INF/classes和WEB-INF/lib目录下
class文件的改动，如果监测到有class文件被更新的，服务器会自动重新加载Web应用。
在开发阶段将reloadable属性设为true，有助于调试servlet和其它的class文件，但这样用加重服务器运行负荷。
启动速度优化
- 删除没用的web应用
因为tomcat启动每次都会部署这些应用 - 关闭WebSocket
websocket-api.jar和tomcat-websocket.jar - 随机数优化
设置JVM参数：-Djava.security.egd=file:/dev/./urandom - 多个线程启动Web应用
<Host startStopThreads="0">
</Host>
其他方面的优化
- Connector
配置压缩属性compression="500"，文件大于500bytes才会压缩 - 数据库优化
减少对数据库访问等待的时间，可以从数据库的层面进行优化，或者加缓存等等各种方案。 - 开启浏览器缓存，nginx静态资源部署
常见问题排查
CPU使用率过高
# 可能原因
GC频繁或者创建了很多业务线程
# 排查
哪些线程比较消耗CPU，或者多线程上下文频繁切换
# 解决思路
top -H -p pid 查看某个Java进程各个线程使用CPU的情况，找到哪个线程占用CPU比较高
jstack pid 打印出线程信息，定位到上述的线程名称
拒绝连接
# java.net.BindException: Address already in use: JVM_Bind
端口被占用，可以使用netstat -an 查看端口占用情况，关闭对应的进程或者tomcat换端口
# java.net.ConnectException: Connection refused: connect
ping一下服务端的IP，可能服务端机器有问题
# java.net.SocketException: Too many open files
可能在高并发的情况下，创建的Socket过多，文件句柄不够用了，可以关闭无用的句柄，如果都有用，可以增加文件
句柄数：ulimit -n 10000
