Tomcat-8 性能监控及调优
一、下载地址
https://tomcat.apache.org/download-80.cgi
二、安装步骤
将安装包 apache-tomcat-8.5.39.tar.gz 上传至服务器 /usr/local 目录下,再执行如下步骤:
[root@admin local]# cd /usr/local [root@admin local]# tar -zxvf apache-tomcat-8.5.39.tar.gz // 解压压缩包 [root@admin local]# mv apache-tomcat-8.5.39 tomcat-8.5.39 // 重命名tomcat目录
启动tomcat(JDK已经安装好并配置了环境变量):
[root@admin local]# cd ./tomcat-8.5.39/bin [root@admin bin]# ./startup.sh // 启动tomcat
启动成功,如下图:
三、监控
通过以下网址打开tomcat管理页面,默认端口为8080(如果不能打开则关闭服务器防火墙或者开放8080端口)
右侧的 Server Status Manager APP 和 Host Manager代表tomcat的管理页面,想要进入这三个页面首先需要配置服务器上tomcat安装目录下的conf/tomcat-users.xml文件,如果不做配置则会返回403页面,如下:
在conf/tomcat-users.xml添加如下配置,再重启tomcat
<role rolename="admin"/> <role rolename="admin-gui"/> <role rolename="admin-script"/> <role rolename="manager-gui"/> <role rolename="manager-script"/> <role rolename="manager-jmx"/> <role rolename="manager-status"/> <user username="admin" password="admin" roles="admin,admin-gui,admin-script,manager-gui,manager-script,manager-jmx,manager-status"/>
Tomcat8如果在上面配置的基础上,访问时会报403错误,所以需要修改conf/Catalina/localhost/manager.xml 文件(如果没有的话新建)。 配置内容如下:
<Context privileged="true" antiResourceLocking="false" docBase="${catalina.home}/webapps/manager"> <Valve className="org.apache.catalina.valves.RemoteAddrValve" allow="^.*$" /> </Context>
再次重启tomcat后,就能进入Server Status Manager APP 和 Host Manager这三个页面了。
Server Status
Status-JVM
- Free memory:剩余内存;
- Total menory:总内存;
- Max menory:最大内存;
Status-HTTP
- Max threads:最大线程数;
- Current thread count:当前线程数;
- Current thread busy:当前忙碌线程数;
- Max processing time:最大处理时间;
- ms Processing time:最短处理时间;
- Request count:请求数;
- Error count:错误数;
- Bytes received:接受字节;
- Bytes sent:发送字节;
Manager APP
该页面用来管理Web项目,部署在Tomcat下的项目可以通过该页面来管理,如下:
Host Manager
该页面用于管理主机
四、调优
1、Tomcat的运行模式有三种:
BIO
性能比较低下,没有经过任何优化处理和支持。一个线程处理一个请求。缺点:并发量高时,线程数较多,浪费资源。Tomcat7或以下,在Linux系统中默认使用这种方式。
NIO
nio(new I/O),是Java SE 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)。Java nio是一个基于缓冲区、并能提供非阻塞I/O操作的Java API,因此nio也被看成是non-blocking I/O的缩写。它拥有比传统I/O操作(bio)更好的并发运行性能。
利用Java的异步IO处理,可以通过少量的线程处理大量的请求。
Tomcat8在Linux系统中默认使用这种方式。
Tomcat7必须修改Connector配置来启动:
<Connector port="8080"protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" redirectPort="8443"/>
APR
安装起来最困难,但是从操作系统级别来解决异步的IO问题,能够大幅度的提高性能。即Apache PortableRuntime,从操作系统层面解决IO阻塞问题。
Tomcat7或Tomcat8在Win7或以上的系统中启动默认使用这种方式。
Linux如果安装了apr和native,Tomcat直接启动就支持apr。
具体安装办法 参见这个地址:https://my.oschina.net/lsw90/blog/181161
Tomcat启动的时候,可以通过log看到Connector使用的是哪一种运行模式:
StartingProtocolHandler ["http-bio-8080"]
StartingProtocolHandler ["http-nio-8080"]
StartingProtocolHandler ["http-apr-8080"]
Tomcat7及以下版本启动启动NIO模式:
修改server.xml里的Connector节点,修改protocol为:org.apache.coyote.http11.Http11NioProtocol,如下:
修改前:
修改后:
为什么它不直接改成NIO的形式呢?
这个方式是利用了jdk 1.4及后续版本提供的一种新的I/O操作方式(即java.nio包及其子包)为桥梁实现的,不改成这种优化方式就是为了兼容1.4之前的JAVA项目也能跑起来。
2、线程池(执行器)
Connector节点:
官方文档:https://tomcat.apache.org/tomcat-8.5-doc/config/http.html
默认的tomcat没有启用线程池,在tomcat中每一个用户请求都是一个线程,所以可以使用线程池提高性能。这里前台其实有一个调度线程,然后调度线程会放入线程池内,然后到到一定的时候线程池的任务变成工作线程。
开启线程池:
maxThreads配置为500,但显示为-1,查询官方文档发现:
意思是该属性配置处理并发请求的最大线程数,如果不配置默认值是200。 如果配置了executor属性,这个属性会被忽略。注意斜体部分提到:如果executor设置了值,使用JMX查看的时候这个值会是-1,这是正常的。
详细参数解释如下:
将原有的Executor标签内容替换成如下内容 <Executor name="tomcatThreadPool" --线程池名 namePrefix="catalina-exec-" maxThreads="500" minSpareThreads="30" maxIdleTime="60000" prestartminSpareThreads = "true" maxQueueSize = "100"/> maxThreads:最大并发数,默认设置 200,一般建议在 500 ~ 800,根据硬件设施和业务来判断 minSpareThreads:Tomcat 初始化时创建的线程数,默认设置 25 maxIdleTime:如果当前线程大于初始化线程,那空闲线程存活的时间,单位毫秒,默认60000=60秒=1分钟。 prestartminSpareThreads:在 Tomcat 初始化的时候就初始化 minSpareThreads 的参数值,如果不等于 true,minSpareThreads 的值就没啥效果了 maxQueueSize:最大的等待队列数,超过则拒绝请求 将原有的Connector标签内容替换成如下内容 <Connector executor="tomcatThreadPool" port="8080" protocol="org.apache.coyote.http11.Http11AprProtocol" connectionTimeout="60000" maxConnections="10000" redirectPort="8443" enableLookups="false" acceptCount="100" maxPostSize="10485760" maxHttpHeaderSize="8192" compression="on" disableUploadTimeout="true" compressionMinSize="2048" acceptorThreadCount="2" compressableMimeType="text/html,text/plain,text/css,application/javascript,application/json,application/x-font-ttf,application/x-font-otf,image/svg+xml,image/jpeg,image/png,image/gif,audio/mpeg,video/mp4" URIEncoding="utf-8" processorCache="20000" tcpNoDelay="true" connectionLinger="5" server="Server Version 11.0"/> 替换后访问速度肯定会比以前快 protocol:Tomcat 8 设置 nio2 更好:org.apache.coyote.http11.Http11Nio2Protocol protocol:Tomcat 6 设置 nio 更好:org.apache.coyote.http11.Http11NioProtocol protocol:Tomcat 8 设置 APR 性能飞快:org.apache.coyote.http11.Http11AprProtocol connectionTimeout:Connector接受一个连接后等待的时间(milliseconds),默认值是60000。 maxConnections:这个值表示最多可以有多少个socket连接到tomcat上 enableLookups:禁用DNS查询 acceptCount:当tomcat起动的线程数达到最大时,接受排队的请求个数,默认值为100。 maxPostSize:设置由容器解析的URL参数的最大长度,-1(小于0)为禁用这个属性,默认为2097152(2M) 请注意, FailedRequestFilter 过滤器可以用来拒绝达到了极限值的请求。 maxHttpHeaderSize:http请求头信息的最大程度,超过此长度的部分不予处理。一般8K。 compression:是否启用GZIP压缩 on为启用(文本数据压缩) off为不启用, force 压缩所有数据 disableUploadTimeout:这个标志允许servlet容器使用一个不同的,通常长在数据上传连接超时。 如果不指定,这个属性被设置为true,表示禁用该时间超时。 compressionMinSize:当超过最小数据大小才进行压缩 acceptorThreadCount:用于接受连接的线程数量。增加这个值在多CPU的机器上,尽管你永远不会真正需要超过2。 也有很多非维持连接,您可能希望增加这个值。默认值是1。 compressableMimeType:配置想压缩的数据类型 URIEncoding:网站一般采用UTF-8作为默认编码。 processorCache:协议处理器缓存的处理器对象来提高性能。 该设置决定多少这些对象的缓存。-1意味着无限的,默认是200。 如果不使用Servlet 3.0异步处理,默认是使用一样的maxThreads设置。 如果使用Servlet 3.0异步处理,默认是使用大maxThreads和预期的并发请求的最大数量(同步和异步)。 tcpNoDelay:如果设置为true,TCP_NO_DELAY选项将被设置在服务器套接字,而在大多数情况下提高性能。这是默认设置为true。 connectionLinger:秒数在这个连接器将持续使用的套接字时关闭。默认值是 -1,禁用socket 延迟时间。 server:隐藏Tomcat版本信息,首先隐藏HTTP头中的版本信息
Executor节点:
官方文档:https://tomcat.apache.org/tomcat-8.5-doc/config/executor.html
五、AJP协议
Tomcat最主要的功能是提供Servlet/JSP容器,尽管它也可以作为独立的Java Web服务器,但它对静态资源(如HTML文件或图像文件)的处理速度,以及提供的Web服务器管理功能方面都不如其他专业的HTTP服务器,如IIS和Apache服务器。因此在实际应用中,常常把Tomcat与其他HTTP服务器集成。对于不支持Servlet/JSP的HTTP服务器,可以通过Tomcat服务器来运行Servlet/JSP组件。
Tomcat服务器通过Connector连接器组件与客户程序建立连接,Connector组件负责接收客户的请求,以及把Tomcat服务器的响应结果发送给客户。默认情况下,Tomcat在server.xml中配置了两种连接器:
- 第一个连接器监听8080端口,负责建立HTTP连接。在通过浏览器访问Tomcat服务器的Web应用时,使用的就是这个连接器。
- 第二个连接器监听8009端口,负责和其他的HTTP服务器建立连接。在把Tomcat与其他HTTP服务器集成时,就需要用到这个连接器。
在实际应用中,如果网站的访问量非常大,为了提高访问速度,可以将多个Tomcat服务器与Apache集成,让它们共同分担运行Servlet/JSP组件的任务。 JK插件的loadbalancer(负载平衡器)负责根据在workers.properties文件中预先配置的lbfactor(负载平衡因数)为这些Tomcat服务器分配工作负荷,实现负载平衡。那么,Apache和Tomcat结合的时候,会有如下现象:
- Apache会拦截所有请求,将servlet和JSP(.jsp结尾)请求通过AJP交给Tomcat处理,然后再把结果拿到Apache然后返回;
- Apache将静态资源的访问,(类似html/css/jpg等类型的文件)自己直接处理不交给Tomcat,直接返回;
- Apache和Tomcat结合之后,Tomcat的HTTP Connector永远不会被用到了,而是用AJP Connector;