tomcat7之性能优化
一。Tomcat 7.0.X:
要了解tomcat的优化,我们先看看Tomcat的官方定义:The Apache Tomcat® software is an open source implementation of the Java Servlet, JavaServer Pages, Java Expression Language and Java WebSocket technologies. The Java Servlet, JavaServer Pages, Java Expression Language and Java WebSocket specifications are developed under the Java Community Process.
Apache Tomcat软件是一个开源的Java Servlet实现,JavaServer Pages,Java表达式语言和Java WebSocket技术。Java Servlet、JavaServer页面、Java表达式语言和Java WebSocket规范都是在Java Community Process下开发的
Tomcat 系统架构:
Tomcat 的缺省配置是不能稳定长期运行的,也就是不适合生产环境,它会死机,让你不断重新启动,甚至在午夜时分唤醒你。对于操作系统优化来说,是尽可能的增大可使用的内存容量、提高CPU 的频率,保证文件系统的读写速率等。经过压力测试验证,在并发连接很多的情况下,CPU 的处理能力越强,系统运行速度越快。
从系统架构图再结合 conf/server.xml 中的标签配置来说,再结合tomcat的源码来看,每个组件都是对应Java中的一个类或者接口,先加载 server.xml 文件,解析文件中的标签组装成一个个的类,最后相互之间协同工作从而支撑起整个服务的运行,如果要对Tomcat本身进行优化的话,可以通过server.xml来改变相应组件的参数属性及行为方式来达到优化性能的目的,比如从架构图结合 server.xml我们可以得知其中比较重要的标签:Server,Services,Connector,Excutor,Engine,Host,Context等等。但是在官网中由如下介绍:
在这3个组件的介绍中都提到了该元素很少由用户定制,所以这3个标签我们可以暂时不去过于的关注。Tomcat 的优化不像其它软件那样,简简单单的修改几个参数就可以了,由于他是由Java语言编写的,那么他也是运行在JVM上面的,它的优化主要有三方面,分为系统优化(机器本身的硬件性能)服务器的CPU、内存、硬盘等对性能有决定性的影响,硬件这块配置越高越好。,Tomcat 本身的优化,Java 虚拟机(JVM)调优。系统优化就不在介绍了,接下来就详细的介绍一下 Tomcat 本身与 JVM 优化,以 Tomcat 7 为例。
从 Tomcat本身出发,在conf/web.xml文件中配置了默认的Servlet的支持以及一些静态资源的处理,还有资源压缩的支持,从代码的角度,只要是执行一段代码片段那么他一定会耗费一些时间,由于现在都采用nginx来管理静态资源,实现前后端分离开发,那么我们是否可以删除一些标签,让Tomcat本身尽可能少的去执行无用的代码也是可以提高相应的启动速度。
先从 conf/web.xml文件出发,我们可以通过注释掉与我们项目无关的组件标签来使得Tomcat尽可能的少执行无用大代码块,再通过架构图结合源码 的执行逻辑是由外到内的标签解析顺序,我们可以先定位到的优化点则是Connector,由官网的介绍我们可以得知Connector(连接器)处理与客户机的通信。Tomcat提供了多个连接器。其中包括用于大多数HTTP通信的HTTP连接器,特别是在将Tomcat作为独立服务器运行时,以及实现将Tomcat连接到Apache HTTPD服务器等web服务器时使用的AJP协议的AJP连接器。创建定制的连接器是一项重大的工作。但是目前比较主流的是Nginx而不是Apache,我们可以根据自己的需求把 AJP协议相关的连接器注释掉,也能起到一定的效果。从外层标签到内层标签,一层层的来进行优化:
2. 优化方法
(1)在浏览器中输入 http://localhost:8080/,点击页面中 Server Status,可以看到默认tomcat中的JVM、HTTP、AJP协议、连接池是否启用等,可以通过修改页面上显
示的参数来优化tomcat。
(2)在server.xml中进行更加深入的配置。
二、优化
1. 禁用AJP协议:
ajp13是一个二进制的TCP传输协议,相比HTTP这种纯文本的协议来说,效率和性能更高,也做了很多优化。显然,浏览器并不能直接支持AJP13协议,只支持HTTP协议。所以实际情况是,通过Apache的proxy_ajp模块进行反向代理,暴露成http协议给客户端访问。所以这么来看实际跟动静分离没一毛钱关系,你如果没做动静分离的设置,那么单纯反向代理AJP13协议也没太大的意义。其他支持AJP协议的代理服务器当然也可以用这种做法。但是实际情况是,支持AJP代理的服务器非常少,比如目前很火爆的Nginx就没这个模块。因此tomcat的配置大部分都是关闭AJP协议端口的,因为除了Apache之外别的http server几乎都不能反代AJP13协议,自然就没太大用处了。
(1)通过禁用AJP协议,达到在集群的时候提高处理请求的时间。
图1
(2)启动tomcat后,不论从刚刚的管理员界面,还是从控制台上(如图1所示)都可以看出,AJP协议是开启的。
我们要做的就是要将此协议禁用,禁用方法:在server.xml中,将
<Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />
注释掉,重新启动tomcat,可以看出控制台上已经不存在上图 黑框中所示的。
2. 将BIO通讯模式修改为NIO通讯模式
(1)tomcat通讯协议支持http1.0和1.1,tomcat默认走的是BIO通讯模式,tomcat7和tomcat8之所以默认的都是效率低下的BIO通讯模式,是因为和前面的就项目做兼容。
(2)在控制台上(如图1所示)或者管理界面都可以看到,tomcat启动的通讯模式是bio的。
(3)应用场景:tomcat集群的时候,若项目比较新,都是1.5类库之前,即JDK版本大于1.5,可将集群中每一个tomcat的启动模式设置为高并发高性能的应答模式(NIO)。
(4)配置方法:在server.xml中 ,将 <Connector connectionTimeout="20000" port="8066" protocol="HTTP/1.1" redirectPort="8448"/> 改为:
<Connector connectionTimeout="20000" port="8066" protocol="org.apache.coyote.http11.Http11NioProtocol" redirectPort="8448"/>
其中,原来的protocol="HTTP/1.1"表示遵循http1.1协议,同时,也是一个最原始的未经优化的通信协议,
修改之后的 protocol="org.apache.coyote.http11.Http11NioProtocol" ,表示以 NIO模式启动。
3. 启用外部连接池,来满足高并发已经复用的请求
图2
maxThreads:tomcat起动的最大线程数,即同时处理的任务个数,默认值为200。将
<Executor name="tomcatThreadPool" namePrefix="catalina-exec-" maxThreads="300" minSpareThreads="4"/>
注释打开,并修改maxThreads的值,然后在<Connector connectionTimeout="20000" port="8066" protocol="org.apache.coyote.http11.Http11NioProtocol"/>
中加入 executor="tomcatThreadPool",即最后为:
<Connector connectionTimeout="20000" port="8066" executor="tomcatThreadPool" protocol="org.apache.coyote.http11.Http11NioProtocol"/>
根据业务场景和服务器硬件资源条件可以适当的加大线程连接池,根据第三方工具去开启并发测试来确定一个最好的连接池数。
4. 优化连接器
最佳实践:
<Connector port="8066" executor="tomcatThreadPool" protocol="org.apache.coyote.http11.Http11NioProtocol" connectionTimeout="20000" enableLookups="false" maxPostSize="10485760" URIEncoding="UTF-8" useBodyEncodingForURI="true" acceptCount="100" acceptorThreadCount="2" disableUploadTimeout="true" maxConnections="10000" SSLEnabled="false" />
5. 在tomcat中设置JVM参数
修改bin/catalina.bat文件设置参数(注释后第一行),增加
set JAVA_OPTS=-Dfile.encoding=UTF-8
-server
-Xms1024m //jvm初始化内存
-Xmx2048m //jvm最大内存
-XX:NewSize=512m //新生代初始化内存
-XX:MaxNewSize=1024m //新生代最大内存
-XX:PermSize=256m //永久代初始化内存
-XX:MaxPerPermSize=356m //永久代最大内存
-XX:NewRatio=2 //新生代与年老代的比值
-XX:MaxTenuringThreshold=50 //年龄阈值,默认15(对象被复制的次数)
-XX:+DisableExplicitGC //标志自动将System.gc()调用转换成一个空操作
-Xms:设置JVM初始内存大小(默认是物理内存的1/64)
-Xmx:设置JVM可以使用的最大内存(默认是物理内存的1/4,建议:物理内存80%)
-Xmn:设置JVM最小内存(128-256m就够了,一般不设置)
默认空余堆内存小于40%时,JVM就会增大堆直到-Xmx的最大限制;空余堆内存大于70%时,JVM会减少堆直到-Xms的最小限制。因此服务器一般设置-Xms、
-Xmx相等以避免在每次GC 后调整堆的大小。
在较大型的应用项目中,默认的内存是不够的,有可能导致系统无法运行。常见的问题是报Tomcat内存溢出错误“java.lang.OutOfMemoryError:Java heap space”,从而
导致客户端显示500错误。
-XX:PermSize :为JVM启动时永久代内存大小
-XX:MaxPermSize :设置最大永久代内存大小
-XX:MaxNewSize,默认为16M
PermGen space的全称是Permanent Generationspace,是指内存的永久保存区域,这块内存主要是被JVM存放Class和Meta信息的,Class在被Loader时就会被放到
PermGenspace中,它和存放类实例(Instance)的Heap区域不同,GC(GarbageCollection)不会在主程序运行期对PermGenspace进行清理,所以如果你的应用中有很CLASS的
话,就很可能出现“java.lang.OutOfMemoryError:PermGen space”错误。
对于WEB项目,jvm加载类时,永久域中的对象急剧增加,从而使jvm不断调整永久域大小,为了避免调整),你可以使用更多的参数配置。如果你的WEBAPP下都用了大量的第三
方jar, 其大小超过了jvm默认的大小,那么就会产生此错误信息了。
其它参数:
-XX:NewSize :默认为2M,此值设大可调大新对象区,减少FullGC次数
-XX:NewRatio :改变新旧空间的比例,意思是新空间的尺寸是旧空间的1/8(默认为8)
-XX:SurvivorRatio :改变Eden对象空间和残存空间的尺寸比例,意思是Eden对象空间的尺寸比残存空间大survivorRatio+2倍(缺省值是10)
-XX:userParNewGC 可用来设置并行收集【多CPU】
-XX:ParallelGCThreads 可用来增加并行度【多CPU】
-XXUseParallelGC 设置后可以使用并行清除收集器【多CPU】