Tomcat 8.0 的 JVM、GC 调优(基于Oracle JDK 8)
Tomcat容器是运行在JVM上的, 其默认内存一般都很小(物理内存的1/64), 在实际生产环境中, 若不配置则会极大浪费服务器资源, 影像系统的性能. 可以通过调整JVM启动参数, 使得Tomcat拥有更好的性能.
对于JVM的优化主要有两个方面: JVM内存调优 和 垃圾收集策略调优, 本片博文是在Oracle JDK 8之上的测试, 特此说明.
1 JVM内存调优
1.1 Tomcat占用的内存
Tomcat 的运行内存 = Xmx(初始内存大小) + Perm Generation(JDK 7中的永久代大小) + Java应用创建的线程数 * 1MB.
Java 应用每创建一个线程, JVM 进程的内存中就会创建一个 Thread 对象, 同时也会在操作系统中创建一个真正的物理线程(参考JVM规范), 操作系统会在 Tomcat 的空闲内存中创建这个物理线程, 而不是在 JVM 的 Xmx 堆内存中创建.
在 JDK 1.4中, 默认的栈大小是256KB/线程, 但自 JDK 5(为了推广的方便, JDK 后续版本不再是1.x命名)开始, 默认的栈大小变为1M/线程. 举例: 如果系统剩余内存为400M, 则Java应用最多能创建400个可用线程.
**结论: 要想创建更多的线程, 必须减少分配给JVM的最大内存. **
1.2 内存配置相关参数
-server
# JVM的server模式, 在多CPU服务器中性能可以得到更好地发挥. 默认为client. 配置server模式时要将其作为第一个参数.
-Xmx4g
# Java Heap的最大可用内存, 默认为物理内存的1/4(已在JDK 7下验证, 最大值为30638MB, 总内存126GB的23.75%).
# 在只运行Tomcar容器的服务器中, 建议设置为物理内存的50%~80%.
-Xms4g
# Java Heap的初始大小, 默认值为物理内存的1/64(已在JDK 7下验证, 内存126GB, 初始值为2GB).
-Xss128k
# 每个线程的Stack大小. 在相同物理内存下, 减小这个值能生成更多的线程,
# 但是操作系统对一个进程内的线程数是有限制的, 经验范围是3000~5000.
-XX:NewRatio=4
# 设置新生代(包括Eden和两个Survivor区)与老年代的比值(除去持久代), 默认为2, 即新生代与老年代所占比值为1:2, 新生代占整个堆栈的1/3.
-XX:SurvivorRatio=4
# 设置新生代中Eden区与1个Survivor区的大小比值. 默认为8, 即Eden区占新生代的80%, 2个Survivor分别占新生代的10%.
# 设置为4, 则两个Survivor区与一个Eden区的比值为2:4, 一个Survivor区占整个新生代的1/6.
-Xmn1024m
# 设置Young Generation所占用的Java Heap大小为1g. 此值对系统性能影响较大, Sun官方推荐配置为整个堆的3/8(或Xmx的1/4~1/3左右).
# 也可使用-XX:NewSize和-XX:MaxNewsize设置新生代的初始值和最大值.
# 注意: -Xmn 与 -XX:NewSize、-XX:MaxNewSize 的优先级: -XX:NewRatio的值会被忽略.
# 1. 高优先级: -XX:NewSize/-XX:MaxNewSize
# 2. 中优先级: -Xmn, 等效于同时设置 -Xmn = -XX:NewSize = -XX:MaxNewSize 三者的值
# 3. 低优先级: -XX:NewRatio
# -Xmn参数是在JDK 1.4 开始支持, 推荐使用之.
-XX:NewSize=1g
# 设置新生代的大小, 默认为1.25MB(已在JDK 7下验证). 若显示设置此值, 将使得NewRatio选项失效.
-XX:OldSize=2g
# 设置老年代的大小, 默认为5.1875MB(已在JDK 7下验证).
-XX:PermSize=128m
# JDK 7及以下版本适用: 设置Java Heap中永久代的初始大小, 默认为20.75MB(已在JDK 7下验证, client、server模式下均相同).
-XX:MaxPermSize=256m
# JDK 7及以下版本适用: 设置Java Heap中永久代的最大值. 默认为82.0MB(已在JDK 7下验证, client、server模式下均相同).
-XX:MetaspaceSize=128m
# JDK 8及以上版本适用: 初始元空间的大小, 默认为21MB(实际为20.79MB左右, 已验证).
-XX:MaxMetaspaceSize=256m
# JDK 8及以上版本适用: 最大元空间的大小. 默认无上限(在126GB物理内存的服务器中, 默认值为(2^44-1)MB, 已验证).
总结:
① 如果不指定Xmx、Xms和NewSize、OldSize, 则系统将基于Xms=1/64总内存大小, 对各个Space按照NewRatio=2进行空间的分配, 此时NewSize与OldSize的默认大小将失效.
② 如果指定了Xmx、Xms, 未指定NewSize、OldSize, 则系统将优先满足 NewRatio=2, 且OldSize+NewSize=Xms, 此时NewSize与OldSize的默认大小将失效.
结论: 除非显式指定NewSize与OldSize的值, 否则它们的默认配置一般都不会得到满足. 显式指定其中任一个, 另一个就会基于默认值, 并根据应用程序的消耗动态分配空间大小.
1.3 内存调优实践
JVM内存方面的调优, 需要在${TOMCAT_HOME}/bin/catalina.sh文件中调整, 配置 JAVA_OPTS 变量即可. 在启动Tomcat时, 会执行catalina.sh中的脚本, 将 JAVA_OPTS 作为JVM的启动参数进行处理.
具体可参考如下配置(示例服务器配置: 126g的物理内存, 2个10核心20线程的物理CPU):
# 在文件最前面(即cygwin=false之前)设置, $JAVA_OPTS 的作用是保留原有的设置, 防止此次修改覆盖之前的设置
JAVA_OPTS="$JAVA_OPTS -Xmx96g -Xms96g -XX:MetaspaceSize=256m -XX:MaxMetaspaceSize=512m"
(1) 说明:
① 若不指定Xmx, 即Java Heap的最大值, 程序启动时, JVM会调整其大小以满足程序运行的需要. 每次调整时, 都会对堆进行一次完全垃圾收集(即Full GC), 比较影响性能. 因此推荐明确指定Xmx的大小.
② 令
Xmx=Xms会有更好地性能表现: 能避免JVM在每次垃圾收集后重新动态调节堆空间, 因为频繁伸缩堆大小将带来额外的性能消耗.③ JVM有2种模式: client客户端模式 和 server服务端模式 , 平时开发中使用的多是默认的client模式. 可通过命令行参数
-server强制开启server模式. 两者之间的最大区别是, JVM对server模式做了大量优化: 虽然server模式下应用程序启动较慢, 但在长时间运行下, 程序运行效率会明显高于client模式, 即 client模式不适合需要长时间运行的项目 .
(2) 元空间的调优:
元空间的大小将受限于机器的内存的限制. 限制类的元数据的内存大小, 以避免出现虚拟内存切换以及本地内存分配失败.
如果可能出现类加载器泄漏, 应当配置此参数指定大小. 32位机器上, 如果地址空间可能会被耗尽, 也应当配置此参数.
元空间的初始大小是21M——这是GC的初始高水位线, 超过这个大小会进行Full GC来进行类的收集.
如果启动后GC过于频繁, 请将该值设置得大一些, 以便推迟GC的执行时间.
1.4 验证配置效果
(1) jps工具查看Java进程:
# 由于配置了环境变量, 在任意目录下使用jps及jmap命令, 即可调用相关工具:
# 使用 jps 查看 Java 的所有进程, 其中 Bootstrap 进程就是 Tomcat, 其进程号为14308.
[root@localhost ~]# jps
14308 Bootstrap
15620 Jps
(2) jmap工具查看JVM内存配置和使用情况:
# 通过 jmap 工具查看其内存相关配置
[root@localhost ~]# jmap -heap 14308
# 显示以下结果
Attaching to process ID 24980, please wait...
Debugger attached successfully.
Server compiler detected.
JVM version is 25.151-b12
using thread-local object allocation.
Parallel GC with 28 thread(s) # 默认使用并发GC策略
Heap Configuration: # 堆的配置参数
MinHeapFreeRatio = 0
MaxHeapFreeRatio = 100
MaxHeapSize = 103079215104 (98304.0MB) # 最大堆内存
NewSize = 34359738368 (32768.0MB) # 新生代大小, 由于默认的NewRatio=2, 所以是1/3的堆大小
MaxNewSize = 34359738368 (32768.0MB)
OldSize = 68719476736 (65536.0MB) # 老年代大小, 由于默认的NewRatio=2, 所以是2/3的堆大小
NewRatio = 2
SurvivorRatio = 8
MetaspaceSize = 21807104 (20.796875MB) # 元空间大小
CompressedClassSpaceSize = 1073741824 (1024.0MB)
MaxMetaspaceSize = 17592186044415 MB # 最大元空间大小
G1HeapRegionSize = 0 (0.0MB)
# 堆的使用情况
Heap Usage:
PS Young Generation
Eden Space: # 新生代的伊甸区, 由于默认的SurvivorRatio=8, 所以是6/8的NewSize
capacity = 25769803776 (24576.0MB)
used = 9742123824 (9290.813278198242MB)
free = 16027679952 (15285.186721801758MB)
37.80441600829363% used
From Space: # 新生代的From区, 由于默认的SurvivorRatio=8, 所以是1/8的NewSize
capacity = 4294967296 (4096.0MB)
used = 0 (0.0MB)
free = 4294967296 (4096.0MB)
0.0% used
To Space: # 新生代的To区, 由于默认的SurvivorRatio=8, 所以是1/8的NewSize
capacity = 4294967296 (4096.0MB)
used = 0 (0.0MB)
free = 4294967296 (4096.0MB)
0.0% used
PS Old Generation # 老年代, 由于默认的NewRatio=2, 所以是2/3的堆大小
capacity = 68719476736 (65536.0MB)
used = 254298704 (242.5181427001953MB)
free = 68465178032 (65293.481857299805MB)
0.37005331832915545% used
23928 interned Strings occupying 3198312 bytes.
2 GC策略调优实践
Tomcat的GC策略一般都是与其内存参数一起配置的, 与应用复杂度相匹配的GC策略、与服务器性能相适应的内存比例, 都将使得系统性能得到大幅提升.
GC策略方面的调优, 也是在 ${TOMCAT_HOME}/bin/catalina.sh文件中调整 -- 同样是配置 JAVA_OPTS 变量即可.
以JDK 8、Tomcat 8为例, 服务器内存为128GB, 作出如下配置:
通过Solr集群大批量导入数据的应用中, Parallel GC策略的暂停时间太长, 所以选择CMS收集器.
# 下述配置各自独占一行, 要置于"cygwin=false"之前.
# 配置内存
JAVA_OPTS="-server -Xmx96g -Xms96g -Xmn35g -XX:OldSize=55g -Xss128k -XX:MetaspaceSize=128m -XX:MaxMetaspaceSize=256m"
# 配置GC策略
JAVA_OPTS="$JAVA_OPTS -XX:+UseConcMarkSweepGC -XX:MaxTenuringThreshold=15 -XX:CMSInitiatingOccupancyFraction=40 -XX:CMSFullGCsBeforeCompaction=0 -XX:+ExplicitGCInvokesConcurrent -XX:SoftRefLRUPolicyMSPerMB=0 -XX:MaxGCPauseMillis=100 -Xnoclassgc "
其中Java Heap的初始大小和最大大小均设置为96g, 76%的物理内存(以不超过80%为宜).
后续看到资料, 建议在使用Lucene的场合下要少为JVM分配内存、保留更多的物理内存用于Lucene对于索引文件的处理, 尚未探究此思路, 写在此处留待参考.
参考资料
版权声明
出处: 博客园 马瘦风的博客(https://www.cnblogs.com/shoufeng)
感谢阅读, 如果文章有帮助或启发到你, 点个[好文要顶👆] 或 [推荐👍] 吧😜
本文版权归博主所有, 欢迎转载, 但 [必须在文章页面明显位置标明原文链接], 否则博主保留追究相关人员法律责任的权利.
