【十】不要问我JVM !—— 垃圾回收器
一、GC分类
按垃圾回收器的线程数分
- 分为串行
- 并行垃圾回收器。
串行垃圾回收器只有一个垃圾回收线程,并行垃圾回收器有多个垃圾回收线程。需要注意的是:串行以及并行垃圾回收器在回收垃圾的时候,都会Stop the World
。(这里的线程指的是垃圾回收的线程)
串行回收指的是在同一时间段内只允许有一个CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束。
在诸如单CPU处理器或者较小的应用内存等硬件平台不是特别优越的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。所以,串行回收默认被应用在客户端的Client模式下的JVM中。
在并发能力比较强的CPU上,并行回收器产生的停顿时间要短于串行回收器。和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了Stop-the-World
机制。
按工作模式分
- 并发式
- 独占式
并发式指的是垃圾回收器线程和应用程序线程交替工作,尽可能的减少应用程序的停顿时间。
独占式指的是停止用户线程,直到垃圾回收完成。
按碎片处理方式分
- 分为压缩式
- 非压缩式
压缩式指的是会对内存进行碎片整理;
非压缩式指的是不对内存进行内存整理。
对于经过内存碎片整理的空间,再分配对象空间的时候使用的是指针碰撞法;
对于没有经过碎片整理的空间,再分配对象空间的时候使用的是空闲列表法。
按工作内存区间分
- 年轻代
- 老年代
二、GC性能指标
- 吞吐量:
运行用户代码的时间
占总运行时间
的比例(总运行时间
=程序的运行时间
+内存回收的时间
)。 - 暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间。
- 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例。
- 收集频率:相对于应用程序的执行,收集操作发生的频率。
- 内存占用:Java堆区所占的内存大小。
- 快速:一个对象从诞生到被回收所经历的时间。
吞吐量
、暂停时间
、内存占
用这三者共同构成一个“不可能三角”。
三者总体的表现会随着技术进步而越来越好。一款优秀的收集器通常最多同时满足其中的两项。
这三项里,暂停时间的重要性日益凸显。因为随着硬件发展,内存占用多些越来越能容忍,硬件性能的提升也有助于降低收集器运行时对应用程序的影响,即提高了吞吐量。而内存的扩大,对延迟反而带来负面效果。
简单来说,主要抓住两点:吞吐量 && 暂停时间
2.1 吞吐量(throughput)
吞吐量就是CPU用于运行用户代码的时间
与CPU总消耗时间
的比值,即吞吐量=运行用户代码时间 /(运行用户代码时间+垃圾收集时间)
比如:虚拟机总共运行了100
分钟,其中垃圾收集花掉1
分钟,那吞吐量就是 99/100=99%
。
这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序有更长的时间基准,快速响应是不必考虑的。
吞吐量优先,意味着在单位时间内,STW的时间最短:0.2+0.2=0.4
2.2 暂停时间(pause time)
暂停时间
是指一个时间段内应用程序线程
暂停,让GC线程
执行的状态。
例如,GC期间100毫秒的暂停时间意味着在这100毫秒期间内没有应用程序线程是活动的
暂停时间优先,意味着尽可能让单次STW的时间最短:0.1+0.1 + 0.1+ 0.1+ 0.1=0.5,但是总的GC时间可能会长。
2.3 吞吐量 vs 暂停时间
高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做“生产性”工作。直觉上,吞吐量越高程序运行越快。
低暂停时间(低延迟)较好,是从最终用户的角度来看,不管是GC还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型,有时候甚至短暂的200毫秒暂停都可能打断终端用户体验。因此,具有较低的暂停时间是非常重要的,特别是对于一个交互式应用程序(就是和用户交互比较多的场景)。
不幸的是高吞吐量
和低暂停时间
是相互矛盾
的。
因为如果选择以吞吐量优先,那么必然需要降低GC频率,但是这样会导致单次GC需要更长的暂停时间来执行内存回收。
相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代内存的缩减和导致程序吞吐量的下降。
在设计(或使用)GC算法时,我们必须确定我们的目标:一个GC算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折衷。
现在标准:在最大吞吐量优先的情况下,降低停顿时间。
三、垃圾回收器
7款经典回收器与垃圾分代之间的关系
- 新生代收集器:
Serial
、ParNew
、Parallel Scavenge
(SPPS) - 老年代收集器:
Serial old
、Parallel old
、CMS
(SPOC) - 整堆收集器:
G1
- 其中
Serial Old
作为CMS
出现Concurrent Mode Failure
失败的后备预案。 - (红色虚线)由于维护和兼容性测试的成本,在JDK 8时将
Serial+CMS
、ParNew+Serial Old
这两个组合声明为废弃,并在JDK9中完全取消了这些组合的支持,即:移除。 - (绿色虚线)JDK14中:弃用
Parallel Scavenge
和Serial Old
组合 - (青色虚线)JDK14中:删除
CMS
垃圾回收器
为什么要有很多收集器,一个不够吗?
因为Java的使用场景很多,移动端,服务器等。所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能。
虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来。没有一种放之四海皆准、任何场景下都适用的完美收集器存在,更加没有万能的收集器。所以我们选择的只是对具体应用最合适的收集器。
查看默认垃圾收集器
-XX:+PrintCommandLineFlags
:查看命令行相关参数(包含使用的垃圾收集器)- 使用命令行指令:
jinfo -flag
+ 相关垃圾回收器参数 + 进程ID
3.1 Serial / Serial Old回收器:串行回收
Serial收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择。
Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器。
Serial收集器采用复制算法
、串行回收
和Stop-the-World
机制的方式执行内存回收。
除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial old收集器同样也采用了串行回收
和Stop the World
机制,只不过内存回收算法使用的是标记-压缩
算法。
Serial Old是运行在Client模式下默认的老年代的垃圾回收器。
Serial Old在Server模式下主要有两个用途:
①与新生代的Parallel Scavenge配合使用
②作为老年代CMS收集器的后备垃圾收集方案
这个收集器是一个单线程的收集器
,“单线程”的意义:它只会使用一个CPU(串行)或一条收集线程去完成垃圾收集工作。更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop The World
)。
Serial 回收器的优势:
- 简单而高效(与其他收集器的单线程比),对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率。运行在Client模式下的虚拟机是个不错的选择。
- 在用户的桌面应用场景中,可用内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集(几十ms至一百多ms),只要不频繁发生,使用串行回收器是可以接受的。
- 在HotSpot虚拟机中,使用
-XX:+UseSerialGC
参数可以指定年轻代和老年代都使用串行收集器。
等价于新生代用Serial GC
,且老年代用Serial Old GC
。
总结:
- 这种垃圾收集器现在已经不用了,限定单核CPU才可以用,现在都不是单核的了。
- 对于交互较强的应用而言,这种垃圾收集器是不能接受的。一般在Java Web应用程序中是不会采用串行垃圾收集器的。
3.2 ParNew 回收器:并行回收
如果说Serial GC
是年轻代中的单线程垃圾收集器,ParNew
收集器则是Serial
收集器的多线程版本。
Par
是Parallel
的缩写,New
:只能处理新生代。
ParNew
收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。
ParNew
收集器在年轻代
中同样也是采用复制算法
、Stop-the-World
机制。
ParNew
是很多JVM运行在Server模式下新生代的默认垃圾收集器。
- 对于新生代,回收次数频繁,使用并行方式高效。
- 对于老年代,回收次数少,使用串行方式节省资源。(CPU并行需要切换线程,串行可以省去切换线程的资源)
ParNew 回收器与 Serial 回收器比较
Q:由于ParNew收集器基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景下都会比Serial收集器更高效?
A:不能
- ParNew收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量。
- 但是在单个CPU的环境下,ParNew收集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外开销。
除Serial外,目前只有ParNew GC能与CMS收集器配合工作。
设置 ParNew 垃圾回收器
-XX:+UseParNewGC
手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代。-XX:ParallelGCThreads
限制线程数量,默认开启和CPU数据相同的线程数。
3.3 Parallel Scavenge 回收器:吞吐量优先
Parallel Scavenge
收集器同样也采用了复制算法
、并行回收
和Stop the World
机制。
和ParNew
收集器不同,Parallel Scavenge
收集器的目标则是达到一个可控制的吞吐量(Throughput
),它也被称为吞吐量优先的垃圾收集器。
自适应调节策略
也是Parallel Scavenge
与ParNew
一个重要区别。(动态调整内存分配情况,以达到一个最优的吞吐量或低延迟)
高吞吐量则可以高效率地利用CPU时间,尽快完成程序的运算任务,主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序。
Parallel
收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old
收集器,用来代替老年代的Serial Old收集器。
Parallel Old
收集器采用了标记-压缩
算法,但同样也是基于并行回收
和Stop-the-World
机制。
在程序吞吐量优先的应用场景中,Parallel
收集器和Parallel Old
收集器的组合,在server模式下的内存回收性能很不错。
Parallel Scavenge 回收器参数设置
-
-XX:+UseParallelGC
手动指定年轻代使用Parallel
并行收集器执行内存回收任务。适用于年轻代 -
-XX:+UseParallelOldGC
手动指定老年代都是使用并行回收收集器。适用于老年代,与上面参数默认开启一个,另一个也会被开启。(互相激活) -
-XX:ParallelGCThreads
设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能。在默认情况下,当CPU数量小于8个,ParallelGCThreads
的值等于CPU数量。当CPU数量大于8个,ParallelGCThreads
的值等于3+[5*CPU_Count]/8]
-
-XX:MaxGCPauseMillis
设置垃圾收集器最大停顿时间(即STW的时间)。单位是毫秒。为了尽可能地把停顿时间控制在XX:MaxGCPauseMillis
以内,收集器在工作时会调整Java堆大小或者其他一些参数。对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合Parallel,进行控制。该参数使用需谨慎。 -
-XX:GCTimeRatio
垃圾收集时间占总时间的比例,即等于1 / (N+1)
,用于衡量吞吐量的大小。
取值范围(0, 100)。默认值99,也就是垃圾回收时间占比不超过1。与前一个-XX:MaxGCPauseMillis
参数有一定矛盾性,STW
暂停时间越长,Radio
参数就容易超过设定的比例。 -
-XX:+UseAdaptiveSizePolicy
设置Parallel Scavenge
收集器具有自适应调节策略。在这种模式下,年轻代的大小、Eden
和Survivor
的比例、晋升老年代的对象年龄等参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点。在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量(GCTimeRatio
)和停顿时间(MaxGCPauseMillis
),让虚拟机自己完成调优工作。
3.4 CMS 回收器:低延迟
CMS(Concurrent-Mark-Sweep)
收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程
同时工作。
CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。
目前很大一部分的Java应用集中在互联网站或者B/S系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求。
CMS的垃圾收集算法采用标记-清除
算法,并且也会Stop-the-World
不幸的是,CMS作为老年代的收集器
,却无法与JDK1.4.0中已经存在的新生代收集器Parallel Scavenge
配合工作(因为实现的框架不一样,没办法兼容使用),所以在JDK1.5中使用CMS来收集老年代的时候,新生代只能选择ParNew或者Serial收集器中的一个。
在G1出现之前,CMS使用还是非常广泛的。一直到今天,仍然有很多系统使用CMS GC。
CMS 工作原理(过程)
CMS
整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段
、并发标记阶段
、重新标记阶段
和并发清除
阶段。(涉及STW的阶段主要是:初始标记 和 重新标记)
初始标记(Initial-Mark)
阶段:在这个阶段中,程序中所有的工作线程都将会因为Stop-the-World
机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GC Roots能直接关联到的对象
。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小,所以这里的速度非常快。
并发标记(Concurrent-Mark)
阶段:从GC Roots的直接关联对象开始遍历整个对象图
的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
重新标记(Remark)
阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录
,这个阶段的停顿时间通常会比初始标记阶段稍长一些,并且也会导致Stop-the-World
的发生,但也远比并发标记阶段的时间短。
并发清除(Concurrent-Sweep)
阶段:此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间。由于不需要移动存活对象
,所以这个阶段也是可以与用户线程同时并发的
CMS分析
尽管CMS
收集器采用的是并发回收(非独占式)
,但是在其初始标记
和重新标记
这两个阶段中仍然需要执行Stop-the-World
机制暂停程序中的工作线程,不过暂停时间并不会太长,因此可以说明目前所有的垃圾收集器都做不到完全不需要Stop-the-World
,只是尽可能地缩短暂停时间。
由于最耗费时间的并发标记
与并发清除
阶段都不需要暂停工作,所以整体的回收是低停顿的。
另外,由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS
收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次Concurrent Mode Failure
失败,这时虚拟机将启动后备预案:临时启用Serial old
收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。
CMS收集器的垃圾收集算法采用的是标记-清除算法
,这意味着每次执行完内存回收后,将会产生一些内存碎片。那么CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer)技术,而只能够选择空闲列表(Free List)执行内存分配。
为什么 CMS 不采用标记-压缩算法呢?
因为当并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存还怎么用呢?要保证用户线程能继续执行,前提的它运行的资源不受影响嘛。Mark Compact更适合stop the world
这种场景下使用。
CMS 的优点
- 并发收集
- 低延迟
弊端
- 会产生内存碎片,导致并发清除后,用户线程可用的空间不足。在无法分配大对象的情况下,不得不提前触发Full GC。
- CMS收集器对CPU资源非常敏感。在并发阶段,它虽然不会导致用户停顿,但是会因为占用了一部分线程而导致应用程序变慢,总吞吐量会降低。
- CMS收集器无法处理浮动垃圾。可能出现
Concurrent Mode Failure
失败而导致另一次Full GC
的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的,那么在并发标记阶段如果产生新的垃圾对象,CMS将无法对这些垃圾对象进行标记,最终会导致这些新产生的垃圾对象没有被及时回收,从而只能在下一次执行GC时释放这些之前未被回收的内存空间。
CMS 参数配置
-XX:+UseConcMarkSweepGC
:手动指定使用CMS收集器执行内存回收任务。开启该参数后会自动将-XX:+UseParNewGC
打开。即:ParNew(Young区)
+CMS(Old区)
+Serial Old(Old区备选方案)
的组合。-XX:CMSInitiatingOccupanyFraction
:设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。JDK5及以前版本的默认值为68,即当老年代的空间使用率达到68%时,会执行一次CMS回收。JDK6及以上版本默认值为92%。如果内存增长缓慢,则可以设置一个稍大的值,大的阀值可以有效降低CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低Full GC
的执行次数。-XX:+UseCMSCompactAtFullCollection
:用于指定在执行完Full GC
后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了。-XX:CMSFullGCsBeforeCompaction
:设置在执行多少次Full GC后对内存空间进行压缩整理。-XX:ParallelCMSThreads
:设置CMS的线程数量。CMS默认启动的线程数是(ParallelGCThreads + 3) / 4
,ParallelGCThreads
是年轻代并行收集器的线程数,可以当做是 CPU 最大支持的线程数。当CPU资源比较紧张时,受到CMS收集器线程的影响,应用程序的性能在垃圾回收阶段可能会非常糟糕。
小结
HotSpot有这么多的垃圾回收器,那么如果有人问,Serial GC
、Parallel GC
、Concurrent Mark Sweep
这三个GC有什么不同呢?
- 如果你想要最小化地使用内存和并行开销,请选Serial GC;
- 如果你想要最大化应用程序的吞吐量,请选Parallel GC;
- 如果你想要最小化GC的中断或停顿时间,请选CMS GC。
JDK 后续版本中 CMS 的变化
- JDK9新特性:CMS被标记为Deprecate了, 如果对JDK9及以上版本的HotSpot虚拟机使用参数
XX:+UseConcMarkSweepGC
来开启CMS收集器的话,用户会收到一个警告信息,提示CMS未来将会被废弃。 - JDK14新特性:删除CMS垃圾回收器移除了CMS垃圾收集器,如果在JDK14中使用
XX:+UseConcMarkSweepGC
的话,JVM不会报错,只是给出一个warning信息,但是不会exit。JVM会自动回退以默认GC方式启动JVM
3.5 G1 回收器:区域化分代式
既然我们已经有了前面几个强大的 GC ,为什么还要发布Garbage First(G1)GC
?
原因就在于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证应用程序正常进行,而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。
G1
垃圾回收器是在Java7 update4之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一。与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time),同时兼顾良好的吞吐量。官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起全功能收集器
的重任与期望。
为什么名字叫Garbage First(G1)
呢?
因为G1
是一个并行回收器,它把堆内存分割为很多不相关的区域(Region
)(物理上不连续的)。使用不同的Region来表示Eden、幸存者0区,幸存者1区,老年代等。
G1
有计划地避免在整个Java堆中进行全区域的垃圾收集。G1
跟踪各个Region
里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region
。
由于这种方式的侧重点在于回收垃圾最大量的区间(Region
),所以我们给G1一个名字:垃圾优先(Garbage First)。
G1是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征。
JDK9以后的默认垃圾回收器,取代了CMS回收器以及Parallel+Parallel Old组合。被Oracle官方称为全功能的垃圾收集器
。
G1 回收器的优势
与其他GC收集器相比,G1使用了全新的分区算法,其特点如下所示:
- 并行与并发兼备
并行性:G1在回收期间,可以有多个GC线程同时工作,有效利用多核计算能力。此时用户线程STW
并发性:G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况 - 分代收集
从分代上看,G1依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量。将堆空间分为若干个区域(Region),这些区域中包含了逻辑上的年轻代和老年代。和之前的各类回收器不同,它同时兼顾年轻代和老年代。
空间整合
- CMS:“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理
- G1将内存划分为一个个的region,内存的回收是以region作为基本单位的,Region之间是
复制算法
,但整体上实际可看作是标记-压缩(Mark-Compact)
算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
可预测的停顿时间模型(即:软实时soft real-time)
这是G1
相对于CMS
的另一大优势,G1
除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。
由于分区的原因,G1
可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。
G1
跟踪各个Region
里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region
。保证了G1
收集器在有限的时间内可以获取尽可能高的收集效率。
相比于CMS
,G1
未必能做到CMS
在最好情况下的延时停顿,但是最差情况要好很多。
G1 回收器的缺点
相较于CMS
,G1
还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1
无论是为了垃圾收集产生的内存占用还是程序运行时的额外执行负载都要比CMS要高。
从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用上则发挥其优势。平衡点在6-8GB之间。
G1 参数设置
-XX:+UseG1GC
:手动指定使用G1垃圾收集器执行内存回收任务-XX:G1HeapRegionSize
:设置每个Region
的大小。值是2的幂,范围是1MB到32MB之间,目标是根据最小的Java堆大小划分出约2048个区域。默认是堆内存的1/2000。-XX:MaxGCPauseMillis
:设置期望达到的最大GC停顿时间指标,JVM会尽力实现,但不保证达到。默认值是200ms-XX:+ParallelGCThread
:设置STW工作线程数的值。最多设置为8-XX:ConcGCThreads
:设置并发标记的线程数。将n设置为并行垃圾回收线程数(ParallelGcThreads
)的1/4左右。-XX:InitiatingHeapOccupancyPercent
:设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值是45。
G1 收集器的常见操作步骤
G1的设计原则就是简化JVM性能调优,开发人员只需要简单的三步即可完成调优:
第一步:开启G1垃圾收集器
第二步:设置堆的最大内存
第三步:设置最大的停顿时间
G1中提供了三种垃圾回收模式:YoungGC
、Mixed GC
和Full GC
,在不同的条件下被触发。
G1 的适用场景
面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不惊喜)。
最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案。
如:在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5秒;(G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)。
在下面的情况时,使用G1可能比CMS好:
- 超过50%的Java堆被活动数据占用
- 对象分配频率或年代提升频率变化很大
- GC停顿时间过长(长于0.5至1秒)
HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器均使用内置的JVM线程执行GC的多线程操作,而G1可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。
分区 Region:化整为零
使用G1收集器时,它将整个Java堆划分成约2048个大小相同的独立Region
块,每个Region
块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间,且为2的N次幂,即1MB,2MB,4MB,8MB,16MB,32MB。可以通过XX:G1HeapRegionSize
设定。所有的Region大小相同,且在JVM生命周期内不会被改变。
虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分Region(不需要连续)的集合。通过Region的动态分配方式实现逻辑上的连续。
如图所示,可以将区域分配到Eden,幸存者和老年代区域。 此外,还有第四种类型的物体被称为巨大区域。 这些区域旨在容纳标准区域大小的50%或更大的对象。 它们存储为一组连续区域。 最后一种区域类型是堆的未使用区域。
一个Region
有可能属于Eden
,Survivor
或者Old/Tenured
内存区域。但是一个Region
只可能属于一个角色。图中的E
表示该Region
属于Eden
内存区域,S
表示属于Survivor
内存区域,O
表示属于Old
内存区域。图中空白的表示未使用的内存空间。G1垃圾收集器还增加了一种新的内存区域,叫做Humongous
内存区域,如图中的H块。主要用于存储大对象,如果超过0.5个Region,就放到H。
设置 H 的原因
对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous
区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC
。G1的大多数行为都把H区作为老年代的一部分来看待。
G1 垃圾回收流程
G1 GC的垃圾回收过程主要包括如下三个环节:
- 年轻代GC(Young GC)
- 老年代并发标记过程(Concurrent Marking)
- 混合回收(Mixed GC)
- 如果需要,单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收。
顺时针,Young GC
-->Young GC+Concurrent Marking
-->Mixed GC
顺序,进行垃圾回收
应用程序分配内存,当年轻代的Eden
区用尽时开始年轻代回收过程;G1
的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期,G1
暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor
区间或者老年区间,也有可能是两个区间都会涉及。
当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。
标记完成马上开始混合回收过程。对于一个混合回收期,G1
从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1
回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region
就可以了。同时,这个老年代Region是和年轻代一起被回收的。
举个例子:一个Web服务器,Java进程最大堆内存为4G,每分钟响应1500个请求,每45秒钟会新分配大约2G的内存。G1会每45秒钟进行一次年轻代回收,每31个小时整个堆的使用率会达到45%,会开始老年代并发标记过程,标记完成后开始四到五次的混合回收。
Remembered Set(记忆集)
一个对象被不同区域引用的问题, 一个Region
不可能是孤立的,一个Region
中的对象可能被其他任意Region
中对象引用,判断对象存活时,是否需要扫描整个Java堆才能保证准确?在其他的分代收集器,也存在这样的问题(而G1更突出,因为G1主要针对大堆)回收新生代也不得不同时扫描老年代?这样的话会降低Minor GC
的效率
解决方法:
无论G1还是其他分代收集器,JVM都是使用Remembered Set
来避免全堆扫描;每个Region
都有一个对应的Remembered Set
,每次Reference
类型数据写操作时,都会产生一个Write Barrier
暂时中断操作;
然后检查将要写入的引用指向的对象是否和该Reference
类型数据在不同的Region
(其他收集器:检查老年代对象是否引用了新生代对象);如果不同,通过CardTable
把相关引用信息记录到引用指向对象的所在Region
对应的Remembered Set
中;当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set
;就可以保证不进行全局扫描,也不会有遗漏。
在回收 Region
时,为了不进行全堆的扫描,引入了 Remembered Set
,Remembered Set
记录了当前 Region
中的对象被哪个对象引用了,这样在进行 Region 复制时,就不要扫描整个堆,只需要去 Remembered Set
里面找到引用了当前 Region
的对象,Region
复制完毕后,修改 Remembered Set
中对象的引用即可。
G1回收过程一:年轻代 GC
JVM启动时,G1先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程。(Eden满的时候会触发YGC时,同时Survivor区会跟着垃圾回收,属于被动的,Survivor不会自动触发YGC)年轻代回收只回收Eden区和Survivor区。
YGC时,首先G1停止应用程序的执行(Stop-The-World),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段。
图的大致意思就是:
1、回收完E和S区,剩余存活的对象会复制到新的S区
2、S区达到一定的阈值可以晋升为O区
细致过程:
第一阶段,扫描根(GC Roots)
根是指static变量指向的对象,正在执行的方式调用链条上的局部变量等。根引用连同RSet记录的外部引用作为扫描存活对象的入口。第二阶段,更新RSet 处理
更新RSet。此阶段完成后,RSet可以准确的反映老年代对所在的内存分段中对象的引用。第三阶段,处理RSet 识别被老年代对象指向的Eden中的对象,这些被指向的Eden中的对象被认为是存活的对象。
第四阶段,复制对象。
此阶段,对象树被遍历,Eden区内存段中存活的对象会被复制到Survivor区中空的内存分段,Survivor区内存段中存活的对象。如果年龄未达阈值,年龄会加1,达到阀值会被会被复制到Old区中空的内存分段。如果Survivor空间不够,Eden空间的部分数据会直接晋升到老年代空间。第五阶段,处理引用 处理Soft,Weak,Phantom,Final,JNI Weak
等引用。最终Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。
G1回收过程二:并发标记过程
初始标记阶段:标记从根节点直接可达的对象。这个阶段是STW的,并且会触发一次年轻代GC。正是由于该阶段时STW的,所以我们只扫描根节点可达的对象,以节省时间。
根区域扫描(Root Region Scanning):G1扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象。这一过程必须在Young GC之前完成,因为Young GC会使用复制算法对Survivor区进行GC。
并发标记(Concurrent Marking):在整个堆中进行并发标记(和应用程序并发执行),此过程可能被YoungGC中断。在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收。同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例)。再次标记(Remark):由于应用程序持续进行,需要修正上一次的标记结果。是STW的。G1中采用了比CMS更快的原始快照算法:Snapshot-At-The-Beginning(SATB)。
独占清理(cleanup,STW):计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域。为下阶段做铺垫。是STW的。这个阶段并不会实际上去做垃圾的收集
并发清理阶段:识别并清理完全空闲的区域。
G1回收过程三:混合回收过程
当越来越多的对象晋升到老年代Old Region时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC,该算法并不是一个Old GC,除了回收整个Young Region,还会回收一部分的Old Region。这里需要注意:是一部分老年代,而不是全部老年代。可以选择哪些Old Region进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC。
混合回收的细节
①并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通过-XX:G1MixedGCCountTarget设置)被回收。【意思就是一个Region会被分为8个内存段】
②混合回收的回收集(Collection Set)包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程。
③由于老年代中的内存分段默认分8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收。XX:G1MixedGCLiveThresholdPercent,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。
④混合回收并不一定要进行8次。有一个阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。
G1 回收可选的过程四:Full GC
G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop-The-World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长。
要避免Full GC的发生,一旦发生Full GC,需要对JVM参数进行调整。什么时候会发生Ful1GC呢?比如堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则会回退到Full GC,这种情况可以通过增大内存解决。
导致G1 Full GC的原因可能有两个:
EVacuation的时候没有足够的to-space来存放晋升的对象;
并发处理过程完成之前空间耗尽。
G1补充
从Oracle官方透露出来的信息可获知,回收阶段(Evacuation)其实本也有想过设计成与用户程序一起并发执行,但这件事情做起来比较复杂,考虑到G1只是回一部分Region,停顿时间是用户可控制的,所以并不迫切去实现,而选择把这个特性放到了G1之后出现的低延迟垃圾收集器(即ZGC)中。另外,还考虑到G1不是仅仅面向低延迟,停顿用户线程能够最大幅度提高垃圾收集效率,为了保证吞吐量所以才选择了完全暂停用户线程的实现方案。
G1 回收器的优化建议
年轻代大小
- 避免使用-Xmn或-XX:NewRatio等相关选项显式设置年轻代大小
- 固定年轻代的大小会覆盖可预测的暂停时间目标。我们让G1自己去调整
暂停时间目标不要太过严苛
- G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间
- 评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量。
四、ZGC 回收器:未来的主角
ZGC(Z Garbage Collector)
是一款由Oracle公司研发的,以低延迟为首要目标的一款垃圾收集器。它是基于动态Region内存布局,(暂时)不设年龄分代,使用了读屏障、染色指针和内存多重映射等技术来实现可并发的标记-整理算法的收集器。在JDK 11新加入,还在实验阶段,主要特点是:回收TB级内存(最大4T),停顿时间不超过10ms。
ZGC的Region可以具有如图所示的大、中、小三类容量:
- 小型Region(Small Region):容量固定为2MB,用于放置小于256KB的小对象。
- 中型Region(Medium Region):容量固定为32MB,用于放置大于等于256KB但小于4MB的对象
- 大型Region(Large Region):容量不固定,可以动态变化,但必须为2MB的整数倍,用于放置4MB或以上的大对象。每个大型Region中只会存放一个大对象,最小容量可低至4MB,所有大型Region可能小于中型Region。大型Region在ZGC的实现中是不会被重分配的,因为复制一个大对象的代价非常高昂。
五、垃圾回收器总结
垃圾回收器组合:
Serial/Serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1.