JVM从零学习（十二）垃圾回收器

垃圾回收器

概述

  • 垃圾收集器没有在规范中进行过多的规定，可以由不同的厂商、不同版本的JVM来实现。
  • 由于JDK的版本处于高速迭代过程中，因此Java发展至今已经衍生了众多的GC版本。
  • 不同角度分析垃圾收集器，可以将GC分为不同的类型。

评估GC的性能指标

  • 吞吐量：运行用户代码的时间占总运行时间的比例

    • （总运行时间:程序的运行时间 + 内存回收的时间）

  • 垃圾收集开销： 吞吐量的补数，垃圾收集所用时间与总运行时间的比例。

  • 暂停时间：执行垃圾收集时，程序的工作线程被暂停的时间。

  • 收集频率：相对于应用程序的执行，收集操作发生的频率。

  • 内存占用: Java堆区所占的内存大小。

  • 快速：一个对象从诞生到被回收所经历的时间。

需要特别关注以下两点：

  • 吞吐量
  • 暂停时间

吞吐量

  • 吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值，即吞吐量 = 运行用户代码时间 / (运行用户代码时间 + 垃圾收集时间)。

    • 比如： 虚拟机总运行了100分钟，其中垃圾收集花掉了1分钟，那吞吐量就是99%。

  • 这种情况下，应用程序能容忍较高的暂停时间，因此，高吞吐量的应用程序有更长的时间基准，快速响应是不必考虑的。

  • 吞吐量优先，意味着在单位时间内，STW时间最短： 0.2 + 0.2 = 0.4

7种经典的垃圾收集器

  • 串行回收器：Serial、Serial Old

  • 并行回收器：ParNew、Parallel Scavenge、Parallel Old

  • 并发回收器：CMS、G1

  • 新生代收集器：Serial、ParNew、Parallel Scavenge

  • 老年代收集器：Serial Old、Parallel Old、CMS

  • 整堆收集器：G1

垃圾收集器的组合关系

  1. 两个收集器间有连线的，表明他们可以搭配使用：Serial/Serial Old、Serial/CMS、ParNew/Serial Old、ParNew/CMS、Parallel Scavenge/Serial Old、Parallel Scavenge/Parallel Old、G1；
  2. 其中Serial Old作为CMS出现“Concurrent Mode Failure”失败的后备预案。
  3. （红色虚线）由于维护和兼容性测试的成本，在JDk 8时将Serial+CMS、ParNew+Serial Old这两个组合声明为废弃（JEP 173），并在JDK 9中安全取消了这些组合的支持（JEP214），即：移除。
  4. （绿色虚线）JDk 14中：弃用Parallel Scavenge 和 SerialOld GC组合（JEP 366）
  5. JDK 14中：删除CMS垃圾回收器（JEP 363）

如何查看默认的垃圾收集器

  • -XX:+PrintCommandLineFlags查看命令行相关参数（包含使用的垃圾收集器）

  • 使用命令行指令：jinfo -flag 相关垃圾回收器参数 进程ID

Serial 回收器：串行回收

  • Serial收集器时最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择。

  • Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器。

  • Serial收集器采用复制算法、串行回收金和“Stop-the-World”机制的方式执行内存回收。

  • 除了年轻代之外、Serial收集器还提供用于执行老年代垃圾收集的Serial Old收集器。Serial Old收集器同样也采用串行回收和“Stop the World”机制，只不过内存回收算法使用的是标记-压缩算法。

    • Serial Old 是运行在Client模式下默认的老年代的垃圾回收器。
    • Serial Old 在Server模式下主要有两个用途：（1）与新生代的Parallel Scavenge配合使用 （2）作为老年代CMS收集器的后备垃圾收集方案。

这个收集器是一个单线程的收集器，但它的“单线程”的意义并不仅仅说明它只会使用一个CPU或一条收集线程去完成垃圾收集工作，更重要的是它进行垃圾收集时，必须暂停其他所有的工作线程，直到它收集结束（Stop The World）。

  • 优势简单而高效（与其他收集器的单线程比），对于限定单个CPU的环境来说，Serial收集器由于没有线程交互的开销，专心做垃圾收集自然可以获得最高的单线程收集效率。

    • 运行在Client模式下的虚拟机是不错的选择

  • 在HotSpot虚拟机中，使用-XX:+UseSerialGC参数可以指定年轻代和老年代都使用串行收集器。

    • 等价于新生代用Serial GC，且老年代用Serial Old GC

ParNew回收器：并行回收

  • 如果说Serial GC是年轻代中的单线程垃圾收集器，那么ParNew收集器则是Serial收集器的多线程版本。

    • Par是Parallel的缩写，New：只处理的是新生代。

  • ParNew收集器除了采用并行回收的方式执行内存回收外，两款垃圾收集器之前几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、“Stop-the-World”机制。

  • ParNew 是很多JVM运行在Server模式下新生代的默认垃圾收集器。

  • 在程序中，开发人员可以通过选项“-XX:UseParNewGC”手动指定使用ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器，不影响老年代。

  • -XX:ParallelGCThreads限制线程数量，默认开启和CPU数据相同的线程数。

Parallel Scavenge 回收器：吞吐量优先

  • HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外，Parallel Scavenge收集器同样也采用了复制算法、并行回收和“Stop the World”机制。

  • Parallel收集器和ParNew收集器不同，Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量（Throughput），它也被称为吞吐量优先的垃圾收集器。

  • 自适应调节策略也是Parallel Scavenge与ParNew一个重要区别。

  • 高吞吐量则可以高效率地利用CPU时间，尽快完成程序的运算任务，主要适合在后台运算而不需要太多交互的任务。因此，常见在服务器环境中使用。例如，那些执行批量处理、订单处理、工资支付、科学计算的应用程序。

  • Parallel 收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel Old收集器，用来代替老年代的Serial Old收集器。

  • Parallel Old收集器采用了标记-压缩算法，但同样也是基于并行回收和“Stop-the-World”机制。

参数配置

  • -XX:+UseParallelGC手动指定年轻代使用Parallel并行收集器执行内存回收任务。

  • -XX:+UseParallelOldGC手动指定老年代都是使用并行回收收集器。

    • 分别适用于新生代和老年代，默认jdk8是开启的
    • 上面两个参数，默认开启一个，另一个也会被开启。（互相激活）

  • -XX:ParallelGCThreads设置年轻代并行收集器的线程数。一般地，最好与CPU数量相等，以避免过多的线程数影响垃圾收集性能。

    • 在默认情况下，当CPU数量小于8个，ParallelGCThreads的值等于CPU数量。
    • 当CPU数量大于8个，ParallelGCThreads的值等于3+[5*CPU_Count]/8。

CMS回收器：低延迟

  • 这款收集器是HopSpot虚拟机中第一款真正意义上的并发收集器，它第一次实现了让垃圾收集线程与用户线程同时工作。

  • CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短（低延迟）就越适合与用户交互的程序，良好的响应速度能提升用户体验。

  • CMS的垃圾收集算法采用标记-清除算法，并且也会“Stop-the-World”

工作原理

CMS工作原理-w1258

  • 初始标记（Initial-Mark）阶段：在这个阶段中，程序中所有的工作线程都将会因为“Stop the World”机制而出现短暂的暂停，这个阶段的主要任务仅仅只是标记处GC Roots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用线程。由于直接关联对象比较小，所以这里的速度非常快。

  • 并发标记（Concurrent Mark）阶段：从GC Roots的直接关联对象开始遍历整个对象图的过程，这个过程耗时较长但是不需要停顿用户线程，可以与垃圾收集线程一起并发运行。

  • 重新标记（Remark）阶段：由于在并发标记阶段中，程序的工作线程会和垃圾收集线程同时运行或者交叉运行，因此为了修正并发标记期间，因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录，这个阶段的停顿时间通常会比初始标记阶段稍长一些，但也远比并发标记阶段的时间短。

  • 并发清除（Concurrent-Sweep）阶段：此阶段清理删除掉标记阶段判断的已经死亡的对象，释放内存空间。由于不需要移动存活对象，所以这个阶段也是可以与用户线程并发的。

由于最耗费时间的并发标记与并发清除阶段都不需要暂停工作，所以整体的回收时低停顿的。
另外，由于在垃圾收集阶段用户线程没有中断，所以在CMS回收过程中，还应该确保应用程序用户线程有足够的内存可用。因此，CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了在进行收集，而是当堆内存使用率达到某一阈值时，便开始进行回收，以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要，就会出现一次“Concurrent Mode Failure”失败，这时虚拟机将启动后备预案：临时启用Serial Old收集器来重新进行老年代的垃圾收集，这样停顿时间就很长了。

CMS收集器的垃圾收集算法采用的是标记-清除算法，这意味着每次执行完内存回收后，由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块，不可避免地将会产生一些内存碎片。那么CMS在为新对象分配内存空间时，将无法使用指针碰撞（Bump the Pointer）技术，而只能够选择空闲列表（Free List）执行内存分配。

为什么不能把算法缓存Mark Compact？

因为并发清除的时候，用Compact整理内存的话，原来的用户线程使用的内存还怎么用？要保证用户线程能继续执行，前提它运行的资源不受影响。Mark Compact更适合“Stop the world”这种场景下使用。

优点

  • 并发收集

  • 低延迟

弊端

  1. 会产生内存碎片，导致并发清除后，用户线程可用的空间不足。无法分配大对象的情况下，不得不提前触发Full GC。

  2. CMS收集器对CPU资源非常敏感。在并发阶段，它虽然不会导致用户停顿，但是会因为占用了一部分线程而导致应用程序变慢，总吞吐量会降低。

  3. CMS收集器无法处理浮动垃圾。可能出现“Concurrent Mode Failure”失败而导致另一次Full GC的产生。在并发标记阶段由于程序的工作线程和垃圾收集线程是同时运行或者交叉运行的，那么在并发标记阶段如果产生新的垃圾对象，CMS将无法对这些垃圾对象进行标记，最终会导致这些新产生的垃圾对象没有被及时回收。

Serial GC、Parallel GC、CMS有什么不同？

  • 最小化使用内存和并行开销，选择Serial GC。

  • 最大化应用程序的吞吐量，选择Parallel GC。

  • 最小化GC的中断或停顿时间，选择CMS GC。

G1回收器：区域化分代式

为什么叫Garbage First（G1）呢？

  • 因为G1是一个并行回收器，它把堆内存分割为很多不相关的区域（Region）（物理上不连续的）使用不同的Region来表示Eden、幸存者0区，幸存者1区，老年代等。

  • G1 GC 有计划地避免在整个Java堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小（回收所获得的空间大小以及回收所需要时间的经验值），在后台维护一个优先列表，每次根据允许的收集收件，优先回收价值最大的Region。

  • 由于这种方式的侧重点在于回收垃圾最大量的区间（Region），所以我们给G1一个字：垃圾优先（Garbage First）。

与其他收集器相比G1的优势

  • 并行与并发

    • 并行性：G1在回收期间，可以有多个GC线程同时工作，有效利用多核计算能力。此时用户线程STW。

    • 并发性：G1拥有与应用程序交替执行的能力，部分工作可以和应用程序同时执行，因此，一般来说，不会在整个回收阶段发生完全阻塞应用程序的情况。

  • 分代收集

    • 从分代上看，G1依然属于分代型垃圾收集器，它会区分年轻代和老年代，年轻代依然有Eden区和Survivor区。但从堆的结构上看，它不要求整个Eden区、年轻代或者老年代都是连续的，也不再坚持固定大小和固定数量。

    • 将堆空间分为若干个区域（Region），这些区域中包含了逻辑上的年轻代和老年代。

    • 和之前的各类回收器不同，它同时兼顾年轻代和老年代。对比其他回收器，或者工作在年轻代，或者工作在老年代。

  • 空间整合

    • CMS：“标记-清除”算法、内存碎片、若干次GC后进行一次碎片整理

    • G1将内存划分一个个的Region。内存的回收时以Region作为基本单位。Region之间是复制算法，但整体上实际可看作是标记-压缩（Mark-Compact）算法，两种算法都可以避免内存碎片。这种特性有利于程序长时间运行，分配大对象时不会因为无法找到连续内存空间而提前触发下一次 GC。尤其是当Java堆非常大的时候，G1的优势更加明显。

  • 可预测的停顿时间模型（即：软实时Soft real-time）
    这是G1相对CMS的另一大优势，G1除了最求低停顿外，还能建立可预测的停顿时间模型，能让使用者明确指定在一个长度为M毫秒的时间片段内，消耗在垃圾收集上的时间不得超过N毫秒。

    • 由于分区的原因，G1可以只选取部分区域进行内存回收，这样缩小了回收的范围，因此对于全局停顿情况的发生也能得到较好的控制。

    • G1跟踪各个Region里面的垃圾堆积的价值大小（回收所获得的空间大小以及回收所需时间的经验值），在后台维护一个优先列表，每次根据允许的收集时间，优先回收价值最大的Region。保证了G1收集器在有限的时间内可以获取尽可能高的收集效率。

    • 相比CMS GC，G1未必能做到CMS在最好情况下的延时停顿，但是最差情况要好很多。

缺点

G1垃圾收集产生的内存占用（Footprint）还是程序运行时的额外执行负载（Overload）都要比CMS要高。

从经验上来说，在小内存应用上CMS的表现大概率会优于G1，而G1在大内存应用上则发挥其优势。平衡点在6-8G之间。

参数设置

  • -XX:+UseG1GC手动指定使用G1收集器执行内存回收任务。

  • -XX:G1HeapRegionSize 设置每个Region的大小。值是2的幂，范围是1MB到32MB之间，目标根据最小的Java堆大小划分出2048个区域。默认是堆内存的1/2000。

  • -XX:MaxGCPauseMillis 设置期望达到的最大GC停顿时间指标（JVM会尽力实现，但不保证达到）。默认值是200ms

  • -XX:ParallelGCThread 设置STW工作线程数的值，最多设置8

  • -XX:ConcGCThreads设置并发标志的线程数。将n设置为并行垃圾回收线程数（ParallelGCThreads）的1/4左右。

  • -XX:InitiatingHeapOccupancyPercent设置触发并发GC周期的Java堆占用率阈值。超过此值，就触发GC。默认值45。

G1回收器的常见操作步骤

G1的设计原则就是简化JVM性能调优，开发人员只要简单的三步即可完成调优：

第一步：开启G1垃圾收集器

第二步：设置堆的最大内存

第三步：设置最大停顿时间

G1中提供了三种垃圾回收模式：YoungGC、Mixed GC和Full GC，在不同的条件下被触发。

G1回收器的使用场景

  • 面向服务端应用，针对具有大内存、多处理器的机器。

  • 最主要应用是需要低GC延迟

  • 用来替换掉JDK1.5中的CMS收集器，下面情况G1比CMS好

    • 超过50%的java堆被活动数据占用；
    • 对象分配频率或年代提升频率变化很大；
    • GC停顿时间过长（长于0.5至1秒）

  • HotSpot垃圾收集器里，除了G1以外，其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作，而G1 GC可以采用应用线程承担后台运行的GC工作，即当JVM的GC线程处理速度慢时，系统会调用应用程序线程帮助加速垃圾回收过程。

分区Region：化整为零

使用G1收集器时，它将整个Java堆划分成约2048个大小相同的独立Region块，每个Region块大小根据堆空间的实际大小而定，整体被控制在范围是1MB到32MB之间,且为2的N次幂，可以通过-XX:G1HeapRegionSize设定。所有的Region大小相同，且在JVM生命周期内不会被改变。

虽然还保留有新生代和老年代的概念，但新生代和老年代不再是物理隔离的了，它们都是一部分Region（不需要连续）的集合。通过Region的动态分配方式实现逻辑上的连续。

-w654

  • 一个region有可能属于Eden、Survivor或者Old/Tenured内存区域。但是一个region只可能属于一个角色。图中的E表示该region属于Eden内存区域，S表示属于Survivor内存区域，O表示属于Old内存区域。图中空白的表示未使用的内存空间。

  • G1 垃圾收集器还增加了一种新的内存区域，叫作Humongous内存区域，如图中的H块。主要用于存储大对象，如果超过1.5个region，就放到H。

设置H的原因

对于堆中的大对象，默认直接会分配到老年代，但是如果它是一个短期存在的大对象，就会对垃圾收集器造成负面影响。为了解决这个问题，G1划分了一个Humongous区，它用来专门存放大对象，如果一个H区装不下一个大对象，那么G1会寻找连续的H区来存储。为了能找到连续的H区，有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看。

G1回收器垃圾回收过程

G1 GC的垃圾回收过程主要包括如下三个环节：

  • 年轻代GC （Young GC）

  • 老年代GC + 并发标记过程（Concurrent Marking）

  • 混合回收（Mixed GC）

  • （如果需要，单线程、独占式、高强度的Full GC 还是继续存在的。它针对GC的评估失败提供了一种失败保护机制，即强力回收。）

应用程序分配内存，当年轻代的Eden区用尽时开始年轻代回收过程；G1的年轻代收集阶段是一个并行的独占式收集器。在年轻代回收期，G1 GC暂停所有应用程序线程，启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间，也有可能是两个区间都会涉及。

当堆内存使用达到一定值（默认45%）时，开始老年代并发标记过程。

标记完成马上开始混合回收过程。对于一个混合回收器，G1 GC从老年代区间移动存活对象到空闲区间，这些空闲区间也成为了老年代的一部分。和年轻代不同，老年代的G1回收器和其他GC不同，G1的老年代回收器不需要整个老年代被回收，一次只需要扫描/回收一小部分老年代的Region就可以了。同时，这个老年代Region是和年轻代一起被回收的。

Remembered Set

  • 一个对象被不同区域引用的问题

  • 一个Region不可能是孤立的，一个Region中的对象可能被其他任意Region中对象引用，判断对象存活时，是否需要扫描整个Java堆才能保证准确？

  • 在其他的分代收集器，也存在这样的问题（而G1更突出）

  • 回收新生代也不得不同时扫描老年代

  • 这样的话会降低Minor GC的效率

解决办法

  • 无论G1还是其他分代收集器，JVM都是使用Remembered Set来避免全局扫描

  • 每个Region都有一个对应的Remembered Set

  • 每次Reference类型数据写操作时，都会产生一个Write Barrier暂时中断操作

  • 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region（其他收集器：检查老年代对象是否引用新生代对象）

  • 如果不通，通过CardTable把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中

  • 当进行垃圾收集时，在GC根节点的枚举范围加入Remembered Set，就可以保证不进行全局扫描，也不会有遗漏

G1回收过程一：年轻代

JVM启动时，G1先准备好Eden区，程序在运行过程中不断创建对象到Eden区，当Eden空间耗尽时，G1会启动一次年轻代垃圾回收过程。

年轻代垃圾回收只会回收Eden区和Survivor区。

YGC时，首先G1停止应用程序的执行（STW），G1创建回收集（Collection Set），回收集是指需要被回收的内存分段的集合，年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段。

开始下面回收过程 ：

  1. 扫描根
  2. 更新RSet
  3. 处理RSet
  4. 复制对象
  5. 处理引用
G1回收过程一：并发标记过程
  1. 初始标记阶段
  2. 根区域扫描
  3. 并发标记
  4. 再次标记
  5. 独占清理
  6. 并发清理阶段

七种经典垃圾回收器总结

-w1253

posted @ 2020-07-06 09:13  白羽流光  阅读(213)  评论(0)  编辑  收藏  举报