【八】不要问我JVM !—— 垃圾!对不起我不是针对你,而是在座的各位!
一、什么是垃圾?
垃圾是指在运行程序中没有任何指针指向的对象,这个对象就是需要被回收的垃圾。
二、为什么需要GC?
1.如果不进行垃圾回收,内存迟早都会被消耗完,因为不断地分配内存空间而不进行回收,就好像不停地生产生活垃圾而从来不打扫一样。
2.除了释放没用的对象,垃圾回收也可以清除内存里的记录碎片。碎片整理将所占用的堆内存移到堆的一端,以便JVM将整理出的内存分配给新的对象。
3.随着应用程序所应付的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证应用程序的正常进行。而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。
三、怎么判断垃圾对象?
判断对象存活有两种算法:
- ① 引用计数算法
- ② 可达性分析算法
3.1 引用计数算法
引用计数算法比较简单,对每个对象保存一个整型的引用计数器属性,用于记录对象被引用的情况。
对于一个对象A,只要有任何一个对象引用了A,则A的引用计数器值加1;当引用失效时,引用计数器就减1。只要对象的引用计数器值为0,即表示对象A不可能再被使用,可进行回收。
优点:
实现简单,垃圾对象便于辨识。
判定效率高,回收没有延迟性。
缺点:
需要为每个对象分配单独的字段存储计数器,增加了存储空间的开销。
每次赋值都需要更新计数器,伴随着加法和减法操作,增加了时间开销。
存在致命问题,无法处理循环引用的情况。所以Java的垃圾回收器不使用此算法。
循环引用图解:
上面p引用断开后,一方面会产生内存泄漏;另一方面,因为引用计数造成循环依赖。
3.2 可达性分析
可达性分析算法是以根对象集合(GC Roots)为起始点,按照从上至下的方式搜索被根对象集合所连接的目标对象是否可达。
所谓“GC Roots”根集合就是一组必须活跃的引用。
基本思路
- 可达性分析算法是以根对象集合(GC Roots)为起始点,按照从上至下的方式搜索被跟对象集合所连接的目标对象是否可达。
- 使用可达性分析算法后,内存中的存活对象都会被根对象集合直接或间接连接着,搜索所走过的路径称为引用链(Reference Chain)
- 如果目标对象没有任何引用链相连,则是不可达的,就意味着该对象已经死亡,可以标记为垃圾对象。
- 在可达性分析算法中,只有能够被根对象集合直接或者间接连接的对象才是存活对象。
在Java语言中,GC Roots包括以下几类元素:
- 虚拟机栈中引用的对象 比如:各个线程被调用的方法中使用到的参数、局部变量等。
- 本地方法栈内JNI(通常说的本地方法)引用的对象。
- 方法区中类静态属性引用的对象 比如:Java类的引用类型静态变量。
- 方法区中常量引用的对象 比如:字符串常量池(StringTable)里的引用。
- 所有被同步锁
synchronized
持有的对象- Java虚拟机内部的引用。比如基本数据类型对应的Class对象,一些常驻的异常对象(如:
NullPointerExecption
、OutOfMemoryError
),系统类加载器。- 反映java虚拟机内部情况的
JMXBean
、JVMTI
中注册的回调、本地代码缓存等。- 除了固定的GC Roots集合以外,根据用户所选用的垃圾收集器以及当前回收的内存区域不通,还可以有其他对象“临时性”地加入,共同构成完整GC Roots集合。比如:分代收集和局部回收(Partial GC)。如果只针对Java堆中的某一块区域进行垃圾回收(比如:典型的只针对新生代),必须考虑到内存区域是虚拟机自己的实现细节,更不是孤立封闭的,这个区域的对象完全有可能被其他区域的对象所引用,这是就需要一并将关联的区域对象也加入GC。
Roots集合中去考虑,才能保证可达性分析的准确性。
方法区:
小技巧:由于Root采用栈方式存放变量和指针,所以如果一个指针,它保存了一个堆内存里的对象,但是自己又不存放在堆内存里面,那它就是Root。
四、垃圾标记清除算法
当通过引用计数法或者可达性分析成功区分出内存中存活对象和死亡对象后,GC接下来的任务就是执行垃圾回收,释放掉无用对象所占用的内存空间,以便有足够的可用内存空间为新对象分配内存。
目前在JVM中比较常见的三种垃圾收集算法是:标记-清除算法(Mark-Sweep)
、复制算法(Copying)
、标记-压缩算法(Mark-Copact)
。
4.1 标记-清除算法(Mark-Sweep)
当堆中的有效内存空间被耗尽的时候,就会停止整个程序,然后进行两项工作,第一项为标记,第二项为清除。
- 标记: Collector从引用根节点开始遍历,标记所有被引用的对象。一般在对象的Header中记录为可达对象。
- 清除:Collector对堆内存从头到尾进行线性的遍历,如果发现某个对象在其Header中没有标记为可达对象,则将其回收。
缺点:
- 效率不高(效率不算高的原因是因为遍历:第一遍标记的时候,遍历所有的可达对象;第二遍清除的时候遍历所有的对象)。
- GC是需要停掉整个应用程序,导致用户体验差。
- 清理出的空间内存是不连续的,产生内存碎片,需要维护一个空闲列表,在创建对象为其分配空间时就依靠这个空间表,哪里空闲就在哪里分配。(若是连续规整的,在创建对象时则采用指针碰撞的方式进行内存分配)
关于清除:
这里的清除并不是真的置空,而是把需要清除的对象地址保存在空闲的地址列表里。下次有对象需要加载时,判断垃圾的位置空间是否够,如果够,就存放。
4.2 复制算法(Copying)
将活着的内存空间分为两块,每次只使用其中一块,在垃圾回收时,将正在使用的内存中的存活对象复制到未被使用的内存块中,之后清除正使用的内存块中的所有对象,交换两个内存的角色,最后完成垃圾回收。
优点:
- 没有标记和清除过程,实现简单、运行高效。
- 复制过去保证空间的连续性,不会出现“碎片”问题。
缺点:
- 需要两倍的内存空间。
- 对于G1这种分析成为大量的region的GC,复制而不是移动,意味着GC需要维护region之间对象引用关系,不管是内存占用或时间开销也不小。特别是存活对象过多时,复制算法不理想,复制的存活对象过多。
4.3 标记-压缩算法(Mark-Copact)
复制算法
的高效性是建立在存活对象少,垃圾对象多的前提下的。这种情况在新生代经常发生,但是在老年代,更常见的情况是大部分对象都是存活对象。如果依然使用复制算法,由于存活对象比较多,复制成本也将很高。因此,基于老年代垃圾回收的特性,需要使用其他的算法。
标记-清除
算法的确可以用在老年代,但是该算法不但效率低下,而且执行完内存回收后还会产生内存碎片,所以JVM的设计者需要再此基础上进行改进。标记-压缩
算法由此诞生。
执行过程:
第一阶段和标记-清除算法一样,从根节点开始标记所有被引用对象
第二阶段将所有的存活对象压缩到内存的一端,按顺序排放。
之后清理边界外所有的空间。
标记-压缩
算法的最终效果等同于标记-清除
算法执行完成后,再进行一次内存碎片整理,因此,也可以把它称为标记-清除-压缩
算法。
二者的本质差异在于标记-清除
算法是一种非移动式的回收算法,标记-压缩
是移动式的。是否移动回收后的存活对象是一项优缺点并存的风险决策。可以看到,标记的存活对象将会被整理,按照内存地址依次排列,而未被标记的内存会被清理掉。如此一来,当我们需要给新对象分配内存时,JVM只需要持有一个内存的起始地址即可,这比维护一个空闲列表显然少了许多开销。
优点:
- 消除了
标记-清除
算法当中的内存碎片。 - 消除了
复制算法
当中内存减半的高额代价。
缺点:
- 从效率上来说,
标记-整理
算法要低于复制算法
。 - 移动对象的同时,如果对象被其他对象引用,则还需要调整引用的地址。
- 移动过程中,需要全程暂停用户程序。即:STW。
小结:
效率上来说,复制算法是当之无愧的老大,但是却浪费太多内存。 而为了尽量兼顾上面提到的三个指标,标记-整理算法相对来说更平滑一些,但是效率上不尽如人意,它比复制算法多了一个标记阶段,比标记-清除多了一个整理内存的阶段。
五、GC思想
GC思想是基于上面三种基础算法的“因地制宜”。主要有分代收集
、增量收集
、分区收集
三种思想。
5.1 分代收集算法
上面三种基础的垃圾回收算法,各有优缺点,可以应用于不同的场景,发挥它们各自的优势。
分代收集算法就是去综合利用它们各自优势的一种综合的算法思想。
分代收集算法,是基于这样一个事实:不同的对象的生命周期是不一样的。
因此,不同生命周期的对象可以采取不同的收集方式,以便提供回收效率。一般是把Java堆分为新生代和老年代,根据各个年代的特点是用不同的回收算法,以提高垃圾回收的效率。
比如在Java程序运行的过程中,会产生大量的对象,其中有些对象是与业务信息相关的,比如Http请求的Session对象、线程、Socket连接,这类对象跟业务直接挂钩,因此生命周期比较长。但是还有一些对象,主要是程序运行过程中生成的临时变量,这些对象生命周期会比较短,比如:String对象,由于其不变类的特性,系统会产生大量的这些对象,有些对象甚至只用一次即可回收。
目前几乎所有的GC都是采用分代收集(Generational Collecting)算法执行垃圾回收的。
在HotSpot中,基于分代概念,GC所使用的内存回收算法必须结合年轻代和老年代各自的特点。
- 年轻代(Young Gen) 年轻代特点:区域相对老年代较小,对象生命周期短、存活率低、回收频繁。 这种情况复制算法的回收整理,速度是最快的。复制算法的效率只和当前存活对象大小有关,因此很适用于年轻代的回收。而复制算法内存利用率不高的问题,通过hotspot中的两个
survivor
的设计得到缓解。 - 老年代(Tenured Gen) 老年代特点:区域较大,对象生命周期长、存活率高,回收不及年轻代频繁。 这种情况存在大量存活率高的对象,复制算法明显变得不合适。一般由标记-清除或者是标记-清除与标记-整理的混合实现。
以HotSpot中的CMS
回收器为例,CMS
是基于Mark-Sweep
实现的,对于对象的回收效率很高。而对于碎片问题,CMS
采用基于Mark-Compact
算法的Serial Old
回收器作为补偿措施:当内存回收不佳(碎片导致的Concurrent Mode Failure
时),将采用Serial Old
执行Full GC
以达到对老年代内存的整理。
分代的思想被现有的虚拟机广泛使用。几乎所有的垃圾回收器都区分新生代和老年代。
5.2 增量收集(Incremental Collecting)思想
上述现有的算法,在垃圾回收过程中,应用软件将处于一种Stop the world的状态。在Stop the World状态下,应用程序所有的线程都会挂起,暂停一切正常的工作,等待垃圾回收的完成。如果垃圾回收时间长,应用程序会被挂起很久,将严重影响用户体验或者系统的稳定性。为了解决这个问题,即对实时垃圾收集算法的研究直接导致了增量收集(Incremental Collecting)算法的诞生。
如果一次性将所有的垃圾进行处理,需要造成系统长时间的停顿,那么就可以让垃圾收集线程和应用程序线程交替执行。每次垃圾收集线程只收集一小片区域的内存空间,接着切换到应用程序线程。依次反复,直到垃圾收集完成。
总得来说,增量收集算法的基础仍是传统的标记-清除和复制算法。增量收集算法通过对线程间冲突的妥善处理,允许垃圾收集线程以分阶段的方式完成标记、清理或复制工作。
缺点:
使用这种方式,由于在垃圾回收过程中,间断性地执行了应用程序代码,所以能减少系统的停顿时间,但是由于线程切换和上下文转换的消耗会使得垃圾回收总体成本上升,造成系统吞吐量的下降。
5.3 分区收集(Incremental Collecting)思想
一般来说,在相同条件下,堆空间越大,一次GC时所需要的时间就越长,有关GC产生的停顿也就越长。为了更好地控制GC产生的停顿时间,将一块大的内存区域分割成多个小块,根据目标的停顿时间,每次合理地回收若干个小区间,而不是整个堆空间,从而减少一次GC所产生的停顿。
分代算法将按照对象生命周期长短划分成两个部分,分区算法将整个堆空间划分成连续的不同小区间region。每一个小区间都独立使用,独立回收。这种算法的好处就是可以控制一次回收多少个小区间。
六、垃圾回收的相关概念
6.1 System.gc()
在默认情况下,通过System.gc()
或者Runtime.getRuntime().gc()
的调用,会显式触发Full GC
,同时对老年代和新生代进行回收,尝试释放被丢弃对象占用的内存。
然而System.gc()
调用附带一个免责声明,无法保证对垃圾收集器的调用。
JVM实现者可以通过对System.gc()
调用来决定JVM的GC行为。而一般情况下,垃圾回收应该是自动进行的,无须手动触发,否则就太过于麻烦了。在一些特殊情况下,如我们正在编写一个性能基准,我们可以在运行之间调用System.gc()
。
6.2 内存溢出
由于GC一直在发展,所以一般情况下,除非应用程序占用的内存增长速度非常快,造成垃圾回收已经跟不上内存消耗的速度,否则不太容易出现OOM。
大多数情况下,GC会进行各种年龄段的垃圾回收,来一次独占式的Full GC 操作,这时候会回收大量的内存,供应用程序继续使用。
javadoc中对OutOfMemoryError
的解释是,没有空闲内存,并且垃圾收集器无法提供更多内存。
没有空闲内存的情况原因有二:
- Java虚拟机的堆内存设置不够。
- 代码中创建了大量大对象,并且长时间不能被垃圾收集器收集(存在被引用)
在抛出OutOfMemoryError
之前,通常垃圾收集器会被触发,尽其所能去清理空间。列如:在引用机制分析中,涉及到JVM会去尝试回收软引用指向的对象等。
在java.nio.BIts.reserveMermory()
方法中,我们能清楚看到,System.gc()
会被调用,以清理空间。
也不是任何情况下垃圾收集器会被触发比如,我们分配一个超大对象,类似一个超大数组超过堆的最大值,JVM可以判断出垃圾收集并不能解决这个问题,所以直接抛出OutOfMemoryError
。
6.3 内存泄漏
严格来说,只有对象不会再被程序用到了,但是GC又不能回收他们的情况,才叫内存泄漏。
但是实际情况很多时候一些不太好实践会导致对象的生命周期变得很长甚至导致OOM,也可以叫做宽泛意义上的“内存泄漏”。
尽管内存泄漏不会立刻引起程序崩溃,但是一旦发生内存泄漏,程序中的可用内存就会被逐步蚕食,直至耗尽所有内存,最终出现OutOfMemoryError
异常,导致程序崩溃。
注意,这里的存储空间并不是指物理内存,而是指虚拟内存大小,这个虚拟内存大小取决与磁盘交换区设定的大小。
举例:
- 单例模式 单例的生命周期和应用程序一样长,所以单例程序中,如果持有外部对象的引用的话,那么这个外部对象是不可能被回收的,则导致内存泄漏的产生
- 一些提供close的资源未关闭导致内存泄漏 数据连接(DataSource.getConnection()),网络连接(Socket)和io连接必须手动close,否则不可能被回收。
6.4 Stop-the-World(SWT)
STW
指的是GC事件发生过程中,会产生应用程序的停顿。停顿产生时整个程序线程都会被暂停,没有任何响应,有点像卡死的感觉,这个停顿称为STW
。
可达性分析算法中枚举根节点(GC Roots)会导致所有Java执行线程停顿。因为分析工作必须在一个确保一致性的快照中进行。一致性指整个分析期间整个执行系统看起来像被冻结在某个时间点上。如果出现分析过程中对象引用关系还在不断变化,则分析结果的准确性无法保证。
被STW中
断的应用程序线程会在完成GC之后恢复,频繁中断会让用户感觉像是网速不快造成电影卡带一样,所以我们需要减少STW的发生。
6.5 安全点 (Safe Point)
程序执行时并非在所有地方都能停顿下来开始GC,只有在特定的位置才能停顿下来开始GC,这些位置称为“安全点”。
Safe Point
的选择很重要,如果安全点太少,那么GC的频率就低,可能导致单次GC等待时间太长;如果安全点太多,GC太频繁可能导致运行时的性能问题。大部分指令的执行时间都非常短暂,通常会根据“是否具有让程序长时间执行”为标准。比如:选择一些执行时间比较长的指令作为Safe Point,如方法调用、循环跳转和异常跳转等。
在GC时,所有线程都会跑到安全点停下来,方法就是设置一个中断标志,各个线程运行到Safe Point的时候主动轮询这个标志,如果中断标志为真,则将自己进行中断挂起。
6.6 安全区 (Safe Region)
SafePoint机制保证了程序执行时,在不太长的时间内就会遇到可进入GC的SafePoint。但是,程序“不执行”的时候呢?列如线程处于Sleep状态或Blocked状态,这时候线程无法响应JVM的中断请求,“走”到安全点去中断挂起,JVM也不太可能等待线程被唤醒。对于这种情况,就需要安全区域(Safe Region)来解决。
安全区域是指在一段代码中,对象引用关系不会发生变化,在这个区域中的任何位置开始GC都是安全的,我们也可以把Safe Region 看作是扩展了的Safe Point。
当线程运行到Safe Region的代码时,首先标识已经进入Safe Region,如果这段时间内发生GC,JVM会忽略标识为Safe Region状态的线程。
当线程即将离开Safe Region时,会检查JVM是否已经完成GC,如果完成了,则继续运行,否则线程必须等待直到收到可以安全离开Safe Region的信号为止。
6.7 垃圾回收的并行和并发
并发(Concurrent)
在操作系统中,在一个时间段之中,有好几个程序都处于已启动运行到运行完毕之间,且这几个程序都是在同一个处理器上运行。
并发不是真正意义上的"同时进行",只是CPU把一个时间段划分成了几个时间片段,然后在这几个时间片段中来回切换,由于CPU切换速度块,用户看起来像是同时在执行好几个程序。
并行(Parallel)
当系统有一个以上CPU时,当一个CPU执行一个进程时,另一个CPU可以执行另一个进程,两个进程互不抢占CPU资源,可以同时进行,我们称为并行
当然现在决定并行的因素不是CPU数量,而是CPU核数,比如一个CPU多核也可以并行
二者对比
- 并发,指的是多个事情,在同一个时间段内同时发生了
- 并行,指的是多个事情,在同一时间点上同时发生了
- 并发的多个 任务之间是相互抢占资源的
- 并行的多个任务之间是不互相抢占资源的
- 只有在多CPU的情况下,才会发生并行
- 否则,看似同时发生的事情,其实都是并发执行的
6.8 finalization机制
Java语言提供了对象终止(finalization)机制来允许开发人员提供对象被回收之前
的自定义处理逻辑。
当垃圾回收器发现没有引用指向一个对象,即:垃圾回收此对象之前,总会先调用这个对象的finalize()
方法。
finalize()
方法允许在子类中被重写,用于在对象被回收时进行资源释放。通常这个方法中进行一些资源释放和清理的工作,比如关闭文件、套接字和数据库连接等。
永远不要主动调用某个对象的finalize()
方法,应该交给垃圾回收机制调用。理由包括下面三点:
- 在
finalize()
时可能会导致对象复活。 finalize()
方法的执行时间是没有保障的,它完全由GC线程决定,极端情况下,若不发生GC,则finalize()
方法将没有执行机会。- 一个糟糕的
finalize()
会严重影响GC的性能。 - 由于
finalize()
方法的存在,虚拟机中的对象一般处于三种可能的状态。
6.9 对象的三种状态
如果从所有根节点都无法访问到某个对象,说明对象已经不再使用了。一般来说,此对象需要被回收。但事实上,也并非是“非死不可”的,这时候它们暂时处于“缓刑”阶段。一个无法触及的对象有可能在某一个条件下“复活”自己,如果这样,那么对它的回收就是不合理的,为此,定义虚拟机中的对象额能的三种状态,如下:
- 可触及的:从根节点开始,可以到达这个对象。
- 可复活的:对象的所有引用都被释放,但是对象有可能在finalize()中复活。
- 不可触及的:对象的
finalize()
被调用,并且没有复活,那么就会进入不可触及状态。不可触及的对象不可能被复活,因为finalize()
只会被调用一次。
以上三种状态中,是由于finalize()
方法的存在,进行区分,只有在对象不可触及时才可以被回收。
具体过程:
判定一个对象objA是否可回收,至少精力两次标记过程:
- 如果对象objA到GC Roots没有引用链,则进行第一次标记。
- 进行筛选,判断此对象是否有必要执行finalize()方法
① 如果对象objA没有重写finalize()方法
或者finalize()方法已经被虚拟机调用过
,则虚拟机视为“没有必要执行”,objA判定为不可触及的
。
②如果对象objA重写了finalize()方法
,且还未执行过
,那么objA会被插入到F-Queue队列中,由一个虚拟机自动创建的、低优先级的Finalizer线程触发其finalize()
方法执行。
③finalize()
方法是对象逃脱死亡的最后机会,稍后GC会对F-Queue队列中的对象进行第二次标记。如果objA在finalize()
方法中与引用链上的任何一个对象建立了联系,那么在第二次标记时,objA会被移出“即将回收”集合。之后,对象会再次出现没有引用存在的情况。在这个情况下,finalize()
方法不会再被再次调用(一个对象的finalize()方法只会被调用一次),对象会直接变成不可触及的状态。