逃逸分析之栈上分配、同步省略、标量替换

转载自《逃逸分析之栈上分配、同步省略、标量替换

 

堆是分配对象存储的唯一选择吗?

在《深入理解Java虚拟机》中关于Java堆内存有这样一段描述:随着JIT编译期的发展与逃逸分析技术逐渐成熟,栈上分配、标量替换优化技术将会导致一些微妙的变化,所有的对象都分配到堆上也渐渐变得不那么“绝对”了。

在Java虛拟机中,对象是在Java堆中分配内存的,这是一个普遍的常识。但是,有一种特殊情况,那就是如果经过逃逸分析(Escape Analysis)后发现,一个对象并没有逃逸出方法的话,那么就可能被优化成栈上分配。这样就无需在堆上分配内存,也无须进行垃圾回收了。这也是最常见的堆外存储技术。

此外,前面提到的基于openJDK深度定制的TaoBaoVM,其中创新的GCIH(GC invisible heap)技术实现off-heap,将生命周期较长的Java对象从heap中移至heap外,并且Gc不能管理GCIH内部的Java对象,以此达到降低GC的回收频率和提升GC的回收效率的目的。

 

逃逸分析概述

 

  • 如何将堆上的对象分配到栈,需要使用逃逸分析手段。

  • 这是一种可以有效减少Java程序中同步负载和内存堆分配压力的跨函数全局数据流分析算法。

  • 通过逃逸分析,Java Hotspot编译器能够分析出一个新的对象的引用的使用范围从而决定是否要将这个对象分配到堆上。

  • 逃逸分析的基本行为就是分析对象动态作用域:

    • 当一个对象在方法中被定义后,对象只在方法内部使用,则认为没有发生逃逸。

    • 当一个对象在方法中被定义后,它被外部方法所引用,则认为发生逃逸。例如作为调用参数传递到其他地方中。

参数设置:

  • 在JDK 6u23版本之后,Hotspot中默认就已经开启了逃逸分析。

  • 如果使用的是较早的版本,开发人员则可以通过:

    • 选项“-XX:+DoEscapeAnalysis"显式开启逃逸分析

    • 通过选项“-XX:+PrintEscapeAnalysis"查看逃逸分析的筛选结果。


结论:开发中 能使用局部变量的,就不要使用在方法外定义。

 

使用逃逸分析,编译器可以对代码做如下优化:

  • 栈上分配。

    • 将堆分配转化为栈分配。如果一个对象在子程序中被分配,要使指向该对象的指针永远不会逃逸,对象可能是栈分配的候选,而不是堆分配。
  • 同步省略。

    • 如果一个对象被发现只能从一个线程被访问到,那么对于这个对象的操作可以不考虑同步。
  • 分离对象或标量替换。

    • 有的对象可能不需要作为一个连续的内存结构存在也可以被访问到,那么对象的部分(或全部)可以不存储在内存,而是存储在CPU寄存器中。

 

 1 //如何快速的判断是否发生了逃逸分析,大家就看new的对象实体是否有可能在方法外被调用。
 2 public class EscapeAnalysis {
 3 
 4     public EscapeAnalysis obj;
 5 
 6     /*
 7     方法返回EscapeAnalysis对象,发生逃逸
 8      */
 9     public EscapeAnalysis getInstance(){
10         return obj == null? new EscapeAnalysis() : obj;
11     }
12     /*
13     为成员属性赋值,发生逃逸
14      */
15     public void setObj(){
16         this.obj = new EscapeAnalysis();
17     }
18     //思考:如果当前的obj引用声明为static的?仍然会发生逃逸。
19 
20     /*
21     对象的作用域仅在当前方法中有效,没有发生逃逸
22      */
23     public void useEscapeAnalysis(){
24         EscapeAnalysis e = new EscapeAnalysis();
25     }
26     /*
27     引用成员变量的值,发生逃逸
28      */
29     public void useEscapeAnalysis1(){
30         EscapeAnalysis e = getInstance();
31         //getInstance().xxx()同样会发生逃逸
32     }
33 }

 

 

优化代码之栈上分配

JIT编译器在编译期间根据逃逸分析的结果,发现如果一个对象并没有逃逸出方法的话,就可能被优化成栈上分配。分配完成后,继续在调用栈内执行,最后线程结束,栈空间被回收,局部变量对象也被回收。这样就无须进行垃圾回收了。


常见的栈上分配的场景

在逃逸分析中,已经说明了。分别是给成员变量赋值、方法返回值、实例引用传递。

 1 public class StackAllocation {
 2     public static void main(String[] args) {
 3         long start = System.currentTimeMillis();
 4 
 5         for (int i = 0; i < 10000000; i++) {
 6             alloc();
 7         }
 8         // 查看执行时间
 9         long end = System.currentTimeMillis();
10         System.out.println("花费的时间为: " + (end - start) + " ms");
11         // 为了方便查看堆内存中对象个数,线程sleep
12         try {
13             Thread.sleep(1000000);
14         } catch (InterruptedException e1) {
15             e1.printStackTrace();
16         }
17     }
18 
19     private static void alloc() {
20         User user = new User();//未发生逃逸
21     }
22 
23     static class User {
24 
25     }
26 }

 

 

优化代码之同步省略(消除)

线程同步的代价是相当高的,同步的后果是降低并发性和性能。

在动态编译同步块的时候,JIT编译器可以借助逃逸分析来判断同步块所使用的锁对象是否只能够被一个线程访问而没有被发布到其他线程。如果没有,那么JIT编译器在编译这个同步块的时候就会取消对这部分代码的同步。这样就能大大提高并发性和性能。这个取消同步的过程就叫同步省略,也叫锁消除。

1 public class SynchronizedTest {
2     public void f() {
3         Object hollis = new Object();
4         synchronized(hollis) {
5             System.out.println(hollis);
6         }
7     }
8 }

 


优化代码之标量替换

标量(Scalar)是指一个无法再分解成更小的数据的数据。Java中的原始数据类型就是标量。相对的,那些还可以分解的数据叫做聚合量(Aggregate),Java中的对象就是聚合量,因为他可以分解成其他聚合量和标量。

在JIT阶段,如果经过逃逸分析,发现一个对象不会被外界访问的话,那么经过JIT优化,就会把这个对象拆解成若干个其中包含的若干个成员变量来代替。这个过程就是标量替换。

 1 public static void main (String[] args) {
 2     alloc(); 
 3 }
 4 private static void alloc() {
 5     Point point = new Point (1.2);
 6     System.out.println("point.x="+point.x+";point.y="+point.y);
 7 }
 8 class Point {
 9     private int X; 
10     private int y;
11 }

 


以上代码,经过标量替换后,就会变成:

1 private static void alloc() {
2     int x=1; 
3      int y=2; 
4      System.out.println("point.x="+x+"; point.y="+y);
5 }

 


可以看到,Point这个聚合量经过逃逸分析后,发现他并没有逃逸,就被替换成两个聚合量了。那么标量替换有什么好处呢?就是可以大大减少堆内存的占用。因为一旦不需要创建对象了,那么就不再需要分配堆内存了。
标量替换为栈上分配提供了很好的基础。

标量替换参数设置:参数-XX:+EliminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上。

 

 1 public class ScalarReplace {
 2     public static class User {
 3         public int id;
 4         public String name;
 5     }
 6 
 7     public static void alloc() {
 8         User u = new User();//未发生逃逸
 9         u.id = 5;
10         u.name = "www.atguigu.com";
11     }
12 
13     public static void main(String[] args) {
14         long start = System.currentTimeMillis();
15         for (int i = 0; i < 10000000; i++) {
16             alloc();
17         }
18         long end = System.currentTimeMillis();
19         System.out.println("花费的时间为: " + (end - start) + " ms");
20     }
21 }

 

上述代码在主函数中进行了1亿次alloc.调用进行对象创建,由于User对象实例需要占据约16字节的空间,因此累计分配空间达到将近1.5GB。如果堆空间小于这个值,就必然会发生GC。使用如下参数运行上述代码:

-server -Xmx100m-Xms100m -XX+DoEscapeAnalysis -XX+PrintGc -XX+EliminateAllocations

这里使用参数如下:

  • 参数-server:启动server模式,因为在server模式下,才可以启用逃逸分析。

  • 参数-XX:+DoEscapeAnalysis:启用逃逸分析

  • 参数-Xmx10m:指定了堆空间最大为10MB参数-XX:+PrintGC:将打印GC日志。

  • 参数-XX:+El iminateAllocations:开启了标量替换(默认打开),允许将对象打散分配在栈上,比 如对象拥有id和name两个字段,那么这两个字段将会被视为两个独立的局部变量进行分配。


逃逸分析小结(此技术并不成熟)

关于逃逸分析的论文在1999年就已经发表了,但直到JDK 1.6才有实现,而且这项技术到如今也并不是十分成熟的。

其根本原因就是无法保证逃逸分析的性能消耗一定能高于他的消耗。虽然经过逃逸分析可以做标量替换、栈上分配、和锁消除。但是逃逸分析自身也是需要进行一系列复杂的分析的,这其实也是一个相对耗时的过程。

一个极端的例子,就是经过逃逸分析之后,发现没有一个对象是不逃逸的。那这个逃逸分析的过程就白白浪费掉了。

虽然这项技术并不十分成熟,但是它也是即时编译器优化技术中一个 十分重要的手段。

注意到有一些观点,认为通过逃逸分析,JVM会在栈上分配那些不会逃逸的对象,这在理论上是可行的,但是取决于JVM设计者的选择。据我所知,Oracle Hotspot JVM中并未这么做,这一点在逃逸分析相关的文档里已经说明,所以可以明确所有的对象实例都是创建在堆上。

目前很多书籍还是基于JDK 7以前的版本,JDK已经发生了很大变化,intern字符串的缓存和静态变量曾经都被分配在永久代上,而水久代已经被元数据区取代。但是,intern字符串缓存和静态变量并不是被转移到元数据区,而是直接在堆上分配,所以这一点同样符合前面一点的结论:对象实例都是分配在堆上。

 


本章小结

年轻代是对象的诞生、成长、消亡的区域,一个对象在这里产生、应用,最后被垃圾回收器收集、结束生命。

老年代放置长生命周期的对象,通常都是从Survivor区域筛选拷贝过来的Java对象。当然,也有特殊情况,我们知道普通的对象会被分配在TLAB上;如果对象较大,JVM会试图直接分配在Eden其他位置上;如果对象太大,完全无法在新生代找到足够长的连续空闲空间,JVM就会直接分配到老年代。

当GC只发生在年轻代中,回收年轻代对象的行为被称为MinorGC。当GC发生在老年代时则被称为MajorGC或者FullGC。一般的,MinorGC 的发生频率要比MajorGC高很多,即老年代中垃圾回收发生的频率将大大低于年轻代。

posted @ 2022-07-14 20:32  r1-12king  阅读(230)  评论(0编辑  收藏  举报