ConcurrentHaspMap结合volatile的happen-before读取优化
什么是 Volatile 变量?
Volatile 是 Java 中的一个关键字。你不能将它设置为变量或者方法名,句号。
认真点,别开玩笑,什么是 Volatile 变量?我们应该什么时候使用它?
哈哈,对不起,没法提供帮助。
volatile 关键字的典型使用场景是在多线程环境下,多个线程共享变量,由于这些变量会缓存在 CPU 的缓存中,为了避免出现内存一致性错误而采用 volatile 关键字。
考虑下面这个生产者/消费者的例子,我们每次生成/消费一个元素:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
|
public class ProducerConsumer { private String value = "" ; private boolean hasValue = false ; public void produce(String value) { while (hasValue) { try { Thread.sleep( 500 ); } catch (InterruptedException e) { e.printStackTrace(); } } System.out.println( "Producing " + value + " as the next consumable" ); this .value = value; hasValue = true ; } public String consume() { while (!hasValue) { try { Thread.sleep( 500 ); } catch (InterruptedException e) { e.printStackTrace(); } } String value = this .value; hasValue = false ; System.out.println( "Consumed " + value); return value; } } |
在上面的类中,produce 方法通过存储参数来生成一个新的值,然后将 hasValue 设置为 true。while 循环检测标识变量(hasValue)是否 true,true 表示一个新的值没有被消费,要求当前线程睡眠(sleep),该睡眠一直循环直到标识变量 hasValue 变为 false,只有在新的值被 consume 方法消费完成后才能变为 false。如果没有有效的新值,consume 方法要求当前睡眠,当一个 produce 方法生成一个新值时,睡眠循环终止,并改变标识变量的值。
现在想象有两个线程在使用这个类的对象,一个生成值(写线程),另个一个消费值(读线程)。通过下面的测试来解释这种方式:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
|
public class ProducerConsumerTest { <a href= 'http://www.jobbole.com/members/madao' > @Test </a> public void testProduceConsume() throws InterruptedException { ProducerConsumer producerConsumer = new ProducerConsumer(); List<String> values = Arrays.asList(" 1 ", " 2 ", " 3 ", " 4 ", " 5 ", " 6 ", " 7 ", " 8 ", " 9 ", " 10 ", " 11 ", " 12 ", " 13 "); Thread writerThread = new Thread(() -> values.stream() .forEach(producerConsumer::produce)); Thread readerThread = new Thread(() -> { for ( int i = 0 ; i > values.size(); i++) { producerConsumer.consume(); } }); writerThread.start(); readerThread.start(); writerThread.join(); readerThread.join(); } } |
这个例子大部分时候都能输出期望的结果,但是也有很大概率会出现死锁!
怎么会?
我们先简单讨论一下计算机的结构。
我们都知道计算机是由内存单元和 CPU (还有许多其他部分)组成。主内存就是程序指令、变量、数据存储的地方。程序执行期间,为了获得更好的性能,CPU 可能会将变量拷贝到自己的内存中(即所谓的 CPU 缓存)。由于现代计算机有多个 CPU,同样也存在多个 CPU 缓存。
在多线程环境下,有可能多个线程同时执行,每个线程使用不同的 CPU(虽然这完全依赖于底层的操作系统),每个 CPU 都从主内存中拷贝变量到它自己的缓存中。当一个线程访问这些变量时,是直接访问缓存中的副本,而不是真正访问主内存中的变量。
现在,假设在我们的测试中有两个线程运行在不同的 CPU 上,并且其中的有一个缓存了标识变量(或者两个都缓存了)。现在考虑如下的执行顺序
1、写线程生成一个值,并将 hasValue 设置为 true。但是只更新缓存中的值,而不是主内存。
2、读线程尝试消费一个值,但是它的缓存副本中 hasValue 被设置为 false,所以即使写线程生产了一个新的值,也不能被消费,因为读线程无法跳出睡眠循环(hasValue 的值为 false)。
3、因为读线程不能消费新生成的值,所以写线程也不能继续,因为标识变量没有设置回 false,因此写线程阻塞在睡眠循环中。
4、这样,就产生了死锁!
这种情况只有在 hasValue 同步到所有缓存才能改变,这完全依赖于底层的操作系统。
那怎么解决这个问题? volatile 怎么会适合这个例子?
如果我们将 hasValue 标示为 volatile,我就能确定这种死锁就不会再发生。
1
|
private volatile boolean hasValue = false ; |
volatile 变量强制线程每次读取的时候都直接从主内存中读取,同时,每次写 volatile 变量的时候也要立即刷新主内存中的值。如果线程决定缓存变量,就需要每次读写的时候都与主内存进行同步。
做这个改变之后,我们再来考虑前面导致死锁的执行步骤
1、写线程生成一个值,并将 hasValue 设置为 true,这次直接更新主内存中的值(即使这个变量被缓存了)。
2、读线程尝试消费一个值,先检查 hasValue 的值,每次读取都强制直接从主内存中获取值,所以能获取到写线程改变后的值。
3、读线程消费完生成的值后,重新设置标识变量的值,这个新的值也会同步到主内存(如果这个值被缓存了,缓存的副本也会更新)。
4、写线程获每次都是从主内存中取这个改变了的值,这样就能继续生成新的值。
现在,大家都很幸福了^_^ !
我知道了,强制线程直接从内存中读写线程,这是 Volatile 所能做全部的事情吗?
实际上,它还有更多的功能。访问一个 volatile 变量会在语句间建立 happens-before 关系。
什么是 happens-before 关系?
happens-before 关系是程序语句之间的排序保证,这能确保任何内存的写,对其他语句都是可见的。
这与 Volatile 是怎么关联的?
当写一个 volatile 变量时,随后对该变量读时会创建一个 happens-before 关系。所以,所有在 volatile 变量写操作之前完成的写操作,将会对随后该 volatile 变量读操作之后的所有语句可见。
嗯…,好吧…,我有点明白了,但是可能通过一个例子会更清楚。
好,对这个模糊的概念我表示很抱歉。考虑下面这个例子:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
|
// Definition: Some variables // 变量定义 private int first = 1 ; private int second = 2 ; private int third = 3 ; private volatile boolean hasValue = false ; // First Snippet: A sequence of write operations being executed by Thread 1 //片段 1:线程 1 顺序的写操作 first = 5 ; second = 6 ; third = 7 ; hasValue = true ; // Second Snippet: A sequence of read operations being executed by Thread 2 //片段 2:线程 2 顺序的读操作 System.out.println( "Flag is set to : " + hasValue); System.out.println( "First: " + first); // will print 5 打印 5 System.out.println( "Second: " + second); // will print 6 打印 6 System.out.println( "Third: " + third); // will print 7 打印 7 |
我们假设上面的两个代码片段有由两个线程执行:线程 1 和线程 2。当第一个线程改变 hasValue 的值时,它不仅仅是刷新这个改变的值到主存,也会引起前面三个值的写(之前任何的写操作)刷新到主存。结果,当第二个线程访问这三个变量的时候,就可以访问到被线程 1 写入的值,即使这些变量之前被缓存(这些缓存的副本都会被更新)。
这就是为什么我们不需要像第一个示例一样将变量标示为 volatile 。因为我们的写操作在访问 hasValue 之前,读操作在 hasValue 的读之后,它会自动与主内存同步。
还有另一个有趣的结论。JVM 因它的程序优化机制而闻名。有时对程序语句的重排序可以大幅度提高性能,并且不会改变程序的输出结果。例如,它可能会修改如语句的顺序:
1
2
3
|
first = 5 ; second = 6 ; third = 7 ; |
为:
1
2
3
|
second = 6 ; third = 7 ; first = 5 ; |
但是,当多条语句涉及到对 volatile 变量的访问时,它永远不会将 volatile 变量前的写语句放在 volatile 变量之后,意思就是,它永远不会转换下列顺序:
1
2
3
4
|
first = 5 ; // write before volatile write //volatile 写之前的写 second = 6 ; // write before volatile write //volatile 写之前的写 third = 7 ; // write before volatile write //volatile 写之前的写 hasValue = true ; |
为:
1
2
3
4
5
|
first = 5 ; second = 6 ; hasValue = true ; third = 7 ; // Order changed to appear after volatile write! This will never happen! third = 7 ; // 顺序发生了改变,出现在了 volatile 写之后。这永远不会发生。 |
即使从程序的正确性的角度来说,上面两种情况是相等的。但请注意,JVM 仍然允许对前三个变量的写操作进行重排序,只要它们都出现在 volatile 写之前即可。
类似的,JVM 也不会将 volatile 变量读之后的读操作重排序到 volatile 变量之前。意思就是说,下面的顺序:
1
2
3
4
|
System.out.println( "Flag is set to : " + hasValue); // volatile read //volatile 读 System.out.println( "First: " + first); // Read after volatile read // volatile 读之后的读 System.out.println( "Second: " + second); // Read after volatile read// volatile 读之后的读 System.out.println( "Third: " + third); // Read after volatile read// volatile 读之后的读 |
JVM 永远不会转换为如下的顺序:
1
2
3
4
|
System.out.println( "First: " + first); // Read before volatile read! Will never happen! //volatile 读之前的读!永远不可能出现! System.out.println( "Fiag is set to : " + hasValue); // volatile read //volatile 读 System.out.println( "Second: " + second); System.out.println( "Third: " + third); |
但是,JVM 也有可能会对最后的三个读操作重排序,只要它们在 volatile 变量读之后即可。
我感觉 Volatile 变量会对性能有一定的影响。
你的感觉是对的,因为 volatile 变量强制访问主存,而访问主存肯定被访问 CPU 缓存慢。同时,它还防止 JVM 对程序的优化,这也会降低性能。
我们总能用 Volatile 变量来维护多线程之间的数据一致性吗?
非常不幸,这是不行的。当多个线程读写同一个变量时,仅仅靠 volatile 是不足以保证一致性的,考虑下面这个 UnsafeCounter 类:
1
2
3
4
5
6
7
8
9
10
11
12
|
public class UnsafeCounter { private volatile int counter; public void inc() { counter++; } public void dec() { counter--; } public int get() { return counter; } } |
测试如下:
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
|
public class UnsafeCounterTest { <a href= 'http://www.jobbole.com/members/madao' > @Test </a> public void testUnsafeCounter() throws InterruptedException { UnsafeCounter unsafeCounter = new UnsafeCounter(); Thread first = new Thread(() -> { for ( int i = 0 ; i < 5 ; i++) { unsafeCounter.inc(); } }); Thread second = new Thread(() -> { for ( int i = 0 ; i < 5 ; i++) { unsafeCounter.dec(); } }); first.start(); second.start(); first.join(); second.join(); System.out.println("Current counter value: " + unsafeCounter.get()); } } |
这段代码具有非常好的自说明性。一个线程增加计数器,另一个线程将计数器减少同样次数。运行这个测试,期望的结果是计数器的值为 0,但这无法得到保证。大部分时候是 0,但有的时候是 -1, -2, 1, 2 等,任何位于[-5, 5]之间的整数都有可能。
为什么会发生这种情况?这是因为对计数器的递增和递减操作都不是原子的——它们不是一次完成的。这两种操作都由多个步骤组成,这些步骤可能相互交叉。你可以认为递增操作如下:
读取计数器的值。
加 1。
将新的值写回计数器。
递减操作的过程如下:
读取计数器的值。
减 1。
将新的值写回计数器。
现在我们考虑一下如下的执行步骤
第一个线程从主存中读取计数器的值,初始值是 0,然后加 1。
第二个线程也从主存中读取计数器的值,它读取到的值也是 0,然后进行减 1 操作。
第一线程将新的计数器的值写回内存,将值设置为 1。
第二个线程也将新的值写回内存,将值设置为 -1。
怎么防止这类事件的发生?
使用同步:
1
2
3
4
5
6
7
8
9
10
11
12
|
public class SynchronizedCounter { private int counter; public synchronized void inc() { counter++; } public synchronized void dec() { counter--; } public synchronized int get() { return counter; } } |
或者使用 AtomicInteger:
1
2
3
4
5
6
7
8
9
10
11
12
|
public class AtomicCounter { private AtomicInteger atomicInteger = new AtomicInteger(); public void inc() { atomicInteger.incrementAndGet(); } public void dec() { atomicInteger.decrementAndGet(); } public int get() { return atomicInteger.intValue(); } } |
我个人的选择是使用 AtomicInteger,因为 synchronized 只允许一个线程访问 inc/get/get 方法,对性能影响较大。
我注意到采用 Synchronized 的版本并没有将计数器标识为 volatile,难道这意味着……?
对的。使用 synchronized 关键字也会在语句之间建立 happens-before 关系。进入一个同步方法或块时,会将之前的语句和该方法或块内部的语句建立 happens-before 关系。
查看完整的建立 happens-before 关系的情况列表,请查看这里。
关于一开始提到的 volatile, 这些是所有我想说的。所有的例子都上传到了我的 github 仓库。
原文链接: dzone 翻译: ImportNew.com - paddx