snowater

會當凌絕頂 少壯不努力老大徒傷悲 寶劍鋒從磨礪出梅花香自苦寒來

导航

java.util.ConcurrentHashMap (JDK 1.8)

1.1 java.util.ConcurrentHashMap继承结构

 

ConcurrentHashMap和HashMap的实现有很大的相似性，建议先看HashMap源码，再来理解ConcurrentHashMap。

1.2 java.util.ConcurrentHashMap属性

这里仅展示几个关键的属性

 1     // ConcurrentHashMap核心数组
 2     transient volatile Node<K,V>[] table;
 3 
 4     // 扩容时才会用的一个临时数组
 5     private transient volatile Node<K,V>[] nextTable;
 6     
 7     /**
 8      * table初始化和resize控制字段
 9      * 负数表示table正在初始化或resize。-1表示正在初始化，-N表示有N-1个线程正在resize操作
10      * 当table为null的时候，保存初始化表的大小以用于创建时使用，或者直接采用默认值0
11      * table初始化之后，保存下一次扩容的的大小，跟HashMap的threshold = loadFactor*capacity作用相同
12      */
13     private transient volatile int sizeCtl;
14 
15     // resize的时候下一个需要处理的元素下标为index=transferIndex-1
16     private transient volatile int transferIndex;
17 
18     // 通过CAS无锁更新，ConcurrentHashMap元素总数，但不是准确值
19     // 因为多个线程同时更新会导致部分线程更新失败，失败时会将元素数目变化存储在counterCells中
20     private transient volatile long baseCount;
21 
22     // resize或者创建CounterCells时的一个标志位
23     private transient volatile int cellsBusy;
24 
25     // 用于存储元素变动
26     private transient volatile CounterCell[] counterCells;

1.3 java.util.ConcurrentHashMap方法

1.3.1 Unsafe.compareAndSwapXXX方法

Unsafe.compareAndSwapXXX方法是sun.misc.Unsafe类中的方法，因为在ConcurrentHashMap中大量使用了这些方法。其声明如下：

public final native boolean compareAndSwapXXX(type1 object, type2 offset, type4 expect, type5 update);

object为待修改的对象，offset为偏移量（数组可以理解为下标），expect为期望值，update为更新值。这个方法执行的逻辑伪代码如下：

1 if (object[offset].value equal expect) {
2     object[offset].value = update;
3     return true;
4 } else {
5     return false   
6 }

object[offset].value 等于expect更新value值并返回true，否则不更新并且返回false。之所以不更新是因为多线程执行时有其它线程已经修改该值，expect已经不是最新的值，如果强行修改必然会覆盖之前的修改，造成脏数据。

CAS方法都是native方法，可以保证原子性，并且效率比synchronized高。 

1.3.2 hash方法

1     static final int HASH_BITS = 0x7fffffff; // usable bits of normal node hash
2     int hash = spread(key.hashCode());
3 
4     static final int spread(int h) {
5         return (h ^ (h >>> 16)) & HASH_BITS;
6     }

上面源码为计算hash算法，h ^ (h >>> 16)在计算hash的时候key.hashCode()的高位也参与运算，这部分跟HashMap计算方法一致，不同的是h ^ (h >>> 16)计算结果“与”上 0x7fffffff，从而保证结果一定为正整数。获得hash之后，通过hash & (n -1)计算下标。 

ConcurrentHashMap中的元素节点总结一下有这么几种可能：

(1) null 暂无元素

(2) Node<K, V> 普通节点，可以组成单向链表，hash > 0

(3) TreeBin<K,V> 红黑树节点，TreeBin是对TreeNode的封装，其hash为TREEBIN = -2。

HashMap和ConcurrentHashMap的TreeNode实现并不相同。

在HashMap中TreeNode封装了红黑树所有的操作方法，而ConcurrentHashMap中红黑树操作的方法都封装在TreeBin中，TreeBin相当于一个红黑树容器，容器中的红黑树节点为TreeNode。

HashMap可以直接在tab[i]存入TreeNode，而ConCurrentHashMap只能在tab[i]存入TreeBin。

(4) ForwardingNode<K,V> key和value都为null的一个特殊节点，用于resize操作填充已经完成迁移操作的节点。FrowardingNode的hash在初始化的时候被置成MOVED = -1

在resize过程中当发现tab[i]上是ForwardingNode的时候（通过hash判断）就可知tab[i]已经迁移完了，直接跳过该节点去处理其它节点。

ConcurrentHashMap禁止node的key或value为null或许跟该节点的存在也是有一定关系的。

(5)ReservationNode<K,V>只在compute和computeIfAbsent中使用，其hash为RESERVED = -3

从上面的总结可以看出普通节点hash为正整数是有意义的，hash > 0是判断该节点是否为链表节点（普通节点）的一个重要依据。

1.3.3 get/set/update tab[i] 方法

 1     // 获取tab[i]节点
 2     static final <K,V> Node<K,V> tabAt(Node<K,V>[] tab, int i) {
 3         return (Node<K,V>)U.getObjectVolatile(tab, ((long)i << ASHIFT) + ABASE);
 4     }
 5 
 6     // compare and swap tab[i]，期望值是c，tab[i].value == c ? tab[i] = v : return false
 7     static final <K,V> boolean casTabAt(Node<K,V>[] tab, int i, Node<K,V> c, Node<K,V> v) {
 8         return U.compareAndSwapObject(tab, ((long)i << ASHIFT) + ABASE, c, v);
 9     }
10 
11     // 设置tab[i] = v
12     static final <K,V> void setTabAt(Node<K,V>[] tab, int i, Node<K,V> v) {
13         U.putObjectVolatile(tab, ((long)i << ASHIFT) + ABASE, v);
14     }

1.3.4 size() 方法

 1     public int size() {
 2         long n = sumCount();
 3         return ((n < 0L) ? 0 : (n > (long)Integer.MAX_VALUE) ? Integer.MAX_VALUE : (int)n);
 4     }
 5 
 6     final long sumCount() {
 7         CounterCell[] as = counterCells; CounterCell a;
 8         long sum = baseCount;
 9         // 除了baseCount以外，部分元素变化存储在counterCells数组中
10         if (as != null) {
11             // 遍历数组累加获得结果
12             for (int i = 0; i < as.length; ++i) {
13                 if ((a = as[i]) != null)
14                     sum += a.value;
15             }
16         }
17         return sum;
18     }

ConcurrentHashMap中baseCount用于保存tab中元素总数，但是并不准确，因为多线程同时增删改，会导致baseCount修改失败，此时会将元素变动存储于counterCells数组内。

当需要统计当前的size的时候，除了要统计baseCount之外，还需要统计counterCells中的元素变化。

值得一提的是即使如此，统计出来的依旧不是当前tab中元素的准确值，在多线程环境下统计前后并不能stop the world暂停线程操作，因此无法保证准确性。

1.3.5 put/putIfAbsent方法

 1     public V put(K key, V value) {
 2         // 核心是调用putVal方法
 3         return putVal(key, value, false);
 4     }
 5 
 6     public V putIfAbsent(K key, V value) {
 7         // 如果key存在就不更新value
 8         return putVal(key, value, true);
 9     }
10 
11     /** Implementation for put and putIfAbsent */
12     final V putVal(K key, V value, boolean onlyIfAbsent) {
13         // key或value 为null都是不允许的，因为Forwarding Node就是key和value都为null，是用作标志位的。
14         if (key == null || value == null) throw new NullPointerException();
15         // 根据key计算hash值，有了hash就可以计算下标了
16         int hash = spread(key.hashCode());
17         int binCount = 0;
18         // 可能需要初始化或扩容，因此一次未必能完成插入操作，所以添加上for循环
19         for (Node<K,V>[] tab = table;;) {
20             Node<K,V> f; int n, i, fh;
21             // 表还没有初始化，先初始化，lazily initialized
22             if (tab == null || (n = tab.length) == 0)
23                 tab = initTable();
24             // 根据hash计算应该插入的index，该位置上还没有元素，则直接插入
25             else if ((f = tabAt(tab, i = (n - 1) & hash)) == null) {
26                 if (casTabAt(tab, i, null, new Node<K,V>(hash, key, value, null)))
27                     break;                   // no lock when adding to empty bin
28             }
29             // static final int MOVED = -1; // hash for forwarding nodes
30             // 说明f为ForwardingNode，只有扩容的时候才会有ForwardingNode出现在tab中，因此可以断定该tab正在进行扩容
31             else if ((fh = f.hash) == MOVED)  
32                 // 协助扩容            
33                 tab = helpTransfer(tab, f);   
34             else {
35                 V oldVal = null;
36                 // 节点上锁，hash值相同的节点组成的链表头结点
37                 synchronized (f) {
38                     if (tabAt(tab, i) == f) {
39                         if (fh >= 0) { // 是链表节点
40                             binCount = 1;
41                             for (Node<K,V> e = f;; ++binCount) {
42                                 K ek;
43                                 // 遍历链表查找是否包含该元素
44                                 if (e.hash == hash && ((ek = e.key) == key || (ek != null && key.equals(ek)))) {
45                                     oldVal = e.val;  // 保存旧的值用于当做返回值
46                                     if (!onlyIfAbsent)
47                                         e.val = value;  // 替换旧的值为新值
48                                     break;
49                                 }
50                                 Node<K,V> pred = e;
51                                 if ((e = e.next) == null) {
52                                     // 遍历链表，如果一直没找到，则新建一个Node放到链表结尾
53                                     pred.next = new Node<K,V>(hash, key, value, null);
54                                     break;
55                                 }
56                             }
57                         }
58                         else if (f instanceof TreeBin) { // 是红黑树节点
59                             Node<K,V> p;
60                             binCount = 2;
61                             // 去红黑树查找该元素，如果没找到就添加，找到了就返回该节点
62                             if ((p = ((TreeBin<K,V>)f).putTreeVal(hash, key, value)) != null) {
63                                 // 保存旧的value用于返回
64                                 oldVal = p.val;
65                                 if (!onlyIfAbsent)
66                                     p.val = value; // 替换旧的值
67                             }
68                         }
69                     }
70                 }
71                 if (binCount != 0) {
72                     if (binCount >= TREEIFY_THRESHOLD)
73                         // 链表长度超过阈值（默认为8），则需要将链表转为一棵红黑树
74                         treeifyBin(tab, i);
75                     if (oldVal != null)
76                         // 如果只是替换，并未带来节点的增加则直接返回旧的value即可
77                         return oldVal;
78                     break;
79                 }
80             }
81         }
82         // 元素总数加1，并且判断是否需要扩容
83         addCount(1L, binCount);
84         return null;
85     }

1.3.6 addCount方法

在putVal方法中调用了若干其它方法，下面来看下addCount方法。

 1     // check<0不检查resize, check<=1只在没有线程竞争的情况下检查resize
 2     private final void addCount(long x, int check) {
 3         CounterCell[] as; long b, s;
 4         // counterCells数组不为null       
 5         if ((as = counterCells) != null ||
 6             // CAS更新BASECOUNT失败（有其它线程更新了BASECOUNT，baseCount已经不是最新值）
 7             !U.compareAndSwapLong(this, BASECOUNT, b = baseCount, s = b + x)) {
 8             CounterCell a; long v; int m;
 9             boolean uncontended = true;
10             // counterCells为null
11             if (as == null || (m = as.length - 1) < 0 ||
12                 // counterCells对应位置为null，这里不是很懂，有没有大神解答下？
13                 // ThreadLocalRandom.getProbe() 获得线程探测值，什么用途？
14                 (a = as[ThreadLocalRandom.getProbe() & m]) == null ||
15                 // 更新CELLVALUE失败
16                 !(uncontended = U.compareAndSwapLong(a, CELLVALUE, v = a.value, v + x))) {
17                 // 初始化counterCells
18                 fullAddCount(x, uncontended);
19                 return;
20             }
21             // counterCells != null 或者 BASECOUNT CAS更新失败都是因为有线程竞争，因此不检查resize
22             if (check <= 1)
23                 return;
24             // 统计下ConcurrentHashMap元素总数    
25             s = sumCount();
26         }
27         if (check >= 0) {
28             Node<K,V>[] tab, nt; int n, sc;
29             // 元素总数大于sizeCtl
30             while (s >= (long)(sc = sizeCtl) && (tab = table) != null && (n = tab.length) < MAXIMUM_CAPACITY) {
31                 // 获取一个resize标志位   
32                 int rs = resizeStamp(n);
33                 // sizeCtl < 0 表示table正在初始化或者resize
34                 if (sc < 0) {
35                     if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
36                         sc == rs + MAX_RESIZERS || (nt = nextTable) == null || transferIndex <= 0)
37                         break;
38                     if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1))
39                         transfer(tab, nt);
40                 }
41                 // 当前线程是第一个发起扩容操作
42                 else if (U.compareAndSwapInt(this, SIZECTL, sc, (rs << RESIZE_STAMP_SHIFT) + 2))
43                     transfer(tab, null);
44                 s = sumCount();
45             }
46         }
47     }

1.3.7 resize相关方法：resizeStamp、helpTransfer、transfer

1     // 返回一个标志位，该标志位经过RESIZE_STAMP_SHIFT左移必定为负数
2     static final int resizeStamp(int n) {
3         // Integer.numberOfLeadingZeros返回n对应32位二进制数左侧0的个数，如9（1001）返回28  
4         // 1 << (RESIZE_STAMP_BITS - 1) = 2^15，其中RESIZE_STAMP_BITS固定为16
5         return Integer.numberOfLeadingZeros(n) | (1 << (RESIZE_STAMP_BITS - 1));
6     }
7

helpTransfer方法：辅助扩容方法，直接进入transfer方法的迁移元素阶段

 1     final Node<K,V>[] helpTransfer(Node<K,V>[] tab, Node<K,V> f) {
 2         Node<K,V>[] nextTab; int sc;
 3         // 在tab中发现了ForwardingNode，在ForwardingNode初始化的时候保存了nextTable引用
 4         // 因此可以通过f找到nextTable，并且可以断定nextTable!=null
 5         if (tab != null && (f instanceof ForwardingNode) &&
 6             (nextTab = ((ForwardingNode<K,V>)f).nextTable) != null) {
 7             int rs = resizeStamp(tab.length);
 8             while (nextTab == nextTable && table == tab && (sc = sizeCtl) < 0) {
 9                 if ((sc >>> RESIZE_STAMP_SHIFT) != rs || sc == rs + 1 ||
10                     sc == rs + MAX_RESIZERS || transferIndex <= 0)
11                     break;
12                 if (U.compareAndSwapInt(this, SIZECTL, sc, sc + 1)) {
13                     transfer(tab, nextTab);
14                     break;
15                 }
16             }
17             return nextTab;
18         }
19         return table;
20     }

transfer方法：resize的核心操作。基本思路是先new一个double capacity的nextTable数组，然后将tab中的元素一个一个迁移到nextTable中。迁移完成后将tab = nextTable操作替换掉tab。

  1     // 扩容操作方法
  2     private final void transfer(Node<K,V>[] tab, Node<K,V>[] nextTab) {
  3         int n = tab.length, stride;
  4         if ((stride = (NCPU > 1) ? (n >>> 3) / NCPU : n) < MIN_TRANSFER_STRIDE)
  5             stride = MIN_TRANSFER_STRIDE; // subdivide range
  6         // 刚开始resize，需要初始化nextTab
  7         if (nextTab == null) {
  8             try {
  9                 @SuppressWarnings("unchecked")
 10                 Node<K,V>[] nt = (Node<K,V>[])new Node<?,?>[n << 1];  // 扩容为两倍
 11                 nextTab = nt;
 12             } catch (Throwable ex) {      // try to cope with OOME
 13                 sizeCtl = Integer.MAX_VALUE;
 14                 return;
 15             }
 16             nextTable = nextTab;
 17             transferIndex = n;  // 倒序transfer tab
 18         }
 19         int nextn = nextTab.length; // 扩容后表的length
 20         // 预先定义一个头节点ForwardingNode,其hash被置成MOVED=-1
 21         // 当线程发现某个元素hash==MOVED则表明该节点已经被处理过
 22         ForwardingNode<K,V> fwd = new ForwardingNode<K,V>(nextTab);
 23         boolean advance = true;
 24         // 是否完成元素迁移的标志
 25         boolean finishing = false; // to ensure sweep before committing nextTab
 26         for (int i = 0, bound = 0;;) {
 27             Node<K,V> f; int fh;
 28             // 这个while循环是为了找到下一个准备处理的下标
 29             while (advance) {
 30                 int nextIndex, nextBound;
 31                 // --i还未越界，准备处理tab[i]
 32                 // finishing==true，resize完成，可能处于提交前的检查阶段，检查tab[--i]
 33                 if (--i >= bound || finishing)
 34                     advance = false;
 35                 // 下一个准备处理的元素下标为transferIndex-1<0, 可以断定tab已经完成了transfer操作    
 36                 else if ((nextIndex = transferIndex) <= 0) {
 37                     i = -1;
 38                     advance = false;
 39                 }
 40                 else if (U.compareAndSwapInt(this, TRANSFERINDEX, nextIndex,
 41                           nextBound = (nextIndex > stride ? nextIndex - stride : 0))) {
 42                     bound = nextBound;
 43                     i = nextIndex - 1; // 下一个准备处理的index
 44                     advance = false;
 45                 }
 46             }
 47             // i越界，可能已经完成元素迁移操作
 48             if (i < 0 || i >= n || i + n >= nextn) {
 49                 int sc;
 50                 if (finishing) { // 扩容完成，替换table
 51                     // 扩容完成nextTable置空
 52                     nextTable = null;
 53                     // 替换table为扩容后的nextTab
 54                     table = nextTab;
 55                     // sizeCtl设置为0.75 * capacity，即为下一次需要扩容的阈值
 56                     sizeCtl = (n << 1) - (n >>> 1);
 57                     return;
 58                 }
 59                 // CAS更新sizeCtl，sc-1表示新加入一个线程参与扩容操作
 60                 if (U.compareAndSwapInt(this, SIZECTL, sc = sizeCtl, sc - 1)) {
 61                     if ((sc - 2) != resizeStamp(n) << RESIZE_STAMP_SHIFT)
 62                         return;
 63                     finishing = advance = true;
 64                     // 处理完成后重新遍历一遍，以免多线程操作带来遗漏
 65                     i = n; // recheck before commit
 66                 }
 67             }
 68             else if ((f = tabAt(tab, i)) == null)
 69                 // tab[i] == null则置一个ForwardingNode
 70                 advance = casTabAt(tab, i, null, fwd);
 71             else if ((fh = f.hash) == MOVED)
 72                 // ForwardingNode的hash为MOVED，说明tab[i]已经被置成ForwardingNode，已经处理过
 73                 advance = true; // already processed
 74             else {
 75                 // 对tab[i]节点加锁，锁住了tab[i]节点上所有的Node
 76                 synchronized (f) {
 77                     // 如果AB两个线程先后执行到这里，A线程获取锁，执行完迁移之后释放锁；B线程获取锁，此时tab[i]是ForwardingNode，不等于f
 78                     if (tabAt(tab, i) == f) {
 79                         Node<K,V> ln, hn;
 80                         // fh >= 0说明是链表节点。TreeBin的hash在初始化的时候被置成TREEBIN=-2
 81                         if (fh >= 0) {
 82                             // (fh = f.hash) & n 决定Node应该迁移到原下标i还是应该迁移到i+n位置
 83                             // 这种扩容方法参考HashMap的resize思想 http://www.cnblogs.com/snowater/p/7742287.html
 84                             int runBit = fh & n;
 85                             Node<K,V> lastRun = f;
 86                             // 遍历链表找到最后一个与链表头结点runBit不同的Node，并且将runBit置为该节点的 p.hash & n
 87                             for (Node<K,V> p = f.next; p != null; p = p.next) {
 88                                 int b = p.hash & n;
 89                                 if (b != runBit) {
 90                                     runBit = b;
 91                                     lastRun = p;
 92                                 }
 93                             }
 94                             if (runBit == 0) {
 95                                 // runBit == 0 表明该Node还应迁移到下标i的位置
 96                                 ln = lastRun;
 97                                 hn = null;
 98                             }
 99                             else {
100                                 // runBit != 0 表明该Node应迁移到下标i + n的位置
101                                 hn = lastRun;
102                                 ln = null;
103                             }
104                             // 遍历链表，拆分之，拆分后基本是原链表的倒序（最后一段链表除外，它还是以顺序的方式处于链表末尾）
105                             for (Node<K,V> p = f; p != lastRun; p = p.next) {
106                                 int ph = p.hash; K pk = p.key; V pv = p.val;
107                                 if ((ph & n) == 0) // 该Node应该迁移到下标i位置
108                                     ln = new Node<K,V>(ph, pk, pv, ln);
109                                 else // 该Node应该迁移到下标i+n位置
110                                     hn = new Node<K,V>(ph, pk, pv, hn);
111                             }
112                             setTabAt(nextTab, i, ln);
113                             setTabAt(nextTab, i + n, hn);
114                             // 处理完后将tab[i]设置为ForwardingNode，其它线程发现tab[i] == ForwardingNode则会跳过tab[i]继续往后执行
115                             setTabAt(tab, i, fwd); 
116                             advance = true;
117                         }
118                         else if (f instanceof TreeBin) { // TreeBin的hash为-2
119                             TreeBin<K,V> t = (TreeBin<K,V>)f;
120                             TreeNode<K,V> lo = null, loTail = null;
121                             TreeNode<K,V> hi = null, hiTail = null;
122                             int lc = 0, hc = 0;
123                             for (Node<K,V> e = t.first; e != null; e = e.next) {
124                                 int h = e.hash;
125                                 TreeNode<K,V> p = new TreeNode<K,V>(h, e.key, e.val, null, null);
126                                 if ((h & n) == 0) {
127                                     if ((p.prev = loTail) == null)
128                                         lo = p;
129                                     else
130                                         loTail.next = p;
131                                     loTail = p;
132                                     ++lc;
133                                 } else {
134                                     if ((p.prev = hiTail) == null)
135                                         hi = p;
136                                     else
137                                         hiTail.next = p;
138                                     hiTail = p;
139                                     ++hc;
140                                 }
141                             }
142                             // 如果长度小于UNTREEIFY_THRESHOLD=8，则将树转换为链表，否则将lo和hi重建为红黑树
143                             ln = (lc <= UNTREEIFY_THRESHOLD) ? untreeify(lo) : (hc != 0) ? new TreeBin<K,V>(lo) : t;
144                             hn = (hc <= UNTREEIFY_THRESHOLD) ? untreeify(hi) : (lc != 0) ? new TreeBin<K,V>(hi) : t;
145                             setTabAt(nextTab, i, ln);
146                             setTabAt(nextTab, i + n, hn);
147                             setTabAt(tab, i, fwd);
148                             advance = true;
149                         }
150                     }
151                 }
152             }
153         }
154     }

1.3.8 get方法

 1     public V get(Object key) {
 2         Node<K,V>[] tab; Node<K,V> e, p; int n, eh; K ek;
 3         // 根据key计算得到hash
 4         int h = spread(key.hashCode());
 5         if ((tab = table) != null && (n = tab.length) > 0 && (e = tabAt(tab, (n - 1) & h)) != null) {
 6             if ((eh = e.hash) == h) {
 7                 if ((ek = e.key) == key || (ek != null && key.equals(ek)))
 8                     return e.val;
 9             }
10             else if (eh < 0)  // 红黑树，从红黑树中查找
11                 return (p = e.find(h, key)) != null ? p.val : null;
12             // 遍历链表查找
13             while ((e = e.next) != null) {
14                 if (e.hash == h && ((ek = e.key) == key || (ek != null && key.equals(ek))))
15                     return e.val;
16             }
17         }
18         return null;
19     }

参考博客：

http://www.importnew.com/23610.html
http://blog.csdn.net/u010723709/article/details/48007881
http://blog.csdn.net/qq924862077/article/details/74530103
http://www.cnblogs.com/mickole/articles/3757278.html
http://www.techsite.cn/?p=5520
http://blog.csdn.net/dfdsggdgg/article/details/51538601

posted on 2017-12-29 17:39  snowater  阅读(1528)  评论(0)  编辑  收藏  举报