浅析Java7中的ConcurrentHashMap
引入ConcurrentHashMap
模拟使用hashmap在多线程场景下发生线程不安全现象
import java.util.HashMap;
import java.util.Map;
import java.util.UUID;
/**
* 模拟hashmap在多线程场景下的出现的不安全现象之一
* hashmap还有put丢失，jdk1.7扩容成环的问题
*/
public class Demo2 {
public static void main(String[] args) {
Map<String, String> hashmap = new HashMap<>();
//开30个线程去往hashmap中添加元素
for (int i = 1; i <= 30; i++) {
new Thread(() -> {
hashmap.put(Thread.currentThread().getName(), UUID.randomUUID().toString().substring(0, 5));
System.out.println(hashmap);
}, String.valueOf(i)).start();
}
}
}
运行结果如下，由于fail-fast机制的存在，出现了并发修改失败的错误
如何解决该问题呢？
方式一：使用hashtable
Map<String, String> hashmap = new Hashtable<>();
方式二：使用Collections.synchronizedMap
Map<String, String> hashmap = Collections.synchronizedMap(new HashMap<>());
方式三：使用并发集合容器ConcurrentHashMap
Map<String, String> hashmap = new ConcurrentHashMap<>();
浅析Java7中ConcurrentHashMap源码
数据结构
ConcurrentHashMap JDK1.7的数据结构是由Segment数组+HashEntry数组组成，其解决hash冲突的方式与jdk1.7中的hashmap方式差不多，解决线程安全是采用一种分段锁的思想，多个线程操作多个Segment是相互独立的，这样一来相比于传统的hashtable就大大提高了并发度。
我们在简单画个图来理解分段锁的思想：数组套数组，多个线程独立访问Segment，扩容嵌套数组
Segment与HashEntry
我们在来看下其Segment数组以及HashEntry数组在源码中是如何定义的。
先来看看Segment的定义：由以下我们可以看到每个Segment都是继承的ReentLock，且其内部嵌套的是HashEntry数组，Segment的数量相当于锁的数量，这些锁彼此之间福独立，即“分段锁”
//以内部类的形式定义，并且继承的ReentratLock
static final class Segment<K,V> extends ReentrantLock implements Serializable {
private static final long serialVersionUID = 2249069246763182397L;
static final int MAX_SCAN_RETRIES =
Runtime.getRuntime().availableProcessors() > 1 ? 64 : 1;
//由此处也可以看出Segment内部嵌套的是HashEntry数组
transient volatile HashEntry<K,V>[] table;
//Segment的个数
transient int count;
//modCount代表被修改的次数，每次Remove、put都相当于一次修改
transient int modCount;
//阈值
transient int threshold;
//负载因子
final float loadFactor;
Segment(float lf, int threshold, HashEntry<K,V>[] tab) {
this.loadFactor = lf;
this.threshold = threshold;
this.table = tab;
}
//以下是Segment内部的一些操作
final V put(K key, int hash, V value, boolean onlyIfAbsent) {
.......
}
private void rehash(HashEntry<K,V> node) {
......
}
final V remove(Object key, int hash, Object value) {
....
}
......
在来看看HashEntry的定义
//以内部类的形式定义
static final class HashEntry<K,V> {
final int hash;
final K key;
//采用volatile修饰，保证其可见性和有序性
volatile V value;
volatile HashEntry<K,V> next;
HashEntry(int hash, K key, V value, HashEntry<K,V> next) {
this.hash = hash;
this.key = key;
this.value = value;
this.next = next;
}
//在HashEntry数组后面链上HashEntry对象
final void setNext(HashEntry<K,V> n) {
UNSAFE.putOrderedObject(this, nextOffset, n);
}
// Unsafe类是Java提供的操作内存的类，
static final sun.misc.Unsafe UNSAFE;
static final long nextOffset;
static {
try {
UNSAFE = sun.misc.Unsafe.getUnsafe();
Class k = HashEntry.class;
nextOffset = UNSAFE.objectFieldOffset
(k.getDeclaredField("next"));
} catch (Exception e) {
throw new Error(e);
}
}
}
关于Unsafe类中的putOrderedObject方法,摘自Java魔法类：Unsafe应用解析
//存储变量的引用到对象的指定的偏移量处，使用volatile的存储语义
public native void putObjectVolatile(Object o, long offset, Object x);
//有序、延迟版本的putObjectVolatile方法，不保证值的改变被其他线程立即看到。只有在field被volatile修饰符修饰时有效，而我们的HashEntry就是被volatile修饰的
public native void putOrderedObject(Object o, long offset, Object x);
关于Unsafe类，是Java提供的操作内存的类，其内容博大精深。可参考美团技术团队写的：Java魔法类：Unsafe应用解析
构造函数
我们来看下ConcurrentHashMap的构造函数在源码中是如何定义的
public class ConcurrentHashMap<K, V> extends AbstractMap<K, V>
implements ConcurrentMap<K, V>, Serializable {
private static final long serialVersionUID = 7249069246763182397L;
//默认初始容量
static final int DEFAULT_INITIAL_CAPACITY = 16;
//默认加载因子
static final float DEFAULT_LOAD_FACTOR = 0.75f;
//默认并发等级
static final int DEFAULT_CONCURRENCY_LEVEL = 16;
//最大容量
static final int MAXIMUM_CAPACITY = 1 << 30;
//最小Segment数量
static final int MIN_SEGMENT_TABLE_CAPACITY = 2;
//最大Segment数量
static final int MAX_SEGMENTS = 1 << 16;
//默认构造函数
public ConcurrentHashMap() {
this(DEFAULT_INITIAL_CAPACITY, DEFAULT_LOAD_FACTOR, DEFAULT_CONCURRENCY_LEVEL);
}
public ConcurrentHashMap(int initialCapacity) {
this(initialCapacity, DEFAULT_LOAD_FACTOR, DEFAULT_CONCURRENCY_LEVEL);
}
public ConcurrentHashMap(int initialCapacity, float loadFactor) {
this(initialCapacity, loadFactor, DEFAULT_CONCURRENCY_LEVEL);
}
/**
* initialCapacity：初始参数
* loadFactor：加载因子
* concurrencyLevel：并发级别即Segment的数量
*/
public ConcurrentHashMap(int initialCapacity,
float loadFactor, int concurrencyLevel) {
//非法数校验
if (!(loadFactor > 0) || initialCapacity < 0 || concurrencyLevel <= 0)
throw new IllegalArgumentException();
if (concurrencyLevel > MAX_SEGMENTS)
concurrencyLevel = MAX_SEGMENTS;
// 用来记录向左按位移动的次数
int sshift = 0;
//用来记录Segment的数量
int ssize = 1;
//该段while循环保证Segment的数量是2的幂
while (ssize < concurrencyLevel) {
++sshift;
ssize <<= 1;
}
this.segmentShift = 32 - sshift;
//这里SegmentMask先提前减一了，
//在hashmap中计算数组下标索引是(table.length-1)&hash
//这里也可以推断出Segment数量一旦确定不能在变，扩容是扩Segment数组内的HashEntry数组
this.segmentMask = ssize - 1;
if (initialCapacity > MAXIMUM_CAPACITY)
initialCapacity = MAXIMUM_CAPACITY;
//每个Segment数组内要放置多少个HashEntry数组
int c = initialCapacity / ssize;
//确保无余数
if (c * ssize < initialCapacity)
++c;
//确保每个Segment内部的HashEntry数组的大小一定为2的幂，当三个参数皆为默认值时，其Segment内部的table大小是2，
int cap = MIN_SEGMENT_TABLE_CAPACITY;
while (cap < c)
cap <<= 1;
// create segments and segments[0]
//初始化Segment数组，并填充Segment[0]，阈值是(int)(cap * loadFactor)，当参数皆为默认时，该值为1，当put第一个元素时不会扩容，在put就会触发扩容
Segment<K,V> s0 =
new Segment<K,V>(loadFactor, (int)(cap * loadFactor),
(HashEntry<K,V>[])new HashEntry[cap]);
Segment<K,V>[] ss = (Segment<K,V>[])new Segment[ssize];
UNSAFE.putOrderedObject(ss, SBASE, s0); // ordered write of segments[0]
this.segments = ss;
}
.....
由构造函数可以看出来
- Segment数量默认是16，初始容量默认是16，负载因子默认是0.75，最小Segment是2
- Segment的数量即为并发级别，且内部保证是2的幂，Segment内部的table大小也保证为2的幂
- Segment数量一旦确定不会在更改，后续添加元素不会增加Segment的数量，而是增加Segment中链表数组的容量，这样的好处是扩容也不用针对整个ConcurrentHashMap来进行了，而是针对Segment里面的数组
- 初始化了Segment[0]，其他Segment还是null
put函数
来看看put函数
public V put(K key, V value) {
Segment<K,V> s;
//value不能为空
if (value == null)
throw new NullPointerException();
//通过hash函数获取关于key的hash值
int hash = hash(key);
//计算要插入的Segment数组的下标，位运算提高计算速度，由于此处使用位运算，所以得保证是2的幂可以减少hash冲突，具体原因不详述
int j = (hash >>> segmentShift) & segmentMask;
//如果要插入的Segment为初始化，调用ensureSeggment函数进行初始化(初始化concurrentHashMap时只初始化了第一个Segment[0])
if ((s = (Segment<K,V>)UNSAFE.getObject // nonvolatile; recheck
(segments, (j << SSHIFT) + SBASE)) == null) // in ensureSegment
s = ensureSegment(j);
//调用Segment的put函数
return s.put(key, hash, value, false);
}
到现在我们还没有发现加锁，在接着看Segment中的put函数，可见是在该函数中加的锁，这又一次验证了是分段锁，计算完了Segment位置后，在针对某一个Segment内部进行插入的时候上锁。
final V put(K key, int hash, V value, boolean onlyIfAbsent) {
//去获取独占锁，获取锁失败进入scanAndLockForPut函数
HashEntry<K,V> node = tryLock() ? null :
scanAndLockForPut(key, hash, value);
V oldValue;
//到此处肯定已经获取到锁了
try {
//Segment内部的HashEntry数组
HashEntry<K,V>[] tab = table;
//计算元素插入的位置
int index = (tab.length - 1) & hash;
//定位到第index个HashEntry
HashEntry<K,V> first = entryAt(tab, index);
//该段for循环使用头插法将元素进行插入
for (HashEntry<K,V> e = first;;) {
if (e != null) {
K k;
//如果在链表中找到相同的key,则新值替换旧值，并退出函数
if ((k = e.key) == key ||
(e.hash == hash && key.equals(k))) {
oldValue = e.value;
//onlyIfAbsent默认为false，!onlyIfAbsent表示替换旧值
if (!onlyIfAbsent) {
e.value = value;
//修改次数+1
++modCount;
}
break;
}
//如果没有key值相同的则遍历到链表尾部
e = e.next;
}
else {//已经遍历到链表尾部
if (node != null)//在scanAndLockForPut函数中已经建立好node
node.setNext(first); //把node插入链表的头部
else
//新建node，插入到链表头部
node = new HashEntry<K,V>(hash, key, value, first);
//该count代表元素的个数
int c = count + 1;
//判断是否超过阈值，超过调用rehash扩容
if (c > threshold && tab.length < MAXIMUM_CAPACITY)
rehash(node);
else
//把node赋值给tab[index]
setEntryAt(tab, index, node);
++modCount;
count = c;
oldValue = null;
break;
}
}
} finally {
//释放锁
unlock();
}
return oldValue;
}
Segment内部的put函数涉及到一个scanAndLockForPut函数，多个线程去进行put操作，去竞争锁，那那些没获取到锁的线程它是如何处理的呢，我们来看一下scanAndLockForPut函数
private HashEntry<K,V> scanAndLockForPut(K key, int hash, V value) {
HashEntry<K,V> first = entryForHash(this, hash);
HashEntry<K,V> e = first;
HashEntry<K,V> node = null;
int retries = -1; // negative while locating node
while (!tryLock()) {
HashEntry<K,V> f; // to recheck first below
//自旋过程中遍历链表，若发现没有重复的key值，则提前先新建一个节点为后续的插入节约时间
if (retries < 0) {
if (e == null) {
if (node == null) // speculatively create node
node = new HashEntry<K,V>(hash, key, value, null);
retries = 0;
}
else if (key.equals(e.key))
retries = 0;
else
e = e.next;
}
//自旋次数达到若干次后就调用lock()进行阻塞，阻塞后的线程由AQS进行管理入队列
else if (++retries > MAX_SCAN_RETRIES) {
lock();
break;
}
else if ((retries & 1) == 0 &&
(f = entryForHash(this, hash)) != first) {
e = first = f; // re-traverse if entry changed
retries = -1;
}
}
return node;
}
该函数简化简化下来的思想如下：
//线程竞争锁失败后进入该函数
private HashEntry<K,V> scanAndLockForPut(K key, int hash, V value) {
//tryLock函数与Lock函数的区别就是tryLock函数获取锁失败会返回false,而不是阻塞
while(!tryLock()){//自旋操作
......
System.out.println("干点自己的事情...")
}
}
所以scanAndLockForPut函数的策略就是拿不到锁的线程不让它直接阻塞，而是让其自旋，自旋达到一定次数之后在调用lock()进行阻塞，另外在自旋的过程中遍历了后面的HashEntry链表,如果没有发现重复的节点就提前先建立一个，为线程之后拿到锁插入节省时间。
ensureSegment函数
在ConcurrentHashMap初始化时，只初始化了Segment[0]，其他的Segment数组都是null，多个线程可能同时调用ensureSegment去初始化Segment[j]，所以在该函数内部应该避免重复初始化的问题，保证其线程安全。
private Segment<K,V> ensureSegment(int k) {
//赋值ss=this.segments
final Segment<K,V>[] ss = this.segments;
long u = (k << SSHIFT) + SBASE; // raw offset
Segment<K,V> seg;
//第一次判断segment[j]是否被初始化
if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u)) == null) {
//使用segment[0]为原型去初始化新的segment
Segment<K,V> proto = ss[0]; // use segment 0 as prototype
int cap = proto.table.length;
float lf = proto.loadFactor;
int threshold = (int)(cap * lf);
HashEntry<K,V>[] tab = (HashEntry<K,V>[])new HashEntry[cap];
//第二次判断segment[j]是否被初始化
if ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
== null) { // recheck
Segment<K,V> s = new Segment<K,V>(lf, threshold, tab);
//while循环+CAS操作,当前线程成功设值或其他线程成功设值后，退出
while ((seg = (Segment<K,V>)UNSAFE.getObjectVolatile(ss, u))
== null) {//第三次判断segment[j]是否被初始化
if (UNSAFE.compareAndSwapObject(ss, u, null, seg = s))
break;
}
}
}
return seg;
}
可见UNSAFE.getObjectVolatile(ss, u)) == null出现了三次，多次去判断segment[j]是否被初始化了，即使如此也不能完全避免重复初始化，最后还采用CAS操作保证其只被初始化
rehash函数
我们在来看看具体是如何扩容的,在Segment内部的put函数我们看到，超过阈值后会进行扩容操作
private void rehash(HashEntry<K,V> node) {
//获取旧数组和其容量
HashEntry<K,V>[] oldTable = table;
int oldCapacity = oldTable.length;
//扩容为旧容量的2倍、设置新的阈值
int newCapacity = oldCapacity << 1;
threshold = (int)(newCapacity * loadFactor);
//创建新的数组
HashEntry<K,V>[] newTable =
(HashEntry<K,V>[]) new HashEntry[newCapacity];
//sizeMask提前减1了
int sizeMask = newCapacity - 1;
//遍历原数组
for (int i = 0; i < oldCapacity ; i++) {
//获取旧数组中的元素
HashEntry<K,V> e = oldTable[i];
if (e != null) {
HashEntry<K,V> next = e.next;
//计算插入的索引
int idx = e.hash & sizeMask;
if (next == null) // 链表中只有单个元素时，直接放入新数组中去
newTable[idx] = e;
else { // Reuse consecutive sequence at same slot
HashEntry<K,V> lastRun = e;
int lastIdx = idx;
//寻找链表中最后一个hash值不等于lastIdx的元素
for (HashEntry<K,V> last = next;last != null;last = last.next) {
int k = last.hash & sizeMask;
if (k != lastIdx) {
lastIdx = k;
lastRun = last;
}
}
//一个优化，把在lastRun之后的链表元素直接链到新hash表中的lastIdx位置
newTable[lastIdx] = lastRun;
//在lastrun之前的所有链表元素，需要在新的位置逐个拷贝
for (HashEntry<K,V> p = e; p != lastRun; p = p.next) {
V v = p.value;
int h = p.hash;
int k = h & sizeMask;
HashEntry<K,V> n = newTable[k];
newTable[k] = new HashEntry<K,V>(h, p.key, v, n);
}
}
}
}
// 把新的节点加入Hash表
int nodeIndex = node.hash & sizeMask;
node.setNext(newTable[nodeIndex]);
newTable[nodeIndex] = node;
table = newTable;
}
可见扩容函数是扩容为原来数组的两倍大小，且扩容进行了一次优化，并没有对元素依次拷贝，而是先通过for循环找到lastRun位置。lastRun到链表末尾的所有元素，其hash值没有改变，所以不需要一次重新拷贝，只需要把这部分链表链到新hash表中所对应的位置即可。lastRun之前的节点则需要依次拷贝。
get函数
整个get函数相对来是实现思路不复杂，先找到在哪个Segment数组中，再去寻找具体在哪个table上，整个过程没加锁，因为Sigment中的HashEntry和HashEntry中的value都是由volatile修饰的，volatile保证了内存的可见性。
public V get(Object key) {
Segment<K,V> s; // manually integrate access methods to reduce overhead
HashEntry<K,V>[] tab;
int h = hash(key);
//先计算在哪个segment数组中
long u = (((h >>> segmentShift) & segmentMask) << SSHIFT) + SBASE;
if ((s = (Segment<K,V>)UNSAFE.getObjectVolatile(segments, u)) != null &&
(tab = s.table) != null) {
//计算在segment数组中的哪个HashEntry上
for (HashEntry<K,V> e = (HashEntry<K,V>) UNSAFE.getObjectVolatile
(tab, ((long)(((tab.length - 1) & h)) << TSHIFT) + TBASE);
e != null; e = e.next) {
K k;
//key值和当前节点的key指向同一片地址，或者当前节点的hash等于key的hash并且equals比价后相同则说明是目标节点
if ((k = e.key) == key || (e.hash == h && key.equals(k)))
return e.value;
}
}
return null;
}
小结
ConcurrentHashMap内容颇多且有难度，以上为简单阅读，如有不对的恳请指正。
- 在JDK1.7中，ConcurrentHashMap是基于分段锁的思想来提高并发能力，数据结构采用Segment数组+HashEntry数组+链表来实现，每个Segment都相当于一把锁(其继承自ReentrantLock),多个线程操作多个Segment是相互独立的，Segment有多少个即为并发级别有多大。
- Segment在ConcurrentHashMap初始化后就不会改变了，其扩容是针对每个Segment内部的HashEntry数组扩容，扩容为原来的两倍大小且进行了优化。
- 多个线程put操作时候，竞争锁失败的线程会进行自旋，自旋达到一定次数在直接调用lock进行阻塞。
- 初始化ConcurrentHashMap的时候只会填充第一个Segment[0]，需要在多线程情况下避免重复初始化Segment[j]
- 读操作未上锁，Segment中的HashEntry数组和hashEntry对象中的value都是用volatile修饰的
