redis的数据结构——字典

一、前言

字典又称作符号表、关联数组或映射，是一种用于保存键值对的数据结构。在字典中，一个键（key）可以和一个值（value）进行关联，这些关联的键和值称之为键值对。字典经常作为一种数据结构被内置在很多的高级语言中，但Redis所使用的C语言并没有内置这种数据结构，因此Redis构建了自己的字典模型。

字典在Redis中的使用十分广泛，如Redis的数据库就是使用字典作为底层实现，除了数据库之外，字典还是哈希键的底层实现之一，当一个哈希表包含的键值对较多，或者键值对中的元素都是比较长的字符串时，Redis就会使用字典作为哈希键的底层实现。

二、示例

        set  msg  "hellow"

        执行上面的命令，Redis会创建key为msg，值为hellow的键值对，这个键值对就是保存在字典中的。

三、字典的实现

Redis的字典使用哈希表作为底层实现，一个哈希表可以有多个哈希节点，而每个哈希节点就保存了字典中的一个键值对。接下来将分别介绍Redis的哈希表，哈希表节点和字典的实现。

3.1、哈希表

Redis字典使用的哈希表的结构如下：

typedef struct dictht {
      //哈希表数组
     dicEntry **table;
     //哈希表大小
     unsigned long size;
     //哈希表大小掩码，用于计算索引值
     //总是等于size-1
     unsigned long sizemask;
     //该哈希表已有节点数量
     unsigned long used;  

}dictht;

 

table属性是一个数组，数组中的每一个元素都是指向dicEntry结构的指针，每个dicEntry保存着一个键值对。

size属性记录哈希表的大小，也就是table数组的大小。

used属性则记录了哈希表目前已有节点（键值对）的数量。

sizemask属性的值总等于 size-1，这个属性和哈希值一起决定一个键应该放到table数组的哪个索引上面。

3.2、哈希表节点 

Redis的哈希表节点使用dictEntry数据结构表示，每一个dictEntry结构都保存着一个键值对：

typedef struct dictEntry{

    void *key;
 
   union {
           
          void *value;

          uint64_tu64;

          int64_ts64;
   } v;

   //指向下一个哈希表节点，形成链表
   struct dictEntry *next;

}

 

key属性保存着键值对中的键，而v属性则保存着键值对中的值，其中键值对中的值可以是一个指针，或者一个uint64_tu64整数，又或者是int64_ts64整数。

next属性是指向另一个哈希表节点的指针，这个指针可以将多个哈希值相同的键值对链接在一起，以解决键冲突问题。

如图是一个包含两个键值对的哈希表的结构：

 3.3、字典

 Redis中字典的结构如下所示：

typedef struct dict {
    //特定类型的函数
    dictType *type;
    //私有数据
    void *privdata;
    //哈希表
    dictht  ht[2];
    //rehash索引
    //当rehash不在进行时，值为-1
    int trehashidx;

}dict;

 

 type属性和privdata属性是针对不同类型的键值对，为创建多态字典而设置的；

ht属性是一个包含两个项的数组，数组中的每一项都是dictht哈希表，一般情况下，字典只是用ht[0]哈希表，ht[1]哈希表只会在对ht[0]进行rehash时使用。、

除了ht[1]之外，另一个和rehash有关的属性就是rehashidx，它记录了rehash目前的进度，如果目前没有进行rehash，那么它的值为-1.

下图展示了一个字典的结构：

 

 四、哈希算法

当要将一个新的键值对加入到字典里时，程序需要先根据键值对的键计算出哈希值和索引值，然后再根据索引值，将包含新键值对的哈希表节点放到哈希表数组的指定索引上面。

Redis计算哈希值和索引值的方法如下：

#使用字典设置的hash函数，计算键key的哈希值

hash = dict->type-hashFunction(key)；

#使用sizemask属性和哈希值，计算出索引值，根据情况ht[x]可以是ht[0]或ht[1]

index = hash & dict ->ht[x].sizemask;

当字典被用作数据库底层实现或哈希键的底层实现时，Redis使用MurmurHash算法来计算哈希值。这种算法的优点是即使输入的键是有规律的，算法仍能给出一个很好的随机分布性，并且算法的计算速度也非常快。

五、解决键冲突

 当有两个或者以上的键被分配到了哈希表数组的同一个索引上面时，我们称这些键发生了冲突，Redis使用链地址法来解决键冲突，每个哈希表节点都有一个next指针，多个哈希表节点可以用next指针构成一个单向链表，被分配到同一个索引上的多个节点可以用这个单项链表链接起来，这就解决了键冲突问题

例如将k2和v2加入到字典中，并且计算得到k2的哈希值为2，那么k1和k2将发生冲突，解决的办法就是将k1和k2用next连接在一起。

 

 

 

六、rehash

随着操作的不断执行，哈希表中保存的键值对会不断的增多或减少，为了让哈希表的负载因子维持在一个合理的范围内，当哈希表保存的键值对数量太大或太少时，程序需要对哈希表进行相应的扩展或者收缩。扩展或收缩哈希表的操作可以通过Rehash来完成，Redis对字典的哈希表执行rehash操作步骤如下：

1. 为字典的ht[1]哈希表分配空间，这个哈希表的空间大小取决于要执行的操作，以及ht[0]当前包含的键值对数量（也就是used属性的值）。如果执行扩展操作，那么ht[1]的大小为第一个大于等于ht[0].used*2的2ⁿ (2的n次幂）；如果执行的是收缩操作，那么ht[1]的大小为第一个大于ht[0].used的2的n次幂。
2. 将保存在ht[0]中的键值对rehash到ht[1]上面：rehash指的是重新计算键的哈希值和索引值，然后将键值对放到ht[1]哈希表指定的位置。
3. 当ht[0]包含的所有键值对都迁移到ht[1]之后，释放ht[0]，将ht[1]设置为ht[1]，并在ht[1]创建新的空白哈希表，为下一次rehash做准备。

哈希表的扩展与收缩

当下面条件任意一个被满足时，程序会自动开始进行哈希表扩展操作。

• 服务器目前没有执行BGSAVE命令或者BGREWRITEAOF命令，并且哈希表的负载因子大于等于1。
• 服务器目前正在执行BGSAVE命令或者BGREWRITEAOF命令，并且哈希表的负载因子大于等于5。

 

laod_factor = ht[0].used / ht[0].size;

根据BGSAVE命令或者BGREWRITEAOF命令是否正在执行，服务器进行扩展操作所需要的负载因子并不相同，这是因为BGSAVE命令或者BGREWRITEAOF命令在执行过程中，Redis需要创建当前服务器进程的子进程，而大多数操作系统都采用写时复制技术来优化子进程的使用效率，所有在子进程执行期间，服务器会提高扩展所需要的负载因子，从而尽量避免在子进程存在期间进行哈希表扩展操作，这可以避免不必要的内存写入操作，最大限度的节约内存。

当哈希表的负载因子小于0.1时，程序自动对哈希表进行收缩操作。

七、渐进式rehash

Redis的字典对哈希表进行Rehash操作并不是一次性完成的，而是分多次、渐进式的进行，这样做的原因是为了对大量键值对进行rehash对服务器性能造成影响。

渐进式rehash步骤如下：

1. 为ht[1]分配空间，让字典同时持有ht[0]和ht[1]两个哈希表。
2. 在字典中维持一个索引计数器变量rehashidx，并将它的值设为0，表示rehash工作正式开始。
3. 在rehash期间，每次对字典进行添加、删除、查找或者更新操作时，程序除了执行指定的操作以外，还会顺带将ht[0]哈希表在rehashidx索引上的所有键值对rehash到ht[1]上，当rehash完成时，程序将rehashidx属性值增加一。
4. 随着字典操作的不断进行，最终在某个时间点ht[0]上的所有键值对会被rehash到ht[1]上，这时程序将rehashidx的值设置为-1，表示rehash操作完成。

渐进式rehash的好处在于它采用分而治之的方式，将rehash的工作量分摊到每次对字典的添加，删除，查找和更新的操作上，从而避免集中式rehash带来的庞大计算量。

八、总结

 字典被广泛用于实现Redis的各种功能中，包括数据库和哈希键。

Redis的字典使用哈希表作为底层实现，每个字典带有两个哈希表，一个平时使用，一个Rehash时使用

哈希表采用链地址法解决键冲突，。

字典采用渐进式Rehash而不是集中式rehash。