Redis阅读笔记--压缩列表

Redis阅读笔记--压缩列表

​ 压缩列表(ziplist)是列表键和哈希键的底层实现之一。当一个列表指包含少量的列表项， 并且每个列表项要么就是小整数值， 要么就是长度比较短的字符串， 那么Redis就会使用压缩列表来做列表键的底层实现。

​ 例如，执行以下命令将会创建一个压缩列表实现的列表键。

127.0.0.1:6379> rpush lst 1 3 5 10086 "hello" "world"
(integer) 6
127.0.0.1:6379> object encoding lst
"ziplist"

​ 列表键里包含的都是1、3、5、10086这样的小整数值， 以及“hello”，“world"这样的短字符串。

​ 另外， 当一个哈希键只包含了少量键值对，并且每个键值对的键和值要么就是小整数值， 要么就是长度比较短的字符串， 那么Redis就会使用压缩列表来做哈希键的底层实现。

​ 举个例子， 执行一下命令将会创建一个压缩列表实现的哈希键：

127.0.0.1:6379> hmset profile "name" "Jack" "age" 28 "job" "Programmer"
OK 
127.0.0.1:6379> object encoding profile
"ziplist"

​ 哈希键里包含的所有键和值都是小整数值或者短字符串。

压缩表的构成

​ 压缩列表是Redis为了节约内存而开发的，是由一些列特殊编码的连续内存快组成的顺序性(sequential)数据结构。一个压缩列表可以包含任意多个节点(entry)，每个节点可以保存一个字节数组或者一个整数值。

​ 下图展示了压缩列表的各个组成部分， 记录了各个组成部分的类型、长度及用途。

zlbytes zltail zllen entry1 entry2 ... entryN zlend

​ 下图是压缩列表各个组成部分的详细说明

属性 类型 长度 用途
zlbytes uint32_t 4字节 记录整个压缩列表占用的内存字节数：在对压缩列表进行内存重分配或者计算zlend的位置时使用
zltail uint32_t 4字节 记录压缩列表表尾节点压缩列表的起始地址由多少字节：通过这个偏移量，程序无须遍历整个压缩表就可以确定表尾节点的地址
zllen uint16_t 2字节 记录了压缩列表包含的阶段数量：当这个属性的值小于UINT16_MAX(65535)时，这个属性的值就是压缩列表包含阶段的数量；当这个值等于UINT16_MAX时，节点的真实数量需要遍历整个压缩列表才能计算得出
entryX 列表节点 不定 压缩列表包含的各个节点，节点的长度由节点保存的内容决定
zlend uint8_t 1字节 特殊值0xFF(十进制255)，用于标记压缩列表的末端

​ 下图展示了一个压缩列表示例：

zlbytes
0x50		 zltail
0x3c		 zllen
0x3		 entry1 entry2 entry3 zlend
0xFF
↑
p		 ↑
p
  • 列表zlbytes属性得值为0x50(十进制80)， 表示压缩列表得总长是80字节。
  • 李彪zltail属性值为0x3c(十进制60)， 者表示如果我们有一个指向压缩列表起始地址得指针p， 那么只要用指针p加上偏移量60，就可以计算出表尾节点entry3的地址。
  • 列表zllen属性值为0x3(十进制3)，表示压缩列表包含三个几点。

​ 下图展示了另一个压缩列表示例：

zlbytes
0xd2		 zltail
0xb3		 zllen
0x5		 entry1 entry2 entry3 entry4 entry5 zlend
0xFF
↑
p		 ↑
p+179
  • 列表zlbytes属性的值为0xd2(十进制210)，表示压缩列表的总长度为210字节。
  • 列表zltail属性的值为0xb3(十进制179)， 这表示如果我们由一个指向压缩列表起始位置的指针p， 那么只要用指针加上偏移量179，就可以计算出表尾节点entry5的地址。
  • 列表zllen属性的值为0x5(十进制5)，表示压缩列表包含5个节点。

压缩列表节点的构成

​ 每个压缩列表节点可以保存一个字节数组或者一个整数值，其中，字节数组可以是一下三种长度的其中一种：

  • 长度小于等于63(2^6 - 1) 字节的字节数组

  • 长度小于等于16383(2^14 - 1)字节的字节数组

  • 长度小于等于4294967295(2^32-1)字节的字节数组

    而正数组则可以是一下六种长度的其中一种

  • 4位长， 介于0值12之间的无符号整数

  • 1字节长的有符号整数

  • 3字节长的有符号整数

  • int16_t类型整数

  • int32_t类型整数

  • int64_t类型整数

    ​ 每个压缩表节点都是由previous_entry_length、encoding、content三个部分组成，如下图所示：

    previous_entry_length encoding content

previous_entry_length

​ 节点的previous_entry_length属性以节字位单位，记录了压缩列表中前一个节点的长度。previous_entry_length属性的长度可以说1字节或5字节：

  • 如果前一节点的长度小于254字节，那么previous_entry_length属性的长度为1字节，前一节点的长度就保存在这一个字节里面

  • 如果前一节点的长度大于等于254字节，那么previous_entry_length熟悉的长度为5字节， 其中属性的第一个字节被设置为0xFE(十进制254)，而之后的四个字节则用于保存前一节点的长度。

    ​ 下图展示了一个包含一个字节长previous_entry_length属性的压缩列表节点， 属性的值为0x05，表示前一个节点的长度为5个字节。

    previous_entry_length
    0x05    		 encoding
    ...    		 content
    ...

    ​ 下图展示了一个包含5个字节长previous_entry_length属性的压缩节点， 属性的值为0xFE00002766，其中值得最高位字节0xFE表示这是一个字节长得previous_entry_length属性， 而之后的四个字节0x00002766(十进制10086)才是前一节点的实际产长度。

    previous_entry_length
    0xFE00002766    		 encoding
    ...    		 content
    ...

    ​ 因为节点的previous_entry_length属性记录了前一个节点的长度， 所以程序可以通过指针运算， 根据当前节点的起始地址来计算出前一个节点的起始地址。

    ​ 举个例子，如果我们有一个指向当前节点起始指针的地址c， 那么我们只要用指针c减去当前节点previous_entry_length属性的值， 就一个获得一个指向前一个节点起始地址的指针p， 如下图所示：

    ... previous_entry_length current_entry ...
    ↑
    p = c - current_entry.previous_entry_length    		 ↑
    c

    ​ 压缩列表的从表尾向表头遍历操作就是使用这个原理实现的，只要我们有了一个指向某个节点起始指针的地址， 那么通过这个指针以及这个节点的previous_entry_length属性， 程序就可以一直向前一个节点回溯，最终达到压缩列表的表头节点。

    ​ 下图展示了一个从表尾节点向表头节点进行遍历的完整过程：

    • 首先， 我们拥有指向压缩列表表尾节点entry4起始指针的地址p1(指向表尾节点的指针可以通过指向压缩列表起始地址的指针加上zltail属性的值得出)；

    • 通过用p1减去entry4节点previous_entry_length属性的值， 我们得到一个指向entry3前一个节点entry2起始地址的指针p3；

    • 通过用p3减去entry2节点previous_entry_length属性的值，我们得到一个指向entry2前一个节点entry1起始地址的指针p4， entry1位压缩列表的表头节点；

    • 最终，我们从表尾节点向表头节点遍历了整个列表。

      ​

zlbytes zltail zllen entry1 entry2 entry3 entry4 zlend
↑
p1
zlbytes zltail zllen entry1 entry2 entry3 entry4 zlend
↑
p2 = p1 - entry4.previous_entry_length
zlbytes zltail zllen entry1 entry2 entry3 entry4 zlend
↑
p3 = p2 - entry3.previous_entry_length
zlbytes zltail zllen entry1 entry2 entry3 entry4 zlend
↑
p4 = p3 - entry2.previous_entry_length

encoding

​ 节点的encoding属性记录了节点的content属性保存的数据类型及长度：

  • 一字节、两字节或者五字节长， 值最高位00、01或者10的是字节数组编码：这种编码表示节点的content属性保存着字节数组， 数组的长度由编码去除最高两位后的其他位记录；

  • 一字节长，值得最高位以11开头得整数编码： 这种编码表示节点得content属性保存着整数值， 整数值得类型和长度由编码除去最高两位后得其他位记录；

    ​ 下图记录了所有可用得字节数组编码， 表格中得下划线"_"表示留空， 而b、x等遍历表示代表实际得二进制数据，为了方便阅读， 多个字节之间用空格隔开。

    编码 编码长度 content属性保存的值
    00bbbbbb 1字节 长度小于等于63字节的字节数组
    01bbbbbb xxxxxxxxx 2字节 长度小于等于16383字节的数组
    10_ _ _ _ _ _ _ _ aaaaaaaa bbbbbbbb ccccccccc dddddddd 5个字节 长度小于等于4294967295的字节数组

    ​ 下图则表示了所有可用的整数编码。

    编码 编码长度 content属性保存的值
    11000000 1字节 int16_t类型的整数
    11010000 1字节 int32_t类型的整数
    11100000 1字节 int64_t类型的整数
    11110000 1字节 24位有符号整数
    11111100 1字节 8位有符号整数
    1111xxxx 1字节 使用这一编码的节点没有响应的content属性， 因为本身的xxxx四个位已经宝座了一个介于0和12之间的值， 所以它无需content属性

content

​ 节点的content属性负责保存节点的值， 节点值可以是一个字节数组或者整数， 值的类型和长度由节点的encoding属性决定。

​ 下图展示了一个保存字节数组的节点实例：

  • 编码的最高两位00表示节点保存的是一个字节数组
  • 编码的后6位001011记录了字节数组的长度11；
  • content属性保存着节点的值"hello world"
previous_entry_length
...		 encoding
00001011		 content
"hello world"

​ 下图展示了一个保存整数值的节点示例：

previous_entry_length
...		 encoding
00001011		 content
10086
  • 编码1100000表示节点保存的是一个int16_t类型的整数值；
  • content属性保存着节点的值10086

连锁更新

​ 前面说过， 每个节点的pervious_entry_length属性都记录前一个节点的长度：

  • 如果前一个节点的长度小于254字节，那么previous_entry_length属性需要用1字节长的空间来保存这个长度值

  • 如果前一个节点的长度大于等于254字节，那么previous_entry_length属性需要用5个字节长的空间来保存这个长度值。

    ​ 现在，考虑这样的一种情况， 在一个压缩列表中，由多个连续的、长度介于250到253字节之间的节点e1至eN， 如下图所示。

    zlbytes zltail zllen e1 e2 e3 ... eN zlend

    ​ 因为e1至eN的所有节点的长度都小于254字节，所以记录这些节点的长度只需要1字节长的previous_entry_length属性， 换句话说， e1至eN所有的节点的previous_entry_length属性都是1字节长的。

    ​ 这时，如果我们将一个长度大于等于254字节的新节点new设置位压缩列表的头节点， 那么new将称为e1的前置节点，如下图所示。

    zlbytes zltail zllen new e1 e2 e3 ... eN zlend

    ↑
    添加新节点

    ​ 因为e1的previous_entry_length属性仅长1字节， 它没办法保存新节点new的长度， 所以程序将压缩列列表执行空间重分配操作， 并将e1节点的previous_entry_length属性从原来的1字节长扩展为5字节长。

    ​ 现在麻烦事来了， e1原本的长度介于250字节至253字节之间， 因为在previous_entry_length属性新增四个字节的空间之后， e1的长度就变成了介于254字节至257字节之间， 而这种长度使用1字节长的previous_entry_length属性是没办法保存的。

    ​ 因此为了让e2的previous_entry_length属性可以记录下e1的长度， 程序需要再次对压缩列表执行空间重分配操作， 并将e2节点的previous_entry_length属性从原来的1字节长扩展为5字节长。

    ​ 正如扩展e1引发了对e2的扩展一样， 扩展e2也会引发对e3的扩展， 而扩展e3又会引发对e4的扩展......为了让每个节点的previous_entry_length属性都符合压缩表对节点的要求， 程序需要不断地对压缩列表执行空间重分配操作， 知道eN为止。

    ​ Redis将这种在特殊情况下产生的连续多次空间扩展操作称为为"连锁更新"(cascade update)，如下图展示了这一过程。

zlbytes zltail zllen new e1 e2 e3 ... eN zlend
↑
扩展e1并引发对e2的扩展
zlbytes zltail zllen new e1 e2 e3 ... eN zlend
↑
扩展e2并引发对e3的扩展
zlbytes zltail zllen new e1 e2 e3 ... eN zlend
↑
扩展e3并引发对e4的扩展
zlbytes zltail zllen new e1 e2 e3 ... eN zlend
↑
一直扩展下去...
zlbytes zltail zllen new e1 e2 e3 ... eN zlend
↑
eN-1扩展的eN的previous_entry_length属性连锁更新到此结束

​ 除了添加新节点可能会引发连锁更新之外， 删除节点也会引发连锁更新。

​ 考虑到如下图所示的压缩列表，如果e1至eN都是大小介于250节字至253字节， big节点的长度大于等于254字节(需要5字节的previous_entry_length来保存)，而small节点的长度小于254字节(只需要1字节的previous_entry_length来保存)，那么当我们将small节点从压缩列表中删除之后，为了让e1的previous_entry_length属性可以记录big节点的长度，程序将扩展e1的空间，并由此引发之后的连锁更新。

zlbytes zltail zllen big small e1 e2 e3 ... eN zlend
↑
删去small节点将引发连锁更新

​ 因为连锁更新在最坏情况下需要对压缩列表执行N次空间重分配操作，而每次空间重分配的最坏情况复杂度为O(N)，所以连锁更新的最坏复杂度为O(N^2)。

​ 需要注意的是， 尽管连锁更新的复杂度较高， 但它真正造成性能问题的几率是很低的：

  • 首先， 压缩列表里要恰好有多个连续的、长度介于250字节至253字节之间的节点， 连锁更新才有可能被引发， 在实际中，这种情况并不多见；

  • 其次，即使出现连锁更新， 但只要被更新的节点数量不多，就不会对性能造成任何影响： 比如说，对三五个节点进行连锁更新是绝对不会影响性能的；

    ​ 因为以上原因， ziplistPush等命令的平均复杂度仅为O(N)， 在实际中， 我们可以放心的使用这些函数， 而不必担心连锁更新会影响压缩列表的性能。

posted @ 2020-09-04 15:21  phper-liunian  阅读(174)  评论(0)  编辑  收藏  举报