ziplist之详细分析
压缩列表ziplist
ziplist是一种连续,无序的数据结构。压缩列表是 Redis 为了节约内存而开发的, 由一系列特殊编码的连续内存块组成的顺序型(sequential)数据结构。
组成
属性 | 类型 | 长度 | 用途 |
zlbytes | uint_32t | 4B | 记录整个压缩列表占用的内存字节数:在对压缩列表进行内存重分配, 或者计算 zlend的位置时使用 |
zltail | uint_32t | 4B | 记录压缩列表表尾节点距离压缩列表的起始地址有多少字节:通过这个偏移量,程序无须遍历整个压缩列表就可以确定表尾节点的地址。 |
zllen | uint_16t | 2B |
记录了压缩列表包含的节点数量: 当这个属性的值小于UINT16_ MAX (65535)时, 这个属性的值就是压缩列表包含节点的数量; 当这个值等于 UINT16_MAX 时, 节点的真实数量需要遍历整个压缩列表才能计算得出。 |
entryX | 列表节点 | 不定 | 压缩列表包含的各个节点,节点的长度由节点保存的内容决定。 |
zlend | uint_8t | 1B | 特殊值 0xFF (十进制 255 ),用于标记压缩列表的末端。 |
压缩列表节点的构成
一个压缩列表可以包含任意多个节点(entry), 每个节点可以保存一个字节数组或者一个整数值(小整数值或者长度比较短的字符串)。
(1)节点的 previous_entry_length 属性以字节为单位, 记录了压缩列表中前一个节点的长度
(1)如果前一节点的长度小于 254 字节, 那么 previous_entry_length 属性的长度为 1 字节: 前一节点的长度就保存在这一个字节里面。例如:值为0x05
(2)如果前一节点的长度大于等于 254 字节, 那么 previous_entry_length 属性的长度为 5 字节: 其中属性的第一字节会被设置为 0xFE (十进制值 254), 而之后的四个字节则用于保存前一节点的长度。例如:值为0xFE00002766;0xFE表明这是一个5字节长的属性,之后的四个字节 0x00002766(10086)才是前一节点的实际长度。
程序可以通过指针运算, 根据当前节点的起始地址来计算出前一个节点的起始地址。
(2)节点的 encoding 属性记录了节点的 content 属性所保存数据的类型以及长度:
一字节(00)、两字节(01)或者五字节长(10), 值的最高位为 00 、 01 或者 10 的是字节数组编码: 这种编码表示节点的 content 属性保存着字节数组, 数组的长度由编码除去最高两位之后的其他位记录;
一字节长, 值的最高位以 11 开头的是整数编码: 这种编码表示节点的 content 属性保存着整数值, 整数值的类型和长度由编码除去最高两位之后的其他位记录;
字节数组编码 | 编码长度 | content属性保存的值 |
00bbbbbb | 1B | 长度小于等于63 字节的字节数组 |
01bbbbbb xxxxxxxx | 2B | 长度小于等于16 383 字节的字节数组 |
10______ aaaaaaaa bbbbbbbb cccccccc dddddddd | 5B | 长度小于等于 4 294 967 295 的字节数组 |
整数编码 | 编码长度 | content属性保存的值 |
11000000 | 1B | int16_t 类型的整数 |
11010000 | 1B | int32_t 类型的整数 |
11100000 | 1B | int64_t 类型的整数 |
11110000 | 1B | 24 位有符号整数 |
11111110 | 1B | 8 位有符号’些数 |
1111xxxx | 1B | 使用这一编码的节点没有相应的content 属性,因为编码本身的xxxx 四个位已经保存了一个介于0 和12 之间的值,所以它无须content 属性 |
(3)节点的 content 属性负责保存节点的值, 节点值可以是一个字节数组或者整数, 值的类型和长度由节点的 encoding 属性决定。
“连锁更新”
前面说过,每个节点的previous_entry _length 属性都记录了前一个节点的长度:
(1)如果前一节点的长度小于254 字节,那么previ ous_ entry_length 属性需要用
1字节长的空间来保存这个长度值。
(2)如果前一节点的长度大于等于254 字节,那么previous entry length 属性需
要用5 字节长的空间来保存这个长度值。
如果我们将一个长度大于等于 254 字节的新节点 new 设置为压缩列表的表头节点,那么麻烦的事情来了,由于previous entry length大小不够用(1->5B),后面所有的节点可能都要重新分配内存大小。因为连锁更新在最坏情况下需要对压缩列表执行 N 次空间重分配操作, 而每次空间重分配的最坏复杂度为 O(N) , 所以连锁更新的最坏复杂度为 O(N^2) 。
但是呢,尽管连锁更新的复杂度较高,但它真正造成性能问题的几率是很低的。
(1)首先,压缩列表里要恰好有多个连续的、长度介于250 字节至253 宇节之间的节点,连锁更新才有可能被引发,在实际中,这种情况并不多见;
(2)其次,即使出现连锁更新,但只要被更新的节点数量不多,就不会对性能造成任何影响:比如说,对三五个节点进行连锁更新是绝对不会影响性能的;
因为以上原因, ziplistPush 等命令的平均复杂度仅为0(的,在实际中,我们可以放心地使用这些函数,而不必担心连锁更新会影响压缩列表的性能。