Redis复习-通信协议、内存回收

通信协议

RESP协议

Redis是一个CS架构的软件，通信一般分两步（不包括pipeline和PubSub）：
1.客户端（client）向服务端（server）发送一条命令
2.服务端解析并执行命令，返回响应结果给客户端
因此客户端发送命令的格式、服务端响应结果的格式必须有一个规范，这个规范就是通信协议。

而在Redis中采用的是RESP（Redis Serialization Protocol）协议：
Redis 1.2版本引入了RESP协议
Redis 2.0版本中成为与Redis服务端通信的标准，称为RESP2
Redis 6.0版本中，从RESP2升级到了RESP3协议，增加了更多数据类型并且支持6.0的新特性--客户端缓存

但目前，默认使用的依然是RESP2协议，也是我们要学习的协议版本（以下简称RESP）。

基于Socket的自定义Redis客户端

在RESP中，通过首字节的字符来区分不同数据类型，常用的数据类型包括5种：
1.单行字符串：首字节是 ‘+’ ，后面跟上单行字符串，以CRLF（ "\r\n" ）结尾。例如返回"OK"： "+OK\r\n"
2.错误（Errors）：首字节是 ‘-’ ，与单行字符串格式一样，只是字符串是异常信息，例如："-Error message\r\n"
3.数值：首字节是 ‘:’ ，后面跟上数字格式的字符串，以CRLF结尾。例如：":10\r\n"
4.多行字符串：首字节是 ‘$’ ，表示二进制安全的字符串，最大支持512MB：
如果大小为0，则代表空字符串："$0\r\n\r\n"
如果大小为-1，则代表不存在："$-1\r\n"

5.数组：首字节是 ‘*****’，后面跟上数组元素个数，再跟上元素，元素数据类型不限:

指定命令的实现

package com.demo;

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.io.PrintWriter;
import java.net.Socket;
import java.nio.charset.StandardCharsets;
import java.util.ArrayList;
import java.util.List;

public class Main {
    static Socket socket;
    static PrintWriter writer;
    static BufferedReader reader;

    public static void main(String[] args) {
        try {
            //建立连接
            String host = "localhost";
            int port = 6379;
            socket = new Socket(host, port);
            //获取输入、输出流
            writer = new PrintWriter(socket.getOutputStream());//输入流
            reader = new BufferedReader(new InputStreamReader(socket.getInputStream(), StandardCharsets.UTF_8));//输出流
            //发请求
            sendRequest();
            //解析响应
            Object res = handleResponse();
            System.out.println(res);
        } catch (Exception e) {
            throw new RuntimeException(e);
        } finally {
            //释放连接
            try {
                if (reader!=null) reader.close();
            } catch (IOException e) {
                throw new RuntimeException(e);
            }
            if (writer!=null) writer.close();
            try {
                if (socket!=null) socket.close();
            } catch (IOException e) {
                throw new RuntimeException(e);
            }
        }

    }


    //发送请求(set name 张三)
    private static void sendRequest() {
        writer.println("*3");
        writer.println("$3");
        writer.println("set");
        writer.println("$4");
        writer.println("name");
        writer.println("$6");
        writer.println("张三");

        writer.flush();
    }

    //解析响应
    private static Object handleResponse() throws IOException {
        int prefix = reader.read();//读取第一个字符
        switch (prefix)
        {
            case '+':
                return reader.readLine();
            case '-':
                throw new RuntimeException(reader.readLine());
            case ':':
                return Long.valueOf(reader.readLine());
            case '$':
                int len = Integer.parseInt(reader.readLine());//读取长度
                if (len == 0) return "";
                else if (len == 1) return null;
                return reader.readLine();
            case '*':
                return handleMultiple();
            default:
                throw new RuntimeException("不支持的数据类型");
        }
    }

    private static Object handleMultiple() throws IOException {
        Integer len = Integer.valueOf(reader.readLine());
        if (len <= 0) return null;
        List<Object> list = new ArrayList<>();
        for (int i = 0; i < len; i++) {
            list.add(handleResponse());
        }
        return list;
    }
}

将命令改为可以自定义输入命令的方式

package com.demo;

import java.io.BufferedReader;
import java.io.IOException;
import java.io.InputStreamReader;
import java.io.PrintWriter;
import java.net.Socket;
import java.nio.charset.StandardCharsets;
import java.util.ArrayList;
import java.util.List;

public class Main {
    static Socket socket;
    static PrintWriter writer;
    static BufferedReader reader;

    public static void main(String[] args) {
        try {
            //建立连接
            String host = "localhost";
            int port = 6379;
            socket = new Socket(host, port);
            //获取输入、输出流
            writer = new PrintWriter(socket.getOutputStream());//输入流
            reader = new BufferedReader(new InputStreamReader(socket.getInputStream(), StandardCharsets.UTF_8));//输出流
            //发请求
            sendRequest("set", "name", "张三");
            //解析响应
            Object res = handleResponse();
            System.out.println(res);
            sendRequest("set", "num", "22");
            //解析响应
            System.out.println(handleResponse());
            //发请求
            sendRequest("mget", "name","num");
            //解析响应
            System.out.println(handleResponse());
        } catch (Exception e) {
            throw new RuntimeException(e);
        } finally {
            //释放连接
            try {
                if (reader != null) reader.close();
            } catch (IOException e) {
                throw new RuntimeException(e);
            }
            if (writer != null) writer.close();
            try {
                if (socket != null) socket.close();
            } catch (IOException e) {
                throw new RuntimeException(e);
            }
        }

    }


    //发送请求(set name 张三)
    private static void sendRequest(String... args) {
        writer.println("*" + args.length);//数组长度
        for (String arg : args) {
            writer.println("$" + arg.getBytes(StandardCharsets.UTF_8).length);//二进制位数
            writer.println(arg);
        }

        writer.flush();//刷新
    }

    //解析响应
    private static Object handleResponse() throws IOException {
        int prefix = reader.read();//读取第一个字符
        switch (prefix) {
            case '+':
                return reader.readLine();
            case '-':
                throw new RuntimeException(reader.readLine());
            case ':':
                return Long.valueOf(reader.readLine());
            case '$':
                int len = Integer.parseInt(reader.readLine());//读取长度
                if (len == 0) return "";
                else if (len == 1) return null;
                return reader.readLine();
            case '*':
                return handleMultiple();
            default:
                throw new RuntimeException("不支持的数据类型");
        }
    }

    private static Object handleMultiple() throws IOException {
        Integer len = Integer.valueOf(reader.readLine());
        if (len <= 0) return null;
        List<Object> list = new ArrayList<>();
        for (int i = 0; i < len; i++) {
            list.add(handleResponse());
        }
        return list;
    }
}

内存回收

过期Key处理

Redis本身是一个典型的key-value内存存储数据库，因此所有的key、value都保存在之前学习过的Dict结构中。不过在其database结构体中，有两个Dict：一个用来记录key-value；另一个用来记录key-TTL。

typedef struct redisDb {
  dict *dict;         /* 存放所有key及value的地方，也被称为keyspace*/
  dict *expires;        /* 存放每一个key及其对应的TTL存活时间，只包含设置了TTL的key*/
  dict *blocking_keys;     /* Keys with clients waiting for data (BLPOP)*/
  dict *ready_keys;      /* Blocked keys that received a PUSH */
  dict *watched_keys;     /* WATCHED keys for MULTI/EXEC CAS */
  int id;           /* Database ID，0~15 */
  long long avg_ttl;      /* 记录平均TTL时长 */
  unsigned long expires_cursor; /* expire检查时在dict中抽样的索引位置. */
  list *defrag_later;     /* 等待碎片整理的key列表. */
} redisDb;

结构：

这里有两个问题需要我们思考：

1.Redis是如何知道一个key是否过期呢？
利用两个Dict分别记录key-value对及key-ttl对

2.是不是TTL到期就立即删除了呢？
惰性删除、周期删除

惰性删除：顾明思议并不是在TTL到期后就立刻删除，而是在访问一个key的时候，检查该key的存活时间，如果已经过期才执行删除。

周期删除：顾明思议是通过一个定时任务，周期性的抽样部分过期的key，然后执行删除。执行周期有两种：
1.Redis服务初始化函数initServer()中设置定时任务，按照server.hz的频率来执行过期key清理，模式为SLOW
2.Redis的每个事件循环前会调用beforeSleep()函数，执行过期key清理，模式为FAST

SLOW模式规则：
1.执行频率受server.hz影响，默认为10，即每秒执行10次，每个执行周期100ms。
2.执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms
3.逐个遍历db，逐个遍历db中的bucket，抽取20个key判断是否过期
4.如果没达到时间上限（25ms）并且过期key比例大于10%，再进行一次抽样，否则结束

FAST模式规则（过期key比例小于10%不执行）：
1.执行频率受beforeSleep()调用频率影响，但两次FAST模式间隔不低于2ms
2.执行清理耗时不超过1ms
3.逐个遍历db，逐个遍历db中的bucket，抽取20个key判断是否过期
4.如果没达到时间上限（1ms）并且过期key比例大于10%，再进行一次抽样，否则结束

总结

RedisKey的TTL记录方式：
在RedisDB中通过一个Dict记录每个Key的TTL时间

过期key的删除策略：
惰性清理：每次查找key时判断是否过期，如果过期则删除
定期清理：定期抽样部分key，判断是否过期，如果过期则删除。

定期清理的两种模式：
SLOW模式执行频率默认为10，每次不超过25ms
FAST模式执行频率不固定，但两次间隔不低于2ms，每次耗时不超过1ms

内存淘汰策略

内存淘汰：就是当Redis内存使用达到设置的上限时，主动挑选部分key删除以释放更多内存的流程。Redis会在处理客户端命令的方法processCommand()中尝试做内存淘汰：

int processCommand(client *c) {
  // 如果服务器设置了server.maxmemory属性，并且并未有执行lua脚本
  if (server.maxmemory && !server.lua_timedout) {
    // 尝试进行内存淘汰performEvictions
    int out_of_memory = (performEvictions() == EVICT_FAIL);
    // ...
    if (out_of_memory && reject_cmd_on_oom) {
      rejectCommand(c, shared.oomerr);
      return C_OK;
    }
    // ....
  }
}

Redis支持8种不同策略来选择要删除的key：
noeviction：不淘汰任何key，但是内存满时不允许写入新数据，默认就是这种策略。
volatile-ttl：对设置了TTL的key，比较key的剩余TTL值，TTL越小越先被淘汰
allkeys-random：对全体key ，随机进行淘汰。也就是直接从db->dict中随机挑选
volatile-random：对设置了TTL的key ，随机进行淘汰。也就是从db->expires中随机挑选。
allkeys-lru：对全体key，基于LRU算法进行淘汰
volatile-lru：对设置了TTL的key，基于LRU算法进行淘汰
allkeys-lfu：对全体key，基于LFU算法进行淘汰
volatile-lfu：对设置了TTL的key，基于LFI算法进行淘汰

比较容易混淆的有两个：
LRU（Least Recently Used），最少最近使用。用当前时间减去最后一次访问时间，这个值越大则淘汰优先级越高。
LFU（Least Frequently Used），最少频率使用。会统计每个key的访问频率，值越小淘汰优先级越高。

Redis的数据都会被封装为RedisObject结构：

typedef struct redisObject {
  unsigned type:4;     // 对象类型
  unsigned encoding:4;   // 编码方式
  unsigned lru:LRU_BITS; // LRU：以**秒**为单位记录最近一次访问时间，长度24bit
  // LFU：高16位以**分钟**为单位记录最近一次访问时间，低8位记录逻辑访问次数
  int refcount;      // 引用计数，计数为0则可以回收
  void *ptr;        // 数据指针，指向真实数据
} robj;

LFU的访问次数之所以叫做逻辑访问次数，是因为并不是每次key被访问都计数，而是通过运算：
1.生成0~1之间的随机数R
2.计算 (旧次数 * lfu_log_factor + 1)，记录为P
3.如果 R < P ，则计数器 + 1，且最大不超过255
4.访问次数会随时间衰减，距离上一次访问时间每隔 lfu_decay_time 分钟，计数器 -1

posted @ 2025-02-27 17:58 Helix_node 阅读(8) 评论(0) 编辑收藏举报

刷新页面返回顶部

登录后才能查看或发表评论，立即登录或者逛逛博客园首页

相关博文：

· Redis复习-五种数据类型

· Redis复习-底层数据结构

· redis自学（24）RESP协议

· Redis序列化协议：RESP

· Redis的RESP2协议讲解与Telnet实战

公告

昵称： Helix_node
园龄： 11个月
粉丝： 0
关注： 0

+加关注

2025年3月

日

一

二

三

四

五

六