Redis 内存分析方法
背景
线上经常遇到用户想知道自己 Redis 实例中数据的内存分布情况。为了不影响线上实例的使用,我们一般会采用 bgsave 生成 dump.rdb 文件,再结合 redis-rdb-tools 和 sqlite 来进行静态分析。总的来说,整个分析的过程简单而实用,是每一个 Redis 的用户都非常值得掌握的一个方法。
创建备份
自建 Redis 可在客户端执行 bgsave
生成 rdb 文件。云数据库 Redis 版可以在控制台上可以进行数据备份和下载的操作,下载后的数据为 rdb 格式文件。步骤详见下图:
生成内存快照
redis-rdb-tools 是一个 python 的解析 rdb 文件的工具,在分析内存的时候,我们主要用它生成内存快照。主要有以下三个功能:
- 生成内存快照
- 转储成 json 格式
- 使用标准的 diff 工具比较两个 dump 文件
redis-rdb-tools 安装
redis-rdb-tools 有两种安装方式,任选其一即可。
使用 PYPI 安装
pip install rdbtools
从源码安装
git clone https://github.com/sripathikrishnan/redis-rdb-tools
cd redis-rdb-tools
sudo python setup.py install
使用 redis-rdb-tools 生成内存快照
生成内存快照的命令为:
rdb -c memory dump.rdb > memory.csv
生成 CSV 格式的内存报告。包含的列有:数据库 ID,数据类型,key,内存使用量(byte),编码。内存使用量包含 key、value 和其他值。
注意:内存使用量是理论上的近似值,在一般情况下,略低于实际值。memory.csv 例子:
$head memory.csv
database,type,key,size_in_bytes,encoding,num_elements,len_largest_element
0,string,"orderAt:377671748",96,string,8,8
0,string,"orderAt:413052773",96,string,8,8
0,sortedset,"Artical:Comments:7386",81740,skiplist,479,41
0,sortedset,"pay:id:18029",2443,ziplist,84,16
0,string,"orderAt:452389458",96,string,8,8
分析内存快照
SQLite 是一款轻型的数据库。我们可以将前面生成的 csv 导入到数据库中之后,就可以利用 sql 语句很方便的对 Redis 的内存数据进行各种分析了。
注意:SQLite版本必须是3.16.0以上。
导入方法
sqlite3 memory.db
sqlite> create table memory(database int,type varchar(128),key varchar(128),size_in_bytes int,encoding varchar(128),num_elements int,len_largest_element varchar(128));
sqlite>.mode csv memory
sqlite>.import memory.csv memory
数据导入以后,接下来想怎么分析就怎么分析了,举几个简单的例子:
查询key个数
sqlite>select count(*) from memory;
查询总的内存占用
sqlite>select sum(size_in_bytes) from memory;
查询内存占用最高的10个 key
sqlite>select * from memory order by size_in_bytes desc limit 10;
查询成员个数1000个以上的 list
sqlite>select * from memory where type='list' and num_elements > 1000 ;
总结
通过使用 redis-rdb-tools + sqlite 的方式,可以方便的对 redis 实例的内存情况进行静态的分析。整个过程也比较简单,获取到 rdb 之后即可。
rdb -c memory dump.rdb > memory.csv;
sqlite3 memory.db
sqlite> create table memory(database int,type varchar(128),key varchar(128),size_in_bytes int,encoding varchar(128),num_elements int,len_largest_element varchar(128));
sqlite>.mode csv memory
sqlite>.import memory.csv memory
实际使用中,发现过一个 List 积攒了10多 GB 的内容,也发现过43 MB 以上的 string 类型的 value, 往往不仅能解答用户的疑惑,而且能够帮助用户排除业务中潜在的风险点,找到业务性能瓶颈。
游戏玩家排行榜
场景介绍
云数据库 Redis 版在功能上与 Redis 基本一致,因此很容易用它来实现一个在线游戏中的积分排行榜功能。
代码示例
import java.util.ArrayList;
import java.util.List;
import java.util.Set;
import java.util.UUID;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.Tuple;
public class GameRankSample {
static int TOTAL_SIZE = 20;
public static void main(String[] args)
{
//连接信息,从控制台可以获得
String host = "xxxxxxxxxx.m.cnhz1.kvstore.aliyuncs.com";
int port = 6379;
Jedis jedis = new Jedis(host, port);
try {
//实例密码
String authString = jedis.auth("password");//password
if (!authString.equals("OK"))
{
System.err.println("AUTH Failed: " + authString);
return;
}
//Key(键)
String key = "游戏名:奔跑吧,阿里!";
//清除可能的已有数据
jedis.del(key);
//模拟生成若干个游戏玩家
List<String> playerList = new ArrayList<String>();
for (int i = 0; i < TOTAL_SIZE; ++i)
{
//随机生成每个玩家的ID
playerList.add(UUID.randomUUID().toString());
}
System.out.println("输入所有玩家 ");
//记录每个玩家的得分
for (int i = 0; i < playerList.size(); i++)
{
//随机生成数字,模拟玩家的游戏得分
int score = (int)(Math.random()*5000);
String member = playerList.get(i);
System.out.println("玩家ID:" + member + ", 玩家得分: " + score);
//将玩家的ID和得分,都加到对应key的SortedSet中去
jedis.zadd(key, score, member);
}
//输出打印全部玩家排行榜
System.out.println();
System.out.println(" "+key);
System.out.println(" 全部玩家排行榜 ");
//从对应key的SortedSet中获取已经排好序的玩家列表
Set<Tuple> scoreList = jedis.zrevrangeWithScores(key, 0, -1);
for (Tuple item : scoreList) {
System.out.println("玩家ID:"+item.getElement()+", 玩家得分:"+Double.valueOf(item.getScore()).intValue());
}
//输出打印Top5玩家排行榜
System.out.println();
System.out.println(" "+key);
System.out.println(" Top 玩家");
scoreList = jedis.zrevrangeWithScores(key, 0, 4);
for (Tuple item : scoreList) {
System.out.println("玩家ID:"+item.getElement()+", 玩家得分:"+Double.valueOf(item.getScore()).intValue());
}
//输出打印特定玩家列表
System.out.println();
System.out.println(" "+key);
System.out.println(" 积分在1000至2000的玩家");
//从对应key的SortedSet中获取已经积分在1000至2000的玩家列表
scoreList = jedis.zrangeByScoreWithScores(key, 1000, 2000);
for (Tuple item : scoreList) {
System.out.println("玩家ID:"+item.getElement()+", 玩家得分:"+Double.valueOf(item.getScore()).intValue());
}
} catch (Exception e) {
e.printStackTrace();
}finally{
jedis.quit();
jedis.close();
}
}
}
运行结果
在输入了正确的云数据库 Redis 版实例访问地址和密码之后,运行以上 Java 程序,输出结果如下:
输入所有玩家
玩家ID:9193e26f-6a71-4c76-8666-eaf8ee97ac86, 玩家得分: 3860
玩家ID:db03520b-75a3-48e5-850a-071722ff7afb, 玩家得分: 4853
玩家ID:d302d24d-d380-4e15-a4d6-84f71313f27a, 玩家得分: 2931
玩家ID:bee46f9d-4b05-425e-8451-8aa6d48858e6, 玩家得分: 1796
玩家ID:ec24fb9e-366e-4b89-a0d5-0be151a8cad0, 玩家得分: 2263
玩家ID:e11ecc2c-cd51-4339-8412-c711142ca7aa, 玩家得分: 1848
玩家ID:4c396f67-da7c-4b99-a783-25919d52d756, 玩家得分: 958
玩家ID:a6299dd2-4f38-4528-bb5a-aa2d48a9f94a, 玩家得分: 2428
玩家ID:2e4ec631-1e4e-4ef0-914f-7bf1745f7d65, 玩家得分: 4478
玩家ID:24235a85-85b9-476e-8b96-39f294f57aa7, 玩家得分: 1655
玩家ID:e3e8e1fa-6aac-4a0c-af80-4c4a1e126cd1, 玩家得分: 4064
玩家ID:99bc5b4f-e32a-4295-bc3a-0324887bb77e, 玩家得分: 4852
玩家ID:19e2aa6b-a2d8-4e56-bdf7-8b59f64bd8e0, 玩家得分: 3394
玩家ID:cb62bb24-1318-4af2-9d9b-fbff7280dbec, 玩家得分: 3405
玩家ID:ec0f06da-91ee-447b-b935-7ca935dc7968, 玩家得分: 4391
玩家ID:2c814a6f-3706-4280-9085-5fe5fd56b71c, 玩家得分: 2510
玩家ID:9ee2ed6d-08b8-4e7f-b52c-9adfe1e32dda, 玩家得分: 63
玩家ID:0293b43a-1554-4157-a95b-b78de9edf6dd, 玩家得分: 1008
玩家ID:674bbdd1-2023-46ae-bbe6-dfcd8e372430, 玩家得分: 2265
玩家ID:34574e3e-9cc5-43ed-ba15-9f5405312692, 玩家得分: 3734
游戏名:奔跑吧,阿里!
全部玩家排行榜
玩家ID:db03520b-75a3-48e5-850a-071722ff7afb, 玩家得分:4853
玩家ID:99bc5b4f-e32a-4295-bc3a-0324887bb77e, 玩家得分:4852
玩家ID:2e4ec631-1e4e-4ef0-914f-7bf1745f7d65, 玩家得分:4478
玩家ID:ec0f06da-91ee-447b-b935-7ca935dc7968, 玩家得分:4391
玩家ID:e3e8e1fa-6aac-4a0c-af80-4c4a1e126cd1, 玩家得分:4064
玩家ID:9193e26f-6a71-4c76-8666-eaf8ee97ac86, 玩家得分:3860
玩家ID:34574e3e-9cc5-43ed-ba15-9f5405312692, 玩家得分:3734
玩家ID:cb62bb24-1318-4af2-9d9b-fbff7280dbec, 玩家得分:3405
玩家ID:19e2aa6b-a2d8-4e56-bdf7-8b59f64bd8e0, 玩家得分:3394
玩家ID:d302d24d-d380-4e15-a4d6-84f71313f27a, 玩家得分:2931
玩家ID:2c814a6f-3706-4280-9085-5fe5fd56b71c, 玩家得分:2510
玩家ID:a6299dd2-4f38-4528-bb5a-aa2d48a9f94a, 玩家得分:2428
玩家ID:674bbdd1-2023-46ae-bbe6-dfcd8e372430, 玩家得分:2265
玩家ID:ec24fb9e-366e-4b89-a0d5-0be151a8cad0, 玩家得分:2263
玩家ID:e11ecc2c-cd51-4339-8412-c711142ca7aa, 玩家得分:1848
玩家ID:bee46f9d-4b05-425e-8451-8aa6d48858e6, 玩家得分:1796
玩家ID:24235a85-85b9-476e-8b96-39f294f57aa7, 玩家得分:1655
玩家ID:0293b43a-1554-4157-a95b-b78de9edf6dd, 玩家得分:1008
玩家ID:4c396f67-da7c-4b99-a783-25919d52d756, 玩家得分:958
玩家ID:9ee2ed6d-08b8-4e7f-b52c-9adfe1e32dda, 玩家得分:63
游戏名:奔跑吧,阿里!
Top 玩家
玩家ID:db03520b-75a3-48e5-850a-071722ff7afb, 玩家得分:4853
玩家ID:99bc5b4f-e32a-4295-bc3a-0324887bb77e, 玩家得分:4852
玩家ID:2e4ec631-1e4e-4ef0-914f-7bf1745f7d65, 玩家得分:4478
玩家ID:ec0f06da-91ee-447b-b935-7ca935dc7968, 玩家得分:4391
玩家ID:e3e8e1fa-6aac-4a0c-af80-4c4a1e126cd1, 玩家得分:4064
游戏名:奔跑吧,阿里!
积分在1000至2000的玩家
玩家ID:0293b43a-1554-4157-a95b-b78de9edf6dd, 玩家得分:1008
玩家ID:24235a85-85b9-476e-8b96-39f294f57aa7, 玩家得分:1655
玩家ID:bee46f9d-4b05-425e-8451-8aa6d48858e6, 玩家得分:1796
玩家ID:e11ecc2c-cd51-4339-8412-c711142ca7aa, 玩家得分:1848
微信公众号: 架构师日常笔记 欢迎关注!