redids知识点总结
redis简介
缓存中间件——Memcache和Redis的区别：
-
Memcache:代码层次类似Hash
1、支持简单数据类型 2、不支持数据持久化存储 3、不支持主从 4、不支持分片 -
Redis
1、数据类型丰富 2、支持数据磁盘持久化存储 3、支持主从 4、支持分片
为什么Redis能这么快
-
完全基于内存，绝大部分请求是纯粹的内存操作，执行效率高
-
数据结果简单，对数据操作也简单
-
采用单线程，单线程也能处理高并发请求，想多核也可启动多实例
-
使用多路I/O复用模型，非阻塞IO
多路I/O复用模型
FD:File descriptor，文件描述符
一个打开的文件通过唯一的描述符进行引用，该描述符是打开文件的元数据到文件本身的映射
说说你用过的Redis的数据类型
-
String:最基本的数据类型，二进制安全
-
Hash:String元素组成的字典，适合用于存储对象
-
List:列表，按照String元素插入顺序排序
-
Set:String元素组成无序集合，通过哈希表实现，不允许重复·
-
Sorted Set:通过分数来为集合中的成员进行从小到大的排序
-
其他类型：用于技术的HyperLogLog、用于存储地理位置信息的Geo
redis底层数据类型基础：
1、简单动态字符串
2、链表
3、字典
4、跳跃表
5、整数集合
6、压缩列表
7、对象
从海量key里查询出某一固定前缀的key
留意细节
- 摸请数据规模，即问清楚边界
使用keys对线上的业务的影响
keys pattern:查找所有符合给定模式pattern的key
缺点:
1、keys指令一次性返回所有匹配的key
2、键的数量过大会使服务卡顿
从海量key里查询出某一固定前缀的key
scan cursor [MATCH pattern] [COUNT count]:
1、基于游标的迭代器，需要基于上一次的游标延续之前的迭代过程
2、以0作为游标开始一次新的迭代，直到命令返回游标0完成一次遍历
3、不保证每次执行都反回某个给定数量的元素，支持模糊查询
4、一次返回的数量不可控，只能是大概率符合count参数
如何通过Redis实现分布式锁
分布式锁需要解决的问题
- 互斥锁
- 安全性
- 死锁
- 容错
使用
SETNX key value: 如果key不存在，则创建并赋值
- 时间复杂度：O(1)
- 返回值：设置成功，返回1；设置失败，返回0
如何解决SETNX长期有效的问题
EXPIRE key seconds
- 设置key的生存时间，当key过期时（生存时间为0），会被自动删除
缺点：
原子性得不到满足
解决办法
EX second:设置键的过期时间为second秒
PX millisecond:设置键的过期时间为millisecond毫秒
NX:只在键不存在时，才对键进行设置操作
XX:只在 键已经存在时，才对键进行操作
SET操作成功完成时，返回OK,否则返回nil
大量的key同时过期的注意事项
集中过期，由于清除大量的key很耗时，会出现短暂的卡顿现象
解决办法：在设置key的过期时间的时候，给每个key加上随机值
如何使用Redsi做异步队列
-
使用List作为队列，RPush生产消息，LPOP消费消息
- 缺点：没有等待队列里有值就要直接消费
- 弥补：可以通过在应用层引入Sleep机制去调用LPOP重试
-
BLOPO key [key...] :阻塞直到队列有消息或者超时
- 缺点：只能供一个消费者消费
-
pub/sub:主题订阅者模式
- 发送者（pub）发送消息，订阅者（sub）接收消息
- 订阅者可以订阅任意数量的频道
- 缺点：消息的发布时无状态的，无法保证可达
Redis如何做持久化
RDB
-
RDB（快照）持久化：保存某个时间点的全量数据快照
1、快照策略：//redis/redis.conf: save 900 1 #900秒里发生1次写入 进行保存 save 300 10 #300秒里发生10次写入 进行保存 save 60 10000 #60秒里发生10000次写入 进行保存 2、stop-writes-on-bgsave-error yes #当备份进程出错的时候，主进程停止接收新的写入操作 3、rdbcompression yes #在备份的时候，需要将rdb文件压缩后进行保存，压缩会消耗cpu资源 -
RDB可以通过两个命令生成
1、save:阻塞Redis的服务器进程，直到RDB文件被创建完毕；（很少被使用） 2、bgsave:Fork出一个子进程来创建RDB文件，不阻塞服务器进程； 3、lastsave： 查找上一次保存备份是什么时候 -
自动化触发RDB持久化的方式
1、根据redis.conf配置里的 SAVE m n定时触发（用的是bgsave） 2、主从复制时，主节点自动触发 3、执行Debug Reload 4、执行shutdown且没有开启AOF持久化BGSAVE原理
系统调用了fork():创建进程，实现了Copy-on-Write
Copy-on-Write
-
缺点：
1、内存数据的全量同步，数据量大会由于I/O而严重影响性能 2、可能会因为Redis挂掉而丢失从当前至最近一次快照期间的数据
AOF
AOF(Append-Only-File)持久化：保存写状态
-
记录下除了查询以外的所有变更数据库状态的指令
-
以append的形式追加保存到AOF文件中（增量）
-
使用：
//redis/redis.conf: appendonly yes #是否开启AOF appendfilename "appendonly.aof" #备份的文件名 appendfsync everysec #每秒保存一次 ##修改完配置需要重启redis -
日志重写解决AOF文件大小不断增大的问题，原理如下：
1、调用fork(),创建一个子进程 2、子进程把新的AOF写到一个临时文件里，不依赖原来的AOF文件 3、主进程持续将新的变动同时写到内存和原来的AOF里 4、主进程获取子进程重写AOF的完成信号，往新AOF同步增量变动 5、使用新的AOF文件替换掉旧的AOF文件 -
RDB和AOF的优缺点：
RDB优点：全量数据快照，文件小，恢复快 RDB缺点：无法保存最近一次快照之后的数据 AOF优点：可读性高，适合保存存量数据，数据不易丢失 AOF缺点：文件体积大，恢复时间长
RDB-AOF混合持久方式（推荐）
1、bgsave做镜像全量持久化，aof做增量持久化；
使用pipeline的好处
1、Pipeline和Linux的管道类似
2、Redis基于请求、响应模型，单个请求处理需要一一应答
3、Pipline批量执行质量，节省多次IO往返的时间
4、有顺序依赖的指令建议分批发送
Redis的同步机制
主从同步原理
全同步过程
1、Salve发送sync命令到Master
2、Master启动一个后台进程，将Redis中的数据快照保存到文件中
3、Master将保存的数据快照期间接收到的写命令缓存起来
4、Master完成写文件操作后，将该文件发送给Salve
5、使用新的AOF文件替换掉旧的AOF文件
6、Master将这期间收集的增量写命令发送给Slave端
增量同步过程
1、Master接收到用户的操作指令，判断是否需要传播到Slave
2、将操作记录追加到AOF文件
3、将操作传播到其他Slave：1、对齐主从；2、往响应缓存写入指令
4、将缓存中的数据发送到Slave
Redis Sentinel（）
解决主从同步Master宕机后的主从切换问题：
1、监控：检查主从服务器是否运行正常
2、提醒：通过API向管理员或者其他应用程序发送故障通知
3、自动故障迁移：主从切换
流言协议Gossip
在杂乱无章中寻求一致
每个节点都随机的与对方通信，最终所有节点的状态达成一致
种子节点定期随机向其他节点发送节点列表以及需要传播的消息
不保证信息一定会传递给所有节点，但是最终会趋于一致
Redis的集群原理
如何从海量数据里快速找到所需？
1、分片：按照某种规则去划分数据，分散存储在多个节点上
2、常规的按照哈希划分无法实现节点的动态增减
一致新哈希算法：对2^32取模，将哈希值空间组织成虚拟的圆环
缺点：hash环的数据倾斜问题
引入虚拟节点解决数据倾斜问题
posted on
