redis高级

Redis命令的生命周期

  1. 客户端向Redis服务器发送命令

  2. 命令请求在请求队列中排队等待处理

  3. 执行命令

  4. 返回命令结果

 

 

Redis慢查询

  • 慢查询发生在生命周期的第三阶段,是指仅仅执行命令阶段比较慢被称为慢查询。

  • 客户端超时不一定是慢查询,但是慢查询时是客户端超时的一个可能因素。

 

 

Redis慢查询相关配置

1. slowlog-max-len

它决定了慢查询日志最多能保存多少条日志,slow log本身是一个内存中的FIFO队列,当队列大小超过slowlog-max-len时,最旧的一条日志将被删除,而最新的一条日志加入到slow log中。

  • 默认值:128

  • 支持动态配置

2.slowlog-log-slower-than

它决定要对执行时间大于多少微妙(microsecond , 1秒=1,000,000 微妙)的查询进行记录

  • 默认值:10000

  • slowlog-log-slower-than = 0 ,记录所有命令

  • slowlog-log-slower-than < 0 , 不记录任何命令

  • 支持动态配置

 

 

慢查询相关命令

1.slowlog get [n]

  • 含义:获取慢查询列表中的慢查询信息

    • n:获取出多少条慢查询数据信息

2.slowlog len

  • 含义:获取慢查询队列长度

###3.slowlog reset

  • 含义:清空慢查询队列

 

 

慢查询信息字段

  1. 字段1:唯一性的日志标识符(Integer)

  2. 字段2:被记录命令的执行时间点,已UNIX时间戳格式表示(Integer)

  3. 字段3:查询执行时间,以微秒为单位

  4. 字段4:完整的执行命令

 

 

慢查询运维经验

  • slowlog-log-slower-than不要设置过大,默认10ms,通常设置1ms

    • 因为Redis的qps是万级别的,即每秒应能执行10000次请求

    • 当一条命令执行1ms时,那每秒只能执行1000次请求

  • slowlog-max-len不要设置地过小,通常设置1000左右

  • 需要理解命令的生命周期

  • 定期持久化慢查询

    • 因为慢查询只存储于内存中,一宕机慢查询数据就会丢失

    • 通过定期slowlog get将慢查询数据转存到MySQL或者ES中

 

 

pipeline的好处

  • 省略由于单线程导致的命令排队时间,一次命令的消耗时间=一次网络时间 + 命令执行时间

  • 比起命令执行时间,网络时间很可能成为系统的瓶颈

  • pipeline的作用是将一批命令进行打包,然后发送给服务器,服务器执行完按顺序打包返回。

  • 通过pipeline,一次pipeline(n条命令)=一次网络时间 + n次命令时间

命令N个命令操作1次pupeline(n个命令)
时间 n次网络+n次命令 1次网络+n次命令
数据量 1条命令 n条命令

 

 

pipeline-Jedis使用

//没有使用pipieline的情况下
public void testWithoutPipeline() {
   Jedis jedis = new Jedis("127.0.0.1" , 6379);
   for(int i = 1 ; i <= 10000 ; i++ ) {
       jedis.hset("hashKey-" + i , "field-" + i , "value-" + i);
  }
}

//使用pipeline的情况下
public void testPipeline() {
   Jedis jedis = new Jedis("127.0.0.1" , 6379);
   for(int i = 0 ; i < 100 ; i++ ) {
       Pipeline pipeline = jedis.pipelined();
       for(int j = i * 100 ; i < (i+1) * 100 ; j++ ) {
           pipeline.hset("hashKey-" + j , "field-" + j , "value-" + j);
      }
       pipeline.syncAndReturnAll();
  }
}

 

 

pipeline VS M操作(mget、mset)

  • M操作在Redis队列中是一个原子操作,pipeline不是原子操作

  • pipeline与M操作都会将数据顺序的传送与顺序地返回

 

 

pipeline注意事项

  • 每次pipeline携带数量不推荐过大,否则会影响网络性能

  • pipeline每次只能作用在一个Redis节点上

 

 

发布订阅的角色与通信模型

1.角色

  • 发布者(publisher)

  • 订阅者(subscriber)

  • 频道(channel)

2.通信模型

  • RedisServer中可以创建若干channel

  • 一个订阅者可以订阅多个channel

  • 当发布者向一个频道中发布一条消息时,所有的订阅者都将会收到消息

  • Redis的发布订阅模型没有消息积压功能,即新加入的订阅者收不到发布者之前发布的消息

  • 当订阅者收到消息时,消息内容如下

    • 第一行:固定内容message

    • 第二行:channel的名称

    • 第三行:收到的新消息

 

 

发布订阅的API

1.publish channel message

  • 含义:向指定的channel中发布消息

2.subscribe channel1 [channel2...]

  • 含义:订阅给定的一个或多个渠道的消息

3.unsubcribe [channel1 [channel2...]]

  • 含义:取消订阅给定的一个或多个渠道的消息

###4.psubscribe pattern1 [pattern2...]

  • 含义:订阅一个或多个符合给定模式的频道

###5.punsubscribe [pattern1 [pattern2...]]

  • 含义:退订所有给定模式的频道

6.pubsub channels

  • 含义:列出至少有一个订阅者的频道

###7.pubsub numsub [channel...]

  • 含义:列出给定频道的订阅者数量

 

 

发布订阅-Jedis

//订阅
public void testSubscribe() {
   Jedis jedis = new Jedis("127.0.0.1" , 6379);
   jedis.subscribe(new JedisPubSub() {
       @Override
       public void onMessage(String channel, String message) {
           System.out.println("receive channel ["+channel+"] message ["+message+"]");
      }
  } , "aliTV" , "googleTV");
}

//发布
public void testPublish() {
   Jedis jedis = new Jedis("127.0.0.1" , 6379);
   jedis.publish("aliTV" , "I am xuyinan");
   jedis.publish("googleTV" , "My age is 27");
}

 

 

BitMap的API

1.getbit key offset

  • 含义:对key所存储的字符串值,获取指定偏移量上的位(bit)

2.setbit key offset value

  • 含义:对key所存储的字符串值,设置或清除指定偏移量上的位(bit)

    • 返回值为该位在setbit之前的值

    • value只能取0或1

    • offset从0开始,即使原位图只能10位,offset可以取1000

3.bitcount key [start end]

  • 含义:获取位图指定范围中位值为1的个数

    • 如果不指定start与end,则取所有

4.bitop op destKey key1 [key2...]

  • 含义:做多个BitMap的and(交集)、or(并集)、not(非)、xor(异或)操作并将结果保存在destKey中

5.bitpos key tartgetBit [start end]

  • 含义:计算位图指定范围第一个偏移量对应的的值等于targetBit的位置

    • 找不到返回-1

    • start与end没有设置,则取全部

    • targetBit只能取0或者1

 

 

BitMap的使用场景

统计每日用户的登录数。每一位标识一个用户ID,当某个用户访问我们的网页或执行了某个操作,就在bitmap中把标识此用户的位设置为1。

 

 

#HyperLogLog简介

  • 基于HyperLogLog算法,使用极小空间完成独立数量统计的功能

  • 本质还是一个字符串

  • 十分节约内存

  • 官方给出存在0.81%的错误率

  • 无法取出单条数据

 

 

HyperLogLog的相关命令

1.pfadd key element1 [element2...]

  • 含义:向HyperLogLog中添加元素

2.pfcount key1 [key2...]

  • 含义:计算HyperLogLog的独立总数

3.pfmerge destKey key1 [key2...]

  • 含义:合并多个hyperLogLog到destKey中

 

 

GEO简介

  • Redis 3.2添加新特性

  • 功能:存储经纬度、计算两地距离、范围计算等

  • 基于ZSet实现

  • 删除操作使用zrem

 

 

GEO相关命令

1.geoadd key longitude latitude member [lon lat member...]

  • 含义:增加地理位置信息

    • longitude :经度

    • latitude : 纬度

    • member : 标识信息

2.geopos key member1 [member2...]

  • 含义:获取地理位置信息

###3.geodist key member1 member2 [unit]

  • 含义:获取两个地理位置的距离

  • unit取值范围

    • m(米,默认)

    • km(千米)

    • mi(英里)

    • ft(英尺)

###4.georadius key longitude latitude unit [withcoord] [withdist] [withhash] [COUNT count] [sort] [store key] [storedist key]

  • 含义:以给定的经纬度为中心,返回包含的位置元素当中,与中心距离不超过给定最大距离的所有位置元素。

  • unit取值范围

    • m(米)

    • km(千米)

    • mi(英里)

    • ft(英尺)

  • withcoord:将位置元素的经度与纬度也一并返回

  • withdist:在返回位置元素的同时,将距离也一并返回。距离的单位和用户给定的范围单位保持一致

  • withhash:以52位的符号整数形式,返回位置元素经过geohash编码的有序集合分值。用于底层应用或调试,实际作用不大。

  • sort取值范围

    • asc:根据中心位置,按照从近到远的方式返回位置元素

    • desc:根据中心位置,按照从远到近的方式返回位置元素

  • store key:将返回结果而的地理位置信息保存到指定键

  • storedist key:将返回结果距离中心节点的距离保存到指定键

5.georadiusbymember key member radius unit [withcoord][withdist][withhash][COUNT count][sort][store key][storedist key]

  • 含义:以给定的元素为中心,返回包含的位置元素当中,与中心距离不超过给定最大距离的所有位置元素。

  • unit取值范围

    • m(米)

    • km(千米)

    • mi(英里)

    • ft(英尺)

  • withcoord:将位置元素的经度与纬度也一并返回

  • withdist:在返回位置元素的同时,将距离也一并返回。距离的单位和用户给定的范围单位保持一致

  • withhash:以52位的符号整数形式,返回位置元素经过geohash编码的有序集合分值。用于底层应用或调试,实际作用不大。

  • sort取值范围

    • asc:根据中心位置,按照从近到远的方式返回位置元素

    • desc:根据中心位置,按照从远到近的方式返回位置元素

  • store key:将返回结果而的地理位置信息保存到指定键

  • storedist key:将返回结果距离中心节点的距离保存到指定键

  •  

posted @ 2019-05-06 09:05  老衲吃个饭  阅读(143)  评论(0编辑  收藏  举报