redis：集群和一些应用问题

redis集群

• 问题

容量不够，redis如何进行扩容？

并发写操作， redis如何分摊？

另外，主从模式，薪火相传模式，主机宕机，导致ip地址发生变化，应用程序中配置需要修改对应的主机地址、端口等信息。

之前通过代理主机来解决，但是redis3.0中提供了解决方案。就是无中心化集群配置。

• 集群

Redis 集群实现了对Redis的水平扩容，即启动N个redis节点，将整个数据库分布存储在这N个节点中，每个节点存储总数据的1/N。

Redis 集群通过分区（partition）来提供一定程度的可用性（availability）： 即使集群中有一部分节点失效或者无法进行通讯， 集群也可以继续处理命令请求。

---

搭建集群

• 删除rdb和aof
• 制作6个实例，6379,6380,6381,6389,6390,6391
• 配置基本信息

• 启动6个redis服务
• 将六个节点合成一个集群

cd  /opt/redis-6.2.1/src
redis-cli --cluster create --cluster-replicas 1 192.168.11.101:6379 192.168.11.101:6380 192.168.11.101:6381 192.168.11.101:6389 192.168.11.101:6390 192.168.11.101:6391
yes

• 以集群方式登录

redis-cli -c -p 6379

• 通过 cluster nodes 命令查看集群信息

问题：redis cluster 如何分配这六个节点?

一个集群至少要有三个主节点。

选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。

分配原则尽量保证每个主数据库运行在不同的IP地址，每个从库和主库不在一个IP地址上。

---

• 什么是slots

一个 Redis 集群包含 16384 个插槽（hash slot）， 数据库中的每个键都属于这 16384 个插槽的其中一个，

集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽， 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。

集群中的每个节点负责处理一部分插槽。 举个例子， 如果一个集群可以有主节点， 其中：

节点 A 负责处理 0 号至 5460 号插槽。

节点 B 负责处理 5461 号至 10922 号插槽。

节点 C 负责处理 10923 号至 16383 号插槽。

---

• 在集群中录入数据

set k1 v1
此时redis会自动根据key计算slot，并将该数据存入对应的服务器。并实现重定向。

在集群模式下不能同时存多个值人，如：mset。如确实需要存，则通过{}来定义组的概念

mset name{user} zhangsan age{user} 11 address{user} nanjing

• 查询集群中的值

每一个集群只能查询存储在当前集群的值。

1. CLUSTER GETKEYSINSLOT ：返回 count 个 slot 槽中的键。
2. CLUSTER KEYSSLOT ：查询当前key的slot槽号

---

集群的故障修复

• 如果主节点下线？从节点能否自动升为主节点？注意：15秒超时

主节点恢复后，主从关系会如何？主节点回来变成从机。

• 如果所有某一段插槽的主从节点都宕掉，redis服务是否还能继续?

如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为yes ，那么 ，整个集群都挂掉

如果某一段插槽的主从都挂掉，而cluster-require-full-coverage 为no ，那么，该插槽数据全都不能使用，也无法存储。

---

使用jedis操作集群

@Test
public void testDemo7(){
    //创建HostAndPort对象，需要IP地址和端口号
    HostAndPort hostAndPort = new HostAndPort("192.168.1.2",6379);
    //创建JedisCluster对象，需要HostAndPort对象
    JedisCluster jedisCluster = new JedisCluster(hostAndPort);
    //通过jedisCluster调用方法
    jedisCluster.set("k1","v1");
    String k1 = jedisCluster.get("k1");
    System.out.println("k1:"+k1);
}

---

集群的优势和弱势

优势：

1. 实现扩容
2. 分摊压力
3. 无中心配置相对简单

弱势：

1. 多键操作是不被支持的
2. 多键的Redis事务是不被支持的。lua脚本不被支持
3. 由于集群方案出现较晚，很多公司已经采用了其他的集群方案，而代理或者客户端分片的方案想要迁移至redis cluster，需要整体迁移而不是逐步过渡，复杂度较大。

---

redis应用中的问题

---

缓存穿透

出现的情况：

1. 应用服务器压力变大可
2. redis命中率降低了
3. 一直查询数据库

解决方案：

1. 对空值缓存：如果一个查询返回的数据为空（不管是数据是否不存在），我们仍然把这个空结果（null）进行缓存，设置空结果的过期时间会很短，最长不超过五分钟

2. 设置可访问的名单（白名单）：

   使用bitmaps类型定义一个可以访问的名单，名单id作为bitmaps的偏移量，每次访问和bitmap里面的id进行比较，如果访问id不在bitmaps里面，进行拦截，不允许访问。

3. 采用布隆过滤器：(布隆过滤器（Bloom Filter）是1970年由布隆提出的。它实际上是一个很长的二进制向量(位图)和一系列随机映射函数（哈希函数）。

   布隆过滤器可以用于检索一个元素是否在一个集合中。它的优点是空间效率和查询时间都远远超过一般的算法，缺点是有一定的误识别率和删除困难。)

   将所有可能存在的数据哈希到一个足够大的bitmaps中，一个一定不存在的数据会被 这个bitmaps拦截掉，从而避免了对底层存储系统的查询压力。

4. 进行实时监控：当发现Redis的命中率开始急速降低，需要排查访问对象和访问的数据，和运维人员配合，可以设置黑名单限制服务

---

缓存击穿

出现的情况：

1. 数据库访问压力瞬时增加
2. redis中没有出现大量的key过期
3. redis正常运行

原因：redis中某个key过期了，但是这个key被大量访问。

解决方案：

1. 预先设置热门数据：在redis高峰访问之前，把一些热门数据提前存入到redis里面，加大这些热门数据key的时长
2. 实时调整：现场监控哪些数据热门，实时调整key的过期时长
3. 使用锁：
   1. 就是在缓存失效的时候（判断拿出来的值为空），不是立即去load db。
   2. 先使用缓存工具的某些带成功操作返回值的操作（比如Redis的SETNX）去set一个mutex key
   3. 当操作返回成功时，再进行load db的操作，并回设缓存,最后删除mutex key；
   4. 当操作返回失败，证明有线程在load db，当前线程睡眠一段时间再重试整个get缓存的方法。

---

缓存雪崩

出现的情况：数据库压力变大，服务器崩溃。

成因：在极少的时间内，查询大量的key集中过期。

解决方案：

1. 构建多级缓存架构：nginx缓存 + redis缓存 +其他缓存（ehcache等）

2. 使用锁或队列：

   用加锁或者队列的方式保证来保证不会有大量的线程对数据库一次性进行读写，从而避免失效时大量的并发请求落到底层存储系统上。不适用高并发情况

3. 设置过期标志更新缓存：

   记录缓存数据是否过期（设置提前量），如果过期会触发通知另外的线程在后台去更新实际key的缓存。

4. 将缓存失效时间分散开：

   比如我们可以在原有的失效时间基础上增加一个随机值，比如1-5分钟随机，这样每一个缓存的过期时间的重复率就会降低，就很难引发集体失效的事件。

---

分步式锁

随着业务发展的需要，原单体单机部署的系统被演化成分布式集群系统后，由于分布式系统多线程、多进程并且分布在不同机器上，这将使原单机部署情况下的并发控制锁策略失效，单纯的Java API并不能提供分布式锁的能力。为了解决这个问题就需要一种跨JVM的互斥机制来控制共享资源的访问，这就是分布式锁要解决的问题！

主流的解决方式：

1. 基于数据库实现分布式锁
2. 基于缓存（Redis等）
3. 基于Zookeeper

每一种分布式锁解决方案都有各自的优缺点：

1. 性能：redis最高

2. 可靠性：zookeeper最高

---

使用setnx方式设置分步式锁

• 简而言之，就是这个key还没有过期，则不能再次的存值。

setnx k1 v1

• 给这个key设置过期时间

expire k1 10 #10秒后过期

• 考虑到原子性。可以在设置值的同时设置过期时间

set k2 v2 nx ex 10 #k2会在10秒后过期

---

使用redisTemplate完成分布式锁

@GetMapping("testLock")
public void testLock(){
        //1获取锁，setne
  		//1.1通过uuid设置锁的值
        String uuid = UUID.randomUUID().toString();
        Boolean lock = redisTemplate.opsForValue().setIfAbsent("lock", uuid,3, TimeUnit.SECONDS);
        //2获取锁成功、查询num的值
        if(lock){
            Object value = redisTemplate.opsForValue().get("num");
            //2.1判断num为空return
            if(StringUtils.isEmpty(value)){
                return;
            }
            //2.2有值就转成成int
            int num = Integer.parseInt(value+"");
            //2.3把redis的num加1
            redisTemplate.opsForValue().set("num", ++num);
            //2.4释放锁，del
            //2.4.1只能释放自己的锁。
            String num1 = (String)redisTemplate.opsForValue().get("num");
            if(uuid.equals(num1)){
                redisTemplate.delete("lock");
            }

        }else{
            //3获取锁失败、每隔0.1秒再获取
            try {
                Thread.sleep(100);
                testLock();
            } catch (InterruptedException e) {
                e.printStackTrace();
            }
        }
    }