Redis Sentinel的Redis集群(主从&Sharding)高可用方案

在不使用redis3.0之后版本的情况下,对于redis服务端一般是采用Sentinel哨兵模式,也就是一主多备的方式。

这里,先抛出三个问题,

问题1:单节点宕机数据丢失?
问题2:多节点(节点间没有主从关系)数据分片,采用sharedJedisPool,某节点宕机,导致获取不到连接
问题3:主从模式下,通过哨兵配置,单个集群数据无法分片(备复制->主的数据,备无写权限)

 

关于问题1,解决方式,多台redis节点,采用Sentinel哨兵模式,也就是一主多备的方式。

关于问题2,这里先不谈解决方式,在节点间无依赖的情况下,采用redis分片存储数据,也就是采用redis的sharedjedispool连接池,他有一个缺点,那就是当我的某个

节点宕机后,会导致整个连接出问题。

关于问题3,在一个集群环境下,从复制主的数据,这个时候一个集群下的redis实例之间的数据是同步,也就没有办法去做数据分片

在不适用redis3.0后的新特征load balance,也就是 ....

Redis Cluster  是Redis的集群实现,内置数据自动分片机制,集群内部将所有的key映射到16384个Slot中,集群中的每个Redis Instance负责其中的一部分的Slot的读写。集群客户端连接集群中任一Redis Instance即可发送命令,当Redis Instance收到自己不负责的Slot的请求时,会将负责请求Key所在Slot的Redis Instance地址返回给客户端,客户端收到后自动将原请求重新发往这个地址,对外部透明。一个Key到底属于哪个Slot由crc16(key) % 16384 决定

关于上面三个问题,在使用redis2.X版本的情况下,解决方式就是:

多个集群,然后就是集群之间数据分片,这样压力小很多。

举个例子:

 

 

 

看到上面的图应该就懂了。

在这里还有一个比较坑爹的问题就是,spring封装的那套spring-data-redis ,相对于jedis真的是不太好用,而且关于哨兵的配置文件,就是下面这段,

    <bean id="sentinelConfiguration"  
        class="org.springframework.data.redis.connection.RedisSentinelConfiguration">  
        <property name="master">  
            <bean class="org.springframework.data.redis.connection.RedisNode">  
                <property name="name" value="mymaster"></property>  
            </bean>  
        </property>  
        <property name="sentinels">  
            <set>  
                <bean class="org.springframework.data.redis.connection.RedisNode">  
                    <constructor-arg name="host"  
                        value="192.168.8.50"></constructor-arg>  
                    <constructor-arg name="port"  
                        value="26379"></constructor-arg>  
                </bean>  
            </set>  
        </property>  
    </bean>  

  我在spring3.x版本下,死活报错,注入不了sentinels,然而打开源码去看,确实是有的,换成spring4.X后,就没有出现问题。

叹气!!!

决定弃用spring-data-redis,还是采用jedis。

但是jedis也有一个问题,在jedis2.5之后增加了redis.clients.jedis.JedisSentinelPool这个哨兵管理连接池,他也有一个问题,就是他取得的redis操作实例是jedis,而不是sharedJedis,因为sharedJedis,是从sharedJedisPool里面取出的,这样是不是又有一个问题,嗯,支持集群了,但不支持分片了!!

 

显然不是我们想要的,怎么办呢,Google了下,在github上找到有人去写了一个连接池,地址在这

https://github.com/warmbreeze/sharded-jedis-sentinel-pool,

代码拿下来后,看了下,应该是可以的,加上测试下。

<?xml version="1.0" encoding="UTF-8"?>
<beans
 xmlns="http://www.springframework.org/schema/beans"
 xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
 xmlns:p="http://www.springframework.org/schema/p"
 xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-3.0.xsd">
    <!-- 连接池配置 -->
     <bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">
        <property name="maxIdle" value="8" />
        <property name="maxTotal" value="50" />  
        <property name="maxWaitMillis" value="1000" /> 
        <property name="testOnBorrow" value="true" />
        <property name="testOnReturn" value="true" />
     </bean>
    <!-- jedis连接池配置 -->
<!--     <bean id="jedisPool" class="redis.clients.jedis.JedisSentinelPool">
        <constructor-arg index="0" value="mymaster" />
        <constructor-arg index="1">
            <set>
                <value>192.168.8.50:26379</value>
            </set>
        </constructor-arg>
        <constructor-arg index="2" ref="jedisPoolConfig" />
    </bean> -->
    <!-- 自定义分片处理哨兵池配置 -->
    <bean id="shardedJedisPool" class="com.yto.demo.java.jedis.spring.sentinel.pool.ShardedJedisSentinelPool">
        <constructor-arg index="0" ref="jedisPoolConfig" />
        <constructor-arg index="1">
            <list>
                <value>mymaster</value> <!-- 集群1 -->
                <value>mymaster02</value> <!-- 集群2 -->
                
            </list>
        </constructor-arg>
        <constructor-arg index="2">
            <set>
                <value>192.168.8.50:26379</value>
                <value>192.168.8.50:26479</value>
            </set>
        </constructor-arg>
    </bean>
    <!-- 自定义抽象jedis 信息 -->
    <bean id="redisDataSource"  class="com.yto.demo.java.jedis.spring.api.impl.RedisSharedSentinelDataSourceImpl">
        <property name="shardedJedisPool" ref="shardedJedisPool"></property>
    </bean>
    
    <bean id="redisClientTemplate"  class="com.yto.demo.java.jedis.spring.client.RedisSharedSentinelClientTemplate">
        <property name="redisDataSource" ref="redisDataSource"></property>
    </bean>
    
    
 </beans>  

 

ShardedJedisSentinelPool这个代码自己去git上面拿下来吧!!至于里面有没有bug我还没仔细去看里面的代码,但是确实支持主从+分片了。。


posted @ 2016-08-16 16:40  justin_xiaoshuai  阅读(17987)  评论(1编辑  收藏  举报