redis单机及其集群的搭建
一、单机版redeis
1.安装包下载
http://download.redis.io/releases/ 下载redis的压缩包,并放在/usr/soft文件夹下
2.解压压缩包:
tar -zxf redis-3.0.7.tar.gz
3.安装
这里安装redis在/usr/local/redis文件夹中
进入安装包:cd /usr/soft/redis-3.0.7,执行命令
make PREFIX=/usr/local/redis/ install
安装成功后
redis.conf是redis的配置文件,redis.conf在redis源码目录。注意修改port作为redis进程的端口,port默认6379。
4.在安装目录中创建目录conf,将redis源安装文件中的redis.cinf拷贝到redis的安装目录中
cp /usr/soft/redis-3.0.7/redis.conf /usr/local/redis/bin/
5.redis启动
直接运行./redis-server 是前台启动,在关闭运行的窗口后redis也将关闭
为了关闭窗口后不关闭redis,需要使用后台启动
5.1修改redis.conf的daemonize的no为yes
使用以下命令启动
./redis-server redis.conf
6.检测redis是否运行正常
6.1使用 ps -ef|grep redis 查看进程
6.2使用redis的客户端查看
当输入ping命令时,返回PONG就表示连接正常
7.通过jedis连接redis单机
需要的依赖
<dependency> <groupId>redis.clients</groupId> <artifactId>jedis</artifactId> <version>2.7.0</version> </dependency>
可以使用以下代码测试
/**
* jedis测试 单机版
*/
@Test
public void testJedisSingle(){
Jedis jedis = new Jedis("192.168.198.130", 6379);
jedis.set("test", "this i a test");
String str = jedis.get("test");
System.out.println("---:"+str);
//关闭jedis的链接
jedis.close();
}
/**
* 使用连接池
*/
@Test
public void testJedisPool(){
JedisPool jedisPool = new JedisPool("192.168.198.130", 6379);
Jedis jedis = jedisPool.getResource();
String str = jedis.get("test");
System.out.println("---:"+str);
jedis.close();
}
8. jedis与spring整合
添加配置文件applicationContext-jedis.xml
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd
http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd
http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">
<!-- 读取jedis配置文件; 这里可以不用配置,-dao已经配置了扫描配置文件 -->
<!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->
<!-- 连接池配置 -->
<bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">
<!-- 最大连接数 -->
<property name="maxTotal" value="30" />
<!-- 最大空闲连接数 -->
<property name="maxIdle" value="10" />
<!-- 每次释放连接的最大数目 -->
<property name="numTestsPerEvictionRun" value="1024" />
<!-- 释放连接的扫描间隔(毫秒) -->
<property name="timeBetweenEvictionRunsMillis" value="30000" />
<!-- 连接最小空闲时间 -->
<property name="minEvictableIdleTimeMillis" value="1800000" />
<!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->
<property name="softMinEvictableIdleTimeMillis" value="10000" />
<!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->
<property name="maxWaitMillis" value="1500" />
<!-- 在获取连接的时候检查有效性, 默认false -->
<property name="testOnBorrow" value="true" />
<!-- 在空闲时检查有效性, 默认false -->
<property name="testWhileIdle" value="true" />
<!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->
<property name="blockWhenExhausted" value="false" />
</bean>
<!--jedis客户端单机版 -->
<bean id="redisClient" class="redis.clients.jedis.JedisPool">
<constructor-arg name="host" value="${JEDIS_HOST}"></constructor-arg>
<constructor-arg name="port" value="6379"></constructor-arg>
<constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>
</bean>
<bean id="redisClientDao" class="com.taotao.rest.dao.impl.JedisClientSingle"></bean> <!--定义自己定义的jedis工具类-->
</beans>
测试
/**
* 结合spring的redis单机版测试
*/
@Test
public void testSpringSingle(){
ApplicationContext context = new ClassPathXmlApplicationContext("classpath:/spring/applicationContext-*.xml");
JedisPool jedisPool = (JedisPool)context.getBean("redisClient");
Jedis jedis = jedisPool.getResource();
jedis.set("key1", "1111");
String str = jedis.get("key1");
System.out.println("--:"+str);
jedis.close();
jedisPool.close();
}
这里可是自己封装一个工具类
package com.taotao.rest.dao.impl;
import org.springframework.beans.factory.annotation.Autowired;
import redis.clients.jedis.Jedis;
import redis.clients.jedis.JedisPool;
import com.taotao.rest.dao.JedisClient;
/**
* 在配置文件中注解
*
* @author Administrator
*
*/
public class JedisClientSingle implements JedisClient {
@Autowired
private JedisPool jedisPool;
@Override
public String get(String key) {
Jedis jedis = jedisPool.getResource();
String str = jedis.get(key);
jedis.close();
return str;
}
@Override
public String set(String key, String value) {
Jedis jedis = jedisPool.getResource();
String str = jedis.set(key, value);
jedis.close();
return str;
}
@Override
public String hget(String hkey, String key) {
Jedis jedis = jedisPool.getResource();
String str = jedis.hget(hkey, key);
jedis.close();
return str;
}
@Override
public Long hset(String hkey, String key, String value) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.hset(hkey, key, value);
jedis.close();
return result;
}
@Override
public long incr(String key) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.incr(key);
jedis.close();
return result;
}
@Override
public long expire(String key, int seconds) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.expire(key, seconds);
jedis.close();
return result;
}
@Override
public long ttl(String key) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.ttl(key);
return result;
}
@Override
public long del(String key) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.del(key);
return result;
}
@Override
public long hdel(String hkey, String key) {
Jedis jedis = jedisPool.getResource();
Long result = jedis.hdel(hkey, key);
return result;
}
}
二、集群版redis搭建
1.1. 集群原理
1.1.1. redis-cluster架构图
架构细节:
(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.
(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.
(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可
(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value
Redis 集群中内置了 16384 个哈希槽,当需要在 Redis 集群中放置一个 key-value 时,redis 先对 key 使用 crc16 算法算出一个结果,然后把结果对 16384 求余数,这样每个 key 都会对应一个编号在 0-16383 之间的哈希槽,redis 会根据节点数量大致均等的将哈希槽映射到不同的节点
1.1.2. redis-cluster投票:容错
(1)领着投票过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉.
(2):什么时候整个集群不可用(cluster_state:fail)?
a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成集群的slot映射[0-16383]不完成时进入fail状态. ps : redis-3.0.0.rc1加入cluster-require-full-coverage参数,默认关闭,打开集群兼容部分失败.
b:如果集群超过半数以上master挂掉,无论是否有slave集群进入fail状态.
ps:当集群不可用时,所有对集群的操作做都不可用,收到((error) CLUSTERDOWN The cluster is down)错误
2.安装ruby环境
redis集群管理工具redis-trib.rb依赖ruby环境,首先需要安装ruby环境:
安装ruby
yum install ruby
yum install rubygems
安装ruby和redis的接口程序(需要安装文件redis-3.0.0.gem)
拷贝redis-3.0.0.gem至/usr/local下
执行:
gem install /usr/local/redis-3.0.0.gem
3.集群节点的规划
这里在同一台服务器用不同的端口表示不同的redis服务器,如下:
主节点:192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003
从节点:192.168.198.130:7004 192.168.198.130:7005 192.168.198.130:7006
在/usr/local下创建redis-cluster目录,其下创建7001、7002。。7006目录,如下
将redis安装目录bin下的文件拷贝到每个700X目录内,同时修改每个的redis.conf中的端口为7001-7006,同时释放出redis.conf中的注释的
同时将redis源码目录src下的redis-trib.rb拷贝到redis-cluster目录下
[root@localhost redis-cluster]# cp /usr/soft/redis-3.0.7/src/redis-trib.rb /usr/local/redis-cluster/
使用后台启动的方式启动每个redis
执行redis-trib.rb,此脚本是ruby脚本,它依赖ruby环境
./redis-trib.rb create --replicas 1 192.168.198.130:7001 192.168.198.130:7002 192.168.198.130:7003 192.168.198.130:7004 192.168.198.130:7005 192.168.198.130:7006 //集群中redis的ip和脚本
启动成功后如下图
如果执行时报如下错误:
[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0
解决方法是删除生成的配置文件nodes.conf,如果不行则说明现在创建的结点包括了旧集群的结点信息,需要删除redis的持久化文件后再重启redis,比如:appendonly.aof、dump.rdb
使用客户端进行链接测试
其中-c表示要链接到集群 必须使用这个参数
查看集群状态信息
4.添加主节点
下面添加7007为master主节点
修改redis.conf中的端口为7007,并启动7007
运行命令
./redis-trib.rb add-node 192.168.198.130:7007 192.168.198.130:7001
运行成功结果
查看情况
5.hash槽重新分配
从上图我们可以看到7007还没有分配槽
5.1连接上集群
./redis-trib.rb reshard 192.168.198.130:7001(连接集群中任意一个可用结点都行)
5.2第二步:输入要分配的槽数量
输入 500表示要分配500个槽
5.3第三步:输入接收槽的结点id
这里准备给7007分配槽,通过cluster nodes查看7007结点id为15b809eadae88955e36bcdbb8144f61bbbaf38fb
输入:15b809eadae88955e36bcdbb8144f61bbbaf38fb
5.4第四步:输入源结点id
这里输入all
5.5第五步:输入yes开始移动槽到目标结点id
分配成功后可以查看对应的信息
6.添加从节点
集群创建成功后可以向集群中添加节点,下面是添加一个slave从节点。添加7008从结点,将7008作为7007的从结点。
./redis-trib.rb add-node --slave --master-id 主节点id 添加节点的ip和端口 集群中已存在节点ip和端口
执行命令(7007的id可以通过连接客户端使用cluster nodes查看)
./redis-trib.rb add-node --slave --master-id db786026ed607786d6db1aaab94fd73d1ac3c8f4 192.168.198.130:7008 192.168.198.130:7001
注意:如果原来该结点在集群中的配置信息已经生成cluster-config-file指定的配置文件中(如果cluster-config-file没有指定则默认为nodes.conf),这时可能会报错:
[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0
解决方法是删除生成的配置文件nodes.conf,删除后再执行./redis-trib.rb add-node指令
查看分配情况
7.删除节点
./redis-trib.rb del-node 节点的ip:端口 节点id
这是删除会报错,需要将该结点占用的hash槽分配出去(参考hash槽重新分配章节)
8.java测试
@Test
public void testJedisCluster(){
HashSet<HostAndPort> nodes = new HashSet<HostAndPort>();
nodes.add(new HostAndPort("192.168.198.130", 7001));
nodes.add(new HostAndPort("192.168.198.130", 7002));
nodes.add(new HostAndPort("192.168.198.130", 7003));
nodes.add(new HostAndPort("192.168.198.130", 7004));
nodes.add(new HostAndPort("192.168.198.130", 7005));
nodes.add(new HostAndPort("192.168.198.130", 7006));
JedisCluster cluster = new JedisCluster(nodes);
cluster.set("jedisClusterKey", "hello_world");
String str = cluster.get("jedisClusterKey");
System.out.println("---:"+str);
//关闭连接
cluster.close();
}
使用spring
<?xml version="1.0" encoding="UTF-8"?>
<beans xmlns="http://www.springframework.org/schema/beans"
xmlns:context="http://www.springframework.org/schema/context" xmlns:p="http://www.springframework.org/schema/p"
xmlns:aop="http://www.springframework.org/schema/aop" xmlns:tx="http://www.springframework.org/schema/tx"
xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance"
xsi:schemaLocation="http://www.springframework.org/schema/beans http://www.springframework.org/schema/beans/spring-beans-4.0.xsd
http://www.springframework.org/schema/context http://www.springframework.org/schema/context/spring-context-4.0.xsd
http://www.springframework.org/schema/aop http://www.springframework.org/schema/aop/spring-aop-4.0.xsd http://www.springframework.org/schema/tx http://www.springframework.org/schema/tx/spring-tx-4.0.xsd
http://www.springframework.org/schema/util http://www.springframework.org/schema/util/spring-util-4.0.xsd">
<!-- 读取jedis配置文件; 这里可以不用配置,-dao已经配置了扫描配置文件 -->
<!-- <context:property-placeholder location="classpath:/properties/*.properties"/> -->
<!-- 连接池配置 -->
<bean id="jedisPoolConfig" class="redis.clients.jedis.JedisPoolConfig">
<!-- 最大连接数 -->
<property name="maxTotal" value="30" />
<!-- 最大空闲连接数 -->
<property name="maxIdle" value="10" />
<!-- 每次释放连接的最大数目 -->
<property name="numTestsPerEvictionRun" value="1024" />
<!-- 释放连接的扫描间隔(毫秒) -->
<property name="timeBetweenEvictionRunsMillis" value="30000" />
<!-- 连接最小空闲时间 -->
<property name="minEvictableIdleTimeMillis" value="1800000" />
<!-- 连接空闲多久后释放, 当空闲时间>该值 且 空闲连接>最大空闲连接数 时直接释放 -->
<property name="softMinEvictableIdleTimeMillis" value="10000" />
<!-- 获取连接时的最大等待毫秒数,小于零:阻塞不确定的时间,默认-1 -->
<property name="maxWaitMillis" value="1500" />
<!-- 在获取连接的时候检查有效性, 默认false -->
<property name="testOnBorrow" value="true" />
<!-- 在空闲时检查有效性, 默认false -->
<property name="testWhileIdle" value="true" />
<!-- 连接耗尽时是否阻塞, false报异常,ture阻塞直到超时, 默认true -->
<property name="blockWhenExhausted" value="false" />
</bean>
<bean id="redisClientClusterDao" class="com.taotao.rest.dao.impl.JedisClientCluster"></bean>
<!-- redis集群 -->
<bean id="redisCluster" class="redis.clients.jedis.JedisCluster">
<constructor-arg name="nodes">
<set>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7001"></constructor-arg>
</bean>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7002"></constructor-arg>
</bean>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7003"></constructor-arg>
</bean>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7004"></constructor-arg>
</bean>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7005"></constructor-arg>
</bean>
<bean class="redis.clients.jedis.HostAndPort">
<constructor-arg name="host" value="192.168.198.130"></constructor-arg>
<constructor-arg name="port" value="7006"></constructor-arg>
</bean>
</set>
</constructor-arg>
<constructor-arg name="poolConfig" ref="jedisPoolConfig"></constructor-arg>
</bean>
</beans>
测试代码
/**
* 结合spring的jedis集群版
*/
@Test
public void testSpringJedisCluster(){
ApplicationContext context = new ClassPathXmlApplicationContext("classpath:/spring/applicationContext-*.xml");
JedisCluster jedisCluster = (JedisCluster)context.getBean(JedisCluster.class);
jedisCluster.set("key2", "3333");
String str = jedisCluster.get("key2");
System.out.println("--:"+str);
jedisCluster.close();
}
封装的工具类
package com.taotao.rest.dao.impl;
import org.springframework.beans.factory.annotation.Autowired;
import redis.clients.jedis.JedisCluster;
import com.taotao.rest.dao.JedisClient;
/**
* 集群不用jedisCluster.close(); 否则下次不能连接
* @author Administrator
*
*/
public class JedisClientCluster implements JedisClient{
@Autowired
private JedisCluster jedisCluster;
@Override
public String get(String key) {
String str = jedisCluster.get(key);
return str;
}
@Override
public String set(String key, String value) {
String str = jedisCluster.set(key, value);
return str;
}
@Override
public String hget(String hkey, String key) {
return jedisCluster.hget(hkey, key);
}
@Override
public Long hset(String hkey, String key, String value) {
return jedisCluster.hset(hkey, key, value);
}
@Override
public long incr(String key) {
return jedisCluster.incr(key);
}
@Override
public long expire(String key, int seconds) {
return jedisCluster.expire(key, seconds);
}
@Override
public long ttl(String key) {
return jedisCluster.ttl(key);
}
@Override
public long del(String key) {
return jedisCluster.del(key);
}
@Override
public long hdel(String hkey, String key) {
return jedisCluster.hdel(hkey, key);
}
}
补充 :设置redis服务(使用service start redis启动)
mkdir /etc/redis
cp redis.conf /etc/redis/6379.conf
cp redis_init_script /etc/init.d/redisd //redis_init_script文件在redis源码包中的util文件夹中 redis_init_script复制后重命名为redisd
修改redisd文件
vi /etc/init.d/redisd //不修改的话会使用chkconfig redisd on
会出现service redisd does not support chkconfig
在注释的最上面添加:
# chkconfig: 2345 90 10
# description: Redis is a persistent key-value database
#设置为开机自启动服务器
chkconfig redisd on
#打开服务
service redisd start
#关闭服务
service redisd stop