(五)Redis集群--Redis Cluster

Redis集群搭建与简单使用

介绍安装环境与版本

用两台虚拟机模拟9个节点,3个master节点,6个 salve 节点。

redis 采用 redis-3.2.4 版本。

一台 CentOS7(IP:127.0.0.1) 。

安装过程

1. 下载并解压

cd /root/software
wget http://download.redis.io/releases/redis-3.2.4.tar.gz
tar -zxvf redis-3.2.4.tar.gz 

2. 编译安装

cd redis-3.2.4
make
make install PREFIX=/usr/local/bin

3. 将 redis-trib.rb 复制到redis_cluster目录下

cd src
mkdir /usr/local/bin/redis_cluster cp redis-trib.rb /usr/local/bin/redis_cluster

4. 创建 Redis 节点

在 redis_cluster 目录下,创建名为7000、7001、7002 ... 7008的目录,并将 redis.conf 拷贝到这三个目录中

cp redis.conf redis_cluster/7000
cp redis.conf redis_cluster/7001
cp redis.conf redis_cluster/7002  
cp redis.conf redis_cluster/7003
cp redis.conf redis_cluster/7004
cp redis.conf redis_cluster/7005 

分别修改这9个配置文件,修改如下内容

port  7000                                     //端口7000,7002,7003        
bind 本机ip                                     //默认ip为127.0.0.1 需要改为其他节点机器可访问的ip 否则创建集群时无法访问对应的端口,无法创建集群
daemonize    yes                               //redis后台运行
cluster-enabled  yes                           //开启集群  把注释#去掉
cluster-config-file  nodes_7000.conf           //集群的配置  配置文件首次启动自动生成 默认:nodes.conf
cluster-node-timeout  15000                    //请求超时  默认15秒,可自行设置
appendonly  yes                                //aof日志开启  有需要就开启,它会每次写操作都记录一条日志 

5. 启动各个节点,可以编写一个shell脚本start-all.sh,方便运行

启动:#./start-all.sh

6. 检查 redis 启动情况

#ps -ef | grep redis
root      61020      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7000 [cluster]    
root      61024      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7001 [cluster]    
root      61029      1  0 02:14 ?        00:00:01 redis-server 127.0.0.1:7002 [cluster]    
root       9957      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7003 [cluster]
root       9964      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7004 [cluster]
root       9971      1  0 02:32 ?        00:00:01 redis-server 127.0.0.1:7005 [cluster]
root 10065 4744 0 02:38 pts/0 00:00:00 grep --color=auto redis

7.创建集群

Redis 官方提供了 redis-trib.rb 这个工具,就在解压目录的 src 目录中,第三步中已将它复制到 /usr/local/bin 目录中,可以直接在命令行中使用了。使用下面这个命令即可完成安装。

redis-trib.rb  create  --replicas  1  192.168.31.245:7000 192.168.31.245:7001  192.168.31.245:7002 192.168.31.210:7003  192.168.31.210:7004  192.168.31.210:7005

等等,出错了。这个工具是用 ruby 实现的,所以需要安装 ruby。安装命令如下:

yum -y install ruby

gem install redis-3.2.4.gem (该文件需要自己下载)

之后再运行 redis-trib.rb 命令,会出现如下提示:

输入 yes 即可,然后出现如下内容,说明安装成功。

  

8. 集群验证

在第一台机器上连接集群的7002端口的节点,在另外一台连接7005节点,连接方式为 redis-cli -h 192.168.31.245 -c -p 7002  ,加参数 -C 可连接到集群,因为上面 redis.conf 将 bind 改为了ip地址,所以 -h 参数不可以省略。

在7005节点执行命令  set hello world ,执行结果如下:

 

然后在另外一台7002端口,查看 key 为 hello 的内容, get hello  ,执行结果如下:

说明集群运作正常。

 

1.1      维护节点(自学)

1.1.1   添加主节点

集群创建成功后可以向集群中添加节点,下面是添加一个master主节点

  • 添加7007结点作为新节点

执行命令:./redis-trib.rb add-node 127.0.0.1:7007 127.0.0.1:7001

 

 

 

  • 查看集群结点发现7007已添加到集群中

 

 

 

1.1.2   hash槽重新分配

添加完主节点需要对主节点进行hash槽分配,这样该主节才可以存储数据

 

  • 查看集群中槽占用情况

 

redis集群有16384个槽,集群中的每个结点分配自已槽,通过查看集群结点可以看到槽占用情况。

 

 

 

  • 给刚添加的7007结点分配槽

第一步:连接上集群(连接集群中任意一个可用结点都行)

[root@redis01 redis0707]# ./redis-trib.rb reshard 192.168.101.3:7001

 

第二步:输入要分配的槽数量

 

输入:500,表示要分配500个槽

 

第三步:输入接收槽的结点id

 

输入:15b809eadae88955e36bcdbb8144f61bbbaf38fb

PS:这里准备给7007分配槽,通过cluster nodes查看7007结点id为:

15b809eadae88955e36bcdbb8144f61bbbaf38fb

 

 

 

第四步:输入源结点id

 

输入:all

 

 

第五步:输入yes开始移动槽到目标结点id

 

输入:yes

 

 

1.1.3   添加从节点

 

集群创建成功后可以向集群中添加节点,下面是添加一个slave从节点。

  • 添加7008从结点,将7008作为7007的从结点

 

命令:./redis-trib.rb add-node --slave --master-id 主节点id 新节点的ip和端口 旧节点ip和端口

 

执行如下命令:

./redis-trib.rb add-node --slave --master-id cad9f7413ec6842c971dbcc2c48b4ca959eb5db4  192.168.101.3:7008 192.168.101.3:7001

 

cad9f7413ec6842c971dbcc2c48b4ca959eb5db4  是7007结点的id,可通过cluster nodes查看。

 

 

 

注意:如果原来该结点在集群中的配置信息已经生成到cluster-config-file指定的配置文件中(如果cluster-config-file没有指定则默认为nodes.conf),这时可能会报错:

[ERR] Node XXXXXX is not empty. Either the node already knows other nodes (check with CLUSTER NODES) or contains some key in database 0

解决方法是删除生成的配置文件nodes.conf,删除后再执行./redis-trib.rb add-node指令

 

  • 查看集群中的结点,刚添加的7008为7007的从节点:

 

 

 

 

1.1.4   删除结点

命令:./redis-trib.rb del-node 127.0.0.1:7005 4b45eb75c8b428fbd77ab979b85080146a9bc017

 

 

删除已经占有hash槽的结点会失败,报错如下:

[ERR] Node 127.0.0.1:7005 is not empty! Reshard data away and try again.

 

需要将该结点占用的hash槽分配出去(参考hash槽重新分配章节)。

 

 

 

 

redis-trib.rb命令:

create 创建集群

  -replicas 2 :表示每个master有2个slave

例如: ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005  127.0.0.1:7006

  每个master对应一个slave

add-node 添加新节点

   带添加的ip:port   集群任意一个ip:port

例如: ./redis-trib.rb add-node 127.0.0.1:7007 127.0.0.1:7001

add-node --slave  --master-id  添加从节点

  带添加的ip:port   集群任意一个ip:port

例如:./redis-trib.rb add-node --slave --master-id cad9f7413ec6842c971dbcc2c48b4ca959eb5db4  192.168.101.3:7008 192.168.101.3:7001

reshard 槽从新分配

  集群任意节点ip:port

del-node  删除节点

  集群任意节点ip:port     要删除的节点id

例如:./redis-trib.rb del-node 127.0.0.1:7005 4b45eb75c8b428fbd77ab979b85080146a9bc017

查看节点信息  ./redis-trib.rb info 127.0.0.1:7007

检查节点: ./redis-trib.rb check127.0.0.1:7007

简单原理

redis cluster在设计的时候,就考虑到了去中心化,去中间件,也就是说,集群中的每个节点都是平等的关系,都是对等的,每个节点都保存各自的数据和整个集群的状态。每个节点都和其他所有节点连接,而且这些连接保持活跃,这样就保证了我们只需要连接集群中的任意一个节点,就可以获取到其他节点的数据。

Redis 集群没有并使用传统的一致性哈希来分配数据,而是采用另外一种叫做哈希槽 (hash slot)的方式来分配的。redis cluster 默认分配了 16384 个slot,当我们set一个key 时,会用CRC16算法来取模得到所属的slot,然后将这个key 分到哈希槽区间的节点上,具体算法就是:CRC16(key) % 16384。所以我们在测试的时候看到set 和 get 的时候,直接跳转到了7000端口的节点。

Redis 集群会把数据存在一个 master 节点,然后在这个 master 和其对应的salve 之间进行数据同步。当读取数据时,也根据一致性哈希算法到对应的 master 节点获取数据。只有当一个master 挂掉之后,才会启动一个对应的 salve 节点,充当 master 。

需要注意的是:必须要3个或以上的主节点,否则在创建集群时会失败,并且当存活的主节点数小于总节点数的一半时,整个集群就无法提供服务了。

posted @ 2018-04-06 14:37  染红の街道  阅读(305)  评论(0编辑  收藏  举报