redis集群搭建
一、概述
Redis3.0版本之后支持Cluster.
1.1、redis cluster的现状
目前redis支持的cluster特性:
1):节点自动发现
2):slave->master 选举,集群容错
3):Hot resharding:在线分片
4):进群管理:cluster xxx
5):基于配置(nodes-port.conf)的集群管理
6):ASK 转向/MOVED 转向机制.
1.2、redis cluster 架构
1)redis-cluster架构图
架构细节:
(1)所有的redis节点彼此互联(PING-PONG机制),内部使用二进制协议优化传输速度和带宽.
(2)节点的fail是通过集群中超过半数的节点检测失效时才生效.
(3)客户端与redis节点直连,不需要中间proxy层.客户端不需要连接集群所有节点,连接集群中任何一个可用节点即可
(4)redis-cluster把所有的物理节点映射到[0-16383]slot上,cluster 负责维护node<->slot<->value
2) redis-cluster选举:容错
(1)领着选举过程是集群中所有master参与,如果半数以上master节点与master节点通信超过(cluster-node-timeout),认为当前master节点挂掉.
(2):什么时候整个集群不可用(cluster_state:fail),当集群不可用时,所有对集群的操作做都不可用,收到((error) CLUSTERDOWN The cluster is down)错误
a:如果集群任意master挂掉,且当前master没有slave.集群进入fail状态,也可以理解成进群的slot映射[0-16383]不完成时进入fail状态.
b:如果进群超过半数以上master挂掉,无论是否有slave集群进入fail状态.
二、redis cluster安装
1、下载和解包
cd /usr/local/ wget http://download.redis.io/releases/redis-3.2.1.tar.gz tar -zxvf ./redis-3.2.1.tar.gz
2、 编译安装
cd redis-3.2.1 make && make install
3、创建redis节点
我这里只有一台服务器创建6个节点
cd /usr/local/ mkdir redis_cluster //创建集群目录 mkdir 7000 7001 7002 7003 7004 7005 //分别代表六个节点 其对应端口 7000 7001 7002 7003 7004 7005 //拷贝到7000目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7000/ //拷贝到7001目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7001/ //拷贝到7002目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7002/ //拷贝到7003目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7003/ //拷贝到7004目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7004/ //拷贝到7005目录 cp /usr/local/redis-3.2.1/redis.conf ./redis_cluster/7005/
分别对7001,7002、7003、7004、7005文件夹中的6个文件修改对应的配置
daemonize yes //redis后台运行 pidfile /var/run/redis_7000.pid //pidfile文件对应7000,7002,7003 port 7000 //端口7000,7002,7003 cluster-enabled yes //开启集群 把注释#去掉 cluster-config-file nodes_7000.conf //集群的配置 配置文件首次启动自动生成 7000,7001,7002 cluster-node-timeout 5000 //请求超时 设置5秒够了 appendonly yes //aof日志开启 有需要就开启,它会每次写操作都记录一条日志
5、将redis-server复制到下面对应的位置,方便启动对应的redis
cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7000/ cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7001/ cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7002/ cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7003/ cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7004/ cp /usr/local/redis-3.2.1/src/redis-server /usr/local/redis_cluster/7005/
启动redis
cd /usr/local/redis_cluster/7000/ redis-server ./redis.conf
cd /usr/local/redis_cluster/7001/
redis-server ./redis.conf
cd /usr/local/redis_cluster/7002/
redis-server ./redis.conf
cd /usr/local/redis_cluster/7003/
redis-server ./redis.conf
cd /usr/local/redis_cluster/7004/
redis-server ./redis.conf
cd /usr/local/redis_cluster/7005/
redis-server ./redis.conf
查看服务
ps -ef | grep redis #查看是否启动成功
netstat -tnlp | grep redis #可以看到redis监听端口
三、创建集群
前面已经准备好了搭建集群的redis节点,接下来我们要把这些节点都串连起来搭建集群。官方提供了一个工具:redis-trib.rb(/usr/local/redis-3.2.1/src/redis-trib.rb) 看后缀就知道这鸟东西不能直接执行,它是用ruby写的一个程序,所以我们还得安装ruby.
1、下载ruby稳定版
cd /usr/local/src
wget https://cache.ruby-lang.org/pub/ruby/2.5/ruby-2.5.1.tar.gz
2、安装ruby
tar zxf ruby-2.5.1.tar.gz cd ruby-2.5.1 ./configure --prefix=/usr/local/ruby make && make install
3、查看安装后的版本
/usr/local/ruby/bin/ruby -v
4.设置环境变量
vi /etc/profile
最后添加
export PATH=$PATH:/usr/local/ruby/bin;
保存退出,执行
source /etc/profile
验证
echo $PATH
5.安装
gem install redis
上面的步骤完事了,接下来运行一下redis-trib.rb
/usr/local/redis-3.2.1/src/redis-trib.rb
看到这,应该明白了吧, 就是靠上面这些操作 完成redis集群搭建的.
确认所有节点都启动,接下来使用create创建集群
/usr/local/redis-3.2.1/src/redis-trib.rb create --replicas 1 127.0.0.1:7000 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005
解释:
--replicas 1 表示 自动为每一个master节点分配一个slave节点 上面有6个节点,程序会按照一定规则生成 3个master(主)3个slave(从)
前面已经提醒过的 防火墙一定要开放监听的端口,否则会创建失败。
运行中,提示Can I set the above configuration? (type 'yes' to accept): yes //输入yes
接下来 提示 Waiting for the cluster to join.......... 安装的时候在这里就一直等等等,没反应,傻傻等半天,看这句提示上面一句,Sending Cluster Meet Message to join the Cluster.
查看一下 /usr/local/redis/src/redis-trib.rb check 192.168.1.237:7000
到这里集群已经初步搭建好了。
四、测试
get 和 set数据
redis-cli -c -p 7000
进入命令窗口,直接 set hello howareyou
直接根据hash匹配切换到相应的slot的节点上。
还是要说明一下,redis集群有16383个slot组成,通过分片分布到多个节点上,读写都发生在master节点。