[转]Redis集群搭建
参考链接:
https://www.cnblogs.com/xuliangxing/p/7146868.html
https://blog.csdn.net/Aquester/article/details/82625614
一、应用场景介绍
本文主要是介绍Redis集群在Linux环境下的安装讲解,其中主要包括在联网的Linux环境和脱机的Linux环境下是如何安装的。因为大多数时候,公司的生产环境是在内网环境下,无外网,服务器处于脱机状态(最近公司要上线项目,就是无外网环境的Linux,被离线安装坑惨了,走了很多弯路,说多了都是血泪史啊%>_<%)。这也是笔者写本文的初衷,希望其他人少走弯路,下面就介绍如何在Linux安装部署Redis集群。
二、安装环境及工具
系统:Red Hat Enterprise Linux Server release 6.6
工具:XShell5及Xftp5
安装包:GCC-7.1.0
Ruby-2.4.1
Rubygems-2.6.12
Redis-3.2.9(3.x版本才开始支持集群功能)
三、安装步骤
要搭建一个最简单的Redis集群,我们至少需要6个节点:3个Master和3个Slave。那为什么需要3个Master呢?其实就是一个“铁三角”的关系,当1个Master下线的时候,其他2个Master和对应的Salve立马就能顶替上去,确保集群能够正常使用,如果你之前了解Mongodb/Hadoop/Strom这些的话,你就很容易目标一般分布式的最低要求基数个数节点,这样便于选举(少数服从多数的原则)。本文当中,我们就偷下懒,在一台Linux虚拟机上搭建6个节点的Redis集群(实际真正生产环境,需要3台Linux服务器分布存放3个Master)
1、安装GCC环境
安装Redis需要依托GCC环境,先检查Linux是否已经安装了GCC,如果没有安装,则需要进行安装
检查GCC是否安装,可以看看版本号
$ gcc -v
如果已经安装了GCC,则会显示以下信息
如果没有任何信息,则我们可以通过命令yum install gcc-c++进行在线安装
$ yum install gcc-c++
如果没有网络的时候,我们就需要下载GCC的安装包进行手动安装了,具体方法还是比较复杂的,具体离线安装GCC的方法,请参考我的另外一篇文章《Linux无网离线安装GCC》
2、安装Ruby和Rubygems
如果有网的话,则通过yum命令进行安装,自动将关联的依赖包全部安装
$ yum install ruby $ yum install rubygems
如果是离线的状态,我们则可以选择下载Ruby和Rubygems,解压手动进行安装,具体的方法请参考我的另外两篇文件《Linux 离线安装Ruby详解》和《Linux 离线安装Rubygems详解》,这里我们不做多讲解。
四、安装Redis
1、到官网(https://redis.io/download)下载Redis,现在最新的版本为:3.2.9 ,将下载好的压缩包上传到服务器当中。如图所示,我是新建了一个Redis临时目录存放,偷懒我就用xftp5手动创建一个目录存放(也可以写命令创建文件夹 $ makdir redis)
2、安装Redis
转到Redis的存放目录,然后通过命令解压Redis压缩包
$ cd /home/cmfchina/redis
$ tar -zxvf redis-3.2.9.tar.gz
通过make命令进行安装Redis(需要root权限)
$ cd /home/cmfchina/redis/redis-3.2.9
$ make && make install //make 这里如果不指定PREFIX,默认将安装在/usr/local/bin下,保持默认就好
如果没有root权限是无法安装的,如图所示
我们获取root权限之后再进行安装,看到如下信息,说明Redis安装成功了,也可以到/usr/local/bin目录下看看
如果只是想要单机,不存在集群功能,我们现在就可以将Redis运行起来,我们直接在刚刚解压的Redis目录下运行命令就可以将单机的Redis 运行起来
$ cd /home/cmfchina/redis/redis-3.2.9
$ redis-server redis.conf //所有相关配置信息都在conf里面,如果不设置,默认端口号为:6379
五、配置Redis集群
刚刚上面讲到如果只是想运行单机版的Redis(个人研究Redis可以安装单机版),上面的讲解已经够了,不过现实当中,我们往往是需要使用到集群功能的,进行容错。
之前讲到是我们需要6个节点的Redis作为集群,所以我们需要创建6个文件夹,分别存放6个节点的配置信息,6个节点需要对应6个端口号,比如7001~7006,这个端口号我们自行定义,我们通过xftp5可视化创建一下。
第一步、我们也可以通过命令mkdir批量创建,,命令可能会更快点。
下面重点来了,需要6个节点,所有我们需要配置各自的redis.conf配置文件。到我们Redis的安装目录usr/local/bin,将redis-cli、redis-server、redis.conf(没有conf文件,可以从压缩包里拷个出来,或者自己直接新建一个空的conf文件,后面再配置相关信息),分别复制到刚刚创建的6个文件夹当中。
第二步、接下来,我们需要配置redis.conf文件,如果你是从压缩包拷贝出来,你会发现特别多的备注,这些是都是官网的备注讲解,你可以全部删除,只配置你想配置的信息就行。我们主要配置相对应的端口信息和集群配置信息
还有很多redis.conf配置信息,实际场景我们再自行配置,关于配置redis.conf的相关信息,可以参考笔者另一篇文件《Redis.conf及其Sentinel.conf配置项详细说明》。我们分别配置相对应的6个redis.conf信息。
分别将这6个redis服务启动起来(命令redis-server redis.conf),一个一个去启动有点复杂,在redis目录创建一个sh脚本来启动6个实例
1 $cd /home/cmfchina/redis 2 $vim startall.sh 就会打开vim编辑器,创建一个空的文本
:wq!保存脚本,创建成功:
执行./startall.sh 提示permission denied说明权限不足,执行命令chmod 777 startall.sh修改权限获取root用户执行脚本
$ chmod 777 startall.sh 分配权限
$ sh -x startall.sh 执行脚本
=======补充说明 :2017-12-14 =========
有网友跟博主反应,上面这个批量脚本不能执行,是博主漏加了命令:kill -2
因为:每次执行一个redis启动,都会停留在redis的启动界面(上文说到的单机启动redis的那个界面),所以我们需要模拟退出当前界面,执行下一条命令
Kill -2 :功能类似于Ctrl + C 是程序在结束之前,能够保存相关数据,然后再退出。
将上文的脚本改造下就行;如图所示
Ps:如果出现路径找不到的问题,将上文的路径全部换成绝对路径
=================================
再执行./startall.sh, 然后通过命令netstat -tnulp | grep redis和ps aux | grep redis查看redis运行情况,可以看到端口7001、7002、7003、7004、7005、7006的redis都起来了。噢耶~~~~
第三步、实际上,Redis集群的操作在后文你可以看到是通过Ruby脚本来完成的,因此我们需要安装Ruby相关的RPM包,以及Redis和Ruby的接口包。我们要用到之前安装的Ruby。我们到之前解压的文件redis-3.2.9/src目录下找到文件为:redis-trib.rb,如图所示
将该文件拷贝到与6个文件夹的同级目录下
在redis目录下执行命令:
$ ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006
===============相关错误汇总解决方案(你以为上面是重点%>_<%,其实下面这才是本文重点(太多坑)!!!)===============
如果执行上述命令出现Ruby和Rubygems错误的话,那是没有安装Ruby和Rubygems,所有这就是为什么我们文章之前就要提前安装好Ruby和Rubygems。但是有些人说这两个我们已经安装了,为什么还会报如下错误的话
/home/cmfchina/ruby/lib/ruby/site_ruby/2.4.0/rubygems/core_ext/kernel_require.rb:55:in `require': cannot load such file -- redis (LoadError) from /home/cmfchina/ruby/lib/ruby/site_ruby/2.4.0/rubygems/core_ext/kernel_require.rb:55:in `require' from ./redis-trib.rb:25:in `<main>'
这错误是提示不能加载redis,那是因为缺少redis和ruby的接口,使用gem 安装,我们这个时候其实还需要安装对应的Redis的Rbuy接口包。我们需要下载对应Redis的gem包安装才行。Rubygems的官网其实提供了Redis的gem包,我们可以直接取下载https://rubygems.org/gems/redis/ 下载后上传到服务器当中
执行gem install redis-3.3.0.gem命令安装。
$ gem install redis-3.3.0.gem
但是执行这个又报了错误,如果没有报错的话那就说明人品好啊......真是心塞~~~如图所示,这是因为需要依赖zlib工具。
ERROR: Loading command: install (LoadError) cannot load such file -- zlib ERROR: While executing gem ... (NoMethodError) undefined method `invoke_with_build_args' for nil:NilClass
第四步、我们需要再安装zlib才行,下载zlib,上传解压,安装zlib官方网站:http://www.zlib.net ,最新版1.2.11,安装我们就一笔带过
1 $tar -xvzf zlib-1.2.11.tar.gz 2 $cd zlib-1.2.8.tar.gz 3 $./configure --prefix=/usr/local/zlib 设置安装路径 4 $make 5 $make instal
安装完zlib之后,我们再需要执行以下命令
1 $ cd /home/cmfchina/ruby/ruby-2.4.1/ext/zlib 备注:/home/cmfchina/ruby/ruby-2.4.1这个目录是ruby安装包后解压的目录,就是前面提到的ruby离线安装 2 $ ruby extconf.rb 3 $ make && make install
可是又报错了,真是无力吐槽了~~~错误信息如下
checking for deflateReset() in -lz... no checking for deflateReset() in -llibz... no checking for deflateReset() in -lzlib1... no checking for deflateReset() in -lzlib... no checking for deflateReset() in -lzdll... no checking for deflateReset() in -lzlibwapi... no *** extconf.rb failed *** Could not create Makefile due to some reason, probably lack of necessary libraries and/or headers. Check the mkmf.log file for more details. You may need configuration options.
本着不放弃的原则,只能去外国网站查查资料看怎么解决了,发现原来是要将文件安装到本地运行库的里面才行,所有安装的时候需要额外配置信息,但是前提是我们需要安装zlib,才能继续下一步。
安装好zlib,然后我们重新输入命令
1 $ cd /home/cmfchina/ruby/ruby-2.4.1/ext/zlib
备注:/home/cmfchina/ruby/ruby-2.4.1这个目录是ruby安装包后解压的目录,就是前面提到的ruby离线安装
2 $ ruby extconf.rb --with-zlib-include=/usr/local/zlib/include/ --with-zlib-lib=/usr/local/zlib/lib //会生成一个Makefile文件
备注:/usr/local/zlib是我的zlib安装目录
3 $ make && make install
这个时候会自动生成一个Makefile文件,如图所示
接下来我们make && make install 安装一下,但是当我们make的时候,又出现了错误如下
make: *** No rule to make target `/include/ruby.h', needed by `zlib.o'. Stop
这个时候打开ext/zlib/Makefile文件,找到下面一行把路径进行修改一下。
zlib.o: $(top_srcdir)/include/ruby.h 改成:zlib.o: ../../include/ruby.h
如图所示
修改完成,然后保存:接着我们再make && make install,这个时候安装成功了~~所以就放心地接着干吧!(没有看到我也无能为力了)安装完成后如下显示
我们回到redis的gem目录下,继续执行命令:gem install redis-3.3.0.gem
但是......又出现了错误,原来我们还需要安装OpenSSL,因为Redis集群交互是需要OpenSSL
第五步、我们又得安装OpenSSL才行,官网地址:https://www.openssl.org/source/ 上次压缩包到服务器,解压,具体不做太细讲解
1 $ tar -xzvf openssl-1.0.2l.tar.gz 2 $ cd openssl-1.0.2l 3 $ ./config -fPIC --prefix=/usr/local/openssl enable-shared 4 $ ./config -t 5 $ make && make install
安装openssl成功界面如下:
我们又要到到Ruby解压的源码[/home/cmfchina/ruby-2.4.1]目录下的ext/openssl 目录,如图所示
安装和zlib一样的方式安装openssl
1 $ cd /home/cmfchina/ruby-2.4.1/ext/openssl 2 备注:/home/cmfchina/ruby/ruby-2.4.1这个目录是ruby安装包后解压的目录,就是前面提到的ruby离线安装
3 $ruby extconf.rb --with-openssl-include=/usr/local/openssl/include/ --with-openssl-lib=/usr/local/openssl/lib //会生成一个Makefile文件 4 备注:/usr/local/openssl是我的openssl安装目录
5 $ make && make install
但是我们make的时候,又出现了和zlib类似的错误
make: *** No rule to make target `/include/ruby.h', needed by `ossl.o'. Stop
还是按照刚刚zlib操作一样,打开Makefile文件,将$(top_srcdir)全部改成../..
修改后保存,再执行make && make install,这一次安装成功了~~
然后我们再回到之前redis目录下执行命令:gem install redis-3.3.0.gem
第六步、启动Redis集群
完成以上步骤之后,我们再回到第三步执行命令
在redis目录下执行命令:
$ ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006
我们选择yes,意思是服从这种主从分配方式,我们也可以通过配置文件自己指定slave
第五、Redis集群设置密码
在实际场景当中,我们都需要考虑到安全问题,设置密码这个环节也是必不可少,Redis单片机设置密码都挺简单的,一般分为两种方式:
1、先设置各个Redis单机的密码
方法一:修改所有Redis集群中的redis.conf配置文件
masterauth password123 //设置master密码,是为了Salve能够连接上Master requirepass password123 //设置Redis访问请求密码
方法二:进入各个Redis集群中的实时配置
./redis-cli -c -p 7001 //分别进入各个Redis片机进行各自设置 config set masterauth passwd123 config set requirepass passwd123 config rewrite
注意:各个节点密码都必须一致,否则Redirected就会失败, 个人推荐第二种方式,这种方式会把密码写入到redis.conf里面去,且不用重启。
建议设置好masterauth的密码,否则后期的Master和Salve无法进行数据同步,如图所示:
2、再设置redis-trib.rb的密码进行集群分配启动(最关键一步!!!)
如果你设置了各个Redis密码,但是使用下面的命令还是报错了,对的~错了那就是对了,因为你还需要进行关键的一步需要设置,O(∩_∩)O哈哈~。
$ ./redis-trib.rb create --replicas 1 127.0.0.1:7001 127.0.0.1:7002 127.0.0.1:7003 127.0.0.1:7004 127.0.0.1:7005 127.0.0.1:7006
一般会出现以下错误:./redis-trib.rb check 127.0.0.1:7001,则会报错ERR] Sorry, can’t connect to node 127.0.0.1:7001,我们需要再次设置client.rb的配置文件
解决方法,找到系统的client.rb(温馨提示:不知道这个再哪里,可以使用find命令进行查找:ind / -name 'client.rb'),然后修改passord,具体设置如图所示:
设置好密码保存退出之后,再执行上面集群redis-trib.rb的命令,这样就大功告成了~~~O(∩_∩)O
第六、Redis集群测试
我们来测试一下Redis集群,通过连接任一redis端口,添加数据
[root@localhost redis7001]# redis-cli -p 7001 -c
[root@localhost redis7001]# redis-cli -c -h 127.0.0.1 -p 7001 shutdown //关闭集群,如果没有-h参数,默认连接127.0.0.1,如果没有-p参数,默认连接6370端口(所有如果用默认的,就没有-h -p)
说明:-h+host –p+端口号 –c 是要连接集群,注意坑,不加会报错的
可以看到连接的是7001的节点,set name的时候计算了存在哪个hash槽上,会跳转到那个槽对应的节点
结束语:至此,Redis的集群配置的前世今生已到此结束,在没有网络的环境下中途碰到了很多坑,现在我们可以尽情享受Redis,纵使虐我千百遍,我待它如初恋
后话:推荐一个Redis的可视化工具:RedisDesktopManager 官网(https://redisdesktop.com/download),具体可以到官网看看,这里我只抛砖引玉一下,下篇文章主要介绍Redis的Sentinel(哨兵)模式
PS:未经作者允许,请勿进行转载,有问题,请留言,如若转载记得注明出处:http://www.cnblogs.com/xuliangxing/p/7146868.html
-------------------------------------------
个性签名:独学而无友,则孤陋而寡闻。做一个灵魂有趣的人!
如果觉得这篇文章对你有小小的帮助的话,记得在右下角点个“推荐”哦,在此感谢!