Docker环境下的前后端分离项目部署与运维（七）Redis高速缓存

Redis高速缓存

利用内存保存数据，读写速度远超硬盘；可以减少I/O操作，降低I/O压力。

• 发红包、抢红包的数据可以存在高速缓存中，加快处理速度，不需要经过数据库
• 淘宝首页一些优惠活动商品等热数据可以存在高速缓存中，而基于大数据的推荐产品从数据库中读取
  

Redis介绍

• Redis是Wmware开发的开源免费的KV型NoSQL缓存产品
• Redis具有很好的性能，最多可以提供10万次每秒的读写
• 目前新浪微博团队组建了世界上最大规模的Redis集群
• Redis目前的集群方案分为以下几种：
  1. RedisCluster：官方推荐，没有中心节点
  2. Codis：中间件产品，存在中心节点
  3. Twemproxy：中间件产品，存在中心节点

RedisCluster

• 没有中心节点，客户端与Redis节点直连，不需要中间代理层
• 数据可以被分片存储，每个节点保存一部分数据，互不相同，某个节点挂掉可能丢失数据，所以要为每个节点设置冗余节点
• 管理方便，后续可以自行添加或删除节点
  

Redis主存同步

• Redis集群的数据采取切分存储，每个节点存储的各不相同。某个节点挂掉，其存储的数据就丢失了。
• Redis集群中的数据库复制通过主从同步来实现的。主节点把数据分发给从节点。主存同步的好处就在于高可用。Redis节点有冗余设计

Redis集群高可用

• Redis集群中应该包含奇数个Master，至少应该有3个Master。
• Redis和PXC集群都有选举机制，如果超过一半的节点挂掉，那么剩下的节点没有超过一半，是无法选举组成一个新的集群的。
• 连接Redis集群的任何一个节点都能正确写入数据，Redis节点能计算数据应该保存到哪个节点，将数据切分保存到相应的其他节点上。
• Redis节点不配置负载均衡，因为后端项目使用Spring，Spring帮我们实现了负载均衡。（或者使用Nginx代理也行）
  

配置RedisCluster集群

配置Redis网段

创建net2网段

docker network create --subnet=172.19.0.0/16 net2

安装第三方Redis镜像

# 拉取镜像
docker pull yyyyttttwwww/redis
# 修改镜像名称
docker tag yyyyttttwwww/redis redis
# 运行容器
docker run -it -d --name r1 -p 5001:6379 --net=net2 --ip 172.19.0.2 redis bash
# 进入容器
docker exec -it r1 bash

修改容器内redis配置文件，容器中的配置文件路径： /usr/redis/redis.conf 

daemonize yes    # 以后台进程运行。这句需要注释掉，否则在指定配置文件时会启动失败（https://www.jianshu.com/p/923eb2e0a5f0）
cluster-enabled yes    # 开启集群
cluster-config-file nodes.conf    # 集群配置文件
cluter-node-timeout 15000    # 超时时间
appendonly yes    # 开启AOF模式

然后启动redis

# 进入redis目录
cd /usr/redis/src/
# 使用配置文件启动Redisz
./redis-server ../redis.conf

然后按照相同方式启动其他5个Redis节点

docker run -it -d --name r2 -p 5002:6379 --net=net2 --ip 172.19.0.3 redis bash
docker run -it -d --name r3 -p 5003:6379 --net=net2 --ip 172.19.0.4 redis bash
docker run -it -d --name r4 -p 5004:6379 --net=net2 --ip 172.19.0.5 redis bash
docker run -it -d --name r5 -p 5005:6379 --net=net2 --ip 172.19.0.6 redis bash
docker run -it -d --name r6 -p 5006:6379 --net=net2 --ip 172.19.0.7 redis bash

配置第三方Redis集群

利用redis-trib.rb创建Redis集群

docker exec -it r1 bash
cd /usr/redis/
mkdir cluster
cd src
cp redis-trib.rb ../cluster/
cd ../cluster/
./redis-trib.rb create --replicas 1 172.19.0.2:6379 172.19.0.3:6379 172.19.0.4:6379 172.19.0.5:6379 172.19.0.6:6379 172.19.0.7:6379

创建完毕后会有三个主节点，三个从节点。（注意：这里要输入yes，不是y）

root@26a99229635f:/usr/redis/cluster# ./redis-trib.rb create --replicas 1 172.19.0.2:6379 172.19.0.3:6379 172.19.0.4:6379 172.19.0.5:6379 172.19.0.6:6379 172.19.0.7:6379
>>> Creating cluster
>>> Performing hash slots allocation on 6 nodes...
Using 3 masters:
172.19.0.2:6379
172.19.0.3:6379
172.19.0.4:6379
Adding replica 172.19.0.5:6379 to 172.19.0.2:6379
Adding replica 172.19.0.6:6379 to 172.19.0.3:6379
Adding replica 172.19.0.7:6379 to 172.19.0.4:6379
M: fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a 172.19.0.2:6379
   slots:0-5460 (5461 slots) master
M: 361923553a5113db299079326ea59a537d6913fd 172.19.0.3:6379
   slots:5461-10922 (5462 slots) master
M: 7a60116e296cdfb322f17219335f4de457d06d34 172.19.0.4:6379
   slots:10923-16383 (5461 slots) master
S: 3c79d17299bf22a0c374291fae517a8769df8128 172.19.0.5:6379
   replicates fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a
S: 49f1ec354df28a07f97c19d2d6893104dda7004d 172.19.0.6:6379
   replicates 361923553a5113db299079326ea59a537d6913fd
S: df072f3ef3d26335a3a391a9fa01824892edef49 172.19.0.7:6379
   replicates 7a60116e296cdfb322f17219335f4de457d06d34
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join.
>>> Performing Cluster Check (using node 172.19.0.2:6379)
M: fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a 172.19.0.2:6379
   slots:0-5460 (5461 slots) master
M: 361923553a5113db299079326ea59a537d6913fd 172.19.0.3:6379
   slots:5461-10922 (5462 slots) master
M: 7a60116e296cdfb322f17219335f4de457d06d34 172.19.0.4:6379
   slots:10923-16383 (5461 slots) master
M: 3c79d17299bf22a0c374291fae517a8769df8128 172.19.0.5:6379
   slots: (0 slots) master
   replicates fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a
M: 49f1ec354df28a07f97c19d2d6893104dda7004d 172.19.0.6:6379
   slots: (0 slots) master
   replicates 361923553a5113db299079326ea59a537d6913fd
M: df072f3ef3d26335a3a391a9fa01824892edef49 172.19.0.7:6379
   slots: (0 slots) master
   replicates 7a60116e296cdfb322f17219335f4de457d06d34
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

--replicas 1参数表示为每个主节点创建一个从节点

查看集群状态

/usr/redis/src/redis-cli -c

cluster nodes

root@26a99229635f:/# /usr/redis/src/redis-cli -c
127.0.0.1:6379> cluster nodes
fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a 172.19.0.2:6379 myself,master - 0 0 1 connected 0-5460
df072f3ef3d26335a3a391a9fa01824892edef49 172.19.0.7:6379 slave 7a60116e296cdfb322f17219335f4de457d06d34 0 1558171927740 6 connected
3c79d17299bf22a0c374291fae517a8769df8128 172.19.0.5:6379 slave fe2e218c8bd90c1e2efa9c82bf5c63dc9140d58a 0 1558171925725 4 connected
7a60116e296cdfb322f17219335f4de457d06d34 172.19.0.4:6379 master - 0 1558171926733 3 connected 10923-16383
49f1ec354df28a07f97c19d2d6893104dda7004d 172.19.0.6:6379 slave 361923553a5113db299079326ea59a537d6913fd 0 1558171929754 5 connected
361923553a5113db299079326ea59a537d6913fd 172.19.0.3:6379 master - 0 1558171928746 2 connected 5461-10922

安装Redis镜像

创建外部存储卷

# 创建外部映射文件
mkdir /home/soft/redis
cd /home/soft/redis
mkdir r1 r2 r3 r4 r5 r6

修改Redis配置文件（注意一定要按版本拷贝配置文件）

cd r1
vim redis.conf

# bind 127.0.0.1 #要注释掉
# daemonize yes    # 以后台进程运行。这句需要注释掉，否则在指定配置文件时会启动失败（https://www.jianshu.com/p/923eb2e0a5f0）
cluster-enabled yes    # 开启集群
cluster-config-file nodes.conf    # 集群配置文件
cluster-node-timeout 15000    # 超时时间
appendonly yes    # 开启AOF模式

# 拷贝配置文件
cp redis.conf ../r2/redis.conf
cp redis.conf ../r3/redis.conf
cp redis.conf ../r4/redis.conf
cp redis.conf ../r5/redis.conf
cp redis.conf ../r6/redis.conf

导入本地Redis镜像文件，运行Redis容器

docker pull redis
# 将/home/soft/redis目录映射为容器的/data目录
docker run -it -d -p 5001:6379 -v /home/soft/redis/r1:/data --net=net2 --ip 172.19.0.2 --name r1 redis /data/redis.conf
docker run -it -d -p 5002:6379 -v /home/soft/redis/r2:/data --net=net2 --ip 172.19.0.3 --name r2 redis /data/redis.conf
docker run -it -d -p 5003:6379 -v /home/soft/redis/r3:/data --net=net2 --ip 172.19.0.4 --name r3 redis /data/redis.conf 
docker run -it -d -p 5004:6379 -v /home/soft/redis/r4:/data --net=net2 --ip 172.19.0.5 --name r4 redis /data/redis.conf 
docker run -it -d -p 5005:6379 -v /home/soft/redis/r5:/data --net=net2 --ip 172.19.0.6 --name r5 redis /data/redis.conf
docker run -it -d -p 5006:6379 -v /home/soft/redis/r6:/data --net=net2 --ip 172.19.0.7 --name r6 redis /data/redis.conf

配置Redis集群

redis-trib.rb已经不再推荐，使用redis-cli来创建容器。

进入某个节点容器的 /usr/local/bin 目录，执行如下命令创建容器

./redis-cli --cluster create 172.19.0.2:6379 172.19.0.3:6379 172.19.0.4:6379 172.19.0.5:6379 172.19.0.6:6379 172.19.0.7:6379 --cluster-replicas 1

创建完毕后会有三个主节点，三个从节点。（注意：这里要输入yes，不是y）

root@4a8c3bf758f0:/usr/local/bin# ./redis-cli --cluster create 172.19.0.2:6379 172.19.0.3:6379 172.19.0.4:6379 172.19.0.5:6379 172.19.0.6:6379 172.19.0.7:6379 --cluster-replicas 1
>>> Performing hash slots allocation on 6 nodes...
Master[0] -> Slots 0 - 5460
Master[1] -> Slots 5461 - 10922
Master[2] -> Slots 10923 - 16383
Adding replica 172.19.0.6:6379 to 172.19.0.2:6379
Adding replica 172.19.0.7:6379 to 172.19.0.3:6379
Adding replica 172.19.0.5:6379 to 172.19.0.4:6379
M: 890da9d1f480380e7154685dc6a757e3a3be2092 172.19.0.2:6379
   slots:[0-5460] (5461 slots) master
M: b738cc123c0f5ecf5a329f3d974b8cfb8c88cf20 172.19.0.3:6379
   slots:[5461-10922] (5462 slots) master
M: e68561cc3fb54fc5e4153dafc7465bd5b361ec95 172.19.0.4:6379
   slots:[10923-16383] (5461 slots) master
S: 54e1c37fc1e8cc3b8afb6adb35138a7ad852926c 172.19.0.5:6379
   replicates e68561cc3fb54fc5e4153dafc7465bd5b361ec95
S: 55ef9e60a9a5ca5c6ec1dc71b20fb973acbd11fe 172.19.0.6:6379
   replicates 890da9d1f480380e7154685dc6a757e3a3be2092
S: 0bcb8196c9f119e18ca07041fe6332ed5d6fc580 172.19.0.7:6379
   replicates b738cc123c0f5ecf5a329f3d974b8cfb8c88cf20
Can I set the above configuration? (type 'yes' to accept): yes
>>> Nodes configuration updated
>>> Assign a different config epoch to each node
>>> Sending CLUSTER MEET messages to join the cluster
Waiting for the cluster to join
..
>>> Performing Cluster Check (using node 172.19.0.2:6379)
M: 890da9d1f480380e7154685dc6a757e3a3be2092 172.19.0.2:6379
   slots:[0-5460] (5461 slots) master
   1 additional replica(s)
S: 0bcb8196c9f119e18ca07041fe6332ed5d6fc580 172.19.0.7:6379
   slots: (0 slots) slave
   replicates b738cc123c0f5ecf5a329f3d974b8cfb8c88cf20
S: 55ef9e60a9a5ca5c6ec1dc71b20fb973acbd11fe 172.19.0.6:6379
   slots: (0 slots) slave
   replicates 890da9d1f480380e7154685dc6a757e3a3be2092
M: b738cc123c0f5ecf5a329f3d974b8cfb8c88cf20 172.19.0.3:6379
   slots:[5461-10922] (5462 slots) master
   1 additional replica(s)
S: 54e1c37fc1e8cc3b8afb6adb35138a7ad852926c 172.19.0.5:6379
   slots: (0 slots) slave
   replicates e68561cc3fb54fc5e4153dafc7465bd5b361ec95
M: e68561cc3fb54fc5e4153dafc7465bd5b361ec95 172.19.0.4:6379
   slots:[10923-16383] (5461 slots) master
   1 additional replica(s)
[OK] All nodes agree about slots configuration.
>>> Check for open slots...
>>> Check slots coverage...
[OK] All 16384 slots covered.

可以进入某个节点容器后，执行如下指令进入集群：

/usr/local/bin/redis-cli -c

查看集群状态

cluster nodes