keepalived+nginx实现高可用
方案规划
vip | ip | hostname | nginx端口 | 系统 |
192.168.88.100 | 182.168.88.1 | nginx-01 | 80 | CentOS7.3.1611 |
192.168.88.100 | 192.168.88.2 | nginx-02 | 90 | CentOS7.3.1611 |
关闭防火墙
或者防火墙添加arrp组播规则
//iptables shell> vi /etc/sysconfig/iptables -A INPUT -p vrrp -d 224.0.0.18/32 -j ACCEPT /firewall firewall-cmd --direct --permanent --add-rule ipv4 filter INPUT 0 --in-interface enp4s0 --destination 224.0.0.18 --protocol vrrp -j ACCEPT firewall-cmd --reload
关闭selinux
分别在两台服务器上安装nginx
分别在两台服务器上安装Keepalived
yum install -y keepalived
抢占模式配置
keepalived的HA分为抢占模式和非抢占模式,抢占模式即MASTER从故障中恢复后,会将VIP从BACKUP节点中抢占过来。非抢占模式即MASTER恢复后不抢占BACKUP升级为MASTER后的VIP
MASTER(192.168.88.1)
/etc/keepalived/keepalived.conf
global_defs { router_id nginx_01 #标识本节点的名称,通常为hostname } ## keepalived会定时执行脚本并对脚本执行的结果进行分析,动态调整vrrp_instance的优先级。 ##如果脚本执行结果为0,并且weight配置的值大于0,则优先级相应的增加。如果脚本执行结果非0, ##并且weight配置的值小于 0,则优先级相应的减少。其他情况,维持原本配置的优先级,即配置文件中priority对应的值。 vrrp_script chk_nginx { script "/etc/keepalived/nginx_check.sh" interval 2 #每2秒检测一次nginx的运行状态 weight -20 #失败一次,将自己的优先级-20 } vrrp_instance VI_1 { state MASTER # 状态,主节点为MASTER,备份节点为BACKUP interface enp0s3 # 绑定VIP的网络接口,通过ifconfig查看自己的网络接口 virtual_router_id 51 # 虚拟路由的ID号,两个节点设置必须一样,可选IP最后一段使用,相同的VRID为一个组,他将决定多播的MAC地址 mcast_src_ip 192.168.88.1 # 本机IP地址 priority 100 # 节点优先级,值范围0~254,MASTER要比BACKUP高 advert_int 1 # 组播信息发送时间间隔,两个节点必须设置一样,默认为1秒 # 设置验证信息,两个节点必须一致 authentication { auth_type PASS auth_pass 1111 } # 虚拟IP,两个节点设置必须一样。可以设置多个,一行写一个 virtual_ipaddress { 192.168.88.100 } track_script { chk_nginx # nginx存活状态检测脚本 } }
BACKUP(192.168.88.2)
/etc/keepalived/keepalived.conf
global_defs { router_id nginx_02 } vrrp_script chk_nginx { script "/etc/keepalived/nginx_check.sh" interval 2 weight -20 } vrrp_instance VI_1 { state BACKUP interface enp0s3 virtual_router_id 51 mcast_src_ip 192.168.88.2 priority 90 advert_int 1 authentication { auth_type PASS auth_pass 1111 } virtual_ipaddress { 192.168.88.100 } track_script { chk_nginx } }
创建nginx服务检测脚本
分别在主备服务器/etc/keepalived
目录下创建nginx_check.sh
脚本,并为其添加执行权限chmod +x /etc/keepalived/nginx_check.sh
。用于keepalived定时检测nginx的服务状态,如果nginx停止了,会尝试重新启动nginx,如果启动失败,会将keepalived进程杀死,将vip漂移到备份机器上。
#!/bin/bash A=`ps -C nginx --no-header | wc -l` if [ $A -eq 0 ];then /opt/nginx/sbin/nginx #尝试重新启动nginx sleep 2 #睡眠2秒 if [ `ps -C nginx --no-header | wc -l` -eq 0 ];then killall keepalived #启动失败,将keepalived服务杀死。将vip漂移到其它备份节点 fi fi
启动keepalived服务
systemctl start keepalived
在192.168.88.1的主机上用ip add命令查看vip的绑定情况
测试故障转移
将MASTER上的keepalived停止,查看vip是否会漂移到192.168.88.2上
非抢占模式
和非抢占模式的配置相比,只需要改两个地方:
1> 在vrrp_instance块下两个节点各增加了nopreempt指令,表示不争抢vip
2> 节点的state都为BACKUP
两个keepalived节点都启动后,默认都是BACKUP状态,双方在发送组播信息后,会根据优先级来选举一个MASTER出来。由于两者都配置了nopreempt,所以MASTER从故障中恢复后,不会抢占vip。这样会避免VIP切换可能造成的服务延迟。
设置vrrp单播通告
如果两节点的上联交换机禁用了组播,则只能采用vrrp单播通告的方式
# vim /etc/keepalived/keepalived.conf priority 100 unicast_src_ip 192.168.88.1 ##source ip unicast_peer { 192.168.88.2 ##dest ip } # vim /etc/keepalived/keepalived.conf priority 90 unicast_src_ip 192.168.88.2 ##source ip unicast_peer { 192.168.88.1 ##dest ip }