LVS+Keepalived群集

LVS+Keepalived群集

一、Keepalived实现原理

1. 单服务器的风险

企业应用中,单台服务器承担应用存在单点故障的危险,单点故障一旦发生,企业服务将发生中断,造成极大的危害和损失。
img

2. Keepalived工具

Keepalived是一个基于VRRP协议来实现的LVS服务高可用方案,可以解决静态路由出现的单点故障问题。
是专为LVS和HA设计的一款健康检查工具
· 支持故障自动切换(Failover)
· 支持节点健康状态检查(Health Checking)
判断LVS负载调度器、节点服务器的可用性,当master主机出现故障及时切换到backup节点保证业务正常,当master故障主机恢复后将其重新加入群集并且业务重新切换回master节点
· 官方网站:http://www.keepalived.org/

3. Keepalived解决单点故障的方法

在一个LVS服务集群中通常有主服务器(master)和备份服务器(backup)两种角色的服务器,但是对外表现为一个虚拟IP,主服务器会发送VRRP通告信息给备份服务器,当备份服务器收不到VRRP消息的时候,即主服务器异常的时候,备份服务器就会接管虚拟IP,继续提供服务,从而保证了高可用性。

4. Keepalived体系主要模块及其作用

Keepalived的主要模块 作用
core模块 为Keepalived的核心,负责主进程的启动、维护及全局配置文件的加载和解析
vrrp模块 是来实现VRRP协议的
check模块 负责健康检查,常见的方式有端口检查及URL检查

5. 企业集群的特点

一般企业集群需要满足的三个特点

  1. 负载均衡
  2. 健康检查
  3. 故障切换

6. 健康检查的作用

检查服务器 作用
节点服务器 如果发现有故障的节点就会将其隔离或者剔除集群,待其恢复后再重新加入到集群当中
负载均衡器 会定时检查主服务器的状态(包括主机和服务的状态),如果主服务器故障就自动切换到备服务器上,待主服务器恢复后再重新让主服务器去承载业务请求

7. Keeoalved实现原理

Keepalived采用VRRP热备份协议,实现Linux服务器的多机热备功能
img
VRRP(虚拟路由冗余协议)是针对路由器的一种备份解决方案
· 由多台路由器组成一个热备组,通过共用的虚拟IP地址对外提供服务
· 每个热备组内同时只有一台主路由器提供服务,其他路由器处于冗余状态
· 若当前在线的路由器失效,则其他路由器会根据设置的优先级自动接替虚拟IP地址,继续提供服务

8. VRRP虚拟路由冗余协议

可以实现一主多备的功能,从而解决单点故障
VRRP会把多台路由器组成一个虚拟路由器vrid,VRRP会生成一个虚拟路由器(包含虚拟IP和虚拟mac)
局域网内的用户不关心哪个是主、哪个是备,它们只用虚拟路由器的虚拟IP作为他们的网关
虚拟IP是承载在master路由器上的,也就是说实际的数据包是通过master进行转发的
master和backup是通过优先级来决定的,优先级最大的那台就是master
backup只是用来监听master定时发来的vrrp报文,如果超时未收到发来的vrrp报文,backup就会抢占master的地位,虚拟IP也会一起漂移到backup上

9. 多机热备

Keepalived可实现多机热备,每个热备组可有多台服务器
img
双机热备的故障切换是由虚拟IP地址的漂移来实现的,适用于各种因那个用服务器。
如图所示,实现基于Web的双机热备
漂移地址:192.168.10.72
主、备服务器:192.168.10.73/192.168.10.74
提供的应用服务:Web

二、LVS+Keepalived高可用群集的部署

1. 服务器及IP配置

主DR服务器:192.168.159.11
备DR服务器:192.168.159.15
Web服务器1:192.168.159.13
Web服务器2:192.168.159.14

nfs服务器:192.168.159.12
VIP:192.168.159.188
客户端:192.168.159.88

2. Keepalived安装与启动

(1)配置负载调度器

  1. 主负载调度器(192.168.122.11/192.168.159.15)
[root@master ~]# systemctl stop firewalld
[root@master ~]# setenforce 0
setenforce: SELinux is disabled
[root@master ~]# yum install -y ipvsadm keepalived
[root@master ~]# modprobe ip_vs        
[root@master ~]# cd /etc/keepalived
[root@master keepalived]# cp keepalived.conf keepalived.conf.bak
[root@master keepalived]# vim keepalived.conf
 
! Configuration File for keepalived
 
global_defs {
   notification_email {
     acassen@firewall.loc
     failover@firewall.loc
     sysadmin@firewall.loc
   }
   notification_email_from Alexandre.Cassen@firewall.loc
   smtp_server 127.0.0.1
##第10行,修改,邮件服务指向本地
   smtp_connect_timeout 30
   router_id LVS_01/LVS_02
##第12行,修改,指定服务器(路由器)的名称,主备服务器须不同,这里主设置为LVS_01,备为LVS_02
   vrrp_skip_check_adv_addr
   #vrrp_strict
##第14行,注释掉,取消严格遵守VRRP协议功能,否则VIP无法被连接
   vrrp_garp_interval 0
   vrrp_gna_interval 0
}
 
vrrp_instance VI_1 {
##定义VRRP热备实例参数
    state MASTER/BACKUP
##第20行,修改,指定热备状态,主为MASTER,备为BACKUP
    interface ens33
##第21行,修改,指定承载VIP地址的物理接口
    virtual_router_id 10
##第22行,修改,指定虚拟路由器的ID号,每个热备组保持一致
    #nopreempt
##默认为抢占模式,如果设置非抢占模式,主备都必须加上配置nopreempt
    priority 100
##第23行,修改,指定优先级,数值越大优先级越高,这里设置主为100,备为90
    advert_int 1
##通告间隔秒数(心跳频率)
    authentication {
##定义认证信息,每个热备组保持一致
        auth_type PASS
##认证类型
        auth_pass 123456
##第27行,修改,指定验证密码,主备服务器保持一致
    }
    virtual_ipaddress {
##指定群集VIP地址
        192.168.159.188
    }
}
 
virtual_server 192.168.159.188 80 {
##第36行,修改,指定虚拟服务器地址(VIP)、端口,定义虚拟服务器和Web服务器池参数
    delay_loop 6
##健康检查的间隔时间,单位为秒
    lb_algo rr
##指定调度算法,轮询(rr)
    lb_kind DR
##第39行,修改,指定群集工作模式,这里默认是NAT,修改为直接路由模式(DR)
    persistence_timeout 50
##连接保持时间,单位为秒
    protocol TCP
##应用服务采用的是TCP协议
 
    real_server 192.168.159.13 80 {
##第43行,修改,指定第一个Web节点的地址、端口
        weight 1
        TCP_CHECK {
##第45行,删除默认定义并添加以下健康检查方式
            connect_port 80
##添加检查的目标端口
            connect_timeout 3
##添加连接超时时间,单位为秒
            nb_get_retry 3
##添加重试次数
            delay_before_retry 3
##添加重试间隔
        }
    }
 
    real_server 192.168.159.14 80 {
##添加第二个Web节点的地址、端口
        weight 1
        TCP_CHECK {
            connect_port 80
            connect_timeout 3
            nb_get_retry 3
            delay_before_retry 3
        }
    }
##删除后面多余的配置
}
 
[root@master keepalived]# systemctl start keepalived
[root@master keepalived]# ip addr

image

  1. 备负载调度器(192.168.159.15)

image

(2)启动ipvsadm服务

  1. 主负载调度器(192.168.159.11/192.168.159.15)
[root@master keepalived]# ipvsadm-save > /etc/sysconfig/ipvsadm
[root@master keepalived]# systemctl start ipvsadm
[root@master keepalived]# systemctl restart keepalived
[root@master keepalived]# ipvsadm -ln
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
  -> RemoteAddress:Port           Forward Weight ActiveConn InActConn
TCP  192.168.159.188:80 rr persistent 50
  -> 192.168.159.13:80           Route   1      0          0         
  -> 192.168.159.14:80           Route   1      0          0   

(3)调整proc响应参数,关闭Linux内核的重定向参数响应

  1. 主负载调度器(192.168.159.11/192.168.159.15)
[root@master keepalived]# vim /etc/sysctl.conf
#末行写入
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0
 
[root@master keepalived]# sysctl -p
net.ipv4.conf.all.send_redirects = 0
net.ipv4.conf.default.send_redirects = 0
net.ipv4.conf.ens33.send_redirects = 0

(4)配置负载分配策略

ipvsadm-save >/etc/sysconfig/ipvsadm #开启ipvsadm服务之前保存策略到/etc/sysconfig/目录下
systemctl start ipvsadm #开启ipvsadm服务
ipvsadm -C #清空策略
ipvsadm -A -t 192.168.159.188:80 -s rr #添加虚拟服务器并指定VIP地址,指定负载调度算法rr
#若隧道模式,-g替换为-i
ipvsadm -a -t 192.168.159.188:80 -r 192.168.159.13:80 -g #添加节点服务器,-r指定RIP,-g表示DR模式
ipvsadm -a -t 192.168.159.188:80 -r 192.168.159.14:80 -g
ipvsadm #加载策略     
ipvsadm -ln #查看节点状态,Route代表DR模式

3.部署共享存储(192.168.159.12)


systemctl stop firewalld
setenforce 0
yum install -y nfs-utils rpcbind
mkdir /opt/test1 /opt/test2 #创建目录
chmod 777 /opt/test1 /opt/test2 #赋权
echo "This is test1 web" > /opt/test1/index.html #创建新建目录下的网页文件
echo "This is test2 web" > /opt/test2/index.html
vim /etc/exports #设置共享目录,并给与权限

/usr/share *(ro,sync)
/opt/test1 192.168.159.0/24(rw,sync)
/opt/test2 192.168.159.0/24(rw,sync)

systemctl start rpcbind #先开启rpcbind,再开启nfs
systemctl start nfs
showmount -e #发布共享
exportfs -rv

4. 配置节点服务器

  1. web_server1(192.168.122.13)
systemctl stop firewalld
setenforce 0
systemctl status firewalld #查看防火墙状态
cd /etc/sysconfig/network-scripts
cp ifcfg-lo ifcfg-lo:0 #复制并重命名
vim ifcfg-lo:0
 
DEVICE=lo:0
ONBOOT=yes
IPADDR=192.168.159.188
NETMASK=255.255.255.255
#注意:子网掩码必须全为1
 
ifup lo:0 #重启虚拟网卡并查看
ifconfig lo:0
 
route add -host 192.168.159.188 dev lo:0 #临时添加路由
vim /etc/rc.local 永久添加路由
#末行添加,加入开机自启动
/usr/sbin/route add -host 192.168.159.188 dev lo:0

chmod +x /etc/rc.d/rc.local 
###调整内核的ARP响应参数以组织更新VIP的MAC地址,避免发生冲突
vim /etc/sysctl.conf 
 
net.ipv4.conf.lo.arp_ignore = 1 #系统只响应目的IP为本地IP的ARP请求
net.ipv4.conf.lo.arp_announce = 2 #系统不使用IP包的源地址来设置ARP请求的源地址,而选择发送接口的IP地址
net.ipv4.conf.all.arp_ignore = 1
net.ipv4.conf.all.arp_announce = 2
 
sysctl -p 

###安装服务,进行nfs挂载
yum install -y nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl start nfs
systemctl start httpd
mount.nfs 192.168.159.12:/opt/test1 /var/www/html #挂载到共享存储
cat /var/www/html/index.html
  1. web_server2(192.168.159.14)
    同上
yum install -y nfs-utils rpcbind httpd
systemctl start rpcbind
systemctl start nfs
systemctl start httpd
mount.nfs 192.168.159.12:/opt/test2 /var/www/html
cat /var/www/html/index.html 

5. 浏览器访问测试

  1. 在客户端访问http://192.168.122.88

image

  1. 再在主服务器关闭keepalived服务(systemctl stop keepalived)后再测试

image

posted @ 2022-09-12 09:01  玖拾一  阅读(30)  评论(0编辑  收藏  举报