集群---keepalived工作原理和配置解析
keepalived是什么
keepalived是集群管理中保证集群高可用的一个服务软件,其功能类似于heartbeat,用来防止单点故障,它可以自动检测集群中服务器的健康状况,比如主从模式时,当主服务器发生故障时,Keepalived会根据服务器的VRRP优先级来选举一个从服务器成为主服务器,实现主从的无缝切换,保证持续的提供服务,并且Keepalived也会及时的通过邮件通知到相关负责人进行维护出现问题的服务器。
keepalived工作原理
keepalived是以VRRP协议为实现基础的,VRRP全称Virtual Router Redundancy Protocol,即虚拟路由冗余协议。
虚拟路由冗余协议,可以认为是实现路由器高可用的协议,即将N台提供相同功能的路由器组成一个路由器组,这个组里面有一个master和多个backup,master上面有一个对外提供服务的vip(该路由器所在局域网内其他机器的默认路由为该vip),master会发组播,当backup收不到vrrp包时就认为master宕掉了,这时就需要根据VRRP的优先级来选举一个backup当master。这样的话就可以保证路由器的高可用了。
keepalived主要有三个模块,分别是core、check和vrrp。core模块为keepalived的核心,负责主进程的启动、维护以及全局配置文件的加载和解析。check负责健康检查,包括常见的各种检查方式。vrrp模块是来实现VRRP协议的。
keepalived的配置文件
和Nginx类似,keepalived也只有一个核心的配置文件keepalived.conf,使用Keepalived的各种功能,我们只需要对这个文件进行相关的配置即可。keepalived.conf里面主要包括以下几个配置区域,分别是global_defs、static_ipaddress、static_routes、vrrp_script、vrrp_instance和virtual_server。
global_defs区域
主要是配置故障发生时的通知对象以及机器标识
global_defs { notification_email { aaa@163.com bbb@163.com ... } notification_email_from alert@163.com smtp_server smtp.163.com smtp_connect_timeout 30 enable_traps router_id host163 } 解析: • notification_email 故障发生时给谁发邮件通知。 • notification_email_from 通知邮件从哪个地址发出。 • smpt_server 通知邮件的smtp地址。 • smtp_connect_timeout 连接smtp服务器的超时时间。 • enable_traps 开启SNMP陷阱(Simple Network Management Protocol)。 • router_id 标识本节点的字条串,通常为hostname,但不一定非得是hostname。故障发生时,邮件通知会用到。
vrrp_script区域
用来做健康检查的,当检查失败时会将vrrp_instance的priority减少相应的值。
vrrp_script chk_http_port { script "</dev/tcp/192.168.22.227/80" interval 1 weight -10 }
vrrp_instance和vrrp_sync_group区域
vrrp_instance用来定义对外提供服务的VIP区域及其相关属性。
vrrp_rsync_group用来定义vrrp_intance组,使得这个组内成员动作一致。
举个例子来说明一下其功能:
两个vrrp_instance同属于一个vrrp_rsync_group,那么其中一个vrrp_instance发生故障切换时,另一个vrrp_instance也会跟着切换(即使这个instance没有发生故障)。
vrrp_sync_group VG_1 { group { inside_network # name of vrrp_instance (below) outside_network # One for each moveable IP. ... } notify_master /path/to_master.sh notify_backup /path/to_backup.sh notify_fault "/path/fault.sh VG_1" notify /path/notify.sh smtp_alert } vrrp_instance VI_1 { state MASTER interface eth0 use_vmac <VMAC_INTERFACE> dont_track_primary track_interface { eth0 eth1 } mcast_src_ip <IPADDR> lvs_sync_daemon_interface eth1 garp_master_delay 10 virtual_router_id 1 priority 100 advert_int 1 authentication { auth_type PASS auth_pass 12345678 } virtual_ipaddress { 10.210.214.253/24 brd 10.210.214.255 dev eth0 192.168.1.11/24 brd 192.168.1.255 dev eth1 } virtual_routes { 172.16.0.0/12 via 10.210.214.1 192.168.1.0/24 via 192.168.1.1 dev eth1 default via 202.102.152.1 } track_script { chk_http_port } nopreempt preempt_delay 300 debug notify_master <STRING>|<QUOTED-STRING> notify_backup <STRING>|<QUOTED-STRING> notify_fault <STRING>|<QUOTED-STRING> notify <STRING>|<QUOTED-STRING> smtp_alert }
解析
• notify_master/backup/fault 分别表示切换为主/备/出错时所执行的脚本。 • notify 表示任何一状态切换时都会调用该脚本,并且该脚本在以上三个脚本执行完成之后进行调用,keepalived会自动传递三个参数($1 = "GROUP"|"INSTANCE",$2 = name of group or instance,$3 = target state of transition(MASTER/BACKUP/FAULT))。 • smtp_alert 表示是否开启邮件通知(用全局区域的邮件设置来发通知)。 • state 可以是MASTER或BACKUP,不过当其他节点keepalived启动时会将priority比较大的节点选举为MASTER,因此该项其实没有实质用途,可以理解为初始值,运行时根据priority的值改变。 • interface 节点固有IP(非VIP)的网卡名称,用来发VRRP包。 • use_vmac 是否使用VRRP的虚拟MAC地址。 • dont_track_primary 忽略VRRP网卡错误。(默认未设置) • track_interface 监控以下网卡,如果任何一个不通就会切换到FALT状态。(可选项) • mcast_src_ip 修改vrrp组播包的源地址,默认源地址为master的IP。(由于是组播,因此即使修改了源地址,该master还是能收到回应的) • lvs_sync_daemon_interface 绑定lvs syncd的网卡。 • garp_master_delay 当切为主状态后多久更新ARP缓存,默认5秒。 • virtual_router_id 取值在0-255之间,用来区分多个instance的VRRP组播。配置为主从的两个节点该值需要相等。 • priority 用来选举master的,要成为master,那么这个选项的值最好高于其他机器50个点,该项取值范围是1-255(在此范围之外会被识别成默认值100) • advert_int 发VRRP包的时间间隔,即多久进行一次master选举(可以认为是健康查检时间间隔)。 • authentication 认证区域,认证类型有PASS和HA(IPSEC),推荐使用PASS(密码只识别前8位),配置主从的话,主从的认证方式和密码要一致 • virtual_ipaddress 即VIP,配置的虚拟ip,主从节点VIP要一致。 • virtual_routes 虚拟路由,当IP漂过来之后需要添加的路由信息。 • virtual_ipaddress_excluded 发送的VRRP包里不包含的IP地址,为减少回应VRRP包的个数。在网卡上绑定的IP地址比较多的时候用。 • track_script 设置健康检查的脚本 • nopreempt 允许一个priority比较低的节点作为master,即使有priority更高的节点启动。
在这有必要细说一下,首先nopreemt必须在state为BACKUP的节点上才生效(因为是BACKUP节点决定是否来成为MASTER的),其次要实现类似于关闭auto failback的功能需要将所有节点的state都设置为BACKUP。使用nopreempt可以避免抢占master的情况,比如一般情况下主节点宕机,从节点会升级为主节点,当主节点恢复后,会抢占成为master,从节点被迫降级。如果网站访问量较大的话,这样难免会出现问题。
virtual_server_group和virtual_server区域
virtual_server_group一般在超大型的LVS中用到,一般LVS用不到这东西,因此不多说。
virtual_server IP Port { delay_loop <INT> lb_algo rr|wrr|lc|wlc|lblc|sh|dh lb_kind NAT|DR|TUN persistence_timeout <INT> persistence_granularity <NETMASK> protocol TCP ha_suspend virtualhost <STRING> alpha omega quorum <INT> hysteresis <INT> quorum_up <STRING>|<QUOTED-STRING> quorum_down <STRING>|<QUOTED-STRING> sorry_server <IPADDR> <PORT> real_server <IPADDR> <PORT> { weight <INT> inhibit_on_failure notify_up <STRING>|<QUOTED-STRING> notify_down <STRING>|<QUOTED-STRING> # HTTP_GET|SSL_GET|TCP_CHECK|SMTP_CHECK|MISC_CHECK HTTP_GET|SSL_GET { url { path <STRING> # Digest computed with genhash digest <STRING> status_code <INT> } connect_port <PORT> connect_timeout <INT> nb_get_retry <INT> delay_before_retry <INT> } } }
解析
• delay_loop 延迟轮询时间(单位秒)。 • lb_algo 后端调试算法(load balancing algorithm)。 • lb_kind LVS调度类型NAT/DR/TUN。 • virtualhost 用来给HTTP_GET和SSL_GET配置请求header的。 • sorry_server 当所有real server宕掉时,sorry server顶替。 • real_server 真正提供服务的服务器。 • weight 权重。 • notify_up/down 当real server宕掉或启动时执行的脚本。 • 健康检查的方式,N多种方式。 • path 请求real serserver上的路径。 • digest/status_code 分别表示用genhash算出的结果和http状态码。 • connect_port 健康检查,如果端口通则认为服务器正常。 • connect_timeout,nb_get_retry,delay_before_retry分别表示超时时长、重试次数,下次重试的时间延迟。
static_ipaddress和static_routes区域
static_ipaddress和static_routes区域配置的是是本节点的IP和路由信息。如果你的机器上已经配置了IP和路由,那么这两个区域可以不用配置。其实,一般情况下你的机器都会有IP地址和路由信息的,因此没必要再在这两个区域配置。