MySQL之高可用集群MHA及故障切换
一，MHA
1.MHA概念
MHA（Master High Availability）目前在MySQL高可用方面是一个相对成熟的解决方案；
在MySQL故障切换的过程中，MHA能做到0~30秒之内自动完成数据库的故障切换操作，并且在进行故障切换的过程中，MHA能够最大程度上保证数据库的一致性，以达到真正意义上的高可用；
MHA是基于标准的MySQL主从复制（异步/半同步）
2.MHA组成
MHA由两部分组成管理节点（MHA manager）和数据节点（MHA Node）两部分组成；
MHAManager会定时探测集群中的master节点。当master出现故障时，它可以自动将最新数据的slave提升为新的master，然后将所有其他的slave重新指向新的 master，整个故障转移过程对应用程序完全透明。
3.MHA特点
自动故障切换过程中，MHA总会试图从宕机的主服务器上保存二进制日志，最大程度的保证数据不丢失；
使用MySQL5.5的半同步复制，可以大大降低数据丢失的风险。MHA可以与半同步复制结合起来，如果只有一个slave已经收到了最新的二进制日志，MHA可以将最新的二进制日志应用于其他所有的slave服务器上，因此可以保证所有节点的数据一致性，有时候可故意设置从节点慢于主节点，当发生意外删除数据库倒是数据丢失时可从从节点二进制日志中恢复。
MHA :为了解决的了是故障切换、数据尽可能的保存，以及所有节点日志的一致性
二，MHA部署
环境：
mysql服务器：
master 192.168.118.11 安装 node 组件
slave1 192.168.118.13 安装 node 组件
slave2 192.168.118.14 安装 node 组件
MHAmanager：192.168.118.128 安装 manager 组件与node组件
1.关闭防火墙，核心防护，检测端口
systemctl stop firewalld
systemctl disable firewalld
setenforce 0
netstat -natp | grep 3306
2.三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接
master上：
vim /etc/my.cnf
[mysqld]
server-id = 1
log_bin = master-bin
log-slave-updates = true
systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
slave1和2上：
vim /etc/my.cnf
server-id = 2
#server-id = 3 MySQL3则为3，三台服务器 server-id 不能一样
log_bin = master-bin
relay-log = relay-log-bin
relay-log-index = slave-relay-bin.index
systemctl restart mysqld
ln -s /usr/local/mysql/bin/mysql /usr/sbin/
ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
3.配置mysql主从
配置MySQL 一主两从都需要授权，主故障时，并不确定那台从服务器升级为master；
在所有数据库节点上授权两个用户，一个是从库同步使用，另一个是manager使用；
grant replication slave on *.* to 'myslave'@'192.168.118.%' identified by '123456';
grant all privileges on *.* to 'mha'@'192.168.118.%' identified by 'manager';
grant all privileges on *.* to 'mha'@'master' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave1' identified by 'manager';
grant all privileges on *.* to 'mha'@'slave2' identified by 'manager';
#所有从库开启只读功能（不会对超级管理员super生效，普通用户）
set global read_only=1;
flush privileges;
#在master上查看二进制文件和同步点
show master status;
#在两台slave节点服务器进行同步
change master to master_host='192.168.118.11',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1747;
start slave；
show slave status\G;
Slave1、Slave2 节点设置为只读模式
set global read_only=1;
#改回读写状态set global read_only=0;
4.验证主从复制
三，部署MHA
1.安装MHA依赖环境
所有的服务器上都安装MHA依赖环境；
首先安装epel源，只有安装了源 perl才会有
#安装epel源，并且不进行gph检查
yum install epel-release --nogpgcheck -y
yum install -y perl-DBD-MySQL \ #perl针对于mysql数据库
perl-Config-Tiny \ #从配置文件中提拿其中的值
perl-Log-Dispatch \ #log-日志
perl-Parallel-ForkManager \ #多线程管理
perl-ExtUtils-CBuilder \ #扩展工具CBuilder MakeMaker
perl-ExtUtils-MakeMaker \
perl-CPAN #cpan perl中的数据库
2.所有服务器安装MHA node软件包
在所有服务器上必须先安装 node 组件，最后在 MHA-manager 节点上安装 manager 组件，因为 manager 依赖 node 组件。
#将软件包mha4mysql-node-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-node-0.57.tar.gz
cd mha4mysql-node-0.57
perl Makefile.PL
make && make install
在 MHA manager 节点上安装 manager 组件
将软件包mha4mysql-manager-0.57.tar.gz放入/opt目录下
cd /opt
tar zxvf mha4mysql-manager-0.57.tar.gz
cd mha4mysql-manager-0.57
perl Makefile.PL
make && make install
#node组件安装后也会在/usr/local/bin 下面会生成几个脚本（这些工具通常由 MHAManager 的脚本触发，无需人为操作）
#manager 组件安装后在/usr/local/bin 下面会生成几个工具
3.所有服务器上配置无密码认证
#在manager上配置到所有数据库节点的无密码认证
#一路回车
ssh-keygen -t rsa
ssh-copy-id 192.168.118.11
ssh-copy-id 192.168.118.13
ssh-copy-id 192.168.118.14
#在master上配置到slave1和salve2的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.118.13
ssh-copy-id 192.168.118.14
#在slave1上配置到master和salve2的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.118.11
ssh-copy-id 192.168.118.14
#在slave2上配置到master和salve1的无密码认证
ssh-keygen -t rsa
ssh-copy-id 192.168.118.11
ssh-copy-id 192.168.118.13
4.manager节点配置MHA
1.在 manager 节点上复制相关脚本到/usr/local/bin 目录
cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
#复制后会有四个执行文件
ll /usr/local/bin/scripts/
2.复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录，这里使用master_ip_failover脚本来管理 VIP 和故障切换
cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
#先清空原有内容
echo '' > /usr/local/bin/master_ip_failover
#直接复制并修改vip相关参数
vim /usr/local/bin/master_ip_failover
#!/usr/bin/env perl
use strict;
use warnings FATAL => 'all';
use Getopt::Long;
my (
$command, $ssh_user, $orig_master_host, $orig_master_ip,
$orig_master_port, $new_master_host, $new_master_ip, $new_master_port
);
#############################添加内容部分#########################################
my $vip = '192.168.118.200'; #指定vip的地址
my $brdc = '192.168.118.255'; #指定vip的广播地址
my $ifdev = 'ens33'; #指定vip绑定的网卡
my $key = '1'; #指定vip绑定的虚拟网卡序列号
my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #代表此变量值为ifconfig ens33:1 192.168.118.200
my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #代表此变量值为ifconfig ens33:1 down
my $exit_code = 0; #指定退出状态码为0
#my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
#my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
##################################################################################
GetOptions(
'command=s' => \$command,
'ssh_user=s' => \$ssh_user,
'orig_master_host=s' => \$orig_master_host,
'orig_master_ip=s' => \$orig_master_ip,
'orig_master_port=i' => \$orig_master_port,
'new_master_host=s' => \$new_master_host,
'new_master_ip=s' => \$new_master_ip,
'new_master_port=i' => \$new_master_port,
);
exit &main();
sub main {
print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
if ( $command eq "stop" || $command eq "stopssh" ) {
my $exit_code = 1;
eval {
print "Disabling the VIP on old master: $orig_master_host \n";
&stop_vip();
$exit_code = 0;
};
if ($@) {
warn "Got Error: $@\n";
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "start" ) {
my $exit_code = 10;
eval {
print "Enabling the VIP - $vip on the new master - $new_master_host \n";
&start_vip();
$exit_code = 0;
};
if ($@) {
warn $@;
exit $exit_code;
}
exit $exit_code;
}
elsif ( $command eq "status" ) {
print "Checking the Status of the script.. OK \n";
exit 0;
}
else {
&usage();
exit 1;
}
}
sub start_vip() {
`ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
}
## A simple system call that disable the VIP on the old_master
sub stop_vip() {
`ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
}
sub usage {
print
"Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
}
#创建MHA软件目录并拷贝配置文件
mkdir /etc/masterha
cp /root/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha/
vim /etc/masterha/app1.cnf
[server default]
#日志文件
manager_log=/var/log/masterha/app1/manager.log
#工作目录
manager_workdir=/var/log/masterha/app1
#二进制文件
master_binlog_dir=/usr/local/mysql/data/
#故障转移切换的工具
master_ip_failover_script=/usr/local/bin/master_ip_failover
#在线切换VIP工具管理
master_ip_online_change_script=/usr/local/bin/master_ip_online_change
#以下是密码账号的管理配置
user=mha
password=manager
ping_interval=1
remote_workdir=/tmp
repl_password=123456
repl_user=myslave
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.118.13 -s 192.168.118.14
shutdown_script=""
ssh_user=root
[server1]
hostname=192.168.118.11
port=3306
[server2]
candidate_master=1
hostname=192.168.118.13
check_repl_delay=0
port=3306
[server3]
hostname=192.168.118.14
port=3306
5.第一次配置在 Master 节点上手动开启虚拟IP
6.在 manager 节点上测试
（1）在 manager 节点上测试 ssh 无密码认证
MHAmanager上：
masterha_check_ssh -conf=/etc/masterha/app1.cnf
#如果正常最后会输出 successfully；
#如果失败可以去配置服务器无密码认证的地方看看有没有问题
（2）在 manager 节点上测试 mysql 主从连接情况
MHAmanager上：
masterha_check_repl -conf=/etc/masterha/app1.cnf
#最后出现 MySQL Replication Health is OK 字样说明正常；
#出现MySQL Replication Health is NOT OK!的，可以去看一下mysql服务器上的软链接是否少创建-->本文位置：2、修改三台MySQL服务器的主配置文件/etc/my.cnf，并创建命令软链接
（3）在 manager 节点上启动 MHA
MHAmanager上：
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
#------------------------组件解释----------------------------------------------------------------------------------
--remove_dead_master_conf：该参数代表当发生主从切换后，老的主库的 ip 将会从配置文件中移除。
--manger_log：日志存放位置。
--ignore_last_failover：在缺省情况下，如果 MHA 检测到连续发生宕机，且两次宕机间隔不足 8 小时的话，则不会进行 Failover， 之所以这样限制是为了避免 ping-pong 效应。该参数代表忽略上次 MHA 触发切换产生的文件，默认情况下，MHA 发生切换后会在日志记目录，也就是上面设置的日志app1.failover.complete文件，下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换，除非在第一次切换后收到删除该文件，为了方便，这里设置为--ignore_last_failover。
再次检测；
解决方法：服务器里编辑vi /etc/my.cnf注释掉关于字符集的地方后重启systemctl restart mysqld
再次检测：
启动MHA
7.查看状态+故障模拟修复
查看 MHA 状态，可以看到当前的 master 是 Mysql1 节点。
masterha_check_status --conf=/etc/masterha/app1.cnf
查看 MHA 日志，也以看到当前的 master 是 192.168.118.11
cat /var/log/masterha/app1/manager.log | grep "current master"
master停止服务，MHA上查看日志信息
故障修复：
systemctl restart mysqld
netstat -natp | grep 3306
修复主从：
在现主库服务器slave1查看二进制文件和同步点
mysql -uroot -p123456 -e 'show master status;'
#在数据库中执行show master status;
在原主库服务器master执行同步操作：
change master to master_host='192.168.118.13',master_user='myslave',master_password='123456',master_log_file='master-bin.000001',master_log_pos=1747;
start slave;
show slave status\G
在 manager 节点上修改配置文件app1.cnf
它检测掉失效时候会自动消失
vim /etc/masterha/app1.cnf
……
secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.118.11 -s 192.168.118.14
......
[server1]
hostname=192.168.118.13
port=3306
[server2]
candidate_master=1
check_repl_delay=0
hostname=192.168.118.11
port=3306
[server3]
hostname=192.168.118.14
port=3306
在 manager 节点上启动 MHA
MHAmanager上：
masterha_stop --conf=/etc/masterha/app1.cnf
nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
masterha_check_status --conf=/etc/masterha/app1.cnf
