MySQL MHA高可用集群部署及故障切换(图文详解)

x33g5p2x  于2021-11-02 转载在 Mysql  
字(12.2k)|赞(0)|评价(0)|浏览(661)

前言

  • MHA是一套优秀的MySQL高可用环境下故障切换和主从复制的软件,它的出现就是解决MySQL单点的问题
  • MySQL故障切换过程中,MHA能做到0-30秒内自动完成故障切换操作
  • MHA能在故障切换的过程中最大程度上保证数据的一致性,以达到真正意义上的可高用

一、MHA的组成和特点

1.MHA的组成

  • MHA Node(数据节点)——运行在每台MySQL服务器上

  • MHA Manager(管理节点)——可以单独部署在一台独立的机器上,管理多个master-slaver 集群;也可以部署在一台slave节点上

  • MHA Manager会定时探测集群中的master节点,当master出现故障时,它可以自动将最新数据的slave提升为新的master,然后将所有其他的slave重新指向新的master,整个故障转移过程对应用程序完全透明(别的应用程序不知道)

2.MHA 的特点

  • 自动故障切换过程中,MHA 试图从宕机的主服务器上保存二进制日志,最大程度的保证数据不丢失
  • 但这并不总是可行的:例如,如果主服务器硬件故障或无法通过 ssh 访问,MHA 没法保存二进制日志,只进行故障转移而丢失了最新的数据
  • MHA 可以与半同步复制结合起来,大大降低数据丢失的风险
  • 如,只有一个 slave 已经收到了最新的二进制日志,MHA 可以将最新的二进制日志应用于其他所有的 slave 服务器上,因此可以保证所有节点的数据一致性
  • 目前 MHA 支持主多从架构,最少三台服务(即一主两从)

3.MHA的工作原理

①从宕机崩溃的master 保存二进制日志事件(binlog events)
②识别含有最新更新的 slave
③应用差异的中继日志(relay log)到其他的 slave
④应用从master 保存的二进制日志事件(binlog events)
⑤提升一个 slave 为新的master
⑥使其他的 slave 连接新的master 进行复制

注意:MHA需要基于ssh,key验证登入方法

二、MHA的项目搭建

1.实验思路

  • MHA架构

①源码编译安装数据库

②配置一主两从

③搭建MHA

  • 故障模拟

①主库失效

②备选主库称为主库

③原故障主库恢复,重新加入到MHA成为从库

2.项目环境

主机主机名操作系统IP 地址主要软件
MHA ManagerCentOS 7-1CentOS 7192.168.126.11MHA Node 组件、MHA Manager 组件
MasterCentOS 7-2CentOS 7192.168.126.12mysql-boost-5.7.20.tar.gz、MHAnode 组件
Slave1CentOS 7-3CentOS 7192.168.126.13mysql-boost-5.7.20.tar.gz、MHAnode 组件
Slave2CentOS 7-4CentOS 7192.168.126.14mysql-boost-5.7.20.tar.gz、MHAnode 组件

环境要求:

由于主节点有可能会被切换成从节点,而每一个从节点也有可能会被切换成主节点,所以 MHA 对 Mysql 复制环境有特殊要求。

(1)各节点 都要开启 二进制日志 及 中继日志;
(2)各从节 点必须 显示 注明其为 read_only;
(3)关闭各从节点的 relay_log_purge =0 中继日志 自动清理功能
(4)这里建议更换 为 编译版本的 Mysql 5.7 ,否则该实验中的某些 RPM 组件会冲突!!!
(5)所有 Mysql 集群节点,相互之间 ssh 登录都不需要密码 (重要)
(6)主从复制 (M-S-S) 架构已经做好! ( 支持使用 GTID , 半同步复制 )
(7) 各个节点,要能允许 同一组账号 uplooking 123123 进行登录
(8) 各个节点,关闭 防火墙 和 SElinux 功能

3.项目步骤

①准备

  • 4台主机全部源码编译安装好MySQL数据库,及修改好登录密码与授权远程登录
  • 全部关闭防火墙和控制访问安装机制
  1. systemctl stop firewalld
  2. systemctl disable firewalld
  3. setenforce 0

②修改 Master、Slave1、Slave2 的主机名

  1. hostnamectl set-hostname master
  2. su -
  3. hostnamectl set-hostname slave1
  4. su -
  5. hostnamectl set-hostname slave2
  6. su -

③修改 Master、Slave1、Slave2 的主配置文件 /etc/my.cnf

  1. vim /etc/my.cnf
  2. [mysqld]
  3. server-id = 1
  4. #id 可自定义,三台主机不能一样
  5. log_bin = master-bin
  6. log-slave-updates = true
  7. #开启二进制日志及允许从服务器进行复制更新二进制文件
  8. systemctl restart mysqld
  9. #重启服务使配置生效
  10. ln -s /usr/local/mysql/bin/mysql /usr/sbin/
  11. ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/
  12. #创建 mysql 命令与 mysql 日志文件的软链接,便于系统识别
  • Slave1、Slave2
  1. vim /etc/my.cnf
  2. server-id = 2
  3. #server-id = 3(三台服务器的 server-id 不能一样)
  4. log_bin = master-bin
  5. relay-log = relay-log-bin
  6. relay-log-index = slave-relay-bin.index
  7. #从服务器也要开启二进制日志,因为也有可能变为主服务器
  8. systemctl restart mysqld
  9. ln -s /usr/local/mysql/bin/mysql /usr/sbin/
  10. ln -s /usr/local/mysql/bin/mysqlbinlog /usr/sbin/

④配置MySQL 一主两从

Master、Slave1、Slave2:(三台都要配置一样的步骤)

  1. mysql -uroot -p123123
  2. #登录 MySQL 数据库
  3. grant replication slave on *.* to 'myslave'@'192.168.126.%' identified by '123123';
  4. #从数据库同步使用
  5. grant all privileges on *.* to 'mha'@'192.168.126.%' identified by 'manager';
  6. #manager 使用
  7. grant all privileges on *.* to 'mha'@'mysql1' identified by 'manager';
  8. grant all privileges on *.* to 'mha'@'mysql2' identified by 'manager';
  9. grant all privileges on *.* to 'mha'@'mysql3' identified by 'manager';
  10. #防止从库通过主机名连接不上主库
  11. flush privileges;

Master:

  1. show master status;
  2. #在 Master 节点查看二进制文件名和偏移量,记住,后续有用(1747)

Slave1、Slave2:

  1. change master to master_host='192.168.126.12',master_user='myslave',master_password='123123',master_log_file='master-bin.000001',master_log_pos=1747;
  2. #指定 master 服务器 IP,用户名及密码,日志名和偏移量
  3. start slave;
  4. #启动同步
  5. show slave status\G" | awk '/Running:/{print} #查看从服务器线程相关参数信息 #确保 IO 和 SQL 线程都是 Yes,代表同步正常 mysql -e "set global read_only=1;"
  6. #两个从库必须设置为只读模式

⑤验证主从复制

Master:

  1. create database test;
  2. show databases;
  3. #创建库,用作测试

Slave1、Slave2:

  1. show databases;
  2. #查询,测试是否同步

⑥安装MHA

  • 所有服务器上都安装 MHA 依赖的环境,首先安装 epel 源
  1. yum list
  2. yum install epel-release --nogpgcheck -y
  3. yum install -y perl-DBD-MySQL \
  4. perl-Config-Tiny \
  5. perl-Log-Dispatch \
  6. perl-Parallel-ForkManager \
  7. perl-ExtUtils-CBuilder \
  8. perl-ExtUtils-MakeMaker \
  9. perl-CPAN
  • 安装 MHA 软件包,先在所有服务器上必须先安装 node 组件
  1. cd /opt
  2. #将 node 放至 opt 目录下
  3. tar zxvf mha4mysql-node-0.57.tar.gz
  4. cd mha4mysql-node-0.57
  5. perl Makefile.PL
  6. make && make install
  7. #对于每个操作系统版本不一样,这里 CentOS7.4 必须选择 0.57 版本
  8. #在所有服务器上必须先安装 node 组件,最后在 MHA-manager 节点上安装 manager 组件,因为 manager 依赖 node 组件
  • 在 MHA manager 节点上安装 manager 组件
  1. cd /opt
  2. # manager 传至 opt 目录下
  3. tar zxvf mha4mysql-manager-0.57.tar.gz
  4. cd mha4mysql-manager-0.57
  5. perl Makefile.PL
  6. make && make install
  • manager 组件安装后会在 /usr/local/bin 下面会生成以下几个工具:
masterha_check_ssh检查 MHA 的 SSH 配置状况
masterha_check_repl检查 MySQL 复制状况
masterha_manger 启动manager的脚本
masterha_check_status检测当前 MHA 运行状态
masterha_master_monitor检测 master 是否宕机
masterha_master_switch控制故障转移(自动或者手动)
masterha_conf_host添加或删除配置的 server 信息
masterha_stop关闭manager
  • node 组件安装后也会在/usr/local/bin 下面会生成几个脚本(这些工具通常由 MHAManager 的脚本触发,无需人为操作)主要如下:
save_binary_logs保存和复制 master 的二进制日志
apply_diff_relay_logs识别差异的中继日志事件并将其差异的事件应用于其他的 slave
filter_mysqlbinlog去除不必要的 ROLLBACK 事件(MHA 已不再使用这个工具)
purge_relay_logs清除中继日志(不会阻塞 SQL 线程)

⑦在所有服务器上配置无密码认证

  • 在 manager 节点上配置到所有数据库节点的无密码认证
  1. ssh-keygen -t rsa
  2. #为当前用户创建密钥对,“-t”指定加密算法“rsa”,后续直接回车确认
  3. ssh-copy-id 192.168.126.12
  4. ssh-copy-id 192.168.126.13
  5. ssh-copy-id 192.168.126.14
  6. #将公钥导入所有 MySQL 服务器,后续输入 yes 及 MySQL 数据库登录密码
  • 在 mysql1 上配置到数据库节点 mysql2 和 mysql3 的无密码认证
  1. ssh-keygen -t rsa
  2. ssh-copy-id 192.168.126.13
  3. ssh-copy-id 192.168.126.14
  • 在 mysql2 上配置到数据库节点 mysql1 和 mysql3 的无密码认证
  1. ssh-keygen -t rsa
  2. ssh-copy-id 192.168.126.12
  3. ssh-copy-id 192.168.126.14
  • 在 mysql3 上配置到数据库节点 mysql1 和 mysql2 的无密码认证
  1. ssh-keygen -t rsa
  2. ssh-copy-id 192.168.126.12
  3. ssh-copy-id 192.168.126.13

⑧Manager 节点上配置 MHA

  • 在 manager 节点上复制相关脚本到 /usr/local/bin 目录
  1. cp -rp /opt/mha4mysql-manager-0.57/samples/scripts /usr/local/bin
  2. #复制后会有四个执行文件
  3. ll /usr/local/bin/scripts/
master_ip_failover自动切换时 VIP 管理的脚本
master_ip_online_change在线切换时 vip 的管理
power_manager故障发生后关闭主机的脚本
send_report因故障切换后发送报警的脚本
  • 复制上述的自动切换时 VIP 管理的脚本到 /usr/local/bin 目录,这里使用master_ip_failover脚本来管理 VIP 和故障切换
  1. cp /usr/local/bin/scripts/master_ip_failover /usr/local/bin
  • 修改内容如下:(删除原有内容,直接复制并修改vip相关参数)
  1. vim /usr/local/bin/master_ip_failover
  2. #!/usr/bin/env perl
  3. use strict;
  4. use warnings FATAL => 'all';
  5. use Getopt::Long;
  6. my (
  7. $command, $ssh_user, $orig_master_host, $orig_master_ip,
  8. $orig_master_port, $new_master_host, $new_master_ip, $new_master_port
  9. );
  10. #############################添加内容部分#########################################
  11. my $vip = '192.168.126.200'; #指定vip的地址
  12. my $brdc = '192.168.126.255'; #指定vip的广播地址
  13. my $ifdev = 'ens33'; #指定vip绑定的网卡
  14. my $key = '1'; #指定vip绑定的虚拟网卡序列号
  15. my $ssh_start_vip = "/sbin/ifconfig ens33:$key $vip"; #代表此变量值为ifconfig ens33:1 192.168.126.200
  16. my $ssh_stop_vip = "/sbin/ifconfig ens33:$key down"; #代表此变量值为ifconfig ens33:1 192.168.126.200 down
  17. my $exit_code = 0; #指定退出状态码为0
  18. #my $ssh_start_vip = "/usr/sbin/ip addr add $vip/24 brd $brdc dev $ifdev label $ifdev:$key;/usr/sbin/arping -q -A -c 1 -I $ifdev $vip;iptables -F;";
  19. #my $ssh_stop_vip = "/usr/sbin/ip addr del $vip/24 dev $ifdev label $ifdev:$key";
  20. ##################################################################################
  21. GetOptions(
  22. 'command=s' => \$command,
  23. 'ssh_user=s' => \$ssh_user,
  24. 'orig_master_host=s' => \$orig_master_host,
  25. 'orig_master_ip=s' => \$orig_master_ip,
  26. 'orig_master_port=i' => \$orig_master_port,
  27. 'new_master_host=s' => \$new_master_host,
  28. 'new_master_ip=s' => \$new_master_ip,
  29. 'new_master_port=i' => \$new_master_port,
  30. );
  31. exit &main();
  32. sub main {
  33. print "\n\nIN SCRIPT TEST====$ssh_stop_vip==$ssh_start_vip===\n\n";
  34. if ( $command eq "stop" || $command eq "stopssh" ) {
  35. my $exit_code = 1;
  36. eval {
  37. print "Disabling the VIP on old master: $orig_master_host \n";
  38. &stop_vip();
  39. $exit_code = 0;
  40. };
  41. if ($@) {
  42. warn "Got Error: $@\n";
  43. exit $exit_code;
  44. }
  45. exit $exit_code;
  46. }
  47. elsif ( $command eq "start" ) {
  48. my $exit_code = 10;
  49. eval {
  50. print "Enabling the VIP - $vip on the new master - $new_master_host \n";
  51. &start_vip();
  52. $exit_code = 0;
  53. };
  54. if ($@) {
  55. warn $@;
  56. exit $exit_code;
  57. }
  58. exit $exit_code;
  59. }
  60. elsif ( $command eq "status" ) {
  61. print "Checking the Status of the script.. OK \n";
  62. exit 0;
  63. }
  64. else {
  65. &usage();
  66. exit 1;
  67. }
  68. }
  69. sub start_vip() {
  70. `ssh $ssh_user\@$new_master_host \" $ssh_start_vip \"`;
  71. }
  72. ## A simple system call that disable the VIP on the old_master
  73. sub stop_vip() {
  74. `ssh $ssh_user\@$orig_master_host \" $ssh_stop_vip \"`;
  75. }
  76. sub usage {
  77. print
  78. "Usage: master_ip_failover --command=start|stop|stopssh|status --orig_master_host=host --orig_master_ip=ip --orig_master_port=port --new_master_host=host --new_master_ip=ip --new_master_port=port\n";
  79. }
  • 创建 MHA 软件目录并拷贝配置文件,这里使用app1.cnf配置文件来管理 mysql 节点服务器
  1. mkdir /etc/masterha
  2. cp /opt/mha4mysql-manager-0.57/samples/conf/app1.cnf /etc/masterha
  3. #删除原有内容,直接复制并修改节点服务器的 IP 地址
  4. vim /etc/masterha/app1.cnf
  5. [server default]
  6. manager_log=/var/log/masterha/app1/manager.log
  7. manager_workdir=/var/log/masterha/app1
  8. master_binlog_dir=/usr/local/mysql/data
  9. master_ip_failover_script=/usr/local/bin/master_ip_failover
  10. master_ip_online_change_script=/usr/local/bin/master_ip_online_change
  11. password=manager
  12. ping_interval=1
  13. remote_workdir=/tmp
  14. repl_password=123123
  15. repl_user=myslave
  16. secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.126.13 -s 192.168.126.14
  17. shutdown_script=""
  18. ssh_user=root
  19. user=mha
  20. [server1]
  21. hostname=192.168.126.12
  22. port=3306
  23. [server2]
  24. candidate_master=1
  25. check_repl_delay=0
  26. hostname=192.168.126.13
  27. port=3306
  28. [server3]
  29. hostname=192.168.126.14
  30. port=3306
  • 详细解释如下:
  1. [server default]
  2. manager_log=/var/log/masterha/app1/manager.log      #manager日志
  3. manager_workdir=/var/log/masterha/app1.log     #manager工作目录
  4. master_binlog_dir=/usr/local/mysql/data/          #master保存binlog的位置,这里的路径要与master里配置的binlog的路径一致,以便MHA能找到
  5. master_ip_failover_script=/usr/local/bin/master_ip_failover   #设置自动failover时候的切换脚本,也就是上面的那个脚本
  6. master_ip_online_change_script=/usr/local/bin/master_ip_online_change  #设置手动切换时候的切换脚本
  7. password=manager #设置mysql中root用户的密码,这个密码是前文中创建监控用户的那个密码
  8. ping_interval=1 #设置监控主库,发送ping包的时间间隔1秒,默认是3秒,尝试三次没有回应的时候自动进行failover
  9. remote_workdir=/tmp #设置远端mysql在发生切换时binlog的保存位置
  10. repl_password=123123 #设置复制用户的密码
  11. repl_user=myslave #设置复制用户的用户
  12. report_script=/usr/local/send_report     #设置发生切换后发送的报警的脚本
  13. secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.126.13 -s 192.168.126.14 #指定检查的从服务器IP地址
  14. shutdown_script="" #设置故障发生后关闭故障主机脚本(该脚本的主要作用是关闭主机防止发生脑裂,这里没有使用)
  15. ssh_user=root #设置ssh的登录用户名
  16. user=mha #设置监控用户root
  17. [server1]
  18. hostname=192.168.126.12
  19. port=3306
  20. [server2]
  21. hostname=192.168.126.13
  22. port=3306
  23. candidate_master=1
  24. #设置为候选master,设置该参数以后,发生主从切换以后将会将此从库提升为主库,即使这个主库不是集群中最新的slave
  25. check_repl_delay=0
  26. #默认情况下如果一个slave落后master 超过100M的relay logs的话,MHA将不会选择该slave作为一个新的master, 因为对于这个slave的恢复需要花费很长时间;通过设置check_repl_delay=0,MHA触发切换在选择一个新的master的时候将会忽略复制延时,这个参数对于设置了candidate_master=1的主机非常有用,因为这个候选主在切换的过程中一定是新的master
  27. [server3]
  28. hostname=192.168.126.14
  29. port=3306

⑨第一次配置需要在 Master 节点上手动开启虚拟IP

  1. ifconfig ens33:1 192.168.126.200/24
  2. ifconfig
  3. #查看一下
  • 在 Manager 节点上测试 SSH 无密码认证,如果正常最后会输出 successfully
  1. masterha_check_ssh -conf=/etc/masterha/app1.cnf
  • 在 Manager 节点上测试 MySQL 主从连接情况,最后出现 “MySQL Replication Health is OK” 字样说明正常
  1. masterha_check_repl -conf=/etc/masterha/app1.cnf
  • 在 Manager 节点上启动 MHA
  1. nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
  2. #--remove_dead_master_conf:该参数代表当发生主从切换后,老的主库的 ip 将会从配置文件中移除
  3. #--manger_log:日志存放位置
  4. #--ignore_last_failover:在缺省情况下,如果 MHA 检测到连续发生宕机,且两次宕机间隔不足 8 小时的话,则不会进行 Failover, 之所以这样限制是为了避免 ping-pong 效应
  5. #该参数代表忽略上次 MHA 触发切换产生的文件,默认情况下,MHA 发生切换后会在日志记目录,也就是上面设置的日志app1.failover.complete文件,下次再次切换的时候如果发现该目录下存在该文件将不允许触发切换,除非在第一次切换后收到删除该文件
  • 查看 MHA 状态,可以看到当前的 Master 是 Master 主机
  1. masterha_check_status --conf=/etc/masterha/app1.cnf
  • 查看 MHA 日志,也以看到当前的 Master 是 Master 主机
  1. cat /var/log/masterha/app1/manager.log | grep "current master"
  • 查看 Master 的 VIP 地址 192.168.126.200 是否存在,这个 VIP 地址不会因为 Manager 节点停止 MHA 服务而消失
  1. ifconfig
  2. #若要关闭 manager 服务,可以使用如下命令:
  3. masterha_stop --conf=/etc/masterha/app1.cnf
  4. 或者可以直接采用 kill 进程 ID 的方式关闭

4.故障模拟

  • 在 Manager 节点上监控观察日志记录
  1. tail -f /var/log/masterha/app1/manager.log
  • 在 Master 节点 Master 主机 上停止 MySQL 服务
  1. systemctl stop mysqld
  • 正常自动切换一次后,MHA 进程会退出;HMA 会自动修改 app1.cnf 文件内容,将宕机的 mysql1 节点删除,查看 mysql2 是否接管 VIP
  1. ifconfig
  • 再次查看 manager 节点监控观察日志记录,可以看到,master 已宕机,该 master 节点失效,选择了 Slave1 作为新的 master 节点

5.故障修复步骤

  • 修复 MySQL
  1. systemctl restart mysqld
  • 修复主从
  1. show master status;
  • 在原主库服务器 Master(192.168.126.12)执行同步操作
  1. change master to master_host='192.168.126.13',master_user='myslave',master_password='123123',master_log_file='master-bin.000001',master_log_pos=xxxx;
  2. start slave;
  3. show slave status\G | awk '/Running:/{print}'
  • 在 Manager 节点上修改配置文件 app1.cnf(再把这个记录添加进去,因为它检测掉失效时候会自动消失)
  1. vim /etc/masterha/app1.cnf
  2. ……
  3. secondary_check_script=/usr/local/bin/masterha_secondary_check -s 192.168.126.12 -s 192.168.126.14
  4. ......
  5. [server1]
  6. hostname=192.168.126.13
  7. port=3306
  8. [server2]
  9. candidate_master=1
  10. check_repl_delay=0
  11. hostname=192.168.126.12
  12. port=3306
  13. [server3]
  14. hostname=192.168.126.14
  15. port=3306
  • 在 Manager 节点上启动 MHA
  1. masterha_stop --conf=/etc/masterha/app1.cnf
  2. #重启 MHA
  3. nohup masterha_manager --conf=/etc/masterha/app1.cnf --remove_dead_master_conf --ignore_last_failover < /dev/null > /var/log/masterha/app1/manager.log 2>&1 &
  4. masterha_check_status --conf=/etc/masterha/app1.cnf
  5. #此时再来查看 MHA 状态,可以看到,当前 master 为 Slave1

相关文章