1. 主从复制架构演变介绍
1.1 基本结构
(1)一主一从(2)一主多从(3)多级主从(4)双主(5)循环复制
1.2 高级应用架构演变
1.2.1 高性能架构
读写分离架构(读性能较高)代码级别MySQL proxy(Atlas,mysql router,proxySQL(percona),maxscale)、amoeba(taobao)xx-dbproxy等。分布式架构(读写性能都提高):分库分表——cobar--->TDDL(头都大了),DRDSMycat--->DBLE自主研发等。NewSQL-->TiDB
1.2.2 高可用架构
(3)单活:MMM架构——mysql-mmm(google)(4)单活:MHA架构——mysql-master-ha(日本DeNa),T-MHA(5)多活:MGR ——5.7 新特性 MySQL Groupreplication(5.7.17)--->Innodb Cluster(6)多活:MariaDB Galera Cluster架构,(PXC)Percona XtraDB Cluster、MySQLCluster(Oracle rac)架构
2. 高可用MHA *****
2.1 架构工作原理
主库宕机处理过程1. 监控节点 (通过配置文件获取所有节点信息) 系统,网络,SSH连接性 主从状态,重点是主库2. 选主(1) 如果判断从库(position或者GTID),数据有差异,最接近于Master的slave,成为备选主(2) 如果判断从库(position或者GTID),数据一致,按照配置文件顺序,选主.(3) 如果设定有权重(candidate_master=1),按照权重强制指定备选主. 1. 默认情况下如果一个slave落后master 100M的relay logs的话,即使有权重,也会失效. 2. 如果check_repl_delay=0的化,即使落后很多日志,也强制选择其为备选主3. 数据补偿(1) 当SSH能连接,从库对比主库GTID 或者position号,立即将二进制日志保存至各个从节点并且应用(save_binary_logs )(2) 当SSH不能连接, 对比从库之间的relaylog的差异(apply_diff_relay_logs) 4. Failover将备选主进行身份切换,对外提供服务其余从库和新主库确认新的主从关系5. 应用透明(VIP)6. 故障切换通知(send_reprt)7. 二次数据补偿(binlog_server)8. 自愈自治(待开发...)
2.2 架构介绍:
1主2从,master:db01 slave:db02 db03 ):MHA 高可用方案软件构成Manager软件:选择一个从节点安装Node软件:所有节点都要安装
2.3 MHA软件构成
Manager工具包主要包括以下几个工具:masterha_manger 启动MHA masterha_check_ssh 检查MHA的SSH配置状况 masterha_check_repl 检查MySQL复制状况 masterha_master_monitor 检测master是否宕机 masterha_check_status 检测当前MHA运行状态 masterha_master_switch 控制故障转移(自动或者手动)masterha_conf_host 添加或删除配置的server信息Node工具包主要包括以下几个工具:这些工具通常由MHA Manager的脚本触发,无需人为操作save_binary_logs 保存和复制master的二进制日志 apply_diff_relay_logs 识别差异的中继日志事件并将其差异的事件应用于其他的purge_relay_logs 清除中继日志(不会阻塞SQL线程)
2.4 MHA环境搭建
2.4.1 规划:
主库: 51 node 从库: 52 node53 node manager
2.4.2 准备环境(略。1主2从GTID)
2.4.3 配置关键程序软连接
ln-s/data/mysql/bin/mysqlbinlog/usr/bin/mysqlbinlogln-s/data/mysql/bin/mysql/usr/bin/mysql
2.4.4 配置各节点互信
db01:rm-rf/root/.ssh ssh-keygencd/root/.ssh mv id_rsa.pub authorized_keysscp-r/root/.ssh10.0.0.52:/root scp-r/root/.ssh10.0.0.53:/root 各节点验证db01:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53datedb02:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53datedb03:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53date
2.4.5 安装软件
下载mha软件
mha官网:https://code.google.com/archive/p/mysql-master-ha/github下载地址:https://github.com/yoshinorim/mha4mysql-manager/wiki/Downloads
所有节点安装Node软件依赖包
yum install perl-DBD-MySQL -yrpm -ivh mha4mysql-node-0.56-0.el6.noarch.rpm
在db01主库中创建mha需要的用户
grant all privileges on *.* to mha@'10.0.0.%'identified by'mha';
Manager软件安装(db03)
yum install -y perl-Config-Tiny epel-release perl-Log-Dispatch perl-Parallel-ForkManager perl-Time-HiResrpm -ivh mha4mysql-manager-0.56-0.el6.noarch.rpm
2.4.6 配置文件准备(db03)
创建配置文件目录 mkdir-p/etc/mha创建日志目录 mkdir-p/var/log/mha/app1编辑mha配置文件vim/etc/mha/app1.cnf[serverdefault]manager_log=/var/log/mha/app1/manager manager_workdir=/var/log/mha/app1 master_binlog_dir=/data/binlog user=mha password=mha ping_interval=2repl_password=123repl_user=replssh_user=root[server1]hostname=10.0.0.51port=3306[server2]hostname=10.0.0.52port=3306[server3]hostname=10.0.0.53port=3306
2.4.7 状态检查
### 互信检查masterha_check_ssh--conf=/etc/mha/app1.cnf Fri Apr1916:39:342019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:39:342019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Starting SSH connection tests..Fri Apr1916:39:352019-[debug]Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:342019-[debug]ok.Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:362019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:372019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:362019-[debug]ok.Fri Apr1916:39:372019-[info]All SSH connection tests passed successfully.
主从状态检查
[root@db03 ~]# masterha_check_ssh--conf=/etc/mha/app1.cnf Fri Apr1916:39:342019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:39:342019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Starting SSH connection tests..Fri Apr1916:39:352019-[debug]Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:342019-[debug]ok.Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:362019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:372019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:362019-[debug]ok.Fri Apr1916:39:372019-[info]All SSH connection tests passed successfully.[root@db03 ~]# masterha_check_repl--conf=/etc/mha/app1.cnf Fri Apr1916:40:502019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:40:502019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:40:502019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:40:502019-[info]MHA::MasterMonitor version0.56.Fri Apr1916:40:512019-[info]GTID failover mode=1Fri Apr1916:40:512019-[info]Dead Servers:Fri Apr1916:40:512019-[info]Alive Servers:Fri Apr1916:40:512019-[info]10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]10.0.0.52(10.0.0.52:3306)Fri Apr1916:40:512019-[info]10.0.0.53(10.0.0.53:3306)Fri Apr1916:40:512019-[info]Alive Slaves:Fri Apr1916:40:512019-[info]10.0.0.52(10.0.0.52:3306)Version=5.7.20-log(oldest major version between slaves)log-bin:enabledFri Apr1916:40:512019-[info]GTID ONFri Apr1916:40:512019-[info]Replicating from10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]10.0.0.53(10.0.0.53:3306)Version=5.7.20-log(oldest major version between slaves)log-bin:enabledFri Apr1916:40:512019-[info]GTID ONFri Apr1916:40:512019-[info]Replicating from10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]Current Alive Master:10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]Checking slave configurations..Fri Apr1916:40:512019-[info]read_only=1isnotseton slave10.0.0.52(10.0.0.52:3306).Fri Apr1916:40:512019-[info]read_only=1isnotseton slave10.0.0.53(10.0.0.53:3306).Fri Apr1916:40:512019-[info]Checking replication filtering settings..Fri Apr1916:40:512019-[info]binlog_do_db=,binlog_ignore_db=Fri Apr1916:40:512019-[info]Replication filtering check ok.Fri Apr1916:40:512019-[info]GTID(with auto-pos)issupported.Skipping all SSHandNodepackagechecking.Fri Apr1916:40:512019-[info]Checking SSH publickey authentication settings on the current master..Fri Apr1916:40:512019-[info]HealthCheck:SSHto10.0.0.51isreachable.Fri Apr1916:40:512019-[info]10.0.0.51(10.0.0.51:3306)(current master)+--10.0.0.52(10.0.0.52:3306)+--10.0.0.53(10.0.0.53:3306)Fri Apr1916:40:512019-[info]Checking replication health on10.0.0.52..Fri Apr1916:40:512019-[info]ok.Fri Apr1916:40:512019-[info]Checking replication health on10.0.0.53..Fri Apr1916:40:512019-[info]ok.Fri Apr1916:40:512019-[warning]master_ip_failover_scriptisnot defined.Fri Apr1916:40:512019-[warning]shutdown_scriptisnot defined.Fri Apr1916:40:512019-[info]Got exit code0(Not master dead).MySQL Replication HealthisOK.
2.4.8 开启MHA(db03):
nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&
2.4.9 查看MHA状态
[root@db03~]# masterha_check_status --conf=/etc/mha/app1.cnfapp1(pid:4719)is running(0:PING_OK),master:10.0.0.51[root@db03~]# mysql -umha -pmha -h 10.0.0.51 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|51|+---------------+-------+[root@db03~]# mysql -umha -pmha -h 10.0.0.52 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|52|+---------------+-------+[root@db03~]# mysql -umha -pmha -h 10.0.0.53 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|53|+---------------+-------+
2.4.10 故障模拟及处理
### 停主库db01: /etc/init.d/mysqld stop观察manager 日志 tail -f /var/log/mha/app1/manager末尾必须显示successfully,才算正常切换成功。
修复主库
[root@db01~]#/etc/init.d/mysqld start
恢复主从结构
CHANGE MASTER TO MASTER_HOST='10.0.0.52',MASTER_PORT=3306, MASTER_AUTO_POSITION=1, MASTER_USER='repl', MASTER_PASSWORD='123';start slave ;
修改配置文件
[server1]hostname=10.0.0.51port=3306
启动MHA
nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&
2.4.11 Manager额外参数介绍
说明:主库宕机谁来接管?1. 所有从节点日志都是一致的,默认会以配置文件的顺序去选择一个新主。2. 从节点日志不一致,自动选择最接近于主库的从库3. 如果对于某节点设定了权重(candidate_master=1),权重节点会优先选择。但是此节点日志量落后主库100M日志的话,也不会被选择。可以配合check_repl_delay=0,关闭日志量的检查,强制选择候选节点。(1) ping_interval=1#设置监控主库,发送ping包的时间间隔,尝试三次没有回应的时候自动进行failover(2) candidate_master=1#设置为候选master,如果设置该参数以后,发生主从切换以后将会将此从库提升为主库,即使这个主库不是集群中事件最新的slave(3)check_repl_delay=0#默认情况下如果一个slave落后master 100M的relay logs的话,MHA将不会选择该slave作为一个新的master,因为对于这个slave的恢复需要花费很长时间,通过设置check_repl_delay=0,MHA触发切换在选择一个新的master的时候将会忽略复制延时,这个参数对于设置了candidate_master=1的主机非常有用,因为这个候选主在切换的过程中一定是新的master
2.4.12 MHA 的vip功能
参数
master_ip_failover_script=/usr/local/bin/master_ip_failover注意:/usr/local/bin/master_ip_failover,必须事先准备好
修改脚本内容
vi /usr/local/bin/master_ip_failovermy $vip = '10.0.0.55/24';my $key = '1';my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";
更改manager配置文件:
vi/etc/mha/app1.cnf添加:master_ip_failover_script=/usr/local/bin/master_ip_failover注意:[root@db03~]# dos2unix /usr/local/bin/master_ip_failover dos2unix:converting file/usr/local/bin/master_ip_failover toUnixformat...[root@db03~]# chmod +x /usr/local/bin/master_ip_failover
主库上,手工生成第一个vip地址
手工在主库上绑定vip,注意一定要和配置文件中的ethN一致,我的是eth0:1(1是key指定的值)ifconfig eth0:1 10.0.0.55/24
重启mha
masterha_stop--conf=/etc/mha/app1.cnfnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&
2.4.13 邮件提醒
1.参数:report_script=/usr/local/bin/send2.准备邮件脚本send_report(1)准备发邮件的脚本(上传 email_2019-最新.zip中的脚本,到/usr/local/bin/中)(2)将准备好的脚本添加到mha配置文件中,让其调用3.修改manager配置文件,调用邮件脚本vi/etc/mha/app1.cnfreport_script=/usr/local/bin/send(3)停止MHAmasterha_stop--conf=/etc/mha/app1.cnf(4)开启MHAnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&(5)关闭主库,看警告邮件 故障修复:1.恢复故障节点(1)实例宕掉/etc/init.d/mysqld start (2)主机损坏,有可能数据也损坏了备份并恢复故障节点。2.恢复主从环境看日志文件:CHANGEMASTERTOMASTER_HOST='10.0.0.52',MASTER_PORT=3306,MASTER_AUTO_POSITION=1,MASTER_USER='repl',MASTER_PASSWORD='123';start slave;3.恢复manager3.1修好的故障节点配置信息,加入到配置文件[server1]hostname=10.0.0.51port=33063.2启动manager nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&
2.4.14 binlog server(db03)
参数:
binlogserver配置:找一台额外的机器,必须要有5.6以上的版本,支持gtid并开启,我们直接用的第二个slave(db03)vim/etc/mha/app1.cnf[binlog1]no_master=1hostname=10.0.0.53master_binlog_dir=/data/mysql/binlog
创建必要目录
mkdir-p/data/mysql/binlogchown-R mysql.mysql/data/*
修改完成后,将主库binlog拉过来(从000001开始拉,之后的binlog会自动按顺序过来)
拉取主库binlog日志
cd /data/mysql/binlog -----》必须进入到自己创建好的目录mysqlbinlog -R --host=10.0.0.52 --user=mha --password=mha --raw --stop-never mysql-bin.000001 &注意:拉取日志的起点,需要按照目前从库的已经获取到的二进制日志点为起点
重启MHA
masterha_stop--conf=/etc/mha/app1.cnfnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&
故障处理
主库宕机,binlogserver 自动停掉,manager 也会自动停止。处理思路:1、重新获取新主库的binlog到binlogserver中2、重新配置文件binlog server信息3、最后再启动MHA
3.管理员在高可用架构维护的职责
1. 搭建:MHA+VIP+SendReport+BinlogServer
2. 监控及故障处理
3. 高可用架构的优化
核心是:尽可能降低主从的延时,让MHA花在数据补偿上的时间尽量减少。
5.7 版本,开启GTID模式,开启从库SQL并发复制。
作者:MySQL_oldguo
链接://www.greatytc.com/p/0f7b5a962ba7
来源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。