MySQL-lesson10-MHA高可用技术

1. 主从复制架构演变介绍

1.1 基本结构

(1)一主一从(2)一主多从(3)多级主从(4)双主(5)循环复制

1.2 高级应用架构演变

1.2.1 高性能架构

读写分离架构(读性能较高)代码级别MySQL proxy(Atlas,mysql router,proxySQL(percona),maxscale)、amoeba(taobao)xx-dbproxy等。分布式架构(读写性能都提高):分库分表——cobar--->TDDL(头都大了),DRDSMycat--->DBLE自主研发等。NewSQL-->TiDB

1.2.2  高可用架构

(3)单活:MMM架构——mysql-mmm(google)(4)单活:MHA架构——mysql-master-ha(日本DeNa),T-MHA(5)多活:MGR ——5.7 新特性 MySQL Groupreplication(5.7.17)--->Innodb Cluster(6)多活:MariaDB Galera Cluster架构,(PXC)Percona XtraDB Cluster、MySQLCluster(Oracle rac)架构

2. 高可用MHA      *****

2.1 架构工作原理

主库宕机处理过程1. 监控节点 (通过配置文件获取所有节点信息)  系统,网络,SSH连接性  主从状态,重点是主库2. 选主(1) 如果判断从库(position或者GTID),数据有差异,最接近于Master的slave,成为备选主(2) 如果判断从库(position或者GTID),数据一致,按照配置文件顺序,选主.(3) 如果设定有权重(candidate_master=1),按照权重强制指定备选主.    1. 默认情况下如果一个slave落后master 100M的relay logs的话,即使有权重,也会失效.    2. 如果check_repl_delay=0的化,即使落后很多日志,也强制选择其为备选主3. 数据补偿(1) 当SSH能连接,从库对比主库GTID 或者position号,立即将二进制日志保存至各个从节点并且应用(save_binary_logs )(2) 当SSH不能连接, 对比从库之间的relaylog的差异(apply_diff_relay_logs) 4. Failover将备选主进行身份切换,对外提供服务其余从库和新主库确认新的主从关系5. 应用透明(VIP)6. 故障切换通知(send_reprt)7. 二次数据补偿(binlog_server)8. 自愈自治(待开发...)

2.2 架构介绍:

1主2从,master:db01  slave:db02  db03 ):MHA 高可用方案软件构成Manager软件:选择一个从节点安装Node软件:所有节点都要安装

2.3 MHA软件构成

Manager工具包主要包括以下几个工具:masterha_manger            启动MHA masterha_check_ssh      检查MHA的SSH配置状况 masterha_check_repl        检查MySQL复制状况 masterha_master_monitor    检测master是否宕机 masterha_check_status      检测当前MHA运行状态 masterha_master_switch  控制故障转移(自动或者手动)masterha_conf_host      添加或删除配置的server信息Node工具包主要包括以下几个工具:这些工具通常由MHA Manager的脚本触发,无需人为操作save_binary_logs            保存和复制master的二进制日志 apply_diff_relay_logs      识别差异的中继日志事件并将其差异的事件应用于其他的purge_relay_logs            清除中继日志(不会阻塞SQL线程)

2.4  MHA环境搭建

2.4.1 规划:

主库: 51    node 从库: 52      node53      node    manager

2.4.2 准备环境(略。1主2从GTID)

2.4.3 配置关键程序软连接

ln-s/data/mysql/bin/mysqlbinlog/usr/bin/mysqlbinlogln-s/data/mysql/bin/mysql/usr/bin/mysql

2.4.4  配置各节点互信

db01:rm-rf/root/.ssh ssh-keygencd/root/.ssh mv id_rsa.pub authorized_keysscp-r/root/.ssh10.0.0.52:/root scp-r/root/.ssh10.0.0.53:/root 各节点验证db01:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53datedb02:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53datedb03:ssh10.0.0.51datessh10.0.0.52datessh10.0.0.53date

2.4.5 安装软件

下载mha软件

mha官网:https://code.google.com/archive/p/mysql-master-ha/github下载地址:https://github.com/yoshinorim/mha4mysql-manager/wiki/Downloads

所有节点安装Node软件依赖包

yum install perl-DBD-MySQL -yrpm -ivh mha4mysql-node-0.56-0.el6.noarch.rpm

在db01主库中创建mha需要的用户

grant all privileges on *.* to mha@'10.0.0.%'identified by'mha';

Manager软件安装(db03)

yum install -y perl-Config-Tiny epel-release perl-Log-Dispatch perl-Parallel-ForkManager perl-Time-HiResrpm -ivh mha4mysql-manager-0.56-0.el6.noarch.rpm

2.4.6 配置文件准备(db03)

创建配置文件目录 mkdir-p/etc/mha创建日志目录 mkdir-p/var/log/mha/app1编辑mha配置文件vim/etc/mha/app1.cnf[serverdefault]manager_log=/var/log/mha/app1/manager        manager_workdir=/var/log/mha/app1            master_binlog_dir=/data/binlog      user=mha                                  password=mha                              ping_interval=2repl_password=123repl_user=replssh_user=root[server1]hostname=10.0.0.51port=3306[server2]hostname=10.0.0.52port=3306[server3]hostname=10.0.0.53port=3306

2.4.7 状态检查

### 互信检查masterha_check_ssh--conf=/etc/mha/app1.cnf Fri Apr1916:39:342019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:39:342019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Starting SSH connection tests..Fri Apr1916:39:352019-[debug]Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:342019-[debug]ok.Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:362019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:372019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:362019-[debug]ok.Fri Apr1916:39:372019-[info]All SSH connection tests passed successfully.

主从状态检查

[root@db03 ~]# masterha_check_ssh--conf=/etc/mha/app1.cnf Fri Apr1916:39:342019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:39:342019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:39:342019-[info]Starting SSH connection tests..Fri Apr1916:39:352019-[debug]Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:342019-[debug]ok.Fri Apr1916:39:342019-[debug]Connecting via SSH fromroot@10.0.0.51(10.0.0.51:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:362019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.52(10.0.0.52:22)toroot@10.0.0.53(10.0.0.53:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:372019-[debug]Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.51(10.0.0.51:22)..Fri Apr1916:39:352019-[debug]ok.Fri Apr1916:39:352019-[debug]Connecting via SSH fromroot@10.0.0.53(10.0.0.53:22)toroot@10.0.0.52(10.0.0.52:22)..Fri Apr1916:39:362019-[debug]ok.Fri Apr1916:39:372019-[info]All SSH connection tests passed successfully.[root@db03 ~]# masterha_check_repl--conf=/etc/mha/app1.cnf Fri Apr1916:40:502019-[warning]Global configuration file/etc/masterha_default.cnf not found.Skipping.Fri Apr1916:40:502019-[info]Reading application default configuration from/etc/mha/app1.cnf..Fri Apr1916:40:502019-[info]Reading server configuration from/etc/mha/app1.cnf..Fri Apr1916:40:502019-[info]MHA::MasterMonitor version0.56.Fri Apr1916:40:512019-[info]GTID failover mode=1Fri Apr1916:40:512019-[info]Dead Servers:Fri Apr1916:40:512019-[info]Alive Servers:Fri Apr1916:40:512019-[info]10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]10.0.0.52(10.0.0.52:3306)Fri Apr1916:40:512019-[info]10.0.0.53(10.0.0.53:3306)Fri Apr1916:40:512019-[info]Alive Slaves:Fri Apr1916:40:512019-[info]10.0.0.52(10.0.0.52:3306)Version=5.7.20-log(oldest major version between slaves)log-bin:enabledFri Apr1916:40:512019-[info]GTID ONFri Apr1916:40:512019-[info]Replicating from10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]10.0.0.53(10.0.0.53:3306)Version=5.7.20-log(oldest major version between slaves)log-bin:enabledFri Apr1916:40:512019-[info]GTID ONFri Apr1916:40:512019-[info]Replicating from10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]Current Alive Master:10.0.0.51(10.0.0.51:3306)Fri Apr1916:40:512019-[info]Checking slave configurations..Fri Apr1916:40:512019-[info]read_only=1isnotseton slave10.0.0.52(10.0.0.52:3306).Fri Apr1916:40:512019-[info]read_only=1isnotseton slave10.0.0.53(10.0.0.53:3306).Fri Apr1916:40:512019-[info]Checking replication filtering settings..Fri Apr1916:40:512019-[info]binlog_do_db=,binlog_ignore_db=Fri Apr1916:40:512019-[info]Replication filtering check ok.Fri Apr1916:40:512019-[info]GTID(with auto-pos)issupported.Skipping all SSHandNodepackagechecking.Fri Apr1916:40:512019-[info]Checking SSH publickey authentication settings on the current master..Fri Apr1916:40:512019-[info]HealthCheck:SSHto10.0.0.51isreachable.Fri Apr1916:40:512019-[info]10.0.0.51(10.0.0.51:3306)(current master)+--10.0.0.52(10.0.0.52:3306)+--10.0.0.53(10.0.0.53:3306)Fri Apr1916:40:512019-[info]Checking replication health on10.0.0.52..Fri Apr1916:40:512019-[info]ok.Fri Apr1916:40:512019-[info]Checking replication health on10.0.0.53..Fri Apr1916:40:512019-[info]ok.Fri Apr1916:40:512019-[warning]master_ip_failover_scriptisnot defined.Fri Apr1916:40:512019-[warning]shutdown_scriptisnot defined.Fri Apr1916:40:512019-[info]Got exit code0(Not master dead).MySQL Replication HealthisOK.

2.4.8  开启MHA(db03):

nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&

2.4.9  查看MHA状态

[root@db03~]# masterha_check_status --conf=/etc/mha/app1.cnfapp1(pid:4719)is running(0:PING_OK),master:10.0.0.51[root@db03~]# mysql -umha -pmha -h 10.0.0.51 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|51|+---------------+-------+[root@db03~]# mysql -umha -pmha -h 10.0.0.52 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|52|+---------------+-------+[root@db03~]# mysql -umha -pmha -h 10.0.0.53 -e "show variables like 'server_id'"mysql:[Warning]Usinga password on the command line interfacecanbe insecure.+---------------+-------+|Variable_name|Value|+---------------+-------+|server_id|53|+---------------+-------+

2.4.10 故障模拟及处理

### 停主库db01:    /etc/init.d/mysqld stop观察manager  日志 tail -f /var/log/mha/app1/manager末尾必须显示successfully,才算正常切换成功。

修复主库

[root@db01~]#/etc/init.d/mysqld start

恢复主从结构

CHANGE MASTER TO MASTER_HOST='10.0.0.52',MASTER_PORT=3306, MASTER_AUTO_POSITION=1, MASTER_USER='repl', MASTER_PASSWORD='123';start slave ;

修改配置文件

[server1]hostname=10.0.0.51port=3306

启动MHA

nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&

2.4.11  Manager额外参数介绍

说明:主库宕机谁来接管?1. 所有从节点日志都是一致的,默认会以配置文件的顺序去选择一个新主。2. 从节点日志不一致,自动选择最接近于主库的从库3. 如果对于某节点设定了权重(candidate_master=1),权重节点会优先选择。但是此节点日志量落后主库100M日志的话,也不会被选择。可以配合check_repl_delay=0,关闭日志量的检查,强制选择候选节点。(1)  ping_interval=1#设置监控主库,发送ping包的时间间隔,尝试三次没有回应的时候自动进行failover(2) candidate_master=1#设置为候选master,如果设置该参数以后,发生主从切换以后将会将此从库提升为主库,即使这个主库不是集群中事件最新的slave(3)check_repl_delay=0#默认情况下如果一个slave落后master 100M的relay logs的话,MHA将不会选择该slave作为一个新的master,因为对于这个slave的恢复需要花费很长时间,通过设置check_repl_delay=0,MHA触发切换在选择一个新的master的时候将会忽略复制延时,这个参数对于设置了candidate_master=1的主机非常有用,因为这个候选主在切换的过程中一定是新的master

2.4.12 MHA 的vip功能

参数

master_ip_failover_script=/usr/local/bin/master_ip_failover注意:/usr/local/bin/master_ip_failover,必须事先准备好

修改脚本内容

vi  /usr/local/bin/master_ip_failovermy $vip = '10.0.0.55/24';my $key = '1';my $ssh_start_vip = "/sbin/ifconfig eth0:$key $vip";my $ssh_stop_vip = "/sbin/ifconfig eth0:$key down";

更改manager配置文件:

vi/etc/mha/app1.cnf添加:master_ip_failover_script=/usr/local/bin/master_ip_failover注意:[root@db03~]# dos2unix /usr/local/bin/master_ip_failover dos2unix:converting file/usr/local/bin/master_ip_failover toUnixformat...[root@db03~]# chmod +x /usr/local/bin/master_ip_failover

主库上,手工生成第一个vip地址

手工在主库上绑定vip,注意一定要和配置文件中的ethN一致,我的是eth0:1(1是key指定的值)ifconfig eth0:1 10.0.0.55/24

重启mha

masterha_stop--conf=/etc/mha/app1.cnfnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&

2.4.13 邮件提醒

1.参数:report_script=/usr/local/bin/send2.准备邮件脚本send_report(1)准备发邮件的脚本(上传 email_2019-最新.zip中的脚本,到/usr/local/bin/中)(2)将准备好的脚本添加到mha配置文件中,让其调用3.修改manager配置文件,调用邮件脚本vi/etc/mha/app1.cnfreport_script=/usr/local/bin/send(3)停止MHAmasterha_stop--conf=/etc/mha/app1.cnf(4)开启MHAnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&(5)关闭主库,看警告邮件  故障修复:1.恢复故障节点(1)实例宕掉/etc/init.d/mysqld start (2)主机损坏,有可能数据也损坏了备份并恢复故障节点。2.恢复主从环境看日志文件:CHANGEMASTERTOMASTER_HOST='10.0.0.52',MASTER_PORT=3306,MASTER_AUTO_POSITION=1,MASTER_USER='repl',MASTER_PASSWORD='123';start slave;3.恢复manager3.1修好的故障节点配置信息,加入到配置文件[server1]hostname=10.0.0.51port=33063.2启动manager  nohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&

2.4.14 binlog server(db03)

参数:

binlogserver配置:找一台额外的机器,必须要有5.6以上的版本,支持gtid并开启,我们直接用的第二个slave(db03)vim/etc/mha/app1.cnf[binlog1]no_master=1hostname=10.0.0.53master_binlog_dir=/data/mysql/binlog

创建必要目录

mkdir-p/data/mysql/binlogchown-R mysql.mysql/data/*

修改完成后,将主库binlog拉过来(从000001开始拉,之后的binlog会自动按顺序过来)

拉取主库binlog日志

cd /data/mysql/binlog    -----》必须进入到自己创建好的目录mysqlbinlog  -R --host=10.0.0.52 --user=mha --password=mha --raw  --stop-never mysql-bin.000001 &注意:拉取日志的起点,需要按照目前从库的已经获取到的二进制日志点为起点

重启MHA

masterha_stop--conf=/etc/mha/app1.cnfnohup masterha_manager--conf=/etc/mha/app1.cnf--remove_dead_master_conf--ignore_last_failover</dev/null>/var/log/mha/app1/manager.log2>&1&

故障处理

主库宕机,binlogserver 自动停掉,manager 也会自动停止。处理思路:1、重新获取新主库的binlog到binlogserver中2、重新配置文件binlog server信息3、最后再启动MHA

3.管理员在高可用架构维护的职责

1. 搭建:MHA+VIP+SendReport+BinlogServer

2. 监控及故障处理

3.  高可用架构的优化

核心是:尽可能降低主从的延时,让MHA花在数据补偿上的时间尽量减少。

5.7 版本,开启GTID模式,开启从库SQL并发复制。

作者:MySQL_oldguo

链接://www.greatytc.com/p/0f7b5a962ba7

来源:简书

著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容