前言
作为一名DBA,在工作中会经常遇到一些MySQL主从同步延迟的问题,这些同步慢的问题,其实原因非常多,可能是因为主从的网络问题导致,可能是因为网络带宽问题导致,可能是因为大事务导致,也可能是因为单线程复制导致的延迟。
今天遇到一个问题,Mysql持续报错,主从同步延时数过大或错误。所以这篇文章给大家分享下主从同步的机制原理以及问题排查思路。
故障表现
最直观的表现为:
mysql> show slave status\G; // 状态一 Seconds_Behind_Master: NULL // 状态二 Seconds_Behind_Master: 0 // 状态三 Seconds_Behind_Master: 79
连续查询,大部分时间该属性值=0,偶发性出现Null或者79等延时值。导致观察主从同步延时的监控持续报警。
故障原因及解决方案
多台备机的server-id一致,导致主机无法长时间同某一台备机连接,进而无法正常同步。
修改server-id后,重启数据库恢复。
主从同步机制
MySQL的主从同步,又称为复制(replication),是一种内置的高可用高性能集群解决方案,主要功能有:
- 数据分布:同步不需要很大带宽,可以实现多数据中心复制数据。
- 读取的负载均衡:通过服务器集群,可以通过DNS轮询、Linux LVS等GSLB(全局负载均衡)方式,降低主服务器的读压力。
- 数据库备份:复制是备份的一部分,但并不能代替备份。还需要与快照相结合。
- 高可用性和故障转移:从服务器可以快速切换为主服务器,减少故障的停机时间和恢复时间。
主从同步分为3步:
- 主服务器(master)把数据更改记录到二进制日志(binlog)中。
- 从服务器(slave)把主服务器的二进制日志复制到自己的中继日志(relay log)中。
- 从服务器重做中继日志中的日志,把更改应用到自己的数据库上,达到数据的一致性。
主从同步是一个异步实时的同步,会实时的传输,但存在执行上的延时,如果主服务器压力很大,延时也会相应扩大。
通过上面的图,可以看到一共需要3个线程:
- 主服务器的日志传送线程:负责将二进制日志增量传送到备机
- 从服务器的I/O线程:负责读取主服务器的二进制日志,并保存为中继日志
- 从服务器的SQL线程,负责执行中继日志
查看MySQL线程
我们可以使用show full processlist;
命令来查看MySQL的状态:
主机的状态:
备机的状态:
可以看到,我的集群架构为1台主机、4台备机,所以在主机中有4个同步线程(已经发送所有的binlog数据到备机,等待binlog日志更新),1个查看命令线程(show full processlist)。在备机中有1个查看命令线程,1个I/O线程(等待主机发送同步数据事件),1个SQL线程(已经读取了所有中继日志,等待I/O线程来更新它)。
查看同步状态
因为主从同步是异步实时的,也就是会存在延时的情况,我们可以通过show slave status;来查看备机上的同步延时:
在主从同步中我们需要关注的一些属性,已经给大家标红了:
- Slave_IO_State: 当前I/O线程的状态
- Master_Log_File: 当前同步的主服务器的二进制文件
- Read_Master_Log_Pos: 当前同步的主服务器的二进制文件的偏移量,单位为字节,如图中为已经同步了12.9M(13630580/1024/1024)的内容
- Relay_Master_Log_File: 当前中继日志同步的二进制文件
- Slave_IO_Running: 从服务器中I/O线程的运行状态,YES为运行正常
- Slave_SQL_Running: 从服务器中SQL线程的运行状态,YES为运行正常
- Exec_Master_Log_Pos: 表示同步完成的主服务器的二进制日志偏移量
- Seconds_Behind_Master: 表示从服务器数据比主服务器落后的持续时长
同样可以通过show master status;命令来查看主服务器的运行状态:
正常运行的主从同步状态:
Slave_IO_Running: YES
Slave_SQL_Running: YES
Seconds_Behind_Master: 0
问题排查
在理解了主从同步的机制后,再来看今天遇到的问题,通过查看备机状态,我们观察在三种状态下的几个关键属性值:
mysql> show slave status\G; #状态一: Slave_IO_State: Reconnecting after a failed master event read Slave_IO_Running: No Slave_SQL_Running: Yes Seconds_Behind_Master: NULL #状态二: Slave_IO_State: Waiting for master to send event Slave_IO_Running: Yes Slave_SQL_Running: Yes Seconds_Behind_Master: 0 #状态三: Slave_IO_State: Queueing master event to the relay log Slave_IO_Running: Yes Slave_SQL_Running: Yes Seconds_Behind_Master: 636
通过MySQL主从复制线程状态转变,我们可以看到三种状态的不同含义:
# 状态一 # 线程正尝试重新连接主服务器,当连接重新建立后,状态变为Waiting for master to send event。 Reconnecting after a failed master event read # 状态二 # 线程已经连接上主服务器,正等待二进制日志事件到达。如果主服务器正空闲,会持续较长的时间。如果等待持续slave_read_timeout秒,则发生超时。此时,线程认为连接被中断并企图重新连接。 Waiting for master to send event # 状态三 # 线程已经读取一个事件,正将它复制到中继日志供SQL线程来处理。 Queueing master event to the relay log
在这里,我们可以猜测,由于某些原因,从服务器不断的和主服务器进行断开并尝试重连,重连成功后又再次断开。
我们再看看主机的运行情况:
发现问题出在10.144.63.*和10.144.68.*两台机器上,我们查看其中一台的错误日志:
190214 11:33:20 [Note] Slave: received end packet from server, apparent master shutdown:
190214 11:33:20 [Note] Slave I/O thread: Failed reading log event, reconnecting to retry, log 'mysql-bin.005682' at postion 13628070
拿到关键字Slave: received end packet from server, apparent master shutdown: Google搜索一下,在文章Confusing MySQL Replication Error Message中可以看到原因为两台备机的server-id重复。
One day it happen to me, and took me almost an hour to find that out.
Moving foward I always use a base my.cnf to I copy to any other server and the first thing is to increase the server-id.
Could MySQL just use the servername intead of a numeric value"color: #ff0000">问题修复
定位了问题,我们确认下是否重复,发现两台备机的该字段确实相同:
vim my.cnf #replication log-bin=mysql-bin # 这个随机数字相同导致的 server-id=177230069 sync_binlog=1更改一个其他不同的数字,保存,重启MySQL进程,报警恢复。
总结
最终来看,这个问题的解决非常简单,但从刚开始的迷茫到最后的思路清晰,都是我们排查问题所常见的,这篇文章的主要收获是让你明白主从同步的机制和追查问题的思路,希望下次我们都能很快的解决主从同步带给我们的问题。
好了,以上就是这篇文章的全部内容了,希望本文的内容对大家的学习或者工作具有一定的参考学习价值,如果有疑问大家可以留言交流,谢谢大家对的支持。
参考资料
- 《MySQL基础内幕 InnoDB存储引擎 第2版》P8.7 复制
- MySQL主从复制线程状态转变
- Confusing MySQL Replication Error Message
稳了!魔兽国服回归的3条重磅消息!官宣时间再确认!
昨天有一位朋友在大神群里分享,自己亚服账号被封号之后居然弹出了国服的封号信息对话框。
这里面让他访问的是一个国服的战网网址,com.cn和后面的zh都非常明白地表明这就是国服战网。
而他在复制这个网址并且进行登录之后,确实是网易的网址,也就是我们熟悉的停服之后国服发布的暴雪游戏产品运营到期开放退款的说明。这是一件比较奇怪的事情,因为以前都没有出现这样的情况,现在突然提示跳转到国服战网的网址,是不是说明了简体中文客户端已经开始进行更新了呢?
更新日志
- 雨林唱片《赏》新曲+精选集SACD版[ISO][2.3G]
- 罗大佑与OK男女合唱团.1995-再会吧!素兰【音乐工厂】【WAV+CUE】
- 草蜢.1993-宝贝对不起(国)【宝丽金】【WAV+CUE】
- 杨培安.2009-抒·情(EP)【擎天娱乐】【WAV+CUE】
- 周慧敏《EndlessDream》[WAV+CUE]
- 彭芳《纯色角3》2007[WAV+CUE]
- 江志丰2008-今生为你[豪记][WAV+CUE]
- 罗大佑1994《恋曲2000》音乐工厂[WAV+CUE][1G]
- 群星《一首歌一个故事》赵英俊某些作品重唱企划[FLAC分轨][1G]
- 群星《网易云英文歌曲播放量TOP100》[MP3][1G]
- 方大同.2024-梦想家TheDreamer【赋音乐】【FLAC分轨】
- 李慧珍.2007-爱死了【华谊兄弟】【WAV+CUE】
- 王大文.2019-国际太空站【环球】【FLAC分轨】
- 群星《2022超好听的十倍音质网络歌曲(163)》U盘音乐[WAV分轨][1.1G]
- 童丽《啼笑姻缘》头版限量编号24K金碟[低速原抓WAV+CUE][1.1G]