MySQL-日志管理

1、错误日志

1.1 作用

记录MySQL启动及工作过程中,状态、报错、警告。

1.2 怎么设置?

1> 修改配置文件,并重启MySQL
-- 配置日志
vim /etc/my.cnf
log_error=/data/3306/data/mysql.log   #这里的路径和文件名称可以随便定义

-- 重启MySQL生效
/etc/init.d/mysqld restart
2> 查看错误日志
wenjuan[(none)]>select @@log_error;
ERROR 2006 (HY000): MySQL server has gone away
No connection. Trying to reconnect...
Connection id:    2
Current database: *** NONE ***

+---------------------------+
| @@log_error               |
+---------------------------+
| /data/3306/data/mysql.log |
+---------------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>

1.3 如何查看错误日志?

关注[ERROR]的上下文.

2、二进制日志(重要)

2.1 作用

数据恢复必备的日志。
主从复制依赖的日志。

2.2 怎么设置?

2.2.1 修改配置文件
vim /etc/my.server_id
server_id=6
log_bin=/data/3306/binlog/mysql-bin

说明:
server_id      是5.7之后开二进制日志必加的参数
log_bin=       /data/3306/binlog/    mysql-bin    
打开二进制功能     指定存放路径          文件名前缀
2.2.2 创建目录并授权
[root@db01 /data/3306]# mkdir -p /data/3306/binlog/
[root@db01 /data/3306]# chown -R mysql.mysql /data/3306/*
2.2.3 重启数据库
[root@db01 /data/3306]# /etc/init.d/mysqld restart 
Shutting down MySQL.... SUCCESS! 
Starting MySQL. SUCCESS! 

[root@db01 /data/3306]# ll binlog/
total 8
-rw-r----- 1 mysql mysql 768 Aug 14 20:02 mysql-bin.000001
-rw-r----- 1 mysql mysql  35 Aug 14 18:18 mysql-bin.index
[root@db01 /data/3306]# 

说明:
mysql-bin    是在配置文件配置的前缀
000001      MySQL每次重启,重新生成新的

2.3 二进制日志记录了什么?

2.3.1 引入

除了查询类的语句,都会记录,即所有数据库变更类的语句。

2.3.2 记录语句的种类

DDL(数据定义语言):create、drop
DCL(数据控制语言)
DML(数据操作语言):insert、update、delete

2.3.3 不同语句的记录格式说明

DDL、DCL直接以语句(statement)方式记录 .
DML语句有三种模式:SBR、RBR、MBR

wenjuan[(none)]>select @@binlog_format;
ERROR 2006 (HY000): MySQL server has gone away
No connection. Trying to reconnect...
Connection id:    2
Current database: *** NONE ***

+-----------------+
| @@binlog_format |
+-----------------+
| ROW             |
+-----------------+
1 row in set (0.00 sec)

wenjuan[(none)]>

说明:
statement---->SBR:做什么记录什么,即SQL语句
row---------->RBR:记录数据行的变化(默认模式,推荐)
mixed-------->MBR:自动判断记录模式

面试题:说明SBR和RBR的区别?

区别项 SBR RBR(默认、推荐)
记录内容 SQL语句 记录数据行的变化
可读性 较强
日志量
日志记录准确性 数据误差 没有误差
2.3.4 binlog events(二进制日志事件)

1> 简介

二进制日志内容以事件为最小记录单元。
对于DDL和DCL,一个语句就是一个事件。
对于DML(标准的事务语句),只记录已提交的事务的DML语句

begin ;    事件1
a          事件2
b          事件3
commit;    事件4

2> 事件的构成(为了截取日志)

[root@db01 /data/3306/binlog]# mysqlbinlog mysql-bin.000001 
# at 219               事件开始的位置(position)
end_log_pos 319        事件结束的位置(position)
#190814 18:46:35       事件发生的时间
create database oldboy 事件内容
2.3.4 二进制日志的基础查看

1> 查看二进制日志的配置信息

wenjuan[(none)]>show variables like '%log_bin%';
+---------------------------------+-----------------------------------+
| Variable_name                   | Value                             |
+---------------------------------+-----------------------------------+
| log_bin                         | ON                                |
| log_bin_basename                | /data/3306/binlog/mysql-bin       |
| log_bin_index                   | /data/3306/binlog/mysql-bin.index |
| log_bin_trust_function_creators | OFF                               |
| log_bin_use_v1_row_events       | OFF                               |
| sql_log_bin                     | ON                                |
+---------------------------------+-----------------------------------+
6 rows in set (0.00 sec)

wenjuan[(none)]>

说明:
log_bin              开启二进制日志的开关
log_bin_basename     位置
sql_log_bin          临时开启或关闭二进制日志的小开关

2> 查看二进制日志的基本信息
(1)打印出当前MySQL的所有二进制日志,并且显示最后使用到的position

-----
wenjuan[(none)]>show binary logs;
+------------------+-----------+
| Log_name         | File_size |
+------------------+-----------+
| mysql-bin.000001 |       154 |
+------------------+-----------+
1 row in set (0.00 sec)

wenjuan[(none)]>

(2)查看当前正在使用的二进制日志

show binary logs;
show master status;(常用)

wenjuan[(none)]>show binary logs;
+------------------+-----------+
| Log_name         | File_size |
+------------------+-----------+
| mysql-bin.000001 |       154 |
+------------------+-----------+
1 row in set (0.00 sec)

wenjuan[(none)]>show master status;
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000001 |      154 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>

3> 查看二进制日志的事件信息

wenjuan[(none)]>show master status;
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000001 |      154 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>

wenjuan[(none)]>show binlog events in 'mysql-bin.000001';
+------------------+-----+----------------+-----------+-------------+---------------------------------------+
| Log_name         | Pos | Event_type     | Server_id | End_log_pos | Info                                  |
+------------------+-----+----------------+-----------+-------------+---------------------------------------+
| mysql-bin.000001 |   4 | Format_desc    |         6 |         123 | Server ver: 5.7.26-log, Binlog ver: 4 |
| mysql-bin.000001 | 123 | Previous_gtids |         6 |         154 |                                       |
| mysql-bin.000001 | 154 | Anonymous_Gtid |         6 |         219 | SET @@SESSION.GTID_NEXT= 'ANONYMOUS'  |
| mysql-bin.000001 | 219 | Query          |         6 |         322 | create database wwjtest               |
| mysql-bin.000001 | 322 | Anonymous_Gtid |         6 |         387 | SET @@SESSION.GTID_NEXT= 'ANONYMOUS'  |
| mysql-bin.000001 | 387 | Query          |         6 |         481 | create database heee                  |
+------------------+-----+----------------+-----------+-------------+---------------------------------------+
6 rows in set (0.00 sec)

2.4 内容的查看和截取

2.4.1 内容查看命令
[root@db01 ~]# mysqlbinlog  /data/3306/binlog/mysql-bin.000003
[root@db01 ~]# mysqlbinlog --base64-output=decode-rows -vvv /data/3306/binlog/mysql-bin.000003

说明:记不住参数可以去mysqlbinlog --help中查看
2.4.2 日志的截取
--start-position
--stop-position

语法:
mysqlbinlog --start-position=xxx  --stop-position=xxx /data/3306/binlog/mysql-bin.000003>/data/bin.sql

================演练:===================
1> 准备数据

wenjuan[(none)]>create database binlog charset utf8mb4;
Query OK, 1 row affected (0.00 sec)

wenjuan[(none)]>use binlog;
Database changed
wenjuan[binlog]>create table t1(id int) engine=innodb charset=utf8mb4;
Query OK, 0 rows affected (0.02 sec)

wenjuan[binlog]>
wenjuan[binlog]>insert into t1 values(1),(2),(3);
Query OK, 3 rows affected (0.00 sec)
Records: 3  Duplicates: 0  Warnings: 0

wenjuan[binlog]>insert into t1 values(11),(12),(13);
Query OK, 3 rows affected (0.00 sec)
Records: 3  Duplicates: 0  Warnings: 0

wenjuan[binlog]>commit;
Query OK, 0 rows affected (0.01 sec)

wenjuan[binlog]>

wenjuan[binlog]>update t1 set id=10 where id>10;

Query OK, 3 rows affected (0.00 sec)
Rows matched: 3  Changed: 3  Warnings: 0

wenjuan[binlog]>commit;
Query OK, 0 rows affected (0.01 sec)

wenjuan[binlog]>

wenjuan[binlog]>select * from t1;
+------+
| id   |
+------+
|    1 |
|    2 |
|    3 |
|   10 |
|   10 |
|   10 |
+------+
6 rows in set (0.00 sec)

wenjuan[binlog]>

2> 搞破坏

wenjuan[binlog]>drop database binlog;
Query OK, 1 row affected (0.00 sec)

wenjuan[(none)]>

3> 数据恢复
(1)确认起点和终点

wenjuan[(none)]>show master status;
+------------------+----------+--------------+------------------+-------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set |
+------------------+----------+--------------+------------------+-------------------+
| mysql-bin.000003 |     1610 |              |                  |                   |
+------------------+----------+--------------+------------------+-------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>

wenjuan[(none)]>show binlog events in 'mysql-bin.000003';

起点:
| mysql-bin.000003 |  488 | Query          |         6 |         604 | create database binlog charset utf8mb4                              |

终点:
| mysql-bin.000003 | 1512 | Query          |         6 |        1610 | drop database binlog                                                |

(2)截取日志

[root@db01 ~]# mysqlbinlog --start-position=488  --stop-position=1512 /data/3306/binlog/mysql-bin.000003>/data/bin.sql

(3)恢复日志

wenjuan[(none)]>set sql_log_bin=0;   ##  临时关闭当前会话的binlog记录

wenjuan[(none)]>source /data/bin.sql;
wenjuan[(none)]>set sql_log_bin=1;   ##  打开当前会话的binlog记录

2.5 基于gtid的binlog管理(扩展)

2.5.1 什么是gtid(Global Transaction ID)?

全局唯一的事务编号。
幂等性。
GtID包括两部分:
Server_uuid:
Tx_id:

2.5.2 配置
wenjuan[(none)]>show variables like '%gtid%';

vim /etc/init.d/my.cnf

gtid_mode=on                  ----开启开关
enforce_gtid_consistency=true    ----强制GTID一致性
log_slave_updates=1           ----主从复制中从库记录binlog,并统一GTID信息

重启数据库:/etc/init.d/mysqld restart
2.5.3 基于gtid截取日志

对于DDL和DCL一个操作就是一个GTID。
对于DML,一个完整的事务就是已给GTID。

wenjuan[(none)]>wenjuan[(none)]>show master status;
+------------------+----------+--------------+------------------+------------------------------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                        |
+------------------+----------+--------------+------------------+------------------------------------------+
| mysql-bin.000005 |      489 |              |                  | 936b9a3f-b75a-11e9-bd16-000c290143b9:1-2 |
+------------------+----------+--------------+------------------+------------------------------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>


wenjuan[(none)]>wenjuan[(none)]>show binlog events in 'mysql-bin.000005';
+------------------+-----+----------------+-----------+-------------+-------------------------
| Log_name         | Pos | Event_type     | Server_id | End_log_pos | Info                    
+------------------+-----+----------------+-----------+-------------+-------------------------
| mysql-bin.000005 |   4 | Format_desc    |         6 |         123 | Server ver: 5.7.26-log, 
| mysql-bin.000005 | 123 | Previous_gtids |         6 |         154 |                         
| mysql-bin.000005 | 154 | Gtid           |         6 |         219 | SET @@SESSION.GTID_NEXT=
| mysql-bin.000005 | 219 | Query          |         6 |         308 | drop database dbtest    
| mysql-bin.000005 | 308 | Gtid           |         6 |         373 | SET @@SESSION.GTID_NEXT=
| mysql-bin.000005 | 373 | Query          |         6 |         489 | create database dbtest c
+------------------+-----+----------------+-----------+-------------+-------------------------
6 rows in set (0.00 sec)

wenjuan[(none)]>
2.5.4 基于gtid截取日志
--include-gtids=       ----包含
--exclude-gtids=       ------排除
--skip-gtids

截取1-3号事务:
[root@db01 ~]# mysqlbinlog --include-gtids='545fd699-be48-11e9-8f0a-000c2980e248:1-3' /data/binlog/mysql-bin.000009>/data/gtid.sql

截取 1-10 gtid事务,跳过6号和8号事务.
[root@db01 ~]# mysqlbinlog --include-gtids='545fd699-be48-11e9-8f0a-000c2980e248:1-10 --exclude-gtids='545fd699-be48-11e9-8f0a-000c2980e248:6,545fd699-be48-11e9-8f0a-000c2980e248:8'    /data/binlog/mysql-bin.000009>/data/gtid.sql
2.5.5 演练

1>准备环境

wenjuan[(none)]>create database gtid charset utf8mb4;
Query OK, 1 row affected (0.00 sec)

wenjuan[(none)]>use gtid;
Database changed
wenjuan[gtid]>create table t1(id int) engine=innodb charset=utf8mb4;
Query OK, 0 rows affected (0.02 sec)

wenjuan[gtid]>insert into t1 values(1),(2),(3);
Query OK, 3 rows affected (0.06 sec)
Records: 3  Duplicates: 0  Warnings: 0

wenjuan[gtid]>commit;
Query OK, 0 rows affected (0.00 sec)

wenjuan[gtid]>insert into t1 values(11),(12),(13);
Query OK, 3 rows affected (0.00 sec)
Records: 3  Duplicates: 0  Warnings: 0

wenjuan[gtid]>commit;
Query OK, 0 rows affected (0.00 sec)

wenjuan[gtid]>select * from t1;
+------+
| id   |
+------+
|    1 |
|    2 |
|    3 |
|   11 |
|   12 |
|   13 |
+------+
6 rows in set (0.00 sec)

wenjuan[gtid]>

2>搞破坏

wenjuan[gtid]>drop database gtid;
Query OK, 1 row affected (0.01 sec)

wenjuan[(none)]>

3> 找起点和终端(gtid)

wenjuan[(none)]>show master status;
+------------------+----------+--------------+------------------+-------------------------------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB | Executed_Gtid_Set                         |
+------------------+----------+--------------+------------------+-------------------------------------------+
| mysql-bin.000008 |     1244 |              |                  | 936b9a3f-b75a-11e9-bd16-000c290143b9:1-11 |
+------------------+----------+--------------+------------------+-------------------------------------------+
1 row in set (0.00 sec)

wenjuan[(none)]>show binlog events in 'mysql-bin.000008';
| mysql-bin.000008 |  194 | Gtid           |         6 |         259 | SET @@SESSION.GTID_NEXT= '936b9a3f-b75a-11e9-bd16-000c290143b9:7'  |
| mysql-bin.000008 |  259 | Query          |         6 |         369 | create database gtid charset utf8mb4                               |

| mysql-bin.000008 | 1087 | Gtid           |         6 |        1152 | SET @@SESSION.GTID_NEXT= '936b9a3f-b75a-11e9-bd16-000c290143b9:11' |
| mysql-bin.000008 | 1152 | Query          |         6 |        1244 | drop database gtid                                                 |

4> 截取日志(仅供参考)

[root@db01 ~]# mysqlbinlog  --skip-gtids --include-gtids='936b9a3f-b75a-11e9-bd16-000c290143b9:7-10' /data/3306/binlog/mysql-bin.000008>/data/gtid.sql

4> 恢复数据

wenjuan[(none)]>set sql_log_bin=0;
Query OK, 0 rows affected (0.00 sec)

wenjuan[(none)]>

wenjuan[(none)]>source /data/gtid.sql

2.6 二进制日志其他操作

2.6.1 自动清理日志
show variables like '%expire%';
expire_logs_days  0  

自动清理时间,是要按照全备周期+1
set global expire_logs_days=8;
永久生效:
my.cnf
expire_logs_days=15;
企业建议,至少保留两个全备周期+1的binlog
2.6.2 手工清理
PURGE BINARY LOGS BEFORE now() - INTERVAL 3 day;
PURGE BINARY LOGS TO 'mysql-bin.000009';

注意:不要手工 rm binlog文件
\1. my.cnf binlog关闭掉,启动数据库
2.把数据库关闭,开启binlog,启动数据库
删除所有binlog,并从000001开始重新记录日志
*reset master;     主从关系中,主库执行此操作,主从环境必崩 
2.6.3 binlog 的滚动
wenjuan[(none)]>flush logs;
重启数据库
 select @@max_binlog_size;
备份时,某些参数会触发

3、慢日志(slow-log)

3.1 简介

记录运行较慢的语句记录slowlog中。
功能是辅助优化的工具日志。
应激性的慢---------->可以通过show processlist进行监控
一段时间的慢------>可以进行slow记录、统计

3.2 配置

wenjuan[(none)]>show variables like '%slow_query%';
wenjuan[(none)]>select @@long_query_time;
wenjuan[(none)]>show variables like '%log_queries_not_using_indexes%';

vim /etc/my.cnf
slow_query_log=1
slow_query_log_file=/data/3306/data/db01-slow.log
long_query_time=0.1  默认配置10秒钟
log_queries_not_using_indexes=1

重启mysql:
[root@db01 ~]# /etc/init.d/mysqld restart
Shutting down MySQL.... SUCCESS! 
Starting MySQL. SUCCESS! 
[root@db01 ~]# 

3.3 慢语句模拟

set sql_log_bin=0;
source /tmp/t100w.sql; 
set sql_log_bin=1;

3.4 分析处理慢语句

[root@db01 ~]# mysqldumpslow -s c -t 5 /data/3306/data/db01-slow.log 

参数:
    -t   top前几个
    -s   order的排序
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 210,914评论 6 490
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 89,935评论 2 383
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,531评论 0 345
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,309评论 1 282
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,381评论 5 384
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,730评论 1 289
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,882评论 3 404
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,643评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,095评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,448评论 2 325
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,566评论 1 339
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,253评论 4 328
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,829评论 3 312
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,715评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,945评论 1 264
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,248评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,440评论 2 348

推荐阅读更多精彩内容

  • 日志文件对于一个服务器来说是非常重要的,它记录着服务器的运行信息,许多操作都会写日到日志文件,通过日志文件可以监视...
    时待吾阅读 1,010评论 0 5
  • 1.错误日志 1.1作用 MySQL 启动及工作过程中,状态、报错、警告。 1.2配置 2.二进制日志 2.1作用...
    白茶清欢R阅读 251评论 0 0
  • mysql日志(默认存放在datadir): 同大多数关系型数据库一样,日志文件是MySQL数据库的重要组成部分。...
    运维阿文阅读 1,025评论 0 0
  • mysql日志——记录着mysql数据库运行期间的操作和信息 日志作用 (1)当数据库遭到意外损害,可以通过日志文...
    SkTj阅读 624评论 0 1
  • 1. 上节遗留问题 2.重点参数 innodb_flush_log_at_trx_commit =======...
    Ffvc阅读 652评论 0 0