mysql binlog 日志
1、What's binlog
* 二进制日志包含描述数据库更改(如表创建操作或表数据更改)的“ 事件 ”。
* 在row模式下,不记录DML不匹配任何行的SQL,statement 和mixed记录
* 二进制日志还包含有关每个语句花费更新数据的时间的信息。
* 二进制日志不用于诸如SELECT或 SHOW不修改数据的语句
* mysqld还会创建一个二进制日志索引文件,其中包含所有使用的二进制日志文件的名称。
2、二进制日志的作用:
* 用于复制,从库重做从主库复制的binlog日志,实现主从数据一致性。
* 用于恢复。恢复数据库全备后执行binlog日志,使数据库保持最新状态。
3、 binlog 记录模式
3.1 STATEMENT
语句模式,记录执行的sql,对于模糊函数rand,只记录这个函数,主从造成数据不一致
1 mysql> set @@session.binlog_format=STATEMENT; 2 mysql> update test set name='dcd3' where id = 2 ; 3 # mysqlbinlog -vv logbinfile.000019 4 # at 609 5 #170210 4:27:09 server id 1 end_log_pos 735 CRC32 0x4d7239cf Query thread_id=62872 exec_time=0 error_code=0 6 use `test`/*!*/; 7 SET TIMESTAMP=1486672029/*!*/; 8 update test set name='dcd3' where id = 2;
3.2 ROW
行模式,基于数据行一行一行的记录,对于模糊函数能知道最后在行上的值,保证数据一致性。
mysql> set @@session.binlog_format=row; mysql> update test set name='dcd4' where id=2;
1 BINLOG ' 2 3NGcWBMBAAAAMgAAALkDAAAAANoAAAAAAAEABHRlc3QABHRlc3QAAgMPAjwAAuO+e6s= 3 3NGcWB8BAAAAYAAAABkEAAAAANoAAAAAAAEAAgAC///8AgAAAARkY2Qz/AIAAAAEZGNkNPwDAAAA 4 BGRjZDP8AwAAAARkY2Q0/AQAAAAEZGNkM/wEAAAABGRjZDRch6c1 5 '/*!*/; 6 ### UPDATE `test`.`test` 7 ### WHERE 8 ### @1=2 /* INT meta=0 nullable=0 is_null=0 */ 9 ### @2='dcd3' /* VARSTRING(60) meta=60 nullable=1 is_null=0 */ 10 ### SET 11 ### @1=2 /* INT meta=0 nullable=0 is_null=0 */ 12 ### @2='dcd4' /* VARSTRING(60) meta=60 nullable=1 is_null=0 */
3.3 MIXED
混合模式,一般情况下,记录statement语句,
mysql> set @@session.binlog_format=mixed; mysql> begin; mysql> insert into t2 values (4,now()); mysql> commit;
#170921 23:27:18 server id 1 end_log_pos 855 CRC32 0x1ba5d0e5 Query thread_id=38 exec_time=0 error_code=0 SET TIMESTAMP=1506007638/*!*/; BEGIN /*!*/; # at 855 #170921 23:27:18 server id 1 end_log_pos 968 CRC32 0x621c1f2b Query thread_id=38 exec_time=0 error_code=0 SET TIMESTAMP=1506007638/*!*/; insert into t2 values (4,now()) /*!*/; # at 968 #170921 23:27:20 server id 1 end_log_pos 999 CRC32 0x94dc56be Xid = 495 COMMIT/*!*/;
4、binlog的分析
4.1. 在行模式下记录binlog
mysql> create table test.t4 (id int primary key ,name varchar(20)); -- 自动提交第一个事务 mysql> begin; -- 第二个事务 mysql> insert into test.t4 values (1,'a'); mysql> commit; mysql> begin; -- 第三个事务 mysql> insert into test.t4 values (2,'b'); mysql> commit; mysql> show master status \G *************************** 1. row *************************** File: mysql-bin.000004 Position: 842 Binlog_Do_DB: Binlog_Ignore_DB: Executed_Gtid_Set: 59fe7a3e-9dd6-11e7-9d6c-000c29e57c69:1-36 1 row in set (0.00 sec)
4.2. 找到对应的binlog
DELIMITER /*!*/; # at 4 #170922 5:42:36 server id 1 end_log_pos 120 CRC32 0x7f5ab2c2 Start: binlog v 4, server v 5.6.36-log created 170922 5:42:36 # Warning: this binlog is either in use or was not closed properly. BINLOG ' TDLEWQ8BAAAAdAAAAHgAAAABAAQANS42LjM2LWxvZwAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAAA AAAAAAAAAAAAAAAAAAAAAAAAEzgNAAgAEgAEBAQEEgAAXAAEGggAAAAICAgCAAAACgoKGRkAAcKy Wn8= '/*!*/; # at 120 #170922 5:42:36 server id 1 end_log_pos 191 CRC32 0x3921881b Previous-GTIDs # 59fe7a3e-9dd6-11e7-9d6c-000c29e57c69:1-33 -- 在binlog文件开头表明执行过的GTID # at 191 #170922 5:42:50 server id 1 end_log_pos 239 CRC32 0xc083f02e GTID [commit=yes] SET @@SESSION.GTID_NEXT= '59fe7a3e-9dd6-11e7-9d6c-000c29e57c69:34'/*!*/; -- 设置create table 事务的GTID值 # at 239 #170922 5:42:50 server id 1 end_log_pos 368 CRC32 0xc6e65837 Query thread_id=43 exec_time=0 error_code=0 SET TIMESTAMP=1506030170/*!*/; SET @@session.pseudo_thread_id=43/*!*/; SET @@session.foreign_key_checks=1, @@session.sql_auto_is_null=0, @@session.unique_checks=1, @@session.autocommit=1/*!*/; SET @@session.sql_mode=1073741824/*!*/; SET @@session.auto_increment_increment=1, @@session.auto_increment_offset=1/*!*/; /*!\C utf8 *//*!*/; SET @@session.character_set_client=33,@@session.collation_connection=33,@@session.collation_server=8/*!*/; SET @@session.lc_time_names=0/*!*/; SET @@session.collation_database=DEFAULT/*!*/; create table test.t4 (id int primary key ,name varchar(20)) /*!*/; # at 368 #170922 5:43:09 server id 1 end_log_pos 416 CRC32 0x3c41cd8f GTID [commit=yes] SET @@SESSION.GTID_NEXT= '59fe7a3e-9dd6-11e7-9d6c-000c29e57c69:35'/*!*/; -- 设置insert事务的GTID值 # at 416 #170922 5:43:07 server id 1 end_log_pos 484 CRC32 0x1a1b279a Query thread_id=43 exec_time=0 error_code=0 SET TIMESTAMP=1506030187/*!*/; BEGIN /*!*/; # at 484 #170922 5:43:07 server id 1 end_log_pos 532 CRC32 0x81bf433a Table_map: `test`.`t4` mapped to number 81 # at 532 #170922 5:43:07 server id 1 end_log_pos 574 CRC32 0x672093bd Write_rows: table id 81 flags: STMT_END_F BINLOG ' azLEWRMBAAAAMAAAABQCAAAAAFEAAAAAAAEABHRlc3QAAnQ0AAIDDwIUAAI6Q7+B azLEWR4BAAAAKgAAAD4CAAAAAFEAAAAAAAEAAgAC//wBAAAAAWG9kyBn '/*!*/; ### INSERT INTO `test`.`t4` ### SET ### @1=1 /* INT meta=0 nullable=0 is_null=0 */ ### @2='a' /* VARSTRING(20) meta=20 nullable=1 is_null=0 */ # at 574 #170922 5:43:09 server id 1 end_log_pos 605 CRC32 0x187dba42 Xid = 536 COMMIT/*!*/; # at 605 #170922 5:43:40 server id 1 end_log_pos 653 CRC32 0x1c079044 GTID [commit=yes] SET @@SESSION.GTID_NEXT= '59fe7a3e-9dd6-11e7-9d6c-000c29e57c69:36'/*!*/; -- 设置insert事务的GTID值 # at 653 #170922 5:43:38 server id 1 end_log_pos 721 CRC32 0x73ec94af Query thread_id=43 exec_time=0 error_code=0 SET TIMESTAMP=1506030218/*!*/; BEGIN /*!*/; # at 721 #170922 5:43:38 server id 1 end_log_pos 769 CRC32 0x4d300601 Table_map: `test`.`t4` mapped to number 81 # at 769 #170922 5:43:38 server id 1 end_log_pos 811 CRC32 0xd4bd7ab4 Write_rows: table id 81 flags: STMT_END_F BINLOG ' ijLEWRMBAAAAMAAAAAEDAAAAAFEAAAAAAAEABHRlc3QAAnQ0AAIDDwIUAAIBBjBN ijLEWR4BAAAAKgAAACsDAAAAAFEAAAAAAAEAAgAC//wCAAAAAWK0er3U '/*!*/; ### INSERT INTO `test`.`t4` ### SET ### @1=2 /* INT meta=0 nullable=0 is_null=0 */ ### @2='b' /* VARSTRING(20) meta=20 nullable=1 is_null=0 */ # at 811 #170922 5:43:40 server id 1 end_log_pos 842 CRC32 0xac2e4d04 Xid = 540 COMMIT/*!*/; SET @@SESSION.GTID_NEXT= 'AUTOMATIC' /* added by mysqlbinlog *//*!*/; -- 设置gtid值为AUTOMATIC DELIMITER ; # End of log file ROLLBACK /* added by mysqlbinlog */; /*!50003 SET COMPLETION_TYPE=@OLD_COMPLETION_TYPE*/; /*!50530 SET @@SESSION.PSEUDO_SLAVE_MODE=0*/;
4.3. 通过分析上面的binlog
可以得到以下结论:
1. row模式下,insert 是对表中每个列进行赋值插入的
2. 在每个binlog文件的末尾会有rollback
3. 在每个事务前binlog 设置了gtid_next的值。
5、binlog相关的变量
5.1 log_bin
启动时,--log-bin
log_bin 写在配置文件中
5.2 sql_log_bin
1. 此变量控制是否完成对二进制日志的日志记录,默认值为1(做日志记录)。
2. mysql> set @@session.sql_log_bin=OFF; 需要具有SUPER权限。
3. 在MySQL 5.7中,不可能在事务或子查询中进行设置 @@session.sql_log_bin
5.3 binlog_cache_size
mysql> show variables like 'binlog_cache_size'; +-------------------+-------+ | Variable_name | Value | +-------------------+-------+ | binlog_cache_size | 32768 | -- 基于会话分配,建议16M +-------------------+-------+
在 Binlog_cache_use与 Binlog_cache_disk_use 状态变量可以用于调整该变量的大小
mysql> show variables like '%binlog_cache%'; +-----------------------+----------------------+ | Variable_name | Value | +-----------------------+----------------------+ | binlog_cache_size | 32768 | | max_binlog_cache_size | 18446744073709547520 | +-----------------------+----------------------+ mysql> show global status like "binlog_cache_disk_use"; +-----------------------+-------+ | Variable_name | Value | +-----------------------+-------+ | Binlog_cache_disk_use | 0 | +-----------------------+-------+
5.4 binlog_stmt_cache_size
此变量确定二进制日志的高速缓存的大小,以保存在事务期间发出的非事务性语句。
mysql> show variables like '%binlog_stmt%'; +----------------------------+----------------------+ | Variable_name | Value | +----------------------------+----------------------+ | binlog_stmt_cache_size | 32768 | | max_binlog_stmt_cache_size | 18446744073709547520 | +----------------------------+----------------------+
5.5 max_binlog_size
mysql> show variables like '%binlog_size%'; +-----------------+------------+ | Variable_name | Value | +-----------------+------------+ | max_binlog_size | 1073741824 | -- binlog 文件大小,默认1G +-----------------+------------+
5.6 sync_binlog
* sync_binlog=0,系统默认
当事务提交之后,不做磁盘同步,在这种情况下,依赖于文件系统的刷新。
值为0,性能是最好的,但是风险也是最大的。
因为一旦系统Crash,在binlog_cache中的所有binlog信息都会被丢失。,
* sync_binlog=n,
当值不为0时,fdatasync() 同步binlog到磁盘,最安全但是性能损耗最大的设置。
因为当设置为1的时候,即使系统Crash,也最多丢失binlog_cache中未完成的一个事务,对实际数据没有任何实质性影响。
5.7 expire_logs_days
mysql> show variables like '%expire_logs_days%'; +--------------------------------+-------+ | Variable_name | Value | +--------------------------------+-------+ | expire_logs_days | 0 | +--------------------------------+-------+
values:
* 自动删除binlog 的天数* 0 表示不自动删除
5.8 innodb_flush_log_at_trx_commit
- 0: log buffer将大约每秒一次地写入log file中,并且log file的flush(刷到磁盘)操作同时进行.该模式下,在事务提交的时候,不会主动触发写入磁盘的操作。
- 1: 每次事务提交时MySQL都会把log buffer的数据写入log file,并且flush(刷到磁盘)中去.
- 2: 每次事务提交时MySQL都会把log buffer的数据写入log file.但是flush(刷到磁盘)操作并不会同时进行。
- 该模式下,MySQL会每秒执行一次 flush(刷到磁盘)操作,可以通过把这个值设成2来提高写入的速度
5.9 xa
* 事务在提交时,redo log 写入失败、bin log 写入成功时,主库会执行回滚操作,从库写入,造成主从数据不一致
* xa参数保证 redo 、binlog 都写入成功,事务提交成功。
mysql> show variables like '%xa%'; +------------------------+-------+ | Variable_name | Value | +------------------------+-------+ | innodb_support_xa | ON |