binlog2sql

 利用show binlog events中的信息执行。而非binlog文件。没有元数据历史信息,可以出执行了哪些ddl,但不能生成ddl的回滚语句。

安装binlog2sql
git clone https://github.com/danfengcao/binlog2sql.git 

cd binlog2sql
pip install -r requirements.txt

使用要求:
MySQL server必须设置以下参数:
[mysqld]
server_id = 1
log_bin = /home/work/mysql_3306/log/mysql-bin.log
max_binlog_size = 1G
binlog_format = row
binlog_row_image = full   # 参数 binlog_row_image 必须为FULL,暂不支持MINIMAL

用于解析的用户的最小权限集合:GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO

正向SQL:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx -d mydatabase -t mytable --start-file='mysql-bin.000002' --start-position=88888
输出结果:


回滚SQL:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-position=88888
输出结果:
还可以加--stop-file,--stop-position,--start-datetime或者--stop-datetime
根据具体position:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-position=2222 --stop-file='mysql_bin.000002' --stop-position=6666
根据时间点:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback  -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-datetime='2022-03-14 14:00:00' --stop-datetime='2022-03-14 17:00:00'

解析范围控制
--start-file 起始解析文件。必须。
--start-position/--start-pos start-file的起始解析位置。可选。默认为start-file的起始位置。
--stop-file/--end-file 末尾解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。
--stop-position/--end-pos stop-file的末尾解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。
--start-datetime 从哪个时间点的binlog开始解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。
--stop-datetime 到哪个时间点的binlog停止解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。

解析模式

--stop-never 持续同步binlog。可选。不加则同步至执行命令时最新的binlog位置。
-K, --no-primary-key 对INSERT语句去除主键。可选。
-B, --flashback 生成回滚语句,可解析大文件,不受内存限制,每打印一千行加一句SLEEP SELECT(1)。可选。与stop-never或no-primary-key不能同时添加。

对象过滤
-d, --databases 只输出目标db的sql。可选。默认为空。

-t, --tables 只输出目标tables的sql。可选。默认为空。

资料地址
https://github.com/danfengcao/binlog2sql

 

#解析出mysql_bin.000001中mydatabase库所有sql

-d mydatabase--start-file='mysql_bin.000001' > execute.sql

#解析出mysql_bin.000001中mydatabase库所有dmlsql (排出ddl)

-d mydatabase--start-file='mysql_bin.000001'  --only-dml   > execute.sql

#解析出mysql_bin.000001中mydatabase库所有的delete update语句

-d mydatabase --start-file='mysql_bin.000001'  --sql-type delete update   > execute.sql

 

 

 

* 已测试环境
    * Python 2.7, 3.4+
    * MySQL 5.6, 5.7

 

my.cnf配置:
    log_bin = /var/log/mysql/mysql-bin.log
    max_binlog_size = 1G
    binlog_format = row
    binlog_row_image = full

 


安装
==============
shell> git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
shell
> pip install -r requirements.txt

 

功能:
解析binlog标准的sql
生成反向倒序可回滚的sql

 

 使用:
解析模式:
--stop-never 持续解析binlog。可选。默认False,同步至执行命令时最新的binlog位置。
-K, --no-primary-key 对INSERT语句去除主键。可选。默认False
-B, --flashback 生成回滚SQL,可解析大文件,不受内存限制。可选。默认False。与stop-never或no-primary-key不能同时添加。
--back-interval -B模式下,每打印一千行回滚SQL,加一句SLEEP多少秒,如不想加SLEEP,请设为0。可选。默认1.0。
解析范围控制 --start-file 起始解析文件,只需文件名,无需全路径 。必须。 --start-position/--start-pos 起始解析位置。可选。默认为start-file的起始位置。 --stop-file/--end-file 终止解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。 --stop-position/--end-pos 终止解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。 --start-datetime 起始解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。 --stop-datetime 终止解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。

对象过滤: -d, --databases 只解析目标db的sql,多个库用空格隔开,如-d db1 db2。可选。默认为空。 -t, --tables 只解析目标table的sql,多张表用空格隔开,如-t tbl1 tbl2。可选。默认为空。 --only-dml 只解析dml,忽略ddl。可选。默认False。 --sql-type 只解析指定类型,支持INSERT, UPDATE, DELETE。多个类型用空格隔开,如--sql-type INSERT DELETE。可选。默认为增删改都解析。用了此参数但没填任何类型,则三者都不解析。

 

 
 

#获取所需的binlog文件名称:

mysqlbinlog -vv --base64-output=DECODE-ROWS mysql-bin.000* |grep '#200826'  |less

 

 

 

 

根据位点:最佳最准:

条件:指定远程ip+port:指定库和表:指定开始binlog文件名称:指定起止位点:指定反向解析:

结果:sql语句是倒着回放的,从后往前:

python  ./binlog2sql.py -uroot -p123456  -h10.10.10.10 -P3307 -dapple -tevent  --start-file='mysql-bin.000144'  --start-position=280 --stop-position=3419 -B  > glc.log

 

根据时间:

python  ./binlog2sql.py -uroot -p123456  -h10.10.10.10 -P3307 -dapple -tevent --start-file='mysql-bin.000143'  --start-datetime='2020-09-09 11:44:00' --stop-datetime='2020-09-09 11:50:00'  -B  > glc.log

 

posted @ 2020-08-26 15:40  igoodful  阅读(264)  评论(0编辑  收藏  举报