binlog2sql
利用show binlog events中的信息执行。而非binlog文件。没有元数据历史信息,可以出执行了哪些ddl,但不能生成ddl的回滚语句。
安装binlog2sql
git clone https://github.com/danfengcao/binlog2sql.git
cd binlog2sql
pip install -r requirements.txt
使用要求:
MySQL server必须设置以下参数:
[mysqld]
server_id = 1
log_bin = /home/work/mysql_3306/log/mysql-bin.log
max_binlog_size = 1G
binlog_format = row
binlog_row_image = full # 参数 binlog_row_image 必须为FULL,暂不支持MINIMAL
用于解析的用户的最小权限集合:GRANT SELECT, REPLICATION SLAVE, REPLICATION CLIENT ON *.* TO
正向SQL:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx -d mydatabase -t mytable --start-file='mysql-bin.000002' --start-position=88888
输出结果:
回滚SQL:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-position=88888
输出结果:
还可以加--stop-file,--stop-position,--start-datetime或者--stop-datetime
根据具体position:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-position=2222 --stop-file='mysql_bin.000002' --stop-position=6666
根据时间点:
python binlog2sql.py -hxxx -Pxxx -uxxx -pxxx --flashback -d mydatabase -t mytable --start-file='mysql_bin.000002' --start-datetime='2022-03-14 14:00:00' --stop-datetime='2022-03-14 17:00:00'
解析范围控制
--start-file 起始解析文件。必须。
--start-position/--start-pos start-file的起始解析位置。可选。默认为start-file的起始位置。
--stop-file/--end-file 末尾解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。
--stop-position/--end-pos stop-file的末尾解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。
--start-datetime 从哪个时间点的binlog开始解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。
--stop-datetime 到哪个时间点的binlog停止解析,格式必须为datetime,如'2016-11-11 11:11:11'。可选。默认不过滤。
解析模式
--stop-never 持续同步binlog。可选。不加则同步至执行命令时最新的binlog位置。
-K, --no-primary-key 对INSERT语句去除主键。可选。
-B, --flashback 生成回滚语句,可解析大文件,不受内存限制,每打印一千行加一句SLEEP SELECT(1)。可选。与stop-never或no-primary-key不能同时添加。
对象过滤
-d, --databases 只输出目标db的sql。可选。默认为空。
-t, --tables 只输出目标tables的sql。可选。默认为空。
资料地址
https://github.com/danfengcao/binlog2sql
#解析出mysql_bin.000001中mydatabase库所有sql
-d mydatabase--start-file='mysql_bin.000001' > execute.sql
#解析出mysql_bin.000001中mydatabase库所有dmlsql (排出ddl)
-d mydatabase--start-file='mysql_bin.000001' --only-dml > execute.sql
#解析出mysql_bin.000001中mydatabase库所有的delete update语句
-d mydatabase --start-file='mysql_bin.000001' --sql-type delete update > execute.sql
* Python 2.7, 3.4+ * MySQL 5.6, 5.7
log_bin = /var/log/mysql/mysql-bin.log max_binlog_size = 1G binlog_format = row binlog_row_image = full
安装
==============
shell> git clone https://github.com/danfengcao/binlog2sql.git && cd binlog2sql
shell> pip install -r requirements.txt
解析binlog标准的sql
生成反向倒序可回滚的sql
解析模式: --stop-never 持续解析binlog。可选。默认False,同步至执行命令时最新的binlog位置。 -K, --no-primary-key 对INSERT语句去除主键。可选。默认False -B, --flashback 生成回滚SQL,可解析大文件,不受内存限制。可选。默认False。与stop-never或no-primary-key不能同时添加。 --back-interval -B模式下,每打印一千行回滚SQL,加一句SLEEP多少秒,如不想加SLEEP,请设为0。可选。默认1.0。
解析范围控制: --start-file 起始解析文件,只需文件名,无需全路径 。必须。 --start-position/--start-pos 起始解析位置。可选。默认为start-file的起始位置。 --stop-file/--end-file 终止解析文件。可选。默认为start-file同一个文件。若解析模式为stop-never,此选项失效。 --stop-position/--end-pos 终止解析位置。可选。默认为stop-file的最末位置;若解析模式为stop-never,此选项失效。 --start-datetime 起始解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。 --stop-datetime 终止解析时间,格式'%Y-%m-%d %H:%M:%S'。可选。默认不过滤。
对象过滤: -d, --databases 只解析目标db的sql,多个库用空格隔开,如-d db1 db2。可选。默认为空。 -t, --tables 只解析目标table的sql,多张表用空格隔开,如-t tbl1 tbl2。可选。默认为空。 --only-dml 只解析dml,忽略ddl。可选。默认False。 --sql-type 只解析指定类型,支持INSERT, UPDATE, DELETE。多个类型用空格隔开,如--sql-type INSERT DELETE。可选。默认为增删改都解析。用了此参数但没填任何类型,则三者都不解析。
#获取所需的binlog文件名称:
mysqlbinlog -vv --base64-output=DECODE-ROWS mysql-bin.000* |grep '#200826' |less
根据位点:最佳最准:
条件:指定远程ip+port:指定库和表:指定开始binlog文件名称:指定起止位点:指定反向解析:
结果:sql语句是倒着回放的,从后往前:
python ./binlog2sql.py -uroot -p123456 -h10.10.10.10 -P3307 -dapple -tevent --start-file='mysql-bin.000144' --start-position=280 --stop-position=3419 -B > glc.log
根据时间:
python ./binlog2sql.py -uroot -p123456 -h10.10.10.10 -P3307 -dapple -tevent --start-file='mysql-bin.000143' --start-datetime='2020-09-09 11:44:00' --stop-datetime='2020-09-09 11:50:00' -B > glc.log