硬核实战!mysql 错误操作整个表全部数据后如何恢复?附解决过程、思路(百万行SQL,通过binlog日志恢复)

mysql 错误操作整个表全部数据后如何恢复?(百万行SQL,通过binlog日志恢复)

事件起因

事情起因:以为某个表里的数据都是系统配置的数据,没有用户数据,一个字段需要覆盖替换为新的url链接,直接写下了update t_xxx set xxx = ‘https://xxxxxxxxx’ ,然后执行了,执行的时候IDEA还提示这是危险操作,我思考了下不危险,这个就是要全部覆盖,然后就点击了execute确认执行,于是翻车了,等我覆盖完去看效果的时候,惊奇的发现用户数据也被覆盖了,于是去看这个表里的数据,真有用户数据,但是值得高兴的是,全被覆盖了。。。。真是手贱啊,小心了一万年还是翻车了,全覆盖了跟删了没多大区别~~~~都是闯祸
既然事情已经发生,那就开始修复把~

在这里插入图片描述

找Binlog文件位置

binlog文件是mysql的更新记录,二进制形式。可以用于恢复数据。
这个文件每1个G为一个文件,满 了就新建一个,所以mysql运行久了这个binlog文件很多个,每个1G,建议跟我一样设置滚动删除,我是最多保留最近8个。(实验机器配置低~)

我的是mysql 8,ubuntu,我的binlog文件在这个目录

/var/lib/mysql

在这里插入图片描述

聪明的你一眼就能看出这个binlog 27号文件只有六百多兆,序号也是最新的,证明这个是最近的一个文件,就是他了,冲

读取指定时间范围内的数据操作DML

我直接查看了我这冤种操作的时间,发现大概是7分的时候操作的覆盖调数据,于是我把那一分钟里的SQL导出来(自行评估时间范围),导出为一个SQL文件
备注:mysqlbinlog工具是mysql自带的

mysqlbinlog --base64-output=DECODE-ROWS --verbose --start-datetime="2023-12-23 01:00:00" --stop-datetime="2023-12-23 01:10:00" /var/lib/mysql/binlog.000027 > restore.sql

把导出的SQL清理数据

导出的sql,我用IDEA打开的,随便你用哪个好用的文本处理工具,我们直接搜索set这个词,就能找到SQL的最开始位置如图


例如一条

### UPDATE `xx`.`t_xx`
### WHERE
###   @1=1
###   @2='xx'
###   @3=NULL
###   @4='默认'
###   @5='xx'
###   @6='xxxx'
###   @7='1'
###   @8=1
###   @9='2023-08-19 15:29:58'
###   @10='2023-08-19 18:41:06'
### SET
###   @1=1
###   @2='xx'
###   @3='xx'
###   @4='默认'
###   @5='xx'
###   @6='xx'
###   @7='1'
###   @8=1
###   @9='2023-08-19 15:29:58'
###   @10='2023-12-23 01:07:09'

这个数据的格式不难看出,记录了变更之前和之后的每个字段数据,xx为示意作用,在真实场景中就是你的真实数据,字段根据顺序@1一直到@10,证明我有10个字段,然后没个字段的值都记录了,整个结构为

update  表 
where 
每个字段的旧值
set 
每个字段的新值

那么我们现在开始处理数据
IDEA 对于这个26MB的文件直接变仅读模式,不给我编辑,于是打开了subline text这个工具处理文本

处理数据

删除update语句以外的所有无关行

找到这句错SQL的所有update语句,其它无关行全部删除

我们要的核心就是这个update语句,我们先掐头去尾,保留中间的update,我这个文件目前有100万行~
现在我这个文件只有那一个失误SQL执行的所有update语句,总共92万行~

去掉开头的###

直接搜索把###空格,这四个字符,直接替换为空字符,于是电脑卡了一会,,,电脑这会汗流浃背,风扇狂扇,过了会好像没响应,算了撸代码解决

/**
 * author: humorchen
 * date: 2023/12/23/023 1:57
 * desc:
 **/
public class RestoreData {
    /**
     * 移除头部标识
     *
     * @throws Exception
     */
    public static void removeHeadSignal() throws Exception {
        String file = "C:\\Users\\Administrator\\Desktop\\restore.sql";
        String newFile = "C:\\Users\\Administrator\\Desktop\\restore_1.sql";
        BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));
        BufferedReader bufferedReader = new BufferedReader(new FileReader(file));
        String line = null;
        while ((line = bufferedReader.readLine()) != null) {
            if (line.startsWith("### ")) {
                line = line.substring(4);
            }
            bufferedWriter.write(line);
            bufferedWriter.write("\n");
        }
        bufferedWriter.flush();
        bufferedWriter.close();
        bufferedReader.close();
    }

    public static void main(String[] args) throws Exception {
        removeHeadSignal();
    }
}

在这里插入图片描述

set和where互换

这个互换简直不要太简单,轻松的很

    /**
     * where和set互换
     *
     * @throws Exception
     */
    public static void reverseWhereAndSet() throws Exception {
        String file = "C:\\Users\\Administrator\\Desktop\\restore_1.sql";
        String newFile = "C:\\Users\\Administrator\\Desktop\\restore_2.sql";
        final String SET = "SET";
        final String WHERE = "WHERE";
        BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));
        BufferedReader bufferedReader = new BufferedReader(new FileReader(file));
        String line = null;
        while ((line = bufferedReader.readLine()) != null) {
            if (line.startsWith(WHERE)) {
                line = SET;
            } else if (line.startsWith(SET)) {
                line = WHERE;
            }
            bufferedWriter.write(line);
            bufferedWriter.write("\n");
        }
        bufferedWriter.flush();
        bufferedWriter.close();
        bufferedReader.close();
    }

    public static void main(String[] args) throws Exception {
//        removeHeadSignal();
        reverseWhereAndSet();
    }

在这里插入图片描述

字段替换

把字段数组作为参数数组传入函数,然后读取@多少,替换为对应下表的字段名



    /**
     * 替换字段名
     *
     * @param columnNames
     */
    public static void replaceColumns(String[] columnNames) throws Exception {
        String file = "C:\\Users\\Administrator\\Desktop\\restore_2.sql";
        String newFile = "C:\\Users\\Administrator\\Desktop\\restore_3.sql";
        BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));
        BufferedReader bufferedReader = new BufferedReader(new FileReader(file));
        String line = null;
        final String PREFIX = "  @";
        final int PREFIX_LEN = PREFIX.length();
        while ((line = bufferedReader.readLine()) != null) {
            // line:  @1=1
            if (line.length() > PREFIX_LEN && line.startsWith(PREFIX)) {
                // 等于号位置
                int eqIndex = line.indexOf("=");
                String indexStr = line.substring(PREFIX_LEN, eqIndex);
                if (StrUtil.isNumeric(indexStr)) {
                    int index = Integer.parseInt(indexStr) - 1;
                    if (index >= 0 && index < columnNames.length) {
                        // 替换字段名
                        line = line.replace(PREFIX + indexStr, columnNames[index]);
                    }
                }
            }
            bufferedWriter.write(line);
            bufferedWriter.write("\n");
        }
        bufferedWriter.flush();
        bufferedWriter.close();
        bufferedReader.close();
    }

    public static void main(String[] args) throws Exception {
//        removeHeadSignal();
//        reverseWhereAndSet();
        replaceColumns(new String[]{"id", "title", "icon", "type", "email", "prompt", "temperature", "keep_context", "create_time", "update_time"});
    }

在这里插入图片描述

加,和and

看到最后你就发现只缺标点符号,;了,那就加上,起初想去判断代码处于update、set、where三个区域里加不同的,又想到要判定最后一个不能加标点,要加空格,最后一个又是分号; 真麻烦!直接搞个后缀数组算了,反正我这个表结构是固定的于是用以下代码加上标点符号和换行。


    /**
     * 添加,和and和;
     *
     * @throws Exception
     */
    public static void addPrefix(String[] addPrefix) throws Exception {
        String file = "C:\\Users\\Administrator\\Desktop\\restore_3.sql";
        String newFile = "C:\\Users\\Administrator\\Desktop\\restore_4.sql";
        BufferedWriter bufferedWriter = new BufferedWriter(new FileWriter(newFile));
        BufferedReader bufferedReader = new BufferedReader(new FileReader(file));
        String line = null;
        int index = -1;
        final String UPDATE = "UPDATE";
        while ((line = bufferedReader.readLine()) != null) {
            if (line.startsWith(UPDATE)) {
                index = 0;
                bufferedWriter.write("\n\n");
                ;
            }
            if (index >= 0) {
                line = line + addPrefix[index];
                index++;
            }
            bufferedWriter.write(line);
            bufferedWriter.write("\n");
        }
        bufferedWriter.flush();
        bufferedWriter.close();
        bufferedReader.close();
    }

    public static void main(String[] args) throws Exception {
//        removeHeadSignal();
//        reverseWhereAndSet();
//        replaceColumns(new String[]{"id", "title", "icon", "type", "email", "prompt", "temperature", "keep_context", "create_time", "update_time"});
        addPrefix(new String[]{" ", " ", ",", ",", ",", ",", ",", ",", ",", ",", ",", " ", " ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " and ", " ;"});
    }

在这里插入图片描述

大功告成,拿去执行即可!

执行之前你先随机取个三条执行一下看看,确认自己的SQL生产对了。
我把sql上传到了ubuntu,进入mysql -uroot -p,然后use xxx;source xxx.sql;执行完数据恢复了,会有点久,如果数据量大,执行会更久。珍惜数据。。。
我这个一百万行的恢复数据SQL大约执行了3、5分钟执行完了。数据全部恢复到错误SQL前的数据了。

posted @ 2023-12-23 03:13  HumorChen99  阅读(58)  评论(0编辑  收藏  举报  来源