MySQL 利用frm文件和ibd文件恢复表结构和表数据
frm文件和ibd文件简介
- 在MySQL中,使用默认的
存储引擎innodb
创建一张表,那么在库名
文件夹下面就会出现表名.frm
和表名.ibd
两个文件ibd
文件是innodb的表数据
文件frm
文件是innodb的表结构
文件- 需要注意的是,
frm文件
和ibd文件
都是不能直接打开
的 - 恢复数据之前,需要先恢复表结构
- 需要注意的是,
- 在有建表语句的前提下,可以直接跳到
ibd文件恢复表数据
,不需要使用frm
文件恢复表结构
frm文件恢复表结构
- 前提是已经备份了对应的
frm
文件 - 建议重新启动一个MySQL实例,待数据恢复后,通过
mysqldump
备份数据,再重新恢复到需要使用的数据库里 - 在新启动的实例上创建一个同名的表,例如
study.frm
,表示表名称为study- 在不知道表结构的情况下,可以先定义一个字段,稍后可以通过
mysql.err
日志内查看表字段的数量
- 在不知道表结构的情况下,可以先定义一个字段,稍后可以通过
create table study (id int);
- 创建完表后,在对应的数据目录下就会生成
study.frm
和study.ibd
文件,然后使用之前备份的study.frm
来替换现有的study.frm
,切记,不要着急替换study.ibd
文件,这个文件在恢复表结构后再使用- 注意替换文件后的
study.frm
文件的权限,确保和其他文件的属主和属组是一样的 - 重启mysql数据库
- 注意替换文件后的
查看日志
grep study mysql.err | grep columns
容器启动的MySQL,直接使用
docker restart <容器id>
来重启MySQL服务如果是容器启动的MySQL,可以使用下面的命令在容器外查看日志
docker logs <容器id> | grep study | grep columns
- 通过日志,我们可以看到,
study
这个表,之前有5个字段
,但是我们现在只有1个字段
[Warning] InnoDB: Table hello@002dworld/study contains 1 user defined columns in InnoDB, but 5 columns in MySQL. Please check INFORMATION_SCHEMA.INNODB_SYS_COLUMNS and http://dev.mysql.com/doc/refman/5.7/en/innodb-troubleshooting.html for how to resolve the issue.
- 这个时候,我们可以把原来的表删掉
drop table study;
- 然后重新创建一个和原来的表相同字段的表,切记,
表名称要一样
,字段内容不重要
,只需要字段数量一致
create table study (id1 int,id2 int,id3 int,id4 int,id5 int);
- 现在可以看到我们的建表语句了,当然,这个是上面使用的建表语句,咱们继续往下
show create table study\G
*************************** 1. row ***************************
Table: study
Create Table: CREATE TABLE `study` (
`id1` int(11) DEFAULT NULL,
`id2` int(11) DEFAULT NULL,
`id3` int(11) DEFAULT NULL,
`id4` int(11) DEFAULT NULL,
`id5` int(11) DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_bin
1 row in set (0.00 sec)
- 确认是否开启了
innodb_force_recovery
参数,正常情况下,如果不是为了恢复数据是不会开启这个参数的innodb_force_recovery
参数需要配置到my.cnf
中的[mysqld]
模块下,取值范围是0-6
,默认是0
- 1: (SRV_FORCE_IGNORE_CORRUPT):
忽略检查到的corrupt页
- 2: (SRV_FORCE_NO_BACKGROUND):
阻止主线程的运行,如主线程需要执行full purge操作,会导致crash
- 3: (SRV_FORCE_NO_TRX_UNDO):
不执行事务回滚操作
- 4: (SRV_FORCE_NO_IBUF_MERGE):
不执行插入缓冲的合并操作
- 5: (SRV_FORCE_NO_UNDO_LOG_SCAN):
不查看重做日志,InnoDB存储引擎会将未提交的事务视为已提交
- 6: (SRV_FORCE_NO_LOG_REDO):
不执行前滚的操作
- 当设置参数值大于0后,可以对表进行
select
、create
、drop
操作,但insert
、update
或者delete
这类操作是不允许的
grep 'innodb_force' my.cnf
- 插入配置到
my.cnf
配置文件中,然后再次替换study.frm
文件,并重启MySQL服务- 注意替换文件后的
study.frm
文件的权限,确保和其他文件的属主和属组是一样的
- 注意替换文件后的
sed -i '/\[mysqld\]/a\innodb_force_recovery=6' my.cnf
- 重启完成后,再次查看建表语句
show create table study\G
*************************** 1. row ***************************
Table: study
Create Table: CREATE TABLE `study` (
`id` int(11) DEFAULT NULL,
`name` varchar(20) COLLATE utf8_bin DEFAULT NULL,
`age` int(11) DEFAULT NULL,
`time` int(11) DEFAULT NULL,
`lang` varchar(20) COLLATE utf8_bin DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_bin
1 row in set (0.00 sec)
- 到这里,我们已经成功找回之前的建表语句了,通过这个语句,就可以恢复之前的表了
- 复制获取的建表语句,注释掉之前的
innodb_force_recovery
参数,并且重启MySQL服务
- 复制获取的建表语句,注释掉之前的
sed -i '/innodb_force_recovery/s/^\(.*\)$/#\1/g' my.cnf
- 再次删掉
study
这个表
drop table study;
- 然后使用上面获取到的建表语句重新建表,注意最后加上一个分号,这是SQL的语法格式
CREATE TABLE `study` (
`id` int(11) DEFAULT NULL,
`name` varchar(20) COLLATE utf8_bin DEFAULT NULL,
`age` int(11) DEFAULT NULL,
`time` int(11) DEFAULT NULL,
`lang` varchar(20) COLLATE utf8_bin DEFAULT NULL
) ENGINE=InnoDB DEFAULT CHARSET=utf8 COLLATE=utf8_bin;
ibd文件恢复表数据
-
在有建表语句的情况下,使用
idb
文件恢复数据,相比使用frm
文件恢复表数据要简单方便很多 -
删除当前的
ibd
文件
alter table study discard tablespace;
- 将之前备份的
study.ibd
文件复制到对应的数据目录下,使用下面的命令将数据加载到MySQL数据库里- 注意替换文件后的
study.ibd
文件的权限,确保和其他文件的属主和属组是一样的
- 注意替换文件后的
alter table study import tablespace;
- 再次查看数据表,发现之前的数据也回来了
select * from study;
+------+------+------+----------+---------+
| id | name | age | time | lang |
+------+------+------+----------+---------+
| 1 | tom | 26 | 20211024 | chinese |
+------+------+------+----------+---------+
记得备份数据,数据是无价的
通过脚本利用ibd文件恢复数据
前提是表结构是存在的
注意自己的数据库是否区分大小写,以及表名称是否有大小写,如果表名称有大小写,新启动的mysql一定要开启大小写[开启大小写参数:lower_case_table_names = 0]
mysql_user
变量的值为mysql数据目录的属主和属组
根据实际场景修改mysql_cmd
变量的值,修改成自己用户名
,用户密码
,主机ip
mysql_data_dir
变量的值为mysql数据存储路径
back_data_dir
变量的值为备份下来的ibd文件存储路径
#!/bin/bash
base_dir=$(cd `dirname $0`; pwd)
mysql_user='mysql'
mysql_cmd="mysql -N -uroot -proot -h192.168.70.49"
databases_list=($(${mysql_cmd} -e 'SHOW DATABASES;' | egrep -v 'information_schema|mysql|performance_schema|sys'))
mysql_data_dir='/var/lib/mysql'
back_data_dir='/tmp/back-data'
for (( i=0; i<${#databases_list[@]}; i++ ))
do
tables_list=($(${mysql_cmd} -e "SELECT table_name FROM information_schema.tables WHERE table_schema=\"${databases_list[i]}\";"))
database_name=${databases_list[i]/-/@002d}
for (( table=0; table<${#tables_list[@]}; table++ ))
do
${mysql_cmd} -e "alter table \`${databases_list[i]}\`.${tables_list[table]} discard tablespace;"
rm -f ${mysql_data_dir}/${database_name}/${tables_list[table]}.ibd
cp ${back_data_dir}/${database_name}/${tables_list[table]}.ibd ${mysql_data_dir}/${database_name}/
chown -R ${mysql_user}.${mysql_user} ${mysql_data_dir}/${database_name}/
${mysql_cmd} -e "alter table \`${databases_list[i]}\`.${tables_list[table]} import tablespace;"
sleep 5
done
done
通过shell脚本导出mysql所有库的所有表的表结构
mysql_cmd
和dump_cmd
的变量值根据实际环境修改,修改成自己用户名
,用户密码
,主机ip
databases_list
只排除了mysql的系统库,如果需要排除其他库,可以修改egrep -v
后面的值
导出的表结构以库名来命名,并且加入了CREATE DATABASE IF NOT EXISTS
语句
#!/bin/bash
base_dir=$(cd `dirname $0`; pwd)
mysql_cmd="mysql -N -uroot -proot -h192.168.70.49"
dump_cmd="mysqldump -uroot -proot -h192.168.70.49"
databases_list=($(${mysql_cmd} -e 'SHOW DATABASES;' | egrep -v 'information_schema|mysql|performance_schema|sys'))
for (( i=0; i<${#databases_list[@]}; i++ ))
do
tables_list=($(${mysql_cmd} -e "SELECT table_name FROM information_schema.tables WHERE table_schema=\"${databases_list[i]}\";"))
[[ ! -f "${base_dir}/${databases_list[i]}.sql" ]] || rm -f ${base_dir}/${databases_list[i]}.sql
echo "CREATE DATABASE IF NOT EXISTS \`${databases_list[i]}\`;" >> ${base_dir}/${databases_list[i]}.sql
echo "USE \`${databases_list[i]}\`;" >> ${base_dir}/${databases_list[i]}.sql
for (( table=0; table<${#tables_list[@]}; table++ ))
do
${dump_cmd} -d ${databases_list[i]} ${tables_list[table]} >> ${base_dir}/${databases_list[i]}.sql
done
done