MySQL之Xtrabackup备份恢复数据库-简介
一、Xtrabackup介绍
1、Xtrabackup是什么
Xtrabackup 是一个对InnoDB做数据备份的工具,支持在线热备份(备份时不影响数据读写),是商业备份工具InnoDB Hotbackup的一个很好的替代品。
Xtrabackup
有两个主要的工具:xtrabackup、innobackupex
- xtrabackup只能备份InnoDB和XtraDB两种数据表,而不能备份MyISAM数据表。
- innobackupex是参考了InnoDB Hotbackup的innoback脚本修改而来的。innobackupex是一个perl脚本封装,封装了xtrabackup。主要是为了方便同 时备份InnoDB和MyISAM引擎的表,但在处理myisam时需要加一个读锁。 并且加入了一些使用的选项。如--slave-info可以记录备份恢复后,作为slave需要的一些信息,根据这些信息,可以很方便的利用备份来重做slave。
2、Xtrabackup可以做什么
在线(热)备份整个库的InnoDB、 XtraDB表
在xtrabackup的上一次整库备份基础上做增量备份(innodb only)
以流的形式产生备份,可以直接保存到远程机器上(本机硬盘空间不足时很有用)
MySQL
数据库本身提供的工具并不支持真正的增量备份,二进制日志恢复是point-in-time(时间点)的恢复而不是增量备份。
Xtrabackup
工具支持对InnoDB存储引擎的增量备份,工作原理如下:
(1)、
首先完成一个完全备份,并记录下此时检查点的LSN(Log Sequence Number)。
(2)、
在进程增量备份时,比较表空间中每个页的LSN是否大于上次备份时的LSN,如果是,则备份该页,同时记录当前检查点的LSN。
首先,在logfile中找到并记录最后一
个checkpoint(“last checkpoint
LSN”),然后开始从LSN的位置开始拷贝InnoDB的logfile到xtrabackup_logfile;接着,开始拷贝全部的数据文
件.ibd;在拷贝全部数据文件结束之后,才停止拷贝logfile。因为logfile里面记录全部的数据修改情况,所以,即时在备份过程中数据文件被修改过了,恢复时仍然能够通过解析xtrabackup_logfile保持数据的一致。
3、Xtrabackup备份原理
XtraBackup
基于InnoDB的crash-recovery功能。它会复制innodb的data file,由于不锁表,复制出来的数据是不一致的,在恢复的时候使用crash-recovery,使得数据恢复一致。
InnoDB
维护了一个redo log,又称为transaction log,事务日志,它包含了innodb数据的所有改动情况。当InnoDB启动的时候,它会先去检查data file和transaction log,并且会做二步操作:
XtraBackup
在备份的时候,
一页一页地复制innodb的数据,而且不锁定表,与此同时,XtraBackup还有另外一个线程监视着transactions
log,一旦log发生变化,就把变化过的log pages复制走。为什么要急着复制走呢?因为transactions
log文件大小有限,写满之后,就会从头再开始写,所以新数据可能会覆盖到旧的数据。
在prepare过程中,XtraBackup使用复制到的transactions log对备份出来的innodb data file进行crash recovery。
4、实现细节
XtraBackup
以read-write模式打开
innodb的数据文件,然后对其进行复制。其实它不会修改此文件。也就是说,运行
XtraBackup的用户,必须对innodb的数据文件具有读写权限。之所以采用read-write模式是因为XtraBackup采用了其内置的
innodb库来打开文件,而innodb库打开文件的时候就是rw的。
XtraBackup
要从文件系统中复制大量的数据,所以它尽可
能地使用posix_fadvise(),来告诉OS不要缓存读取到的数据,从
而提升性能。因为这些数据不会重用到了,OS却没有这么聪明。如果要缓存一下的话,几个G的数据,会对OS的虚拟内存造成很大的压力,其它进程,比如
mysqld很有可能被swap出去,这样系统就会受到很大影响了。
在备份innodb
page的过程中,XtraBackup每次读写1MB的数据,1MB/16KB=64个page。这个不可配置。读1MB数据之
后,XtraBackup一页一页地遍历这1MB数据,使用innodb的buf_page_is_corrupted()函数检查此页的数据是否正常,
如果数据不正常,就重新读取这一页,最多重新读取10次,如果还是失败,备份就失败了,退出。在复制transactions
log的时候,每次读写512KB的数据。同样不可以配置。
5、特点
(1)备份过程快速、可靠;
(2)备份过程不会打断正在执行的事务;
(3)能够基于压缩等功能节约磁盘空间和流量;
(4)自动实现备份检验;
(5)还原速度快;
6、innobackupex 相关参数
注:xtrabackup命令只备份数据文件,并不备份数据表结构(.frm),所以使用xtrabackup恢复的时候,你必须有对应表结构文件(.frm),所以,个人推荐采用 innobackupex命令 [此命令相当于冷备份,复制数据目录的索引,数据,结构文件,但会有短暂的锁表(时间依赖于MyISAM大小)]。
参数说明如下:
--defaults-file:指定my.cnf参数文件的位置[此配置文件里必须指定datadir]。
--apply-log :同xtrabackup的--prepare参数,一般情况下,在备份完成后,数据尚且不能用于恢复操作,因为备份的数据中可能
会包含尚未提交的事务或已
经提交但尚未同步至数据文件中的事务。因此,此时数据 文件仍处理不一致状态。--apply-log的作用是通过回滚未提交的事务及同步已经提交的事务至数据文 件使数据文件处于一致性状态。
--copy-back :做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir。
--remote-host=HOSTNAME: 通过ssh将备份数据存储到进程服务器上。
--stream=[tar]:备份文件输出格式, 该文件可在XtarBackup binary文件中获得. 在使用参数stream=tar备份的时候,你的xtrabackup_logfile可能会临
时放在/tmp目录下,如果你备份的时候并发写入较大的话,xtrabackup_logfile可能会很大(5G+),很可能会撑满你的/tmp目录,可以通过参数--tmpdir指定目录来 解决这个问题。
--tmpdir=DIRECTORY:当有指定--remote-host or --stream时, 事务日志临时存储的目录, 默认采用MySQL配置文件中所指定的临时目录tmpdir。
--redo-only --apply-log:强制备份日志时只redo,跳过rollback,这在做增量备份时非常必要。
--use-memory=*:该参数在prepare的时候使用,控制prepare时innodb实例使用的内存。
--databases=LIST:列出需要备份的databases,如果没有指定该参数,所有包含MyISAM和InnoDB表的database都会被备份。
--slave-info:备份从库,
加上--slave-info备份目录下会多生成一个xtrabackup_slave_info 文件, 这里会保存主日志文件以及偏移,
文件内容类似 于:CHANGE MASTER TO MASTER_LOG_FILE='', MASTER_LOG_POS=0。
--socket=SOCKET:指定mysql.sock所在位置,以便备份进程登录mysql。
--uncompress :解压备份的数据文件,支持ibbackup,xtrabackup还没有实现该功能。
--include=REGEXP :对xtrabackup参数
--tables的封装,也支持ibbackup。备份包含的库表,例如:--include="test.*",意思是要备份test库中所有的表。如
果需要全备份,则省略这个参数;如果需要备份test库下的2个表:test1和test2,则写成:--
include="test.test1|test.test2"。也可以使用通配符,如:--include="test.test*"。
二、备份与恢复
1、备份
# 全备
innobackupex --defaults-file=/etc/my.cnf
--no-timestamp --port=3306 --user=backup --password=backup
/backupdir/bak_data/full_bak >/backupdir/bak_data/innoback.log
2>&1
innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/full_bak /backupdir/bak_data/one_backup >/backupdir/bak_data/innoback.log 2>&1
# 第二次增量备份
innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/ one_backup /backupdir/bak_data/two_backup >/backupdir/bak_data/innoback.log 2>&1
# 第三次增量备份
innobackupex --defaults-file=/etc/my.cnf --no-timestamp --port=3306 --user=backup --password=backup --incremental --incremental-basedir=/backupdir/bak_data/two_backup /backupdir/bak_data/three_backup >/backupdir/bak_data/innoback.log 2>&1
2、恢复
# 备份应用日志,保证数据一致, 将增量备份的合并到全备上,恢复使用全备恢复
# 全备应用日志
innobackupex --defaults-file=/etc/my3308.cnf --apply-log /backupdir/bak_data/full_bak
# 第一次的增量备份应用日志 ,应用完日志后,将合并到全备上,恢复使用全备恢复
innobackupex --defaults-file=/etc/my3308.cnf
--apply-log /backupdir/bak_data/full_bak
--incremental-dir=/backupdir/bak_data/one_backup
# 第二次的增量备份应用日志,应用完日志后,将合并到全备上,恢复使用全备恢复
innobackupex --defaults-file=/etc/my3308.cnf
--apply-log /backupdir/bak_data/full_bak
--incremental-dir=/backupdir/bak_data/two_backup
# 第三次的增量备份应用日志,应用完日志后,将合并到全备上,恢复使用全备恢复
innobackupex --defaults-file=/etc/my3308.cnf
--apply-log /backupdir/bak_data/full_bak
--incremental-dir=/backupdir/bak_data/three_backup
# 此时三次增量备份其实都合并到全备上了,恢复是只需要使用全备进行恢复就可以了。
# 模拟数据故障[删除数据库的数据目录,执行如下命令还原]
innobackupex --defaults-file=/etc/my3308.cnf --copy-back /backupdir/bak_data/full_bak
# 恢复后的数据默认权限是有问题的,所以需要修改数据目录权限,如下
chown -R mysql:mysql /var/lib/mysql3308/
# 此时数据恢复完成,重启数据库服务,进行测试就可以了。
本文源自:http://www.tuicool.com/articles/nMvUj2
重点推荐:http://segmentfault.com/a/1190000002391821