linux_rsync
一、rsync的概述
rsync是类unix系统下的数据镜像备份工具,从软件的命名上就可以看出来了——remote sync。rsync是Linux系统下的文件同步和数据传输工具,它采用“rsync”算法,可以将一个客户机和远程文件服务器之间的文件同步,也可以在本地系统中将数据从一个分区备份到另一个分区上。如果rsync在备份过程中出现了数据传输中断,恢复后可以继续传输不一致的部分。rsync可以执行完整备份或增量备份。它的主要特点有:
- 可以镜像保存整个目录树和文件系统;
- 可以很容易做到保持原来文件的权限、时间、软硬链接;无须特殊权限即可安装;
- 可以增量同步数据,文件传输效率高,因而同步时间短;
- 可以使用rcp、ssh等方式来传输文件,当然也可以通过直接的socket连接;
- 支持匿名传输,以方便进行网站镜象等;
- 加密传输数据,保证了数据的安全性;
二、常用模式
- -v是“--verbose”,即详细模式输出;
- -z表示“--compress”,即传输时对数据进行压缩处理;
- -r表示“--recursive”,即对子目录以递归的模式处理;
- -t是“--time”,即保持文件时间信息;
- -o表示“owner”,用来保持文件属主信息;
- -p是“perms”,用来保持文件权限;
- -g是“group”,用来保持文件的属组信息;
- --progress用于显示数据镜像同步的过程;
- --delete选项指定以rsync服务器端为基础进行数据镜像同步,也就是要保持rsync服务器端目录与客户端目录的完全一致;
- --exclude选项用于排除不需要传输的文件类型;
三、rsync的优点与不足
与传统的cp、tar备份方式对比,rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如,定期地备份文件服务器数据到远端服务器,对本地磁盘定期进行数据镜像等。
但是随着系统规模的不断扩大,rsync的缺点逐渐被暴露了出来。首先,rsync做数据同步时,需要扫描所有文件后进行对比,然后进行差量传输。如果文件很大,扫面文件是非常耗时的,而且发生变化的文件往往是很少一部分,因此rsync是非常低效的方式。其次,rsync不能实时监测、同步数据,虽然它可以通过Linux守护进程的方式触发同步,但是两次触发动作一定会有时间差,可能导致服务器端和客户端数据出现不一致
四、Rsync的命令格式
- rsync [OPTION]... SRC DEST
拷贝本地文件。当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。如:rsync -a /data /backup - rsync [OPTION]... SRC [USER@]HOST:DEST
使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。如:rsync -avz *.c foo:src - rsync [OPTION]... [USER@]HOST:SRC DEST
使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。如:rsync -avz foo:src/bar /data - rsync [OPTION]... [USER@]HOST::SRC DEST
从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。如:rsync -av root@172.16.78.192::www /databack - rsync [OPTION]... SRC [USER@]HOST::DEST
从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。如:rsync -av /databack root@172.16.78.192::www - rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。如:rsync -v rsync://172.16.78.192/www
五、rsync参数的具体解释如下
- -v, --verbose 详细模式输出
- -q, --quiet 精简输出模式
- -c, --checksum 打开校验开关,强制对文件传输进行校验
- -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
- -r, --recursive 对子目录以递归模式处理
- -R, --relative 使用相对路径信息
- -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
- --backup-dir 将备份文件(如~filename)存放在在目录下。
- -suffix=SUFFIX 定义备份文件前缀
- -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
- -l, --links 保留软链结
- -L, --copy-links 想对待常规文件一样处理软链结
- --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
- --safe-links 忽略指向SRC路径目录树以外的链结
- -H, --hard-links 保留硬链结
- -p, --perms 保持文件权限
- -o, --owner 保持文件属主信息
- -g, --group 保持文件属组信息
- -D, --devices 保持设备文件信息
- -t, --times 保持文件时间信息
- -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
- -n, --dry-run现实哪些文件将被传输
- -W, --whole-file 拷贝文件,不进行增量检测
- -x, --one-file-system 不要跨越文件系统边界
- -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节
- -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步
- --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
- -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
- --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
- --delete 删除那些DST中SRC没有的文件
- --delete-excluded 同样删除接收端那些被该选项指定排除的文件
- --delete-after 传输结束以后再删除
- --ignore-errors 及时出现IO错误也进行删除
- --max-delete=NUM 最多删除NUM个文件
- --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
- --force 强制删除目录,即使不为空
- --numeric-ids 不将数字的用户和组ID匹配为用户名和组名
- --timeout=TIME IP超时时间,单位为秒
- -I, --ignore-times 不跳过那些有同样的时间和长度的文件
- --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
- --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0T
- --temp-dir=DIR 在DIR中创建临时文件
- --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
- -P 等同于 --partial
- --progress 显示备份过程
- -z, --compress 对备份的文件在传输时进行压缩处理
- --exclude=PATTERN 指定排除不需要传输的文件模式
- --include=PATTERN 指定不排除而需要传输的文件模式
- --exclude-from=FILE 排除FILE中指定模式的文件
- --include-from=FILE 不排除FILE指定模式匹配的文件
- --version 打印版本信息
- --address 绑定到特定的地址
- --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件
- --port=PORT 指定其他的rsync服务端口
- --blocking-io 对远程shell使用阻塞IO
- -stats 给出某些文件的传输状态
- --progress 在传输时现实传输过程
- --log-format=formAT 指定日志文件格式
- --password-file=FILE 从FILE中得到密码
- --bwlimit=KBPS 限制I/O带宽,KBytes per second
- -h, --help 显示帮助信息
六、免密码传输文件
- 通过ssh执行rsync
通过ssh账户执行rsync,将文件同步镜像到远程服务器。
在客户端使用ssh-keygen生成密匙:
$ ssh-keygen
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
提示:当提示输入密码时,只需要输入两次回车,不支配密码字符。将客户端的id_rsa.pub传输到服务端,并写入~/.ssh/authorized_keys
例如:rsync -e ssh demo.log zongzhen@120.26.81.70:/home/zongzhen/zongzhen.log
需要加入ssh 参数这个配置可以满足ssh远程登录免密码
注意:ssh在生产环境下,服务器之间往往是不允许开通的,因为结合ssh可以实现服务器之间的跳转,用户就很方便实现控制这些机器。所以,rsync+ssh的方式,往往可以在测试环境下,或者不对外提供网络访问权限的场景下,还是可以采用的。
- rsync 原生的无密码同步方法记录
http://www.liuhaihua.cn/archives/11561.html