rsync命令 SCP命令
快速查询scp:
scp [[user@]host1:]file1 ... [[user@]host2:]file2
也可以省略本地信息和远程用户信息:
rsync [OPTION]... SRC DEST 本机到本机 rsync [OPTION]... SRC [USER@]host:DEST 本机到远端(ssh shell 方式) rsync [OPTION]... [USER@]HOST:SRC DEST 远端到本机(ssh shell 方式) rsync [OPTION]... [USER@]HOST::SRC DEST 远端到本机 (rsync 服务进程方式) rsync [OPTION]... SRC [USER@]HOST::DEST 本机到远端 (rsync 服务进程方式) rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
/home : 表示将整个 /home 目录复制到目标目录
/home/ : 表示将 /home 目录中的所有内容复制到目标目录
[OPTION...]参数
如:
rsync -avzP apache@10.0.7.211::hadoop /backup
-r 是递归 -l 是链接文件,意思是拷贝链接文件;-p 表示保持文件原有权限;
-t 保持文件原有时间;-g 保持文件原有用户组;-o 保持文件原有属主;-D 相当于块设备文件;
-v, --verbose 详细模式输出。
-q, --quiet 精简输出模式。
-P --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输
-c, --checksum 打开校验开关,强制对文件传输进行校验。
-R, --relative 使用相对路径信息。
-b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。
可以使用--suffix选项来指定不同的备份文件前缀。-z 传输时压缩;-v, --verbose 详细模式输出。
-e --rsh=command 指定使用rsh、ssh方式进行数据同步 例:rsync -ae 'ssh -p port'
--progress 显示备份过程
--password-file=FILE 从FILE文件中得到密码
--exclude 指定排除不需要传输的文件(夹) (必须相对路径) --exclude='file' --exclude='file/123'
--exclude-from=/exclude.list 指定排除不需要传输的文件列表 (绝对路径)
比如 我想避开log文件夹,list中的1文件夹,和fire打头的文件 那么/exclude.list 写为
log
list/1
fire*
--include-from=/exclude.list 指定排除不需要传输的文件列表 (绝对路径)
(如果同时使用exclude和include,include命令在前)
--files-from="includes。txt" 只同步指定的目录清单
*可以镜像保存整个目录树和文件系统。
*可以很容易做到保持原来文件的权限、时间、软硬链接等等。
*无须特殊权限即可安装。
*快速:第一次同步时 rsync 会复制全部内容,但在下一次只传输修改过的文件。
*rsync 在传输数据的过程中可 以实行*压缩及解压缩操作,因此可以使用更少的带宽。
*安全:可以使用scp、ssh等方式来传输文件,当然也可以通过直接的socket连接。
*支持匿名传输,以方便进行网站镜象
*无论本地同步目录还是远程同步数据,首次运行时将会把全部文件拷贝一次,以后再运行时将只拷贝有变化的文件(对于新文件)或文件的变化部分(对于原有文件)。
二.远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责)
三.C/S 方式(即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责)。
一.本机不同目录进行同步
同步命令:
/home : 表示将整个 /home 目录复制到目标目录
/home/ : 表示将 /home 目录中的所有内容复制到目标目录
- 当路径中包含 单引号: 时,启功该模式
- 远程 Shell 方式(建议使用 ssh,用户验证由 ssh 负责) 不用创建rsync服务器、守护进程
rsync -a web:/home/ /homeback
rsync -a root@10.0.7.211:/home /homeback
- 即客户连接远程 rsync 服务器,用户验证由 rsync 服务器负责
测试使用的机器 ,两台机器都自带有rsync工具
服务端(rsync服务器)
客户端
首先A机器 3.0.6版本
[root@web1 ~]
# yum install rsync
[root@web1 ~]
# rpm -ql rsync
查看文件位置
/etc/xinetd
.d
/rsync
##基于xinetd的管理
/usr/bin/rsync
##rsync命令
/usr/share/doc/rsync-3
.0.6
/usr/share/doc/rsync-3
.0.6
/COPYING
/usr/share/doc/rsync-3
.0.6
/NEWS
……
[root@node1 ~] # mkdir /etc/rsyncd ##创建配置目录 [root@node1 ~] # touch /etc/rsyncd/rsyncd.conf ##
创建主配置文件 [root@node1 ~] # touch /etc/rsyncd/rsyncd.secrets ## 创建用户密码文件 [root@node1 ~] # chmod 600 /etc/rsyncd/rsyncd.secrets ##修改文件权限 [root@node1 ~] # touch /etc/rsyncd/rsyncd.motd ##
创建定义服务器信息的 |
解析rsyncd.conf
pid file = /var/run/rsyncd.pid #进程 pid 文件所在位置
port = 873 #指定监听端口,默认是873,可以自己指定
address = 192.168.1.171 #服务器监听的IP地址,可省略
uid = root #守护进程所属的uid,默认是nobody,可能会碰到文件或目录权限问题,此处偷懒用的 root
gid = root #守护进程的gid
#chroot,即改变程序执行时所参考的根目录位置,在传输文件之前,服务器守护程序在将chroot 到文件系统中的目录中
#这样做的好处是可能保护系统被安装漏洞侵袭的可能。缺点是需要超级用户权限。另外对符号链接文件,将会排除在外
#也就是说,你在 rsync服务器上,如果有符号链接,你在备份服务器上运行客户端的同步数据时,只会把符号链接名同步下来,并不会同步符号链接的内容
use chroot = yes
read only = no #只读选择,只让客户端从服务器上读取文件
write only = yes #只写选择,只让客户端到服务器上写入
#允许访问的IP,可以指定单个IP,也可以指定整个网段,能提高安全性。
#格式是 ip 与 ip 之间、ip 和网段之间、网段和网段之间要用空格隔开;
hosts allow = 192.168.1.0/255.255.255.0 10.0.1.0/255.255.255.0
max connections = 5 #客户端最多连接数
#当用户登录时会看到这个信息。比如显示当前时间、公告等
motd file = /etc/rsyncd/rsyncd.motd
log file = /var/log/rsync.log #rsync 服务器的日志;
transfer logging = yes #记录传输文件的日志
log format = %t %a %m %f %b #日志格式
syslog facility = local3 #日志级别
#通过该选项可以覆盖客户指定的IP超时时间。可以确保rsync服务器不会永远等待一个崩溃的客户端。
#超时单位为秒钟,0表示没有超时定义,这也是默认值。
#对于匿名rsync服务器来说,一个理想的数字是600。
timeout = 300
#模块定义
#主要是定义服务器哪个目录要被同步。
#每个模块都要以[name]形式。这个名字就是在 rsync 客户端看到的名字。
#但是服务器真正同步的数据是通过 path 指定的。可以依次创建多个模块。
#每个模块要指定认证用户、密码文件,但排除并不是必须的。
[ logs ] #模块名,以下配置都属于此模块
path = /var/log #文件目录所在位置
list = no #当查看服务器上提供了哪些目录时是否列出来,no比较安全
ignore errors #忽略I/O错误
#指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。
#这里的用户和系统用户没有任何关系,是 rsyncd.secrets 中的用户名!
#如果"auth users"被设置,那么客户端发出对该模块的连接请求
#以后会被rsync请求challenged进行验证身份。
#这里使用的 challenge/response 认证协议。
#用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。
#默认情况下无需密码就可以连接模块(也就是匿名方式)。
auth users = zhangzk
secrets file = /etc/rsyncd/rsyncd.secrets #密码文件
exclude = error_log httpd.pid #忽略的文件或目录
comment this is my log #本模块注释,可选
1.编辑配置rsyncd.conf
pid file = /var/run/rsyncd.pid
port = 873
uid = root
gid = root
use chroot = yes
read only = no
#write only = yes
hosts allow = 10.0.7.211
hosts deny =*
max connections = 5
motd file = /etc/rsyncd/rsyncd.motd
log file = /var/log/rsync.log
transfer logging = yes
log format = %t %a %m %f %b
syslog facility = local3
timeout = 300
[ logs ]
path = /root/test/log
list = no
ignore errors
auth users =lalala
secrets file = /etc/rsyncd/rsyncd.secrets
#exclude =
comment this is my log
##定义第二个同步目录
path = /var/www/log
list=yes
ignore errors
auth users = apache ##必须在服务器上存在的真实的系统用户,多个用户以,号隔开
secrets file = /etc/rsyncd/rsyncd.secrets ##指定上述账号密码文件
comment = web log
exclude = data/ data1/ ##排除log下的data目录和data1目录
apache:123456
注:1、将rsyncd.secrets这个密码文件的文件属性设为root拥有, 且权限要设为600, 否则无法备份成功!
出于安全目的,文件的属性必需是只有属主可读。
2、这里的密码值得注意,为了安全你不能把系统用户的密码写在这里。
比如你的系统用户easylife密码是 000000,为了安全你可以让rsync中的easylife为keer。
这和samba的用户认证的密码原理是差不多的。
3.编辑服务器信息文件
设定rsyncd.motd 文件;
++++++++++++++++++++++++++++++++++++++++++++++
Welcome to use the mike.org.cn rsync services!
2017
++++++++++++++++++++++++++++++++++++++++++++++
服务器端启动:
也可以在/etc/rc.d/rc.local里加入让系统自动启动等.
参考这里 Shell 增加server rsync 控制脚本
当路径中包含 双引号:: 时,启功该模式
rsync -a rsync://web/home
推: rsync [OPTION...] SRC... [USER@]HOST::DEST
user使用在rsyncd.secrets 中定义的用户
从远程服务器 同步到本地 强制性一致
# rsync -avzP --delete apache@110.0.7.211::hadoop /backup
这回我们引入一个 --delete 选项,表示服务器上的数据要与客户端完全一致,
如果 /backup目录中有服务器上不存在的文件,则删除。
最终目的是让 /backup 目录上的数据完全与服务器上保持一致;
用的时候要小心点,最好不要把已经有重要数所据的目录,当做本地更新目录,否则会把你的数据全部删除;
从远程服务器 同步到本地 自动脚本
# rsync -avzP --delete --password-file=/tmp/rsync.password apache@110.0.7.211::hadoop /backup
# touch /tmp/rsync.password
# chmod 600 /tmp/rsync.password
# echo "123456"> /tmp/rsync.password
注: 这样就不需要密码了;其实这是比较重要的,因为服务器通过crond 计划任务还是有必要的;
rsync 客户端自动与服务器同步数据:
编辑crontab # crontab -e 加入如下代码:
10 0 * * * rsync -avzP --delete --password-file=/tmp/rsync.password apache@10.0.7.211::hadoop /tmp/hadoop/
参数详解编辑 -v, --verbose 详细模式输出 -q, --quiet 精简输出模式 -c, --checksum 打开校验开关,强制对文件传输进行校验 -a, --archive 归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD -r, --recursive 对子目录以递归模式处理 -R, --relative 使用相对路径信息 -b, --backup 创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。 --backup-dir 将备份文件(如~filename)存放在在目录下。 -suffix=SUFFIX 定义备份文件前缀 -u, --update 仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结 -L, --copy-links 像对待常规文件一样处理软链接 --copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链接 --safe-links 忽略指向SRC路径目录树以外的链接 -H, --hard-links 保留硬链接 -p, --perms 保持文件权限 -o, --owner 保持文件属主信息 -g, --group 保持文件属组信息 -D, --devices 保持设备文件信息 -t, --times 保持文件时间信息 -S, --sparse 对稀疏文件进行特殊处理以节省DST的空间 -n, --dry-run显示哪些文件将被传输 -W, --whole-file 拷贝文件,不进行增量检测 -x, --one-file-system 不要跨越文件系统边界 -B, --block-size=SIZE 检验算法使用的块尺寸,默认是700字节 -e, --rsh=COMMAND 指定使用rsh、ssh方式进行数据同步 --rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息 -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件 --existing 仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件 --delete 删除那些DST中SRC没有的文件 --delete-excluded 同样删除接收端那些被该选项指定排除的文件 --delete-after 传输结束以后再删除 --ignore-errors 即使出现IO错误也进行删除 --max-delete=NUM 最多删除NUM个文件 --partial 保留那些因故没有完全传输的文件,以是加快随后的再次传输 --force 强制删除目录,即使不为空 --numeric-ids 不将数字的用户和组ID匹配为用户名和组名 --timeout=TIME IP超时时间,单位为秒 -I, --ignore-times 不跳过那些有同样的时间和长度的文件 --size-only 当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间 --modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口,默认为0 -T --temp-dir=DIR 在DIR中创建临时文件 --compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份 -P 等同于 --partial --progress 显示备份过程 -z, --compress 对备份的文件在传输时进行压缩处理 --exclude=PATTERN 指定排除不需要传输的文件模式 --include=PATTERN 指定不排除而需要传输的文件模式 --exclude-from=FILE 排除FILE中指定模式的文件 --include-from=FILE 不排除FILE指定模式匹配的文件 --version 打印版本信息 --address 绑定到特定的地址 --config=FILE 指定其他的配置文件,不使用默认的rsyncd.conf文件 --port=PORT 指定其他的rsync服务端口 --blocking-io 对远程shell使用阻塞IO -stats 给出某些文件的传输状态 --progress 在传输时现实传输过程 --log-format=formAT 指定日志文件格式 --password-file=FILE 从FILE中得到密码 --bwlimit=KBPS 限制I/O带宽,KBytes per second -h, --help 显示帮助信息