linux运维、架构之路-rsync
1 、rsync介绍
rsync是实现全量及增量的本地或远程数据镜像同步备份的工具
rsync常用命令参数
命令参数 |
参数说明 |
-a (--archive) |
归档模式,表示以递归方式传输文件,并保持所有文件属性,等于rtopgDl |
-v (--verbose) |
显示输出过程,传输时的进度等信息 |
-z (--compress) |
传输时进行压缩以提高传输效率 |
--exclude=/etc/hosts |
指定排除不需要传输的文件信息(和tar参数一样) |
--exclude-from=file |
文件名所在的目录文件,可以实现排除多个文件(和tar参数一样) |
--bwlimit=PATE |
limit I/O bandwidth;KBytes per second limit socket I/O bandwidth限速功能 |
--delete |
让目标目录SRC和源目录数据DST一致,无差异同步数据 |
2、rsync特性
①支持拷贝特殊文件如软链接,设备等
②排除指定文件或目录同步的功能,相当于打包命令tar排除功能
③ 保持原文件或目录的权限、时间、硬链接、属主、组等属性不改变
④实现增量同步,只同步发生变化的数据,传输效率高
⑤可以使用rcp,rsh,ssh等方式来配合传输文件
⑥可以通过socket(进程方式)传输文件和数据
⑦支持匿名的认证进程模式传输,实现方便安全数据备份
3、rsync应用工作场景
①利用定时任务+rsync实现定时同步数据,主要同步的数据信息是网站内部人员使用的
②利用实时同步软件+rsync实现实时同步数据,主要同步的数据信息是网站用户上传的数据信息
4、rsync数据传输方式
①主机本地之间的数据传输(此时类似于cp命令的功能)
② 借助rcp,ssh等通道来传输数据(此时类似于scp命令的功能)
③以守护进程(socket)的方式传输数据(这个是rsync自身的重要的功能),重点掌握
5、rsync守护进程——服务端配置
1、查看系统是否安装rsync软件
rpm -qa rsync rsync-3.0.6-12.el6.x86_64
2、rsync多模块主配置文件
cat >/etc/rsyncd.conf<<EOF #rsync server# #created by yanxinjiang 2017-8-1 ##rsyncd.conf start## uid = rsync gid = rsync use chroot = no max connections = 200 timeout = 300 pid file = /var/run/rsyncd.pid lock file = /var/run/rsync.lock log file = /var/log/rsyncd.log ignore errors read only = false list = false hosts allow = 172.16.1.0/24 hosts deny = 0.0.0.0/32 auth users = rsync_backup secrets file = /etc/rsync.password [backup] path = /backup [nfsbackup] path = /nfsbackup EOF
3、创建备份目录及授权管理用户
mkdir /backup -p chown -R rsync.rsync /backup/ useradd rsync -s /sbin/nologin -M
4、创建rsync服务端与客户端身份认证文件
echo "rsync_backup:123456" >/etc/rsync.password chmod 600 /etc/rsync.password
5、启动rsync服务
[root@backup ~]# rsync --daemon [root@backup ~]# lsof -i:873 COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME rsync 31209 root 3u IPv4 7505812 0t0 TCP *:rsync (LISTEN) rsync 31209 root 5u IPv6 7505813 0t0 TCP *:rsync (LISTEN)
6、rsync守护进程——客户端配置
1、创建客户端身份认证文件并授权
[root@nfs01 ~]# echo "123456" >/etc/rsync.password [root@nfs01 ~]# chmod 600 /etc/rsync.password
2、客户端测试rsync服务
[root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password sending incremental file list sent 26 bytes received 8 bytes 3.24 bytes/sec total size is 314 speedup is 9.24
3、rsync无差异数据同步
客户端推送
[root@nfs01 data]# ls /data/ a b c d e f g pull.txt [root@nfs01 data]# rsync -avz /data --delete rsync_backup@172.16.1.41::backup --password-file=/etc/rsync.password sending incremental file list data/ data/a data/b data/c
服务端检查
[root@backup backup]# ls /backup/data/
a b c d e f g pull.txt
3、客户端推送遇到的问题
错误1 [root@nfs01 ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup Password: @ERROR: auth failed on module backup rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] 错误2 [root@nfs01 tmp]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::/backup ERROR: The remote path must start with a module name not a / rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] 错误3 [root@nfs01 tmp]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup @ERROR: Unknown module 'backup' rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] 错误4 [root@nfs01 tmp]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::backup Password: sending incremental file list hosts rsync: mkstemp ".hosts.5z3AOA" (in backup) failed: Permission denied (13)
4、错误总结
①密码输入错误,虚拟用户名错误
②secrets file = /etc/rsync.password指定的密码文件和实际密码文件名称不一致
③/etc/rsync.password文件权限不是600
④rsync_backup:123456密码配置文件后面注意不要有空格
⑤rsync客户端密码文件中只输入密码信息即可,不要输入虚拟认证用户名称
⑥推送时双冒号后面为模块名backup,而不是路径/backup
⑦telnet连接rsync服务ip地址873端口,查看服务是否启动 telnet 172.16.1.41 873
⑧共享目录的属主和属组不正确,不是rsync;共享目录的权限不正确,不是755
7、rsync客户端访问服务端原理