Rsync同步过程中遇到的常见问题
一、Rsync服务介绍
Rsync属于一款实现全量及增量同步数据的软件工具,适用于unix/linux/windows等多种操作系统平台。
Rsync软件能实现本地复制,远程复制,或者远程守护进程方式复制。它以其delta-transfer算法闻名,减少通过网络数据发送数量,利用只发送源文件和目标文件之间的差异信息,从而实现数据的增量同步复制。
二、Rsync工作方式
- 本地数据备份方式
- 远程传输数据方式
- 守护进程传输数据方式
以rsync守护进程方式实现为主,通过man rsync帮助,查看用法。
#拉取数据的命令参数用法
Pull:rsync [OPTION...] [USER@]HOST::SRC... [DEST]
rsync [OPTION...] rsync://[USER@]HOST[:PORT]/SRC... [DEST]
参数解释:
[USER@]HOST:: --- 指定远程连接的认证用户
SRC --- 指定相应的模块信息
[DEST] --- 将远程数据保存到本地的路径信息
#推送数据的命令参数用法
Push: rsync [OPTION...] SRC... [USER@]HOST::DEST
rsync [OPTION...] SRC... rsync://[USER@]HOST[:PORT]/DEST
参数解释:
[USER@]HOST:: --- 指定远程连接的认证用户
SRC --- 指定本地要进行推送的数据信息
[DEST] --- 远程进行保存数据的模块信息
三、守护进程部署流程
3.1 服务端部署
1)主机环境检查
[root@backup ~]# cat /etc/redhat-release
CentOS release 6.8 (Final)
[root@backup ~]# uname -r
2.6.32-642.el6.x86_64
[root@backup ~]# uname -m
x86_64
2)检查软件是否安装
[root@backup ~]# rpm -qa rsync
rsync-3.0.6-12.el6.x86_64
3)编辑配置文件
配置文件默认不存在,需要在/etc目录下创建rsyncd.conf。
参数用法:man rsyncd.conf。
#created by user at 2018
###rsyncd.conf start###
uid = www #管理备份目录的用户(需要在linux系统下创建虚拟用户)
gid = www #管理备份目录的用户组
use chroot = no #保护模式,一般内网使用,可以选择禁用no
max connections = 200 #可以同时处理的并发连接数
timeout = 300 #连接超时,在指定时间内没有数据传输,自动释放连接
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors #备份传输过程中,忽略一些I/O产生的传输错误
read only = false #对备份目录开启读写权限,默认为true,只读模式
list = false #禁止通过客户端查询服务端配置的模块信息
hosts allow = 172.16.1.0/24 #允许指定网段或主机来访问备份目录
auth users = rsync_backup #认证用户(虚拟认证用户),不是真实存在的,非linux系统管理的虚拟用户
secrets file = /etc/rsync.pass #设置免交互方式用户认证文件
[data] #指定备份目录的模块名称
comment = "sersync dir by myself"
path = /data #以绝对路径方式,设置备份目录路径信息
4)创建备份目录管理用户
[root@backup ~]# useradd www -M -s /sbin/nologin
5)创建备份目录
[root@backup ~]# mkdir /data
[root@backup ~]# chown -R www.www /data
6)创建用户认证文件
[root@backup ~]# echo 'rsync_backup:123456' >>/etc/rsync.pass
[root@backup ~]# chmod 600 /etc/rsync.pass
追加内容"认证用户:密码"到认证文件中,在追加前先切换为英文输入法,行尾不添加空格或tab等内容,防止认证出错。
可以通过vim编辑器尾行模式,输入:set list检查,或者使用命令cat -A /etc/rsync.pass检查。
7)启动Rsync服务
[root@backup ~]# rsync --daemon
[root@backup ~]# netstat -lntp|grep rsync
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 12805/rsync
tcp 0 0 :::873 :::* LISTEN 12805/rsync
[root@backup ~]# echo '/usr/bin/rsync --daemon' >>/etc/rc.local
如果rsync服务默认端口873被其他服务占用,使用rsync --daemon --port=PORT命令启动测试,更多帮助查看rsync --daemon --help。
3.2 客户端部署
1)主机环境检查
[root@nfs ~]# cat /etc/redhat-release
CentOS release 6.8 (Final)
[root@nfs ~]# uname -r
2.6.32-642.el6.x86_64
[root@nfs ~]# uname -m
x86_64
2)检查软件是否安装
[root@nfs ~]# rpm -qa rsync
rsync-3.0.6-12.el6.x86_64
3)创建认证文件
[root@nfs ~]# echo '123456' >>/etc/rsync.pass
[root@nfs ~]# chmod 600 /etc/rsync.pass
客户端认证文件只需要添加密码即可,认证用户在客户端通过rsync命令进行设置。
4)进行数据备份测试
#客户端备份数据
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
sending incremental file list
hosts
sent 180 bytes received 27 bytes 414.00 bytes/sec
total size is 294 speedup is 1.42
#服务端检查备份数据
[root@backup ~]# ll /data/hosts
-rw-r--r-- 1 www www 294 Nov 6 2018 /data/hosts
四、Rsync备份过程中常见的错误问题总结
1. 客户端执行rsync命令发生错误问题
- 错误提示
ERROR: The remote path must start with a module name not a / - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::/data --password-file=/etc/rsync.pass
ERROR: The remote path must start with a module name not a /
rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] - 问题解决
rsync命令语法错误,::/data错误的语法,data为模块,而不是目录,正确写法::data。
2. 配置了免交互方式备份数据,客户端依旧需要输入密码问题
-
错误提示
password file must not be other-accessible -
演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
password file must not be other-accessible
continuing without password file
Password:
sending incremental file listsent 26 bytes received 8 bytes 9.71 bytes/sec
total size is 294 speedup is 8.65 -
问题解决
Rsync客户端的认证文件不是600权限。
3. Rsync服务端防火墙问题
- 错误提示
No route to host - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
rsync: failed to connect to 172.16.1.41: No route to host (113)
rsync error: error in socket IO (code 10) at clientserver.c(124) [sender=3.0.6] - 问题解决
Rsync服务端开启了防火墙功能,关闭即可。
4. Rsync用户认证失败问题
- 错误提示
ERROR: auth failed on module data - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
@ERROR: auth failed on module data
rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] - 问题解决
1.客户端rsync命令认证用户没写对,或者认证文件密码所在行的结尾有多余的空格或tab(cat -A /etc/rsync.pass检查)
2.客户端认证文件/etc/rsync.pass配置错误,不需要rsync_backup认证用户,只需要设置认证密码即可。
3.服务端认证文件中rsync_backup:123456后有空行或tab,需要注意。
4.服务端认证文件/etc/rsync.pass权限不是600。
5.服务端rsyncd.conf配置文件中,secrets file参数设置的认证文件名称与系统中创建的认证文件名称不一致。
6.服务端rsyncd.conf配置文件中,uid和gid设置的管理用户与备份目录管理用户不一致。
5. Rsync服务权限阻止问题
-
错误提示
Permission denied -
演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
sending incremental file list
hosts
rsync: mkstemp ".hosts.dGfSQ1" (in data) failed: Permission denied (13)sent 180 bytes received 27 bytes 414.00 bytes/sec
total size is 294 speedup is 1.42
rsync error: some files/attrs were not transferred (see previous errors) (code 23) at main.c(1039) [sender=3.0.6] -
问题解决
1.服务端/etc/rsyncd.conf文件中,uid和gid设置的管理用户与备份目录的属主和属组不一致。
2.备份目录的文件权限不是755。
6. Rsync服务备份目录异常问题
- 错误提示
ERROR: chdir failed - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
@ERROR: chdir failed
rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] - 问题解决
服务端/etc/rsyncd.conf文件中,备份目录模块path路径设置存在问题,检查目录是否存在,或者path路径是否填写正确。
7. Rsync服务备份模块异常问题
- 错误提示
ERROR: Unknown module 'data' - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
@ERROR: Unknown module 'data'
rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] - 问题解决
1.客户端rsync命令执行时,指定的模块名称不正确。
2.服务端/etc/rsyncd.conf文件中,指定的备份目录的模块名称不正确。
8.Rsync无效的用户问题
- 错误提示
ERROR: invalid uid mine - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
@ERROR: invalid uid mine
rsync error: error starting client-server protocol (code 5) at main.c(1503) [sender=3.0.6] - 问题解决
服务端管理备份目录的虚拟用户不存在,通过“useradd 用户 -M -s /sbin/nologin”进行创建即可。
9. Rsync服务未开启问题
- 错误提示
Connection refused - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.41::data --password-file=/etc/rsync.pass
rsync: failed to connect to 172.16.1.41: Connection refused (111)
rsync error: error in socket IO (code 10) at clientserver.c(124) [sender=3.0.6] - 问题解决
1.检查服务:ps -ef|grep [r]sync
2.开启服务:rsync --daemon
10. Rsync服务连接超时问题
- 错误提示
Connection timed out - 演示过程
[root@nfs ~]# rsync -avz /etc/hosts rsync_backup@172.16.1.51::data --password-file=/etc/rsync.pass
rsync: failed to connect to 172.16.1.51: Connection timed out (110)
rsync error: error in socket IO (code 10) at clientserver.c(124) [sender=3.0.6] - 问题解决
检查目标主机IP地址,ping目标主机检查链路是否正常。
[root@nfs ~]# ping 172.16.1.41
PING 172.16.1.41 (172.16.1.41) 56(84) bytes of data.
64 bytes from 172.16.1.41: icmp_seq=1 ttl=64 time=0.438 ms
64 bytes from 172.16.1.41: icmp_seq=2 ttl=64 time=0.543 ms
11. Rsync服务连接慢的问题
- 日志分析
[root@backup ~]# tailf /var/log/rsyncd.log
2019/06/27 12:49:35 [22251] params.c:Parameter() - Ignoring badly formed line in configuration file: ignore errors
--- 未对rsync客户端主机在服务端进行host解析,导致反向解析域名,使得连接缓慢。
2019/06/27 12:49:55 [22251] name lookup failed for 172.16.1.31: Temporary failure in name resolution
2019/06/27 12:49:55 [22251] connect from UNKNOWN (172.16.1.31)
2019/06/27 12:49:55 [22251] rsync to data/ from rsync_backup@unknown (172.16.1.31)
2019/06/27 12:49:55 [22251] receiving file list
2019/06/27 12:49:56 [22251] sent 76 bytes received 81 bytes total size 294 - 问题解决
[root@backup ~]# echo -e '172.16.1.31\tnfs' >>/etc/hosts
[root@backup ~]# tailf /var/log/rsyncd.log
2019/06/27 12:55:06 [22268] params.c:Parameter() - Ignoring badly formed line in configuration file: ignore errors
--- 可以查看到服务端对nfs主机进行了正确的反向解析过程。
2019/06/27 12:55:06 [22268] connect from nfs (172.16.1.31)
2019/06/27 12:55:06 [22268] rsync to data/ from rsync_backup@nfs (172.16.1.31)
2019/06/27 12:55:06 [22268] receiving file list
2019/06/27 12:55:06 [22268] sent 76 bytes received 81 bytes total size 294