Rsync+NFS实战，解决NFS单点问题
目录
NFS配置详解
执行man exports命令，然后切换到文件结尾，可以快速查看如下样例格式：
| nfs共享参数 | 参数作用 |
| rw* | 读写权限 |
| ro | 只读权限 |
| root_squash | 当NFS客户端以root管理员访问时，映射为NFS服务器的匿名用户(不常用) |
| no_root_squash | 当NFS客户端以root管理员访问时，映射为NFS服务器的root管理员(不常用) |
| all_squash | 无论NFS客户端使用什么账户访问，均映射为NFS服务器的匿名用户(常用) |
| no_all_squash | 无论NFS客户端使用什么账户访问，都不进行压缩 |
| sync* | 同时将数据写入到内存与硬盘中，保证不丢失数据 |
| async | 优先将数据保存到内存，然后再写入硬盘；这样效率更高，但可能会丢失数据 |
| anonuid* | 配置all_squash使用,指定NFS的用户UID,必须存在系统 |
| anongid* | 配置all_squash使用,指定NFS的用户UID,必须存在系统 |
验证ro权限实践
- 服务端修改rw为ro参数
[root@nfs ~]# cat /etc/exports
/data 172.16.1.0/24(ro,sync,all_squash)
[root@nfs ~]# systemctl restart nfs-server
- 客户端验证
[root@nfs-client ~]# mount -t nfs 172.16.1.31:/data /mnt
[root@nfs-client ~]# df -h
Filesystem Size Used Avail Use% Mounted on
172.16.1.31:/data 98G 1.7G 97G 2% /mnt
# 发现无法正常写入文件
[root@backup mnt]# touch file
touch: cannot touch ‘file’: Read-only file system
验证all_squash、anonuid、anongid权限
- NFS服务端配置
[root@nfs ~]# cat /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
- 服务端需要创建对应的用户
[root@nfs ~]# groupadd -g 666 www
[root@nfs ~]# useradd -u 666 -g 666 www
[root@nfs ~]# id www
uid=666(www) gid=666(www) groups=666(www)
- 重载nfs-server
[root@nfs ~]# systemctl restart nfs-server
[root@nfs ~]# cat /var/lib/nfs/etab
/data 172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,all_squash,no_subtree_check,secure_locks,acl,no_pnfs,anonuid=666,anongid=666,sec=sys,secure,root_squash,all_squash)
- 授权共享目录为www
[root@nfs ~]# chown -R www.www /data/
[root@nfs ~]# ll -d /data/
drwxr-xr-x 3 www www 53 Sep 3 02:08 /data/
- 客户端验证
[root@backup ~]# umount /mnt/
[root@backup ~]# mount -t nfs 172.16.1.31:/data /mnt
6)客户端查看到的文件，身份是666
[root@backup ~]# ll /mnt/
drwxr-xr-x 2 666 666 6 Sep 3 02:08 rsync_dir
-rw-r--r-- 1 666 666 0 Sep 3 02:08 rsync_file
- 客户端依旧能往/mnt目录下写文件
[root@backup mnt]# touch fff
[root@backup mnt]# mkdir 111
[root@backup mnt]# ll
drwxr-xr-x 2 666 666 6 Sep 3 03:05 111
-rw-r--r-- 1 666 666 0 Sep 3 03:05 fff
- 建议：将客户端也创建一个uid为666，gid为666，统一身份，避免后续出现权限不足的情况
[root@backup mnt]# groupadd -g 666 www
[root@backup mnt]# useradd -g 666 -u 666 www
[root@backup mnt]# id www
uid=666(www) gid=666(www) groups=666(www)
- 最后检查文件的身份
[root@backup mnt]# ll /mnt/
total 4
drwxr-xr-x 2 www www 6 Sep 3 03:05 111
-rw-r--r-- 1 www www 0 Sep 3 03:05 fff
6.NFS存储小结
1.NFS存储优点
1）NFS文件系统简单易用、方便部署、数据可靠、服务稳定、满足中小企业需求。
2）NFS文件系统内存放的数据都在文件系统之上，所有数据都是能看得见。
2.NFS存储局限
1）存在单点故障, 如果构建高可用维护麻烦web->nfs()->backup
2）NFS数据明文, 并不对数据做任何校验。
3）客户端挂载NFS服务没有密码验证, 安全性一般(内网使用)
3.NFS应用建议
1）生产场景应将静态数据尽可能往前端推, 减少后端存储压力
2）必须将存储里的静态资源通过CDN缓存jpg\png\mp4\avi\css\js
3）如果没有缓存或架构本身历史遗留问题太大, 在多存储也无用
Rsync+NFS实战，解决NFS单点问题
1.环境准备
主机 角色 ip
web01 NFS客户端、RSYNC客户端 172.16.1.7
nfs NFS服务端、RSYNC客户端 172.16.1.31
rsync NFS服务端、RSYNC服务端 172.16.1.21
2.搭建上传作业系统
1）安装httpd服务
[root@web01 ~]# yum install -y httpd php
2）配置httpd用户
[root@web01 ~]# vim /etc/httpd/conf/httpd.conf
User www
Group www
3）创建用户
[root@web01 ~]# groupadd www -g 666
[root@web01 ~]# useradd www -u 666 -g 666 -s /sbin/nologin -M
4）上传代码
[root@web01 ~]# cd /var/www/html/
[root@web01 html]# rz kaoshi.zip
[root@web01 html]# ll
total 28
-rw-r--r-- 1 root root 26995 Feb 13 22:23 kaoshi.zip
[root@web01 html]# unzip kaoshi.zip
Archive: kaoshi.zip
inflating: info.php
inflating: bg.jpg
inflating: index.html
inflating: upload_file.php
[root@web01 html]# ll
total 80
-rw-r--r-- 1 root root 38772 Apr 27 2018 bg.jpg
-rw-r--r-- 1 root root 2633 May 4 2018 index.html
-rw-r--r-- 1 root root 52 May 10 2018 info.php
-rw-r--r-- 1 root root 26995 Feb 13 22:23 kaoshi.zip
-rw-r--r-- 1 root root 1192 Jan 10 15:35 upload_file.php
5）授权
[root@web01 html]# chown -R www.www /var/www/html/
6）启动httpd
[root@web01 html]# systemctl start httpd
[root@web01 html]# netstat -lntp | grep 80
tcp6 0 0 :::80 :::* LISTEN
23791/httpd
7）访问测试
3.将站点目录挂载到nfs服务器
服务端
1）安装nfs
[root@nfs ~]# yum install -y nfs-utils rpcbind
2）配置nfs
[root@nfs ~]# vim /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
3）创建用户
[root@nfs ~]# groupadd www -g 666
[root@nfs ~]# useradd www -u 666 -g 666 -s /sbin/nologin -M
4）创建目录并授权
[root@nfs ~]# mkdir /data
[root@nfs ~]# chown -R www.www /data/
5）启动NFS
[root@nfs ~]# systemctl start rpcbind nfs-server
6）验证NFS配置
[root@nfs ~]# cat /var/lib/nfs/etab
/data
172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,all_squash,n
o_subtree_check,secure_locks,acl,no_pnfs,anonuid=666,anongid=666,sec=sys,rw,
secure,root_squash,all_squash)
客户端（web01）
7）安装rpcbind和nfs
[root@web01 ~]# yum install -y nfs-utils rpcbind
8）查看挂载点
[root@web01 ~]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/data 172.16.1.0/24
9）挂载
[root@web01 ~]# mount -t nfs 172.16.1.31:/data /var/www/html/upload
[root@web01 ~]# df -h
Filesystem Size Used Avail Use% Mounted on
/dev/sda3 18G 1.7G 17G 10% /
devtmpfs 476M 0 476M 0% /dev
tmpfs 487M 0 487M 0% /dev/shm
tmpfs 487M 7.7M 479M 2% /run
tmpfs 487M 0 487M 0% /sys/fs/cgroup
/dev/sda1 1014M 127M 888M 13% /boot
tmpfs 98M 0 98M 0% /run/user/0
172.16.1.31:/data 18G 1.6G 17G 9% /var/www/html/upload
10）测试
4.把NFS挂载目录数据同步到backup服务器
rsync服务端（rsync）
1）安装rsync
[root@backup ~]# yum install -y rsync
2）配置rsync
[root@backup ~]# vim /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = false
auth users = rsync_backup
secrets file = /etc/rsync.passwd
log file = /var/log/rsyncd.log
####################
[data]
path = /data
3）创建用户和用户组
[root@backup ~]# groupadd www -g 666
[root@backup ~]# useradd www -u 666 -g 666 -s /sbin/nologin -M
4）创建密码文件并授权
[root@backup ~]# echo "rsync_backup:123" > /etc/rsync.passwd
[root@backup ~]# chmod 600 /etc/rsync.passwd
5）创建目录并授权
[root@backup ~]# mkdir /data
[root@backup ~]# chown -R www.www /data
6）启动rsyncd服务
[root@backup ~]# systemctl start rsyncd
rsync客户端（NFS服务器）
7）将/data目录推送至backup服务器/data
#方式一：手动输入密码
[root@nfs data]# rsync -avz /data/ rsync_backup@172.16.1.41::data
Password:
#方式二：配置环境变量
[root@nfs data]# export RSYNC_PASSWORD=123
[root@nfs data]# rsync -avz /data/ rsync_backup@172.16.1.41::data
#方式三：指定密码文件
[root@nfs data]# echo "123" > /etc/rsync.password
[root@nfs data]# chmod 600 /etc/rsync.password
[root@nfs data]# rsync -avz /data/ rsync_backup@172.16.1.41::data --
password-file=/etc/rsync.password
5.当NFS服务器出现问题，将web服务器挂载到backup服务器
rsync服务器搭建NFS服务端
1）安装NFS
[root@backup ~]# yum install -y rpcbind nfs-utils
2）配置nfs
[root@backup ~]# vim /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
3）创建目录并授权
[root@backup ~]# mkdir /data
[root@backup ~]# chown -R www.www /data/
4）启动NFS
[root@backup ~]# systemctl start nfs-server
5）验证NFS
[root@backup ~]# cat /var/lib/nfs/etab
/data
172.16.1.0/24(rw,sync,wdelay,hide,nocrossmnt,secure,root_squash,all_squash,n
o_subtree_check,secure_locks,acl,no_pnfs,anonuid=666,anongid=666,sec=sys,rw,
secure,root_squash,all_squash)
6)当nfs服务器出现问题，切换挂载
[root@web01 ~]# umount -lf /var/www/html
[root@web01 ~]# mount -t nfs 172.16.1.41:/data /var/www/html
7.实时同步inotify
1）安装inotify
[root@nfs data]# yum install -y inotify-tools
2）inotify参数
-m 持续监控
-r 递归
-q 静默，仅打印时间信息
--timefmt 指定输出时间格式
--format 指定事件输出格式
%Xe 事件
%w 目录
%f 文件
-e 指定监控的事件
access 访问
modify 内容修改
attrib 属性修改
close_write 修改真实文件内容
open 打开
create 创建
delete 删除
umount 卸载
3）测试命令
/usr/bin/inotifywait -mrq --format '%w %f' -e
create,delete,attrib,close_write /data
4）编写实时同步脚本
#!/bin/bash
inotifywait -mrq --format '%Xe %w %f' -e create,modify,delete,attrib /data/web | while read line
do
rsync -avz /data/web/* rsync_backup@rsync::web --password-file=/etc/rsync.passwd --delete
done
5）上传一个文件，web端查看，nfs挂载目录查看，backup服务器备份目录查看
sersync实时同步
1.什么是实时同步
实时同步是一种只要当前目录发生变化则会触发一个事件，事件触发后会将变化的目录同步至远程服务
器。
2.为什么实时同步
保证数据的连续性, 减少人力维护成本,解决nfs单点故障
3.实现同步的原理
实时同步需要借助inotify通知接口，用来监控目录的变化，如果监控的目录发生变更，则触发动作，
这个动作可以是进行一次同步操作，或其他操作；
4.实时同步工具的选择
1）.rsync+inotify 少量文件同步，麻烦。同步大文件太慢，遍历扫描，非常影响效率。
2.）sersync 配置简单，多线程同步，同步块。适合大量的小文件或者图片。
sersync是国人基于rsync+inotify-tools开发的工具，不仅保留了优点同时还强化了实时监控，文
件过滤，简化配置等功能，帮助用户提高运行效率，节省时间和网络资源。
3）.sersync+RSYNC(√)、inotify+rsync
sersync项目实战
1.环境准备
主机 内网 安装
web01 172.16.1.7 部署作业代码
nfs 172.16.1.31 rsync+inotify+sersync、NFS服务端
rsync 172.16.1.21 rsync服务端
2.nfs服务器部署sersync
1）安装rsync和inotify
[root@nfs ~]# yum install -y rsync inotify-tools
2）下载sersync
[root@nfs ~]# wget
http://down.whsir.com/downloads/sersync2.5.4_64bit_binary_stable_final.tar.g
3）安装sersync（二进制包）
[root@nfs ~]# tar xf sersync2.5.4_64bit_binary_stable_final.tar.gz
源码包：解压，生成，编译，安装
4）移动并改名
[root@nfs ~]# mv GNU-Linux-x86 /usr/local/sersync
5）配置sersync
[root@nfs sersync]# vim confxml.xml
<inotify>
#监控的动作，true就推送，false就不推送
<delete start="true"/>
<createFolder start="true"/>
<createFile start="true"/>
<closeWrite start="true"/>
<moveFrom start="true"/>
<moveTo start="true"/>
<attrib start="true"/>
<modify start="true"/>
</inotify>
<sersync>
#监控的目录
<localpath watch="/data">
#rsync服务端IP #模块名字
<remote ip="172.16.1.41" name="data"/>
<!--<remote ip="192.168.8.39" name="tongbu"/>-->
<!--<remote ip="192.168.8.40" name="tongbu"/>-->
</localpath>
<rsync>
#rsync推送时的参数
<commonParams params="-az"/>
#rsync推送时认证 #认证的虚拟用户 #虚拟用户对应的密码文件
<auth start="true" users="rsync_backup"
passwordfile="/etc/rsync.password"/>
#如果rsync不使用默认的873端口，使用改参数指定
<userDefinedPort start="false" port="874"/><!-- port=874 -->
#超时时间
<timeout start="false" time="100"/><!-- timeout=100 -->
<ssh start="false"/>
</rsync>
#错误日志保存路径
<failLog path="/tmp/rsync_fail_log.sh" timeToExecute="60"/><!--
default every 60mins execute once-->
#定时任务，设置多久进行一次全量备份
<crontab start="false" schedule="600"><!--600mins-->
<crontabfilter start="false">
<exclude expression="*.php"></exclude>
<exclude expression="info/*"></exclude>
</crontabfilter>
</crontab>
<plugin start="false" name="command"/>
</sersync>
6）创建密码文件
[root@nfs sersync]# echo "123" > /etc/rsync.password
[root@nfs sersync]# chmod 600 /etc/rsync.password
7）查看sersync命令
[root@nfs sersync]# ./sersync2 -h
set the system param
execute：echo 50000000 > /proc/sys/fs/inotify/max_user_watches
execute：echo 327679 > /proc/sys/fs/inotify/max_queued_events
parse the command param
_______________________________________________________
参数-d:启?守护进程模式
参数-r:在监控前，将监控目录与远程主机用rsync命令推送?遍
c参数-n: 指定开启守护线程的数量，默认为10个
参数-o:指定配置文件，默认使用confxml.xml?件
参数-m:单独启用其他模块，使用 -m refreshCDN 开启刷新CDN模块
参数-m:单独启用其他模块，使用 -m socket 开启socket模块
参数-m:单独启用其他模块，使用 -m http 开启http模块
不加-m参数，则默认执行同步程序
________________________________________________________________
8）启动sersync
[root@nfs sersync]# ./sersync2 -dro confxml.xml
[root@nfs sersync]# /usr/local/sersync/sersync2 -dro
/usr/local/sersync/confxml.xml
9）验证文件实时同步
rsync配置多模块
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
auth users = rsync_backup
secrets file = /etc/rsync.passwd
####################
[data]
comment = 我是文件共享目录
path = /data
[backup]
comment = 我是数据备份目录
path = /backup
rsync配置多模块不通虚拟用户
[root@backup backup]# vim /etc/rsyncd.conf
uid = www
gid = www
port = 873
fake super = yes
use chroot = no
max connections = 200
timeout = 600
ignore errors
read only = false
list = true
secrets file = /etc/rsync.passwd
####################
[data]
comment = 我是文件共享目录
path = /data
auth users = rsync_data
[backup]
comment = 我是数据备份目录
path = /backup
auth users = rsync_backup
[root@backup backup]# vim /etc/rsync.passwd
rsync_backup:123
rsyncdata:123
NFS配置多个目录可以挂在
[root@nfs ~]# vim /etc/exports
/data 172.16.1.0/24(rw,sync,all_squash,anonuid=666,anongid=666)
/backup 172.16.1.0/24(rw,sync,all_squash)
[root@nfs ~]# systemctl restart nfs
[root@web01 html]# showmount -e 172.16.1.31
Export list for 172.16.1.31:
/backup 172.16.1.0/24
/data 172.16.1.0/24
sersync实时同步多个不同的目录
[root@nfs sersync]# vim confxml2.xml
<sersync>
<localpath watch="/backup">
<remote ip="172.16.1.41" name="backup"/>
[root@nfs sersync]# vim confxml.xml
<sersync>
<localpath watch="/data">
<remote ip="172.16.1.41" name="data"/>
