HJM

导航

Rsync,Linux日志及Screen工具介绍

第十六次课 Rsync,Linux日志及Screen工具介绍


目录
一、rsync工具介绍
二、rsync常用选项
三、rsync通过ssh同步
四、 rsync通过服务同步
五、linux系统日志
六、screen工具
七、扩展


一、rsync工具介绍

Rsync命令是一个远程数据同步工具,可通过LAN/WAN快速同步多台主机间的文件。rsync使用所谓的“rsync算法”来使本地和远程两个主机之间的文件达到同步,这个算法只传送两个文件的不同部分,而不是每次都整份传送,同时可以对上传部分先进行压缩,因此rsync效率很高。rsync可以复制显示目录属性及文件,而且可以选择性地压缩及递归复制。但是rsync每次执行rsync命令都会遍历目标目录,如果文件数达到了一定规模,每次遍历就会消耗很多资源。

Rsync 可以搭配 rsh 或 ssh 甚至使用 daemon 模式。 Rsync server 会打开一个 873 的服务通道 (port) ,等待对方 Rsync 连接。连接时, Rsync server 会检查口令是否相符,若通过口令查核,则可以开始进行文件传输。第一次连通完成时,会把整份文件传输一次,下一次就只传送二个文件之间不同的部份。

Rsync 支持大多数的类 Unix 系统,无论是 Linux 、 Solaris 还是 BSD 上都经过了良好的测试。此外,它在 windows 平台下也有相应的版本,比较知名的有 cwRsync 和 Sync2NAS 。

Rsync 的基本特点如下:

1.可以镜像保存整个目录树和文件系统;

2.可以很容易做到保持原来文件的权限、时间、软硬链接等;

3.无须特殊权限即可安装;

4.优化的流程,文件传输效率高;

5.可以使用 rcp 、 ssh 等方式来传输文件,当然也可以通过直接的 socket 连接;

6.支持匿名传输。

核心算法介绍:

假定在名为α和β的两台计算机之间同步相似的文件 A 与 B ,其中α对文件 A 拥有访问权,β对文件 B 拥有访问权。并且假定主机α与β之间的网络带宽很小。那么 rsync 算法将通过下面的五个步骤来完成:

1.β将文件 B 分割成一组不重叠的固定大小为 S 字节的数据块。最后一块可能会比 S 小。

2.β对每一个分割好的数据块执行两种校验:一种是 32 位的滚动弱校验,另一种是 128 位的 MD4 强校验。

3.β将这些校验结果发给α。

4.α通过搜索文件 A 的所有大小为 S 的数据块 ( 偏移量可以任选,不一定非要是 S 的倍数 ) ,来寻找与文件 B 的某一块有着相同的弱校验码和强校验码的数据块。这项工作可以借助滚动校验的特性很快完成。

5.α发给β一串指令来生成文件 A 在β上的备份。这里的每一条指令要么是对文件 B 经拥有某一个数据块而不须重传的证明,要么是一个数据块,这个数据块肯定是没有与文件 B 的任何一个数据块匹配上的。

如系统中不存在rsync命令,需要安装rsync包。

[root@lanquark chap04]# yum -y install rsync

rsync命令格式

1.rsync [OPTION]... SRC DEST
2.rsync [OPTION]... SRC [USER@]host:DEST
3.rsync [OPTION]... [USER@]HOST:SRC DEST
4.rsync [OPTION]... [USER@]HOST::SRC DEST
5.rsync [OPTION]... SRC [USER@]HOST::DEST
6.rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

对应于以上六种命令格式, rsync 有六种不同的工作模式:

  1. 拷贝本地文件。当 SRC 和 DES 路径信息都不包含有单个冒号 ":" 分隔符时就启动这种工作模式。

  2. 使用一个远程 shell 程序 ( 如 rsh 、 ssh) 来实现将本地机器的内容拷贝到远程机器。当 DST 路径地址包含单个冒号 ":" 分隔符时启动该模式。

  3. 使用一个远程 shell 程序 ( 如 rsh 、 ssh) 来实现将远程机器的内容拷贝到本地机器。当 SRC 地址路径包含单个冒号 ":" 分隔符时启动该模式。

  4. 从远程 rsync 服务器中拷贝文件到本地机。当 SRC 路径信息包含 "::" 分隔符时启动该模式。

  5. 从本地机器拷贝文件到远程 rsync 服务器中。当 DST 路径信息包含 "::" 分隔符时启动该模式。

  6. 列远程机的文件列表。这类似于 rsync 传输,不过只要在命令中省略掉本地机信息即可。


二、rsync常用选项

rsync常用选项
-a 归档模式,表示以递归方式传输文件,并保持所有文件属性。包含-rtplgoD参数选项
-r 同步目录时要加上,类似cp时的-r选项
-v 详细输出模式,传输时的进度等信息
-l 保留软连接
若是拷贝的原目录里面有一个软链接文件,那这个软链接文件指向到了另外一个目录下
在加上-l,它会把软链接文件本身拷贝到目标目录里面去
-L 加上该选项后,同步软链接时会把源文件给同步
-p 保持文件的权限属性
-o 保持文件的属主
-g 保持文件的属组
-D 保持设备文件信息
/dev/sdb1 这样的设备文件有它的特殊性,如果不加-D 可能拷贝过去就是一个非常普通的文件,不能当设备来用
-t 保持文件的时间属性
--delete 删除DEST中SRC没有的文件
--exclude 过滤指定文件,如--exclude “logs”会把文件名包含logs的文件或者目录过滤掉,不同步
-P 显示同步过程,比如速率,比-v更加详细
-u 加上该选项后,如果DEST中的文件比SRC新,则不同步
update
-z 传输时压缩

同步本地文件

//把/etc/passwd文件拷贝到/tmp下并改名为1.txt
[root@lanquark ~]# rsync -av /etc/passwd /tmp/1.txt
sending incremental file list
passwd

sent 1291 bytes  received 31 bytes  2644.00 bytes/sec
total size is 1217  speedup is 0.92

同步目录

[root@bluequark ~]# ls dir1/
a  c  d
[root@bluequark ~]# ls /tmp/
1.txt
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-chronyd.service-jv2Bpr
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vgauthd.service-oCGr69
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vmtoolsd.service-1dlYNS
yum_save_tx.2018-06-17.14-37.9ILO4c.yumtx
yum_save_tx.2018-06-17.14-38.XuyzIC.yumtx
[root@bluequark ~]# rsync -av /root/dir1/ /tmp/dir_test/
sending incremental file list
created directory /tmp/dir_test
./
a
c
d

sent 204 bytes  received 112 bytes  632.00 bytes/sec
total size is 0  speedup is 0.00
[root@bluequark ~]# ls /tmp/dir_test/
a  c  d

rsync远程命令同步/拷贝

//将192.168.1.211 /tmp/1.txt同步到192.168.1.215的 /tmp/1.txt
[root@lanquark ~]# rsync -avz /tmp/1.txt 192.168.1.215:/tmp/1.txt
root@192.168.1.215's password: 
sending incremental file list
1.txt

sent 577 bytes  received 31 bytes  93.54 bytes/sec
total size is 1217  speedup is 2.00
//在192.168.1.215验证
[root@bluequark ~]# ls -l /tmp/1.txt 
-rw-r--r--. 1 root root 1217 Jun 10 10:56 /tmp/1.txt

-l参数保留软链接

//-a选项默认包含-l
[root@bluequark dir1]# ln -s /etc/passwd /root/dir1/passwd.soft
[root@bluequark dir1]# ll
total 0
-rw-r--r--. 1 root root  0 Jun 18 08:02 a
-rw-r--r--. 1 root root  0 Jun 18 08:02 c
-rw-r--r--. 1 root root  0 Jun 18 08:02 d
lrwxrwxrwx. 1 root root 11 Jun 18 08:07 passwd.soft -> /etc/passwd
[root@bluequark dir1]# rsync -av /root/dir1/ /tmp/dir_test/
sending incremental file list
./
passwd.soft -> /etc/passwd

sent 132 bytes  received 22 bytes  308.00 bytes/sec
total size is 11  speedup is 0.07
[root@bluequark dir1]# ls -l /tmp/dir_test/
total 0
-rw-r--r--. 1 root root  0 Jun 18 08:02 a
-rw-r--r--. 1 root root  0 Jun 18 08:02 c
-rw-r--r--. 1 root root  0 Jun 18 08:02 d
lrwxrwxrwx. 1 root root 11 Jun 18 08:07 passwd.soft -> /etc/passwd

-L参数拷贝软链接所指定的源文件

[root@bluequark dir1]# ls /tmp/
1.txt
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-chronyd.service-jv2Bpr
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vgauthd.service-oCGr69
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vmtoolsd.service-1dlYNS
yum_save_tx.2018-06-17.14-37.9ILO4c.yumtx
yum_save_tx.2018-06-17.14-38.XuyzIC.yumtx
[root@bluequark dir1]# ls -l 
total 0
-rw-r--r--. 1 root root  0 Jun 18 08:02 a
-rw-r--r--. 1 root root  0 Jun 18 08:02 c
-rw-r--r--. 1 root root  0 Jun 18 08:02 d
lrwxrwxrwx. 1 root root 11 Jun 18 08:07 passwd.soft -> /etc/passwd
[root@bluequark dir1]# rsync -avL /root/dir1/ /tmp/dir_test/
sending incremental file list
created directory /tmp/dir_test
./
a
c
d
passwd.soft

sent 1,178 bytes  received 131 bytes  2,618.00 bytes/sec
total size is 901  speedup is 0.69
[root@bluequark dir1]# ls -l /tmp/dir_test/
total 4
-rw-r--r--. 1 root root   0 Jun 18 08:02 a
-rw-r--r--. 1 root root   0 Jun 18 08:02 c
-rw-r--r--. 1 root root   0 Jun 18 08:02 d
-rw-r--r--. 1 root root 901 May  8 09:46 passwd.soft

删除目标中源文件中没有的内容

[root@bluequark ~]# ls /tmp/dir_test/
a  c  d  e  g  passwd.soft
[root@bluequark ~]# ls dir1
a  c  d  passwd.soft
[root@bluequark ~]# rsync -av --delete /root/dir1/ /tmp/dir_test/
sending incremental file list
deleting g
deleting e
./
passwd.soft -> /etc/passwd

sent 132 bytes  received 28 bytes  320.00 bytes/sec
total size is 11  speedup is 0.07
//验证
[root@bluequark ~]# ls /tmp/dir_test/
a  c  d  passwd.soft
[root@bluequark ~]# ls dir1/
a  c  d  passwd.soft

过滤指定文件,如txt文件

[root@bluequark dir1]# ls 
a  a.txt  b.txt  c  c.txt  d  d.txt  e.txt  passwd.soft
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  passwd.soft
[root@bluequark dir1]# rsync -av --exclude "*.txt" /root/dir1/ /tmp/dir_test/
sending incremental file list
./

sent 133 bytes  received 19 bytes  304.00 bytes/sec
total size is 11  speedup is 0.07
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  passwd.soft

多次过滤文件(指定多个exclude)

[root@bluequark dir1]# ls 
a  a.txt  b.txt  c  c.txt  d  d.txt  e.txt  f  passwd.soft
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  passwd.soft
[root@bluequark dir1]# rsync -av --exclude "*.txt" --exclude f /root/dir1/ /tmp/dir_test/
sending incremental file list
./

sent 129 bytes  received 19 bytes  296.00 bytes/sec
total size is 11  speedup is 0.07
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  passwd.soft

增量更新

[root@bluequark dir1]# touch new_file
[root@bluequark dir1]# ls 
a  a.txt  b.txt  c  c.txt  d  d.txt  e.txt  f  new_file  passwd.soft
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  passwd.soft
[root@bluequark dir1]# rsync -av --exclude "*.txt" --exclude f /root/dir1/ /tmp/dir_test/
sending incremental file list
./
new_file

sent 197 bytes  received 38 bytes  470.00 bytes/sec
total size is 11  speedup is 0.05
[root@bluequark dir1]# ls /tmp/dir_test/
a  c  d  new_file  passwd.soft

-P参数显示传输过程信息(也可使用--progress)

[root@bluequark dir1]# ls /tmp/
1.txt
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-chronyd.service-jv2Bpr
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vgauthd.service-oCGr69
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vmtoolsd.service-1dlYNS
yum_save_tx.2018-06-17.14-37.9ILO4c.yumtx
yum_save_tx.2018-06-17.14-38.XuyzIC.yumtx
[root@bluequark dir1]# rsync -avP /root/dir1/ /tmp/dir_test/
sending incremental file list
created directory /tmp/dir_test
./
a
              0 100%    0.00kB/s    0:00:00 (xfr#1, to-chk=10/12)
a.txt
              0 100%    0.00kB/s    0:00:00 (xfr#2, to-chk=9/12)
b.txt
              0 100%    0.00kB/s    0:00:00 (xfr#3, to-chk=8/12)
c
              0 100%    0.00kB/s    0:00:00 (xfr#4, to-chk=7/12)
c.txt
              0 100%    0.00kB/s    0:00:00 (xfr#5, to-chk=6/12)
d
              0 100%    0.00kB/s    0:00:00 (xfr#6, to-chk=5/12)
d.txt
              0 100%    0.00kB/s    0:00:00 (xfr#7, to-chk=4/12)
e.txt
              0 100%    0.00kB/s    0:00:00 (xfr#8, to-chk=3/12)
f
              0 100%    0.00kB/s    0:00:00 (xfr#9, to-chk=2/12)
new_file
              0 100%    0.00kB/s    0:00:00 (xfr#10, to-chk=1/12)
passwd.soft -> /etc/passwd

sent 655 bytes  received 248 bytes  1,806.00 bytes/sec
total size is 11  speedup is 0.01
[root@bluequark dir1]# ls /tmp/
1.txt
dir_test
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-chronyd.service-jv2Bpr
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vgauthd.service-oCGr69
systemd-private-3ad1beb047b04c329eb72b75064ba7b3-vmtoolsd.service-1dlYNS
yum_save_tx.2018-06-17.14-37.9ILO4c.yumtx
yum_save_tx.2018-06-17.14-38.XuyzIC.yumtx

-u参数,如果DEST中的文件比SRC新,则不同步

[root@bluequark dir1]# ls
a  a.txt  b.txt  c  c.txt  d  d.txt  e.txt  f  new_file  passwd.soft
[root@bluequark dir1]# ls /tmp/dir_test/
a  a.txt  b.txt  c  c.txt  d  d.txt  e.txt  f  new_file  passwd.soft
[root@bluequark dir1]# echo -e '11111\n222222' >/tmp/dir_test/new_file 
[root@bluequark dir1]# cat /tmp/dir_test/new_file 
11111
222222
[root@bluequark dir1]# rsync -avu /root/dir1/ /tmp/dir_test/
sending incremental file list

sent 255 bytes  received 12 bytes  534.00 bytes/sec
total size is 11  speedup is 0.04
[root@bluequark dir1]# cat /tmp/dir_test/new_file 
11111
222222

-z参数压缩传输内容

[root@bluequark dir1]# rm -rf /tmp/dir_test/
[root@bluequark dir1]# rsync -avzP /root/dir1/ /tmp/dir_test/
sending incremental file list
created directory /tmp/dir_test
./
a
              0 100%    0.00kB/s    0:00:00 (xfr#1, to-chk=10/12)
a.txt
              0 100%    0.00kB/s    0:00:00 (xfr#2, to-chk=9/12)
b.txt
              0 100%    0.00kB/s    0:00:00 (xfr#3, to-chk=8/12)
c
              0 100%    0.00kB/s    0:00:00 (xfr#4, to-chk=7/12)
c.txt
              0 100%    0.00kB/s    0:00:00 (xfr#5, to-chk=6/12)
d
              0 100%    0.00kB/s    0:00:00 (xfr#6, to-chk=5/12)
d.txt
              0 100%    0.00kB/s    0:00:00 (xfr#7, to-chk=4/12)
e.txt
              0 100%    0.00kB/s    0:00:00 (xfr#8, to-chk=3/12)
f
              0 100%    0.00kB/s    0:00:00 (xfr#9, to-chk=2/12)
new_file
              0 100%    0.00kB/s    0:00:00 (xfr#10, to-chk=1/12)
passwd.soft -> /etc/passwd

sent 625 bytes  received 248 bytes  1,746.00 bytes/sec
total size is 11  speedup is 0.01


三、rsync通过ssh同步

将本地文件传输到远程主机。两台主机均需安装rsync工具(推/push)

[root@bluequark dir1]# ifconfig ens32
ens32: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.1.215  netmask 255.255.255.0  broadcast 192.168.1.255
        inet6 fe80::4b8:26ea:7a81:1309  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:23:78:9a  txqueuelen 1000  (Ethernet)
        RX packets 84128  bytes 66006284 (62.9 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 14985  bytes 1268977 (1.2 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
[root@bluequark dir1]# rsync -avz /root/dir1/ root@192.168.1.211:/tmp/
The authenticity of host '192.168.1.211 (192.168.1.211)' can't be established.
ECDSA key fingerprint is SHA256:4YmqUS7zJyKrQPtb2UWWzGDE1GLENRUqVRRhsEF77MM.
ECDSA key fingerprint is MD5:10:39:f7:f6:d3:0e:5e:8a:37:e6:42:05:55:ec:5a:a4.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added '192.168.1.211' (ECDSA) to the list of known hosts.
root@192.168.1.211's password: 
sending incremental file list
./
a
a.txt
b.txt
c
c.txt
d
d.txt
e.txt
f
new_file
passwd.soft -> /etc/passwd

sent 555 bytes  received 215 bytes  102.67 bytes/sec
total size is 11  speedup is 0.01

//在192.168.1.211上验证
[root@lanquark ~]# ls /tmp/
1.cap  c.txt       new_file
1.txt  d           passwd.soft
a      d.txt       systemd-private-5dc4d8c670554b30ad5a839536759825-chronyd.service-yivMCy
a.txt  e.txt       systemd-private-5dc4d8c670554b30ad5a839536759825-vgauthd.service-uYg2rs
b.txt  f           systemd-private-5dc4d8c670554b30ad5a839536759825-vmtoolsd.service-JaTMim
c      mysql.sock

将远程主机主机上的文件复制到本地(拉/pull)

//远程主机192.168.1.211
[root@lanquark ~]# ifconfig ens32
ens32: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.1.211  netmask 255.255.255.0  broadcast 192.168.1.255
        inet6 fe80::5114:2b77:d59a:bc78  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:2f:92:ee  txqueuelen 1000  (Ethernet)
        RX packets 294449  bytes 70104448 (66.8 MiB)
        RX errors 0  dropped 26  overruns 0  frame 0
        TX packets 36584  bytes 3889091 (3.7 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

[root@lanquark ~]# ls 
1.sh  2.sh  anaconda-ks.cfg  datafile  demo  download  download1  employees  iptables-script  iptables_cmd.sh  unixshellfromsamplle
//本地主机192.168.1.215
[root@bluequark dir1]# ifconfig ens32
ens32: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.1.215  netmask 255.255.255.0  broadcast 192.168.1.255
        inet6 fe80::4b8:26ea:7a81:1309  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:23:78:9a  txqueuelen 1000  (Ethernet)
        RX packets 84872  bytes 66189563 (63.1 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 15262  bytes 1304652 (1.2 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0
[root@bluequark ~]# ls
1.txt  anaconda-ks.cfg  dir1

//将192.168.1.211:/root/下的sh文件复制到本地的/root目录下
[root@bluequark ~]# rsync -avPz root@192.168.1.211:/root/*.sh /root/
root@192.168.1.211's password: 
receiving incremental file list
1.sh
            293 100%  286.13kB/s    0:00:00 (xfr#1, to-chk=2/3)
2.sh
            105 100%  102.54kB/s    0:00:00 (xfr#2, to-chk=1/3)
iptables_cmd.sh
            481 100%  469.73kB/s    0:00:00 (xfr#3, to-chk=0/3)

sent 68 bytes  received 633 bytes  155.78 bytes/sec
total size is 879  speedup is 1.25
[root@bluequark ~]# ls
1.sh  1.txt  2.sh  anaconda-ks.cfg  dir1  iptables_cmd.sh

参数-e 指定端口传输文件

////指定对方侦听的22端口,就可以连接对面的22端口。
[root@bluequark ~]# rsync -avP -e "ssh -p 22" /root/1.txt root@192.168.1.211:/root/1.txt
root@192.168.1.211's password: 
sending incremental file list
1.txt
          1,217 100%    0.00kB/s    0:00:00 (xfr#1, to-chk=0/1)

sent 1,302 bytes  received 34 bytes  296.89 bytes/sec
total size is 1,217  speedup is 0.91

//ssh命令可以通过-p参数指定对方打开的ssh端口(默认是22,但是往往出于安装原因会改为其他不知道端口)
[root@bluequark ~]# ssh -p 22 192.168.1.211
root@192.168.1.211's password: 
Last login: Sun Jun 17 10:59:56 2018 from 192.168.1.9
[root@lanquark ~]# ifconfig ens32
ens32: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.1.211  netmask 255.255.255.0  broadcast 192.168.1.255
        inet6 fe80::5114:2b77:d59a:bc78  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:2f:92:ee  txqueuelen 1000  (Ethernet)
        RX packets 295044  bytes 70302481 (67.0 MiB)
        RX errors 0  dropped 26  overruns 0  frame 0
        TX packets 36739  bytes 3912332 (3.7 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

[root@lanquark ~]# exit
logout
Connection to 192.168.1.211 closed.
[root@bluequark ~]# ifconfig ens32
ens32: flags=4163<UP,BROADCAST,RUNNING,MULTICAST>  mtu 1500
        inet 192.168.1.215  netmask 255.255.255.0  broadcast 192.168.1.255
        inet6 fe80::4b8:26ea:7a81:1309  prefixlen 64  scopeid 0x20<link>
        ether 00:0c:29:23:78:9a  txqueuelen 1000  (Ethernet)
        RX packets 86013  bytes 66421505 (63.3 MiB)
        RX errors 0  dropped 0  overruns 0  frame 0
        TX packets 15782  bytes 1371799 (1.3 MiB)
        TX errors 0  dropped 0 overruns 0  carrier 0  collisions 0

ssh免密同步(密钥验证)

//如192.168.1.215需要免密码实现到192.168.1.211的rsync复制,可以通过密钥认证的方式
//生成密钥对
[root@bluequark ~]# ssh-keygen -t rsa
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
SHA256:2mOnhHP91zMzyG9YkK//7tgJkklfXtqxNCJu+Z06Qzw root@bluequark.com
The key's randomart image is:
+---[RSA 2048]----+
|                 |
|                 |
|              .  |
|             o   |
|        S  o..o=.|
|       + .o *E===|
|      + * oBooB+.|
|       = +..oB+O+|
|        .   .+OO@|
+----[SHA256]-----+
//将公钥复制到192.168.1.211,并将公钥内容添加到/root/.ssh/authorized_keys文件
[root@bluequark ~]# ssh-copy-id 192.168.1.211
/usr/bin/ssh-copy-id: INFO: Source of key(s) to be installed: "/root/.ssh/id_rsa.pub"
/usr/bin/ssh-copy-id: INFO: attempting to log in with the new key(s), to filter out any that are already installed
/usr/bin/ssh-copy-id: INFO: 1 key(s) remain to be installed -- if you are prompted now it is to install the new keys
root@192.168.1.211's password: 

Number of key(s) added: 1

Now try logging into the machine, with:   "ssh '192.168.1.211'"

[root@bluequark ~]# ssh 192.168.1.211
Last login: Mon Jun 18 20:55:57 2018 from 192.168.1.215

[root@lanquark ~]# rsync -av 192.168.1.211:/etc/passwd /tmp/mypasswd
receiving incremental file list
passwd

sent 30 bytes  received 1296 bytes  884.00 bytes/sec
total size is 1217  speedup is 0.92
[root@lanquark ~]# ls /tmp/
1.cap  b.txt  d.txt     mypaswd      systemd-private-5dc4d8c670554b30ad5a839536759825-chronyd.service-yivMCy
1.txt  c      e.txt     mysql.sock   systemd-private-5dc4d8c670554b30ad5a839536759825-vgauthd.service-uYg2rs
a      c.txt  f         new_file     systemd-private-5dc4d8c670554b30ad5a839536759825-vmtoolsd.service-JaTMim
a.txt  d      mypasswd  passwd.soft


四、 rsync通过服务同步

服务端配置

1.新建rsync的配置文件

//以192.168.1.211作为服务端,192.168.1.215作为客户端
//在192.168.1.211上新建rsync服务端的配置文件
[root@lanquark ~]# touch /etc/rsyncd.conf
[root@lanquark ~]# ls -l /etc/rsyncd.conf 
-rw-r--r--. 1 root root 458 Jun 18 21:28 /etc/rsyncd.conf
[root@lanquark ~]# vim /etc/rsyncd.conf 
添加如下内容
uid = rsync
gid = rsync
use chroot = no
timeout = 600 
max connections = 2000
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
host allow = 192.168.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
path = /backup
comment = for data backup by kennminn  

2.创建rsync用户及共享目录/backup

[root@lanquark ~]# useradd rsync -M -s /sbin/nologin
[root@lanquark ~]# id rsync
uid=5004(rsync) gid=5004(rsync) groups=5004(rsync)
[root@lanquark ~]# mkdir /backup
[root@lanquark ~]# chown -R rsync /backup

3.创建密码文件

[root@lanquark ~]# echo "rsync_backup:123456" > /etc/rsync.password
[root@lanquark ~]# chmod 600 /etc/rsync.password
[root@lanquark ~]# cat /etc/rsync.password 
rsync_backup:123456

4.以守护进程方式启动:rsync --daemon

[root@lanquark ~]# rsync --daemon
//验证是否启动,rsync守护进程默认监听873端口
[root@lanquark ~]# netstat -nltup | grep :873
tcp        0      0 0.0.0.0:873             0.0.0.0:*               LISTEN      13571/rsync         
tcp6       0      0 :::873                  :::*                    LISTEN      13571/rsync         
或
[root@lanquark ~]# ps -ef | grep rsync | grep -v grep
root      13571      1  0 21:50 ?        00:00:00 rsync --daemon

5.加入开机自启动

[root@lanquark ~]# echo "rsync --daemon" >> /etc/rc.local
[root@lanquark ~]# cat /etc/rc.local
#!/bin/bash
# THIS FILE IS ADDED FOR COMPATIBILITY PURPOSES
#
# It is highly advisable to create own systemd services or udev rules
# to run scripts during boot instead of using this file.
#
# In contrast to previous versions due to parallel execution during boot
# this script will NOT be run after all other services.
#
# Please note that you must run 'chmod +x /etc/rc.d/rc.local' to ensure
# that this script will be executed during boot.

touch /var/lock/subsys/local
rsync --daemon

至此,服务器端设置完毕

客户端设定

1.创建密码文件

[root@lanquark ~]# echo "123456" >>/etc/rcync.password
[root@lanquark ~]# cat /etc/rcync.password 
123456
[root@lanquark ~]# chmod 600 /etc/rsync.password

客户端设置完成。

验证

//在客户端192.168.1.215上往服务器推送目录dir2
[root@bluequark ~]# rsync -avz dir2/ rsync_backup@192.168.1.211::backup --password-file=/etc/rsync.password
sending incremental file list
./
1.sh
2.sh
iptables_cmd.sh

sent 657 bytes  received 75 bytes  488.00 bytes/sec
total size is 879  speedup is 1.20
//在服务端查看
[root@lanquark ~]# ls /backup/
1.sh  2.sh  iptables_cmd.sh

//从服务端往下拉文件
[root@bluequark ~]# rsync -avz rsync_backup@192.168.1.211::backup /tmp/backup/ --password-file=/etc/rsync.password 
receiving incremental file list
created directory /tmp/backup
./
1.sh
1.txt
2.sh
iptables_cmd.sh

sent 143 bytes  received 786 bytes  1,858.00 bytes/sec
total size is 879  speedup is 0.95
[root@bluequark ~]# ls /tmp/backup/
1.sh  1.txt  2.sh  iptables_cmd.sh

QA

//错误:no route to host
[root@bluequark ~]# rsync -avz rsync_backup@192.168.1.211::backup /tmp/backup/ --password-file=/etc/rsync.password 
rsync: failed to connect to 192.168.1.211 (192.168.1.211): No route to host (113)
//解决,在firewalld防火墙添加规则即可
[root@lanquark ~]# firewall-cmd --zone=public --add-service=rsyncd
success
[root@bluequark ~]# telnet 192.168.1.211 873
Trying 192.168.1.211...
Connected to 192.168.1.211.
Escape character is '^]'.
@RSYNCD: 30.0
^]
telnet> quit
Connection closed.
[root@bluequark ~]# rsync -avz rsync_backup@192.168.1.211::backup /tmp/backup/ --password-file=/etc/rsync.password 
receiving incremental file list

sent 64 bytes  received 185 bytes  498.00 bytes/sec
total size is 879  speedup is 3.53


五、linux系统日志

Linux系统中会有很多的日志文件,这些文件可以帮助我们了解很多系统的重要事件。这些文件一般都存放在/var/log目录中。常见的日志文件有:

1./var/log/messages:这个文件相当重要,几乎系统发生的所有错误信息或重要信息都会记录在这个文件中,包含系统启动时的引导消息及系统运行时的其他状态消息。

2./var/log/secure:记录系统的安全信息,如ssh、ftp、pop3

3./var/log/dmesg:记录系统在启动时核心检测过程所生产的各项信息

4./var/log/lastlog:记录系统上所有用户最后一次登录系统的信息,lastlog命令就是利用该文件的内容来显示数据的。

5./var/log/wtmp:记录用户登录系统及退出系统的信息,该文件是经过处理的,无法直接查看,可以使用相关命令来查看,如last和ac命令

6./var/log/boot.log:记录守护进程启动和停止相关的日志信息

7./var/log/faillog:记录登录失败时的用户信息

8./var/log/cron:记录与定时任务crontab相关的日志信息

9./var/log/httod/,/var/log/news/,/var/log/samba/*:各个服务的日志文件,记录各自的服务产生的日志信息

syslogd服务可以帮助我们主动收集到设备的各种信息,并将其保存在服务器上,当出现问题时可以省去手动收集信息的麻烦,方便快捷的从syslogd服务中读取各种信息进行分析排错。

在centos7中已经用rsyslogd取代了syslogd。rsyslod是加强版的syslogd,且完美兼容syslogd。

rsyslogd的主要配置文件:/etc/rsyslog.conf

[root@bluequark ~]# cat /etc/rsyslog.conf 
# rsyslog configuration file

# For more information see /usr/share/doc/rsyslog-*/rsyslog_conf.html
# If you experience problems, see http://www.rsyslog.com/doc/troubleshoot.html


#### RULES ####

# Log all kernel messages to the console.
# Logging much else clutters up the screen.
#kern.*                                                 /dev/console

# Log anything (except mail) of level info or higher.
# Don't log private authentication messages!
*.info;mail.none;authpriv.none;cron.none                /var/log/messages

# The authpriv file has restricted access.
authpriv.*                                              /var/log/secure

# Log all the mail messages in one place.
mail.*                                                  -/var/log/maillog
...中间略...

# Log cron stuff
cron.*                                                  /var/log/cron

# Everybody gets emergency messages
*.emerg                                                 :omusrmsg:*

# Save news errors of level crit and higher in a special file.
uucp,news.crit                                          /var/log/spooler

# Save boot messages also to boot.log
local7.*                                                /var/log/boot.log


# ### end of the forwarding rule ###

配置日志记录的规则语法格式如下

服务名[.=!]信息等级 记录方式

服务名

ID 服务名 说明
0 kern 内核日志信息
1 user 用户日志信息
2 mail 邮件系统日志信息
3 daemon 系统守护进程日志信息
4 auth 安全管理日志信息
5 syslog syslogd守护进程日志信息
6 lpr 打印服务日志信息
7 news 新闻组服务日志信息
8 uucp uucp系统日志信息
9 cron cron守护进程日志信息
10 authpriv 私有的安全管理日志信息
11 ftp ftp守护进程
12-15 local0-local7 系统保留
16-23 保留给系统本地使用

信息等级

ID 信息等级 说明
0 emerg或panic 系统不可用,死机
1 alert 警告事件,可能会影响到系统的运行,必须立即采取行动纠正事件
2 cri 严重错误,比error更严重的错误,如硬件故障
3 error或err 错误信息,如某些服务无法启动。需仔细检查错误原因
4 warning 警告信息,但不会影响系统的进程
5 notice 比info更应注意的信息,需特别处理
6 info 基本信息,主要是一些提示信息
7 debug 程序调试信息

连接符

服务名与信息等级之间有一个连接符。与后面的信息等级结合使用可以表示服务要记录哪些级别的日志信息。

1.:记录高于等于该等级的信息
2.=:只记录等于该等级的信息
3.!:记录除了该等级外的所有信息

配置文件/etc/sysconfig/rsyslog主要用来配置是否接收其他主机的日志信息。

[root@bluequark ~]# cat /etc/sysconfig/syslog
cat: /etc/sysconfig/syslog: No such file or directory
[root@bluequark ~]# cat /etc/sysconfig/rsyslog
# Options for rsyslogd
# Syslogd options are deprecated since rsyslog v3.
# If you want to use them, switch to compatibility mode 2 by "-c 2"
# See rsyslogd(8) for more details
SYSLOGD_OPTIONS=""
//若想要让本机接收其他主机发送的日志文件,可以将SYSLOGD_OPTION的内容设为"-c 0 -r"
//SYSLOGD_OPTION="-c 0 -r"

日志文件如果不定期清理,可能会导致出现内容过多,容量过大,甚至填满整个磁盘空间的问题。Linux系统提供了一个logrotate工具,与cron配合使用可以很方便地管理日志信息。

logrotate是按计划运行的。配置文件:/etc/logrotate.conf(主配置文件)和/etc/logrotate.d目录下的文件

[root@bluequark ~]# cat /etc/logrotate.conf 
# see "man logrotate" for details
# rotate log files weekly
# 所有的文件每星期进行一次rotate的工作
weekly

# keep 4 weeks worth of backlogs
# 转储的文件保留4个
rotate 4

# create new (empty) log files after rotating old ones
# 自动建立新的日志文件,新建立的日志与原文件拥有相同的权限
create

# use date as a suffix of the rotated file
dateext

# uncomment this if you want your log files compressed
# 不压缩转储后的文件,如果需要压缩可以去掉注释
#compress

# RPM packages drop log rotation information into this directory
# 读取/etc/lorotate.d目录下的文件来执行rotate工作
include /etc/logrotate.d

# no packages own wtmp and btmp -- we'll rotate them here
/var/log/wtmp {
    monthly
    create 0664 root utmp
	minsize 1M
    rotate 1
}

/var/log/btmp {
    missingok
    monthly
    create 0600 root utmp
    rotate 1
}

# system-specific logs may be also be configured here.

logrotate配置文件的相关参数说明

参数 说明
compress 通过gzip压缩转储后的文件
nocompress 不需要压缩时,使用这个参数
copytruncate 用于还在打开中的日志文件,把当前日志备份并截断
nocopytruncate 备份日志文件但是不截断
create mode owner group 转储文件,使用指定的文件模式创建新的日志文件
nocreate 不建立新的日志文件
delaycompress 和 compress 一起使用时,转储的日志文件到下一次转储时才压缩
nodelaycompress 覆盖delaycompress选项,转储同时压缩
errors address 转储时错误信息发送到指定的email
ifempty 即使是空文件也转储,这个是logrotate的默认选项
noifempty 如果是空文件,则不转储
mail address 把转储的日志文件发送到指定的email地址
nomail 转储时不发送日志文件
olddir directory 转存后的日志文件放入指定的目录,必须和当前日志文件在同一个文件系统中
noolddir 转储后的日志文件和当前日志放在一个目录下
prerotate/endscript 在转储以前需要执行的命令可以放入这两个关键字之间,这两个关键字必须单独成行
postrotate/endscript 在转储以后需要执行的命令可以放入这两个关键字之间,这两个关键字必须单独成行
daily 指定转储周期为每天
weekly 指定转储周期为每周
monthly 指定转储周期为每月
rotate count 日志文件删除之前转储的次数,0指没有备份,5指保留5个备份
tabootex[+]list 让logrotate不转储指定扩展名的文件,默认扩展名是.rpm-orig,.rpmsave,v和~
size 当日志文件达到指定大小才转储,size可指定byte(默认)及KB或MB

dmesg命令

dmesg命令,会把系统硬件相关的日志列出来。这个日志是保存在内存中的,并不是一个文件

假如你的网卡有问题了,硬盘损坏了,都会记录在这个日志中

dmesg -c //清空当前日志,但是一重启这个系统,又会生成这些日志

/var/log/dmesg日志文件

这个日志文件和 dmesg命令 没有任何关联

它是系统启动的一个日志,记录的信息

last命令

默认情况下last读取/var/log/wtmp文件中的信息。

[root@bluequark ~]# last
root     pts/0        192.168.1.9      Mon Jun 18 07:59   still logged in   
root     pts/0        192.168.1.9      Mon Jun 18 07:46 - 07:58  (00:12)    
root     tty1                          Sun Jun 17 14:30   still logged in   
root     tty1                          Sat Jun 16 10:02 - 14:30 (1+04:27)   
reboot   system boot  3.10.0-693.el7.x Wed Jun 13 11:47 - 13:21 (5+01:34)   
root     tty1                          Tue Jun 12 14:20 - 15:35  (01:15)    
reboot   system boot  3.10.0-693.el7.x Tue Jun 12 14:20 - 13:21 (5+23:01)   
root     tty1                          Tue May  8 09:54 - 09:59  (00:04)    
reboot   system boot  3.10.0-693.el7.x Tue May  8 09:51 - 13:21 (41+03:29)  

wtmp begins Tue May  8 09:51:58 2018

-n参数指定记录数

[root@bluequark ~]# last -n 5
root     pts/0        192.168.1.9      Mon Jun 18 07:59   still logged in   
root     pts/0        192.168.1.9      Mon Jun 18 07:46 - 07:58  (00:12)    
root     tty1                          Sun Jun 17 14:30   still logged in   
root     tty1                          Sat Jun 16 10:02 - 14:30 (1+04:27)   
reboot   system boot  3.10.0-693.el7.x Wed Jun 13 11:47 - 13:23 (5+01:35)   

wtmp begins Tue May  8 09:51:58 2018

lastb命令,查看登录失败的用户,对应的文件时/var/log/btmp 日志

/var/log/btmp是二进制文件,不能直接cat

[root@bluequark ~]# lastb

btmp begins Wed Jun 13 11:47:29 2018

lastlog显示当前系统上的所有用户最后一次登录系统的时间。(读取/var/log/lastlog)

[root@bluequark ~]# lastlog
Username         Port     From             Latest
root             pts/0    192.168.1.9      Mon Jun 18 07:59:04 -0400 2018
bin                                        **Never logged in**
daemon                                     **Never logged in**
adm                                        **Never logged in**
lp                                         **Never logged in**
sync                                       **Never logged in**
shutdown                                   **Never logged in**
halt                                       **Never logged in**
mail                                       **Never logged in**
operator                                   **Never logged in**
games                                      **Never logged in**
ftp                                        **Never logged in**
nobody                                     **Never logged in**
systemd-network                            **Never logged in**
dbus                                       **Never logged in**
polkitd                                    **Never logged in**
postfix                                    **Never logged in**
sshd                                       **Never logged in**
chrony                                     **Never logged in**
kennminn                                   **Never logged in**

六、screen工具

Screen是一款由GNU计划开发的用于命令行终端切换的自由软件。用户可以通过该软件同时连接多个本地或远程的命令行会话,并在其间自由切换。GNU Screen可以看作是窗口管理器的命令行界面版本。它提供了统一的管理多个会话的界面和相应的功能。

会话恢复

只要Screen本身没有终止,在其内部运行的会话都可以恢复。这一点对于远程登录的用户特别有用——即使网络连接中断,用户也不会失去对已经打开的命令行会话的控制。只要再次登录到主机上执行screen -r就可以恢复会话的运行。同样在暂时离开的时候,也可以执行分离命令detach,在保证里面的程序正常运行的情况下让Screen挂起(切换到后台)。这一点和图形界面下的VNC很相似。

多窗口

在Screen环境下,所有的会话都独立的运行,并拥有各自的编号、输入、输出和窗口缓存。用户可以通过快捷键在不同的窗口下切换,并可以自由的重定向各个窗口的输入和输出。Screen实现了基本的文本操作,如复制粘贴等;还提供了类似滚动条的功能,可以查看窗口状况的历史记录。窗口还可以被分区和命名,还可以监视后台窗口的活动。 会话共享 Screen可以让一个或多个用户从不同终端多次登录一个会话,并共享会话的所有特性(比如可以看到完全相同的输出)。它同时提供了窗口访问权限的机制,可以对窗口进行密码保护。

系统默认没有安装screen工具,可用yum工具安装

[root@bluequark ~]# yum -y install screen

常见用法

screen直接回车就进入了虚拟终端

ctrl a组合键再按d退出虚拟终端,但不是结束

screen -ls 查看虚拟终端列表

screen -r id 进入指定的终端

screen -S w1

screen -r w1

//进入虚拟终端
[root@bluequark ~]# screen 

//screen -ls 查看虚拟终端列表
[root@bluequark ~]# screen -ls
There is a screen on:
        6273.pts-0.bluequark    (Attached)
1 Socket in /var/run/screen/S-root.

//退出虚拟终端ctrl+a;d

//[root@bluequark ~]# screen 
[detached from 6273.pts-0.bluequark]

//进入指定终端
[root@bluequark ~]# screen -r 6273

[root@bluequark ~]# screen -ls
There is a screen on:
        6273.pts-0.bluequark    (Attached)
1 Socket in /var/run/screen/S-root.

[root@bluequark ~]# 

//取名firest
[root@bluequark ~]# screen -S first
[root@bluequark ~]# screen -ls
There are screens on:
        6289.first      (Attached)
        6273.pts-0.bluequark    (Attached)
2 Sockets in /var/run/screen/S-root.

需求,执行一个脚本,需要一天一夜,而且脚本会输出一些东西出来,这就意味着这个脚本不能中途断开,保证脚本不中断,有两种方法:

方法一:把这个任务丢到后台去,然后加一个日志的输出

命令nohup command &——>nohup 加执行命令 加日志 再加一个&符号

这时即使你的终端断开,依旧会在后台执行——>但虽然解决了任务中断的问题,但是没有办法实时查看输出的内容

方法二:screen工具,可以把要执行的命令,放到这个终端里,然后在退出pts/0之前,可以把screen丢到后台去,随时用, 随时查看

screen可以执行多个虚拟终端,同时运行,若想进入到其中一个,指定id即可

但是时间久了,有可能会忘记某一个screen是运行的是什么(因为名字是相同的)

我们可以给screen作业的名称

screen -S "test_screen"

screen -r 后可以加id号,可以是screen作业的名称


七、扩展

扩展

  1. Linux日志文件总管logrotate http://linux.cn/article-4126-1.html
  2. xargs用法详解 http://blog.csdn.net/zhangfn2011/article/details/6776925

posted on 2018-06-19 09:02  kennminn  阅读(672)  评论(0编辑  收藏  举报