linux下创建定时任务备份数据库

需求背景

最近公司国资委系统上线,珍贵的业务数据批量录入,此时面临一个问题,万一数据出问题咋办,这可是上百个国资企业录入的数据啊,真丢了哭都没地哭啊,数据库数据备份需求来了。

我们系统使用的docker进行各个应用及数据库管理,数据库数据文件挂载在服务器本地目录下,因此数据库备份可以简化下,只要把数据文件挂载目录备份就好了。计划写个shell脚本定时执行。

知识点

针对此次备份涉及的知识点有:

1.shell执行时实现交互,因为要输入密码(权限问题tar挂载目录时,需要sudo;tar包需要scp到另外的服务存储,需要用scp命令。都需要输入密码)

2.linux环境下设置定时任务

准备条件

1. shell交互命令我用到expect交互工具,此工具需要安装;安装及使用教程可以网上搜索,执行如下命令,返回如下表示安装成功

  $ expect
  expect1.1>

查看命令引用目录(加粗部分):

$ whereis expect
expect: /usr/bin/expect /usr/share/man/man1/expect.1.gz

此时我们就可以使用expect工具了。 

2. 定时任务使用crontab,一般系统已默认安装,需要提前确认crond服务是否启动,执行命令systemctl status crond,返回如下表示定时任务服务运行中

$ systemctl status crond
● crond.service - Command Scheduler
   Loaded: loaded (/usr/lib/systemd/system/crond.service; enabled; vendor preset: enabled)
   Active: active (running) since Tue 2021-06-29 19:49:09 CST; 4 months 6 days ago
  Process: 12679 ExecReload=/bin/kill -HUP $MAINPID (code=exited, status=0/SUCCESS)
 Main PID: 1389 (crond)
   Memory: 808.0K
   CGroup: /system.slice/crond.service
           └─1389 /usr/sbin/crond -n

编写脚本

 1.以下是交互输入密码完成数据库文件压缩备份的脚本,/mysql目录是数据库挂载目录。注意密码中 含特殊符号$,前面需要加上转义符\

#!/usr/bin/expect           
        spawn sudo tar -zvcf /home/gridnt/mariadb-backup.tar.gz /mysql
        expect "*password for gridnt:" {send "123456\$789\r"}
        expect "*\\\$*"   {send "exit \r"}
        expect eof

expect具体语法可以网上查询学习,expect后“”范围内的内容可以参考实际执行命令的返回信息,支持模糊匹配,用*号代指多个字符

参考《Centos expect spawn、linux expect 用法https://www.cnblogs.com/zhangmingcheng/p/7449776.html》网友的文章,至少我看明白了

此处遇到一个问题,我除了使用expect外,还需要使用bash解释器做一些变量定义等简单逻辑,如何将expect与bash脚本写到一个shell脚本中呐,该难题留到最后解决

2.linux环境设置定时任务

分别使用了以下两种方式

$ crontab -e
直接添加
1
* * * * /home/backup.sh

$ vi /etc/crontab 直接添加到最后一行 1 * * * * /home/backup.sh

但是都未生效。根据网上说的修改配置文件之后需要重新加载配置文件或者重启crond才能生效,实际只要修改了配置文件即可生效,无需使用systemctl reload crond加载。

多个环境尝试后发现定时任务未生效是非root用户进行设置导致的,解决方案如下,当前用户gridnt,每天1点执行脚本,注意以下黄色标记部分:

$ vi /etc/crontab

SHELL=/bin/bash
PATH=/sbin:/bin:/usr/sbin:/usr/bin
MAILTO=gridnt

# For details see man 4 crontabs

# Example of job definition:
# .---------------- minute (0 - 59)
# |  .------------- hour (0 - 23)
# |  |  .---------- day of month (1 - 31)
# |  |  |  .------- month (1 - 12) OR jan,feb,mar,apr ...
# |  |  |  |  .---- day of week (0 - 6) (Sunday=0 or 7) OR sun,mon,tue,wed,thu,fri,sat
# |  |  |  |  |
# *  *  *  *  * user-name  command to be executed
* 1 * * * gridnt /home/backup.sh

困难总结

1.编写shell脚本过程中发现一个问题,我大部分脚本是#!/bin/bash开头,表示使用bash解释器,但交互部分的脚本则需要#!/usr/bin/expect开头,表示使用expect工具解释脚本。如何将bash和expect两个解释器组合使用呐,这是我遇到的第一个难题

  解决此问题用到一个知识点EOF。Shell中通常将EOF与 << 结合使用,表示后续的输入作为子命令或子Shell的输入,直到遇到EOF为止,再返回到主调Shell。合并后脚本如下(未包含scp)

#!/bin/bash
DATE=$( date  +%Y%m%d)
set timeout 30

password='123456\$789'
/usr/bin/expect <<-EOF
spawn
sudo tar -zvcf /home/mariadb-backup_${DATE}.tar.gz /mysql
expect
"*password for gridnt:" {send "${password}\r"}
expect
"*\\\$*" {send "exit \r"}
expect eof
EOF

2.我的定时任务不生效,更换多个服务器对比发现,当root用下设置定时任务时,定时任务成功,但是自定义账号时则失败。如何设置非root账号的定时任务,这是我遇到的第二个难题

  解决此问题,需要了解crontab的任务是有指定用户的;此外学会查看日志跟踪定时任务

$ tail -f /var/log/cron
Nov  4 01:00:01 sasac-001 CROND[31376]: (gridnt) CMD (/home/backup.sh)

 

posted @ 2021-11-04 17:15  钟灵.毓秀  阅读(375)  评论(0编辑  收藏  举报