背景
线上一套 MySQL 计划升级到 8.0 ，通过备份还原搭建一个测试环境，用于升级测试。数据库采用 xtrabackup 每天进行全备，压缩备份文件约 300G ，解压到一半就报错了：
代码语言：text复制gzip: stdin: invalid compressed data--format violated
tar: Unexpected EOF in archive
tar: Unexpected EOF in archive
tar: Error is not recoverable: exiting now刚开始以为只是这个备份文件不完整，又找了前一天备份文件，解压过程中也报了同样的错误，备份文件比较大，无疑增加了排障时间。
故障分析
备份脚本通过 crontab 每天凌晨执行，线上都是同一套备份脚本，不同项目时常做备份数据还原，还是头一次遇到备份文件解压失败现象，查看了脚本，每个关键阶段都做了状态码判断是否成功，若失败就告警，同时对 xtrabackup 备份日志最后一行是否包含 completed OK 关键词也做了判断，关键备份脚本如下：
代码语言：text复制xtrabackup xxx --stream=tar --no-timestamp $bkdir 2> xxx.log | gzip - > xxx.tar.gz近期也没收到失败告警，说明备份脚本是执行成功了的，感觉太奇怪了，查看定时任务日志，发现同一任务同一时间点竟然启了2次：
代码语言：text复制[root@localhost backup]# grep backup /var/log/cron
Mar 6 00:00:01 localhost CROND[6212]: (root) CMD (sh xxx/mysql_ftp_backup.sh || echo 1 > xxx/err.log)
Mar 6 00:00:01 localhost CROND[6229]: (root) CMD (sh xxx/mysql_ftp_backup.sh || echo 1 > xxx/err.log)
Mar 7 00:00:01 localhost CROND[5387]: (root) CMD (sh xxx/mysql_ftp_backup.sh || echo 1 > xxx/err.log)
Mar 7 00:00:01 localhost CROND[5420]: (root) CMD (sh xxx/mysql_ftp_backup.sh || echo 1 > xxx/err.log)crond 服务每次同时拉起2个进程执行备份，并发地往同一个压缩文件 xxx.tar.gz 写数据，备份数据相互覆盖，导致备份文件损坏，每天看似备份成功的任务，其实备份都是无效的，这也说明了定期备份恢复演练的重要性。为何定时任务同一时间点会启动2次？查看 crond 进程：
代码语言：text复制[root@localhost backup]# ps -ef|grep crond |grep -v grep
root 2883 1 0 2018 ? 01:42:46 crond
root 17293 1 0 2022 ? 00:43:22 crond原来是因为系统启动了2个 crond 进程，kill crond 进程后重启，再次查看只有一个 crond 进程：
代码语言：text复制[root@localhost backup]# service crond stop
Stopping crond: [ OK ]
[root@localhost backup]# ps -ef|grep crond
root 2883 1 0 2018 ? 01:42:46 crond
root 31486 31856 0 10:59 pts/2 00:00:00 grep crond
[root@localhost backup]# kill 2883
[root@localhost backup]# ps -ef|grep crond
root 31572 31856 0 10:59 pts/2 00:00:00 grep crond
[root@localhost backup]# service crond start
Starting crond: [ OK ]
[root@localhost backup]# ps -ef|grep crond
root 31632 1 0 10:59 ? 00:00:00 crond
root 31639 31856 0 11:00 pts/2 00:00:00 grep crond总结
为了确保备份有效，需要做如下改进：
1、flock给脚本执行加互斥锁，确保一个时间点只有1个进程运行。
2、定期做备份恢复演练。
3、增加crond进程监控，不等于1告警。
