Linux系统crond、rsync、打包备份数据操作实战

Linux系统crond、rsync、打包备份数据操作实战
前面介绍了系统中定时任务、rsync、打包等各种操作，同时也介绍了实际生产环境中的各类案例，今天我们结合这几种功能做一次实战（备份数据）一：项目背景
某公司WEB服务器数据非常重要，但是如果硬件出现故障，数据就会丢失，人工备份比较费时费力，因些需要进行相关自动备份，并且要备份至指定的备份服务器上具体备份内容有：1、网站站点所有目录及相关文件2、系统相关的配置文件3、网站的访问日志文件具体要求如下：（每天0点备份）1、WEB服务器上的数据和备份服务器上的数据都存放在/backup/下（规范）2、系统文件各类配置文件（定时任务、脚本等）3、web服务器站点目录（/var/web/www）4、web服务器日志目录（/app/logs）5、web服务器数据只保留7天内的备份内容，备份服务器上保留180天内的数据6、备份服务器上的备份要求按照服务器IP为目录保存，备份的数据需按时间做为文件名二：需求分析
鉴于目前此种需求进行分析，可以得出操作思路为1、备份服务器B配置rsync服务，做为服务端2、web服务器配置为rsync客户端3、web服务器上打包备份数据至指定的目录/backup/下4、然后利用rsync服务推送备份数据至备份服务器上5、以上配置完成后，可手工测试，如果测试成功，可将上述配置打包写成脚本6、将脚本写入定时任务，周期性进行备份数据三：项目结构图

四：备份服务器操作过程
1、服务器环境[root@Backup ~]# cat /etc/redhat-releaseCentOS release 6.5 (Final)[root@Backup ~]# uname -r2.6.32-431.el6.x86_642、配置rsync操作过程
[root@Backup ~]# cat /etc/rsyncd.conf
cat: /etc/rsyncd.conf: No such file or directory如果有此文件，配置前要进行备份，再进行相关配置配置rsync服务
[root@Backup ~]# cat /etc/rsyncd.conf##rsync config start##created by root 2016-08-08 15:00##rsync.conf config startuid = rsyncgid = rsyncuse chroot = nomax connetctions = 200timeout = 100pid file = /var/run/rsyncd.pidlock file = /var/run/rsync.locklog file = /var/log/rsyncd.log[rsync]path = /backup/ignore errorsread only = falselist = falsehosts allow = 192.168.1.0/24hosts deny = 0.0.0.0/32auth users = rsync_backupsecrets file = /etc/rsync.password##rsync config end添加用户[root@Backup ~]# useradd rsync -s /sbin/nologin -M改变目录权限
[root@Client ~]# chown -R rsync.rsync /backup 配置密码文件[root@Backup ~]# echo "rsync_backup:rsync.conf">>/etc/rsync.password[root@Backup ~]# cat /etc/rsync.password rsync_backup:rsync.conf
改变密码文件权限[root@Backup ~]# chmod 600 /etc/rsync.password [root@Backup ~]# ls -ld /etc/rsync.password -rw-------. 1 root root 24 Sep 9 13:06 /etc/rsync.password格式化文件[root@Backup ~]# dos2unix /etc/rsyncd.conf dos2unix: converting file /etc/rsyncd.conf to UNIX format ...开启服务后台运行
[root@Backup ~]# rsync --daemon[root@Backup ~]# netstat -lntup|grep rsynctcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN 2002/rsync tcp 0 0 :::873 :::* LISTEN 2002/rsync 将服务开启命令写入开机自启当中[root@Backup ~]# echo "##web backup by root 20160808">>/etc/rc.local;echo "/usr/bin/rsync --daemon">>/etc/rc.local五：WEB服务器操作过程
1、服务器环境[root@WEB ~]# cat /etc/redhat-releaseCentOS release 6.5 (Final)[root@WEB ~]# uname -r2.6.32-431.el6.x86_642、配置rsyncp客户端
[root@WEB ~]# echo "rsync.conf">>/etc/rsync.password[root@WEB ~]# cat /etc/rsync.password rsync.conf[root@WEB ~]# chmod 600 /etc/rsync.password[root@WEB ~]# ls -ld /etc/rsync.password-rw-------. 1 root root 11 Sep 8 06:25 /etc/rsync.password3、创建相应的目录
[root@WEB /]# mkdir /backup/[root@WEB /]# mkdir /var/web/www -p[root@WEB /]# mkdir /app/logs -p [root@WEB /]# tree /var/web
/var/web+-- www[root@WEB /]# tree /app/app+-- logs4、手工测试下推送数据是否成功
[root@WEB backup]# rsync -avzP /backup/ rsync_backup@192.168.1.3::rsync --password-file=/etc/rsync.password
sending incremental file list./a 0 100% 0.00kB/s 0:00:00 (xfer#1, to-check=3/5)b0 100% 0.00kB/s 0:00:00 (xfer#2, to-check=2/5)c0 100% 0.00kB/s 0:00:00 (xfer#3, to-check=1/5)d0 100% 0.00kB/s 0:00:00 (xfer#4, to-check=0/5)sent 197 bytes received 87 bytes 568.00 bytes/sec
total size is 0 speedup is 0.00[root@Backup ~]# cd /backup/
[root@Backup backup]# tree+-- a+-- b+-- c+-- d表明数据能成功推送至备份服务器相应的目录下，同时说明上述配置正确六、按要求打包需求中的各目录
打包站目录文件[root@WEB web]# tar zcvf /backup/www_$(date +%F).tar.gz ./www./www/[root@WEB web]# ls /backup/www_2016-09-09.tar.gz打包日志文件[root@WEB app]# tar zcvf /backup/log_$(date +%F).tar.gz ./logs[root@WEB app]# ls /backup/log_2016-09-09.tar.gz www_2016-09-09.tar.gz打包系统配置文件[root@WEB /]# tar zcvf /backup/etc_$(date +%F).tar.gz ./etc[root@WEB /]# ls /backup/etc_2016-09-09.tar.gz log_2016-09-09.tar.gz www_2016-09-09.tar.gz打包定时任务文件[root@WEB ~]# cp /var/spool/cron/root /backup/root_$(date +%F) [root@WEB ~]# ls /backup/etc_2016-09-09.tar.gz root_2016-09-09log_2016-09-09.tar.gz www_2016-09-09.tar.gz打包系统脚本文件[root@WEB ~]# cd /server/[root@WEB server]# tar zcvf /backup/scripts_$(date +%F).tar.gz ./scripts./scripts/[root@WEB server]# ls /backup/etc_2016-09-09.tar.gz root_2016-09-09 www_2016-09-09.tar.gzlog_2016-09-09.tar.gz scripts_2016-09-09.tar.gz手工推送测试数据备份是否成功[root@WEB server]# rsync -avzP /backup/ rsync_backup@192.168.1.3::rsync --password-file=/etc/rsync.passwordsending incremental file list./etc_2016-09-09.tar.gz9949927 100% 34.90MB/s 0:00:00 (xfer#1, to-check=4/6)log_2016-09-09.tar.gz112 100% 0.40kB/s 0:00:00 (xfer#2, to-check=3/6)root_2016-09-09204 100% 0.74kB/s 0:00:00 (xfer#3, to-check=2/6)scripts_2016-09-09.tar.gz114 100% 0.41kB/s 0:00:00 (xfer#4, to-check=1/6)www_2016-09-09.tar.gz109 100% 0.39kB/s 0:00:00 (xfer#5, to-check=0/6)sent 9954208 bytes received 106 bytes 19908628.00 bytes/sec
total size is 9950466 speedup is 1.00[root@Backup backup]# lsetc_2016-09-09.tar.gz log_2016-09-09.tar.gz root_2016-09-09 scripts_2016-09-09.tar.gz www_2016-09-09.tar.gz数据备份成功，同样符合当前要求七：书写备份脚本
备份网站站点目录与日志文件###backup web and logs to backup directory
cd /var/web/ && tar zcf /backup/www_$(date +%F).tar.gz ./wwwcd /app/ && tar zcf /backup/log_$(date +%F).tar.gz ./logs备份系统配置文件###bakcup configrue of system to backup directorycd / && tar zcf /backup/etc_$(date +%F).tar.gz ./etccd /server/ tar zcf /backup/scripts_$(date +%F).tar.gz ./scriptscp /var/spool/cron/root /backup/root_$(date +%F)推送数据到备份服务器###rsync data of backup to backup servers directorycd /backup/ && rsync -avzP /backup/ rsync_backup@192.168.1.3::rsync --password-file=/etc/rsync.password >/dev/null 2>&1删除7天前的备份数据###delete data of 7days ago
find /backup -type f -name "*.tar.gz" -mtime +7|xrags rm -f八：按要求重组脚本内容
1、web服务器数据只保留7天内的备份内容，备份服务器上保留180天内的数据2、备份服务器上的备份要求按照服务器IP为目录保存，备份的数据需按时间做为了规范特定将脚本文件放到/server/scripts/下面cd /server/scripts/vi backup.sh#!/bin/baship=`grep IPADD /etc/sysconfig/network-scripts/ifcfg-eth0|cut -d = -f2`mkdir /backup/$ip -p配置变量##backup web and logs data to backup directorycd /var/web/ && tar zcf /backup/$ip/www_$(date +%F).tar.gz ./wwwcd /app/ && tar zcf /backup/$ip/log_$(date +%F).tar.gz ./logs###backup configrue of system to backup directory
cd / && tar zcf /backup/$ip/etc_$(date +%F).tar.gz ./etccd /server/ && tar zcf /backup/$ip/scripts_$(date +%F).tar.gz ./scriptscp /var/spool/cron/root /backup/$ip/root_$(date +%F)##rsync data of backup to backup servers directory
cd /backup/ && rsync -avzP ./ rsync_backup@192.168.1.3::rsync --password-file=/etc/rsync.password>/dev/null 2>&1##delete data of 7 days ago
find /backup -type f -name "*.tar.gz" -mtime +7|xargs rm -f[root@WEB scripts]# cd /backup/
[root@WEB backup]# ls[root@WEB backup]# /bin/sh /server/scripts/backup.sh [root@WEB backup]# ls -lltotal 4drwxr-xr-x. 2 root root 4096 Sep 9 23:02 192.168.1.2[root@WEB backup]# cd 192.168.1.2/[root@WEB 192.168.1.2]# lsetc_2016-09-09.tar.gz log_2016-09-09.tar.gz root_2016-09-09 scripts_2016-09-09.tar.gz www_2016-09-09.tar.gz脚本执行成功，表明脚本配置正确九：配置定时任务
1、WEB服务器上配置定时任务[root@WEB ~]# crontab -e
##backup web server data to backup-server by 2016080800 00 * * * /bin/sh /server/scripts/backup.sh>/dev/null 2>&1[root@WEB ~]# crontab -l##backup web server data to backup-server by 2016080800 00 * * * /bin/sh /server/scripts/backup.sh>/dev/null 2>&12、备份服务器上配置定时任务
[root@Backup ~]# mkdir /server/scripts/ -p[root@Backup ~]# cd /server/scripts/[root@Backup scripts]# vi delete.sh###delete data of 180 days ago find /backup -type f -name "*.tar.gz" -mtime +180|xargs rm -f[root@Backup ~]# crontab -e##delete data by 2016080800 00 * * 6 /bin/sh /server/scripts/delete.sh>dev/null 2>&1[root@Backup ~]# crontab -l##delete data by 2016080800 00 * * 6 /bin/sh /server/scripts/delete.sh>dev/null 2>&1十：测试数据备份结果
手工测试[root@WEB backup]# rm -rf *[root@WEB backup]# /bin/sh /server/scripts/backup.sh [root@WEB backup]# ls -lltotal 4drwxr-xr-x. 2 root root 4096 Sep 9 23:22 192.168.1.2[root@WEB backup]# ls 192.168.1.2/etc_2016-09-09.tar.gz root_2016-09-09 www_2016-09-09.tar.gzlog_2016-09-09.tar.gz scripts_2016-09-09.tar.gz[root@Backup backup]# rm -rf *[root@Backup backup]# ls192.168.1.2[root@Backup backup]# ls 192.168.1.2/etc_2016-09-09.tar.gz root_2016-09-09 www_2016-09-09.tar.gzlog_2016-09-09.tar.gz scripts_2016-09-09.tar.gz手工测试正常，数据备份、推送成功测试定时任务
[root@WEB backup]# rm -rf * 删除之前手工测试数据[root@WEB backup]# dateFri Sep 9 23:26:08 CST 2016[root@WEB backup]# date 090923592016.55 修改当前系统时间Fri Sep 9 23:59:55 CST 2016[root@WEB backup]# date 查看当前系统时间Sat Sep 10 00:00:36 CST 2016[root@WEB backup]# ls 192.168.1.2[root@WEB backup]# ls 192.168.1.2/ 查看定时任务执行情况etc_2016-09-10.tar.gz root_2016-09-10 www_2016-09-10.tar.gzlog_2016-09-10.tar.gz scripts_2016-09-10.tar.gz[root@Backup backup]# rm -rf * 删除之前手工测试数据
[root@Backup backup]# ls[root@Backup backup]# ls -lltotal 4drwxr-xr-x. 2 rsync rsync 4096 Sep 9 19:00 192.168.1.2[root@Backup backup]# ls 192.168.1.2/ 查看数据备份情况etc_2016-09-10.tar.gz root_2016-09-10 www_2016-09-10.tar.gzlog_2016-09-10.tar.gz scripts_2016-09-10.tar.gz经过测试数据备份成功，并且正常推送到备份服务器指定目录下，表明定时任务执行成功十一：下载服务器的数据至本地
为了方便日后维护与管理，可以将服务器的数据下载到本地，后续有故障时可直接上传到指定服即可恢复数据[root@WEB backup]# tar zcvf 192.168.1.2_data.tar.gz ./192.168.1.2/
[root@WEB backup]# sz -y 192.168.1.2_data.tar.gz
[root@Backup backup]# sz -y /etc/rsyncd.conf
如果需要定期执行此种操作，可以将上述配置写成脚本 ，然后配置定时任务