Day33-Rsync企业级备份项目

rsync服务排错思路

服务端:
1.查看 rsync 服务配置文件路径是否正确,正确的默认路径为:/etc/rsyncd.conf。
2.查看配置文件里 host allow、host deny 允许的 IP 网段是否是允许客户端访问的 IP 网段。
3.查看配置文件中 path 参数里的路径是否存在,权限是否正确(正常应为配置文件中的 UID 参数对应的属主和组)。
4.查看 rsync 服务是否启动。查看命令为:ps -ef|grep rsync。端口是否存在:netstat -lnt|grep 873
5.查看 iptables 防火墙和 Selinux 是否开启?是否允许 rsync 服务通过,也可考虑关闭
6.查看服务端 rsync 配置的密码权限是否为 600 ,密码文件格式是否正确(格式:用户名:密码文件格式是否正确(格式:用户名),文件路径和配置文件里的 secrect files 参数对应。
7.如果是推送服务,要查看下配置 rsyncd.conf 文件中用户是否对模块下目录有可读写的权限
客户端
1.查看客服端 rsync 配置的密码是否为 600 权限,密码文件格式是否正确,注意:仅需要有密码,并且和服务端的密码一致。
2.用 Telnet 连接 rsync 服务器 IP 地址 873 端口(telnet 172.16.1.41 873),查看服务是否启动(可测试服务端防火墙是否阻挡)。
3.客服端执行命令时,语法格式书写是否正确,此命令的细节记清楚,尤其语法格式中的双冒号及随其后的 backup 为模块名称

rsync企业应用场景

1、内部人员产生的数据(定时备份足矣):
程序员开发代码(他电脑上)==>代码服务上(git/svn代码版本管理)==>测试环境测试===>正式环境
原则上程序代码可以不备份。

运维人员,写个定时任务,写个备份脚本,更改或增加服务配置rsyncd.conf,需要备份

运维人员修改配置(测试服务器)==>代码服务器上(git/svn代码版本管理)==>测试环境测试===>正式环境
原则上运维人员的变更可以不备份。

2、用户产生的数据(必须实时备份)
图片、视频等文件是放在存储服务器上的,任意时刻都可能传上来,必须实时备份。
文本(博客文章),放在数据库里,,任意时刻都可能发布,必须实时备份。

项目实战


image.png

解决思路:

1) 搭建 backup 服务器
部署 rsync 服务
2) 搭建 web01 服务器
 验证 rsync 服务能否推送成功
开发脚本实现打包、备份、推送、校验、删除
3) 配置定时任务每天 00 点定时推送
4) backup 服务器
开发脚本实现校验、删除、报警
配置定时任务每天 8 点定时执行

a.安装服务软件

[root@backup ~]# rsync --version
rsync version 3.1.2 protocol version 31

b.备份并配置文件 /etc/rsync.conf

cp /etc/rsyncd.conf{,.ori}
cat>/etc/rsyncd.conf<<EOF
#rsync_config_______________start
#created by oldboy
#site: http://www.oldboyedu.com
uid = rsync
gid = rsync
use chroot = no
fake super = yes
max connections = 200
timeout = 600
pid file = /var/run/rsyncd.pid
lock file = /var/run/rsync.lock
log file = /var/log/rsyncd.log
ignore errors
read only = false
list = false
hosts allow = 172.16.1.0/24
hosts deny = 0.0.0.0/32
auth users = rsync_backup
secrets file = /etc/rsync.password
[backup]
comment = welcome to oldboyedu backup!
path = /backup/
EOF

c.创建用户和备份目录

[root@backup ~]# useradd rsync
[root@backup ~]# id rsync
uid=1001(rsync) gid=1001(rsync) groups=1001(rsync)
[root@backup ~]# mkdir –p /backup
[root@backup ~]# chown -R rsync.rsync /backup/
[root@backup ~]# ls -ld /backup/
drwxr-xr-x 2 rsync rsync 6 4 月 15 12:12 /backup/

d.启动和检查

systemctl start rsyncd
systemctl enable rsyncd
systemctl status rsyncd
[root@backup ~]# ps -ef|grep sync|grep -v grep #检查进程
root 7521 1 0 11:39 ? 00:00:00 /usr/bin/rsync --daemon --no-detach
[root@backup ~]# netstat -lntup|grep 873 #检查端口
tcp 0 0 0.0.0.0:873 0.0.0.0:* LISTEN
7521/rsync
tcp6 0 0 :::873 :::* LISTEN 7521/rsync
[root@backup ~]# lsof -i :873 #检查端口
COMMAND PID USER FD TYPE DEVICE SIZE/OFF NODE NAME
rsync 7521 root 3u IPv4 41439 0t0 TCP *:rsync (LISTEN)
rsync 7521 root 5u IPv6 41440 0t0 TCP *:rsync (LISTEN)

e.配置密码文件

[root@backup ~]# echo "rsync_backup:oldboy" > /etc/rsync.password
[root@backup ~]# chmod 600 /etc/rsync.password
[root@backup ~]# cat /etc/rsync.password
rsync_backup:oldboy
[root@backup ~]# ls -l /etc/rsync.password
-rw------- 1 root root 20 4 月 15 11:51 /etc/rsync.password

f.客户端rsync配置

[root@web01~]# ehco 'exportRSYNC_PASSWORD=123456'>>/etc/bashrc
[root@web01 ~]# tail -1 /etc/bashrc
export RSYNC_PASSWORD=123456
[root@web01 ~]# . /etc/bashrc
[root@web01 ~]# echo $RSYNC_PASSWORD
123456

g.开发脚本

touch /server/scripts/bak.sh #创建脚本文件
#!/bin/bash
IP=`ifconfig eth1 |awk -F "[ ]+" 'NR==2{print $3}'` #定义变量 IP
[ -d /backup/$IP ] || mkdir -p /backup/$IP #判断 IP 目录是否存在
if [ $(date +%w) -eq 2 ] #判断如果周数=2 则打包文件日期为前一天
then
date=$(date +%F -d "-1day")_Monday #标记周一的文件
else
date=$(date +%F -d "-1day")
fi
cd / &&\
#打包
tar  zcfh  /backup/$IP/sysconfig_${date}.tar.gz  var/spool/cron/root  etc/rc.local
server/scripts &&\
tar zcf /backup/$IP/webdata_${date}.tar.gz var/html/www &&\
tar zcf /backup/$IP/accesslog_${date}.tar.gz app/logs &&\
#查找
find /backup -type f -name "*.tar.gz" | xargs md5sum >/backup/$IP/check_${date}
&&\
#推送
rsync -az backup/ rsync_backup@172.16.1.41::backup
--password-file=/etc/rsync.password &&\
#删除
find backup/ -type f -name "*.tar.gz" -mtime +7 |xargs rm –rf

h.配置定时任务

[root@web01 /server/scripts]# crontab -e
#crond-id-001:time sync by oldboy
*/5 * * * * /usr/sbin/ntpdate ntp1.aliyun.com &>/dev/null
#每天定时推送备份文件到 backup 服务器
00 00 * * * /bin/bash /server/scripts/bak.sh &>/dev/null

i.服务端配置校验,报警

touch /server/scripts/bakup.sh
#!/bin/bash
export LANG="en"
find /backup/ -type f -name "check_${date}*" | xargs md5sum
-c >>/tmp/mail_$(date +%F).txt
IP=`ifconfig eth1 |awk -F "[ ]+" 'NR==2{print $3}'` #定义变量 IP
find /backup/ -type f -name "*.tar.gz" -mtime +180|xargs rm -rf
find /backup/ -type f ! -name "*_Monday.tar.gz" -mtime +7|xargs rm -rf
mail -s "备份校验_$date" championzjy888@163.com </tmp/mail_$(date +%F).txt

j.配置定时任务发送邮件

[root@backup /server/scripts]# crontab -e
#crond-id-001:time sync by oldboy
#每天 8 点执行校验、删除、发送邮件
*/5 * * * * /usr/sbin/ntpdate ntp1.aliyun.com &>/dev/null
00 08 * * * /bin/bash /server/scripts/backup.sh >&/dev/null

校验脚本

#!/bin/sh
# by oldboy at 20160927
# www.oldboyedu.com
IP=$(hostname -i)
Path=/backup
#保持每周 1 的副本
if [ $(date +%w) -eq 2 ];then
date="$(date +%F -d "-1day")_week1"
else
date="$(date +%F -d "-1day")"
fi
LANG=en
find /backup -type f -name "*${date}*.log"|xargs md5sum
-c >>$Path/${date}_result.log 2>&1
mail -s "$date bak result" oldboytraining@163.com <$Path/${date}_result.log
find /backup/ -type f -mtime +7 ! -name "*week1*"|xargs rm -f
find /backup/ -type f -mtime +180|xargs rm -f
mail -s "result.log" xxxxx@xx.com </$Path/${date}_result.log
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 195,585评论 5 462
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 82,283评论 2 373
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 142,760评论 0 324
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,461评论 1 266
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,280评论 4 357
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,268评论 1 273
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,656评论 3 385
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,322评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,629评论 1 293
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,691评论 2 312
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,445评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,299评论 3 313
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,694评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,982评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,244评论 1 251
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,642评论 2 342
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,829评论 2 335

推荐阅读更多精彩内容

  • 转载自骏马金龙的博客 2.1 说在前面的话 rsync官方网站 rsync是可以实现增量备份的工具。配合任务计划,...
    whisshe阅读 3,834评论 0 3
  • 测试环境: rsync-server:192.168.1.132 rsync-client:192.168.1.2...
    lailai900201阅读 2,342评论 0 10
  • 2.1.2 项目需求说明 某公司里有一台web 服务器,里面的数据很重要,但是如果硬盘坏了,数据 就会丢失,现在领...
    山有木兮_8adb阅读 253评论 0 0
  • 1、介绍:prototype 用给对象添加属性或方法; (注意:prototype是全局属性,适用于所有的js对象...
    web_li阅读 384评论 0 0
  • 我想你,没有什么目的,只是想你。我想你,在满怀闲情逸致独自散步的夜晚,想你的好,你的笑容,你的维护。 ...
    雨悦欣晴阅读 1,902评论 16 76