Chinaunix首页 | 论坛 | 博客

逸尘凌虚的ChinaUnix博客

首页　| 　博文目录　| 　关于我

逸尘凌虚

  • 博客访问： 381413
  • 博文数量： 190
  • 博客积分： 50
  • 博客等级： 民兵
  • 技术积分： 125
  • 用 户 组： 普通用户
  • 注册时间： 2013-01-12 14:05
文章分类

全部博文（190）

文章存档

2013年（190）

我的朋友
最近访客
推荐博文
相关博文
利用inotify+rsync实现linux文件批量同步

分类： LINUX

2013-05-14 10:33:04

原文地址：利用inotify+rsync实现linux文件批量同步 作者：king_819

   批量同步、批量更新，这应该是做运维的朋友们经常做的工作，rsync是linux下一款非常强大的同步工具，采用差异同步的方法，只上传文件/文件夹的不同部分，同时可以对上传部分先进行压缩，所以rsync的传输效率是很高的但rsync也有缺点，最大的问题就是每次执行rsync命令都会遍历目标目录，当文件不多时，这没什么问题，一旦文件数到了一定规模，那么每次遍历都会消耗很多资源，如果只对经常改动的目录进行同步，也可以忽略这个问题，如果每次改动的目录多较大，那么就要用到inotify了，Inotify是一种强大的、细粒度的、异步的文件系统事件监控机制，Linux内核从2.6.13起，加入了对Inotify的支持，通过Inotify可以监控文件系统中的添加、删除、修改、移动等各种事件，但inotify只提供了C语言接口，不方便调用，所以我们需要先安装inotify-tools
 
一、系统环境：
CentOS_5.7-x86_64
更新源服务器：192.168.9.227
目的服务器：192.168.9.226  192.168.9.228  ...
 
二、目的服务器配置:192.168.9.226 192.168.9.228（rsync服务端）：
1、检查rsync是否安装
  1. rpm -qa|grep rsync
如果没有发装，执以下命令进行安装
  1. yum -y install rsync
2、定义rsync配置文件/etc/rsyncd.conf
192.168.9.226:
  1. cat >> /etc/rsyncd.conf << EOF
  3. uid = nobody
  5. gid = nobody
  7. use chroot = no
  9. max connections = 100
  11. timeout = 600
  13. pid file = /var/run/rsyncd.pid
  15. lock file = /var/run/rsyncd.lock
  17. log file = /var/log/rsyncd.log
  19. [web1]
  21. path = /data/www1/
  23. ignore errors
  25. read only = no
  27. list = no
  29. hosts allow = 192.168.9.0/255.255.255.0
  31. auth users = www1
  33. secrets file = /etc/www1.pwd
  35. EOF
192.168.9.228:
  1. cat >> /etc/rsyncd.conf << EOF
  3. uid = nobody
  5. gid = nobody
  7. use chroot = no
  9. max connections = 100
  11. timeout = 600
  13. pid file = /var/run/rsyncd.pid
  15. lock file = /var/run/rsyncd.lock
  17. log file = /var/log/rsyncd.log
  19. [web2]
  21. path = /data/www2/
  23. ignore errors
  25. read only = no
  27. list = no
  29. hosts allow = 192.168.9.0/255.255.255.0
  31. auth users = www2
  33. secrets file = /etc/www2.pwd
  35. EOF
3、rsyncd.conf配置文件详解
uid = nobody      //运行RSYNC守护进程的用户
gid = nobody      //运行RSYNC守护进程的组
use chroot = 0    //不使用chroot
max connections = 0   // 最大连接数,0为不限制
port = 873  //默认端口873
下面这些文件是安装完RSYNC服务后自动生成的文件
pid file = /var/run/rsyncd.pid    //pid文件的存放位置
lock file = /var/run/rsync.lock   //锁文件的存放位置.指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock.
log file = /var/log/rsyncd.log    //日志记录文件的存放位置
Timeout = 300
通过该选项可以覆盖客户指定的IP超时时间.通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户端.超时单位为秒钟,0表示没有超时定义,这也是默认值.对于匿名rsync服务器来说,一个理想的数字是600.
Log format = %t %a %m %f %b
通过该选项用户在使用transfer logging可以自己定制日志文件的字段.其格式是一个包含格式定义符的字符串,可以使用的格式定义符如下所示：
%h 远程主机名
%a 远程IP地址
%l 文件长度字符数
%p 该次rsync会话的进程id
%o 操作类型：" send" 或" recv"
%f 文件名
%P 模块路径
%m 模块名
%t 当前时间
%u 认证的用户名(匿名时是null)
%b 实际传输的字节数
%c 当发送文件时,该字段记录该文件的校验码
默认log格式为：" %o %h [%a] %m (%u) %f %l" ,一般来说,在每行的头上会添加" %t [%p] " .在源代码中同时发布有一个叫rsyncstats的perl脚本程序来统计这种格式的日志文件.
#transfer logging = yes
使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中.
syslog facility = local3
指定rsync发送日志消息给syslog时的消息级别,常见的消息级别是：uth, authpriv, cron, daemon, ftp, kern, lpr, mail, news, security, sys-log, user, uucp, local0, local1, local2, local3,local4, local5, local6和local7.默认值是daemon.
模块参数
[web1]   //这里是认证的模块名,在client端需要指定
path = /data/www1/  //需要做镜像的目录,不可缺少！
comment = backup web  //这个模块的注释信息
ignore errors    //可以忽略一些无关的IO错误
read only = yes  //该选项设定是否允许客户上载文件.如果为true那么任何上载请求都会失败,如果为false并且服务器目录读写权限允许那么上载是允许的.默认值为true.
list = no        //不允许列文件
auth users = bak    //认证的用户名,如果没有这行则表明是匿名,此用户与系统无关
该选项指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块.这里的用户和系统用户没有任何关系.如果" auth users" 被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议.用户的名和密码以明文方式存放在" secrets file" 选项指定的文件中.默认情况下无需密码就可以连接模块(也就是匿名方式).
secrets file = /etc/www1.pwd      //密码和用户名对比表,密码文件自己生成
该选项指定一个包含定义用户名:密码对的文件.只有在" auth users" 被定义时,该文件才有作用.文件每行包含一个username:passwd对.一般来说密码最好不要超过8个字符.没有默认的secures file名,需要限式指定一个(例如：/etc/rsyncd.passwd).注意：该文件的权限一定要是600,否则客户端将不能连接服务器.
hosts allow = 192.168.9.0/255.255.255.0  //允许主机或网段
该选项指定哪些IP的客户允许连接该模块.客户模式定义可以是以下形式：
单个IP地址,例如：192.168.9.227
整个网段,例如：192.168.9.0/24,也可以是192.168.9.0/255.255.255.0
多个IP或网段需要用空格隔开,“*”则表示所有,默认是允许所有主机连接.
hosts deny = 0.0.0.0/0  //禁止主机
4、建立认证文件/etc/www1.pwd ,此文件须与配置文件中指定文件名保持一致
此处格式为：username:password,安全问题,并不建议实际使用中使用root用户
192.168.9.226:
  1. echo "www1:741852" >> /etc/www1.pwd
192.168.9.228:
  1. echo "www2:951753" >> /etc/www2.pwd
并且我们需要设置此文件的权限为600
  1. chmod 600 /etc/www1.pwd
  3. chmod 600 /etc/www2.pwd
  5. chmod 600 /etc/rsyncd.conf
5、建立motd文件（可有可无）
rsyncd.motd记录了rsync服务的欢迎信息,你可以在其中输入任何文本信息,如：
  1. echo "Welcome to use the rsync services!" >> /var/rsyncd.motd
6、启动rsync
  1. /usr/bin/rsync --daemon
  3. echo "/usr/bin/rsync --daemon" >> /etc/rc.local
三、更新源服务器配置:192.168.9.227 （rsync客户端）
1、inotify 可以监视的文件系统事件包括：
IN_ACCESS，即文件被访问
IN_MODIFY，文件被 write
IN_ATTRIB，文件属性被修改，如 chmod、chown、touch 等
IN_CLOSE_WRITE，可写文件被 close
IN_CLOSE_NOWRITE，不可写文件被 close
IN_OPEN，文件被 open
IN_MOVED_FROM，文件被移走,如 mv
IN_MOVED_TO，文件被移来，如 mv、cp
IN_CREATE，创建新文件
IN_DELETE，文件被删除，如 rm
IN_DELETE_SELF，自删除，即一个可执行文件在执行时删除自己
IN_MOVE_SELF，自移动，即一个可执行文件在执行时移动自己
IN_UNMOUNT，宿主文件系统被 umount
IN_CLOSE，文件被关闭，等同于(IN_CLOSE_WRITE | IN_CLOSE_NOWRITE)
IN_MOVE，文件被移动，等同于(IN_MOVED_FROM | IN_MOVED_TO)
注：上面所说的文件也包括目录。
 
2、安装inotify-tools
在安装inotify-tools前请先确认你的linux内核是否打到了2.6.13，并且在编译时开启了CONFIG_INOTIFY选项，也可以通过以下命令检测
  1. ls /proc/sys/fs/inotify
如果有 max_queued_events，max_user_instances，max_user_watches 三项就说明支持
  1. wget
  3. tar xvf inotify-tools-3.14.tar.gz
  5. cd inotify-tools-3.14
  7. ./configure
  9. make;make install
3、编写rsync监控脚本
  1. vi /root/rsync.sh
  1. #!/bin/bash
  2. host1=192.168.9.226
  3. host2=192.168.9.228
  4. src1=/data/www1/
  5. src2=/data/www2/
  6. des1=web1
  7. des2=web2
  8. user1=www1
  9. user2=www2
  10. /usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' \
  11.  -e modify,delete,create,attrib \
  12. ${src} \
  13. | while read file
  14.         do
  15.                 rsync -vzrtopg --delete --progress ${src1} ${user1}@${host1}::${des1} --password-file=/etc/www1.pwd &&
  16.                 rsync -vzrtopg --delete --progress ${src2} ${user2}@${host2}::${des2} --password-file=/etc/www2.pwd &&
  17.                 echo "${files} was rsynced" >> /tmp/rsync.log 2>&1
  18.                 echo "---------------------------------------------------------------------------"
  19.         done

-m， 即--monitor，表示始终保持事件监听状态。
-r， 即--recursive，表示递归查询目录。
-q， 即--quiet，表示打印出监控事件。
-e， 即--event，通过此参数可以指定要监控的事件，常见的事件有modify、delete、create、attrib等
--timefmt：指定时间的输出格式
--format：指定变化文件的详细信息
建立认证文件  (rsync客户端认证文件只用加入密码)
  1. echo "741852" >> /etc/www1.pwd
  2. echo "951753" >> /etc/www1.pwd
  3. chmod 600 /etc/www1.pwd
  4. chmod 600 /etc/www2.pwd
  5. /bin/sh -n /root/rsync.sh //语法检查
  6. chmod +x /root/rsync.sh
  7. nohup sh /root/rsync.sh &
  8. echo "nohup sh /root/rsync.sh &" >> /etc/rc.local
四、同步测试
在更新源服务器上新建一个文件，运行以下的命令，看文件是否可以正常同步，看有无报错信息
  1. rsync -vzrtopg --delete --progress /data/www1/ www1@$192.168.9.226::web1 --password-file=/etc/www1.pwd
将要更新的文件提交到更新源服务器中，这样就通过inotify+rsync批量的将更新文件同步到所有的目的服务器中，相当方便快捷
 
阅读(648) | 评论(0) | 转发(0) |
0

上一篇：淘宝网Web服务器Tengine正式开源，打造高效平稳易用的Web平台

下一篇：［原创］从源代码建立Linux系统之（Sysroot LFS）

给主人留下些什么吧！~~
关于我们 | 关于IT168 | 联系方式 | 广告合作 | 法律声明 | 免费注册

Copyright 2001-2010 ChinaUnix.net All Rights Reserved 北京皓辰网域网络信息技术有限公司. 版权所有

感谢所有关心和支持过ChinaUnix的朋友们

16024965号-6