Chinaunix首页 | 论坛 | 博客
  • 博客访问: 326662
  • 博文数量: 103
  • 博客积分: 3886
  • 博客等级: 中校
  • 技术积分: 1005
  • 用 户 组: 普通用户
  • 注册时间: 2010-04-28 15:00
文章分类

全部博文(103)

文章存档

2011年(30)

2010年(73)

分类: LINUX

2011-06-27 13:08:59

 rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样就可以解决同步数据的实时性问题。

  一、rsync的优点与不足

  rsync具有安全性高、备份迅速、支持增量备份等优点,通过rsync可以解决对实时性要求不高的数据备份需求,例如定期的备份文件服务器数据到远端服务器,对本地磁盘定期做数据镜像等。

  随着应用系统规模的不断扩大,对数据的安全性和可靠性也提出的更好的要求,rsync在高端业务系统中也逐渐暴露出了很多不足,首先,rsync同步数据时,需要扫描所有文件后进行比对,进行差量传输。如果文件数量达到了百万甚至千万量级,扫描所有文件将是非常耗时的。而且正在发生变化的往往是其中很少的一部分,这是非常低效的方式。其次,rsync不能实时的去监测、同步数据,虽然它可以通过Linux守护进程的方式进行触发同步,但是两次触发动作一定会有时间差,这样就导致了服务端和客户端数据可能出现不一致,无法在应用故障时完全的恢复数据。基于以上原因,rsync+inotify可以解决这个问题。

  二、 初识inotify

  Inotify 是一种强大的、细粒度的、异步的文件系统事件监控机制,linux内核从2.6.13起,加入了Inotify支持,通过Inotify可以监控文件系统中添加、删除,修改、移动等各种细微事件,利用这个内核接口,第三方软件就可以监控文件系统下文件的各种变化情况,而inotify-tools就是这样的一个第三方软件。

  我们曾讲到,rsync可以实现触发式的文件同步,但是通过crontab守护进程方式进行触发,同步的数据和实际数据会有差异,而inotify可以监控文件系统的各种变化,当文件有任何变动时,就触发rsync同步,这样刚好解决了同步数据的实时性问题。

  三、 安装inotify工具inotify-tools

  由于inotify特性需要Linux内核的支持,在安装inotify-tools前要先确认Linux系统内核是否达到了 2.6.13以上,如果Linux内核低于2.6.13版本,就需要重新编译内核加入inotify的支持,也可以用如下方法判断,内核是否支持 inotify(服务器系统为Centos5.5 x86_64):

  uname -r2.6.18-194.el5

  ls -lsart /proc/sys/fs/inotify/总计 0

  0 dr-xr-xr-x 7 root root 0 06-16 00:02 ..

  0 -rw-r--r-- 1 root root 0 06-21 11:15 max_user_watches

  0 -rw-r--r-- 1 root root 0 06-21 11:15 max_user_instances

  0 -rw-r--r-- 1 root root 0 06-21 11:15 max_queued_events

  0 dr-xr-xr-x 2 root root 0 06-21 11:15 .通过以上显示我们明白,Centos5.5 x86_64是支持inotify的。

  四、inotify的简单介绍

  Inotify 是文件系统事件监控机制,作为 dnotify 的有效替代。dnotify 是较早内核支持的文件监控机制。Inotify 是一种强大的、细粒度的、异步的机制,它满足各种各样的文件监控需要,不仅限于安全和性能。

  inotify 可以监视的文件系统事件包括:

  IN_ACCESS,即文件被访问

  IN_MODIFY,文件被 write

  IN_ATTRIB,文件属性被修改,如 chmod、chown、touch 等

  IN_CLOSE_WRITE,可写文件被 close

  IN_CLOSE_NOWRITE,不可写文件被 close

  IN_OPEN,文件被 open

  IN_MOVED_FROM,文件被移走,如 mv

  IN_MOVED_TO,文件被移来,如 mv、cp

  IN_CREATE,创建新文件

  IN_DELETE,文件被删除,如 rm

  IN_DELETE_SELF,自删除,即一个可执行文件在执行时删除自己

  IN_MOVE_SELF,自移动,即一个可执行文件在执行时移动自己

  IN_UNMOUNT,宿主文件系统被 umount

  IN_CLOSE,文件被关闭,等同于(IN_CLOSE_WRITE | IN_CLOSE_NOWRITE)

  IN_MOVE,文件被移动,等同于(IN_MOVED_FROM | IN_MOVED_TO)

  注:上面所说的文件也包括目录。

五、rsync+inotify企业应用案例

  我们的后端WEB是二台部署了Nginx的WEB服务器,由于没有共享存储,我们现在要实现的是对它们的根目录/data/htdocs/www实现即时同步更新。

  WebServer1:192.168.1.5,Centos5.5 x86_64

  WebServer2:192.168.1.6,Centos5.5 x86_64根目录均为/data/htdocs/www,自动同步顺序为WebServer2à WebServer1,我们将WebServer1配置成rsync的服务器端即可

  1.我们首先开始安装inotify-tools

  可以到下载相应的inotify-tools版本,然后开始编译安装:

  cd /usr/local/src

  tar zxvf inotify-tools-3.14.tar.gz

  cd inotify-tools-3.14

  ./configure &&make && make install2.WebServer1端

  即192.168.1.5的rsync,我们配置好/etc/rsyncd.conf文件,如下:

  [root@server ~0m]# vim /etc/rsyncd.conf

  uid = nobody

  gid = nobody

  user chroot = no

  max connections = 200

  timeout = 600

  pid file = /var/run/rsyncd.pid

  lock file = /var/run/rsyncd.lock

  log file = /var/log/rsyncd.log

  [www]

  path=/data/htdocs/

  ignore errors

  read only = no

  list = no

  hosts allow = 192.168.1.0/255.255.255.0

  auth users = www

  secrets file = /etc/rsyncd.password然后重启xinetd即可,如下所示:

  /etc/init.d/xinetd restart记得二台WEB机器都要配置/etc/rsyncd.passwd文件,rsync的配置过程和原理请大家参考我在51cto.com的rsync配置相关文章,这里就不详细说明了。

  3.我们配置好WebServer2的inotify

  让其开机即启动,脚本内容如下:

  vim /root/rsync.sh

  #!/bin/bash

  src=/data/htdocs/www/

  des=www

  ip=192.168.1.5

  /usr/local/bin/inotifywait -mrq --timefmt '%d/%m/%y %H:%M' --format '%T %w%f' -e modify,delete,create,attrib $src | while read file

  do

  rsync -vzrtopg --delete --progress $src www@$ip::$des --password-file=/etc/rsyncd.password &&

  echo "$src was rsynced"

  done脚本相关解释如下:

  timefmt:指定时间的输出格式。

  format:指定变化文件的详细信息。

  这个脚本的作用就是通过inotify监控文件目录的变化,进而触发rsync进行同步操作,由于这个过程是一种主动触发操作,通过系统内核完成的,所以,比起那些遍历整个目录的扫描方式,效率要高很多。

  然后我们将此脚本放在/etc/rc.local,即在最后一行添加,/etc/rc.local文件改动后内容如下:

  [root@slave www0m]# cat /etc/rc.local

  #!/bin/sh

  #

  # This script will be executed *after* all the other init scripts.

  # You can put your own initialization stuff in here if you don't

  # want to do the full Sys V style init stuff.

  touch /var/lock/subsys/local

  /root/rsync.sh4.验证就很容易了

  我们可以在192.168.1.6的机器的/data/htdocs/www目录下新建文件,更改文件内容,我们很欣慰的发现,192.168.1.5的机器上马上也会发生相应的改变,就像二台机器是网络Raid-1样,非常方便。

  总体说来,rsync+inofity比较适用于没有存储环境的小文件的即时同步更新,如果要更新的文件非常大而且同步的机器数量在10台以上时,我建议还是以共享存储的方法来解决,如果没有资金购置昂贵的存储,大家不妨考虑下Heartbeat+DRBD+NFS方案来作为我们的文件服务器。


阅读(1643) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~