Sersync项目简介与补充说明

Sersync项目简介与补充说明

原地址：(稍作修改和补充)http://hi.baidu.com/johntech/blog/item/5aa39a890124a6749f2fb4c7.html

项目简介：

地址：

  本项目利用inotify与rsync对服务器进行实时同步，其中inotify用于监控文件系统事件，rsync是目前广泛使用的同步算法，其优点是只对文件不同的部分进行操作，所以其优势大大超过使用挂接文件系统的方式进行镜像同步。
目前使用的比较多的同步程序版本是inotify-tools，另外一个是google开源项目Openduckbill（依赖于inotify-tools），这两个都是基于脚本语言编写的，其设计思路同样是采用inotify与rsync命令。 相比较上面两个项目，本项目优点是：
1.sersync是使用c++编写，而且对linux系统文件系统产生的临时文件和重复的文件操作进行过滤（稍后会提到），所以在结合rsync同步的时候，节省了运行时耗和网络资源。因此更快。
2.相比较上面两个项目，sersync配置起来很简单:在 处下载源码（分为32版本，与64位版本），其中bin目录下已经有我编译好的2进制文件，配合bin目录下的xml文件直接使用即可。
3.另外本项目相比较其他脚本开源项目，使用多线程进行同步，尤其在同步较大文件时，能够保证多个服务器实时保持同步状态。
4.本项目自带出错处理机制（2.5Beta版本以后增加，我测试的是目前已经发布的2.5Final stable版本，效果很好），通过失败队列对出错的文件重新出错（可以配置，默认是1小时后重试，我测试设置为1分钟后重试），如果仍旧失败，则每10个小时对同步失败的文件重新同步（默认为10小时，也可以配置，我测试时配置为5分钟，也能很好的工作）。
5.本项目自带crontab功能，只需在xml配置文件中开启，即可按您的要求，隔一段时间整体同步一次。
6.本项目自带socket与http协议扩展，满足您二次开发的需要。

基本架构：

设计简析：

    如上图所示，线程组线程是等待线程队列的守护线程，当队列中有数据的时候，线程组守护线程逐个唤醒，当队列中inotify事件交多的时候就会被全部唤醒一起工作。这样设计的目的是能够同时处理多个inotify事件，重发利用服务器的并发能力（核数*2+2）。
    之所以称之为线程组线程，是因为每个线程在工作的时候，会根据服务器的数量建立子线程，子线程可以保证所有的文件与各个服务器同时同步，当要同步的文件较大的时候，这样设计可以保证各个远程服务器可以同时获得要同步的文件。
    服务线程的作用有三个，首先是处理同步失败的文件，将这些文件再次同步，对于再次同步失败的文件会生成rsync_fail_log.sh脚本，记录失败的事件。同时每隔10个小时执行脚本一次，同时清空脚本。服务线程的第三个作用是crontab功能，可以每隔一定时间，将所有路径整体同步一次。
    过滤队列的建立是为了过滤短时间内产生的重复的inotify信息，例如在删除文件夹得时候，inotify就会同时产生删除文件夹里的文件与删除文件夹得事件，通过过滤队列当删除文件夹事件产生的时候，会将之前加入队列的删除文件的事件全部过滤掉，这样只产生一条事件减轻了同步的负担。同时对于修改文件的操作的时候，会产生临时文件与重复操作。

举例：

当我们在vi的一个test文件，进行wq操作的时候会产生如下事件：

即使把"."开头与"~"结尾的世界过滤了，对于test文件仍旧有3次操作，分别是删除，创建与保存，通过过滤队列，就只剩下一个事件，一定程度上也提高了效率。
过滤队列第二个作用，即当你在本机删除目录的时候，假设你删除一个有5个文件的目录，inotify会产生6个事件，分别是5个文件删除事件，和一个删除目录事件，如果使用过滤队列，正常情况下会只产生一个删除目录的事件，大大减少了rsync通信次数。（当然，这不是绝对的。如果这6个事件分多次读到进入队列，那么可能还没来得及过滤，就已经被同步线程从队列中取走同步了。但一定程度上可以减少删除文件夹得同步通信次数）。
过滤队列的第三个作用，可以过滤监控目录下的文件夹，如果不想同步目录下的一些文件夹，或者一些后缀的文件。对于不需监控的子文件夹，在inotify启动时候remove掉监控，对于不需监控子文件，产生的文件事件就会从在入同步队列前过滤掉。如果使用rsync用--exclude， 这样虽然也可以过滤，但还是与rsync守护进程进行了一次交互。

补充说明：

1。从2.5Beta版本以后，本项目自带出错处理机制，我测试的是目前已经发布的2.5Final stable版本，效果很好。首先将失败队列记录到一个临时文件中，可以配置间隔多长时间以后，对出错的同步进行重新补传，默认间隔是60分钟，我测试时设置为1分钟，正常。如果仍旧失败，则还具有一个间隔时长开关，用来对所有文件进行完整比对同步，默认为600分钟，也就是10小时，我测试时配置为5分钟，也能很好的工作。

  另外，如果目的主机的rsync服务异常，导致同步失败，此种机制也能保证在目的主机恢复后，继续补传同步。

2。该版本运行后，默认会在后台开出12个线程，其中：1个主进程、1个失败重传守护进程、10个同步子进程。如果再配置文件中打开了debug开关，可以清楚地看到如下显示：

sersync working thread 12  = 1(primary thread) + 1(fail retry thread) + 10(daemon sub threads)
Max threads numbers is: 22 = 12(Thread pool nums) + 10(Sub threads)

3。失败的操作会以如下格式逐条记录到你指定的文件中，可以看出他调用rsync执行同步时做了指定同步对象的过滤，已达到高效的目的：
#errno -1
cd /opt/2 && rsync -vzrtopgl -R  --port=873  --timeout=100 --delete ./   --include="cas-server-3.4.3.1/" --include="cas-server-3.4.3.1/cas-server-integration-memcached"  --include="cas-server-3.4.3.1/cas-server-integration-memcached/***" --exclude=*  rsyncuser@192.168.1.34::opt2 --password-file=/etc/rsyncd.secrets