用rsync实现网站镜像和备份2(zz)

发信人: sweetlin (小玲), 信区: Networking
标  题: 用rsync实现网站镜像和备份2(zz)
发信站: BBS 水木清华站 (Fri Dec  5 14:26:57 2003)

rsync服务器

1、rsync服务器的启动

在web服务器A上需要以守护进程方式来启动rsync服务器，只需要运行：

[root@www rsync-2.4.6]# /usr/local/bin/rsync --daemon

即可启动。rsync默认服务端口为873，服务器在该端口接收客户的匿名或者认证方式的备
份请求。

如果要在启动时把服务起来，有几种不同的方法，比如：

a、加入inetd.conf

编辑/etc/services，加入rsync 873/tcp，指定rsync的服务端口是873。编加/etc/inetd
.conf，加入rsync stream tcp nowait root /bin/rsync rsync --daemon

注：对于xinetd，设置方法类似。

b、加入rc.local

编辑/etc/rc.d/rc.local，在最后添加：

/usr/local/bin/rsync --daemon

2、rsync的配置

对于rsync服务器来说，最重要和复杂的就是它的配置了。rsync服务器的配置文件为/etc
/rsyncd.conf，其控制认证、访问、日志记录等等。

该文件是由一个或多个模块结构组成。一个模块定义以方括弧中的模块名开始，直到下一
个模块定义开始或者文件结束，模块中包含格式为name = value的参数定义。每个模块其
实就对应需要备份的一个目录树，比方说在我们的实例环境中，有三个目录树需要备份：
/www/、/home/web_user1/和/home/web_user2/，那么就需要在配置文件中定义三个模块，
分别对应三个目录树。

配置文件是行为单位的，也就是每个新行都表示一个新的注释、模块定义或者参数赋值。
以#开始的行表示注释，以""结束的行表示下面一行是该行的继续。参数赋值中等号后可能
是一个大小写不敏感的字符串、一个以trure/false表示的布尔值。

全局参数

在文件中[modlue]之前的所有参数都是全局参数，当然也可以在全局参数部分定义模块参
数，这时候该参数的值就是所有模块的默认值。

motd file

"motd file"参数用来指定一个消息文件，当客户连接服务器时该文件的内容显示给客户，
默认是没有motd文件的。

log file "log file"指定rsync的日志文件，而不将日志发送给syslog。

pid file

指定rsync的pid文件。

syslog facility

指定rsync发送日志消息给syslog时的消息级别，常见的消息级别是：uth, authpriv, cr
on, daemon, ftp, kern, lpr, mail, news, security, sys-log, user, uucp, local0,
 local1, local2, local3,local4, local5, local6和local7。默认值是daemon。

模块参数

在全局参数之后就需要定义一个或多个模块了，模块中可以定义以下参数：

comment

给模块指定一个描述，该描述连同模块名在客户连接得到模块列表时显示给客户。默认没
有描述定义。

path

指定该模块的供备份的目录树路径，该参数是必须指定的。

use chroot

如果"use chroot"指定为true，那么rsync在传输文件以前首先chroot到path参数所指定的
目录下。这样做的原因是实现额外的安全防护，但是缺点是需要以roots权限，并且不能备
份指向外部的符号连接所指向的目录文件。默认情况下chroot值为true。
max connections

指定该模块的最大并发连接数量以保护服务器，超过限制的连接请求将被告知随后再试。
默认值是0，也就是没有限制。

lock file

指定支持max connections参数的锁文件，默认值是/var/run/rsyncd.lock。

read only

该选项设定是否允许客户上载文件。如果为true那么任何上载请求都会失败，如果为fals
e并且服务器目录读写权限允许那么上载是允许的。默认值为true。

list

该选项设定当客户请求可以使用的模块列表时，该模块是否应该被列出。如果设置该选项
为false，可以创建隐藏的模块。默认值是true。

uid

该选项指定当该模块传输文件时守护进程应该具有的uid，配合gid选项使用可以确定哪些
可以访问怎么样的文件权限，默认值是"nobody"。

gid

该选项指定当该模块传输文件时守护进程应该具有的gid。默认值为"nobody"。

exlude 用来指定多个由空格隔开的多个模式列表，并将其添加到exclude列表中。这等同
于在客户端命令中使用--exclude来指定模式，不过配置文件中指定的exlude模式不会传递
给客户端，而仅仅应用于服务器。一个模块只能指定一个exlude选项，但是可以在模式前
面使用"-"和"+"来指定是exclude还是include。

但是需要注意的一点是该选项有一定的安全性问题，客户很有可能绕过exlude列表，如果
希望确保特定的文件不能被访问，那就最好结合uid/gid选项一起使用。

exlude from

指定一个包含exclude模式的定义的文件名，服务器从该文件中读取exlude列表定义。

include

用来指定多个由空格隔开的多个rsync并应该exlude的模式列表。这等同于在客户端命令中
使用--include来指定模式，结合include和exlude可以定义复杂的exlude/include规则 。
一个模块只能指定一个include选项，但是可以在模式前面使用"-"和"+"来指定是exclude
还是include。

include from

指定一个包含include模式的定义的文件名，服务器从该文件中读取include列表定义。
auth users

该选项指定由空格或逗号分隔的用户名列表，只有这些用户才允许连接该模块。这里的用
户和系统用户没有任何关系。如果"auth users"被设置，那么客户端发出对该模块的连接
请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议
。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需
密码就可以连接模块(也就是匿名方式)。

secrets file

该选项指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时，该文件才
有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没
有默认的secures file名，需要限式指定一个。(例如：/etc/rsyncd.secrets)

strict modes

该选项指定是否监测密码文件的权限，如果该选项值为true那么密码文件只能被rsync服务
器运行身份的用户访问，其他任何用户不可以访问该文件。默认值为true。

hosts allow 该
选项指定哪些IP的客户允许连接该模块。客户模式定义可以是以下形式：

o xxx.xxx.xxx.xxx，客户主机只有完全匹配该IP才允许访问。例如：192.167.0.1

o a.b.c.d/n，属于该网络的客户都允许连接该模块。例如：192.168.0.0/24

o a.b.c.d/e.f.g.h，属于该网络的客户都允许连接该模块。例如：192.168.0.0/255.255
.255.0

o 一个主机名，客户主机只有拥有该主机名才允许访问，例如：backup.linuxaid.com.cn
。

oo *.linuxaid.com.cn，所有属于该域的主机都允许。

默认是允许所有主机连接。

hosts deny

指定不允许连接rsync服务器的机器，可以使用hosts allow的定义方式来进行定义。默认
是没有hosts deny定义。

ignore errors

指定rsyncd在判断是否运行传输时的删除操作时忽略server上的IP错误，一般来说rsync在
出现IO错误时将将跳过--delete操作，以防止因为暂时的资源不足或其它IO错误导致的严
重问题。
ignore nonreadable

指定rysnc服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些
文件是不应该被备份者得到的情况是有意义的。

transfer logging

使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中。

log format

通过该选项用户在使用transfer logging可以自己定制日志文件的字段。其格式是一个包
含格式定义符的字符串，可以使用的格式定义符如下所示：

o %h 远程主机名

o %a 远程IP地址

o %l 文件长度字符数

o %p 该次rsync会话的进程id

o %o 操作类型："send"或"recv"

o %f 文件名

o %P 模块路径

o %m 模块名

o %t 当前时间

o %u 认证的用户名(匿名时是null)

o %b 实际传输的字节数

o %c 当发送文件时，该字段记录该文件的校验码默认log格式为："%o %h [%a] %m (%u) 
%f %l"，一般来说,在每行的头上会添加"%t [%p] "。在源代码中同时发布有一个叫rsync
stats的perl脚本程序来统计这种格式
的日志文件。

timeout

通过该选项可以覆盖客户指定的IP超时时间。通过该选项可以确保rsync服务器不会永远等
待一个崩溃的客户。超时单位为秒钟，0表示没有超时定义，这也是默认值。对于匿名rsy
nc服务器来说，一个理想的数字是600。

refuse options

通过该选项可以定义一些不允许客户对该模块使用的命令参数列表。这里必须使用命令全
名，而不能是简称。但发生拒绝某个命令的情况时服务器将报告错误信息然后退出。如果
要防止使用压缩，应该是："dont compress = *"。

dont compress

用来指定那些不进行压缩处理再传输的文件，默认值是

*.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

rsync客户命令

在对rsync服务器配置结束以后，下一步就需要在客户端发出rsync命令来实现将服务器端
的文件备份到客户端来。rsync是一个功能非常强大的工具，其命令也有很多功能特色选项
，我们下面就对它的选项一一进行分析说明。
首先，rsync的命令格式可以为：

rsync [OPTION]... SRC [SRC]... [USER@]HOST:DEST

rsync [OPTION]... [USER@]HOST:SRC DEST

rsync [OPTION]... SRC [SRC]... DEST

rsync [OPTION]... [USER@]HOST::SRC [DEST]

rsync [OPTION]... SRC [SRC]... [USER@]HOST::DEST

rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST] rsync有六种不同的工作模
式：

拷贝本地文件；当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式
。

使用一个远程shell程序（如rsh、ssh）来实现将本地机器的内容拷贝到远程机器。当DST
路径地址包含单个冒号":"分隔符时启动该模式。

使用一个远程shell程序（如rsh、ssh）来实现将远程机器的内容拷贝到本地机器。当SRC
地址路径包含单个冒号":"分隔符时启动该模式。

从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。
从本地机器拷贝文件到远程rsync服务器中。当DST路
径信息包含"::"分隔符时启动该模式。

列远程机的文件列表。这类似于rsync传输，不过只要在命令中省略掉本地机信息即可。


1、用法

在使用rsync传输文件时，需要指定一个源和一个目的，其中一个可能是远程机器的资源信
息。例如：

rsync *.c foo:src/

表示将传输当前目录下所有以.c结尾的文件到机器foo的src目录下。如果任何文件已经存
在于远程系统，则会调用远程更新协议来实现仅仅传输那些更新过的文件。

rsync -avz foo:src/bar /data/tmp

该命令则递归地传输机器foo上的src/bar目录下的所有内容到本地/data/tmp/bar目录中。
文件以归档模式进行传输，以确保符号链结、属性、权限、属主等信息在传输中都被保存
。此外，可以使用压缩技术来加快数据传输：

rsync -avz foo:src/bar/ /data/tmp

路径信息以"/"结尾时表示拷贝该目录，而不以"/"结尾表示拷贝该目录。当配合使用--de
lete选项时这两种情况的区别将会表现出来。

也可以以本地模式来使用rsync，如果SRC和DST路径中都没有任何":"符号则表示该命令运
行在本地模式，等同于cp命令。
rsync somehost.mydomain.com::

这种模式则将会列出somehost.mydomain.com.可以访问的所有模块信息。

选项说明

-v, --verbose 详细模式输出 -q, --quiet 精简输出模式 -c, --checksum 打开校验开关
，强制对文件传输进行校验 -a, --archive 归档模式，表示以递归方式传输文件，并保持
所有文件属性，等于-rlptgoD -r, --recursive 对子目录以递归模式处理 -R, --relati
ve 使用相对路径信息

rsync foo/bar/foo.c remote:/tmp/

则在/tmp目录下创建foo.c文件，而如果使用-R参数：

rsync -R foo/bar/foo.c remote:/tmp/

则会创建文件/tmp/foo/bar/foo.c，也就是会保持完全路径信息。 -b, --backup 创建备
份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以
使用--suffix选项来指定不同的备
份文件前缀。 --backup-dir 将备份文件(如~filename)存放在在目录下。 -suffix=SUFF
IX 定义备份文件前缀 -u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并
且文件时间晚于要备份的文件。(不覆盖更新的文件) -l, --links 保留软链结 -L, --co
py-links 想对待常规文件一样处理软链结 --copy-unsafe-links 仅仅拷贝指向SRC路径目
录树以外的链结 --safe-links 忽略指向SRC路径目录树以外的链结 -H, --hard-links 保
留硬链结 -p, --perms 保持文件权限 -o, --owner 保持文件属主信息 -g, --group 保持
文件属组信息 -D, --devices 保持设备文件信息 -t, --times 保持文件时间信息 -S, -
-sparse 对稀疏文件进行特殊处理以节省DST的空间 -n, --dry-run现实哪些文件将被传输
 -W, --whole-file 拷贝文件，不进行增量检测 -x, --one-file-system 不要跨越文件系
统边界 -B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节 -e, --rsh=COM
MAND 指定替代rsh的shell程序 --rsync-path=PATH 指定远程服务器上的rsync命令所在路
径信息 -C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传
输的文件 --existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件 
--delete 删除那些DST中SRC没有的文件 --delete-excluded 同样删除接收端那些被该选项指
定排除的文件 --delete-after 传输结束以后再删除 --ignore-errors 及时出现IO错误也
进行删除 --max-delete=NUM 最多删除NUM个文件 --partial 保留那些因故没有完全传输
的文件，以是加快随后的再次传输 --force 强制删除目录，即使不为空 --numeric-ids 
不将数字的用户和组ID匹配为用户名和组名 --timeout=TIME IP超时时间，单位为秒 -I,
 --ignore-times 不跳过那些有同样的时间和长度的文件 --size-only 当决定是否要备份
文件时，仅仅察看文件大小而不考虑文件时间 --modify-window=NUM 决定文件是否时间相
同时使用的时间戳窗口，默认为0 -T --temp-dir=DIR 在DIR中创建临时文件 --compare-
dest=DIR 同样比较DIR中的文件来决定是否需要备份 -P 等同于 --partial --progress 
显示备份过程 -z, --compress 对备份的文件在传输时进行压缩处理 --exclude=PATTERN
 指定排除不需要传输的文件模式 --include=PATTERN 指定不排除而需要传输的文件模式
 --exclude-from=FILE 排除FILE中指定模式的文件 --include-from=FILE 不排除FILE指
定模式匹配的文件 --version 打印版本信息 --address 绑定到特定的地址 --config=FI
LE 指定其他的配置文件，不使用默认的rsyncd.conf文件 --port=PORT 指定其他的rsync服务端
口 --blocking-io 对远程shell使用阻塞IO -stats 给出某些文件的传输状态 --progres
s 在传输时现实传输过程 --log-format=FORMAT 指定日志文件格式 --password-file=FI
LE 从FILE中得到密码 --bwlimit=KBPS 限制I/O带宽，KBytes per second -h, --help 显
示帮助信息