Chinaunix首页 | 论坛 | 博客
  • 博客访问: 3056021
  • 博文数量: 535
  • 博客积分: 15788
  • 博客等级: 上将
  • 技术积分: 6507
  • 用 户 组: 普通用户
  • 注册时间: 2007-03-07 09:11
文章分类

全部博文(535)

文章存档

2016年(1)

2015年(1)

2014年(10)

2013年(26)

2012年(43)

2011年(86)

2010年(76)

2009年(136)

2008年(97)

2007年(59)

分类: LINUX

2007-05-09 15:26:05

可以先使用rpm -qa |grep rsync 查看rsync是否已经安装

   rsync命令的用法

  在配置完rsync服务器后,就可以从客户端发出rsync命令来实现各种同步的操作。rsync有很多功能选项,下面就对介绍一下常用的选项:

  rsync的命令格式可以为:

  1. rsync [OPTION]... SRC [SRC]... [USER@]HOST:DEST
  2. rsync [OPTION]... [USER@]HOST:SRC DEST
  3. rsync [OPTION]... SRC [SRC]... DEST
  4. rsync [OPTION]... [USER@]HOST::SRC [DEST]
  5. rsync [OPTION]... SRC [SRC]... [USER@]HOST::DEST
  6. rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]

  rsync有六种不同的工作模式:

  1. 拷贝本地文件;当SRC和DES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。

  2.使用一个远程shell程序(如rsh、ssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。
  3.使用一个远程shell程序(如rsh、ssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。
  4. 从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。

  5. 从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。

  6. 列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。


    下面说说rsyns的配置过程
    一. 配置服务器端
    首先编辑 /etc/rsyncd.conf 内容如下:(安装rsync后并不会自动创建该配置文件)
    uid = nobody #进行备份的用户 nobody为任何用户
    gid = nobody #进行备份的组 nobody为任何组
    use chroot = no #不使用chroot
    max connections = 10 #最大连接数
    log file = /var/log/rsyncd.log #日志文件

    [backup] # 这里是认证的模块名
    path = /opt/xia/ #参与同步的目录
    ignore errors # 可以忽略一些无关的IO错误
    read only = yes #只读
    list = no #不允许列清单
    anth users = rsync #认证的用户名
    secrets file = /etc/rsyncd.secrets #密码文件存放地址

    然后在/etc下面编辑一个rsyncd.secrets的密码存放文件
    格式为
    用户名:密码 如 rsync:rsync

    2.设定: /etc/xinetd.d/rsync:
    即#vi /etc/xinetd.d/rsync
    #default: off
    #description:The rsync server is a good addition to am ftp server,as it\
    #       allows crc checksumming etc.
       service rsync
      {
        disable = no
        socket_type     = stream
        wait            = no
        user            = root
        server          = /usr/bin/rsync
        server_args     = --daemon
        log_on_failure  += USERID
       }
    把其中的disable = yes 改为 disable = no之后退出保存就可以了,这还没有完成,还需启动rsync的服务。
    #service xinetd restart
   

    或者使用命令
     rsync --daemon
            重起也是上面的命令
    rsync启动的端口为 873端口

    二. 客户端的配置

        1.设定密码文件
        2.测试rsync执行指令
        3.将rsync指令放入工作排程(crontab)

    说明如下:
   1.设定密码文件
   假设把密码文件放在/root/rsyncd.secrets,内容很简单,只要含有一行密码即可:
   #vi /root/rsyncd.secrets
   rsync
  退出vi编辑模式并保存。
  注:为了安全,设定密码档案的属性为:600。rsyncd.secrets的密码一定要和Rsync Server密码设定档案里的密码一样。如果不同,将会出现  如下的错误:
  @ERROR: auth failed on module backup
  rsync: connection unexpectedly closed (90 bytes read so far)
  rsync error: error in rsync protocol data stream (code 12) at io.c(165)


  2.执行命令为:
  rsync  -vazu --delete   --password-file=/etc/rsyncd.secrets rsync@192.168.0.153::backup  /ttt
    参数 v 表示详细提示
    z 表示压缩
    u 表示只进行更新
    topg 保持文件原有属性如属主、时间的参数
    --progress 指显示
    --delete 指如果服务器端删除了这一文件,那么客户端也相应把文件删除,保持真正的一致
    root 为用户名
    @192.168.0.153为服务器IP
    ::后面的backup为认证的模块名
    /home/test 为备份到本地的目录名
    --password-file=/etc/rsyncd.secrets 制定密码存放位置的地址

   3.可以编写脚本 rsync.sh
 
   #!/bin/bash
   /usr/bin/rsync  -vazu --delete   --password-file=/etc/rsyncd.secrets rsync@192.168.0.153::backup  /ttt

    然后将该脚本加入到/etc/crontab文件中 定时执行更新

    # crontab -e

  输入以下一行:

  0,30 * * * *  /root/rsync.sh

  保存退出,这样服务器B每个小时的0分和30分时都会自动运行一次rsync.sh,rsync.sh是负责保持服务器B和服务器A同步的。这样就保证了服务器A的所有更新在30钟后,服务器B也一样取得了和服务器A一样的最新的资料。











Rsync相关参数说明

全局参数

在文件中[modlue]之前的所有参数都是全局参数,当然也可以在全局参数部分定义模块参数,这时候该参数的值就是所有模块的默认值。

motd file

"motd file"
参数用来指定一个消息文件,当客户连接服务器时该文件的内容显示给客户,默认是没有motd文件的。

log file

"log file"
指定rsync的日志文件,而不将日志发送给syslog

pid file

指定rsyncpid文件。

syslog facility

指定rsync发送日志消息给syslog时的消息级别,常见的消息级别是:uth, authpriv, cron, daemon, ftp, kern, lpr, mail, news, security, sys-log, user, uucp, local0, local1, local2, local3,local4, local5, local6local7。默认值是daemon

模块参数

在全局参数之后就需要定义一个或多个模块了,模块中可以定义以下参数:

comment

给模块指定一个描述,该描述连同模块名在客户连接得到模块列表时显示给客户。默认没有描述定义。

path

指定该模块的供备份的目录树路径,该参数是必须指定的。

use chroot

如果"use chroot"指定为true,那么rsync在传输文件以前首先chrootpath参数所指定的目录下。这样做的原因是实现额外的安全防护,但是缺点是需要以roots权限,并且不能备份指向外部的符号连接所指向的目录文件。默认情况下chroot值为true

max connections

指定该模块的最大并发连接数量以保护服务器,超过限制的连接请求将被告知随后再试。默认值是0,也就是没有限制。

lock file

指定支持max connections参数的锁文件,默认值是/var/run/rsyncd.lock

read only

该选项设定是否允许客户上载文件。如果为true那么任何上载请求都会失败,如果为false并且服务器目录读写权限允许那么上载是允许的。默认值为true

list

该选项设定当客户请求可以使用的模块列表时,该模块是否应该被列出。如果设置该选项为false,可以创建隐藏的模块。默认值是true

uid

该选项指定当该模块传输文件时守护进程应该具有的uid,配合gid选项使用可以确定哪些可以访问怎么样的文件权限,默认值是"nobody"

gid

该选项指定当该模块传输文件时守护进程应该具有的gid。默认值为"nobody"

exlude

用来指定多个由空格隔开的多个模式列表,并将其添加到exclude列表中。这等同于在客户端命令中使用--exclude来指定模式,不过配置文件中指定的exlude模式不会传递给客户端,而仅仅应用于服务器。一个模块只能指定一个exlude选项,但是可以在模式前面使用"-""+"来指定是exclude还是include

但是需要注意的一点是该选项有一定的安全性问题,客户很有可能绕过exlude列表,如果希望确保特定的文件不能被访问,那就最好结合uid/gid选项一起使用。

exlude from

指定一个包含exclude模式的定义的文件名,服务器从该文件中读取exlude列表定义。

include

用来指定多个由空格隔开的多个rsync并应该exlude的模式列表。这等同于在客户端命令中使用--include来指定模式,结合includeexlude可以定义复杂的exlude/include规则 。一个模块只能指定一个include选项,但是可以在模式前面使用"-""+"来指定是exclude还是include

include from

指定一个包含include模式的定义的文件名,服务器从该文件中读取include列表定义。

auth users

该选项指定由空格或逗号分隔的用户名列表,只有这些用户才允许连接该模块。这里的用户和系统用户没有任何关系。如果"auth users"被设置,那么客户端发出对该模块的连接请求以后会被rsync请求challenged进行验证身份这里使用的challenge/response认证协议。用户的名和密码以明文方式存放在"secrets file"选项指定的文件中。默认情况下无需密码就可以连接模块(也就是匿名方式)

secrets file

该选项指定一个包含定义用户名:密码对的文件。只有在"auth users"被定义时,该文件才有作用。文件每行包含一个username:passwd对。一般来说密码最好不要超过8个字符。没有默认的secures file名,需要限式指定一个。(例如:/etc/rsyncd.secrets)

strict modes

该选项指定是否监测密码文件的权限,如果该选项值为true那么密码文件只能被rsync服务器运行身份的用户访问,其他任何用户不可以访问该文件。默认值为true

hosts allow

该选项指定哪些IP的客户允许连接该模块。客户模式定义可以是以下形式:

o xxx.xxx.xxx.xxx
,客户主机只有完全匹配该IP才允许访问。例如:192.167.0.1

o a.b.c.d/n
,属于该网络的客户都允许连接该模块。例如:192.168.0.0/24

o a.b.c.d/e.f.g.h
,属于该网络的客户都允许连接该模块。例如:192.168.0.0/255.255.255.0

o
一个主机名,客户主机只有拥有该主机名才允许访问,例如:backup.linuxaid.com.cn


o *.linuxaid.com.cn
,所有属于该域的主机都允许。

默认是允许所有主机连接。

hosts deny

指定不允许连接rsync服务器的机器,可以使用hosts allow的定义方式来进行定义。默认是没有hosts deny定义。

ignore errors

指定rsyncd在判断是否运行传输时的删除操作时忽略server上的IP错误,一般来说rsync在出现IO错误时将将跳过--delete操作,以防止因为暂时的资源不足或其它IO错误导致的严重问题。

ignore nonreadable

指定rysnc服务器完全忽略那些用户没有访问权限的文件。这对于在需要备份的目录中有些文件是不应该被备份者得到的情况是有意义的。

transfer logging

使rsync服务器使用ftp格式的文件来记录下载和上载操作在自己单独的日志中。

log format

通过该选项用户在使用transfer logging可以自己定制日志文件的字段。其格式是一个包含格式定义符的字符串,可以使用的格式定义符如下所示:

o %h
远程主机名

o %a
远程IP地址

o %l
文件长度字符数

o %p
该次rsync会话的进程id

o %o
操作类型:"send""recv"

o %f
文件名

o %P
模块路径

o %m
模块名

o %t
当前时间

o %u
认证的用户名(匿名时是null)

o %b
实际传输的字节数

o %c
当发送文件时,该字段记录该文件的校验码

默认log格式为:"%o %h [%a] %m (%u) %f %l",一般来说,在每行的头上会添加"%t [%p] "。在源代码中同时发布有一个叫rsyncstatsperl脚本程序来统计这种格式的日志文件。

timeout

通过该选项可以覆盖客户指定的IP超时时间。通过该选项可以确保rsync服务器不会永远等待一个崩溃的客户。超时单位为秒钟,0表示没有超时定义,这也是默认值。对于匿名rsync服务器来说,一个理想的数字是600

refuse options

通过该选项可以定义一些不允许客户对该模块使用的命令参数列表。这里必须使用命令全名,而不能是简称。但发生拒绝某个命令的情况时服务器将报告错误信息然后退出。如果要防止使用压缩,应该是:"dont compress = *"

dont compress

用来指定那些不进行压缩处理再传输的文件,默认值是

*.gz *.tgz *.zip *.z *.rpm *.deb *.iso *.bz2 *.tbz

rsync
客户命令
在对rsync服务器配置结束以后,下一步就需要在客户端发出rsync命令来实现将服务器端的文件备份到客户端来。rsync是一个功能非常强大的工具,其命令也有很多功能特色选项,我们下面就对它的选项一一进行分析说明。

首先,rsync的命令格式可以为:

rsync [OPTION]... SRC [SRC]... [USER@]HOST:DEST

rsync [OPTION]... [USER@]HOST:SRC DEST

rsync [OPTION]... SRC [SRC]... DEST

rsync [OPTION]... [USER@]HOST::SRC [DEST]

rsync [OPTION]... SRC [SRC]... [USER@]HOST::DEST

rsync [OPTION]... rsync://[USER@]HOST[:PORT]/SRC [DEST]
rsync
有六种不同的工作模式:

拷贝本地文件;当SRCDES路径信息都不包含有单个冒号":"分隔符时就启动这种工作模式。

使用一个远程shell程序(如rshssh)来实现将本地机器的内容拷贝到远程机器。当DST路径地址包含单个冒号":"分隔符时启动该模式。

使用一个远程shell程序(如rshssh)来实现将远程机器的内容拷贝到本地机器。当SRC地址路径包含单个冒号":"分隔符时启动该模式。

从远程rsync服务器中拷贝文件到本地机。当SRC路径信息包含"::"分隔符时启动该模式。

从本地机器拷贝文件到远程rsync服务器中。当DST路径信息包含"::"分隔符时启动该模式。

列远程机的文件列表。这类似于rsync传输,不过只要在命令中省略掉本地机信息即可。
1
、用法

在使用rsync传输文件时,需要指定一个源和一个目的,其中一个可能是远程机器的资源信息。例如:

rsync *.c foo:src/

表示将传输当前目录下所有以.c结尾的文件到机器foosrc目录下。如果任何文件已经存在于远程系统,则会调用远程更新协议来实现仅仅传输那些更新过的文件。

rsync -avz foo:src/bar /data/tmp

该命令则递归地传输机器foo上的src/bar目录下的所有内容到本地/data/tmp/bar目录中。文件以归档模式进行传输,以确保符号链结、属性、权限、属主等信息在传输中都被保存。此外,可以使用压缩技术来加快数据传输:

rsync -avz foo:src/bar/ /data/tmp

路径信息以"/"结尾时表示拷贝该目录,而不以"/"结尾表示拷贝该目录。当配合使用--delete选项时这两种情况的区别将会表现出来。

也可以以本地模式来使用rsync,如果SRCDST路径中都没有任何":"符号则表示该命令运行在本地模式,等同于cp命令。

rsync somehost.mydomain.com::

这种模式则将会列出somehost.mydomain.com.可以访问的所有模块信息。

选项说明

-v, --verbose
详细模式输出
-q, --quiet
精简输出模式
-c, --checksum
打开校验开关,强制对文件传输进行校验
-a, --archive
归档模式,表示以递归方式传输文件,并保持所有文件属性,等于-rlptgoD
-r, --recursive
对子目录以递归模式处理
-R, --relative
使用相对路径信息

rsync foo/bar/foo.c remote:/tmp/

则在/tmp目录下创建foo.c文件,而如果使用-R参数:

rsync -R foo/bar/foo.c remote:/tmp/

则会创建文件/tmp/foo/bar/foo.c,也就是会保持完全路径信息。

-b, --backup
创建备份,也就是对于目的已经存在有同样的文件名时,将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir
将备份文件(~filename)存放在在目录下。
-suffix=SUFFIX
定义备份文件前缀
-u, --update
仅仅进行更新,也就是跳过所有已经存在于DST,并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links
保留软链结
-L, --copy-links
想对待常规文件一样处理软链结
--copy-unsafe-links
仅仅拷贝指向SRC路径目录树以外的链结
--safe-links
忽略指向SRC路径目录树以外的链结
-H, --hard-links
保留硬链结
-p, --perms
保持文件权限
-o, --owner
保持文件属主信息
-g, --group
保持文件属组信息
-D, --devices
保持设备文件信息
-t, --times
保持文件时间信息
-S, --sparse
对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run
现实哪些文件将被传输
-W, --whole-file 拷贝文件,不进行增量检测
-x, --one-file-system
不要跨越文件系统边界
-B, --block-size=SIZE
检验算法使用的块尺寸,默认是700字节
-e, --rsh=COMMAND
指定替代rshshell程序
--rsync-path=PATH
指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude
使用和CVS一样的方法自动忽略文件,用来排除那些不希望传输的文件
--existing
仅仅更新那些已经存在于DST的文件,而不备份那些新创建的文件
--delete
删除那些DSTSRC没有的文件
--delete-excluded
同样删除接收端那些被该选项指定排除的文件
--delete-after
传输结束以后再删除
--ignore-errors
及时出现IO错误也进行删除
--max-delete=NUM
最多删除NUM个文件
--partial
保留那些因故没有完全传输的文件,以是加快随后的再次传输
--force
强制删除目录,即使不为空
--numeric-ids
不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP
超时时间,单位为秒
-I, --ignore-times
不跳过那些有同样的时间和长度的文件
--size-only
当决定是否要备份文件时,仅仅察看文件大小而不考虑文件时间
--modify-window=NUM
决定文件是否时间相同时使用的时间戳窗口,默认为0
-T --temp-dir=DIR
DIR中创建临时文件
--compare-dest=DIR
同样比较DIR中的文件来决定是否需要备份
-P
等同于 --partial
--progress
显示备份过程
-z, --compress
对备份的文件在传输时进行压缩处理
--exclude=PATTERN
指定排除不需要传输的文件模式
--include=PATTERN
指定不排除而需要传输的文件模式
--exclude-from=FILE
排除FILE中指定模式的文件
--include-from=FILE
不排除FILE指定模式匹配的文件
--version
打印版本信息
--address
绑定到特定的地址
--config=FILE
指定其他的配置文件,不使用默认的rsyncd.conf文件
--port=PORT
指定其他的rsync服务端口
--blocking-io
对远程shell使用阻塞IO
-stats
给出某些文件的传输状态
--progress
在传输时现实传输过程
--log-format=formAT
指定日志文件格式
--password-file=FILE
FILE中得到密码
--bwlimit=KBPS
限制I/O带宽,KBytes per second
-h, --help
显示帮助信息

 

 

 

 

 

 

一些示例脚本
这里这些脚本都是rsync网站上的例子:

1
、每隔七天将数据往中心服务器做增量备份

#!/bin/sh

# This script does personal backups to a rsync backup server. You will end up
# with a 7 day rotating incremental backup. The incrementals will go
# into subdirectories named after the day of the week, and the current
# full backup goes into a directory called "current"
# tridge@linuxcare.com

# directory to backup
BDIR=/home/$USER

# excludes file - this contains a wildcard pattern per line of files to exclude
EXCLUDES=$HOME/cron/excludes

# the name of the backup machine
BSERVER=owl

# your password on the backup server
export RSYNC_PASSWORD=XXXXXX


########################################################################

BACKUPDIR=`date +%A`
OPTS="--force --ignore-errors --delete-excluded --exclude-from=$EXCLUDES
--delete --backup --backup-dir=/$BACKUPDIR -a"

export PATH=$PATH:/bin:/usr/bin:/usr/local/bin

# the following line clears the last weeks incremental directory
[ -d $HOME/emptydir ] || mkdir $HOME/emptydir
rsync --delete -a $HOME/emptydir/ $BSERVER::$USER/$BACKUPDIR/
rmdir $HOME/emptydir

# now the actual transfer
rsync $OPTS $BDIR $BSERVER::$USER/current

2
、备份至一个空闲的硬盘

#!/bin/sh

export PATH=/usr/local/bin:/usr/bin:/bin

LIST="rootfs usr data data2"

for d in $LIST; do
mount /backup/$d
rsync -ax --exclude fstab --delete /$d/ /backup/$d/
umount /backup/$d
done

DAY=`date "+%A"`

rsync -a --delete /usr/local/apache /data2/backups/$DAY
rsync -a --delete /data/solid /data2/backups/$DAY

3
、对vger.rutgers.educvs树进行镜像

#!/bin/bash

cd /var/www/cvs/vger/
PATH=/usr/local/bin:/usr/freeware/bin:/usr/bin:/bin

RUN=`lps x | grep rsync | grep -v grep | wc -l`
if [ "$RUN" -gt 0 ]; then
echo already running
exit 1
fi

rsync -az vger.rutgers.edu::cvs/CVSROOT/ChangeLog $HOME/ChangeLog

sum1=`sum $HOME/ChangeLog`
sum2=`sum /var/www/cvs/vger/CVSROOT/ChangeLog`

if [ "$sum1" = "$sum2" ]; then
echo nothing to do
exit 0
fi

rsync -az --delete --force vger.rutgers.edu::cvs/ /var/www/cvs/vger/
exit 0

 

 

 

 

 

 

 

 

 

 

FAQ
Q
:如何通过ssh进行rsync,而且无须输入密码?
A
:可以通过以下几个步骤

1.
通过ssh-keygenserver A上建立SSH keys,不要指定密码,你会在~/.ssh下看到identityidentity.pub文件
2.
server B上的home目录建立子目录.ssh
3.
Aidentity.pub拷贝到server B
4.
identity.pub加到~[user b]/.ssh/authorized_keys
5.
于是server A上的A用户,可通过下面命令以用户B sshserver B上了
e.g. ssh -l userB serverB
这样就使server A上的用户A就可以ssh以用户B的身份无需密码登陆到server B上了。

Q
:如何通过在不危害安全的情况下通过防火墙使用rsync?
A
:解答如下:

这通常有两种情况,一种是服务器在防火墙内,一种是服务器在防火墙外。无论哪种情况,通常还是使用ssh,这时最好新建一个备份用户,并且配置sshd仅允许这个用户通过RSA认证方式进入。 如果服务器在防火墙内,则最好限定客户端的IP地址,拒绝其它所有连接。如果客户机在防火墙内,则可以简单允许防火墙打开TCP端口22ssh外发连接就ok了。

Q
:我能将更改过或者删除的文件也备份上来吗?
A
:当然可以:

你可以使用如:rsync -other -options -backupdir = ./backup-2000-2-13 ...这样的命令来实现。
这样如果源文件:/path/to/some/file.c改变了,那么旧的文件就会被移到./backup-2000-2-13/path/to/some/file.c
这里这个目录需要自己手工建立起来

Q
:我需要在防火墙上开放哪些端口以适应rsync
A
:视情况而定

rsync
可以直接通过873端口的tcp连接传文件,也可以通过22端口的ssh来进行文件传递,但你也可以通过下列命令改变它的端口:

rsync --port 8730 otherhost::
或者
rsync -e 'ssh -p 2002' otherhost:

Q
:我如何通过rsync只复制目录结构,忽略掉文件呢?
A
rsync -av --include '*/' --exclude '*' source-dir dest-dir

Q
:为什么我总会出现"Read-only file system"的错误呢?
A
:看看是否忘了设"read only = no"

Q
:为什么我会出现'@ERROR: invalid gid'的错误呢?
A
rsync使用时默认是用uid=nobody;gid=nobody来运行的,如果你的系统不存在nobody组的话,就会出现这样的错误,可以试试gid = nogroup或者其它

Q
:绑定端口873失败是怎么回事?
A
:如果你不是以root权限运行这一守护进程的话,因为1024端口以下是特权端口,会出现这样的错误。你可以用--port参数来改变。

Q
:为什么我认证失败?
A
:从你的命令行看来:

你用的是:
> bash$ rsync -a 144.16.251.213::test test
> Password:
> @ERROR: auth failed on module test
>
> I dont understand this. Can somebody explain as to how to acomplish this.
> All suggestions are welcome.

应该是没有以你的用户名登陆导致的问题,试试rsync -a max@144.16.251.213::test te
st
 
阅读(9899) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~