在freebsd中利用rsync来实现数据迁移(读书笔记）

在freebsd中利用rsync来实现数据迁移：

 

Rsync是一个非常方便的同步工具，尤其适合海量的小文件在二台服务器之间同步。rsync的最新版本可以从 获得。它的特性如下：
1、可以镜像保存整个目录树和文件系统。
2、可以很容易做到保持原来文件的权限、时间、软硬链接等等。
3、无须特殊权限即可安装。
4、优化的流程，文件传输效率高。
5、可以使用rcp、ssh等方式来传输文件，当然也可以通过直接的socket连接。

 

在FreeBSD8下安装rsync:

 

#cd /usr/ports/net/rsync
#make install clean

 

配置rsync服务端:

 

#vi /usr/local/etc/rsyncd.conf

 

我的/usr/local/etc/rsyncd.conf文件如下：

 

pid file = /var/run/rsyncd.pid
uid = 0
gid = 0
[nou]
comment = old nou mail data migration
path = /home/data/domains
auth users = root
secrets file = /usr/local/etc/rsyncd.secrets
read only = no

配置rsyncd.secrets:

vi /usr/local/etc/rsyncd.secrets

加入以下内容（认证所需的用户名/密码，中间以：分割，可以多行的）：

root:123456

修改该文件的访问权限：
#chmod 600 /usr/local/etc/rsyncd.secrets

配置/etc/rc.conf，自动启动服务：

rsyncd_enable="YES"

启动rsync的daemon模式：

#vi /usr/local/etc/rc.d/rsyncd

修改这一行内容，使用IPV4协议

command_args="-4 --daemon"

配置完成，启动Rsync：

#/usr/local/etc/rc.d/rsyncd start

检查Rsync daemon启动状态：

# sockstat | grep rsync
root rsync 586 3 dgram -> /var/run/logpriv
root rsync 586 4 tcp4 *:873 *:*

接下来是Rsync客户端配置（在另一台机器上）：

1: 安装
freebsd-2#cd /usr/ports/net/rsync
freebsd-2#make install clean

2: 配置rsyncd.secrets
vi /usr/local/etc/rsyncd.secrets

加入以下内容：

123456 //注解:Rsync Server上的认证密码,不用输入用户名

3：修改该文件的访问权限：
chmod 600 /usr/local/etc/rsyncd.secrets

4: 同步文件实验：

# rsync -vzrtopg --progress /root/zzz/
将/root/zzz/里的文件全部掏出来，放到/usr/local/etc/rsyncd.conf中[nou]指定的目录中。
--progress 传输过程，就如提示：3 files to consider

# rsync -vzrtopg --progress /root/zzz
将/root/里的zzz目录，放到/usr/local/etc/rsyncd.conf中[nou]制指的目录中。

# chmod 600 /usr/local/etc/rsyncd.secrets  password文件必须是600权限：
rsync -vzrtopg --password-file=/usr/local/etc/rsyncd.secrets --progress /root/zzz

rsync -vzrtopg --password-file=/usr/local/etc/rsyncd.secrets --progress /root/zzz > /var/log/rsync.log
操作情况提示信息写入/var/log/rsync.log文件中。这条指令是最给力的，我把这条语句写到一个文件里，起名叫zxrsync.sh，然后执行sh zxrsync.sh &，这个&是让它在后台运行，然后可以通过tail –f /var/log/rsync.log来看到同步正在进行中，我需要同步1500万个文件，估计得好几天。

以下内容没有试验过，只是作为资料留存：
5: Auto Rsync Shell:
freebsd-2#cd /usr/local/etc/rc.d/

freebsd-2#chmod a-x rsyncd.sh

freebsd-2#vi rsync.sh //加入以下内容

#!/bin/sh

/usr/local/bin/rsync -avzP --delete
--password-file=/usr/local/etc/rsyncd.secrets tonny@192.168.83.80::www
/backup/www/

freebsd-2#chmod a+x rsync.sh

 

freebsd-2#crontab -e //加入以下内容(每天下午5点半自动备份同步)

30 17 * * * /usr/local/etc/rc.d/rsync.sh

 

高级应用(Rsync With SSH)

Rsync Server
freebsd-1#/usr/bin/ssh-keygen -d

Rsync Client
freebsd-2#/usr/bin/ssh-keygen -d

freebsd-2#scp ~/.ssh/id_dsa.pub 192.168.83.80:/root/.ssh/authorized_keys

freebsd-2#ssh-agent csh 或 (ssh-agent bash) --->>> #echo $SHELL
查看当前SHELL
freebsd-2#ssh-add id_dsa --->>> 输入 passphase

freebsd-2#/usr/local/bin/rsync -avzP --delete -e ssh 192.168.83.80:/usr/local/apache2/htdocs/ /backup/www
htdocs/不加斜线,会在备备份机上建立一个文件夹

PS: 参数说明

-a, --archive archive mode, equivalent to -rlptgoD
//档案模式
-v, --verbose
//详细模式
-z, --compress compress file data
//压缩文件
-P equivalent to --partial --progress
//显示进度
--delete
This tells rsync to delete any files on the receiving side
that
aren't on the sending side.
//保持远程机器的文件同步性
-e ssh use SSH connection
//使用SSH连接,保证数据安全

RSYNC 参数详解 -v, –verbose 详细模式输出
-q, –quiet 精简输出模式
-c, –checksum 打开校验开关，强制对文件传输进行校验
-a, –archive 归档模式，表示以递归方式传输文件，并保持所有文件属性，等于-rlptgoD
-r, –recursive 对子目录以递归模式处理
-R, –relative 使用相对路径信息
-b, --backup 创建备份，也就是对于目的已经存在有同样的文件名时，将老的文件重新命名为~filename。可以使用--suffix选项来指定不同的备份文件前缀。
--backup-dir 将备份文件(如~filename)存放在在目录下。
-suffix=SUFFIX 定义备份文件前缀
-u, --update 仅仅进行更新，也就是跳过所有已经存在于DST，并且文件时间晚于要备份的文件。(不覆盖更新的文件)
-l, --links 保留软链结
-L, --copy-links 想对待常规文件一样处理软链结
--copy-unsafe-links 仅仅拷贝指向SRC路径目录树以外的链结
--safe-links 忽略指向SRC路径目录树以外的链结
-H, --hard-links 保留硬链结
-p, --perms 保持文件权限
-o, --owner 保持文件属主信息
-g, --group 保持文件属组信息
-D, --devices 保持设备文件信息
-t, --times 保持文件时间信息
-S, --sparse 对稀疏文件进行特殊处理以节省DST的空间
-n, --dry-run现实哪些文件将被传输
-W, --whole-file 拷贝文件，不进行增量检测
-x, --one-file-system 不要跨越文件系统边界
-B, --block-size=SIZE 检验算法使用的块尺寸，默认是700字节
-e, --rsh=COMMAND 指定替代rsh的shell程序
--rsync-path=PATH 指定远程服务器上的rsync命令所在路径信息
-C, --cvs-exclude 使用和CVS一样的方法自动忽略文件，用来排除那些不希望传输的文件
--existing 仅仅更新那些已经存在于DST的文件，而不备份那些新创建的文件
--delete 删除那些DST中SRC没有的文件
--delete-excluded 同样删除接收端那些被该选项指定排除的文件
--delete-after 传输结束以后再删除
--ignore-errors 及时出现IO错误也进行删除
--max-delete=NUM 最多删除NUM个文件
--partial 保留那些因故没有完全传输的文件，以是加快随后的再次传输
--force 强制删除目录，即使不为空
--numeric-ids 不将数字的用户和组ID匹配为用户名和组名
--timeout=TIME IP超时时间，单位为秒
-I, --ignore-times 不跳过那些有同样的时间和长度的文件
--size-only 当决定是否要备份文件时，仅仅察看文件大小而不考虑文件时间
--modify-window=NUM 决定文件是否时间相同时使用的时间戳窗口，默认为0
-T --temp-dir=DIR 在DIR中创建临时文件
--compare-dest=DIR 同样比较DIR中的文件来决定是否需要备份
-P 等同于 --partial
--progress 显示传输过程
-z, --compress 对备份的文件在传输时进行压缩处理
--exclude=PATTERN 指定排除不需要传输的文件模式
--include=PATTERN 指定不排除而需要传输的文件模式
--exclude-from=FILE 排除FILE中指定模式的文件
--include-from=FILE 不排除FILE指定模式匹配的文件
--version 打印版本信息
--address 绑定到特定的地址
--config=FILE 指定其他的配置文件，不使用默认的rsyncd.conf文件
--port=PORT 指定其他的rsync服务端口
--blocking-io 对远程shell使用阻塞IO
--stats 给出某些文件的传输状态
--log-format=FORMAT 指定日志文件格式
--password-file=FILE 从FILE中得到密码
--bwlimit=KBPS 限制I/O带宽，KBytes per second
-h, --help 显示帮助信息

文章摘自多处：

http://blogold.chinaunix.net/u/22713/showart_202776.html

freebsd中文手册等等。