Chinaunix首页 | 论坛 | 博客
  • 博客访问: 3287276
  • 博文数量: 266
  • 博客积分: 3081
  • 博客等级: 中校
  • 技术积分: 2640
  • 用 户 组: 普通用户
  • 注册时间: 2005-07-04 10:35
个人简介

没什么好介绍的!穷屌丝一个~

文章分类

全部博文(266)

文章存档

2021年(3)

2020年(1)

2019年(2)

2016年(5)

2015年(1)

2014年(1)

2011年(9)

2010年(16)

2009年(31)

2008年(58)

2007年(111)

2006年(2)

2005年(26)

我的朋友

分类: LINUX

2009-03-04 10:20:18


Linux 上多條對外連線(Multi-Path)實作




作者﹕網中人 <>

包下载地址:

version 0.04
date 2004-09-27


一、前言

由於 ADSL 及 Cable Modem 的普及,越來越多企業或個人所擁有的對外連線早已超過一條了,
不管是固接還是撥接,相信不少人都在思考如何用最有效的方式將多條連線作整合,
將所有連線的使用發揮至最大極限及最佳的使用率。
除了起到負載的分攤之外,還能達到斷線備援目的,以提供更靈活的連線整合方案。

本文將以實作的方式試圖在 Linux 上做到上述要求。


二、環境

我先說明一下我的測試環境:

2.1 系統方面:
我目前測試的系統是 RedHat 9.0 Linux ,採用"伺服器"類型安裝,並沒提供 X 界面。
透過 APT 更新至最新修補,並沒安裝 distro 之外的套件。
事實上,只要實作所需的套件滿足的話,並不需要安裝任何伺服器套件。
甚至,核心版本也不需作任何修改,只是某些連線特徵會有些差異(後文[7.1]再詳述)。

2.2 網路方面:
原本的 seednet adsl 是五個 IP 撥接的, 除了之前透過 ip share 來使用外,我再起了另外一個 ppp0 界面。
此外另外再牽了一條 hinet 固一 adsl 。
如此環境,基本上能夠分別測試到如下這幾種連線方式:
* 固接(固定 IP)
* 撥接(非固定 IP)
* ip share(非固定 IP)
見圖:


/\__/\__/\
,--| internet |--.
/ \/--\/--\/ \
| |
| |
+--[seednet ADSL] [hinet ADSL]
| (非固定) (固一)
| | 220.130.96.254
| [ ip share ] |
| 192.168.100.1 |
| | |
| 192.168.100.2 220.130.96.21
| +----------------------------------+
+---| (eth1) (eth0) |
ppp0| kernel 2.4.23 |
+----------------------------------+
(my linux box RH9.0)

2.3 測試方式
雖然,撥接adsl 都是同一設備,或許還不十分理想,目前也只能如此了...
我採用的是拔線的方式來測斷線的,暫還沒想到其他方式,或許大家可以幫忙想想的...
我的測試基本上是用 ping 來做:
* 若是 ppp 或不指定測試目標,我會用 next hop 來測。
* 否則,我會用 traceroute 找出 ISP 端機房的 router ip ,
而不用 next hop ,是因為怕不準,比方說斷線是外部線路之類的。

若大家有更好提議,也歡迎提供....


三、設計目標

實作方案基本上要做到如下這些要求:

3.1 出向負載分流
所有連線在正常情況下,將共同分攤由內對外產生的連線流量。
對於固定連線,可指定權重(weight),否則使用相同權重( weight 1)。

3.2 斷線偵測
若有連線斷掉,需自動從路由中移除。
當連線恢復時,則自動增加路由。

3.3 進向負載分流(額外需求)
外部連線進來,儘可能的將流量分攤在每一條連線上。


四、設計構思

4.1 出向負載分流
利用 Linux iproute 程式,將每一條連線的 gateway 及其權重增加至路由表的 default route 中。
其中的固接 adsl 及 ip share 連線,需靜態指定其 gateway 位址及權重。
其餘撥接或非固接連線,則用 iproute 程式抓出當時的 gateway ,權重分配為 1 。

4.2 斷線偵測
不管是固接還是非固接連線,用手工方式(如 traceroute)抓出 ISP 端的機房 router 位址,
並確定用 ping 可以獲得回應。
然後用靜態路由指定通向 router 的 nexthop gateway ,定期使用 ping 來偵察連線。
每次偵測後都重跑 iproute 程式,並重新設定路由表。
若 ping 不成功,則抓出連線界面,且在重設路由表時忽略該界面連線。

4.3 進向負載分流(額外需求)
使用動態 dns(ddns) 將為每一界面位址分配一個 A 記錄,以達到輪詢回應結果,
從而讓不同的外部連線請求輪流使用每一條連線進入。

本實作方案中,ddns server 建議部署於外部的穩定連線的主機上。
關於動態 dns 的 server 設定,不含在本次實作方案之內。可請參考:


設計難點在於 ipshare :
其中 ipshare 部份需另行設定 nat 轉線。
否則需從清單中移除。

若 nat 設定正確,接下來的難點是獲得 ipshare 的 IP (因為也是非固接的),
這需要在外部的 web server 另行開發 php 程式來獲取(可置於 ddns server)。
關於這部份設計,請參考:

或使用如下代碼:
----------------------- cut here ----------------------

//Get the real client IP ("bullet-proof"???)

function GetProxyIP()
{
if (getenv("REMOTE_ADDR") && strcasecmp(getenv("REMOTE_ADDR"), "unknown"))
$ip = getenv("REMOTE_ADDR");
else
$ip = "unknown";
return($ip);
}/*-------GetIP()-------*/


function GetClientIP()
{
if (getenv("HTTP_CLIENT_IP") && strcasecmp(getenv("HTTP_CLIENT_IP"), "unknown"))
$ip = getenv("HTTP_CLIENT_IP");
else if (getenv("HTTP_X_FORWARDED_FOR") && strcasecmp(getenv("HTTP_X_FORWARDED_FOR"), "unknown"))
$ip = getenv("HTTP_X_FORWARDED_FOR");
else if (getenv("REMOTE_ADDR") && strcasecmp(getenv("REMOTE_ADDR"), "unknown"))
$ip = getenv("REMOTE_ADDR");
else if (isset($_SERVER['REMOTE_ADDR']) && $_SERVER['REMOTE_ADDR'] && strcasecmp($_SERVER['REMOTE_ADDR'], "unknown"))
$ip = $_SERVER['REMOTE_ADDR'];
else
$ip = "unknown";
return($ip);
}

printf("proxy IP: ");
print_r(GetProxyIP());
printf("
\n");
printf("client IP: ");
print_r(GetClientIP());

?>
----------------------- cut here ----------------------


五、實作指令

5.1 獲取當前各界面之 ip :
# ip address show
1: lo: mtu 16436 qdisc noqueue
link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
inet 127.0.0.1/8 brd 127.255.255.255 scope host lo
2: eth0: mtu 1500 qdisc pfifo_fast qlen 1000
link/ether 00:02:44:84:26:4f brd ff:ff:ff:ff:ff:ff
inet 220.130.96.21/24 brd 220.130.96.255 scope global eth0
3: eth1: mtu 1500 qdisc pfifo_fast qlen 1000
link/ether 00:20:ed:36:f9:74 brd ff:ff:ff:ff:ff:ff
inet 192.168.100.2/24 brd 192.168.100.255 scope global eth1
4: eth2: mtu 1500 qdisc pfifo_fast qlen 1000
link/ether 00:02:b3:4b:69:49 brd ff:ff:ff:ff:ff:ff
inet 10.1.2.3/24 brd 10.1.2.255 scope global eth2
15: ppp0: mtu 1492 qdisc pfifo_fast qlen 3
link/ppp
inet 210.64.33.27 peer 210.64.33.1/32 scope global ppp0

5.2 設定 ip rule :
# ip rule add pref 10 from 220.130.96.21 table 10
# ip rule add pref 20 from 192.168.100.2 table 20
# ip rule add pref 30 from 210.64.33.27 table 30

5.3 設定 ip route 各 table :
# ip route replace default via 220.130.96.254 dev eth0 table 10
# ip route replace default via 192.168.100.1 dev eth1 table 20
# ip route replace default via 210.64.33.1 dev ppp0 table 30

5.4 設定 ip route main table:
# ip route replace default \
> nexthop via 220.130.96.254 dev eth0 weight 4 \
> nexthop via 192.168.100.1 dev eth1 weight 1 \
> nexthop via 210.64.33.1 dev ppp0 weight 1

5.5 檢視 main table 規則:
# ip route show
210.64.33.1 dev ppp0 proto kernel scope link src 210.64.33.27
192.168.100.0/24 dev eth1 scope link
220.130.96.0/24 dev eth0 scope link
10.1.2.0/24 dev eth2 scope link
169.254.0.0/16 dev eth2 scope link
127.0.0.0/8 dev lo scope link
default
nexthop via 220.130.96.254 dev eth0 weight 4
nexthop via 192.168.100.1 dev eth1 weight 1
nexthop via 210.64.33.1 dev ppp0 weight 1

5.6 刷新 route cache:
# ip route flush cache

5.7 測試及確認連線生效:
基本上,若在輸入上述命令中沒遇到 error ,那設定就已完成。
接下來可起用多個對外連線(或用 ping),
然後使用 tcpdump -i any 來查看封包是否能分攤在每一條連線上。


六、撰寫 script :
若前述設定經測試成功後,接下來就是撰寫 script 以讓工作自動進行。

6.1 configs

* 說明:
提供給其它 scripts 所需的共同變數值。

* 代碼:
----------------------- cut here ----------------------
BASH=/bin/bash
MAIL=root
SH=/bin/bash
LS=/bin/ls
GREP=/bin/grep
AWK=/bin/awk
SED=/bin/sed
HEAD=/usr/bin/head
TAIL=/usr/bin/tail
CUT=/bin/cut
CAT=/bin/cat
WC=/usr/bin/wc
TR=/usr/bin/tr
SEQ=/usr/bin/seq
SORT=/bin/sort
LSMOD=/sbin/lsmod
IP=/sbin/ip
PING=/bin/ping
IPTABLES=/sbin/iptables
ROUTE=/sbin/route
DATE=/bin/date
DHCP_DIR=/var/lib/dhcp

STATIC=./statics


INTERVAL=60 # check time interval in seconds
RUN_SCRIPT=./run_ip.sh # script to run ip route
DDNS_SCRIPT=./ddns/ddns.sh # script to run ddns update
DDNS=yes # enable/disable ddns update

#-- define public destination for ping --#
fixed_dest="168.95.1.1"

#-- define fixed interface & gateway --#
#-- format: "if:gw:weight [if:gw:weight]..." --#
fixed_gw="eth0:220.130.96.254:4 eth1:192.168.100.1:1"
fixed_if="$(echo -e "${fixed_gw// /\n}" | cut -d: -f1)"

#-- define internal interface, or comment out for none --#
int_if="eth0"

#-- statict routing dest & order --#
#-- format: "static_xxx=value; static_xxxx_order=value"
static_seed_net="139.175.0.0/16"
static_seed_net_order="eth1 eth0"
static_studyarea=140.113.27.184
static_studyarea_order="eth0 eth1"

----------------------- cut here ----------------------

* 變數設定說明:
fixed_dest=
用來作 ping 測試的外部 IP。
fixed_gw=
固定界面之閘道及權重,格式為 "界面名稱:閘道位址:權重"。
int_if=
內部界面名稱,可設定多個。該界面將不會用來設定 default route 。
INTERVAL=
偵測動作之時間間隔,以秒數作單位。
RUN_SCRIPT=
執行路由設定 script 之路逕。執行時可使用 -d 選項排除不必要之界面。
DDNS_SCRIPT=
執行動態 DNS 更新 script 之路逕。執行時可使用 -e 選項排除不必要之界面。
DDNS=
啟用或關閉 ddns 更新(yes|no)。
static_xxxxxx=
靜態路由之目的地,可為單一 IP 或 net_ID/mask 。xxxxxx 為任意名稱。
static_xxxxxx_order=
靜態路由選取的界面次序。左邊為最優,若該界面失效,則選下一個。



6.2 run_ip.sh

* 說明:
此 script 用來抓出系統全部界面及 nexthop gateway ,
並完成路由規則及路由表設定。

* 代碼:
----------------------- cut here ----------------------
#!/bin/bash
#
# script name: run_ip.sh
# purpose: changing route table.
# author: netman(netman@study-area.org)
# license: GPL()
#
# date: 2004-09-23
# version: v0.05
#
# caveate:
# 1) tested on redhat 9.0 linux only
# 2) iproute program is required
#
#------------------------------------------------------------
# change log:
# 1) 2004-03-23 v0.01
# * first beta release
# 2) 2004-03-24 v0.02
# * BUGFIXED:
# - Add IPIF and GWIP checking before change route.
# 3) 2004-04-15 v0.03
# * Add function:
# - Restart network if dead device detected.
# 4) 2004-07-07 v0.04
# * IMPROVEMENT
# - Create central config file
# * Add function:
# - Enable static routing
# 5) 2004-09-23 v0.05
# * IMPROVEMENT
# - More accurate on deleting old rules
# - More accurate on deleting dead interface
# - Add gw determining for dhcp interface
# - Add deletion for dead route
# * BugFix
# - Use central conf file
# - Filter out IPv6 address
#
#------------------------------------------------------------


WD=${0%/*}
CONFIG=$WD/configs
[ -f $CONFIG ] && . $CONFIG || {
echo "${0#*/}: ERROR: can not load $CONFIG."
exit 1
}

#-- route command prefix --#
DEFGW='/sbin/ip route replace default'

#-- define dead interface --#
while getopts "d:" opt; do
case $opt in
d) dead_dev=$OPTARG ;;
esac
done

#-- determine active interfaces --#
interfaces=$($IP address | $GREP -E 'ppp|eth' | \
$AWK -F': ' '/^[0-9][0-9]*:/{print $2}' | $SORT -u \
| grep -Ev "${int_if// /|}")

#-- remove old rule table --#
for i in $interfaces; do
$IP address | $GREP -A2 $i | $AWK '/inet[^6]/{print $2}' | $CUT -d'/' -f1
done | xargs -n1 echo from | while read line; do
$IP rule | grep "$line"
done | $SED -e "s/^/ip rule del pref /;s/://;s/lookup/table/" | $BASH
unset i


#-- remove dead interfaces --#
if [ -n "$dead_dev" ]; then
interfaces=$(echo "$interfaces" | grep -Ev "${dead_dev// /|}")
for dev in $dead_dev; do
DEF_ROUTE=$($IP route list | grep '^default' | grep "dev $dev")
echo "$DEF_ROUTE" | while read line; do
$IP route del $line
done
done
fi

#-- exit while all dead --#
[ "$interfaces" ] || {
$IP route del default
exit 2
}


#-- define table_id --#
init_num=10
offset=`echo -e "${interfaces// /\n}" | $WC -l`
last_num=$(($init_num + $((offset * 10)) ))
tb_num=`$SEQ -s ' ' $init_num 10 $last_num`

#-- FUNCTION: determine DHCP assigning gw --#
dhgw() {
get_lastest () {
OIFS="$IFS"
IFS='
'
for line in $RnT1 $RNT2; do
l="$(echo $line | grep -o 'lease-time[^;]*' | cut -d' ' -f2)"
r="$(echo $line | grep -o 'routers[^;]*' | cut -d' ' -f2)"
e="$(echo $line | grep -o 'expire[^;]*' | cut -d' ' -f3-)"
EX_TIME=$($DATE -d "$e" +%s)
if [ "$((EX_TIME - l))" -gt "${P_TIME-0}" ]; then
P_TIME=$((EX_TIME-l))
D_TIME=$EX_TIME
ROUTER=$r
fi
done
IFS="$OIFS"
echo $D_TIME $ROUTER
}

DH_IF=$1
shift 1
RnT1=$($CAT $1 2>/dev/null | xargs echo | tr '}{' '\n' | $GREP $DH_IF | $TAIL -n 2)
RnT2=$($CAT $1 2>/dev/null | xargs echo | tr '}{' '\n' | $GREP $DH_IF | $TAIL -n 2)
[ "$RnT1" -o "$RnT2" ] || return
GnT=$(get_lastest)
C_TIME=$($DATE +%s)
[ "${GnT% *}" -gt $C_TIME ] && GWIP=${GnT#* }
}


#-- FUNCTION: determine gw --#
dgw() {
unset GWIP
#-- for fixed if --#
if echo $fixed_if | $GREP -wq $1 ; then
GWIP=`echo -e "${fixed_gw// /\n}" | $GREP "^$1:" | \
$CUT -d: -f2`
WEIGHT=`echo -e "${fixed_gw// /\n}" | $GREP "^$1:" | \
$CUT -d: -f3`
#-- for ppp if --#
elif echo $1 | $GREP -q ppp ; then
GWIP="`$IP address show dev $1 | $AWK '/inet[^6]/{print $4}' | \
$CUT -d'/' -f1 | $HEAD -n 1`"
else
#-- try current gw --#
GWIP=$($ROUTE -n | $GREP $1'$' | $AWK '/^0.0.0.0/{print $2}' | $HEAD -n 1)
fi
#-- for dhcp if --#
[ "$GWIP" ] || dhgw $1 $DHCP_DIR/dhclient.leases $DHCP_DIR/dhclient-$i.leases
}

#-- config rule & routing --#
for i in $interfaces ; do
unset IFIP GWIP WEIGHT
IFIP="`$IP address show dev $i | $AWK '/inet[^6]/{print $2}' | \
$CUT -d'/' -f1`"
dgw $i
[ "$tb_num" ] && tb_id=${tb_num%% *}
[ "$IFIP" -a "$GWIP" ] || continue
# check gw
$IP route replace $fixed_dest via $GWIP dev $i &>/dev/null && \
sleep 2; $PING -c1 -w2 $fixed_dest &>/dev/null && GWOK=true
$IP route del $fixed_dest via $GWIP dev $i &>/dev/null
if [ "$GWOK" = true ]; then
unset GWOK
else
continue
fi
# set rule
$IP rule add pref $tb_id from $IFIP table $tb_id
# set route to gw
$IP route replace default via $GWIP dev $i table $tb_id
DEFGW=$DEFGW" nexthop via $GWIP dev $i weight ${WEIGHT:=1}"
SETGW=true
tb_num=${tb_num#* }
done

#-- apply routing --#
[ "$SETGW" = true ] && {
#-- remove old default route --#
DEF_NU=$($IP route | $GREP -c '^default')
for ((i=1;i<=$DEF_NU;i++)); do
$IP route del default
done
#-- set new default route --#
$DEFGW
}

#-- apply static routes --#
[ -f $STATIC ] && . $STATIC

#-- flush cache --#
$IP route flush cache

#-- show routing
$IP route list

#-- FINISH --#
exit 0

----------------------- cut here ----------------------


* 參數說明:
-d ""
指定失效界面,可設定多個。


6.3 statics

* 說明:
此 script 用來設定靜態路由,封包將只會從單一連線送出,而不會分攤至其他連線。

* 代碼:
----------------------- cut here ----------------------
#!/bin/bash
#
# script name: statics
# purpose: set static routes.
# author: netman(netman@study-area.org)
# license: GPL()
#
# date: 2004-09-23
# version: v0.02
#
# caveate:
# 1) tested on redhat 9.0 linux only
# 2) iproute program is required
#
#------------------------------------------------------------
# change log:
# 2004-07-08 v0.01
# * first beta release2
# 2004-09-23 v0.02
# * Improvment:
# - using flexible static_xxxx variable

WD=${0%/*}
CONFIG=$WD/configs
[ -f $CONFIG ] && . $CONFIG || {
echo "${0#*/}: ERROR: can not load $CONFIG."
exit 1
}

set_static () {
while [ "$2" ]; do
eval s_dest=\$$1
eval s_order=\$$2
all_gw="$($IP route show | $SED -n '/^default/,$p')"
for if in $s_order; do
if echo "$all_gw" | $GREP -q "$if" ; then
sn_gw=$(echo "$all_gw" | $GREP $if | awk '{print $3}')
sn_gw=${sn_gw%/*}
break
fi
done
[ "$sn_gw" ] && {
$IP route replace "$s_dest" via $sn_gw
}
shift 2
done
}
set_static ${!static_*}

----------------------- cut here ----------------------

* 注意要點:
此 script 可由 run_ip.sh 來呼叫,也可以獨立使用。


6.4 chk_line.sh

* 說明:
此 script 用來偵測連線是否正常,並定期執行 run_ip.sh 及 ddns.sh(選用)。
若抓出失效界面,再用 -d 參數傳給 run_ip.sh ,該界面將被忽略。

* 代碼:
----------------------- cut here ----------------------
#!/bin/bash
#
# script name: chk_ip.sh
# purpose: checking outbound link and change route and dns.
# author: netman(netman@study-area.org)
# license: GPL()
#
# date: 2004-09-23
# version: v0.04
#
# caveate:
# 1) tested on redhat 9.0 linux only
# 2) using PING for link detection
# 3) iproute program is required
# 4) scripts run_ip.sh & ddns.sh are required too
#
#------------------------------------------------------------
# change log:
# 1) 2004-03-23 v0.01
# * first beta release
# 2) 2004-03-24 v0.02
# * add script path detection
# 4) 2004-07-07 v0.03
# * IMPROVEMENT
# - Create central config file
# * Add function:
# - Add email notification
# 5) 2004-09-23 v0.04
# * IMPROVEMENT
# - Rewrite the method of getting dead interface
#
#------------------------------------------------------------

WD=${0%/*}
CONFIG=$WD/configs
[ -f $CONFIG ] && . $CONFIG || {
echo "${0#*/}: ERROR: can not load $CONFIG."
exit 1
}

# change working directory
cd $WD

#-- determine gateways --#
get_gw () {
defaults=$($IP route show | $SED -n '/default/,$p' | $GREP via)
if_n_gw=$(echo -en "$defaults" | $AWK '{print $5":"$3":'$fixed_dest'"}')
if [ -n "$fixed_gw" ]; then
fixed_pair=$(echo -e "${fixed_gw// /\n}" | awk -F: '{print $1":"$2":'$fixed_dest'"}')
dyn_pair=$(echo "$if_n_gw" | $GREP -Ev "$(echo $fixed_if | $TR ' ' '|')")
all_pair=$(echo $fixed_pair $dyn_pair)
else
all_pair=$(echo "$if_n_gw")
fi
}

#-- configure static route --#
get_dev () {
for i in "$@"; do
if=${i%%:*}
gw=$(echo $i | $CUT -d: -f2)
dest=${i##*:}
$IP route replace $dest via $gw dev $if && \
sleep 1; $PING -c1 -w2 $dest &>/dev/null || echo $if
$IP route del $dest via $gw dev $if
done
unset i
}

#-- run loop --#
while : ; do
get_gw # have gw
d_dev=$(echo $(get_dev $all_pair)) # have dead link

[ "$d_dev" ] && { # send mail if dead link found
echo "dead link found: $d_dev" | \
mail -s "$(hostname): dead link" $MAIL
}

$SH $RUN_SCRIPT -d "$d_dev" # to run ip script

[ -f "$DDNS_SCRIPT" -a "$DDNS" = yes ] && $SH $DDNS_SCRIPT

unset all_pair
sleep $INTERVAL
done

----------------------- cut here ----------------------



6.5 ddns/ddns.sh (選用項目)

* 說明:
此 script 用來動態偵測連線位址,並動態更新 dns 位址記錄。

* 代碼:
----------------------- cut here ----------------------
#!/bin/bash
#
# script name: ddns.sh
# purpose: updating dns record
# author: netman(netman@study-area.org)
# license: GPL()
#
# date: 2004-09-25
# version: v0.04
#
# caveate:
# 1) tested on redhat 9.0 linux only.
# 2) iproute program is required.
# 3) a php webpage to show ip, and the lynx program are required.
# 4) ddns server and ddns key are required.
#
#------------------------------------------------------------
# change log:
# 1) 2004-03-23 v0.01
# * first beta release
# 2) 2004-03-23 v0.02
# * add EXCL_IF list for exception
# 3) 2004-03-23 v0.03
# * add -e option for appending EXCL_IF
# 4) 2004-09-25 v0.04
# * BugFix: detect gw interface list
#
#------------------------------------------------------------

# set commands
HOST=/usr/bin/host
GREP=/bin/grep
CAT=/bin/cat
IP=/sbin/ip
SED=/bin/sed
AWK=/bin/awk
LYNX=/usr/bin/lynx
TOUCH=/bin/touch
DIFF=/usr/bin/diff
NSUPDATE=/usr/bin/nsupdate
MV=/bin/mv

# set variables
if echo $0 | $GREP '^/' ; then
w_dir=${0%/*}
else
w_dir=$PWD/${0%/*}
fi
KEY_FILE=$w_dir/Ktestddns.+157+14615.key
UPDATE_DATA=$w_dir/nsupdate.data
UPDATE_OLD=$UPDATE_DATA.old
HOST_NAME=testddns.study-area.org
NS_SERVER=dns.study-area.org # don't use IP address
IP_SERVER=dns.study-area.org # server running ip.php program
IP_SERVER_IP=$(echo $($HOST $IP_SERVER) | tail -n 1 | $AWK '{print $NF}')
IP_URL=""
CLIENT_TYPE="client" # no proxy or using ISP's proxy
#CLIENT_TYPE="proxy" # use local proxy
MASQ_IF="eth1" # which masqueraded behine NAT
#EXCL_IF="eth1" # note: also use -e options to append list

# have exception
while getopts "e:" opt; do
case $opt in
e) EXCL_IF=$(echo $EXCL_IF $OPTARG) ;;
esac
done

# ensure key files
for file in $KEY_FILE ${KEY_FILE%key}private
do
if [ ! -r $file ]; then
echo "$(basename $0): ERROR: $file is not readable."
exit 1
fi
done

# ensure the server is connectable
$HOST $NS_SERVER $NS_SERVER | $GREP -q "^$NS_SERVER has address" || {
echo "$(basename $0): ERROR: could not contact nameserver $NS_SERVER."
exit 2
}

# prepare initial script
$CAT >| $UPDATE_DATA <> $UPDATE_DATA
echo "send" >> $UPDATE_DATA

# do a test then update
$TOUCH $UPDATE_OLD
if ! $DIFF $UPDATE_OLD $UPDATE_DATA; then
$NSUPDATE -k $KEY_FILE -v $UPDATE_DATA && {
$MV $UPDATE_DATA $UPDATE_OLD
}
fi

#-- end of script --#

----------------------- cut here ----------------------

* 變數設定說明:
KEY_FILE=
用以更新 dns 記錄的 key 。
UPDATE_DATA=
儲存 nsupdate 所需的命令稿。
UPDATE_OLD=
上一次 nsupdate 所需的命令稿。
script 會比對前一份命令稿內容,若相同,則不做 update ,否則才做。
HOST_NAME=
主機名稱。需與 ddns 所設定的記錄一致。
NS_SERVER=
ddns server 之主機名稱,不能使用 IP 位址。
IP_SERVER=
偵測 IP 用的主機名稱。
IP_SERVER_IP=
偵測 IP 用的主機位址。
IP_URL=
偵測 IP 用的網頁 URL 。
CLIENT_TYPE=
主機連線類型。其值為 "client" 或 "proxy" 二者之一。
若主機沒有使用 proxy 或使用 ISP 提供的 proxy,請設為 "client"。
若主機使用 local LAN 的 proxy ,則請設為 "proxy"。
MASQ_IF=
連線將會經過 NAT 的界面,但其偽裝位址需作 ddns 更新。
(注意:NAT 必須要有相應的 port mapping 設定。)
EXCL_IF=
排除在 ddns 更新之外的界面。
通常是連線將會經過 NAT 的界面,但其偽裝位址不作 ddns 更新。

* 參數說明:
-e ""
排除在 ddns 更新之外的界面,可設定多個。
若為多個界面,其值必須至於雙引號(" ")或單引號(' ')之中,如:
-e "eth0 eth1"
參數值將會擴充至 $ESCL_IF 變數裡面。

* 注意要點:
1) 關於動態 ddns 的 server 及 client 端設定,請另行參考:

2) 請定期檢測及確認 ddns server 能夠連線及正常運作。
3) 當前實作範例,是將 ddns.sh 與相關的 keys 置於 ddns 子目錄中。

6.6 軟件包
我將本實作所用到的 script 及其它相關檔案包裝為 tarball ,其內容如下:
multipath/
工作目錄
multipath/run_ip.sh
路由更新 script
multipath/chk_line.sh
連線檢測 script
multipath/ddns/
ddns 子目錄
multipath/ddns/ddns.sh
ddns 更新 script
multipath/ddns/Ktestddns.+157+14615.key
ddns key
multipath/ddns/Ktestddns.+157+14615.private
ddns private key
multipath/configs
共用變數
multipath/kernel-patch/
kernel-patch 子目錄
multipath/kernel-patch/2.4.25-mp01
kernel 2.4.25 config 檔
multipath/kernel-patch/patch-2.4.25-ja2.diff
kernel 2.4.25 修補檔
multipath/statics
靜態路由 script
大家可以從如下位址下載整個軟件包:



6.7 執行 script
以上 script 均可獨立執行, 其種最為主要的 script 是 chk_line.sh , 可用多種方式執行,
因為是無窮迴圈, 可用 backupground 方式啟動:
./chk_line.sh &
執行 killall chk_line.sh 時結束.

另一種方式是以 init 用 respawn 方式來執行. 修改 /etc/inittab, 增加:
ip:35:respawn:/path/to/chk_line.sh
然後執行:
init q
要結束的話, 需修改 inittab, 在句子前加 # 注解, 再重跑 init q 即可.



七、關於 kernel patch

7.1 關於 patch-2.4.25-ja2.diff
本實作方案不一定需要進行 kernel path ,經測試是可用的。
只是因為 routing cache 的關係,通往同一個 destination 的 routing 可能在某一段時間內是不變的。
參考 最後一段有提到:
Note that balancing will not be perfect, as it is route based, and routes are cached.
This means that routes to often-used sites will always be over the same provider.

這對於某些需要作 session 記憶的連線來說(如連接 phpBB 討論版),是不錯的。
但倘若多條 session 在某一特定時間內均為同一目標位址,其流量並不會分攤到其它線路上。
如果要做到將不同的 session 分攤開來,而不論其目標位址是否相同,則須要下載 patch 修補。

我在 RedHat 9.0 上另行下載 kernel 2.4.25 源始碼及 patch-2.4.25-ja2.diff 這支 patch 。
大家可從前面 6.4 章節提供的 tarball 獲取這次實作所用的 config 及 patch 。
或至官方網站下載:
~ja/patch-2.4.25-ja2.diff

7.2 關於 equailze
雖然前述 patch 能夠將不同的 session 分攤至不同連線,但這仍然是 by session 的分攤,
並非做到 by packet 層級的分攤,也就是所謂的"均衡負載"(equailze)。
要做到這點,似乎還要下載另一支 patch:
~tommy/linux/equalize.patch
不過,遺憾的是,這部份我並沒有測試成功。
且後來也沒在 kernel 2.4.25 上與另一支 patch 混合使用。

關於 equailze 的探討及設定,大家可參考 study-area 的討論:

若有人成功測試起來,歡迎回報分享。謝謝﹗


八、展望

當前實作並沒提及頻寬控管。若日後有時間,再來探討 QOS 及 cbq 相關的題目。
在這之前,大家不妨先參考:
http://peterkim.cgucccc.org/document/MPath.html


九、參考資料



~tommy/doc/multipath.txt


http://peterkim.cgucccc.org/document/MPath.html


------- 本文結束 ------

阅读(1082) | 评论(2) | 转发(0) |
给主人留下些什么吧!~~

chinaunix网友2010-09-27 17:06:55

转自chinaunix.net

chinaunix网友2010-09-27 17:06:55

转自chinaunix.net