Chinaunix首页 | 论坛 | 博客
  • 博客访问: 44837086
  • 博文数量: 384
  • 博客积分: 9990
  • 博客等级: 中将
  • 技术积分: 5644
  • 用 户 组: 普通用户
  • 注册时间: 2008-06-05 17:44
文章分类

全部博文(384)

文章存档

2011年(1)

2008年(383)

分类: 服务器与存储

2008-06-06 05:52:05

众所周知,目前应用的存储网络主要有直接附属存储(DAS)、网络附属存储(NAS)、存储区域网络(SAN)几种结构,而应用最广的是SAN结构。采用SAN网络结构,数据存储设备和读取数据的计算机将位于同一个专属的高性能网络中,网络上的任何计算机都可以访问该网络上的任意数据块,从而可以方便地对用户进行管理并对硬盘空间进行有效的分配。
  本文探讨采用SAN结构的非编网络的测量。
  如图1所示,采用SAN结构的非编网络包括SDD、交换机、服务器及非编工作站几个部分,SDD储存控制器控制整个硬盘阵列。在我们所测量的非编网络中,SDD拥有60个容量为146MB的硬盘,整个存储容量为8.76TB,由于我们对硬盘阵列做了冗余,其有效存储量为6.5TB。SDD储存控制器控制拥有4个码流为100MB/s的HOST端口,通过这4个端口与光纤交换机连接,光纤交换机再与各个工作站连接,形成一个光纤网。同时,各个工作站也与以太交换机连接。这样,光纤网和以太网相结合,就组成了一个双网结构的非编网络。网络中采用两台MDC服务器作双机热备份,平时两台MDC服务器一起工作,各处理一半的数据量,当一台MDC服务器出现故障时,另一台就会接管所有的任务,使整个网络的运行不会受到影响。
  数据服务器也采取双机热备份,共同管理数据库,同时还利用Legato Co-Standby Server 2000软件进行即时备份,使非编工作站和SDD数据库的数据不会丢失。
  FC交换机采用的是两台Mcdata公司的Sphereon 4500交换机,它有24个端口,交换速度为2Gb/s,每台FC交换机与SDD的两个HOST端口连接,非编工作站也分别接入两台FC交换机,保证当FC交换机单点故障时,网络的部分设备仍可正常运行,并且能够构成一个完整的制作网络,完成上下载及后期制作工作。
  从SDD控制器到MDC服务器和数据服务器,所有主要网络设备都有冗余,任何一台主要网络设备出现故障时都不会影响整个网络的运行,因此这种SAN结构的非编网络具有极高的稳定性。
  影响网络性能的一个主要因素就是网络的带宽,在网络带宽使用达到极限的情况下,整个网络的交换速度就会受到严重制约。在测量的非编网络中,带宽瓶颈可能来自几个方面:(1)多台非编工作站同时对同一硬盘的读写带宽,即SDD本身硬盘的带宽;(2)HOST端口的带宽;(3)交换机端口的带宽或者交换机与非编工作站之间的带宽。所以,在做网络带宽测量时,主要针对这几个方面进行。
  对于SDD来说,其RAID结构如图2所示。测量的SDD一共建立了6个Tier和5个LUN:由Tier1、Tier2、Tier3捆绑而成的LUN1、LUN2,由Tier4、Tier5、Tier6捆绑而成的LUN3、LUN4、LUN5。其中LUN3有100MB的存储容量并作为MDC的Cluster心跳盘使用,其余LUN的容量都为1.6TB。单块硬盘的I/O理论带宽约在20MB/s以上。通过多个硬盘的捆绑即可使网络达到非常可观的带宽数值,在我们的SDD硬盘阵列中,除了心跳盘,每个LUN都由10个以上的硬盘捆绑而成,所以每个LUN都可以提供200MB/s以上的带宽。同时对用户使用存储空间进行配置,把用户对存储空间的使用设置在不同的LUN上,4个LUN可以提供800MB/s以上的带宽,所以硬盘本身并不会成为网络带宽瓶颈。
  对于SDD的HOST端口,在测量的非编网络中SDD上有8个HOST端口,可以提供800MB/s的接口带宽,但是网络只使用了4个HOST端口,可以提供400MB/s的接口带宽,整个非编网络一共有30台非编工作站,其中20台采用Matrox DigiSuite DTV板卡,可以实现两路实时;另10台采用Pinnacle Targa3000系列板卡,可以实现三路实时。测量的非编工作站全部采用50Mb/s的MPEG-2 I帧压缩的视频流采集,非编工作站每个轨道的带宽为:
  50/8MB/s=6.25MB/s
  30个非编工作站的总带宽为:
  (20×2+10×3)×6.25MB/s= 437.5MB/s
  SDD使用的HOST端口带宽为400MB/s,假如30个非编工作站同时读写SDD,SDD使用的HOST端口将出现带宽瓶颈。在实际中,一般不会出现30台非编工作站同时读写SDD的情形。根据经验统计,只需按理论峰值的1/3来计算。30台非编工作站在使用中读写SDD的实际最大带宽为:
  (437.5/3)MB/s=146MB/s
  可见,在实际使用中SDD还是有很大的带宽余量。这个结论在实际使用中也得到了证实。

非编的网络测量

  这次我们主要针对广东电视台新建的非编制作网络,从网络的稳定性、网络的带宽瓶颈及制作的视频质量三个方面进行测量。由于测量的非编网络没有接入无卡非编工作站,视/音频数据都是通过FC交换机传输而没有经过以太网交换,所以网络的带宽测量主要是针对FC网部分;而以太网主要传输控制信号,数据流量很小,因此在带宽测量中可以被忽略。
  服务器端和非编工作站的配置分别列于表1和表2。
  使用的测量设备有泰克公司的VM700T视频信号测试仪、TG2000信号发生器、TSG100音频信号发生器、PQA300图像质量分析仪等;测试工具软件主要有SANergy 3.2及SDD本身的端口测量指令。
  网络可靠性的测量
  主要测量网络硬件的可靠性、软件的稳定性,以及服务器软件功能设置,内容有:
  (1)MDC服务器的测试
  主要包括MDC服务器双电源冗余测试、服务器系统盘RAID1容错及MDC服务器的集群管理测试。
  由于MDC服务器都是双电源供电,当MDC服务器正常工作时,手动拔掉双电源之一,服务器工作正常,证明MDC服务器双电源冗余正常。当MDC服务器正常工作时,手动热拔掉数据服务器上SCSI硬盘,服务器没有异常,系统工作正常;然后热插回硬盘,系统能够自动识别,其工作没有受到任何影响,证明MDC服务器系统盘采用RAID1容错正常。两个MDC服务器均设置为负载均衡,默认情况下在MDC1和MDC2上都会提供服务,手动关掉一台服务器如MDC1,如果MDC1服务器的资源会在90s内切换到MDC2服务器上,则客户端可以重新联入网络访问SDD;然后把刚才关掉的MDC1服务器重新打开,服务器上的资源又会在90s内切换回MDC1服务器上,证明两台MDC服务器的集群管理正常,资源可以互相切换。
  (2)数据库服务器的测试
  主要有双电源冗余测试、Legoto Co-Standby Server 2000镜像集群容错测试等。
  跟MDC服务器一样,当数据库服务器正常工作时,手动拔掉双电源之一,服务器工作正常,证明数据库服务器双电源冗余正常。当DBserver1启动正常,SQL Server在线时,在非编工作站建立故事板sql1-1、sql1-2并保存,建立故事板sql1-3不保存,手动关闭DBsever1服务器,DBsever1资源离线,大约90s后DBserver2接管MS SQL服务,非编工作站发出数据库连接错误的警报,重新启动编辑程序后,非编工作站工作正常,证明Legoto Co-Standby Server 2000镜像集群容错正常。
  (3)交换机的测试
  我们测试的非编网络具有典型的双网结构,主要测试网络的稳定性。众所周知,影响网络稳定性的主要因素有交换机和带宽。对于交换机对网络稳定性的影响的测试,主要是做双FC交换机冗余测试和双以太交换机冗余测试。当非编工作站正常工作时,MDC1和MDC2分别光纤连接在FC交换机1和2上,此时Cluster资源存储在MDC1上,手动关闭FC交换机1,于是连接在其上的非编工作站不能工作,而连接在FC交换机2上的非编工作站工作没有受到影响;移动光纤连接到FC交换机2上,然后重启非编工作站,如果非编工作站工作正常,证明FC交换机有冗余功能。对以太交换机的测试方法与之一样。
  (4)非编工作站编辑软件功能的测试
  主要测试上下载、编辑、特技、字幕和网络管理等模块。
  在上下载模块的测试中,我们主要测试模拟复合和模拟分量信号的输入/输出及SDI数字信号的输入/输出。须要注意:通过编辑软件遥控录像机上下载,须要调整录像机的控制精度,并要求精确到帧。
  在编辑模块的测试中,主要测试实现素材打点并精确到帧编辑、支持节目线编辑等功能,包括插入、覆盖、剪切、支持多层视频预览、支持时间线文件打包合成、支持音频调整等内容。
  在特技模块的测试中,主要测试实现视频过渡特技、视频二维特技(包括二维窗口、马赛克、色调变化、淡入/淡出、滤镜、抽帧等效果)、视频三维特技(包括三维边框、模糊、卷页、模板划像等效果)、对视频加键通道实现抠像、快慢动作变速效果及支持视频静帧等内容。
  在字幕模块的测试中,主要测试标题字幕、唱词字幕、滚屏字幕和关键帧的制作及图片文件添加等功能。
  在网络管理模块的测试中,主要测试栏目、用户、权限、空间和日志等管理。

网络带宽的测量
  根据前面的分析,我们主要进行SDD逻辑硬盘负载性能带宽测试、SDD单个Host端口与FC交换机连接的负载性能测试、满负荷时整个光纤通道负载带宽测试、单台非编工作站光纤通道负载带宽测试4个部分的测量。SANergy端口的测试值是平均值,并不能实时反映恒定数据流读写时的效果(一般此值偏高),但可以向目的存储体提供持续的端口操作,大致了解板卡和磁盘阵列的大文件读写性能,比较符合视频数据流的特点,是较合适的测试工具。
  实测用以验证应用软件和系统稳定性和能力,我们采用了白噪声信号,其带宽大于各种普通信号源,并有带宽稳定、波动较小、易于监测网络带宽的实际流向和数据大小等特性,是非常好的测试信号源。所以,我们选择SANergy和白噪声信号来测试网络带宽性能。
  在进行非编网络测试时,系统连接如图3。测试信号在信号发生器上载到SDD磁盘阵列,再从SDD磁盘阵列读出、下载到信号测试仪,然后才对上载的测试信号进行测量。
  (1)SDD逻辑硬盘负载性能带宽测量
  首先进行不同Tier捆绑Lun的带宽测量。在SDD上对Lun的捆绑进行设置,让Lun分别捆绑一个、两个、3个和4个Tier,分别测量不同设置情况下Lun的带宽。可以用SANergy测量:分别启动单个、两个SANergy写入大文件(1000MB/s及1000kB/s)测带宽;也可以用恒定视频数据流(50Mb/s的MPEG-2 I帧压缩的噪波信号,双轨码流为13MB/s)持续写入。  在实际测量中,选用白噪波测量,在信号发生器上产生白噪声,在不同交换机上的非编工作站采集此白噪声,把采集的信号写在同一个Lun上,逐渐增加采集非编工作站的数量,直到带宽饱和,计算采集非编工作站的数量;当进程稳定后,在SDD执行Stats指令,记录SDD的Host3和Host4的数据速率及总和,测试对应一个逻辑卷总的写带宽之和(所开启的非编工作站平均分布到两台交换机上)。经过测量噪波信号写入一个Tier捆绑的Lun,可提供约150MB/s以上的带宽,支持12路噪波信号写入;2个Tier捆绑的Lun,可提供约170MB/s以上的带宽,支持13路噪波信号写入;3个Tier捆绑的Lun,可提供约190MB/s以上的带宽,支持14路噪波信号写入;4个Tier捆绑的Lun,可提供220MB/s以上的带宽,支持约17路噪波信号写入。
  在实际应用中,我们用3个Tier捆绑的Lun,每个Lun提供190MB/s以上的带宽,一共有4个Lun,可以提供4×190MB/s=760MB/s的带宽。
  对于读性能带宽的测试也一样,根据不同的Tier捆绑成Lun,在不同交换机上的多台非编工作站同时读同一Lun的视频文件,逐渐增加非编工作站的数量或参与读取的图像层数,直到无法满足实时播出的要求,计算总播放层数,记录SDD的Host3和Host4的数据速率及总和。
  (2)SDD单个Host端口与FC交换机连接的负载性能测量
  用SANergy的读或写操作,同时通过选择跟交换机连接的非编工作站及控制读写素材的Lun的位置,可以控制数据单独从不同的Host端口进行读出或写入操作,在连接逻辑卷的唯一端口带宽饱和时,利用SDD的Stats命令记录此时每个Host端口的流量数据。
  (3)满负荷时整个光纤通道负载带宽测试
  当SDD连接的所有非编工作站同时进行读和写操作时,SDD的所有Host端口与FC交换机连接的负载性能。
测试方法:采用SANergy软件测试——在与SDD所有Host端口连接的FC交换机上的非编工作站上运行该软件,对不同卷进行并发读写测试,在该非编工作站或交换机上读带宽,得出SDD的所有Host端口与FC交换机连接的负载带宽。
  (4)单台非编工作站光纤通道负载带宽测试
  在单台非编工作站启动1~3个SANergy3.2应用,设置不同的文件名,同时启动读或写性能测试工具,测试对应一个卷总的读或写带宽之和。
  非编工作站的通道数字特性测量
  对非编工作站的通道数字特性测量,主要根据GB/T17953-2000《4∶2∶2数字分量图像信号的接口》、GB/T14857-1993《演播室数字电视编码参数规范》和GY/T152-2000《电视中心制作系统运行维护规程》等国家标准。数字视频测试信号由一台非编工作站采集,存储到磁盘阵列,再从非编工作站重放进行测试,系统连接如图3所示。在进行视频测试的时候,我们使用了彩条、五阶梯波、多波群、黑场、2T脉冲和蝴蝶结等测试信号,主要检测了输出幅度、幅频特性、非线性失真、信噪比、K系数、时延、同步幅度、闪电、矢量等视频指标,以及幅频特性、信噪比、总谐波失真、电平差等音频指标;同时,还利用PQA300图像质量分析仪对压缩的图像信号进行了测试。
  由于非编工作站本身有SDI输入/输出及模拟分量和模拟复合输入/输出信号,测量时对信号的采集和输出也是分这三种情况。对视频信号也分为25Mb/s和50Mb/s两种格式进行采集和重放。由于实际中采用的是SDI数字信号采集和下载,在非编工作站里采用50Mb/s的MPEG-2 I帧压缩的视频流,下面重点介绍其测试。
  (1)视频特性的测量
  先把TG2000信号发生器与非编工作站的SDI IN连接,方法如图3。用50Mb/s MPEG-2 I帧压缩方式采集所有的测试信号,然后在故事板重放采集的素材,在非编工作站的输出端连接VM700T视频信号测试仪,测试输出信号的特性,结果列于表6。
  重放各种不同的测试信号,可以测量非编工作站的数字视频特性,测量结果列于表7。
  (2)音频特性的测量
  与视频特性的测量一样,但是连接的信号发生器是TSG100音频信号发生器,采集的是单独的声音信号,测量仪器还是VM700T视频信号测试仪,我们采集了1kHz音频信号、扫频信号,测量的指标列于表8。
  (3)图像质量的测量
  对于数字压缩视频信号的测量,现在最流行的测量方法就是用泰克图像质量分析仪。PQA300本身存储了各种测试信号,通过上载其测试信号,然后在故事板回放测试信号的素材,把经过压缩的重放信号与储存在PQA300的原始信号对比,从而计算出压缩信号的质量。
  测量中,选用了BBC、Flower、Mobile、Popple、Ski、Tennis 6种图像序列作为测试信号,测试结果列于表9。
PQA300的测量结果分为亮度PQR值和亮度与色度PQR值,通常考虑后者。当PQR值小于1时,一般观察者觉察不出图像的损伤;当PQR值小于3时,图像质量优良。

对测量结果的探讨

  从以上测量可以看到,该非编网络有以下特点:
  1.网络性能稳定,设计比较合理,服务器、交换机、SDD控制器和存储体均采用了冗余设计,避免了单个设备故障而造成系统崩溃,特别是MDC服务器的自动接管,在设置上比较合理,接管比较快。数据库用Legato Co-Standby Server 2000软件实时备份,SDD数据库的数据不会丢失,提高了系统的安全性和稳定性。
  2.网络带宽满足制作的需要。根据我们的测量,网络的极限带宽取决于SDD的Host端口的占用,SDD的4个H端口与2台2Gb/s FC交换机连接,由于SDD的每个Host端口最大带宽只有100MB/s(在实际测量中可以提供95MB/s以上的读写带宽),每台FC交换机与SDD的两个Host端口连接后输出的交换带宽应为200MB/s(在实际测量中可以提供196.2MB/s的读写带宽),相当于可以同时提供28个50Mb/s的MPEG-2 I帧压缩视频流同时实时播放不丢帧。实际中,此非编网中第一台FC交换机连接了13台非编工作站,第二台FC交换机连接了17台非编工作站。根据前面的分析:所有非编工作站同时读写SDD的情形,根据经验统计,只需按理论峰值的1/3来计算,所以整个网络的带宽余量还是比较大的,预留了再扩容的余地,这跟前面的理论计算和实际测量相吻合。
  对于硬盘本身的带宽,根据SDD的设置,我们把3个Tier捆绑成一个Lun,每个Lun可为网络至少提供较为稳定的约190MB/s以上的读、写带宽,可以同时提供28个50Mb/s的MPEG-2 I帧压缩视频流同时实时播放不丢帧,新扩容的硬盘分成4个主要的Lun,其带宽为760MB/s,比SDD的4个Host端口带宽400MB/s大得多。可见,硬盘本身的带宽不是网络的瓶颈。
  3.图像质量有所提高。视频信号采用50Mb/s MPEG-2 I帧压缩,图像质量达到IMX格式或DVCPRO 50格式的水平。根据泰克PQA300的测量,其Mobile、Popple、Tennis图像序列测试结果比50Mb/s码流的录像机指标好。

阅读(698) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~