2008年(456)
分类: 服务器与存储
2008-05-15 11:50:45
实时、无中断、双向交流的数据处理平台是海关业务的最得力助手, 但如何选择、架构这一信息平台,使之胜任海量的数据交换、繁杂的处理流程,却是一个必须解决的重大问题……
普通的城市口 岸通关物流要涉及50种以上的单证,几乎每个单证都涉及到一个非常复杂的处理流程。根据目前的流量统计,每天平均有305M字节的流量,112500多个单证处理和交换业务。而且随着海关业务信息化的快速推进,将来还会有更多的单证电子化,预计在两到三年内,每天的数据流量将达到1.5G字节,单证处理和交换量达到50万批次左右。所以,针对海关口岸信息平台建设的解决方案必须满足项目对存储系统的严格要求,解决方案要在确保绝对安全的前提下,提供高数据吞吐量和高实时性,同时鉴于业务的快速发展,还需要有很强的可扩展性。
大胆的选择
在海关物流的信息处理中,涉及到众多的EDI报文文件,因此物流系统平台不仅涉及大量的数据信息集中写入中央数据库,同时也要处理和存储全部的EDI报文。目前广泛应用的存储技术中 DAS(直接附加存储),因为管理比较复杂、扩充性较差,以及总拥有成本较高等原因不符合需求,而其余两项存储技术该选择哪一种呢?是选用NAS(网络附加存储),还是选用SAN(存储区域网络),还是两者兼而有之呢?这个问题困扰着项目的设计者。
惠普的存储解决方案种类丰富,但在国内外的海关方面还很少应用,选择惠普对用户来说是比较大胆的举动。惠普海关物流系统解决方案的总体结构大体分为三层,第一层是信息处理服务器,第二层是应用处理服务器,然后是存储系统。在系统运行过程中,经常会出现的一种情况是,第一层和第二层同时访问存储系统中的同一个卷。这样的共享问题,在SAN解决方案当中是无法解决的,即使通过一些软件手段得到了解决,也是不符合业界标准的,因此,为了系统的可靠性,NAS设备肯定是首选,被用来存储EDI报文。
接下来的问题就是数据库信息怎么存储了。虽然,NAS目前也可支持数据库的存储,但是,由于NAS设备内部所固化的操作系统是专为文件共享所优化的,它本身不能作为应用服务器,也就是说,当NAS作为应用服务器的数据库存储设备时,客户端的数据访问要花费三倍的带宽,如果某一客户端想读取数据,它得通过LAN(局域网)将访问需求传送到应用服务器上,应用服务器再通过LAN去NAS上读取数据,经过应用服务器的再处理后通过LAN将数据送到客户端。如此,系统的整体性能将大打折扣。
SAN标准则是为了多个服务器之间通过专用的高速网络来共享存储和更加有效地管理存储设备而设计的。其基本思路是将LAN上的存储移到SAN上,使得数据的访问、备份和恢复不影响LAN的性能,这样在突发性大数据量访问时,网络性能不会有大幅下降。因此,基于光纤通道的千兆位速率网络SAN便是在服务器和存储器之间实现高速访问所不可替代的技术。
成功的融合
惠普所提供的解决方案中,建议用户选用高端磁盘阵列HP SureStore XP 128,备份系统采用惠普SureStore LTO 6/60磁带库。各种服务器都通过冗余Fibre Channel卡连接到核心光纤存储交换机。网络中设置一台备份管理工作站HP B2600,安装惠普OmniBack II软件,来实施自动化的备份操作。整个存储架构建立在SAN架构上,存储网络中心采用两台高性能光纤通道交换机,作为SAN网络的骨干,服务器能够利用SAN网络上所配置的磁带库,通过HP Openview Omniback专用备份软件部署LAN-free backup和server-free backup。并根据普通数据库处理业务和备份业务数据流特性的不同,将整个SAN网络划分成两个子网:磁盘阵列子网和磁带库备份子网。
在磁盘阵列子网中,为了保证链路的可靠性,每台服务器通过多块HBA卡分别跨接在两台光纤交换机上,做到主机端的链路冗余。同时磁盘阵列前端控制器通过多条链路与光纤交换机相连,多控制器采用“平时任务分担,故障时互为备份”的运行模式。因此整个存储系统无任何链路上的单点故障。在磁带库备份子网中,磁带库通过光纤与SAN相连,为SAN中连接的服务器和NAS头端设备提供备份服务。
据了解,将磁带库和磁盘阵列在光纤交换机上划分子网(zoning),主要是由于访问磁带库的I/O操作多为顺序I/O(Sequential I/O),而访问磁盘阵列的I/O多为随机I/O(Random I/O),将这两部分I/O分开,有助于提高系统的稳定性;其次,由于SAN中的服务器通常对于磁盘阵列的I/O操作有很高的性能要求,而且前端还有大量用户通过文件服务器访问磁盘阵列,划分子网(zoning)后能够有效保证磁盘阵列的访问性能。该项目的一位工程师在接受采访时说:“以前数据库的I/O是一个很大的瓶颈,大量的调优工作都在这方面,但是迁移到新的系统之后,这个瓶颈就不存在了。可以说,存储这一部分就没有任何瓶颈了。”
在NAS存储系统的建设当中,惠普改变了以往“凡是在SAN架构中采用的存储设备就不能为NAS使用,反之亦然”的做法,建立了一个后端存储阵列基于SAN架构的高性能NAS存储系统。
惠普在NAS存储中采用了最新的HP NAS 8000解决方案,它可以在Windows和Unix系统之间提供共享的文件存储,可以在用户的网络中添加、管理和部署存储而且无需关闭网络。针对不同的应用环境,它还可以提供多种不同的配置方式,而且随着用户应用的变化,NAS 8000的配置方式也可以随之调整。
在NAS方案中,NAS引擎通过两块千兆网卡连接到口岸通关数据平台局域网中,两个NAS引擎能够并行工作,提供互为备份服务。客户端可以直接通过IP网络访问数据。备份系统采用惠普SureStore LTO 6/60磁带库,通过多根Fibre Channel连接到核心光纤存储交换机。NAS中的数据可以直接从NAS引擎备份到磁带库,NAS系统中已经集成了备份模块。
为了实现SAN与NAS的协调工作,NAS并没有自己独立的盘柜,NAS和SAN共享了一个HP XP 128的盘柜,整个系统看起来很简单,维护起来很方便。其次,文件系统的信息和数据库系统的信息是交叉的,两块存储之间存在一个数据交换和协同的问题。系统规定,信息交换层只能访问NAS,而不能访问SAN,于是这一层就不存在协调的问题了。对于既需要对数据库进行操作,又需要对文件进行操作的应用处理服务器,这套系统则通过BEA的中间件WebLogic来访问数据库,通过一些文件系统来对NAS进行访问,以此来实现两者的协调工作。
珍贵的财富
现在,惠普公司市场部的负责人回顾这段经历的时候说: “在这个存储系统建设的过程中,有很多做法都是在国内非常罕见的,无论从技术上还是软硬件设备上都是目前国际上最先进的。所以,在项目实施中,很多问题都是靠以惠普为首的各个厂家通力合作、艰苦攻关来解决的,经常会连续几个星期不断地尝试各种可能的解决方案来解决一个问题。这虽然很辛苦,但也是做项目的一种乐趣。”另据这位负责人透露,因为在海关方面的成功应用,使惠普在SAN与NAS融合的解决方案上拥有了丰富的经验。而且该项目的设计者们都对此感到非常欣慰,认为这段经历是事业中的一笔珍贵财富。
前人栽树,后人乘凉。目前已有两家省级电信公司有意与惠普合作建立同样的存储系统。 (供应厂商:HP)