Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1329315
  • 博文数量: 464
  • 博客积分: 9399
  • 博客等级: 中将
  • 技术积分: 6364
  • 用 户 组: 普通用户
  • 注册时间: 2011-02-19 09:15
文章分类

全部博文(464)

文章存档

2014年(12)

2013年(123)

2012年(173)

2011年(156)

我的朋友

分类: LINUX

2012-11-21 13:34:17

,集群 ,处理器的好处是单一系统映像,但是它可扩展能力有限

对称多处理(Symmetric Multi-Processor,简称SMP是由多个对称的处理器、和通过总线共享的内存和I/O部件所组成的计算机系统。SMP是一种低并行度的结构,是我们通常所说的"紧耦合多处理系统",它的可扩展能力有限,但SMP的优点是单一系统映像(Single System Image),有共享的内存和I/O,易编程。

 

,由于SMPcpu层面)做不到高效可伸缩服务器集群,

所以就想到了用服务器来集群的架构来实现高可伸缩的、高可用网络服务结构(LVS

 

,详细介绍LVS项目 由于该负载调度技术是在Linux内核中实现的

所以称之为Linux虚拟服务器(Linux Virtual Server

项目的目标:

使用集群技术和Linux操作系统实现一个高性能、高可用的服务器,它具有很好的可伸缩性(Scalability)、可靠性(Reliability)和可管理性(Manageability)。

虚拟服务器的结构图

 

虚拟服务器的结构

User--->Internet/Intranet---->Load Balancer----->Real Server

 

虚拟服务器框架

 

Linux虚拟服务器框架

 

提供了两大类负载均衡技术及其配套集群管理软件

·三种IP负载均衡技术 +  IP虚拟服务器软件IPVS

·基于内容请求分发的内核Layer-7交换机KTCPVS和集群管理软件(解决后端服务器组提供不同的内容的问题

注意:这里只是用来理解的,其实他们两个都是集成在内核中的!而且是随系统发布的。。不用你再多虑了!

 

2.4.1  IPVS 2.4.1.1 它的实现有三种

·Virtual Server via Network Address TranslationVS/NAT

通过网络转换,调度器重写请求报文的目标,根据预设的调度算法,将请求分派给后端的真实服务器;真实服务器的响应报文通过调度器时,报文的源地址被重写,再返回给客户,完成整个负载调度过程。请求和响应报文都必须经过调度器地址重写)

 

·Virtual Server via IP TunnelingVS/TUN

采用NAT技术时,由于请求和响应报文都必须经过调度器地址重写,当客户请求越来越多时,调度器的处理能力将成为瓶颈。为了解决这个问题,调度器把请求报文通过IP隧道转发至真实服务器,而真实服务器将响应直接返回给客户,所以调度器只处理请求报文。由于一般网络服务应答比请求报文大许多,采用 VS/TUN技术后集群系统的最大吞吐量可以提高10倍。(通过重写ip来实现,真实服务器直接回复客户端。tun原理请参阅VPN原理!)

 

·Virtual Server via Direct RoutingVS/DR

VS/DR通过改写请求报文的MAC地址将请求发送到真实服务器,而真实服务器将响应直接返回给客户。同VS/TUN技术一样,VS/DR技术可极大地提高集群系统的伸缩性。这种方法没有IP隧道的开销对集群中的真实服务器也没有必须支持IP隧道协议的要求,但是要求调度器与真实服务器都有一块网卡连在同一物理网段上。

 

2.4.1.2 IPVS调度器实现了如下八种负载调度算法

·1.轮叫(Round Robin

调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集群中的真实服务器上,它均等地对待每一台服务器,而不管服务器上实际的连接数和系统负载。

·2.加权轮叫(Weighted Round Robin

调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能力来调度访问请求。这样可以保证处理能力强的服务器处理更多的访问流量。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。

·3.最少链接(Least Connections

调度器通过"最少连接"调度算法动态地将网络请求调度到已建立的链接数最少的服务器上。如果集群系统的真实服务器具有相近的系统性能,采用"最小连接"调度算法可以较好地均衡负载

·4.加权最少链接(Weighted Least Connections

在集群系统中的服务器性能差异较大的情况下,调度器采用"加权最少链接"调度算法优化负载均衡性能,具有较高权值的服务器将承受较大比例的活动连接负载。调度器可以自动问询真实服务器的负载情况,并动态地调整其权值。

·5.基于局部性的最少链接(Locality-Based Least Connections

"基于局部性的最少链接" 调度算法是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。该算法根据请求的目标IP地址找出该目标IP地址最近使用的服务器,若该服务器是可用的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于一半的工作负载,则用"最少链接"的原则选出一个可用的服务器,将请求发送到该服务器。

·6.带复制的基于局部性最少链接(Locality-Based Least Connections with Replication

"带复制的基于局部性最少链接"调度算法也是针对目标IP地址的负载均衡,目前主要用于Cache集群系统。它与LBLC算法的不同之处是它要维护从一个目标IP地址到一组服务器的映射,而LBLC算法维护从一个目标IP地址到一台服务器的映射。该算法根据请求的目标IP地址找出该目标IP地址对应的服务器组,按"最小连接"原则从服务器组中选出一台服务器,若服务器没有超载,将请求发送到该服务器,若服务器超载;则按"最小连接"原则从这个集群中选出一台服务器,将该服务器加入到服务器组中,将请求发送到该服务器。同时,当该服务器组有一段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的程度。

·7.目标地址散列(Destination Hashing

"目标地址散列"调度算法根据请求的目标IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

·8.源地址散列(Source Hashing

"源地址散列"调度算法根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表找出对应的服务器,若该服务器是可用的且未超载,将请求发送到该服务器,否则返回空。

2.4.1.3 IPVS的缺点

在基于IP负载调度技术中不会区分内容!所以就要求后端服务器提供相同的服务。而事实呢很多web应用总后端服务器都担任不同的角色,比如专门存放html的、专门存放图片的、专门存放CGI

2.4.2 内核Layer-7交换机KTCPVS(基于内容转发可以提高单台服务器cache的命中率) 2.4.2.1 KTCPVS工作流程

在基于IP负载调度技术中,当一个TCP连接的初始SYN报文到达时,调度器就选择一台服务器,将报文转发给它。此后通过查发报文的IPTCP报文头地址,保证此连接的后继报文被转发到该服务器。这样,IPVS无法检查到请求的内容再选择服务器,这就要求后端服务器组提供相同的服务,不管请求被发送到哪一台服务器,返回结果都是一样的。但是,在有些应用中后端服务器功能不一,有的提供HTML文档,有的提供图片,有的提供CGI,这就需要基于内容的调度 (Content-Based Scheduling)

2.4.2.2由于用户空间TCP Gateway的开销太大

他们提出在操作系统的内核中实现Layer-7交换方法,来避免用户空间与核心空间的切换和内存复制的开销。在Linux操作系统的内核中,我们实现了Layer-7交换,称之为KTCPVSKernel TCP Virtual Server)。目前,KTCPVS已经能对HTTP请求进行基于内容的调度但它还不很成熟,在其调度算法和各种协议的功能支持等方面,有大量的工作需要做。

2.4.2.3虽然应用层交换处理复杂,它的伸缩性有限,但应用层交换带来以下好处:

?相同页面的请求被发送到同一服务器,可以提高单台服务器的Cache命中率。

?一些研究[5]表明WEB访问流中存在局部性。Layer-7交换可以充分利用访问的局部性,将相同类型的请求发送到同一台服务器,使得每台服务器收到的请求具有更好的相似性,可进一步提高单台服务器的Cache命中率。

?后端服务器可运行不同类型的服务,如文档服务,图片服务,CGI服务和数据库服务等。

LVS集群的特点可以归结如下: 功能

有实现三种IP负载均衡技术八种连接调度算法IPVS软件。IPVS内部实现上,采用了高效的Hash函数和垃圾回收机制,能正确处理所调度报文相关的ICMP消息(有些商品化的系统反而不能)。虚拟服务的设置数目没有限制,每个虚拟服务有自己的服务器集。它支持持久的虚拟服务(如HTTP CookieHTTPS等需要该功能的支持),并提供详尽的统计数据,如连接的处理速率和报文的流量等。针对大规模拒绝服务(Deny of Service)攻击,实现了三种防卫策略

有基于内容请求分发的应用层交换软件KTCPVS,它也是在Linux内核中实现。有相关的集群管理软件对资源进行监测,能及时将故障屏蔽,实现系统的高可用性。主、从调度器能周期性地进行状态同步,从而实现更高的可用性。

适用性

后端服务器可运行任何支持TCP/IP的操作系统,包括Linux,各种Unix(如FreeBSDSun SolarisHP Unix等),Mac/OSWindows NT/2000等。

负载调度器能够支持绝大多数的TCPUDP协议:

 

协议内容

TCP HTTPFTPPROXYSMTPPOP3IMAP4DNSLDAPHTTPSSSMTP

UDP DNSNTPICP,视频、音频流播放协议等

无需对客户机和服务器作任何修改,可适用大多数Internet服务。

性能

LVS服务器集群系统具有良好的伸缩性,可支持几百万个并发连接。配置100M网卡,采用VS/TUNVS/DR调度技术,集群系统的吞吐量可高达1Gbits/s;如配置千兆网卡,则系统的最大吞吐量可接近10Gbits/s






阅读(563) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~