LVS负载均衡原理和算法详解

气路接头LVS负载均衡原理和算法详解
LVS负载均衡原理和算法详解
Internet的快速增长使多媒体⽹络服务器⾯对的访问数量快速增加,服务器需要具备提供⼤量并发访问服务的能⼒,因此对于⼤负载的服务器来讲,CPU、I/O处理能⼒很快会成为瓶颈。由于单台服务器的性能总是有限的,简单的提⾼硬件性能并不能真正解决这个问题。为此,必须采⽤多服务器和负载均衡技术才能满⾜⼤量并发访问的需要。Linux 虚拟服务器(Linux Virtual Servers,LVS) 使⽤负载均衡技术将多台服务器组成⼀个虚拟服务器。它为适应快速增长的⽹络访问需求提供了⼀个负载能⼒易于扩展,⽽价格低廉的解决⽅案。 LVS是⼀个开源的软件,可以实现LINUX平台下的简单负载均衡。LVS是Linux Virtual Server的缩写,意思是Linux虚拟服务器。
调度器的实现技术中,IP负载均衡技术是效率最⾼的。在已有的IP负载均衡技术中有通过⽹络地址转换(Network Address Translation)将⼀组服务器构成⼀个⾼性能的、⾼可⽤的虚拟服务器,我们称之为VS/NAT技术(Virtual Server via Network Address Translation),⼤多数商品化的IP负载均衡调度器产品都是使⽤此⽅法,如Cisco的LocalDirector、F5的Big/IP和 Alteon的ACEDirector。在分析VS/NAT的缺点和⽹络服务的⾮对称性的基础上,通过IP隧道实现虚拟服务器的⽅法VS/TUN (Virtual Server via IP Tunneling),和通过直接路由实现虚拟服务器的⽅法VS/DR(Virtual Server via Direct Routing),
它们可以极⼤地提⾼系统的伸缩性。所以,IPVS软件实现了这三种IP负载均衡技术,它们的⼤致原理如下。
1,Virtual Server via Network Address Translation(VS/NAT)精馏塔填料
通过⽹络地址转换,调度器重写请求报⽂的⽬标地址,根据预设的调度算法,将请求分派给后端的真实服务器;真实服务器的响应报⽂通过调度器时,报⽂的源地址被重写,再返回给客户,完成整个负载调度过程
2,Virtual Server via Direct Routing(VS/DR)
VS/DR通过改写请求报⽂的MAC地址,将请求发送到真实服务器,⽽真实服务器将响应直接返回给客户。同VS/TUN技术⼀样,VS/DR技术可极⼤地提⾼集系统的伸缩性。这种⽅法没有IP隧道的开销,对集中的真实服务器也没有必须⽀持IP隧道协议的要求,但是要求调度器与真实服务器都有⼀块⽹卡连在同⼀物理⽹段上。
3,Virtual Server via IP Tunneling(VS/TUN)
采⽤NAT技术时,由于请求和响应报⽂都必须经过调度器地址重写,当客户请求越来越多时,调度器的处理能⼒将成为瓶颈。为了解决这个问题,调度器把请求报⽂通过IP隧道转发⾄真实服务器,⽽真
实服务器将响应直接返回给客户,所以调度器只处理请求报⽂。由于⼀般⽹络服务应答⽐请求报⽂⼤许多,采⽤ VS/TUN技术后,集系统的最⼤吞吐量可以提⾼10倍。
监视器安装LVS系统结构与特点:
使⽤LVS架设的服务器集系统从体系结构上看是透明的,最终⽤户只感觉到⼀个虚拟服务器.物理服务器之间可以通过⾼速的LAN或分布在各地的WAN相连。最前端是负载均衡器,它负责将各种服务请求分发给后⾯的物理服务器,让整个集表现得象⼀个服务于同⼀IP地址的虚拟服务器
LVS集系统具有良好的可扩展性和⾼可⽤性。可扩展性是指,LVS集建⽴后,可以很容易地根据实际的需要增加或减少物理服务器。⽽⾼可⽤性是指当检测到服务器节点或服务进程出错、失效时,集系统能够⾃动进⾏适当的重新调整系统。
LVS集采⽤IP负载均衡技术和基于内容请求分发技术。调度器具有很好的吞吐率,将请求均衡地转移到不同的服务器上执⾏,且调度器⾃动屏蔽掉服务器的故障,从⽽将⼀组服务器构成⼀个⾼性能的、⾼可⽤的虚拟服务器。整个服务器集的结构对客户是透明的,⽽且⽆需修改客户端和服务器端的程序。
为此,在设计时需要考虑系统的透明性、可伸缩性、⾼可⽤性和易管理性。
LVS集采⽤三层结构,其主要组成部分为:
A、负载调度器(load balancer),它是整个集对外⾯的前端机,负责将客户的请求发送到⼀组服务器上执⾏,⽽客户认为服务是来⾃⼀个IP地址(我们可称之为虚拟IP地址)上的。
B、服务器池(server pool),是⼀组真正执⾏客户请求的服务器,执⾏的服务有WEB、MAIL、FTP和DNS等。
C、共享存储(shared storage),它为服务器池提供⼀个共享的存储区,这样很容易使得服务器池拥有相同的内容,提供相同的服务。
针对不同的⽹络服务需求和服务器配置,IPVS调度器实现了如下⼗种负载调度算法:
1,轮叫(Round Robin)简称RR
调度器通过"轮叫"调度算法将外部请求按顺序轮流分配到集中的真实服务器上,它均等地对待每⼀台服务器,⽽不管服务器上实际的连接数和系统负载。
2,加权轮叫(Weighted Round Robin)简称WRR
调度器通过"加权轮叫"调度算法根据真实服务器的不同处理能⼒来调度访问请求。这样可以保证处理能⼒强的服务器处理更多的访问流量。调度器可以⾃动问询真实服务器的负载情况,并动态地调整其权值。
3,最少链接(Least Connections)简称LC动员剂
调度器通过"最少连接"调度算法动态地将⽹络请求调度到已建⽴的链接数最少的服务器上。如果集系统的真实服务器具有相近的系统性能,采⽤"最⼩连接"调度算法可以较好地均衡负载。
4,加权最少链接(Weighted Least Connections)简称WLC
在集系统中的服务器性能差异较⼤的情况下,调度器采⽤"加权最少链接"调度算法优化负载均衡性能,具有较⾼权值的服务器将承受较⼤⽐例的活动连接负载。调度器可以⾃动问询真实服务器的负载情况,并动态地调整其权值。
5,基于局部性的最少链接(Locality-Based Least Connections)简称LBLC
"基于局部性的最少链接" 调度算法是针对⽬标IP地址的负载均衡,⽬前主要⽤于Cache集系统。该算法根据请求的⽬标IP地址出该⽬标IP地址最近使⽤的服务器,若该服务器是可⽤的且没有超载,将请求发送到该服务器;若服务器不存在,或者该服务器超载且有服务器处于⼀半的⼯作负载,则⽤"
最少链接"的原则选出⼀个可⽤的服务器,将请求发送到该服务器。zzcc面膜机
6,带复制的基于局部性最少链接(Locality-Based Least Connections with Replication)简称LBLCR
"带复制的基于局部性最少链接"调度算法也是针对⽬标IP地址的负载均衡,⽬前主要⽤于Cache集系统。它与LBLC算法的不同之处是它要维护从⼀个⽬标IP地址到⼀组服务器的映射,⽽LBLC算法维护从⼀个⽬标IP地址到⼀台服务器的映射。该算法根据请求的⽬标IP地址出该⽬标IP地址对应的服务器组,按"最⼩连接"原则从服务器组中选出⼀台服务器,若服务器没有超载,将请求发送到该服务器,若服务器超载;则按"最⼩连接"原则从这个集中选出⼀台服务器,将该服务器加⼊到服务器组中,将请求发送到该服务器。同时,当该服务器组有⼀段时间没有被修改,将最忙的服务器从服务器组中删除,以降低复制的程度。
7,⽬标地址散列调度(Destination Hashing)简称DH
算法也是针对⽬标IP地址的负载均衡,但它是⼀种静态映射算法,通过⼀个散列(Hash)函数将⼀个⽬标IP地址映射到⼀台服务器。⽬标地址散列调度算法先根据请求的⽬标IP地址,作为散列键(Hash Key)从静态分配的散列表出对应的服务器,若该服务器是可⽤的且未超载,将请求发送到该服务器,否则返回空。
8,源地址散列调度(Source Hashing)简称SH
算法正好与⽬标地址散列调度算法相反,它根据请求的源IP地址,作为散列键(Hash Key)从静态分配的散列表出对应的服务器,若该服务器是可⽤的且未超载,将请求发送到该服务器,否则返回空。它采⽤的散列函数与⽬标地址散列调度算法的相同。除了将请求的⽬标IP 地址换成请求的源IP地址外,它的算法流程与⽬标地址散列调度算法的基本相似。在实际应⽤中,源地址散列调度和⽬标地址散列调度可以结合使⽤在防⽕墙集中,它们可以保证整个系统的唯⼀出⼊⼝。
9,最短的期望的延迟(shortest expected delay scheduling)简称sed
基于wlc算法,举例说明
ABC三台机器分别权重123,连接数也分别是123,name如果使⽤WLC算法的话⼀个新请求进⼊时他可能会分给ABC中任意⼀个,使⽤SED算法后会进⾏这样⼀个运算.
A:(1+1)/2
B:(1+2)/2
C:(1+3)/3
根据运算结果,把连接交给C
剥离力测试方法10,最少队列调度(never queue scheduling)简称nq
⽆需列队,如果有台realserver的连接数=0 就直接分配过去,不需要进⾏sed运算 .

本文发布于:2024-09-22 01:08:02,感谢您对本站的认可!

本文链接:https://www.17tex.com/tex/1/99129.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:服务器   调度   请求   负载   算法   集群
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议