（计算机应用技术专业论文）即时通信教育平台中负载均衡技术的研究与实现.pdf

北方r = 业大学硕士学位论文 摘要 网络教育是一种基于互联网的传播手段进行学习与教育的一种新型的教育培训方 式。当前商业化的网络教育平台大多数是基于b s 、c s 模式的，这种模式最主要的缺 点是交互性差、实时性差、服务器压力大。即时通信教育平台为解决这些问题提供了一 个良好的解决方案。 即时通信教育平台是一个运行在i n t e r n c t 上，基于混合p 2 p 技术的互动教学服务平 台，是现实学校的扩展和延伸。平台的通信模型采用混合式p 2 p 结构，使用多个高性能 的服务器充当超级节点。用户登录该平台后既能够获得服务器提供的大量教育资源，又 能够实时地与其他用户进行点对点交流学习。由于用户( p e e r ) 之闻可不通过服务器直 接交互，减轻了服务器的负载。但由于平台为多服务器结构，充当超级节点的服务器不 仅作为索引服务器存在同时也担任着应用服务器的职责，因此保证各服务器的负载均衡 成为一个必须解决的问题。 本文将负载均衡技术应用于即时通信教育平台，给出了适用于混合p 2 p 网络结构的 负载均衡方案。 本文首先深入研究了负载均衡技术基本原理和方法，包括基于域名解析、网络地址 翻译、半连接、封装和简单口包转发的负载均衡方案，以及轮转调度、加权轮转调 度、最小连接调度、加权最小连接调度、目标地址散列调度以及源地址散列调度等常用 的调度算法。针对即时通信教育平台的特点，对平台进行负载均衡设计，将充当超级节 点的服务器划分成集群，并增加负载均衡器对用户的登录请求进行调度。在调度算法的 设计中，提出了一种基于遗传算法的动态反馈自适应调度算法，该算法基于负反馈的基 本原理，充分考虑到影响平台中服务器负载的各种因素，采用加权轮转分配当自口用户的 登录请求，并根据服务器反馈的负载信息定期对其权值进行动态调整，采用遗传算法计 算各超级节点在下一时问段的权值。 该负载均衡方案已在“方达”即时通信教育平台中得以应用，实验和应用结果表明 对即时通信教育平台的负载均衡设计方案的有效性。 关键词：教育平台，负载均衡，动态反馈，自适应 北方i ：业大学硕士学位论文 r e s e a r c ha n da p p l i c a t i o no fl o a db a l a n c i n g t e c h n o l o g yo i li n s t a n t c o m m u n i c a t i o ne d u c a t i o np l a t f o r m a b s t r a c t e d u c 撕o nn e t w o r ki san e we d u c a t i o n a la n dt r a i n i n gm e a l l 8b a s e do ni n t e m e t c o m m u n i c a t o nf o rl e a r n i n ga n de d u c a t i o n m o s tc u r r e n tc o m m e r c i a ln e t w o r ke d u c a t i p l a t f o r m sa r cb a s e do nb s ，c sm o d e l sw h i c hm a i nd r a w b a c k sa l ew o r s ei n t e r a e t i v i t y , w o r s e r e a lt i m e a n dt h eh i g hp r e s s u r eo ns d - v e r s i n s t a n tc o m m u n i c a t i o ne d u c a t i o np l a t f o r mp r o v i d e s a g o o ds o l u t i o nt oa d d r e s st h e s ei s s u e s i n s t a n tc o m m u n i c a t i o ne d u c a l i o np l a t f o r mi sa l li n t e r a c t i v ee d u c a t i o ns e r v i c ep l a t f o r m r u n n i n go nt h ei n t e m e tb a s e do nh y b r i dp 2 pt e c h n o l o g ya st h ee x p a n s i o nm a de x t e n s i o no f t h e s c h o o li nr e a l i t y c o m m u n i c a t i o nm o d e lo f p l a t f o r ma d o p t sh y b r i dp 2 ps l r u c t u r ew i t ht h eu s eo f an u m b e ro f h i g h - p e r f o r m a n c es a - v e r sa ss u p e rn o d e s w h e nt h eu s e l p sl o g i nt h ep l a t f o r m , t h e y c a nn o to n l yg e tn u m e r o u se d u c a t i o n a lr e s o u r c e sp r o v i d e db yt h es e r v e r s ，b u ta l s oe x c h a n g ea n d s t u d yw i t ho t h c mi np e e l - - t o p e e ra tr e a lt i m e a si tn e e dn o ti n t e r a c td i r e c t l yt h r o u g hs a f v e t s b e t w e e nu s e l s ( p e e r s ) ，t h es e r v e rl o a di sr e d u c e d h o w e v e r , a st h ep l a t f o r mi st h es t r u c t u r ew i m m o r es e r v e r s o n eo fw h i c ha ss u p e rn o d en o to n l ye x i s t sa 8 锄i n d e xs e r v e r , b u ta l s ot a k e s r e s p o n s i b i l i t yo f a na p p l i c a t i o ns e l w e l , t h e r e f o r ei te n s u l w 3t h a tt h es e r v e rl o a db a l a n c i n gb e c o m e a l li s s u em u s tb es o l v e d i nt h i sp a p e r , l o a db a l a n c i n gt e c h n o l o g yi su s e di ni n s t a n tc o m m u n i c a t i o ne d u c a t i o n p l a t f o r m , p r o v i d i n gt h el o a db a l a n c i n gp r o g r a ma p p l i c a b l et ot h eh y b r i dp 2 p n e t w o r ks t r u c t u r e t 1 1 i sp a p e rd e e r i l ys t u d i e sb a s i cp r i n c i p l eo fl o a db a l a n c i n gt e c h n o l o g y , l o a db a l a n c i n g m e t h o d o l o g yb a s e do nd n s ，n a t ，s e m i - j o i n , e n c a p s u l a t i o na n di pp a c k e tt r a n s m i ta n du s u a l s c h e d u l i n ga l g o r i t h m si n c l u d i n gr o u n dr o b i ns c h e d u l i n g , w e i g h t e dr o u n d - r o b i ns c h e d u l i n g , l e a s t - c e n n e c t i o n s c h e d u l i n g ，w e i g h t e dl e a s t - c e n n e c t i o ns c h c d u l i n g , d e s t i n a t i o nh a s h i n g s c h e d u l i n g a n ds o u l c e h a s h i n gs c h e d u l i n g a c c o r d i n gt o t h ec h a r a c t e r i s t i c so fi n s t a n t c o m m u n i c a t i o ne d u c a t i o np l a t f o r m , t h i sp a p e rm a k e sal o a db a l a n d n gd e s i g nf o rt h ep l a t f o r m w h i c hd i v i d e st h es u p e rn o d ei n t od u s t e r s ，a n di n c r e a s e si o a db a l a n c e rt os c h e d u l eu s e r s l o g o n r e q u e s t s i nt h ed e s i g no fs c h e d u l i n ga l g o r i t h m , ad y n a m i cf e e d b a c ka d a p t i v es c h e d u l i n g a l g o r i t h mb a s e do ng e n e t i ca l g o r i t h mi sp r o v i d e d , w h i c hi sb a s e do nt h en e g a t i v ef e e d b a c k p r i n c i p l e ，t a k e ni n t oa c c o u n to fa l lf a c t o r si m p a c t e do ns e r v e rl o a do np l a t f o r m , a s s i g n st h e c u r r e n tu s e r sl o g i nr e q u e s t sw i t hw e i g h t e dr o u n d - r o b i n , a n dm a k ed y n a m i c 删u s t m e n t so ft h e w e i g h t sr e g u l a r l yo l lt h ef e e d b a c kl o a di n f o r m a t i o nf r o mt h es e r v e rt oc a l c u l a t et h ew e i g h t so f e a c hs u p e rn o d e si nt h en e x tp e r i o dw i t hg e n e t i ca l g o r i t h m s 3 北方1 1 业人学硕十学位论文 t h ep r o g r a mh a sc a r r i e do u to nt h ei n s t a n tc o m m u n i c a t i o ne d u c a t i o np l a t f o r m t h e r e s u l t so f e x p e r i m e n t sa n da p p l i c a t i o n ss h o wt h ev a l i d i t yo f t h el o a db a l a n c i n gd e s i g np r o g r a m f o rt h ei n s t a n tc o m m u n i c a t i o ne d u c a t i o np l a t f o r m ，w h i c hh a sb e e ni m p l e m e n t e di n f a n g d a i n s t a n tc o m m u n i c a t i o ne d u c a t i o np i a f f o r m k e yw o r d s ：e d u c a t i o np l a t f o r m l o a db a l a n c i n g , d y n a m i cf e e d b a c k , a d a p t i v e 4 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得 的研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包 含其他人已经发表或撰写过的研究成果，也不包含为获得j e 友王些太堂或其他 教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的 任何贡献均已在论文中作了明确的说明并表示谢意。 学位论文作者签名：公堍字日期：坷年5 月抽日 学位论文版权使用授权书 本学位论文作者完全了解j e 左王些盘堂有关保留、使用学位论文的规定， 有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅 和借阅。本人授权韭友王些太堂可以将学位论文的全部或部分内容编入有关数 据库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：馀露 签字日期：埘年5 月砷日 导师躲帕 签字日期：弘弘j 月知日 学位论文作者毕业后去向： 工作单位：毒i i 脚娴懒最年7 禽脚公司电话：l 猾加岁l ，竹 通讯地址：蛹帮国斑豆建啤诵i 弓硅餐它螭却良邮编：，抑弘 北方= 业大学硕士学位论文 1 引言 1 1 研究背景 网络教育是一种基于互联网的传播手段进行学习与教育的一种新型的教育培训方 式，为现代远程教育【l 】。网络教育在全球发展十分迅速，在2 0 0 4 年网络教育市场为2 3 0 亿美元，而到2 0 0 5 年为3 1 0 亿美元，呈现了高速的增长。i r e s e a r c h 艾瑞市场咨询【l 】预 测在2 0 0 7 年以及2 0 0 8 年全球市场规模将分别达到5 3 0 亿美元以及6 9 0 亿美元，2 0 1 0 年则将突破千亿大关达到11 6 0 亿美元。在中国，网络教育也呈现着不断增长的态势， 2 0 0 6 年中国网络教育市场规模达到创纪录的2 0 2 亿元，比上年增长2 3 2 】。近日，某专 业调查机构预测，今年我国网络教育市场规模将达到近3 0 0 亿元。 在这样广阔的市场前景下，越来越多的网络教育平台应运而生。计算机技术、多媒 体技术和通信技术的发展，特别是因特网( n t c m e t ) 的发展和普及，为网络教育提供了 强大的技术背景和丰富的教育资源，网络教育的自主性、开放性等特点导致了庞大的网 络教育用户群体【3 】。由于现有大多数网络教育平台都是基于b s 或c s 结构的，基本上 是通过网站下载播放课件、试题库；通过b b s 进行提问和答疑；通过电子邮件收发作 业等实现教学功能【4 】【5 11 6 1 。普遍存在着交互性差、个性化差、实时性差、服务器负载大 等问题，未能充分利用互联网带来的沟通方便性和资源丰富性等特点。 p 2 p ( p e e r - t o - p e e r ) 技术是一种新兴的网络技术，i n t e l 将p 2 p 技术定义为“通过系统间 的直接交换达成计算机资源与信息的共享”。p 2 p 技术经历了三种模式，第一种是以 n a p s t e r 为代表的采用中央服务器管理的p 2 p ，第二种是没有中央服务器的分布式p 2 p ， 第三种为混合型，采用分布服务器，这种模式选择多个高性能节点( 服务器) 作为超级 节点( s u p e r - n o d e ) ，由超级节点完成索引和应用功能，性能、可扩展性较好，易于管 理。 即时通信教育平台将p 2 p 技术应用于网络教育平台，以混合p 2 p 通信模型为基础， 采用服务器充当超级节点。用户不仅可以获得系统提供的丰富的教育资源，还可以经过 服务器索引后，与其它用户直接进行点对点( p e e r - t o - p e e r ) 的交流学习，具有很好的交互 性和实时性。由于用户( p e e r ) 之间可不通过服务器直接交互，减轻了服务器的负载。 但由于平台为多服务器结构，因此保证各服务器的负载均衡成为一个必须解决的问题。 北方i - 业人学硕 = 学位论文 负载均衡技术是建立在现有网络结构之上，通过改变网络硬件或软件的方法均衡各 个服务器负载的技术。本文将负载均衡技术应用于即时通信教育平台，解决系统中各服 务器负载不均的问题。 1 2 论文主要工作 论文的主要目标是将负载均衡技术应用于即时通信教育平台中，解决系统中各个服 务器负载不均的问题。通过对原有平台结构的分析和对现有负载均衡技术的研究比较， 给出基于混合p 2 p 的网络模型中适用的负载均衡方案。采用合适的负载均衡调度算法对 任务进行合理的分配，加快任务的处理速度，从而提高系统性能。 基于w e b 的负载均衡人们己经进行了非常深入的研究，也有一套成熟的实现机 制，然而在即时通信教育平台这样的面向服务、基于混合p 2 p 的网络环境中，传统的负 载均衡技术并不能完全满足需求。 论文研究了各种负载均衡毽术，结合实际的即时通信教育平台，对平台进行负载均 衡设计，并提出一种基于遗传算法的动态反馈自适应调度算法来实现平台的负载均衡调 度，该算法通过加权轮转实现自适应分配用户的登录请求，并采用遗传算法动态调整充 当着超级节点的服务器的调度序列，使系统中服务器负载趋于最佳均衡状态。 1 3 论文结构安排 第一章介绍课题的研究背景，论文的主要工作和论文结构安排。 第二章介绍即时通信教育平台的网络拓扑结构及功能模型，平台现存的问题。 第三章详细介绍负载均衡技术的基本原理和应用现状，常用的负载均衡技术，以及 常用的调度算法。 第四章给出了即时通信教育平台的负载均衡方案，包括负载均衡结构设计、功能模 块设计和调度算法设计。 第五章详细介绍了负载均衡方案中的基于遗传算法的动态反馈自适应调度算法。 第六章深入介绍了负载均衡方案的实现技术。本章从实现思路，实现细节以及实现 的难点等各方面详细论述。 第七章足对即时通信教育平台负载均衡方案的测试结果。通过压力测试，验证了平 台的稳定性和负载均衡方案的可行性。 2 北方：i ：业人学硕士学位论文 最后对论文傲了总结，提出了需要改进的地方和后续的研究工作。 3 北方【：业大学硕士学何论文 2 即时通信教育平台介绍 即时通信教育平台是一个运行在i n t e m e t 上、基于混合p 2 p 技术的互动教学服务平 台，是现实学校的扩展和延伸m 。该系统将用户按照现实社会中的学习组织形式和管理 机制进行组织，共设置校长、教师、学生、家长、家教五种用户身份，提供文字、文 件、手机短信、音视频和电子白板等多种实时互动交流手段，为学习者营造了一个网上 全方位学习交流的环境，图2 1 体现了即时通信教育平台主要功能。平台主界面如图 2 2 所示。 工 i 家kii 学生ii 教师ii 家教i p 2 9 一授7 、 辅导答疑系统 jlj 作业评阅系统 州争 成绩管理系统 通知通告系统 课件兆享系统 ，飞 l 客 磊夕7 即时通信、文件共享、 ( p e e r ) 巡轧信竺竺 j _i 驻i d 脚警li 琴服务l 圈 l 鐾。习矧 ( s 。娄。) 数据库 i 安全管理i 图2 1 即时通信教育平台功能图 正一 北方i ：业大学硕士学位论文 2 1 网络拓扑结构 图2 2 即时通信教育平台界面示例 即时通信教育平台采用混合式p 2 p 结构，为客户提供服务的不是一台服务器，而是 一个在地址上分散分布的服务器群组，每一个服务器都是一个超级节点。这个群组可以 有几个超级节点，也可以有几十个超级节点，每个超级节点可以登录多个普通的节点。 但是这个群组对于用户( 普通节点) 来说是透明的，用户看到的只是一台服务器主机。 使用服务器作为超级节点，不仅是为了保证系统的稳定性，还考虑到网络教育平台 的特殊性。首先，在p 2 p 网络中节点进入、退出p 2 p 网络的随机性比较大。混合式p 2 p 选择网络中一些运算性能和带宽较好的节点作为超级节点。但是这些超级节点得到它需 要的资源后，随时都可能退出网络，不再为系统服务。这样原来连接到这个超级节点的 普通节点就全部与p 2 p 网络断开，它们还需要再次连接到新的超级节点，这种现象是不 稳定的。此外，由于网络教育平台具有一定的特殊性，平台的使用者不仅希望能与其他 用户进行点对点互动交流，同样也希望能获得自己想要的信息和资源，我们将这些教学 一5 北方i 业人学硕十学位论文 ，学习信息存储在服务器上，方便用户使用，因此我们用比较稳定、而且能够容纳多方 面资源的服务器，而不选择性能较好的节点作为超级节点。 图2 3 是即时通信教育平台的网络拓扑结构。 数据库服务器 2 2 层次结构 用户 图2 3 即时通信教育平台网络拓扑结构 按照数据的流向和处理流程，把即时通信教育平台分为通信层、协议层、处理层和 数据层四个层次，每个层次又分为不同的模块，如图2 4 所示。层次的独立性很强，层 次之间的接口比较简单。即使某一个层次或模块需要作修改或者增减功能，对其他层或 模块的影响也较小川。 6 北方_ 业大学硕士学f 帝论文 图2 4 即时通信教育平台层次结构图 通信层：通信层处于结构的最底层，也是最重要的一层，它封装网络通信细节，实 现节点问的p 2 p 通信以及各节点与服务器问的通信。 协议层：通信层接收到的数据交给协议层。协议解析器从数据包中解析出一个一个 的请求，根据请求类型解析出请求的具体内容。 处理层：负责处理协议层解析出的请求。处理的过程中有可能需要访问数据库或者 发送请求结果给别的节点。所有的处理过程都在线程池中完成。 数据库：负责读、写、查询数据库，并且返回结果给处理层。 2 3 平台存在的问题 即时通信教育平台解决了传统的网络教育平台所存在的交互性差、实时性差、服务 器负载大等问题。但仍然存在着服务器负载不均的问题。目前用户登录服务器采取的策 略如下：在每个客户端设有一个配置文件，文件中存储当静系统中所有充当超级节点的 应用服务器地址，当用户登录时，读取该文件，从文件中存储的第一个服务器地址开始 尝试连接，如果连接超时，则开始尝试文件中的第二个服务器地址，直到登录成功或超 时退出为止。这种登录方式很容易造成系统中服务器的负载有高有低，有的服务器会由 于负载过重而导致用户等待超时甚至掉线，而有的服务器在此时却处于空闲状态。随着 平台的市场推广和用户的不断增多，此问题已成为系统的瓶颈。 7 一 北方l ：业大学硕十学位论文 3 负载均衡技术基本原理 3 1 负载均衡技术简介 在i n t e m e t 中，使用网络来获取信息进行大规模计算的情况越来越多，大量用户进 入网络，对网络中的服务器提出了更高的要求，需要它们既能合理接受各种客户端的请 求，又要能够在很短的时间内做出应答响应。当服务器负载过重时，解决的方法之一是 升级或更新原有的服务器，但并不能真正解决这个问题，尤其是应对网络请求的突发性 和偶然性，必须采用多台服务器提供网络服务分担网络请求才能提供处理大量并发服务 的能力。因此，负载均衡技术成为网络技术的一个研究热点。 3 1 1 负载均衡技术定义 负载均衡建立在现有网络结构之上，它提供了二种廉价、有效、透明的方法，扩展 网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和 可用性，通过让多台服务器或多条链路共同承担繁重的计算或i o 任务，从而降低成 本，消除网络瓶颈，提高服务器集群的资源利用率，实现整体处理能力的提升，同时也 提高了系统的稳定性1 8 】。负载均衡主要完成以下任务：解决网络拥塞问题；提供就近服 务；实现地理位置无关性；为用户提供更好的访问质量；提高服务器响应速度；提高服 务器及其它资源的利用率；避免网络关键部位出现单点失效。 3 1 2 负载均衡技术的两种思路 总体上来说当前实现负载均衡技术有两种思路【9 l ： 第一种是将来自于用户的大型的服务功能分解成多个小型的子功能，作为子服务程 序运行于多台服务器。这个方案将能够提供给客户的服务划分成了很多小功能，将这些 功能分配给各个服务器，当有客户端发来数据包的时候，根据数据包要求的服务，分别 在不同的服务器并行执行，就像工业生产中的流水线一样，可是这种方案实现起来很 难，因为实际上对功能的划分是一大难点，子功能首先要求是一个完整的功能，此外对 子功能的大小应该有所限制，子功能划分过大会增加系统的通信开销，划分过小又不是 一个完整的功能，不可能将一个功能无限的划分下去。最终可能出现功能的划分成为系 统瓶颈的情况。 8 北方【业大学硕十学位论文 第二种是将多台能够完成相同功能的服务器组成服务器集群，当有来自用户的服务 请求时，以一定的算法找出负载最小的服务器来响应服务。现在通用的负载均衡方案大 多基于这种思路。用这种思路来进行负载均衡设计对现有的应用系统的架构影响不大， 因此实现起来比较简单方便，但是负载均衡算法的选择也是一个难点。 3 1 3 负载均衡技术的应用范围 1 ) w e ；b 服务 一个面向社会的w c b 站点，每天访问的用户不计其数，并且可能都同时并发访问 同一个服务器或同一个文件，这样就很容易产生信息传输阻塞现象；加上i n t e r n e t 线路 的质量问题，也容易出现数据堵塞的现象，使得人们不得不花很长时问去访问某个站 点，还可能屡次看到某个站点“服务器太忙”，或频繁遭遇系统故障。因此，现有的 w e b 站点几乎都引入了负载均衡技术来解决这些人们普遍关心的问题。可以说，人们对 基于w e b 的负载均衡己经进行了非常深入的研究，已经形成了一套成熟的实现机制。 2 1 电子商务 电子商务已经成为近年来渐渐兴起的网络服务之一，提供高质量、高效率的服务已 成为每个电子商务运营商迫在眉睫的问题。据权威机构z o n a 研究中心统计，一个电 子商务网站必须保证用户在7 秒内得到回应，否则将损失3 0 或者更多的客户。负载均 衡技术是保证反应速度和稳定性的有效方式，已经成为各个运营商的首选。 3 ) 网络游戏 网络游戏属于一种空间共享技术，大型网络游戏一般是指依靠i n t e r n e t 作为传输网 络的游戏，它通常具有几千至几十万人同时在线的承载能力。正是这种规模上的复杂性 使得负载均衡作为网络游戏关键技术在技术和实践上都有一定的挑战性。目前网络游戏 中的负载均衡技术的研究和应用已经成为一个热门课题。 4 1 即时通信 即时通信系统( ) 已成为继电话、电子邮件之后的第三种现代通信方式。其网 络结构通常为混合型p 2 p 网络，如q q 、m s n 等。在这些系统中通常采用服务器充当 超级节点，由性能较高的服务器负责完成节点间索引工作，控制用户的认证信息，并提 供其他应用服务。作为一种全新的网络通信模式，如何保证超级节点间的负载均衡已经 成为目前研究的热点。 一9 北方f ：业大学硕+ 学位论文 除此之外，伴随着i n t e m e t 的发展，随之而来的是各种各样的网络服务的开发和普 及，可以说负载均衡已经成为各种网络服务的关键技术，几乎存在于每个网络服务中， 甚至成为决定服务好坏的重要技术之一。而对负载均衡技术的研究已经成为今后网络技 术发展和提高的重要课题之一。 3 2 几种常用的负载均衡技术 负载均衡既可以通过一些专用软件和协议来实现，也可以通过设置专门的网关、负 载均衡器来实现。在网络的不同层次上可以采用相应的负载均衡技术1 0 】【1 1 】1 1 2 1 。 3 2 1 基于d n s 域名解析的负载均衡方案 最早的负载均衡技术是通过d n s ( d o m a i nn a m es y s t e m ) 来实现的。d n s 负载均衡 技术是在d n s 服务器中为同一个主机名配置多个口地址，在应答d n s 查询时，d n s 服务器对每个查询将以d n s 文件中主机记录的口地址按顺序返回不同的解析结果，将 客户端的访问引导到不同的机器上去，使得不同的客户端访问不同的服务器，从而达到 负载均衡的目的。 利用d n s 域名解析来实现负载均衡，作为一个早期的方案，至今仍被大量使用。 这主要是因为d n s 负载均衡的优点是经济简单易行，并且服务器可以位于i n t e r n e t 上任 意的位置。但它也存在不少缺点：首先客户端本地的d n s 服务器在解析域名的时候， 为了提高效率，会将最近解析的结果保存在d n s 服务器的缓存当中，这样就很有可能 导致负载在短时间内集中于某台服务器。另外一个问题足d n s 服务器很可能会成为系 统瓶颈，因为客户端本地d n s 服务器对解析结构不进行保存，域名解析请求会不断地 到达d n s 服务器，使得d n s 服务器的计算和解析负担不断增加，加大了通信时延，不 适合客户与服务器通信时间短，交换数据量少的场合。 3 2 2 基于n a t 的网络地址翻译的负载均衡方案 n a t ( n e t w o r k a d d r e s s t r a n s l a t i o n ) 简单地说就是将一个地址转换为另一个地 址，一般用于未经注册的内部地址与合法的、已获注册的i n t e m e ti p 地址间进行转换。 适用于解决i n t e r n e ti p 地址紧张、不想让网络外部知道内部网络结构等的场合下。每次 n a t 转换势必会增加n a t 设备的开销，但这种额外的开销对于大多数网络来说都是微 不足道的，除非在高带宽有大量n a t 请求的网络上。n a t 负载均衡将一个外部m 地 一1 0 一 北方- 【业大学硕士学位论文 址映射为多个内部口地址，对每次连接请求动态地转换为一个内部服务器的地址，将 外部连接请求引到转换得到地址的那个服务器上，从而达到负载均衡的目的。 n a t 负载均衡是一种比较完善的负载均衡技术，起着n a t 负载均衡功能的设备一 般处于内部服务器到外部网间的网关位置，如路由器、防火墙，四层交换机、专用负载 均衡器等，均衡算法也较灵活，如随机选择、最少连接数及响应时间等来分配负载。 n a t 负载均衡可以通过软硬件方式来实现。通过软件方式来实现n a t 负载均衡的设备 往往受到带宽及系统本身处理能力的限制，由于n a t 比较接近网络的底层，因此就可 以将它集成在硬件设备中，通常这样的硬件设备是第四层交换机和专用负载均衡器，第 四层交换机的一项重要功能就是n a t 负载均衡。 3 2 3 半连接方案 它的工作原理是用一个虚拟的p 表示一个由多台服务器组成的服务器集群，并把 该地址绑定在负载均衡器的接口上和各个服务器的l o o p b a c k 接口上。这样对于 客户端的服务请求只由负载均衡器来回答，服务器不作响应。从客户端发束的数据包都 先送往负载均衡器，如果是连接建立请求，则按照一定的负载均衡调度算法选出集群中 的某个服务器，转发请求给该服务器，并建立相应的转发表项；如果数据包隶属于某个 转发表项则根据该转发表项进行转发。从负载均衡器向服务器转发数据包的时候不作 t c p i p 数据包的包头的改写，而是按照服务器的m a c 地址将数据包发出去。由于服务 器的l o o p b a c k 接口的口地址是服务器集群的虚拟坤，所以它可以接受该数据包。 该方案比较新颖，主要的优点是只有从客户端发往服务器端的数据包需要通过负载 均衡器，而从服务器端发往客户端的数据包可以直接到达，并且通常情况下客户端的数 据包都比较短小，而服务器端的数据包多为大批量的数据，所以和其它方案相比较，这 种方案的效率很高，负载均衡器也不易成为系统的瓶颈。另外负载均衡器对发来的数据 包只作扫描而不作修改直接发往服务器，所以网络时延较小。这种方案也不需要对服务 器和客户端的操作系统或软件进行任何改动，系统移植容易。 但是这种方案也有自己的缺点，和上一种方案一样，负载均衡器易成为系统中的单 个故障点。另外由于负载均衡器不能监视从服务器发往客户端的数据，这样不利于负载 均衡器收集各个服务器的负载状况，从而影响负载均衡器做出j 下确的调度选择。 北方r = 业大学硕士学位论文 3 2 4 封装方案 该方案是从半连接方案衍生出来的，其基本原理和半连接方案基本上是相同的，唯 一的差别是当负载均衡器向服务器转发数据包时不是通过服务器的m a c 地址进行直接 传送而是用某种封装协议对数据包进行封装传输。 该方案的优点是只有从客户端发往服务器端的数据经过负载均衡器，而从服务器发 送到客户端的数据包不经过负载均衡器，便于提高服务器的响应速度。 该方案的缺点是对服务器端的软件有所改动，要求服务器端操作系统支持p 隧道 封装协议，由于负载均衡器到服务器之间的所有数据都采用了口隧道技术，所以效率 不是特别高。 3 2 5 简单口包转发方案 该方案分为了两种，一种是基于源地址的转发，其做法是以客户端的口地址作为 参数，经过一个事先准备好的哈希表，找到服务器。 另外一种是m 包广播，其做法是把整个口地址空间划分成不重叠的部分，分配给 各个服务器，客户端发来的数据包被转换为局域网上的广播包，各个服务器的过滤层在 接到广播包后，根据事先分配给各个服务器m 地址空间决定是否接受该数据包。 这种方案的优点是实现起来很简单，不需要保存连接信息，但是缺点是都没有考虑 服务器的实际负载信息。 3 2 6 综合比较 表3 1 给出对几种常见的负载方案的综合比较结果。 表3 1 几种负载均衡方案的综合比较 是否需要增加硬件 负载均衡方案 简单性效率适用性 设备 基丁d n s 域名解析的 简单较低一般 不需要 负载均衡方案 基下_ n a t 的网络地址 较复杂较好较好不需要 翻译的负载均衡方案 迮接方案较复杂较好较好需要 封装方案较复杂较好较好需要 简单咿包转发方案很简单较低一股不需要 1 2 北方j ：业大学硕士学位论文 3 3 常用的负载均衡调度算法 考虑到服务请求的不同类型、服务器的不同处理能力，为了更加合理的把负载分配 给内部的多个服务器，就需要应用相应的能够正确反映各个服务器处理能力及网络状态 的负载均衡算法1 3 】【1 4 1 。 3 3 1 轮转调度 轮转调度僻0 l m dr o b i ns c h e d u h g ) 算法就是以轮循的方式依次将用户请求调度给不 同的服务器，即每次调度执行i = ( i + 1 ) m o dn ( 其中n 为服务器总数) ，并选出第i 台服务 器。算法的优点是其简洁性，它无需记录当前所有连接的状态，所以它是一种无状态调 度。 3 3 2 加权轮转调度 加权轮转调度( w e i g h t e dr o u n d - r o b i ns c h e d u l i n g ) 算法可以解决服务器间处理性 能不一的情况，它用相应的权值表示服务器的处理性能，服务器的缺省处理性能权值为 1 。假设服务器a 的处理性能权值为1 ，b 的处理性能权值为2 ，则表示服务器b 的处 理性能是a 的两倍。加权轮转调度算法是按权值的高低按轮循方式分配请求到各服务 器。权值高的服务器先收到连接，权值高的服务器比权值低的服务器处理更多的连接， 相同权值的服务器处理相同数目的连接数。 3 3 3 最小连接调度 最小连接调度( l e a s t - c o n n e c t i o ns c h e d u l i n g ) 算法是把新的连接请求分配到当前连 接数最小的服务器。最小连接调度是一种动态调度算法，它通过服务器当前所活跃的连 接数来估计服务器的负载情况。调度器需要记录各个服务器已建立连接的数目，当一个 请求被调度到某台服务器，其连接数加1 ；当连接中止或超时，其连接数减l 。当各个 服务器有相同的处理性能时，最小连接调度算法能把负载变化大的请求平滑分布到各个 服务器上，所有处理时间比较长的请求不可能被发送到同一台服务器上。但是，当各个 服务器的处理能力不同时，该算法并不理想，因为t c p 连接处理请求后会进入 t i m ew a i t 状态，t c p 的t i m ew a i t 一般为2 分钟，此时连接还占用服务器的资 源，所以会出现这样情形，性能高的服务器已经忙于处理所收到的连接，还不断地收到 新的连接请求。 1 3 北方l 业大学硕士学位论文 3 3 4 加权最小连接调度 加权最小连接调度( w e i g h t e dl e a s t - c o n n e c t i o ns c h e d u l i n g ) 算法是最小连接调度的 超集，各个服务器用相应的权值表示其处理性能。服务器的缺省权值为1 ，系统管理员 可以动态地设置服务器的权值。加权最小连接调度在调度新连接时尽可能使服务器的已 建立连接数与其权值成比例。 3 3 5 目标地址散列调度 目标地址散列调度( d e s t i n a t i o nh a s h i n gs c h e d u l i n g ) 算法也是针对目标p 地址的 负载均衡，但它是一种静态映射算法，通过一个散列( h a s h ) 函数将一个目标地址 映射到一台服务器。目标地址散列调度算法先根据请求的目标地址，作为散列键 ( h a s hk e y ) 从静念分配的散列表找出对应的服务器，若该服务器是可用的且未超载， 将请求发送到该服务器，否则返回空。 3 3 6 源地址散列调度 源地址散列调度( s o u r c eh a s h i n gs c h e d u l i n g ) 算法正好与目标地址散列调度算法相 反，它根据请求的源m 地址，作为散列键( h a s hk e y ) 从静态分配的散列表找出对应 的服务器，若该服务器是可用的且未超载，将请求发送到该服务器，否则返回空。它采 用的散列函数与目标地址散列调度算法的相同。它的算法流程与目标地址散列调度算法 的基本相似，除了将请求的目标m 地址换成请求的源地址。 1 4 北方1 2 业大学硕十学位论文 4 即时通信教育平台负载均衡设计方案 4 1 设计原则 设计原则是指对即时通信教育平台进行负载均衡设计时的总的指导思想。由于即时 通信教育平台基于混合p 2 p 网络模式，采用服务器充当超级节点。因此，对平台的负载 均衡设计既可以借鉴以往的基于w e b 的负载均衡设计中的成熟部分，又要针对混合 p 2 p 网络模式所独有的特点进行设计。对即时通信教育平台负载均衡的设计要遵循对平 台改动最小、集中控制、高效和可靠原则。 4 1 1 改动最小原则 对于即时通信教育平台来说，由于它已经在教育市场运营，并且是在推广过程中随 着注册用户和使用人数的不断增加，平台中充当超级节点的服务器的负载均衡问题逐渐 凸显出来。因此对平台的负载均衡设计，应该建立在对原有平台改动最小的基础之上。 在原平台中，当用户登录到平台中某一台服务器时，则从该用户登录直到退出，用 户所有服务都由它登录的那台服务器( 超级节点) 提供。在此过程中，不管当前服务器 负载如何重，都不迁移到其他较空闲服务器上去执行。也就是说，当前平台中的进程是 不可迁移的。 因此本着立足于平台设计高效的负载均衡方案的思想，我们对即时通信教育平台的 负载均衡设计建立在进程不可迁移的基础上。也就是说，我们只对用户登录请求进行负 载均衡调度，该用户的后续服务均由它所登录上的那台服务器( 超级节点) 提供。 4 1 2 集中控制原则 所谓集中式控制就是在负载均衡系统中设置一台中央控制服务器，由它来对系统中 所有服务器进行管理调度【15 1 。中央控制器了解整个系统的负载分布情况，所有的用户请 求均发送到中央控制服务器，它会根据各服务器的负载情况，对用户请求进行调度。而 分布式控制则是系统中所有服务器都了解自身以及其他服务器的负载情况，每台服务器 均可直接接收用户请求，接收到请求的服务器可以根据本身负载情况以及其他服务器的 负载情况，来决定是将该请求转发给别的服务器还是由自身来处理f 1 6 1 。 在即时通信教育平台中，充当超级节点的服务器不仅作为索引服务器存在同时也担 任着应用服务器的职责。如果采用分布式控制方式，那么各服务器不仅要处理各用户的 1 5 北方i ：业大学硕七学位论文 请求，还必须完成服务器问的控制，这就大大增加了各服务器的计算量和服务器之间的 通信量。而集中式控制方式由于采用中央控制器来负责收集系统负载情况和调度客户请 求，它了解的情况比较全面精确，因此所做的调度比较合理。并且由于我们只对用户的 登录请求进行调度，也就是说，只有登录请求会经过中央控制器，那么，中央控制器只 要选择性能较好的设备来担当就不会因负担过重而成为系统的性能瓶颈。 基于以上分析，我们对即时通信教育平台负载均衡设计遵循集中控制原则，由中央 控制器来根据平台中各服务器的负载情况，对用户的登录请求进行调度，我们把这样的 中央控制器称为负