（计算机应用技术专业论文）基于globus网格服务的动态负载均衡的研究与设计.pdf

ad i s s e r t a t i o ns u b m i t t e dt og u a n g d o n g u n i v e r s i t yo f t e c h n o l o g yf o rt h em a s t e rd e g r e eo fe n g i n e e r i n gs c i e n c e r e s e a r c ha n dd e s i g no fd y n a m i cl o a db a l a n c i n g b a s e do ng i o b u sg r i ds e r v i c e s c a n d i d a t e ：c h e nj u n a n s u p e r v i s o r ：p r o f y a n gw e n w e i m a y2 0 10 f a c u l t yo fc o m p u t e r g u a n g d o n gu n i v e r s i t yo ft e c h n o l o g y g u a n g z h o u ，g u a n g d o n g ，p r c h i n a ，5 10 0 0 6 2 川3唧75 川4m7，刖ii1-啪y 摘要 摘要 随着通信技术的发展和社会需求的不断变化，各行各业都架设了自己的网站， 对外提供各种w e b 服务。网络的普及和应用对计算机的能力提出了更高的要求，但 传统高性能的计算机在性能价格比和适应性上已经很难满足当前的需求。随着硬件 技术的发展，普通的p c 在处理能力上已经有很大的提高。如何利用这些普通的p c 机和原来的高性能的服务器构筑服务器集群，对外提供服务将成为本论文的研究课 题。 本文详细介绍了网格发展过程中先后出现的五层沙漏模型、开放网格服务器体 系o g s a 和w e b 服务器资源框架w s r f 等三种网格体系结构，同时详细介绍了w e b s e r v i c e s 的体系结构。并且在介绍以上几种框架和体系结构的基础上，讨论了这些 框架和结构之问的关系和整合方法。 g l o b u s 项目是目前国际上最有影响的网格计算项目之一，它把在商业计算领域 中w e bs e r v i c e 技术融合在一起，实现更方便的信息共享和互操作。本文详细介绍 了g l o b u s 项目及其开发工具包g l o b u st o o l k i t 的发展情况，特别详细介绍了g l o b u s t o o l k i t4 中的用来监测和发现网格资源和服务网络服务组件m d s 4 ，它可以发现那 些资源属于虚组织所有并监控资源的状态。 负载均衡建立在现有网络结构之上，它提供了一种廉价有效透明的方法来扩展 网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活 性和可用性。本文介绍了负载均衡的概念及其分类方法，并且详细介绍了各种负载 均衡调度算法。 针对w e b j 艮务器集群系统中负载动态变化特性，本文设计的负载均衡系统通过 监测和发现系统m d s ，实行服务器节点主动向负载均衡器上报负载资源信息、负载 均衡器监测并收集信息的机制。结合网格服务技术和动态负载均衡技术，本文提出 了动态双阀值算法和服务器节点的权重算法相结合的负载定位策略和算法，将一个 域名映射多个w e b 服务器i p ，用户请求被分配到不同的w e b 服务器处理，实现了一 种基于d n s 原理的动态负载均衡技术。这种方法克服- f d n s 采用的静态轮循负载均 衡算法无法知道各服务器节点的实时负载信息缺点，并且能使性能高、负载轻的服 广东工业大学硕士学位论文 务器能提供更多服务。在大量请求的情况下，它能缩短了系统的响应时间，提高系 统的吞吐量，实现负载均衡。 关键字：g l o b u s ；网格服务；负载均衡；d n s ；m d s a b s t r a c t a b s t r a c t w i t ht h ed e v e l o p m e n to fc o m m u n i c a t i o nt e c h n o l o g ya n dt h es o c i a ln e e d s c h a n g i n g ， b u s i n e s s e sh a v es e t u p t h e i ro w nw e b s i t e st o p r o v i d e v a r i o u sw e bs e r v i c e s p o p u l a r i z a t i o na n da p p l i c a t i o no ft h en e t w o r kh a v ep u tf o r w a r dh i g h e rr e q u i r e m e n t sf o r c o m p u t e rp e r f o r m a n c e s ，b u tt h et r a d i t i o n a lh i g h - p e r f o r m a n c ec o m p u t e r sh a sb e e nv e r y d i f f i c u l tt om e e tc u r r e n tn e e d s ，w h i c ha r et h er a d i ob e t w e e nc a p a c i t ya n dc o s ta n d a d a p t a b i l i t y w i t ht h ed e v e l o p m e n to fh a r d w a r et e c h n o l o g y , g e n e r a lp cp r o c e s s i n g p o w e rh a sh a dg r e a ti m p r o v e m e n t h o wt ou s et h ec o m m o np ca n dt h eo r i g i n a l h i g h - p e r f o r m a n c es e r v e rt ob u i l ds e r v e rc l u s t e r st oo f f e rs e r v i c ew i l lb et h es u b j e c to f t h i sr e s e a r c h t h i sp a p e ri n t r o d u c e st h r e ek i n d so fg r i da r c h i t e c t u r ea p p e a r i n gi nt h ed e v e l o p m e n t o fg r i d ，w h i c ha r ef i v e - l e v e ls a n d g l a s sm o d e l ，o g s aa n dw s r f ，a n dw e bs e r v i c e s a r c h i t e c t u r e w ed i s c u s s e dt h er e l a t i o n s h i poft h e s ea r c h i t e c t u r e sa n dh o wt oi n t e g r a t e t h e m g l o b u sp r o j e c ti so n eo ft h em o s ti n f l u e n t i a lo ft h eg r i di nt h ew o r l d ，a n di tp u t st h e w e bs e r v i c et e c h n o l o g yi nt h ef i e l do fb u s i n e s sc o m p u t i n gt o g e t h e rt oa c h i e v em o r e c o n v e n i e n ti n f o r m a t i o ns h a r i n ga n di n t e r o p e r a b i l i t y t h i sp a p e ri n t r o d u c e st h eg l o b u s p r o j e c ta n di t sd e v e l o p m e n tk i tn a m e dg l o b u st o o l k i t ，a n di np a r t i c u l a r ，d e s c r i b e st h e g r i ds e r v i c e sc o m p o n e n tm d s 4i nt h eg l o b u st o o l k i t4 ，w h i c hi su s e dt om o n i t o ra n d d i s c o v e rg r i dr e s o u r c e sa n ds e r v i c e s i tc a nd i s c o v e ra l lr e s o u r c e sw h i c hb e l o n gt ot h e v i r t u a lo r g a n i z a t i o na n dm o n f f o rt h e i rs t a t e l o a db a l a n c i n gb u i l d i n gi nt h ee x i s t i n gn e t w o r ks t r u c t u r e p r o v i d e sac h e a p 、 e f f e c t i v ea n dt r a n s p a r e n tm e t h o dt oe x t e n dt h eb a n d w i d t ho fn e t w o r ke q u i p m e n ta n d s e r v e r s ，t oi n c r e a s et h r o u g h p u t ，t oe n h a n c en e t w o r kd a t ac a p a c i t y , t oi n c r e a s en e t w o r k f l e x i b i l i t ya n da v a i l a b i l i t y t h i sp a p e ri n t r o d u c e st h ec o n c e p ta n dc l a s s i f i c a t i o nm e t h o d s o fl o a db a l a n c i n g ，a n dd e t a i l e dd e s c r i b e sv a r i o u sl o a db a l a n c i n gs c h e d u l i n ga l g o r i t h m i i i 广东工业大学硕士学位论文 a g a i n s tt h ed y n a m i cc h a n g i n gc h a r a c t e r i s t i c si n w e bs e r v e rc l u s t e rs y s t e m , t h e l o a db a l a n c i n gs y s t e md e s i g n e di nt h i sp a p e ru s em o n i t o r i n ga n dd i s c o v e r ys y s t e mt o i m p l e m e n tt h em e c h a n i s mt h a tt h e s e r v e rn o d e sa c t i v e l yr e p o r tt h e i rl o a dr e s o u r c e i n f o r m a t i o na n dt h el o a db a l a n c e ru s et h er o d st om o n i t o ra n dc o l l e c tt h e s ei n f o r m a t i o n s c o m b i n i n gw i t hg r i ds e r v i c e st e c h n o l o g ya n dd y n a m i cl o a db a l a n c i n gt e c h n o l o g y ，t h i s p a p e rp r e s e n t sal o a dp o s i t i o n i n gs t r a t e g i e sa n da l g o r i t h m s ，w h i c hi n t e g r a t ed y n a m i c d o u b l e t h r e s h ol da l g o r i t h ma n dt h es e r v e rn o d e sw e i g h t e da l g o r i t h m ，m a p sad o m a i n n a m et om u l t i p l ew e bs e r v e ri p a s s i g n su s e r sr e q u e s t st od i f f e r e n tw e bs e r v e rt o p r o c e s s ，a n dr e a l i z e sd y n a m i cl o a db a l a n c i n gt e c h n o l o g yb a s e do nd n s t h i sm e t h o d o v e r c o m e st h es h o r t c o m i n g st h a tt h ed n su s i n gs t a t i cr o u n dr o b i nl o a db a l a n c i n g a l g o r i t h mc a nn o tk n o wt h er e a l t i m el o a di n f o r m a t i o no ft h es e r v e rn o d e s ，a n dm a k e s h i g h p e r f o r m a n c ea n dl i g h tl o a ds e r v e rc a np r o v i d em o r es e r v i c e s i nt h ec a s eo f al a r g e n u m b e ro fr e q u e s t s ，i tc a nr e d u c et h es y s t e mr e s p o n s et i m e ，i n c r e a s es y s t e mt h r o u g h p u t a n da c h i e v el o a db a l a n c i n g k e yw o r d s ：g l o b u s ；g r i ds e r v i c e s ；l o a db a l a n c i n g ；d n s ；m d s w 目录 目录 摘要i a b s t r a c t i i i 目 c o n t e n t s 第一章绪论。 1 1 课题研究背景及意义1 1 2 国内外相关工作1 1 2 1 负载均衡技术1 1 2 2 网格2 1 3 课题的研究内容与论文结构安排3 1 3 1 课题的主要研究内容3 1 3 2 论文结构安排4 第二章网格5 2 1 网格概念一5 2 2 网格体系结构6 2 2 1 五层沙漏模型6 2 2 2 开放网格服务体系o g s a 8 2 2 3w e b 服务资源框架w s r f 1 0 2 3w e bs e r v i c e s 13 2 3 1w e bs e r v i c e s 简介13 2 3 2w e bs e r v i c e s 体系结构1 4 2 3 3w e b s e r v i c e s 的典型调用一1 5 2 4g l o b u st o o l k i t4 16 2 5o g s a ，w s r f ，w e bs e r v i c e s 与g t 4 之间的关系16 v 广东工业大学硕士学位论文 2 6 本章小结1 8 第三章g l o b u s 。1 9 3 1g l o b u s 简介1 9 3 2g l o b u st o o l k i t 的发展2 0 ：；3g l o b u st o o l k i t4 2l 3 4m d s z l 2 3 3 4 1m d s 4 简介一2 3 3 4 2m d s 4 服务2 4 3 4 3m d s 4 信息接口和提供者2 5 3 4 4a g g r e g a t o r 框架2 5 3 4 5w e b m d s 2 6 3 5 本章小结2 6 第四章负载均衡技术 2 7 4 1 负载均衡的定义2 7 4 2 负载均衡技术分类2 7 4 2 1 基于设备对象分类2 7 4 2 2 基于网络层次分类2 8 4 2 3 基于地理结构分类2 8 4 2 4 基于平衡机制分类2 9 4 3 负载均衡调度算法3 0 4 4 本章小结3 2 第五章系统设计。3 3 5 1 系统总体设计3 3 5 2d n s 3 4 5 2 1d n s 概述3 4 5 2 2d n s 报文格式3 5 5 3 负载均衡系统3 9 5 3 1 负载均衡系统模块3 9 v i 目录 5 3 2 负载均衡器的功能4 0 5 3 3 动态负载均衡思想。4 0 5 4 负载定位策略和算法4 0 5 4 1 动态双阀值算法4 0 5 4 2 服务器节点权重算法4 l 5 4 3 负载定位策略和算法4 2 5 5 本章小结4 2 第六章系统实现与分析4 3 6 1 负载均衡器的实现4 3 6 1 1 通信模块4 4 6 1 2 监视模块一4 5 6 1 3 评估模块5 3 6 1 4 调度模块一5 3 6 2 实验结果与分析5 5 6 2 1 测试环境5 5 6 2 2 实验结果5 6 6 2 3 实验结果分析5 7 6 3 本章小结5 9 结束语 参考文献。6 1 攻读学位期间发表论文 独创性声明6 6 i 蜜 谢6 7 v i i 广东工业大学硕士学位论文 co n t e n t s a b s t r a c t ( c h i n e s e ) i a b s t r a c t i i i c o n t e n t s ( c h i n e s e ) v c o n t e n t s v i i i c h a p t e r 1i n t r o d u c t i o n 川川 1 ir e s e a c h e rb a c k g r o u n da n ds i g n i f i c a n t 1 1 2r e l a t e dw o r ki nh o m e l a n da n do v e r s e a s 1 1 2 1l o a db a l a n c i n gt e c h n o l o g y 1 1 2 2g r i d 2 1 3r e s e a r c hw o r ka n ds t r u c t u r ea r r a n g e m e n to ft h i sp a p e r 3 1 3 1m a i nr e s e a r c hc o n t e n t 3 1 3 2s t r u c t u r ea r r a n g e m e n to f t h i sp a p e r 4 c h a p t e r2g r i d 5 2 ig r i dc o n c e p t s 5 2 2g r i da r c h i t e c t u r e 6 2 2 1f i v e l e v e ls a n d g l a s sa r c h i t e c t u r e 6 2 2 2o p e ng r i ds e r v i c ea r c h i t e c t u r e 8 2 2 3w e bs e r v i c er e s o u r c e sf r a m e w o r k 10 2 3w e bs e r v i c e 13 2 3 1w e bs e r v i c eo v e r v i e w 1 3 2 3 2w e bs e r v i c ea r c h i t e c t u r e 14 2 3 3as t a t e l e s sw e bs e r v i c ei n v o c a t i o n 15 2 4g l o b u st o o i i ( i t4 16 2 5r e l a t i o n s h i pb e t w e e no g s a ，w s r f ，w e bs e r v i c e sa n dg t 4 1 6 v i i i c o n t e n t s 2 6s u m m a r y 18 第三章g l o b u s 1 9 3 1g l o b u so v e r v i e w l9 3 2d e v e l o p m e n to f g l o b u st o o l k i t 2 0 ：；：；g l o b u st o o l k i t4 2 l 3 4m d s z i ：! ：i 3 4 1m d s 4o v e r v i e w 2 3 3 4 2m d s ；z is e r v i c e s 2 4 3 4 3m d s 4i n f o r m a t i o ni n t e r f a c e sa n dp r o v i d e r s 2 5 3 4 4a g g r e g a t o rf r a m e w o r k ：! ! ； ：；4 5w e b m d s ：1 6 ：；5s u m m a r y ：1 6 c h a p t e r4l o a db a l a n c i n gt e c h n o l o g y 2 7 4 1d e f i n i t i o no fl o a db a l a n c i n g 2 7 4 2c l a s s i f i c a t i o no fl o a db a l a n c i n g t e c h n o l o g y 2 7 4 2 1c l a s s i f i c a t i o nb a s e do nd e v i c eo b j e c t 2 7 4 2 2c l a s s i f i c a t i o nb a s e do nn e t w o r kl e v e l 2 8 4 2 3c l a s s i f i c a t i o nb a s eo ng e o g r a p h i cs t r u c t u r e 2 8 4 2 4c l a s s i f i c a t i o nb a s eo nb a l a n c i n gm e c h a n i s m 2 9 4 3l o a db a l a n c i n ga l g o r i t h m 3 0 4 4s u m m a r y 3 2 c h a p t e r5s y s t e md e s i g n 3 3 5 1s y s t e mg e n e r a ld e s i g n 3 3 5 2d n s 3 4 5 2 1d n so v e r v i e w 3 4 5 2 2d n s m e s s a g ef o r m a t 3 5 5 3l o a db a l a n c i n gs y s t e m 3 9 5 3 1m o d u l e so f l o a db a l a n c i n gs y s t e m 3 9 i x 广东工业大学硕士学位论文 5 3 2f u n c t i o no fl o a db a l a n c i n gs y s t e m 4 0 5 3 3d y n a m i cl o a db a l a n c i n gi d e a s 4 0 5 4l o a dp o s i t i o n i n gs t r a t e g i e sa n da l g o r i t h m s 4 0 5 4 1d y n a m i cd u a l - t h r e s h o l da l g o r i t h m 4 0 1 ；4 2t h ew e i g h ta l g o r i t h mo fs e r v e r 4 1 5 4 3l o a dp o s i t i o n i n gs t r a t e g i e sa n da l g o r i t h m s 4 2 5 5s u m m a r y z l ：! c h a p t e r6s y s t e mi m p l e m e n t a t i o na n da n a l y s i s 4 3 6 1i m p l e m e n t a t i o no f t h el o a db a l a n c e r 4 3 6 1 1c o m m u n i c a t i o nm o d u l e 4 4 6 1 2m o n i t o r i n gm o d u l e 4 5 6 1 3e v a l u a t i o nm o d u l e 5 3 6 1 4s c h e d u l i n gm o d u l e 5 3 6 2e x p e r i m e n t a lr e s u l t sa n da n a l y s i s 5 5 6 2 1t e s te n v i r o n m e n t 5 5 6 2 2e x p e r i m e n t a lr e s u l t s 5 6 6 2 3r e s u l t sa n a l y s i s 5 7 6 3s u m m a r y 5 9 c o n c l u s i o n r e f e r e n c e s 6 0 p u b l i c a t i o n sd u r i n gm a s t e r ss t u d y 6 5 a n n o u n c e m e n to fo r i g i n a lc r e a t i o n 6 6 c k n o w l e d g e m e n t x 6 7 第一章绪论 1 1 课题研究背景及意义 第一章绪论 随着网络技术的发展，现在越来越多的企业都有自己的w e b 网站和服务器。然 而某些企业会遇到需要在某- d , 段时间内，例如面向社会的考试系统报名的时候， 网络中海量用户会集中某一时段同时并发请求，访问量急剧上升，而现有的单w e b 服务结构系统可能是基于当前的工作负载而构建的，已无法满足急速增长的负载要 求，这时就需要对当前的应用规模进行扩充，购买另外一台昂贵的主机。 然而当l j 经济不景气情况下，对于企业特别是中小型企业重新购买一台同等级 的甚至性能更好的主机，将增大企业的经济负担。同时购买这些昂贵的主机，可能 在某一小段时间用到其强大的功能，而大部分时间只能使用到其处理能力的很小一 部分甚至不需使用其功能，原有的服务器已经能满足当前服务需要，这样新购买的 那台昂贵的主机就成了浪费。而企业中往往有一些使用率不高或者闲置的普通的主 机，而这些主机虽然处理能力不及专门的服务器，但是p c 机发展到今天，普通的p c 机也具有相当不错的处理能力。如果利用这些有一定处理能力空闲主机作为服务器 构成服务器集群，向外提供服务，那么将为企业减少一笔购买大型服务器的开销， 而且提高了空置主机的利用率，从而提高企业的效率。 但是如何在这些异构的多个服务器中实现合理的业务量分配，使之不至于出现 一台设备过忙、而别的设备却未充分发挥处理能力的情况，就成了一个问题，负载 均衡机制很好地解决了这个问题。 1 2 国内外相关工作 1 2 1 负载均衡技术 当前，负载均衡器可以分为基于硬件和基于软件的负载均衡器。基于硬件的负 载均衡器速度快，效率高，但是成本高昂，不在本课题讨论范围基于软件的负载均衡 广东工业大学硕士学位论文 器，目前的比较常用的负载均衡方法有反向代理负载均衡、n a t 的负载均衡和基于 d n s 的负载均衡等。 反向代理是处于o s i 参考模型第七层应用的，所以就必须为每一种应用服务专 门开发一个反向代理服务器，这样就限制了反向代理负载均衡技术的应用范围，现 在一般都用于对w e b h 艮务器的负载均衡。针对每一次代理，代理服务器就必须打开 两个连接，一个对外，一个对内，因此在并发连接请求数量非常大的时候，代理服 务器的负载也就非常大了，在最后代理服务器本身会成为服务的瓶颈。 n a t 的负载均衡技术将网络地址在内部地址和外部地址之间进行转换，以便具 备内部地址的计算机能访问外部网络。当外部网络中的计算机访问地址转换网关拥 有的某一外部地址时，地址转换网关能将其转发到一个映射的内部地址上。因此如 果地址转换网关能将每个连接均匀转换为不同的内部服务器地址，此后外部网络中 的计算机就各自与自己转换得到的地址上服务器进行通信，从而达到负载分担的目 的。 基于d n s 的负载均衡往往与轮循负载均衡算法相结合，这种方法实现简单，对 于静态的网页产生很好的效果。但是这种静态轮循负载均衡算法把各服务器看待成 具有同等处理能力的节点，不能区分服务器的差异，不能反映服务器的当前运行状 态，在服务器处理能力差异较大的环境下，不能做到为性能较好的服务器多分发请 求。 1 2 2 网格 随着网络技术飞速发展，我们可以看到计算节点的处理能力越来越强，网络带 宽越来越大，而这为网格理论与网格技术的产生发展和实际意义的应用提供了前提 保障。 网格概念【1 】产生于9 0 年代中期，其含义取自电力网格。如同电力网格通过电力 线将分布在各处的发电站连接起来，传输电力和提供能源服务一样，网格利用互联 网把地理上广泛分布的各种资源( 包括计算资源、存储资源、带宽资源、软件资源、 数据资源、信息资源、知识资源等) 连成一个逻辑整体，就像一台超级计算机一样， 为处于不同地理位置的用户提供一体化信息和应用服务( 计算、存储、访问等) 。利 用网格可以共享资源、协同工作，网格大小可从单- d , 组、项目的集群网格，到多 2 第一章绪论 个项目和组织的区域网格，直至为地球上任何地点的用户提供服务的全球网格。全 球网格被认为是继i n t e r n e t 、万维网之后互联网的第三次革命。 对网格的研究始于美国，较有代表性项目包括：实验床、g l o b u s 项引2 1 、 i - w a y 3 1 、l e g i o n 项目【4 】、n e t s o l v e 项目、j a v a l i n 项目等。其中g l o b u s 是最有影响力 的一项网格研究计划，主要由美国a r g o n n e 国家实验室、芝加哥大学、南加州大学、 i b m 公司等组成，旨在为计算网格创建基本的基础设施并提供高级服务。其主要研 究任务分为网格基础理论和关键技术研究、软件及工具的开发、试验平台的建立和 网格应用的开发等四个方面。 g l o b u st o o l k i t 工具包来源于g l o b u s 项目，是一个开放源码的网格的基础平台， 基于开放结构、开放服务资源和软件库，并支持网格和网格应用，目的是为构建网 格应用提供中间件服务和程序库，是g l o b u s 最重要的研究成果，目前最新的版本是 g t 5 。 g l o b u s 对资源管理、安全、信息服务及数据管理等网格计算的关键理论进行研 究并提供了基本的机制和接口。该项目早已丌发出了能在各种平台上运行的网格计 算工具软件( t o o l k i t ) ，支持网格计算和网格应用的一套服务和软件库。帮助规划和 组建大型的网格试验平台，开发适合大型网格系统运行的大型应用程序。g l o b u s 提 出了开放网格服务体系结构o g s a ( o p e ng r i ds e r v i c ea r c h i t e c t u r e ) 的详细框架，并提 交给全球网格论坛g g f ( g l o b a lg r i df o m m ) 讨论、细化，最终成为网格标准。 g l o b u s 现在已经发展成为在不同种