（计算机应用技术专业论文）web集群服务器接纳控制策略研究.pdf

摘要 互联网用户数量的增加、服务内容的多样性、用户访问的多变性， 导致热门网站和重要站点的服务器出现过载( o v e r l o a d ) 而造成服务失 败，如何提高w e b 集群服务质量( q u a l i t yo f s e r v i c e ，q o s ) 成为亟需解 决的问题。接纳控制机制和负载均衡机制作为缓解集群服务器压力， 平衡系统负载的重要手段，成为提高集群服务器服务质量的重要研究 课题之一。 围绕w e b 集群服务质量问题，本文提出了种新的服务质量控 制策略，在前端应用层分发器引入基于s e s s i o n 接纳控制机制，通过 窗口滑动策略，对当前时间间隔内t c p 连线的系统资源利用率做出 有效预测；在后端服务器采用m m n 队列系统，利用实时任务调度 模型中的优先级表的特点，根据优先级、价值率和请求u r l ，对队 列中的请求进行更新调度，实现局部访问性。理论分析与仿真实验结 果表明，新机制在不同负载状态下，提高了s e s s i o n 完成率，缩短了 用户请求平均延迟。 电子商务等现代网络应用，大都被设计成为多层应用模式，文章 引入多层集群架构概念，并在多层集群架构基础上，提出一种自适应 的过载控制策略( s a o c ) ，预先不需要知道任何负载信息，也不需要 关键属性的人为调节，把系统负载划分为正常处理模式( n o r m a lm o d e ) 和过载处理模式( f l a s hc r o w dm a n a g e m e n tm o d e ) ，根据s e s s i o n 到达 率与后端各层请求响应时间的关系，实时计算临界参数值实现两种处 理模式的自动转换；并根据各层请求的响应时间，动态自动调节 s e s s i o n 接纳率，实现自适应配置参数、自适应优化系统资、自适应 预防过载。通过实验仿真表明，s a o c 机制保证了服务水平协议，缩 短了用户响应时间，最大化地利用系统资源。 关键词s e s s i o n ，过载控制，访问局部性，多层体系结构，自适应 a bs t r a c t i n c r e a s i n gn u m b e ro fi n t e m e tu s e r s ，d i v e r s i t yo fs e r v i c ec o m e m a n dv a r i a b i l i t yo fu s e r a c c e s sl e a do v e r l o a dt op o p u l a rs i t e sa n di m p o r t a n t s i t e ，o re v e nc a u s et h ef a i l u r eo fs e r v i c e s h o wt oi m p r o v et h eq u a l i t yo f s e r v i c e s ( q o s ) o fw e b c l u s t e rb e c o m e sa nu r g e n tt or e s o l v e a d m i s s i o n c o n t r o lm e c h a n i s ma n dl o a db a l a n c em e c h a n i s m w h i c ha r em g a r da s i m p o r t a n tm e a n s t oe a s es y s t e mp r e s s u r ea n dl o a db a l a n c e ，b e c o m e so n e o ft h ei m p o r t a n tr e s e a r c ht o p i c st oi m p r o v et h eq u a l i t yo fs e r v i c e t h er e s e a r c hf o c u s e so nh o wt oi m p r o v et h eq u a l i t yo fs e r v i c e t h e p a p e rp u tf o r w a r dan e wq u a l i t yc o n t r o lm e c h a n i s m ，b a s e do ns e s s i o n i n t r o d u c i n ga d m i s s i o nc o n t r o lm e c h a n i s mi na p p l i c a t i o nl a y e r w i t h w i n d o ws l i d i n gs t r a t e g y , m a k i n ge f f e c tp r e d i c t i o no fs y s t m e nr e s o u r c e u t i l i z a t i o no ft c pc o n n e c t i o n i nb a c k - e n ds e r v e r ，t h ep a p e ri n t r o d u c e s a 压 压nq u e u em o d e l ，a d o p t i n gt h ep r i o r i t yp r o p e r t yo fr e a l t i m es y s t e m q u e u et a s ks c h e d u l i n gm o d e l ，a c c o r d i n gt op r i o r i t yp r o p e r t y , v a l u e a n d r e q u e s tu r l ，u p d a t i n gd i s p a t c h t h e q u e u er e q u e s t ，t o r e a l i z el o c a l a c c e s s i b i l i t y t h e o r e t i c a la n a l y s i sa n ds i m u l a t i o nr e s u l t ss h o wt h a tt h e n e wm e c h a n i s mi m p r o v es e s s i o nc o m p l e t i o nr a t eu n d e rd i f f e r e n tl o a da n d s h o r t e n sa r v e r a g ed e l a yt i m e m o d e mn e t w o r ka p p l i c a t i o n s ，s u c ha se - c o m m e r c e ，m o s to ft h e m a r ed e s i g n e da sam u l t i - t i e ra p p l i c a t i o nm o d e l t h ep a p e ri n t r o d u c e st h e c o n c e p to fm u l t i - t i e sc l u s t e ra r c h i t e c t u r e ，a n dc o n t r i b u t eas e l f - a d a p t i v e o v e r l o a dc o n t r o l ( s a o c ) m e c h a n i s mb a s e do nt h em u l t i t i e ss t r u c t u r e ， w h i c hd o e sn o tr e q u i r ea n yp r i o ri n f o r m a t i o no nt h ei n c o m i n gt r a 伍co r m a n u a lc o n f i g u r a t i o no fk e yp a r a m e t e r s t h em e c h a n i s md i f f e r e n t i a t et h e t r a f f i cl o a di n t on o r m a lm o d ea n df l a s hc r o w dm a n a g e m e n t m o d e ，a c c o r d i n g t o a n a l y z et h er e l a t i o n s h i p b e t w e e nt h eo b s e r v e d r e s p o n s et i m e ( i 汀 ) a n dt h er a t eo fa r r i v e ds e s s i o n st oc o u n tt h el i m i t v a l u et i m e l yt oa c h i e v ea u t o m a t i cc o n v e r s i o no ft h et w ot r a f f i cm o d e s a o cm e c h a n i s md y n a m i ca d j u s t st h er a t eo fa d m i t t e ds e s s i o n si n a c c o r d a n t ew i t hr e s p o n s et i m eo fe a c ht i e so fb a c k e n ds e r v e r s ，t oa c h i e v e s e l f - c o n f i g u r ep a r a m e t e r s ，s e l f - o p t i m i z et h er e s o u r c eu t i l i z a t i o n ，a n d s e l f - p r e v e n ts y s t e mo v e r l o a d t h e e x p e r i m e n ts i m u l a t i o np r o v e st h a t s a o cm e c h a n i s mg u a r a n t e e se n s u r es e r v i c el e v e la g r e e m e n t s ，r e d u c e s t h eu s e rr e s p o n s et i m ea n dm a x i m i z et h eu t i l i z a t i o no f s y s t e mr e s o u r c e s k e yw o r d s s e s s i o n ，o v e r l o a dc o n t r o l ，l o c a la c c e s s i b i l i t y ，m u l t i t i e r a r c h i t e c t u r e ，s e l f - a d a p t i v e 1 1 1 原创性声明 本人声明，所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的成果。尽我所知，除论文中特别加以标注和致谢的地方外， 论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得 中南大学或其他单位的学位或证明而使用过的材料。与我共同工作的 同志对本研究所作的贡献均已在论文的致谢语中作了明确的说明。 作者签名：- 争址 日期：兰4 年月上乏日 学位论文版权使用授权书 本人了解中南大学有关保留、使用学位论文的规定，即：学校 有权保留学位论文并根据国家或湖南省有关部门规定送交学位论文， 允许学位论文被查阅和借阅；学校可以公布学位论文的全部或部分内 容，可以采用复印、缩印或其它手段保存学位论文。同时授权中国科 学技术信息研究所将本学位论文收录到中国学位论文全文数据库， 并通过网络向社会公众提供信息服务。 期：捌年月幺日 硕士学位论文 第一章绪论 1 1 研究背景 第一章绪论 随着i n t e m e t 的迅猛发展，世界范围的i n t e m e t 网络已得到空前发展并正在 日新月异地改变着人类生活的各个方面。互联网用户数目迅速增加，网上形形色 色的信息站点和信息服务也层出不穷，导致互联网用户数量和网络流量呈几何级 数增加。许多热门网站和重要站点的服务访问量日益增大，例如y a h o o ， g o o g l e s i n a , s o h u 等。根据统计，y a h o o 每天要发送7 亿以上的w e b 页 面，a m e r i c ao n l i n e 的w e bc a c h e 服务器每天处理5 0 多亿用户w e b 请求， 每个请求约6 kb y t e s 。由于并发访问人数不断增加，w e b 服务器的负载越来越 严重，造成服务器超负荷运转。目前，在超负荷的服务器提供服务时暴露出有主 要以下方面的问题。 1 ) 服务器的服务能力远远不能满足实际需求，虽然各个厂家的服务器性能 逐步提高，其处理器芯片不断升级，内存和硬盘的存储容量越来越大，但是仍然 不能满足急剧膨胀的用户访问需求。通常来讲，一台普通w e b 服务器可以处理 1 0 0 0 个并发连接，更高档的一般也只在3 0 0 0 至5 0 0 0 个左右，但无论如何，单 台服务器升级速度的提高也赶不上用户数量的增长。虽然现大都服务站点采用集 群服务器形式，但也不能从根本上解决问题。 2 ) 服务器的服务可靠性一直不能保证服务器本身的软件、硬件和网络连接、 网络黑客等原因，在理论上都有可能造成服务器出现相关各种故障，因此，在故 障恢复之前，用户将会在一段时间内得不到应有的服务，对于一些要求高可靠性 的网络系统而言将是致命的缺点，带来的危害后果及损失将十分严重。 3 ) 服务响应时间长，延迟大，无法满足用户需求。服务器忙时的反应能力 下降，会造成用户端连接速度缓慢，延迟增加，即使服务器响应正常，由于连接 服务器忙，造成的拥塞同样也会影响对用户的服务，有时用户会感觉到服务几乎 处于停滞状态。 4 ) 存在w ，e b 服务器访问的单点故障 随着用户访问的增加，w e b 服务器的服务负担也将增加，很容易造成w e b 服务器宕机而停止访问服务，特别是电子商务网站，网站的速度直接关系到成交 额。据权威机构z o n a 研究中心统计，一个电子商务网站必须保证用户在7 秒 内得到回应，否则将损失3 0 或者更多的客户，例如，d e l l 每天网站交易达 硕士学位论文 第一章绪论 1 5 0 0 万美元左右，l 小时服务中断损失达6 0 万美元左右。这样的单点故障对重 要w e b 网站将影响很大。对于w e b 集群而言，单点故障问题可以得到缓解，但 是对于会话服务不能实现很好的复制，严重影响服务质量。 5 ) w e b 集群服务器的接纳控制与负载均衡机制已经有相当多的研究，但大 多要么只考虑了前端接纳控制，或者只考虑了后端负载均衡，对请求进行分发后， 未考虑请求被指派给后端真实服务器之后的任务调度控制问题。 6 ) 现代网络应用，如在线新闻、零售、电子商务和金融等类型的应用，大 都被设计成为多层应用模式，大多数w e b 站点依然采用单层集群架构模式，更加 剧了服务器过载，严重影响了用户响应时间的需求。 随着i n t e r n e t 的成功，i n t e m e t 设计的初衷，却造成一个巨大的问题横亘于 i n t c r r 试发展的道路上，这就是服务质量( q u a l i t yo fs e r v i c e q o s ) i f i 题i i 2 a 6 1 。 i n t e m e t 上的许多热门站点都经常面i f 6 i 着服务器超载问题。然而，如果w e b 服 务器不支持任何q o s 控制，那么，在服务器过载的情况下，具备端到端网络 q o s 保证的高级流仍有可能遭受服务拒绝，或者w e b 服务的平均响应时间比用 户的期望值高出多个数量级，从而导致事实上的“拒绝服务 效果。 因此，w e b 服务质量问题成为尤其对于热门网站而言非常重要的课题。为 了能够使服务器在确定的最大延迟时间范围内对w e b 服务请求做出响应，采用 w e b 接纳控制技术是一种行之有效的做法。通过w e b 接纳控制策略来提高集群 服务器的整体性能，逐渐成为了计算机研究与应用领域一个新的热点。 1 2 研究目的及意义 对于提高w 曲服务质量的问题，过去相关的研究工作大多是以静态( s t a t i c ) 文件为前提，在w e bc l u s t e r 架构上发展接纳控带l j ( a d m i s s i o nc o n t r 0 1 ) 3 , 4 l 和负载 均衡( l o a db a l 卸c i n g ) 机制【5 ，7 8 。有些研究则是着重在如何有效的管理这些文件， 将这些文件分类并存放在不同的服务器上，借此让服务器彼此分工，或者是着重 在缓存( c a c h e ) 使用效能的提升【1 0 1 。在传统以静态文件为主的网站，这些方法都 可以提高网站的效能，因为在传统的w w w 服务中，使用者和服务器之间缺乏 有效的互动，w e b 服务器只是单纯的提供静态文件让使用者下载，使用者发出 的r e q u e s t 之间是没有关联性的，因此，这些静态文件可以利用c a c h e 或者分 类存放在不同的服务器来缩短用户请求响应时间。 新一代的w w w 服务除了静态文件的提供之外，更加强了和使用者之间的 互动，特别是许多商业性网站，如e c o m m e r c e 、b i d 、s e a r c he n g i n e 等，为了 提供更多样化的服务内容，因此必须记录使用者的各种资讯，这样一来，使用者 所发出的r e q u e s t 之间就具备了关联性，服务器在产生r e s p o n s e 前，必须先参 2 硕士学位论文第一章绪论 考使用者之前所留下来的记录。 在这样的情况下，传统的各种机制已无法满足现今网站的需求，因为使用者 资讯是暂存于服务器中，无法直接在c a c h e 中存取，而且相关的记录只会存在 于一部服务器中，因此所有的r e q u e s t 就必须送往同一部服务器，无法像静态 文件一样分剧在不同的服务器中存取。 基于上述原因，为了满足新一代w w w 服务的特性，接纳控制与负载均衡 机制就不能只是针对单独一个r e q u e s t 做判断，而是必须以整个会话( s e s s i o n ) 的 观点来做思考，也就是说，接纳控制和负载平衡机制必是s e s s i o n b a s e d 的，在 决策时必须要考虑到s e s s i o n 的各种性质并且必须满足这些性质。 接纳控制和负载均衡机制，在w e bc l u s t e r 中扮演着非重要的角色。接纳控 制机制决定一条t c p 连线是否允许被建立，在允许最多的t c p 连线建立的同 时，也要避免系统o v e r l o a d h , 1 2 】；相对于接纳控制机制，负载均衡机制的发展 已经比较成熟，通过负载均衡机制分发器将接收到的任务依据一定的原则分配到 集群中的各台服务器上去进行处理。其目标是使各台服务器的负载比较“均衡合 理地分布，从而获得较高系统的总体处理能力，合理地利用资源。 对于在线新闻、零售、电子商务和金融等类型的服务，在网络应用中大都被 设计成为多层应用模式，此种背景下，单纯考虑单层服务器集群，就不能准确并 及时的判断当前后端服务器性能承受力和服务状况，引入多层集群架构模型能够 更迅速的通过各层服务响应时间，做出及时的判断，节省了系统资源，增加了吞 吐量，提高了服务质量。 通过在多层集群架构模型下引入接纳控制机制和负载均衡机制，能够更有效 的提高w 曲c l u s t e r 的性能，并且达到以下目标： 1 ) 充分利用系统资源，尽量提高系统的用率( u t i l i z a t i o n ) 的前提下，有效控 制系统出现过载( o v e r l a d ) ； 2 ) 提高s e s s i o n 完成率，尽量避免s e s s i o n 中途中断； 3 ) 对后端集群服务器处理能力迅速做出判断，缩短用户响应时间，使其控 制在用户可以接受的时间范围之内，更好的提高服务质量。 4 ) 在保持会话完整性的基础上，尽量平衡每一部后端服务器的负载，避免 有些服务器闲置，而有些则出现过载。 5 ) 后端集群服务器采用队列模型，加入局部访问性的考量，提高系统整体 性能。 1 3 论文的主要工作 对于w e b 集群服务器过载问题，解决的办法通常由两类，一类是预防与预 硕士学位论文第一章绪论 测【1 3 , 1 4 1 ，即通过各种策略机制使服务器过载的可能性达到最低点，尽量避免服务 器出现过载；另一类是发生过载后解决过载问题，这类解决办法通常是通过损失 一部分用户的利益，来保障另一部分用户的利益。本文的主要工作是对预防负载 问题的研究。 论文首先对当前网络发展趋势，以及热门网站面临的问题作出分析，从 s e s s i o n 角度出发，研究了当前基于s e s s i o n 的各种传统的接纳控制机制和负载均 衡机制，同时指出了需要解决的不完善的若干关键问题，包括用户请求响应时间 过长、s e s s i o n 完成率不高、服务失败、以及相应时间出现震荡性等问题。 论文围绕服务器过载的问题展开研究，重点讨论文了基于s e s s i o n 的接纳控 制机制，并在此基础上，提出了新的接纳控制机制。并针对电子商务等类型的应 用引入多层集群架构。 论文的主要工作在于： 1 ) 对现有各种基于s e s s i o n 的接纳控制机制和负载均衡机制进行相关研究 与分析，客观评价了各种机制的性能与弊端。 2 ) 针对用户响应时间平均延迟过长，并且s e s s i o n 完成率低等问题，提出了 一种新的基于s e s s i o n 的接纳控制机制和负载平衡策略，通过对不同负载情形下 的实验仿真，该机制可以允许最多的t c p 连接建立并有效预防系统过载，及时 的处理用户的请求，更好的保证系统的吞吐率和响应时间。 3 ) 针对现代网络应用，如在线新闻、零售、电子商务和金融等类型的应用， 大都被设计成为多层应用模式的背景下，单纯考虑单层服务器集群，已经不能满 足用户需求。文章引用多层集群架构模式，并在多层集群概念上，把传统接纳控 制机制引入到多层集群架构上，并作了相当讨论和研究。 4 ) 针对无法预料的需求的增加以及大量的f l a s hc r o w d s 的出现，论文在多 层集群架构的基础上，提出一种自适应的过载控制策略，预先不需要知道任何负 载信息，不需要关键属性的人为调节，根据接纳率与响应时间的动态关系进行自 适应调节，更好的保证了服务水平协议，缩短了响应时间，有效的解决了响应时 间过长、响应时间出现震荡的现象，充分优化了系统资源。 1 4 论文的结构 本文共分为五章。文章结构和各章内容简介如下： 第一章为本文的相关研究背景和研究目的、分析了当前i n t e r n e t 发展趋势和 热门网站出现的各种问题，以此引出了本文的研究内容，研究目标和研究意义。 同时扼要的介绍了本文的主要研究工作，并介绍了本文的组织结构。 第二章首先介绍了基于s e s s i o n 的接纳控制机制和负载均衡机制的各种背景 4 硕士学位论文第章绪论 知识，分析研究了当前出现的各种基于s e s s i o n 的接纳控制机制及负载均衡机制， 并分析比较了各种机制存在的不完善问题和需要解决的问题。 第三章提出了一种新的基于s e s s i o n 的接纳控制机制，允许最多的t c p 连 接建立并有效预防系统过载，及时的处理用户的请求，更好的保证系统的吞吐率 和响应时间。并根据前端接纳控制策略，对后端负载均衡算法进行改进，在保持 会话完整性的基础上，尽量平衡每一部后端服务器的负载，避免有些服务器闲置， 而有些则出现过载。并且在后端服务器中采用队列模型算法，满足了优先级调度 和局部访问性需求。 第四章首先介绍了多层集群架构的概念，本文采用的是三层集群架构，并在 三层集群架构的基础上，引入传统接纳控制算法；并针对传统机制出现的各种问 题，在三层集群架构基础上，提出一种自适应的过载控制策略，预先不需要知道 任何负载信息，不需要关键属性的人为调节，根据接纳率与响应时间的动态关系 进行自适应调节，更好的保证了服务水平协议，缩短了响应时间，有效的解决了 响应时间出现震荡的现象，并通过实验仿真对各种策略进行了比较。 第五章：文章总结及展望，总结本文工作，并指出未来进一步的研究的方向。 硕+ 学位论文第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 许多w e b 网站，尤其是电子商务、在线服务和供应链网站等，提供的服务 都是面向应用的，用户与服务器之间的互动，需要通过一系列的请求才能完成一 个应用事务。本章主要针对这类应用对接纳控制和负载均衡策略进行先关研究和 讨论。 2 1 背景知识 2 1 1s e s s i o n 的基本定义 传统的网络服务，我们称之为无状态服务( s t a t e l e s ss e r v i c e ) ，这种网络服务 在使用者和服务器之间缺乏有效的互动，也就是说，使用者和服务器之间被视为 是一种单向的互动，当使用者需要某方面的资料时，就到特定的网站上寻找并下 载。一般而言，这些内容大多为静态的档案，如h t m l 的文件、影像、新闻等资 料。 相对于s t a t e l e s ss e r v i c e ，我们称现今的网络服务为状态服务( s t a t e f u l s e r v i c e ) s t a t e f u ls e r v i c e 提供更多样化的网络服务，并且在使用者与服务器之间 是有互动的一种网络服务。s t a t e f u ls e r v i c e 又称为s e s s i o n b a s e ds e r v i c e ，例如 e - c o n u n e r c e 、s h o p p i n gc a r t 、s e a r c he n g i n e 、b i d 等，都是属于s e s s i o n b a s e d s e r v i c e 类型的应用。s e s s i o n b a s e ds e r v i c e 根据使用者所要求的内容，产生相对 应的r e s p o n s e 给使用者，不同的使用者所提出的要求，网站也会根据使用者之 前的记录而分别产生不同的r e s p o n s e 。 我们在这里先简单解释w w w 上一些相关的名词： o b j e c t ：w 曲服务器所提供的各种文件或档案，如h t m lf i l e 、j p gi m a g e 、 j a v aa p p l e t 等。 w e bp a g e ：包含一个基本的h t m l 文档以及多个物件( o b j e c t ) 档案，h t m l 文档用来描述这个w ，e bp a g e 上物件的排列方式，并经由浏览器呈献给使用者。 r e q u e s t ：使用者发送给w 曲服务器的一个封包( p a c k e t ) ，用来要求w e b p a g e 或物件。 t c p 连线：t c p ( t r a n s m i s s i o nc o n t r o lp r o t o c 0 1 ) 是一种面向连接( c o n n e c t i o n o r i e n t e d ) 的协议，使用者和w e b 服务器在开始交换资料前，事先必须利用握手 协议( 3 w a yh a n d s h a k e ) 和服务器建立一条t c p 连线( t c pc o n n e c t i o n ) ，以增加 6 硕七学位论文 第二章 基于s e s s i o n 的接纳控制与负载均衡策略研究 资料在传输时的可靠性。 通常，一条s e s s i o n 是由多个连续且相关的r e q u e s t 所组成，而s e s s i o n 最 主要的功能就是用来在不同的w e bp a g e 中传递资料，那么保持s e s s i o n 完整性 便成为基于s e s s i o n 的这类服务非常重要的特点。 h u a m i nc h e n 和pm o h a p a t r a 在文献【1 5 】中认为，s e s s i o n 可以被表示成一 有限状态机( f i n i t es t a t em a c h i n g ) ，当网站收到一个由使用者送出的r e q u e s t 后， 会根据这个r e q u e s t 的内容，把使用者由目前所在的状态( s t a t e ) 转移到另一个状 态。如图2 1 中所示，这个s e s s i o n 包括了登陆( l o g i n ) 、浏览( b r o w s i n g ) 、订 购( o r d e r ) 、结帐( c h e c ko u t ) 和退出( l o g o u t ) 等5 种状态，各种状态根据使用者 当前的需求进行转移。 图2 - 1s e s s i o n 与t c p 连线间的关系 7 硕士学位论文第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 图2 - 2s e s s i o n 与t c p 连线间的关系 由图2 2 可以发现，s e s s i o n 可以是由多条t c p 连线接力完成，当使用者 进行购物行为的过程中，可能会因为某些原因造成t c p 连线中断，此时使用者 和该网站之间就必须重新建立t c p 连线，因为使用者和w e b 服务器之间的互 动资讯，可以暂存于w r e b 服务器的暂存档中或者使用c o o k i e 储存在使用者的 机器上，因此，s e s s i o n 可以继续运作下去。 从p h p4 0 1 6 】所提供的s e s s i o n 函数的观点来看，给出了另一种s e s s i o n 的定 义，当使用者需要的是属于s e s s i o n b a s e ds e r v i c e 的服务时( 通常指的是使用者 进入某个特定的w e bp a g e 开始，一直到离开这个网站为止) ，w e b 服务器会利 用s e s s i o ns t a r t 函数来启始一条新的s e s s i o n ，并指定一个s e s s i o ni d 给这条 s e s s i o n ，而一些相关资讯则利用一暂存档储存在w 曲服务器中。另外，w 曲服 务器会发出一个s e s s i o nc o o k i e 给使用者，s e s s i o nc o o k i e 中记录了这条 s e s s i o n 的s e s s i o ni d ，而之后使用者在浏览其它w r e bp a g e 时所发出的 r e q u e s t ，都会包含这个s e s s i o nc o o k i e ，根据s e s s i o nc o o k i e 上记录的s e s s i o n i d ，w e b 服务器就可以知道这一条s e s s i o n 所对应的暂存档。而当使用者要结 束这项服务时，w 曲服务器则利用s e s s i o nd e s t r o y 函数消除这一条s e s s i o n 的 所有资讯。 图2 1 说明的是s e s s i o n 和t c p 连线之间的关系，当使用者要进入网站时， 首先必须和该网站建立t c p 连线f 1 6 j 7 1 ，连线建立后才可以与该网站进行通讯。 当使用者进入l o g i n 的w e bp a g e 并进行l o g i n 的动作时，我们可以认为s e s s i o n 的开始( w e b 服务器利用s e s s i o ns t a r t 函数来启始s e s s i o n ，指定一个s e s s i o ni d 8 硕+ 学位论文第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 给这条s e s s i o n 并发送s e s s i o nc o o k i e 给使用者) 。使用者登陆后，就可以进行 其购买行为，如订购、结帐( w e b 服务器根据r e q u e s t 中s e s s i o nc o o k i e 所记 录的s e s s i o ni d ，读取或写入资料到对应的暂存档) 等，而这些资料都暂存于 w e b 服务器中。当使用者l o g o u t 之后，我们可以认为整个s e s s i o n 完整的结 束，使用者完成购物的行为( w e b 服务器利用s e s s i o nd e s t r o y 函数来消除这一 条s e s s i o n 的记录) 。 从上面的解释，可以得出一条s e s s i o n 具有下列性质： 1 ) 完整性( i n t e g r i t y ) ，用户启始一条新的s e s s i o n 后，所有属于此s e s s i o n 的 r e q u e s t 都不能被拒绝。 2 ) 亲合性( a 缅n i 锣) ，在w e bc l u s t e r 系统中，s e s s i o n 会被选择在一部后端 服务器中执行，且从开始到结束都必须在同一部服务器中执行，即所有属于同一 条s e s s i o n 的r e q u e s t 都必须被分配( d i s p a t c h ) 至0 同一部后端服务器中执行。 2 1 2w e bc l u s t e r 的架构运作方式 由于w e b 应用服务越来越多样化，为支撑日益增多的流量( t r a f f i c ) ，现今的 网站大多利用w 曲集群架构( w e bc l u s t e r ) 1 9 , 2 1 】网站效能。w 曲集群包含两部分： 一部前端分发器( w e bs w i t c h ) 和多部后端服务器( b a c k e n ds e r v e r ) 。分发器负责接 收由使用者所送来的r e q u e s t ，并根据r e q u e s t 的内容和本身的分配机制，把这 些r e q u e s t 分配给后端的服务器进行处理。当后端服务器收到r e q u e s t 后，就 要对这些r e q u e s t 进行处理，并产生适当的r e s p o n s e 并回传给分发器，w e b s w i t c h 再把r e s p o n s e 传送给使用者。 分发器是w e b 集群与外界沟通的门户，整个w e b 集群就如同一个黑盒子， 它提供一个虚拟的i p 位址( v i r t u a li pa d d r e s s ，v i p ) 。通常，v i p 就是w e b 分发 器的m 地址。从使用者的观点来看，使用者只需知道分发器的i p 地址，至于w e b 集群内部的运作情形，对使用者而言都是透明的。 后端服务器定期回送本身的状态讯息给w e b 分发器，例如c p u 利用率、 内存利用率、后端服务器队列长度、连接数或者s e s s i o n 数等。w e b 分发器根据 后端服务器回送的状态讯息，对后端每一部服务器目前的负载( l o a d ) 情形、剩余 处理能力做出评估，并做出决策进行请求的分发，进而提高系统的效能。 w e b 集群中的接纳控制机制是在w e b 分发器部分实现，其组织结构原理如 图2 3 所示。 9 硕士学位论文第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 请 响 i n f o r m a t i o nf e e d b a c k w e b 分发器后端服务器 图2 3w e bc l u s t e r 的架构 本文讨论的是基于s e s s i o n 的接纳控制机制，对s e s s i o n 的处理在应用层进 行，因此我们采用l a y e r - 7s w i t c h 来担任w r c bs w i t c h ，l a y e r - 7s w i t c h 运作在 o s i ( o p e ns y s t e mi n t e r c o n n e c t i o n ) 七层模型中的应用层( a p p l i c a t i o nl a y e 0 ，关于 这部分内容在2 1 3 中讨论。 2 1 3 l a y e r - 7s w i t c h 因为由使用者发出的r e q u e s t 都被送往w r e b 分发器，再由w e bs w i t c h 分 配给后端的服务器，因此，w e bs w i t c h 必须要能够判断所收到的r e q u e s t 是属 于某一条已建立的s e s s i o n ，或者是要启始一条新的s e s s i o n 。事实上，当使用 者送出一个r e q u e s t 时，其实就是为了要读取某一个网页、下载一个物件 ( o b j e c t ) ，或者执行c g i 、p h p 程式。而一个r e q u e s t 所要求的内容则记录在 r e q u e s t 的u r i ( u n i f o r mr e s o u r c ei d e n t i f i e r ) 栏位中。 在2 1 1 节已经提到，当使用者进入某一特定w r e bp a g e ( 如l o g i n ) 时， w e b 服务器就利用s e s s i o ns t a r t 函数来启始一条s e s s i o n ，指定一个s e s s i o ni d 给这条s e s s i o n ，并送出一个s e s s i o nc o o k i e 给使用者。而之后使用者要浏览其 它w e bp a g e 时( 如订购、结帐等) 所送出的r e q u e s t 中都会包含这个s e s s i o n c o o k e ，w e b 服务器就根据s e s s i o nc o o k i e 上记录的s e s s i o ni d ，读取或写入 资料到w e b 服务器中相对应的暂存档。 因此，w 曲s w i t c h 只要检查r e q u e s t 的u r i 栏位，就可以判断这个r e q u e s t 是在要求启始一条新的s e s s i o n ，或者是已经属于一条s e s s i o n 。如图2 1 所示，这个s e s s i o n 包含了l o g i n 、b r o w s i n g 、o r d e r 、c h e c k o u t 和l o g o u t 等 5 个w e bp a g e ，当w e bs w i t c h 收到一个r e q u e s t 且其u r i 栏位为l o g i n 这个 l o 硕士学位论文 第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 w - c bp a g e 的u r i 时( 例如登陆这个w e bp a g e 的u r i 为h t t p ：w w w c s u e d u c n l o g i n a s p ) ，就表示这个r e q u e s t 是在要求启始一条新的s e s s i o n ：而若r e q u e s t 的u r i 栏位为o r d e r 或者c h e c k o u t 的w e bp a g e 时( 例如o r d e r 这个w e bp a g e 的u r i 为h t t p ：w w w c s u e d u c n o r d e r a s p ，c h e c k o u t 这个w e bp a g e 的u 砌为h t t p ：w w w c s u e d u c n c h e c k o u t a s p ) ，而且r e q u e s t 中包含一个s e s s i o nc o o k i e 记录其s e s s i o ni d ，则表示这个r e q u e s t 已经属于一条已建立的 s e s s i o n ，因为只有启始一条s e s s i o n 后，才有可能要求进入o r d e r 或c h e c k o u t 等其它的w e bp a g e ，而r e q u e s t 也才会含有s e s s i o nc o o k i e 来记录其s e s s i o n i d 。这也就是为什么选择l a y e r - 7s w i t c h 来担任w e bs w i t c h 的原因所在，因为 l a y e r - 7s w i t c h 的c o n t e n t - a w a r e 技术，可以很容易的辩识一个r e q u e s t 是否与 s e s s i o n 有关。 接下来，我们将详细的解释l a y e r - 7s w i t c h 的运作方式。 c l i e n tw b bs w i t c hb a c k - e n ds a - v e i - 图2 - 4l a y e r - 7s w i t c h 的运作方式 由图2 4 可以知道，当使用者要与某一网站进行通讯时，首先就是要和该网 站建立t c p 连线，利用3 - w a yh a n d s h a k e 的技术，使用者先和w e bs w i t c h 建 硕士学位论文第二章基于s e s s i o n 的接纳控制与负载均衡策略研究 立t c p 连线，然后开始传送r e q u e s t 给w e bs w i t c h ，每当w r e bs w i t c h 收到 一个r e q u e s t 时，就要对这个r e q u e s t 进行分析，然后根据r e q u e s t 的u r i 栏 位、s