（计算机系统结构专业论文）嵌入式web服务器的负载均衡技术的研究.pdf

山东大学硕士学位论文 摘要 将i n t e r n e t 应用到各种嵌入式系统中，通过i n t c m e t 实现对设备的监控，己成 为i n m n e t 和嵌入式系统发展的新趋势。嵌入式w e b 服务器( e m b e d d e dw e b s e r v 盯，e w s ) 造价低，方便灵活，易于扩展，已成为利用i n t e r a e f t 实现嵌入式设 备网络化的主要手段。随着嵌入式w e b 服务器应用的日益广泛，如何提高它们的 处理能力变得十分重要，这将直接影响现场测试和控制设备的管理水平。 本文首先介绍了应用于传统w e b 服务器的负载均衡技术，探讨了实施负载均 衡技术需要考虑的因素以及实施负载均衡技术的策略，给出了基本的负载均衡算 法和实现技术。然后文章分析了实现嵌入式w e b 服务器需要解决的关键问题，并 结合其应用现状，给出了嵌入式w e b 服务器的软、硬件结构，得出嵌入式w e b 服务器有限的计算和存储资源是制约其发展的瓶颈的结论。 在以上分析的基础上，为提高嵌入式w e b 服务器系统的整体性能，本文结合 排队论和马尔柯夫过程，从理论上分析了网络访问请求到达的分布规律，然后参 考排队论中m m 1 排队系统模型，将该模型中队长、顾客等待时间、系统忙期闲 期等参数根据嵌入式w e b 服务器的应用环境进行了分析优化，提出了采用多个嵌 入式w e b 服务器为一个应用服务的嵌入式w e b 服务器集群负载均衡技术根据 应用，把访问嵌入式w e b 服务器的请求分成两类：一类是对嵌入式应用设备进行 监控及状态采集的请求；一类是浏览w e b 页面进行数据查询的请求。在实现过程 中，结合嵌入式w e b 服务器的特点，本文提出了适合于嵌入式w e b 服务器的负 载均衡算法基于访问请求优先级的最少连接数算法，该算法通过区分两类访 问请求的优先级( 其中第一类请求的优先级高于第二类) ，将高优先级请求优先 分配给连接数最少的嵌入式w e b 服务器。 然后本文以由嵌入式w e b 服务器组成的集群为例，给出了基于访问请求优先 级的最少连接数算法的详细描述，并精心设计了集群中各嵌入式w e b 服务器之间 的通信过程，来保证系统的高效、运行的可靠，给出了系统运行时详细的工作流 程，并结合实际应用，给出了嵌入式w e b 服务器应用程序接口的信息流设计。最 后，本文给出了嵌入式w e b 服务器集群网络通信及负载均衡主要函数的实现和详 山东大学硕士学位论文 !i!|鼍 细的代码实现。并通过实验比较了本文实现的嵌入式w e b 服务器集群系统与单个 嵌入式w e b 服务器的性能，以及基于访问请求优先级的最少连接数算法和传统的 最少连接数算法在本文实现的e w s 集群系统上的性能。 实验数据表明，本文提出的基于访问请求优先级的最少连接数算法及对嵌入 式w e b 服务器集群负载均衡技术的实现，明显的提高了嵌入式w e b 服务器系统 的整体性能，达到了对设备控制等这类紧急请求的优先、快速、准确响应的设计 目标，而且系统运行时需要记录的参数少，通信简单，结合嵌入式w e b 服务器价 格低廉的特点，实现了较高的性能价格比 关键字嵌入式系统：嵌入式w e b 服务器：分布式系统；负载均衡；工作流程 山东大学硕士学位论文 a b s t r a c t a p p l y i n gi n t e r n e ti n t oe m b e d d e ds y s t e m s ，m o n i t o r i n ge m b o d d e de q u i p m e n t s t h r o u g hi n t e r n e t , t h e s ea r et h ed e v e l o p i n gt r e n d so fc o m b i n a t i o no fi n t e r u e ta n d e m b e d d e d s y s t e m s e m b e d d e dw e bs e r v e l ( e w s ) ，i n e x p e n s i v e ，c o n v e n i e n t , e x p a n d a b l e ，h a sb e c o m et h em a i nm e t h o do fc o n n e c t i n ge m b e d d e de q u i p m e n t st o i n t e m e t w i t ht h eg r a d u a l l yw i d eu o f e w s b o wt oi m p r o v ei t sp r o c e s s i n gc a p a c i t y h a sb e c o m em o r ea n dm o r ei m p o r t a n t , a n dt h i sw i l ld i r e c t l ya f f e c tt h em a n a g e m e n t e 丘i c i e n c yo f r e m o t ee q u i p m e n t s t h e p a p e rf i r s ti n t r o d u c e dt h el o a db a l a n c i n gt e c h n i q u e so f t r a d i t i o n a lw e b s e r v e r d i s c u s s e dt h ef a c t o r sa n ds t r a t e g i e so fi m p l e m e n t i n gl o a db a l a n c i n g , a n dp r e s e n t e d s e v e r a lb a s i cl o a db a l a n c i n g a l g o r i t h m sa n di m p l e m e n t a t i o nt e c h n i q u e s t h e nt h e p a p e ra n a l y z e dt h ec r i t i c a li s s u e so fi m p l e m e n t i n ge w s p r e s e n t e dt h es o f t w a r ea n d h a r d w a r ea r c h i t e c t u r e so fc u r r e n te w sa c c o r d i n gt oi t sa p p l i c a t i o ne n v i r e n m e n t c o n c l u d e dt h a tt h e l i m i t a t i o no fc o m p u t i n ga n dm e m o r yr e s o u r c e so fe w sh a s b e c o m et h eb o t t l e n e c ko f i 协d e v e l o p m e n t s u n d e rt h ed i s c u s s i o na b o v e ，t oi m p r o v et h ep e r f o r m a n c = o fe w s ，t h ep a p e r a n a l y z e dt h ed i s t r i b u t i n gr u l e so f r e q u e s t sa r r i v i n ga c c o r d i n gt ot h eq u e u i n gt h e o r ya n d m a r k o vp r o c e s sa n do p t i m i z e dt h ep a r a m e t e r so fm m 1 q u e u i n gs y s t e mm o d e l a c c o r d i n g t ot h ee w s w o r k i n ge n v i r o n m e n t , s u c ha sl e n g t ho f q u e u e ，t i m eo f c u s t o m e r w a i t i n g , t i m eo fs y s t e mb u s ya n di d l e b a s e do nt h e s e ，t h ep a p e rb r o u g h tf o r w a r dt h e l o a db a l a n c i n gt e c h n i q u eo fe w sc l u s t e r , w h i c ha d o p t e ds e v e r a le m b e d d e dw e b s e l v e r st o 辩l - v eo n e a p p l i c a t i o na saw h o l e w ed i v i d e dr e q u e s t sv i s i t i n ge w s i n t ot w o k i n d s ，r e q u e s t sm o n i t o r i n ge m b e d d e de q u i p m e n t sa n dr e q u e s t sb r o w s i n g s t a t e s d o c u m e n t s a c c o r d i n gt ot h ec h a r a c t e r i s t i c so fe w s w eb r o u g h tf o r w a r dt h el e a s t c o n n e c t i o n l o a d - b a l a n c i n ga l g o d t h r ab a s e d o nt h e p r i o r i t y o fr e q u e s t s ，w h i c h d i s t i n g u i s h e st h ep r i o r i t i e so fr e q u e s t s ( t h ef i r s tk i n di sp r i o rt ot h es e c o n d ) a n d t r a n s m i t st h er e q u e s t sw i t hh i g h e rp d o r i t yf i r s tt ot h ee w sw i t hl e a s tc o n n e c t i o n s i 山东大学硕士学位论文 t h ep a p e rp r e s e n t e da l le x a m p l eo ft h ec l u s t e rc o m p o s e do fe m b e d d e dw e b s e r v e r s ，a n db a s e do i lt h i s ，g a v eo u td e t a i l e dd e s c r i l g i o no f t h ea l g o r i t h i n , a n dc a r e f a l l y d e s i g n e dt h ec o m m u n i c a t i o np r o c c s so ft h ee m b e d d e dw e bs e r v e r s ，a i m i n gt oh i g h e f f i c i e n c ya n dh i g hc r e d i b i l i t y , p r e s e n t e dd e t a i l e dw o r k i n g f l o wo ft h es y s t e mr u n n i n g a n dt h et h r e em o d e so f i n f o r m a t i o ne x c h a n g eo f a p p l i c a t i o np r o g r a mi n t e r f a c e ( a p do f e w s a tl a s t , t h ep a p e rg a v eo u tt h em a i nf u n c t i o n sa n dd e t a i l e dp r o g r a mc o d eo ft h e s y s t e mi m p l e m e n t a t i o n d i de x p e r i m e n t s ，c o m p a r e dt h ep e r f o r m a n c eb e t w e e nt h e s i n g l ee w sa n dt h ee w s c l u s t e rb r o u g h tf o r w a r db yt h i sp a p e r , a n dc o m p a r e dt h e p e r f o m m c eb e t w e e l lt h et r a d i t i o n a ll e a s tc o n n e c t i o nl o a d - b a l a n c i n ga l g o r i t h ma n dt h e l e a s tc o n n e c t i o nl o a d - b a l a n c i n ga l g o r i t h mb a s e do nt h ep r i o r i t yo fr e q u e s t sb r o u g h t f o r w a r db yt h i sp a p e r t h er e s u l t so ft h ee x p e r i m e n t si n d i c a t et h a tt h el e a s tc o n n e c t i o nl o a d - b a l a n c i n g a l g o r i t h mb a s e d0 1 1t h ep r i o r i t y o fr e q u e s t sa n dt h ei m p l e m e n t a t i o no ft h el o a d b a l a n c i n go fe w sc l u s t e rh a v en o t a b l yi m p r o v e dt h ep e r f o r m a n c eo ft h ee w ss y s t e m a n da c h i e v e dt h ee x p e c t a t i o no fp r e f e r e n t i a l f a s t , a c a 田a t er e s p o n s et ou r g e n tr e q u e s t s w h e nt h es y s t e mi sr u n n i n g , i to n l yn e e d saf e wp a r a m e t e r s ，s i m p l ec o m m u n i c a t i o n s ， a n dw i t hi t sa d v a n t a g eo f i n e x p e n s i v e n e s s , i ta c h i e v e sh i g hp e r f o r m a n c e - p r i c er a t i o k e y w o r d se m b e d d e ds y s t e m ；e m b e d d e dw e bs e v e r ：d is t rib u t e ds y s t e m ；io a d b a l a n c i n g ；w o r k i n gf l o w i v 原创性声明和关于论文使用授权的说明 原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师的指导下，独 立进行研究所取得的成果。除文中已经注明引用的内容外，本论文不 包含任何其他个人或集体已经发表或撰写过的科研成果。对本文的研 究做出重要贡献的个人和集体，均已在文中以明确方式标明。本声明 的法律责任由本人承担。 论文作者签名：銮舔 日 关于学位论文使用授权的声明 本人完全了解山东大学有关保留、使用学位论文的规定，同意学 校保留或向国家有关部门或机构送交论文的复印件和电子版，允许论 文被查阅和借阅；本人授权山东大学可以将本学位论文的全部或部分 内容编入有关数据库进行检索，可以采用影印、缩印或其他复制手段 保存论文和汇编本学位论文。 ( 保密论文在解密后应遵守此规定) 论文作者签名：蘑盗导师签名：避日期：盈蛐 山东大学硕士学位论文 第1 章负载均衡技术的应用现状 随着网络各个核心部分业务量的提高，其访问量和数据流量快速增长，7 处理 能力和计算强度也相应增大，使得单一设备根本无法承担，而且许多企业级应用 系统的应用请求具有突发性和紧急性的特点，当由于某种原因，应用访问急剧上 升时，容易造成网络瓶颈。解决这一闯题的办法是采用多台服务器为一个应用服 务，负载均衡机制就是为解决多个网络设备之间实现合理的业务量分配而提出 的。 负载均衡建立在现有网络结构之上，它提供了一种廉价有效的方法以扩展服 务器带宽和增加吞吐量，加强网络数据处理能力，提高网络的灵活性和可用性。 负载均衡有两方面的含义，首先大量的并发访问或数据流量分担到多台节点设备 上分别处理，减少用户等待响应的时间；其次把单个重负载的运算分担到多台节 点设备上做并行处理，每个节点设备处理结束后，将结果汇总返回给用户，系统 处理能力得到大幅度的提高。当引入某种负载均衡方案乃至具体实施时，首先是 确定当前及将来的应用需求，然后在代价与收效之间做出权衡。针对当前及将来 的应用需求，分析网络瓶颈的不同所在，需要确立是采用哪类的负载均衡技术， 采用什么样的均衡策略，在可用性、兼容性、安全性等方面考虑。负载均衡主要 完成以下任务：解决网络拥塞问题、提供就近服务，实现地理位置无关性；为用 户提供更好的访问质量；提高服务器响应速度；提高服务器及其它资源的利用率； 避免网络关键部位出现单点失效【” 1 1 实施负载均衡需要考虑的因素 不管负载均衡方案是采用花费较少的软件方式，还是购买代价高昂但在性能 功能上更强的第四层交换机、负载均衡器等硬件方式来实现，或其他种类不同的 均衡技术，下面这几项都是在引入均衡方案时重点要考虑的问题： 性能：衡量性能的参数主要有每秒钟通过网络的数据包数目和服务器群所能 处理的最大并发连接数目性能的优劣与负载均衡设备的处理能力、采用的均衡 山东大学硕士学位论文 i i | i ! s j _ _ 策略息息相关，这需要综合考虑均衡方案、服务器群整体的性能和负载均衡设备 自身的性能，以免影响响应客户端连接请求的速度和服务器自身性能不足而造成 的服务瓶颈。同时也可以考虑采用混合型负载均衡策略来提升服务器群的总体性 能，如d n s 负载均衡与n a t 负载均衡相结合。 可靠性：负载均衡解决方案应能为服务器群提供完全的容错性和高可用性。 在负载均衡设备自身出现故障时，应该有良好的冗余解决方案，使同一个冗余单 元的不同设备，能够有效地进行相互监控提高可靠性，保护系统尽可能的避免遭 受到重大故障的损失。 灵活性：在不同的服务器群有不同的应用需求时，应有多样的均衡策略提供 更广泛的选择。均衡解决方案应能灵活的提供不同的应用需求，满足应用需求的 不断变化。 可扩展性：合适的均衡解决方案必须能适应变化以满足需求，均衡不同操作 系统和硬件平台之间的负载，能均衡h t t p 、邮件、代理、数据库和防火墙等不 同服务器的负载，并且以对用户完全透明的方式动态增加或删除某些资源。 易管理性：应该有直观、灵活和安全的管理方式，便于安装、配置、维护和 监控，提高工作效率，避免错误发生。硬件负载均衡设备主要有三种管理方式， 一是命令行接口( c l i ：c o m m a n dl i n ei n t e r f a c e ) ，可通过超级终端连接负载均衡 设备串行接口来管理，也能t e l n e t 远程登录管理；二是图形用户接口( g u i ： g r a p h i c a lu s e ri n t e r f a c e s ) ，有基于普通w e b 页的管理，也有通过j a v aa p p l e t 进行 安全管理；三是s n m p ( s i m p l en e t w o r km a n a g e m e n tp r o t o c o l ，简单网络管理协议) 支持，通过第三方网络管理软件对符合s n m p 标准的设备进行管理。 1 2 实施负载均衡的策略 通过负载均衡的含义，以及上面提到的实施负载均衡时需要考虑的因素，可 以根据具体的应用情况，选择合适的负载均衡策略，使多个设备能很好的共同完 成任务。影响负载均衡策略优劣及其实现的难易程度的因素主要有；对网络系统 状况的监测方式和能力，负载均衡算法 山东大学硕士学位论文 i 2 i 对网络运行状况的监测方式和能力 对网络系统状况的监测方式和能力，直接影响负载均衡算法的运行效率及系 统能否正常可靠的运行当某台服务器或某段负载均衡设备与服务器间网络出现 故障，负载均衡设备应该能够正确引导数据流量，继续响应服务请求，达到不问 断可用性的要求。所以良好的负载均衡策略应有对网络故障、服务器系统故障、 应用服务故障的检测方式和能力4 】。目前常用的检测方式主要有： ( i ) p i n g 侦测：通过p i n g 的方式检测服务器及网络系统状况，该方法只能 检测出网络及服务器上的操作系统是否正常，而无法检测出服务器上的应用服务 是否正常 ( 2 ) t c po p e n 侦测：每个服务都会开放某个t c p 连接，检测服务器上的某 个t c p 端口( 如h t r p 的8 0 端口，t c l n e t 的2 3 端口) 是否开放来判断服务是否 正常。 ( 3 ) h t t i u r l 侦测：向h i t p 服务器发出一个对m a i n h t m l 文件的访问请 求，根据返回的信息，来判断服务器的运行状况。 通过对网络系统状况的监测，负载均衡设备能够根据事先制订的算法和策 略，做出相应的响应，使负载均衡的性能优化。 1 2 2 负载均衡算法 由于服务请求的类型不同、服务器的处理能力不同以及随机选择造成的负载 分配不均，为了更加合理的把负载分配给内部的多个服务器，就需要有相应的能 够正确反映各个服务器处理能力及网络状态的负载均衡算法。负载均衡提供简单 有效且科学合理的负载均衡算法，在性能不同的服务器之间进行负载分配，充分 利用服务器群中的每一台服务器。目前应用于传统w e b 服务器的基本负载均衡算 法主要有轮循均衡算法、随机均衡算法、最少连接数均衡算法、最少响应时间均 衡算法、处理能力均衡算法等。 均衡效果越好算法越复杂，考虑的因素越多，附加的开销就越大。在能满足 负载分配均衡要求的情况下，应尽可能使用简单的算法，来提高均衡器的工作效 3 山东大学硕士学位论文 率，避免均衡器的瓶颈效应 1 3 负载均衡技术的实现 负载均衡既可以通过一些专用软件和协议来实现，也可以通过设置专门的网 关、负载均衡器来实现。负载均衡设备在网络拓扑上，可以处于外部网和内部网 间网关的位置，也可以和内部服务器群处于并行的位置，甚至可以处于内部网络 或i n t e m e t 上的任意位置。根据o s i 网络七层体系结构的划分，在七层体系结构 中的第二、三、四、七层都有相应的负载均衡策略，在网络的不同层次上可以采 用相应的负载均衡技术【5 ，明。 1 3 1 基于客户端的负载均衡 该技术是在网络客户端运行特定的程序，该程序通过定期或不定期的收集服 务器群的运行参数：c p u 占用情况、内存、磁盘i o 等信息，再根据某种选择策 略找到可以提供服务的最佳服务器或者找到失效服务器的替代服务器，整个过程 对于应用程序来说是完全透明的，所有工作都在运行时处理。 由于该方法需要在每一个客户端安装特殊的采集程序，并且为了保证应用层 的透明运行，需要针对每一个应用程序进行修改，能够将客户端的访问请求先经 过采集程序再发往服务器。这些限制了该方法的通用性，而且由于对每一个应用 都要对代码进行重新开发，工作量会比较大。 1 3 2 应用服务器的负载均衡 该技术是将客户端的负载均衡层移植到某一个中间平台，形成三层结构。反 向代理技术是实现手段之一 反向代理( r e v e r s ep r o x y ) 服务是与通常的代理服务反方向的服务通常情 况下是内网的用户通过代理服务器访问外部的网络资源，而反向代理技术则是外 部用户通过代理服务器访问内网的服务器。代理服务器接受i n t e m e t 上的连接请 求，然后将请求转发给内部网络上的服务器，并将从服务器上得到的结果返回给 4 山东大学硕士学位论文 i n t e m e t 上请求连接的客户端，代理服务器对外表现为一个服务器。反向代理负载 均衡技术是把将来自i n t e m e t 上的连接请求以反向代理的方式动态的转发给内部 网络上的多台服务器进行处理，从而达到负载均衡的目的。 反向代理能以软件的形式来实现如a p a c h em o d p r o x yn e t s c a p ep r o x y 等，也可 以在高速缓存器、负载均衡器等硬件设备上来实现。 反向代理负载均衡可以将优化的负载均衡策略和代理服务器的高速缓存技 术结合在一起，提升静态网页的访问速度，而且由于网络外部用户不能直接访问 真实的服务器，具备额外的安全性。但是由于反向代理是处于o s i 参考模型第七 层应用的，所以就必须为每一种应用服务专门开发一个反向代理服务器，这样就 限制了反向代理负载均衡技术的应用范围。而且针对每一次代理，代理服务器就 必须打开两个连接，一个对内一个对外，因此在并发连接请求数量非常大的时候， 代理服务器的负载也就非常大，使代理服务器本身成为服务的瓶颈。 1 3 3 基于域名系统d n s 的负载均衡 d n s 负载均衡技术是在d n s 服务器中为同一个主机名配置多个口地址，在 应答d n s 查询时，d n s 服务器对每一个查询将以主机纪录的d n s 文件中的口 地址按顺序返回不同的解析结果，将客户端的访问引导到不同的机器上去，使得 不同的客户端访问不同的服务器，从而达到负载均衡的目的。使用d n s 负载均 衡，必须尽量保证不同的客户机能均匀获得不同的地址。 d n s 负载均衡是一种简单而有效的方法，但是也存在不少的问题首先域名 服务器无法知道服务节点是否有效，如果服务节点失效，域名系统仍然会将域名 解析到该节点上，造成用户访问失效。其次如果超过d n s 的数据刷新时间”几 ( 1 a n et ol i v e ) ，其它d n s 服务器就需要和这个服务器交互，以保证d n s 数据及 时更新，使地址能随机分配。为了使地址能随机分配，就应使r r l 尽量短，然而 ”m 设置的过短，将使d n s 流量大增，造成额外的网络问题。最后它不能区分服 务器的差异，也不能反映服务器的当前运行状态，而且要给每台服务器分配一个 i n t c r n c t j ：的球地址，这势必会占用过多的碑地址 山东大学硕士学位论文 1 3 4 基于高层协议内容交换的负载均衡 在网络协议内部有支持负载均衡能力的技术，即u r l 交换或七层交换。它 提供了一种对访问流量的高层控制方式，通过分析 r 兀p 报头中的信息和请求的 内容，获知客户端所请求的u r l 和网页，把不同的请求重定向到相应的服务器。 该技术可根据流经的数据类型( 如判断数据包是图像文件、压缩文件或多媒 体文件格式等) 或连接请求的类型( 如普通文本、图像等静态文档请求，a s p 、c g i 等动态文档请求) 把请求引向相应的服务器来处理，提高系统的性能及安全性。 而且通过对h t r p 报头的检查，可以检测出m 1 p 4 0 0 ，5 0 0 、6 0 0 系列的错误信 息，透明的将连接请求重新定向到另一台服务器，避免应用层故障。由于已知用 户请求的内容，后端文件系统不再需要全镜像，可以针对特殊类型的用户请求做 特殊优化，充分利用系统的缓存机制。第七层负载均衡受到其所支持的协议限制 ( 一般只有 r r t p ) ，这样就限制了它应用的广泛性，并且检查h r r p 报头会占用 大量的系统资源，影响系统性能，在大量连接请求的情况下，负载均衡设备自身 会成为网络整体性能的瓶颈。 1 3 5 基于网络接入协议交换的负载均衡 大型的网络一般都是由大量专用技术设备组成的，如何把这些技术设备有机 的组合在一起，将直接影响到网络的整体性能。n a t ( n e t w o r k a d d r e s st r a n s l a t i o n ) 网络地址转换，是将一个口地址转换为另一个m 地址，一般用于未经注册的内 部地址与合法的、已获注册的i n t e r a c ti p 地址间进行转换n a t 负载均衡将一个 外部腰地址映射为多个内部i p 地址，对每次t c p 和u d p 连接请求，根据其端 口号，按照既定的策略动态的选择一个内部服务器地址，将数据包转发到该地址 上。达到负载均衡的目的。 n a t 负载均衡设备一般处于内部服务器和外部网之间的网关位置，如路由 器、防火墙、四层交换机等，可以使用不同的负载均衡算法 n a t 负载均衡是一种比较完善的负载均衡技术它可以通过软硬件方式来 实现，通过软件方式来实现n a t 负载均衡，往往受到带宽及系统本身处理能力的 6 山东大学硕士学位论文 限制。由于n a t 比较接近网络的底层，因此可以将它集成在硬件设备中，其性能 非常优秀但不够灵活，通常这样的硬件设备是局域网交换机。 1 4 理论基础 排队论作为运筹学研究的一种有力手段，在交换网、计算机网络、生产流水 线过程等方面得到了广泛的应用，排队论也是通信信息量理论的基础理论。对于 网络服务的性能评价，首先是建立合理的能够进行性能评价的物理模型，然后利 用排队论建立数学模型，再进行性能解析和评价。另外，还可以进行网络仿真试 验i s 。 网络w e b 服务器的工作，可以看成接受请求与服务的过程，是一种典型的排 队过程。因此，这里采用排队理论对其进行分析，讨论不同网络环境下的服务率、 队列长度、等待服务时间等。 1 4 1 排队系统的主要指标 目前，评价一个排队系统的指标1 9 , 1 0 , 1 1 】主要有以下四个方面： ( 1 ) 队长，指在系统中的顾客数( 包括正在接受服务的顾客) ，它是随机 变量，是顾客和服务机构双方都十分关心的数量指标，应确定它们的分布及有关 矩( 至少期望平均值) 。 ( 2 ) 顾客在系统中的等待时间，指从顾客进入系统的时刻起直到顾客被服 务完毕而离开这段时间。等待时间是顾客最关心的数量指标，应用中关心的是统 计平衡下它们的分布及期望平均值 ( 3 ) 系统的忙期及闲期，从顾客到达空闲的系统，服务立即开始，直到系 统再次变为空闲，这段时间是系统连续繁忙的时间，我们称为系统的忙期，它反 映系统中服务员的工作强度。与忙期对应的是闲期，即系统连续保持空闲的时间 长度。在统计平衡下忙期和闲期是交替出现的。 ( 4 ) 输出过程，也称离去过程，是指接受服务完毕的顾客相继离开系统的 过程。刻划一个输出过程的主要指标是相继离去的间隔时间和在一段已知时间内 离去顾客的数目，这些指标从一个侧面也反映了系统的工作效率。 7 山东大学硕士学位论文 1 4 2 i i 1 排队系统 在排队论的研究中第一个被研究的典型模型就是m m 1 排队系统 1 2 , 1 3 , 1 4 , 1 5 。 所谓m m i 排队系统是指： ( 1 ) 输入是参数为九的最简单流，即p o i s s o n 流。 ( 2 ) 各顾客的服务时间v l , v 2 之间以及它们与输入之间均相互独立，并且 各，具有相同的负指数分布，即： 厂0 ，x o p v i x ：1 ll - e 。x ，x 0 从而： fo n 尸jo x d b ( x ) 2 1 t t ( 3 ) 有一个服务台，顾客到达后排入队伍按到达次序接受服务。 令：户嘶f 称为服务强度。 ( 4 ) 队长：以上( f ) 表示在时刻腓队系统的队长，即在时刻，排队等待服务的 顾客与正在被服务的顾客的总数，由于顾客到达的时间间隔和服务时间服从的负 指数分布的无后效性，使c ( f ) ，p o ) 是一个不可约的马尔可夫过程。令： p y ( t ) = p ( l ( ，) 穹il ( o ) = d 由生灭过程理论知p ( 沪妒“f ) ) 满足下列方程组： 厂d p i o ( t ) j1 - - x p i o ( t ) + 岬 l ld p 。栌九p i | j 1 ( t ) - ( + l i ) p # ( t 卜up 小l ( t ) o 1 ) 在初始条件以0 产国下，解上述方程得 乃( f ) = 哆) 譬e - ( 4 叫7 _ _ ) + 唔一。m _ ) + 妻k - i ( 1 一互z ) 舀s 。竽似+ i ( 2 f 撕- ) 由生灭过程理论知当p 对，以0 存在且与j 无关，于是令 1 1 i m 。p u ( t ) = p s 山东大学硕士学位论文 在p o 为一常数 ( 3 ) 只有一个服务台，按先到先服务的规则进行服务。 令：p f f i j a 称为服务强度。 ( 4 ) 等待时间：令阡锄为第m 个顾客的等待时间，w m ( x l l 为阡锄的分布函数， 则对任意砣o 既+ 。= 吃 一t ) a n ( o ，m = l ，2 ， 其中 9 山东大学硕士学位论文 e 目目1 1 i | 自目自目_ 自目目| 目| | _ 日( 工) = e b + t ) d a ( o 当p 1 ，极限分布； 熙( z ) = ( x ) 存在，独立于初始分布( 力，且对任意挝0 ，满足： 矽( 功= rw ( x u ) d n ( u ) 1 4 4 马尔柯夫过程与马尔柯夫链 马尔柯夫过程( m a r k o vp r o c a s s ) 1 2 1 盈矧是随机过程理论中的一种，马尔柯夫 链( m a r k o vc h a i n ) 是用来描述随时间变化的一个离散状态序列的状态转移特性 的，它是本世纪初由苏联学者m a r k o v 最先提出的。自6 0 年代以来，马尔柯夫过程 理论得以迅速发展和逐步完善。马尔柯夫过程是这样一种过程：过程在下一个时 刻将达到的状态，仅依赖于目前所处的状态，而与以往的状态无关，因此它是一 种弱相关的随机过程 马尔柯夫链是马尔柯夫过程的一种形式，它可看作是随时间变化的一个离散 的状态序列( 或链) ，其中由一个状态转移到另一个状态的概率取决于前面相邻 发生的状态马尔柯夫过程是研究系统的状态及状态转移的理论，它是通过对系 统不同状态的初始概率以及状态之间的转移概率的研究来确定系统各状态变化 趋势，从而达到对未来状态预测的目的 如果每一时刻顾客的到达与该时刻以前的所有到达有关，则不能形成马尔柯 夫链。此时，若在某一时刻排队顾客的转移概率仅由服务分布决定，且服务分布 是无后效性的，则可以用嵌入马尔柯夫链来分析。嵌入马尔柯夫链能用于各种排 队模型的研究。 o 山东大学硕士学位论文 1 。5 小结 一 本章介绍了应用于传统w e b 服务器的负载均衡技术首先探讨了实施负载均 衡技术需要考虑的因素，主要包括：性能、可靠性、灵活性、可扩展性和易管理 性等。接着给出了实施负载均衡技术的策略，有系统对网络运行状况的监测方式 和能力及基本的负载均衡算法，基本的负载均衡算法主要有：轮循均衡、加权轮 循均衡、随机均衡、最少响应时间均衡、最少连接数均衡、处理能力均衡等。然 后给出了几种基本的负载均衡实现技术。有基于客户端的负载均衡，应用服务器 的负载均衡，基于域名系统d n s 的负载均衡，基于高层协议内容交换的负载均 衡，基于网络接入协议交换的负载均衡。最后给出了分析网络访问请求到达分布 规律的理论基础排队论和马尔柯夫过程。 山东大学硕士学位论文 第2 章嵌入式w e b 服务器系统架构 2 1 嵌入式系统及其特点 根据i e e e ( 国际电气与电子工程师协会) 的定义拉卯，嵌入式系统是“用于 控制、监视或者辅助操作机器和设备的装置”( d e v i c e su s e d t oc o n t r o l 。m o n i t o r , o r a s s i s tt h eo p e r a t i o no f e q u i p m e n t , m a c h i n e r yo rp l a n t s ) 目前国内一个被普遍认可 的定义是以应用为中心，以计算机技术为基础，软硬件可剪裁，符合应用系统对 功能、可靠性、成本、体积、功耗严格要求的专用计算机系到矧。其硬件和软件 都必须经过高效率的设计，去除冗余，力争在同样的硅片面积上实现更高的性能。 好的嵌入式系统是完成目标功能的最小系统。目前流行的嵌入式操作系统主要有 w i n d o w sc e ，v x w o r k s ，e m b e d d e dl i n u x 等。嵌入式l i n u x ( e m b e d d e dl i n u x ) 是经过小型化裁剪后，能够固化在存储器芯片或单片机中，应用于特定嵌入式场 合的专用l i n u x 操作系统【2 7 1 。它由一个微内核以及一些针对需要定制的系统模块 组成。微内核很小一般只有几百k b 左右，即使加上其它必须的模块和应用程序， 所需的存储空间也很小。有多任务、多进程的系统特征，有些版本还针对实时特 性进行了改进。 从上面的介绍可以看出嵌入式系统区别于通用计算机系统的一些特点，主要 有 2 6 2 8 1 ： ( 1 ) 嵌入式系统通常是面向特定应用的。嵌入式c p u 与通用型c p u 的最大不 同就是嵌入式c p u 大多工作在为特定用户群设计的系统中，它通常都具有低功耗、 体积小、集成度高等特点，能够把通用c p u 中许多由板卡完成的任务集成在芯片 内部，从而有利于嵌入式系统设计趋于小型化，使其移动能力大大增强，与网络 的耦合也更加紧密。 ( 2 ) 专用性强。嵌入式系统的个性化很强，其中软件系统和硬件系统的结 合非常紧凑。总是被设计成为完成某一特定任务，一旦设计完成就不再改变。嵌 入式系统和具体应用有机地结合在一起，它的升级换代也和具体产品同步进行 山东大学硕士学位论文 ( 3 ) 多种技术的结合体嵌入式系统是将先进的计算机技术、半导体技术、 电子技术和各个行业的具体应用相结合后的产物。这一点就决定了它必然是个 技术密集、资金密集、高度分散、不断创新的知识集成系统。 ( 4 ) 硬件与软件的相互依赖性由于嵌入式系统的专用性决定了它的设计 目标是单一的，硬件与软件的依赖性强，因而一般软件要进行共同设计 ( c o - d e s i g n ) ，以求达到共同完成预定的功能，并满足性能、成本和可靠性目标。 ( 5 ) 系统对用户是透明的。用户在使用设备时只是按照预定的方式使用它， 既不需要用户进行编程，也不需要用户知道设备内计算机系统的设计细节，用户 也不能改变它。 ( 6 ) 大多是实时控制系统。嵌入式计算机系统如工业仪器、控制装置、数 控系统、信息家电、军用设备和控制系统等均是实时系统。 ( 7 ) 系统配置专一、结构紧凑，坚固可靠，一般来说计算机资源有限这是 由专业性、嵌入式( 空间约束) 以及适用环境所决定的 2 。2 嵌入式w e b 服务器的概念 i n t e r n e t 的出现和迅速发展极大地改变了人们的生活和工作方式，它使人们能 够更加舒适、方便、迅速地获取、管理和传递信息，成为人们日常工作和生活中 不可缺少的一部分。将i n t e m e t 应用到各种嵌入式系统中，通过i n t e m e t 实现对设 备的监控，已成为目前i n t e m e t 和嵌入式系统发展的新趋势。当前广泛采用的嵌 入式w e b 服务器技术，是利用i n t e m e t 技术实现嵌入式设备网络化的主要手段。 嵌入式w e b 服务器( e m b e d d e dw e bs e r v e r ，e w s ) 是指将w e b 服务器引入 到现场测试和控制设备中，在相应的硬件平台和软件系统的支持下，使传统的测 试和控制设备转变为具备了以t c p f i p 为底层通信协议、以w e b 技术为核心的基 于互联网的网络测试和控制设备 2 9 3 0 i 。它把信息采集和信息发布都集成到现场的 测控设备中，通过i n t e m e t 标准、公开的通信协议和接口，向任何接入i n t e r n e t 的 合法用户提供统一的、基于浏览器方式的操作和控制界面，远端的浏览器成为了 设备的前端控制板1 3 嵌入式w e b 服务器造价低，方便灵活易于扩展，提高了现 场钡4 试和控制设备的管理水平，目前已广泛应用于智能家居、楼字自动化及仪器 仪表的监控等领域。随着嵌入环境的不同e w s 系统也有差别，但基本的软硬件 山东大学硕士学位论文 量毫曼il l。- -i 鼍| 晕置皇量曼皇量皇曼皇皇置 结构是相同的，只是根据应用的不同在性能或规模上略有不同。 2 3 实现嵌入式w e b 服务器需要解决的关键问题 2 3 1 资源分配问题 主要考虑的是系统硬件资源的分配问题，包括c p u 的计算资源和系统的存储 空间资源。 由于e w s 的c p u 同时承担着应用系统本身的计算、控制等任务负荷，所以 e