(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf_第1页
(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf_第2页
(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf_第3页
(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf_第4页
(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf_第5页
已阅读5页,还剩59页未读, 继续免费阅读

(计算机系统结构专业论文)分布式并行防火墙系统研究与设计.pdf.pdf 免费下载

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

墒晏 随着互联网技术的日新月异,网络受到了越来越多的各式各样的攻击,网络 安全日益受到越来越大的重视。另外,网络内容的增加也伴随着对网络速度和带 宽的要求不断提高。防火墙是保证网络安全最重要的一个措施,它的处理速度和 容量直接决定了网络流量。所以,提高防火墙的处理速度和吞吐量,消除网络故 障瓶颈越来越成为网络安全技术发展的重要方向。 分布式并行防火墙是将分布式并行技术应用于防火墙上以提高防火墙的处 理速度和吞吐量的一套分布式系统。它由多台普通防火墙组成,采用分布式并行 技术将它们组合起来。该系统相对于普通单机防火墙具有许多优点,比如:它可 以根据带宽的需求配置防火墙个数,并可以动念增加防火墙节点个数,自动实现 负载的分配,可以消除单点故障瓶颈,具有很高的性价比等等。 本文首先对防火墙和分布式并行技术的相关研究做了一定的描述,然后提出 了两种分布式并行防火墙的体系结构,即基于流量分发机制和基于协商处理机制 的分布式并行防火墙,对前者做了较为深入的理论研究,而对后者的实现做了详 细的描述,并对其实现的关键技术做了阐述。文章最后还描述了基于协商处理机 制的分布式并行防火墙系统在具体实践中的应用,并对其做了理论分析。 本文的创新点在于提出了一种全新的基于协商处理机制分布式并行防火墙 技术,该技术有效地解决了各个防火墙处理数据的分布和它们处理速度的并行难 题。该系统是基于l i n u x 平台开发的一套分布式并行系统,并通过实践的检验证 明是一套稳定、可靠的系统。 关键字:防火墙,分布式并行,集群系统,l i n u x 内核 a b s t r a c t w i t ht h ed e v e l o p m e n to fi n t e r n e tt e c h n o l o g y n e t w o r ki si m p e r i l e db y m o r ea n dm o r ev a r i o u sa t t a c k e d p e o p l ep a ym o r ea t t e n t i o nt on e t w o r k s e c u r i t i e s f u r t h e r m o r e ,a st h ec o n t e n ti n c r e a s e d ,f i r e w a 1n e e d sq u i c k e r s p e e da n dd e a l sm o r et h r o u g h o u t f i r e w a l 1i sa ni m p o r t a n tm e a s u l ea s s u r e d n e t w o r ks e c u r i t ya n di t sd e a li n gs p e e da f f e c t sd i r e c t yn e t w o r k t h r o u g h o u t s o ,i m p r o v i n gf i r e w a l ls p e e do fd e a l i n gd a t aa n de li m i n a t i n g n e t w o r kf a i l u r eb o t t l e n e c ka r ea ni m p o r t a n tn e t w o r kt e c h n o o g yd e v e l o p i n g d i r e c t i o n d i s t r i b u t e da n dp a r a l l e lf i r e w a l l ( d p f w ) is ad 1s t r ib u t e ds y s t e m a p p l y i n gd i s t r i b u t e da n dp a r a l l e lt e c h n o l o g yo i lf i r e w a l lt oi m p r o v i n g f i r e w a lld e a li n gs p e e da n dt h r o u g h o u t d p f ws y s t e mism a d eu po fs e v e r a l s i n g l ef i r e w a l l ,a d o p t i n gd i s t r i b u t e da n dp a r a l l e lt e c h n o l o g y c o m p a r i n g w i t hn o r m a ls i n g l ef i r e w a l l ,d p f wp r o c e s s e sm a n ya d v a n t a g e s f o re x a m p e , t h es y s t e mc o n f i g u r e sn u m b e r so ff i r e w a l ia c c o r d i n gt or e q u i r e m e n to f b a n d w i d t h i tcana u t o m a t i c a l l yi m p l e m e n td y n a m i c1 0 a db a l a n c ea n d e l i m i n a t es i n g l e - p o i n t o f f a i l u r eb o t t l e n e c k m o r e o v e r i ti sp r o v i d e d w i t hr e a s o n a b l ep r i c e t h ep a p e rd e s c r i b e st h et e c h n o l o g i e sr e l a t e dw i t hf i r e w a l la n d d i s t r i b u t e da n dp a r a l l e lf i r s t l y ,i n t r o d u c e st w oa r c h i t e e t u r e so fd p f w : d p f wb a s e d o n f l u x d i s p a t c h m e c h a n i s ma n d d p f w b a s e d o n n e g o t i a t i o n m e c h a n i s m t h ep a p e ra n a l y z e st h et h e o r yr e s e a r c ho ft h e f o r m e r ,d e s c r i b e dt h el a t t e r si m p l e m e n t a t i o ni nd e t a i j ,t h e nd i s c u s s e s t h ek e yt e c h n o l o g yo f i m p l e m e n t a t i o n f i n a l l y ,t h ep a p e rd e s c r i b e s a p p l i c a t i o n so fd p f wb a s e do nn e g o t i a t i o n m e c h a n i s mi np r a c t i c ea n d a n a l y z e di t i nt h e o r y t h ei n n o v a t i v et h i n g si nt h ep a p e r1 i ei np r o v i d i n ganewt e c h n o l o g y o fd p f wb a s e do nn e g o t i a t i o n m e c h a n i s m 。t h et e c h n o l o g yr e s o l v e s e f f e c t i v e l yt h ep r o b l e mo fd i s t r i b u t i n gd a t ai nd p f wa n dp a r a l l e l i z i n g d a t ai nd p f w t h es y s t e mi sd e v e l o p e do nt h ep l a t f o r mb a s e do nl i n u xa n d i sp r o v e da sar e l i a b l ea n ds t a b l ed i s t r i b u t e da n dp a r a l l e lf i r e w a l l s y s t e m k e y :f i r e w a l l ,d i s t r i b u t e da n dp a r a l l e l ,c l u s t e r ,l i 1 u xk e r n e 】 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行研究工作及取得的 研究成果。据我所知,除了文中特别加以标注和致谢的地方外,论文中不包含 其他人已经发表或撰写过的研究成果,也不包含为获得电子科技大学或其它教 育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任 何贡献均己在论文中作了明确的说明并表示谢意。 签名:主i 立:叁 日期:二。尹年土月珂日 关于论文使用授权的说明 本学位论文作者完全了解电子科技大学有关保留、使用学位论文 的规定,有权保留并向国家有关部门或机构送交论文的复印件和磁 盘,允许论文被查阅和借阅。本人授权电子科技大学可以将学位论文 的全部或部分内容编入有关数据库进行检索,可以采用影印、缩印或 扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签名:蔓盘:羔导师签名:地! 兰i 竺 日期:2 口护牛年卫月乒扩日 分布式并行防火墙系统研究与设计 引言 防火墙是目前使用最为广泛的一种网络安全技术。它在内部网络与外部网络 之间构建了一道安全保护屏障,防止非法用户访问内部网络资源或向外传递内部 消息,同时也阻止恶意攻击内部网络。一个有效的防火墙应该能够确保:所有信 息流入或流出都将经过防火墙,所有流经防火墙的信息都应接受检查。 通常,应用防火墙的目的有:限制他人进入内部网络:过滤掉不安全的服务 和非法用户:防止入侵者接近防御设施;限定人们访问特殊站点:为监视局域网 安全提供方便等。 目前防火墙控制技术主要包括:包过滤( p a c k e tf i i t e r ) 技术、包状态检 验( s t a t e f u li n s p e c t i o dp a c k e tf i l t e r ) 技术、应用层网关( a p p i c a t i o d g a t e w a y ) 技术以及网络地址转换( n a t ,n e t w o r ka d d r e s st r a n s f e r ) 技术四种。 ( 1 ) 包过滤:包过滤技术检查所有进出防火墙的封包标头内容,如来源及目地 i p 、t c p 或u d p 的p o r t 等信息,并按一定的策略进行控制管理。 ( 2 ) 包状态检验:包状态检验的控制机制是通过一个检验模组对数据包中的各个 层次做检验,包状态检验的目的是增加包过滤的安全性,增加控制“连线”的能 力。 ( 3 ) 应用层网关( 代理) :应用层网关的防火墙采用连线跟踪技术,由一个特殊的 代理程序来处理两端间的连线,并分析其连线内容是否符合应用协定的标准。开 发者必须针对每一种应用写一个专属的代理程序,或用一个一般用途的代理程序 柬处理大部分连线。 ( 4 ) 网络地址转换( n a t ) :n a t 使用连线跟踪技术,通过地址转换来达到隐藏内 部i p 的目的。如果实现动态转换,将大量节省i p 地址。 随着网络带宽的日益增加,防火墙的处理能力日益成为数据高速传送的瓶 颈,就目前技术现状来看,网络带宽的增加远高于防火墙处理速度的提高,如 a t m 、g i g a b i te t h e r n e t 、l o g i g a b i te t h e r n e t 的出现,都对防火墙的处理速度 提出了很大的挑战。 单一防火墙的数据包的处理能力主要受硬件处理能力的限制,一般提高单一 防火墙处理速度的方法就是使用专用的a s i c 芯片,这虽然使处理速度提高了, 但成本也跟着大幅度提高了。 单一的防火墙不仅存在性能问题,还存在单点故障瓶颈问题。虽然现在的单 分布式并行防火墙系统研究与设计 一防火墙节点故障概率已经很小,但是难免会出问题。一旦单一防火墙崩溃,将 导致所有的访问失败,这对一些重要的网站来说损失是很大的。例如,据资料显 示,d e l l 每天( 2 0 0 2 年) 网上直销收入达4 0 0 0 万美会,平均每个小时1 6 0 多万 美金。 表1 连接中断给各应用系统带来的损失 应用系统 每分钟损失( 美元) 呼叫中心( c a l lc e n t e r )2 7 0 0 0 供应链管理( s c m ) 系统1 1 0 0 0 电子商务( e c o m m e r c e ) 系统1 0 0 0 0 客户服务( c u s t o m e rs e r v i c ec e n t e r ) 系统2 7 0 0 0 而分布式并行防火墙( d p f w ) 系统能够克服单一防火墙所带来的上述问题,它 对数据包并行处理,成倍地加快处理速度。另外,由于采用了故障容错机制,消 除了单点防火墙故障瓶颈问题,在某台或某几台防火墙发生故障时,使得连接也 能够继续进行。 本文将主要阐述基于两个不同负载均衡技术的d p f w 系统,基于流量分发机 制的d p f w 系统和基于协商机制的d p f w 系统。前者主要作了一些理论研究, 而对后者将对具体实现作详细的阐述,并对其测试结果做出分析。 分布式并行防火墙系统研究与设计 1 1 概论 第一章d p f w 相关研究 分布式并行防火墙- d i s t r i b u t e da n dp a r a l l e lf i r e w a l t ( d p f w ) 系统是由多台 单一防火墙组成的分布式并行处理系统,它对需要防火墙处理的数据进行并行处 理。相对于单一防火墙系统,它有许多比较明显的优势。 高可伸缩性( h i g hs c a l a b i l i t y ) :可以根据带宽的需求配置防火墙个数,并 可以动态增加防火墙节点个数,自动实现负载的分摊。 高可用性( h i g ha v a i l a b i l i t y ) :目前,单一防火墙系统为了消除单点故障 瓶颈大都采用热备份的方法,但是这样不仅没有提高防火墙的速度,反而增 加了单位成本。d p f w 系统使用分布式并行处理技术,即使是一台或多台防火 墙失效,只要不是全部失效,就不会使访问停止。这是单一防火墙系统配置 不可比拟的。 高性能( h i g hp e r f o r m a n c e ) :多台防火墙对数据包并行处理,使整个防火 墙系统的吞吐量大大提高,并且能使网络吞吐量的大小随防火墙的个数的增 加而增加。 高性价比( h i g hp r i c e p e r f o r 眦n c e ) :采用廉价的符合工业标准的服务器 构成的d p f w 系统,可以有效地控制成本。另外,根据带宽的需求配置防火 墙个数可以有效地节约成本。 1 2 相关研究 1 2 1 基于l 1 n u x 平台的防火墙技术 由于l i n u x 的低成本、坚固性以及对公开网络标准的支持,这已经使其成为 很多应用中不错的选择。如防火墙、i p 网络地址转换以及i p 伪装,甚至虚拟专 用网( v p n ) 。这些应用满足了用户的各种需求。 l i n u x 防火墙从2 0 内核的i p f w a d m ( 基本的防火墙管理工具) 到2 2 内核的 i p c h a i n s ( 防火墙链) ,又到2 4 内核的n e t f i l t e r 。时间并不长,这也说明l i n u x 分布式并行防火墙系统研究与设计 防火墙技术发展是很快的。 1 2 1 1n e t f jl t e r 介绍 n e t f i l t e r 是l i n u x 2 4 实现的防火墙框架,n e t f i l t e r 比以自d 任何一版l i n u x 内核的防火墙子系统都要完善强大。n e t f i l t e r 提供了一个抽象、通用化的框架, 该框架定义的一个子功能就是包过滤子系统。n e t f i l t e r 由一系列基于协议栈的 钩子组成这些钩子都对应某一具体的协议。当前n e t f i t e r 已经基于i p v 4 、 i p x 、i p v 6 等协议实现了对应的钩子函数。 n e t f i1t a r 框架包含以下三部分: 为每种网络协议( i p v 4 、i p v 6 等) 定义一套钩子函数( i p v 4 定义了5 个钩 子函数) ,这些钩子函数在数据报文流过协议栈的几个关键点被调用。在这 几个点中,协议栈将把数据报文及钩子函数标号作为参数调用n e t f t e r 框 架。 内核的任何模块可以对每种协议的一个或多个钩子进行注册,实现挂接。这 样当某个数据包被传递给n e t f ii t e r 框架时,内核能检测是否有模块对该协议和 钩子函数进行了注册。若注册了,则调用该模块注册时回调函数。这样,这些模 块就有机会检查( 可能还会修改) 、丢弃该数据包,以及指示n e t f i i t e r 将该数 据包传入用户空间的队列。 由于所有的包过滤都基于该框架,所以内核网络代码不再像以前内核版本那 样混乱了。 因为基于l i n u x 2 2 内核的i p c h a i n s 没有提供传递数据包到用户空间的框 架,所以任何需要对数据包进行处理的代码都必须运行在内核空间。 透明代理实现非常复杂,必须查看每个数据包来判断是否有专门处理该地址 的s o c k e t 。 创建一个不依赖于接口地址的数据报文过滤规则是不可能实现的。用户必须 利用本地接口的地址来判断数据报文是本地发出、还是发给本地或是转发 的。转发链只有输出接口的信息,因此管理员必须考虑数据报文的源。 伪装和数据包过滤都在同一个模块内实现,导致防火墙代码过于复杂。 一个数据报文在通过n e t f i i t e r 框架时,它将经过如图1 1 所示的流程。 从图中可以看到n e t f i l t e r 框架共有5 个钩子函数,分别为; 分布式并行防火墙系统研究与设计 h o o k l : h o o k 2 h o o k 3 : h o o k 4 : h o o k 5 : n f i pp r er o u t i n g n fi pl o c a li n n f i pf o r w a r d n f i pp o s tr o u t i n g n f i pl o c a l0 u t 图1 1n e t f i l t e r 框架示意图 数据报文从左边进入系统,进行 n f _ i p _ p r er o u t i n g ( h o o k1 ) 进行处理; i p 校验以后,经过第一个钩子函数 然后进入路由代码,决定该数据包是需 要转发还是发给本机;若该数据包是发给本机的,则该数据经过钩子函数 n f i p l o c a l i n ( h o o k2 ) 处理以后传递给上层协议;若该数据包应该被转发则它 被n l i p f o r w r a d ( h o o k3 ) 处理:经过转发的数据报文通过撮后一个钩子函数 n f i p p o s t r o u t i n g ( h o o k4 ) 处理后,再传输到网络上。 本地产生的数据经过钩子函数n f - i p l o c a l _ o u t ( h o o k5 ) 处理后,进行路由 选择处理。然后,经过n f - i p p o s tr o u t i n g ( h o o k4 ) 处理,再发送到网络上。 1 2 1 2l i t i t i x 防火墙基本技术 上节说明了l i n u x2 4 内核版本下的n e t f i l t e r 框架。这一节将继续以n e t f i l t e r 为基础,介绍l i n u x2 4 防火墙基本技术。 1 ) 连线跟踪 连线跟踪( c o n n e c t i o nt r a c k i n g ) 是包过滤、地址转换的基础,然而它又作为 一个独立的模块在运行,有了连线跟踪,动态包过滤及地址转换才能得以实现。 分布式并行防火墙系统研究与设计 连线跟踪的工作原理并不十分复杂,以一个防火墙接收到一个初始化t c p 连 接的s y n 包为例,这个带有s y n 的数据包将被防火墙的规则库检查。该数据包 将在规则库中依次进行比较。如果检查了所有的规则都不匹配,那么该包将被丢 弃。这样个含连接复位( r s t ) 的数据包将被发送到远端的主机。要是该数据 包通过防火墙的规则检查被防火墙接收,那么这次连接的信息将被保存在一个连 线跟踪信息表中,并表明该包应有的状态。这个连线跟踪信息表位于内核模式下, 其后的网络协议包( 也就是在s y n 包之后不带s y n 标志的数据包) 就将和浚连 线跟踪信息表中的信息进行比较。根据在信息表中该包的信息,来决定浚数据包 是丢弃还是被接收。利用连线跟踪可以提高防火墙系统的性能,因为每一个数据 包首先不是和规则库进行比较,而是和连线跟踪信息表进行比较。只是含有s y n 的数据包到来时,它才和规则库进行比较。因为所有的数据包与连线跟踪信息表 的比较都是在内核模式下进行的,所以速度很快。 可见连线跟踪的工作原理是:检测每一个有效连接的状态,并根据这些信息 决定网络数据包是否能够通过防火墙。该技术在协议栈底层截取数据包,然后分 析这些数据包。并且,将当前数据包及其状态信息和其前一时刻的数据包及其状 态信息进行比较,从而得到该数据包的控制信息,达到保护刚络安全的目的。 连线跟踪的框架 连线跟踪在l i n u x2 4 防火墙框架n e t f i l t e r 中有四个地方被采用,如图1 2 所示,在图中连线跟踪简单地用 c t 代替。 图1 2 连线跟踪框架示意图 由图l 一2 可以看出连线跟踪位于如下四个钩子点 1 】:n 啦p r e r o u t i n g 2 】:n i 一l o c a l 一 【4 】:n f i p p o s t r o u t i n g 分布式并行防火墙系统研究与设计 【5 】:n f - i p - l o c a l _ o ur 连线跟踪的实现 连线跟踪模块截获、分析并处理所有试图通过防火墙的数据包,保证网络的 高度安全和数据完整。网络和各种应用的通信状态被动态存储和更新到状态表 中,结合预定义好的规则,实现安全策略。 连线跟踪模块可以识别不同应用的服务类型,还可以通过以前的通信及其他 应用程序分析出状态信息。状态检测模块检验i p 地址、端口以及其他需要的信 息,以便决定通信包是否满足安全策略。 连线跟踪模块把相关的状态和状态之间的关联信息存储到动态连接表中,并 随时更新。通过这些信息,连线跟踪模块可以检测到后继的通信。 连线跟踪技术对应用程序透明,不需要针对每个服务设置单独的代理,其具 有更高的安全性、更好的伸缩性和扩展性,可以很容易地把用户的新应用添加到 保护的服务中去。 如果一个数据包不在连线跟踪信息表中,那么该包使用规则库来检查,而不 考虑该包是s y n 包、a c k 包还是其他类型的数据包。一旦这个数据包通过了规 则检查,那么本次连接的信息将被添加到连线跟踪信息表中。由于连线跟踪信息 表在入口处,后续的数据包就没有进行规则检查。所有后续的数据包都会和连线 跟踪信息表比较。 从最简单的角度出发,一个连接可以使用源地址、目的地址和端口号来区分。 当使用一个s y n 包来建立一个连接时,防火墙首先将该数据包和规则库进行比 较。一旦通过了这个数据的连接请求,该数据包的状态就将记录在连线跟踪信息 表中。并且将设置连接的时闻溢出值,然后防火墙等待一个返回确认连接的数据 包。一旦接收到这个确认连接的数据包,防火墙又将修改这个连接的时间溢出值, 通常是增加,如增加到3 6 0 0 秒。对于这个返回确认连接的数据包,防火墙需要 对其包类型进行判断看是否含有s y n a c k 标志。 2 ) 包过滤 包过滤在l i n u x2 4 防火墙框架n e t f i l t e r 中有三个地方被采用,如图1 3 所 示。在图中,包过滤简单地用f i l t e r 代替。从图中可以看出,包过滤位于如下三 个钩子点上: n f i p l o c a l 一1 n n fi pf o r w a r d 分布式井行防火墙系统研究与设计 n f i p l o c a l o u t 图1 - 3 包过滤框架示意剀 3 ) 网络地址转换 地址转换分源地址和目的地址转换,在l i n u x2 4 防火墙框架n e t f i l t e r 中 有三个地方被采用,如图l 一4 所示。 图1 4 网络地址转换不意图 出图l 一4 看出网络地址转换位于如下三个钩子点上: n f _ i p p r e r o u t i n g n f _ i p p o s t r o u t i n g n l i p l o c a l o u t 源地址转换就是改变第一个数据包的来源地址,系统为输出的数掘包做高速 缓存,源地址转换会在数据包传出网线之前就做好转换工作。地址伪装 ( m a s q u e r a d i n g ) 是一个s n a t 的特例。 目的地址转换就是改变第一个数据包的目的地址,为输入的数据包做高速缓 存时,目的地址转换会在数据包从网卡进入之后就立即做好向前路由的动作。端 口转发、负载均衡以及透明代理都属于d n a t 。 4 ) 包处理 蓐 芽震 澎 分布式并行防火墙系统研究与设计 包处理在l i n u x2 4 防火墙框架n e t f i l t e r 中有两个地方被采用,如图1 5 所示。在图中处理简单地用m a n g l e 代替。 幽1 5 包处理框架示意剀 1 2 2 分布式并行处理技术 一个分布式系统就是由一些独立的计算机组成的系统,这个系统对用户来说 就像一台计算机一样。从硬件角度讲,每台计算机都是独立的:但从软件角度来 讲,用户将整个系统看作一台计算机,进行统一的编程。 1 2 2 1 分布式并行系统相对于集中系统的优点 随着c p u 芯片速度的日益提高,价格日益降低。由多台计算机组成的分布 式系统相比于单一的大型集中式系统有很好的性能价格比。另外一些应用本身 就是分布式的。如一个超级市场连锁店可能有许多分店,每个商店都需要采购当 地的商品进行本地销售。因此,每个商店都是独立核算,而不是集中于公司总部。 同集中式系统相比较,分布式系统的另一个潜在优势在于它的高可靠性。通 过把工作负载分散到众多的机器上,单一芯片故障最多只会使一台机器停机,而 其它计算机不会受任何影响。理想条件下,某一时刻如果有1 0 的计算机出现 故障,系统仍能继续工作,只不过损失1 0 的性能。对于关键性的应用,采用 分布式系统实现主要是考虑到它可以获得很高的可靠性。最后很好的可扩展性 也是分布式系统优于集中式系统的一个潜在的重要原因。 1 2 ,2 ,2 分布式并行系统的分类 一般地说,分布式系统可分为紧耦合型( t i g h t l yc o u p l e d ) 和松耦合型( 1 0 0 s e l y c o u p l e d ) 的。在紧耦合的系统中,一台计算机向另一台计算机发送信息的时问 很短、数据传输速率高,也就是说它每秒钟所能够传送的比特数大;而在松耦合 分布式并行防火墙系统研究与设计 的系统中则正好相反:计算机间信息传送延迟大,数据传输速率低。 紧耦合的系统多用于并行系统( 共同处理一个问题) ,而松耦合系统多用于 分布式系统( 处理一些不相关的问题) 。总的来说,多处理机的耦合程度要比多 计算机高,因为它们能以存储速率交换数据,但一些基于光纤的多计算机也能以 存储速率交换数据。 松耦台的软件允许分布式系统中的机器和用户基本上各自独立,但是也在必 要的情况下进行一定程度的相互作用。假设有这样一组个人计算机,每台机器都 有它自己的c p u 、存储器、硬盘和操作系统,但是它们通过l a n 共享一些资源, 例如打印机、数据库等。因为每一台计算机都能够明显地同其它计算机区别丌束, 每一台也都有自己的任务,所以这个系统是松耦合的。如果网络因某种原因而崩 溃,各个单个的计算机虽然会失去一些功能( 例如,打印功能) ,但是它们在很 大程度上仍能继续工作。 网络操作系统是运行在松耦合硬件上的松耦合软件。除了共享文件系统外, 对用户可见的是这个系统包含了许多计算机。每台计算机都运行它自己的操作系 统,而且按它的所有者要求来工作。除了通信必须遵守的协议之外,计算机之间 基本上没有什么合作。这种系统下一步发展方向就是在同样的松耦合硬件上的紧 耦合软件。它的目标是使用户认为整个计算机网络是一个分时系统,而不是一个 互不相同的机器的集合。这样的性质可以称为单系统映像( s i n g l e s y s t e mi m a g e ) 。 1 2 2 3 分布式并行系统的特点 分布式系统首先必须具有一个单一的、全局的进程间通信机制,从而使任何 进程都可以和其他进程进行通信。在不同的计算机上不应有不同的机制,本地通 信和远程通信也不应有不同的机制。分布式系统还必须有一个全局的保护方案。 把存取控制表、u n i x 保护位以及通信能力简单混合并不能产生单系统的映像。 分布式系统进程管理也必须处处相同。进程如何建立、撤销、启动、停止都 不能因机器不同而不同。 简而言之,分布式系统软件的核心思想:即任何机器只要在进行客户一服务 器通信时遵守标准协议,它就可做它想要做的任何事。而且,不仅要有唯一的一 整套在所有的计算机上都可以使用的系统调用,还要这些系统调用的设计必须符 合分布式环境的要求。 在任何地方,文件系统也必须看起来是相同的。如果在一些地方文件名被限 制为1 1 个字符,而在另一些地方不作限制是不可行的。同时,每个文件应该是 分布式并行防火墙系统研究与设计 在所有地方都是可见的。当然,这必须遵守保护和安全性约束的限制。 在系统的所有地方都使用相同的系统调用接口,作为它的必然结果,在系统 的所有c p u 上运行相同的内核也就是很正常的事了。然而,每个内核都能对它 所拥有的资源有很大的控制权。例如,由于没有共享存储器,所以允许每个内核 管理它拥有的存储器。 在分靠式并行系统的设计中,要注意以下几个特点: 1 ) 透明性( t r a n s p a r e n c y ) 分布式系统设计最重要的一个问题就是如何实现单系统映射。也就是说,如 何使用户观点看是一个统一的、单一的系统。 透明度可分为两个级别,最容易做到的就是对用户隐藏系统的分布性。例如, 当一个u n i x 用户输入m a k e 命令来重新编辑个目录中的大量文件时,他并不 需要知道所有编辑是在不同计算机上并行处理的,也不需要知道它使用了大量的 文件服务器。对用户而言,唯一不寻常的是系统的性能部分损失了。最困难的是 在系统的底层中实现系统对程序的透明性。 透明的概念适用于分布式系统的多个方面。其中包括:位置透明,它是指在 一个真正的分布式系统中,用户不知道硬、软件资源的位置。迁移透明是指资源 无须更名就可自由地从一地迁向另一地。如果分布式系统是复制透明的,则操作 系统可以随意地为文件和其它资源进行附加拷贝而无须用户知道;如果系统是并 发透明的,那么任一用户不会发现其他用户的存在,获得这种透明类型地机制是: 一旦某个用户开始使用一个资源时,系统就自动锁定此资源,直到该用户使用完 后再解锁。最后一个透明性是并行透明性,它使分布式系统在用户面前表现的就 像一个传统的单处理机分时系统。 2 ) 可靠性 建立分布式系统的最初目的之一就是使系统比单处理机系统更可靠。基本思 想是,如果一台机器坏了,其他机器能够接替它进行工作。另外衡量系统可靠性 的概念是可用性,它主要是指系统可用时间的比例。通过不要求大量关键部件同 时起作用的设计可以提高可用性。提高可用性的另一个方法就是采用冗余,即给 关键的硬件和软件提供备份,以便其中之一毁坏时可以用备用的部件来进行替 换。 一个高度可靠的系统必须有高可用性,但仅仅如此并不够。存储在系统中的 数据不能丢失或以任何方式混淆。如果文件冗余地存放在多个服务器上,那么所 分布式并行防火墙系统研究与设计 有备份都必须保持一致。一般来说,保存的备份越多,可用性越好,但不一致的 可能性却越大,特别是在频繁进行修改的情况下更是如此。 整体可靠性的另一个方面是安全性。必须保护文件和其他资源不被非法用户 使用。尽管在单处理器系统存在同样的问题,但是分布式系统中这个问题更为严 重。在单处理机系统中,用户通过口令进行登录,同时被确认。此后,系统知道 该用户是谁,也能够检测他的每一个访问是否合法。在分布式系统中,当一条信 息到达服务器向其发出请求时,服务器没有一个简单的方法来判断这个指令是哪 个用户发出的。在消息中没有名字和消息域可以被相信,因为发送者可以发慌。 与可靠性有关的另一方面是容错。假设一个服务器出了故障,然后很快再启 动,会发生什么情况昵? 如果服务器存有正在进行活动的重要信息,恢复它将是 非常困难的。 分布式系统能设计成可以屏蔽错误,也就是对用户隐藏错误。如果一个文件 服务或其它服务出一组紧密协同工作的服务器构成,它应该采用这样一种结构, 即用户不会意识到损失了一个或两个服务器,而只是感到一些性能上的降低。 3 ) 性能 如果建立了一个透明、灵活、可靠的分布式系统,但是它的运行速度却很慢, 那么这样的系统也没有多大的意义。特别是,如果在分布式系统中运行一个具体 的应用,它的速度不应该比在单处理机上运行同一个应用慢。 衡量性能的标准有很多,如响应时l l j 、吞吐量( 每小时完成的工作量) 、系统 的利用率和网络容量消耗程度等。此外,任何基准程序的测试结果通常取决于该 基准程序自身的性质。 性能问题与分布式系统中所必须的通信速度很慢的事实分不丌。通过l a n 发 送一个消息并得到应答大概要l 毫秒,大部分时间用在两端不可避免的协议处理 上,而不是用在线路中传送数据位。因此,为了改善性能,通常不得不尽量减少 消息的数量。这种策略的困难在于获得性能的最佳方法是让许多活动在不同处理 机中并行进行,而这样做就需要传送许多消息。 一种可能的解决方法就是注意所有计算的粒度( g r a i ns i z e ) 大小。启动一个远程 的小的计算,例如两个整数相加,几乎是不值得的。因为通信所增加的额外开销 抵消了所节省下来的c p u 周期。而另方面,在远程启动一个长时间的受计算 量限制的作业而带来的麻烦或许是值得的。通常,涉及许多小计算的作业,特别 是相互作用程度非常高的作业会因分布式系统相对较慢的通信而产生麻烦。上述 分布式并行防火墙系统研究与设计 的这种作业被称为具有细粒度( f i n e g r a i n e dp a r a l l e l i s m ) 并行性,另一方面,涉及 大计算量、低相互作用和小数据量的作业,粗粒度并行性( c o a r s e g r a i n e d p a r a l l e l i s m ) 可能会更合适些。 容错也要付出代价。通常的做法是通过使一些服务器密切合作来处理同一个 请求以获得高可靠性。例如,当一个请求进入一台服务器中时,它就立即发送该 消息的一个拷贝给它的一个同伴,以便在完成工作前如果系统崩溃,那个同伴能 够接管工作。当然,当它执行完请求后。必须发送消息给那个同伴告诉它工作已 经完成,因此,至少需要发送两次额外消息,一般情况下,这将需要额外的时间 和网络容量代价。 4 ) 可伸缩性 对于分布式系统来说,由1 0 0 台计算机组成的系统上运行的应用不一定在 1 0 0 0 台计算机组成的系统上适合。分布式系统应该能够根据需求动态地增加或 删除计算机的数量。所以,使用集中式算法并不是一个好主意。在一个大型的分 布式系统中,大量的消息必须在许多线路上进行路由选择。从理沦角度上讲,最 优的方法就是收集所有机器和通信线路上的负载信息,再运行一个通过图论算法 计算出的最优线路,然后再将这一消息立即传播到整个系统以便改进路由。 问题在于,收集和传送所有的输入、输出信息也不是一个好方法。应该避免 这样的做法:从所有地点收集信息,把这些信息送到单个计算机上处理,然后发 布结果。只有分布式算法可以使用。这些算法与集中式算法比较,其特点如下: ( 1 ) 没有一台计算机上存放着关于系统状态的全部信息; ( 2 ) 计算机只是基于本地信息做出决定: ( 3 ) 一台计算机出故障不会破坏该算法: ( 4 ) 不一定存在全局时钟; 1 2 2 4 并行程序调度技术 调度的目标是通过将任务正确分配到处理机上,并使得任务按照一定的顺序 执行,以最小化并行程序的完成时间。从广义上讲,调度问题存在着两种形式: 静态和动态。在静态调度中,调度通常是在编译时进行的,并行程序的特点在程 序执行前是知道的。在动态调度中,并行程序的特点在执行之前知道得很少,因 此调度是在程序执行时进行的。动态调度算法的目标不仅包括程序完成时问的最 小化,而且也包括调度所产生的额外开销的最小化,调度开销在运行调度器所产 分布式并行防火墙系统研究与设计 生的开销中要占相当大的部分。然而,当调度目标是最小化一个给定程序的执行 时间时,这样的调度算法就不适用了。 除了几个非常简化的情况之外,调度问题都是n p 完全问题,因此很多具有 多项式时间复杂度的启发式方法已经被提了出来。然而,这些方法在对并行程序 结构和目标并行结构的假设上有很大不同,因此需要对它们进行分类。 通常简化的假设包括相同的任务执行时间、任务间的通信时问为0 、通信无 冲突、并行处理器的完全互连和可用处理器的个数不受限制等。这些假设在实际 情况中可能由于很多原因而不能成立。 从系统的观点来说,有两类调度算法适合将任务静态地分配到分布式并行系 统中去。第一类称为b n p 调度算法,该算法适合于群机环境下网络速度足够快, 以至于可以忽略消息在通信介质上的冲突时对程序调度的影响。在这样一个环境 中,处理机被有效地完成互连,系统唯一的主要限制是处理机的个数。这样的相 对紧耦合的网络实例可以通过使用快速以太网、千兆a t m 交换机或m y r i n e t 适配 器来构建。将任务调度到这样的平台上是相对简单的,因为调度器只需要优化任 务的分配即可,因此调度往往是非常有效的。 1 2 3 分布式系统的负载分配 分布式系统提供了巨大的处理能力。然而,为了实现和充分利用这种能力, 需要良好的资源分配方案。负载分配使分布式系统的资源管理模块,它主要是合 理和透明地在处理器之间重新分配系统负载,以达到系统的综合性能最优。负载 分配大致可分为静态分配和动态分配两类。 1 2 3 1 静态负载分配 静态负载分配算法根据系统的先验知识做出决策,运行时负载不能够重新分 配。静态负载分配算法的目标是调度一个任务集合,使它们在各个目标p e 上有 最小的执行时间。静态负载分配因此又称作调度问题。总体上,处理器互连、任 务划分( 粒度决策) 和任务分配是设计调度策略的三个主要因素。通常的调度问 题即使在简单地对计算开销和通信开销做某种假设以后,依然是一个n p 完全问 题。因此,许多方法利用数学工具( 如图1 1 ,启发式规则) 来得到次优的解。 分布式并行防火墙系统研究与设计 序 通信 8 ) b ) 图1 6a ) 任务优先图,b ) 任务相互作用幽 任务 通常,用图模型表示任务和p e 结构。我们可以用任务优先图或者任务交互 作用图对任务集合建模。任务优先图又称为有向无环图( d a g ) ( 图1 - - 6 a ) 。每 个链接定义了任务间的优先关系。节点和链接上的标记表示任务执行时怕j 和任务 完成后启动后续任务所需的时间间隔。任务交互作用图( 图1 - - 6 b ) 中,链接定 义了两个任务间的相互关系。每个链接赋予一对数,表示这两个任务在同一个 p e 上时的通信开销和在不同p e 上时的通信开销。 1 2 3 2 动态负载分配 静态负载分配的限制是以一种一劳永逸的方式把任务分配给处理器,而且要 求预先知道程序状态,包含通信进程的系统会产生冲突,同时计算进程也可能发 生加速,但是多数方法忽略这两种影响。相反地,动态负载平衡很少假设关于例 如任务执行时间或者通信延迟的运行时参数的先验信息。动态负载平衡延迟在运 行时重分配进程,以达到高性能目标。动态负载分配更好地动态使用了全系统的 所有资源,提高了系统的性能。 典型的动态负载允配算法有六个策略:初始、转移、选择、收益性、位 置和信息。 1 ) 启动策略 启动策略的责任是决定谁应该激活负载平衡活动。在发送者启动的方法中, 重负载节点启动负载转移进程。在接收者启动的方法中,轻负载节点启动负载转 移进程。 2 ) 转移策略 转移策略决定一个节点是否在合适的状态参与负载转移。多数转移策略是极 限规则( t h r e s h o l dp o l i c y ) 。极限用负载单元数表示。当一个节点的工作负担 超过极限时,该节点的工作负载可以转移到网络中的其他节点上。如果节点的负 分布式并行防火墙系统研究与设计 担小于极限,转移策略就认为它是一个远程任务的接收者。 3 ) 选择策略 源处理器选择最合适转移、最能起平衡作用的任务,并发送给合适的目标处 理器。最简单的方法是选最新生成的任务,这个任务导致处理器超出限制成为任 务发送者。这些任务相对来说转移的代价不大,因为转移是非抢占式的。另一个 方法是选一个已运行任务,然而,可能结果是转移运行任务的代价抵消

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论