（计算机软件与理论专业论文）校园计算网格中间件的研究及应用.pdf

校园计算网格中间件的研究及应用 作者简介：范胜波，男，19 8 2 年1 1 月出生，2 0 0 4 年9 月师从于成都理工 大学罗省贤教授，于2 0 0 7 年7 月获硕士学位。 手葡要 近些年来，计算网格技术在国内外的迅速发展，对计算资源的共享利用产 生了巨大的推动作用。本文以建设成都理工大学校园计算网格为目标，在结合 现有技术和成功案例的基础上设计了成都理工大学校园计算网格框架，为了能 够快速地设计和实现一个具体校园计算网格平台，研究和开发了校园计算网格 中间件，并且在校园计算网格中间件上开发了成都理工大学校园计算网格应用 平台。 本文的重点研究对象是校园计算网格中间件，中间件从应用层面封装了计 算网格的操作，搭建了计算网格应用与g l o b u st o o l k i t 之间的桥梁。在校园计 算网格中间件的设计开发过程中，提出并实现了计算网格对象、计算网格对象 池、计算网格插件等一系的数据管理和业务逻辑实现的概念和规范。计算网格 对象、计算网格对象池用于数据管理，使得数据的操作具有统一的模式，此外 按不同的数据域创建不同的计算网格对象以及对象池，又可达到数据在一定域 内的独立性。计算网格插件是完成计算网格操作的引擎，按一定的功能分块， 分别实现不同的计算网格插件，不仅使得每个插件的功能相对简单和独立，而 且计算网格插件可“插拔”的特性将大大地提高适应新增和扩展计算网格业务 功能的能力。另外，在校园计算网格中间件的安全认证体系以及资源组织管理 方面，利用“计算网格社区”这一思想进行了初步的探索和实现。 关键词：计算网格；中间件；g t ；插件；对象池 r e s e a r c ha n da p p l i c a t i o no n u n i v e r s i t yco m p u t i n gg r i dm i d d l e w a r e a b s t r a c t t h ec o m p u t i n gg r i dt e c h n o l o g yi sr a p i d l yd e v e l o p i n gi nd o m e s t i ca n df o r e i g n ， a n di so fah u g ei m p e t u sf u n c t i o nf o rt h ec o m p u t i n gr e s o u r c e ss h a r i n g l h i sp a p e r t a k e sb u i l d i n gc h e n g d uu n i v e r s i t yo ft e c h n o l o g y ( c d u t ) u n i v e r s i t yc o m p u t i n g g r i d ( u c g r i d ) a sag o a l f i r s t ，b a s e do nt h ec u r r e n tc o m p u t i n gg r i dt e c h n o l o g ya n d t h es u c c e s sc a s er e s e a r c h ，d e s i g nt h ec d u tu n i v e r s i t yc o m p u t i n gg r i df r a m e w o r k s e c o n d i no r d e rt oa c h i e v et h eg o a lo ft h ef a s td e s i g na n dd e v e l o p sac o n c r e t e u n i v e r s i t yc o m p u t i n gg r i dp l a t f o r m ，d e s i g na n dd e v e l o pam i d d l e w a r eo fu n i v e r s i t y c o m p u t i n gg r i d f i n a l l yd e v e l o pt h ec d u t u c g r i da p p l i c a t i o np l a t f o r mo nt h e m i d d l e w a r eo fu c g r i d i nt h i sp a p e r ，t h ek e yr e s e a r c ho b j e c ti st h em i d d l e w a r eo fu c g r i dw h i c hh a s e n c a p s u l a t e du c g r i do p e r a t i o n sa n db u i l tab r i d g eb e t w e e nt h eu c g r i da p p l i c a t i o n a n dg 1 0 b u st 0 0 1 k i t i nt h eu c g r i dm i d d l e w a r ed e s i g np r o c e s s ，t h eu c g r i do b je c t ， t h eu c g r i do b je c tp o o l ，t h eu c g r i dp l u g - i n a n ds oo nh a sb ep r o p o s e da n d i m p l e m e n t e d t h e u c g r i do b j e c t ，t h eu c g r i do b j e c tp o o l u s e si nt h ed a t a m a n a g e m e n t ，e n a b l e s t h ed a t a t h e o p e r a t i o n t oh a v et h es a m ep a t t e r n ， s i m u l t a n e o u s l yc r e a t et h ed i f f e r e n tu c g r i do b je c ta n dp o o lf o u n dt h ed i f f e r e n td a t a f i e l ds ot h a tt h eu c g r i dd a t ah a st h el o c a l i z a t i o ni n d e p e n d e n c e t h eu c g r i d p l u g - i ni st h ee n g i n eo ft h e u c o r i do p e r a t i o n s e p a r a t e l yr e a l i z e st h ed i f f e r e n t u c g r i dp l u g i na c c o r d i n gt ot h ec e r t a i nf u n c t i o np i e c e m e a l t h er e s u l ti s n o to n l y t h a tm a k ee a c hp l u g i nf u n c t i o nt ob ei n d e p e n d e n t ，b u ta l s ot h a tt h eu c g r i dp l u g 。i n ”i n s e r ta n dd u l l ，c h a r a c t e r i s t i ce n h a n c e st h ea b i l i t yt oi n c r e a s ea n de x p a n du c g r i d f u n c t i o n m o r e o v e r ，a st h ea s p e c ti nt h eu n i v e r s i t yg r i d m i d d l e w a r es e c u r i t y a u t h e n t i c a t i o ns y s t e ma sw e l la s t h er e s o u r c e so r g a n i z a t i o n ，“c o m p u t i n gg r i d c o m m u n i t v ”t h e o r yh a sc a r r i e do nt h ep r e l i m i n a r ye x p l o r a t i o na n d t h er e a l i z a t i o n k e yw o r d s ：c o m p u t i n gg r i d ；m i d d l e w a r e ；g t ；p l u g 。i n ；o b j e c tp o o l 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特另t l d i ：i 以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得盛酆理王盔堂或其他教 育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何 贡献均已在论文中作了明确的说明并表示谢意。 学位论文作者导师签名： 学位论文作者签名： 年j 月纩日 学位论文版权使用授权书 本学位论文作者完全了解盛都堡王太堂有关保留、使用学位论文的规定， 有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和 借阅。本人授权盛型堡王太堂可以将学位论文的全部或部分内容编入有关数 据库进行检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名： 年j -月汀日 第1 章前言 第1 章前言 网格是从电力网格中借鉴过来的一个概念，目的是希望计算力和计算资源 能够如电力一样，“打开电源开关就可以使用”，不用去关心是由谁提供以及如 何提供的这些服务。计算网格是专注于计算，建立一个可以提供无限计算能力 的基础设施平台，提供抽象的计算能力，在使用这种计算能力的时候，用户不 关心具体的硬件资源。对于用户来说，整个网格就相当于一台“超级”计算机， 无论是什么样的计算需求都能提供。计算网格的核心思想是计算资源的共享与 协作【”。 1 1 选题依据 在计算网格中，要实现计算资源的共享，就要知道在整个计算网格中有哪 些可用的资源及资源的当前状况，如计算的能力( c p u 的数量，内存的大小) 、 当前可用的磁盘空间的大小、当前计算资源还可以接受的作业数量、计算资源 节点上的软件环境以及计算资源节点的安全控制机制等。有了这些信息才能给 计算网格用户提供一个透明的计算环境，才能让计算网格用户使用网格中的计 算能力犹如使用“电力网”中的电力一样方便。 在计算网格中，要实现计算资源的协作，关键是要解决各计算资源之间的 软硬件的异构性和各个计算资源节点之间的通信控制，使各个计算资源节点能 协同一致地工作，同时还要能对各个计算资源节点的状态进行实时的监控，以 便当协同计算有错误发生时能及时地发现和处理。 网格把现有的资源集成起来，给网格用户或上层应用提供访问网格中各种 资源的统一接口，提供共享资源的机制。网格提供分时共享、资源预约、资源 组合、资源授权、数据副本等技术，有力地支持广域范围内的资源分时共享。 在原来的计算平台上，人们所能使用的资源只是自己拥有的资源或建立了特殊 关系的群体所拥有的资源，无论资源的种类还是资源的数量上都是有限的。在 网格上，任何用户只要遵守网格规范，就可以使用网格上的任何资源。网格可 以为用户提供比以往任何系统下所能提供的更多的资源。 计算网格的意义在于提供无限可靠相互协作的计算能力，让网格用户感觉 到自己有一台超级计算机，可以利用一切接入网格的资源，无论这些资源在哪 里，使用这些资源就如同使用自己的计算机上的资源一样。 高校是新技术的诞生地，为了最大限度地充分利用现在资源，提高各种计 成都理工大学硕士学位论文 算资源的利用率，同时减轻非计算机专业用户使用高性能计算机的难度，由位 于我校的“分布式网络异构机群并行计算四川省重点实验室( 筹建) ”( 简称 d n c p c 实验室) 提出并建设成都理工大学校园计算网格( u c g r i d ：u n i v e r s i t y c o m p u t eg r i d ) 的解决方案，以便为科研和教学提供充分的资源共享和高性能 计算服务。经过几年的努力，校园计算网格模型及解决方案已经得到了初步的 验证，并在应用g l o b u s t o o l k i t2 ( 简称g t 2 ) 到g l o b u st o o l k i t4 ( 简称g t 4 ) 的研究过程中不断完善这一方案，预计再经过一二年的努力整个校园计算网格 将能真正投入使用，具有了计算网格的基本功能，达到了整合计算资源的基本 目的。到时无论我们的网格用户在哪里，只要有i n t e r n e t 的地方都有可以通过 网格平台获得计算的资源，同时我们也相信整个校园计算网格内的资源会随着 校园计算网格平台的应用快速增加，最终真正地做到计算资源的共享与协作， 让校园计算网格用户都“拥有一台超级计算能力的计算机” 2 1 。 校园计算网格中间件是整个校园计算网格建设中的关键技术，经过一系列 的技术分析、研究和验证并在前期的研究和经验积累的基础上，抽象出校园计 算网格应提供的服务并做出相应的实现，形成了校园计算网格中间件，可作为 校园计算网格的基础设施，以便进行校园计算网格的后续开发。 校园计算网格中间件支持快速地进行各种校园计算网格应用的二次开发， 同时还使得整个网格平台的结构更加清晰，各个层次结构之间的耦合度更小， 提高了校园计算网格的可扩展性和可维护性。 1 2 论文研究内容及创新点 计算网格对计算资源的共享和提高计算资源的利用有着广泛的前景和应 用，但目前还没有一个完全发挥计算网格优越性的应用实例作为计算网格的建 设的标准，这正是本文研究的重点和突破点。 1 2 1 论文研究内容 本文研究的主要内容是如何建立一个更加完善的网格平台，使之具有良好 的框架体系结构、完整计算网格应用流程、易用易扩展的开放性、简单实用的 计算网格门户，具体研究内容如下： 1 ) 研究校园计算网格框架体系结构。设计和开发校园计算网格框架体系，除 了满足计算网格的多种基础功能应用外，还要具有良好的可扩展性，可二次开 发性： 2 ) g l o b u s t o o l k i t 应用开发技术。深入对g t 应用开发技术的研究，完成通过 g t 实现资源管理、作业管理、安全认证管理的编程开发。 3 1 集群管理软件与g t 4 的整合。研究如何将集群节点接入到计算网格中，集 2 第1 章前言 群管理软件与g t 4 的结合以及互操作。 4 ) 校园计算网格中间件。在g t 的基础上开发中间件，对计算网格的框架进行 实现，中间件向下操作计算网格的基础设施，向上为计算网格应用提供服务， 完成用户对计算网格的操作。在中间件中包括如下三项研究内容： ( 1 ) 容器技术：提供中间件独立运行的基本环境，为外部调用者提供多 种接口【”。 ( 2 ) 插件技术：设计插件的规范，设计开发容器中特定的空间用于插件 的管理与控制。 ( 3 ) 对象池技术：组织和管理中间件的多种对象实体，使之具有自动持 久化到数据库的能力，为中间件的各个模块提供对象容纳的服务。 1 2 2 论文创新点 本文对计算网格的框架结构、g t 4 原理以及应用开发、计算网格中间件、 计算网格门户应用的开发模式进行深入的研究。具体技术如下： ( 1 ) 设计并实现计算网格的通用框架体系结构。此框架体系结构便于整合单机 计算节结和集群计算节点，完成计算资源节点的发现和管理，用户作业的创建、 调度、执行； ( 2 ) 设计并实现独立于计算网格门户的计算网格中间件，可以快速开发各种计 算网格门户以及其它网格应用。 ( 3 ) 针对计算网格中间件的可扩展性，设计并实现了中间件“插件”，可以方 便快速地对计算网格中间件增减多种插件，以达到快速修改计算网格中间件功 能的目的。 ( 4 ) 在中问件的开发模式方面提出“计算网格对象”以及“计算网格对象池” 概念，并在开发的过程中得以实现，使得基于中间件的二次的开发更加规范和 简单。 ( 5 ) 对“网格社区”的理念有一定的研究，在计算网格中间件的基础上进行二 次开发是对这一理念作出的部分实现，同时也检验了计算网格中间件的可扩展 性。中间件在用户管理资源调度方面实现“网格社区”的理念。 第2 章计算网格技术 第2 章计算网格技术 2 1 计算网格 网络是把地理上分散的计算机系统通过网络设备连接在一起，相互独立的 计算机系统之间在遵循一定的通信协议的基础上实现资源共享。现代网络大致 经历了三次发展过程，从基于简单设备的相连，到基于w e b 的资源共享，再 到更大范围内实现资源的共享( 即网格技术) 。通过网格这种基础设施，用户不 需要了解网格环境的具体资源细节，就可以在网格环境中使用各种资源提供的 计算能力，完成相关的计算任务。 网格的目标是资源的共享与协作，要让加入到网格中的用户能够容易地访 问网格资源。在这种网格平台上，用户不需要使用远程登录( t e l n e t ) 、文件传 输协议( f t p ) 等工具就可以使用远程节点计算资源。现在这些计算资源主要 是指一些p c 的资源节点、计算机集群环境、高性能计算机节点和各种高性能 的服务器。 用户在向网格提交作业或请求的时候，由网格来分配资源并控制其作业运 行和资源使用，包括把这些作业分配到哪些计算机上运行，作业提交之后，状 态如何收集，结果返回到哪台计算机，用户如何获得返回结果等等。这些工作 对用户来说是透明的，用户使用网格中的各种资源时，不需要关心是分布在哪 个地域的哪台计算机为自己提供了服务。总之，网格的目的就是不分地理位置 的远近、不管用户提交作业的类型和复杂程度，为用户提供一个统一且简单的 共享网格资源的接口。随着网格技术和w e b 服务的结合，网格技术具有以下的 特点： ( 1 ) 以成熟的网络技术、计算机技术、通信技术、电器技术为基础； ( 2 ) 资源接入简单，不管是超级计算机、集群系统还是单个的p c 计算池 都可以很容易地被接入到网格中，使得网格的扩展性很强； ( 3 ) 网格为用户提供一个比它现有资源更强的计算力，但资源层的细节对 用户透明； ( 4 ) 接合了最新的w e bs e r v i c e 技术，提出著实现w s r f 体系结构。 根据网格客体对象的不同，可以把网格分为数据网格、计算网格和服务网 格。数据网格中共享的基本单位是数据，主要解决数据的共享问题；计算网格 中共享的基本单位是计算资源，计算网格为用户提供共享资源的良好接口和机 制；服务网格中共享的对象是服务，以服务的形式提供共享的手段。校园计算 成都理工大学硕士学位论文 网格以给用户提供计算资源的计算力为目的，网格用户可利用这些计算资源为 自己解决大型计算任务问题f l , l s 】。 2 2 网格技术发展 网格一词出现于2 0 世纪9 0 年代中期，1 9 9 5 年计算机研究领域提出网格的 概念。网格的相关研究大致可以分为如下几个阶段： ( 1 ) 萌芽阶段：2 0 世纪9 0 年代早期，主要有了一些元计算实验以及千 兆网实验床。 ( 2 ) 早期阶段：2 0 世纪9 0 年代中期到晚期，网格研究出现热潮，开发了 大量的网格计算项目，如i - w a y 项目，还包括一些学术性的软件项目，如 g l o b u s ，l e g i o n 等。 ( 3 ) 发展阶段：2 0 0 2 年以后，工业界( 如i b m ，s u n 等) 对网格计算的兴 趣日益增长，出现了大量的网格开发社团和网格项目，主要基础设施得到开发 和使用，形成了具有相当规模和世界影响的g g f 组织。 到目前为止，国内外4 0 0 多个组织从事网格技术方面的研究，其中包括军 事机构、科学研究机构、大学以及商业组织。 2 2 1 国外研究现状 目前国外已有很多较为成熟的网格项目，比如g l o b u s 项目，l e g i o n ，c o n d o r ， c o n d o r g ，n i m r o d ，u n i c o r e 以及n s f 。而美国能源部的d o es c i e n c eg r i d ， 欧盟的e u r o g r i d 计划、d a t ag r i d 计划，t e r a g r i d ，n a s a 等都是较为成熟 的、建立并使用基于网格的方案解决计算、数据和网络需求的组织。 g l o b u s 项目是一个多机构的研究工作，它旨在为计算网格创建基本的基础 设施以及高级服务。它现在已经发展成为在不同种类的虚拟组织间进行资源共 享( 硬件、软件以及应用等) 的基础设施。 l e g i o n 是弗吉尼亚大学的一个中间件项目计划，是为了网格应用而设计的 基于对象的元系统软件。该项目的目标是通过为处理器、数据系统、文件系统 等提供标准的对象表示，从而推动分布式系统软件的原则性设计。 c o n d o r 是一种利用计算作业的空闲工作站的工具。在作业大体上不需要进 行相互通信的情况下，c o n d o r 非常适合于参数研究和大吞吐量的计算，而 c o n d o r - g 作为一个派生的软件系统，可以为c o n d o r 和g l o b u s 起到有益的协调 作用，使其将绝大部份的注意力放在网格应用的作业管理服务上。 d o es c i e n c eg r i d 建立在网格计算中间件和工具的基础之上，旨在提供一 个高级的分布式计算基础设施，从而获得在科学计算方面的可伸缩性。这样将 能从根本上改变科学计算的应用，使不同资源的大规模系统的构建与像如今的 6 第2 章计算网格技术 桌面系统一样方便地使用。 d a t a g r i d 是一个由欧盟提供资助的计划，旨在访问隶属于不同机构的地域 上分布的计算能力和存储工具。主要为不同学科的科学实验海量数据处理提供 所需的资源 1 , 1 6 i 。 美国是最早从事网格技术研究的国家，目前也是网格研究走在世界最前列 的国家。现在，网格的研究已经从美国和欧洲推广到了世界各大洲，各个国家 和地区都投入了大量的资金进行网格技术研究和网格基础设施建设。美国军方 目前正在实施“全球信息网格”计划，预计20 20 年完成，作为这个计划的 一部分，美国海军陆战队已启动了一个将耗资160 亿美元、历时8 年的项目， 包括系统的研制、建设、维护和升级等多方面的工作。 2 2 2 国内研究现状 在国内，网格计算正处于快速发展时期，主要有中科院牵头的“国家高性 能计算环境( n a t i o n a lh i g hp e r f o r m a n c ec o m p u t i n ge n v i r o n m e n t ，n h p c e l ”项目， n h p c e 的长期目标是提高计算网格系统的性能、可扩展性及可用性。目前包括 北京、长沙、成都、合肥、上海、西安等几个试验节点。另一个重要的项目是 由清华大学牵头、由教育部支持的重点项目“先进计算基础设施北京上海试点 工程”，其目的是建立一个主要为教育系统各单位提供资源共享的科研、教育、 培训等高性能计算基础设施，实现跨学科、跨地域合作与人才培养。 2 0 0 2 年国内启动的8 6 3 信息领域高性能计算机及其核心软件专项就是一个 网格计算项目，它以“需求牵引、技术跨越、聚焦网格”为指导思想，以实现 高性能计算机及其核心软件技术跨越为目标；研制能有效支持科学工程计算、 新一代因特网信息服务和数据库应用，具有资源共享、协同工作能力的国家高 性能计算环境( 亦称网格) ；将高性能计算服务送到科教、企业、政府等各方面 用户的桌面上，推动我国网格应用及其产业的发展，提高我国的综合国力和国 际竞争能力。 目前国内在计算网格方面作了大量的研究并取得了初步的成果。目前多个 网格研究项目正在进行中，如“中国网格”、“上海教育网格( 多所上海大学参 加) ”、“仿真网格( 航天二院、清华大学) ”、“织女星网格( 中科院计算所) ” 等。 在校园计算网格方面也有一定的迸步，如河海大学计算网格、华中科大计 算网格等也相继在一定范围内投入应用，取得相当的成果，这两个计算网格都 是以g t 4 为平台，同时结合集群管理软件，为网格用户提供了w e b 的网格门 户。 7 成都理工大学硕士学位论文 2 3g l o b u st o o l k i t 简介 g l o b u st o o l k i t ( 简称“g t ”) 是目前国际上最有影响的与网格计算相关的 项目之一。该项目发起于2 0 世纪9 0 年代中期，其最初的目的是希望把美国境 内的各个高性能计算中心通过高性能网络连接起来，方便美国的大学和研究机 构使用，提高高性能计算机的使用效率。随着对g l o b u s 项目的深入研究，针对 它的应用目标也进一步扩展，希望通过g l o b u s 项目可以方便地对地理上分布的 研究人员建立虚拟组织，进行跨学科的虚拟合作。目前，g l o b u s 项目把在商业 计算领域中w e bs e r v i c e 技术融合在一起，希望不仅对科学计算领域，还要对 各种商业应用提供广泛的、基础性的网格环境支持，实现更方便的信息共享和 互操作，从而对商业模式、人员工作方式和生活方式产生深远的影响f 1 4 】。 g l o b u s 开发出能在多种平台上运行的网格计算工具包( g l o b u st o o l k i t ) ， 能够用来帮助规划和组建大型的网格试验和应用平台，开发适合大型网格系统 运行的大型应用平台。g t 软件工具包是g l o b u s 最重要的实践成果，从1 9 9 8 年推出1 0 版，2 0 0 2 年推出2 0 版，2 0 0 3 年初又推出3 0 版，到目前基于开放 网格服务标准的最新版本g t 4 0 3 ，g t 工具包已经取得了巨大的进步，虽然目 前g g f 的工作组仍然在努力并为这些服务类型定义标准，但是在这些标准出台 之前，g t 4 已经是现在事实上的网格标准。 程序设计者通过g t 就可以开发基于网格的应用程序。在这个工具包中包 括了许多构建网格应用程序的高层服务，这些服务满足了o g s a 提出的许多标 准。g t 提供的服务包括资源监控和发现服务，用于作业提交的执行服务，网 格安全服务和数据管理服务。 g t 4 中的大多数服务是在w s r f 上实现的( 在g t 工具包还有一些服务称 作n o n w s 组件，它们不是在w s r f 基础上实现的) ，换句话说g t 4 是w s r f 规范的一个完全实现，虽然w s r f 实现部分在g t 4 中的所占比重不大，但却是 工具包的一个非常重要的组成部分【1 5 】。 g t 4 由五大组件构成，分别是安全组件、数据管理组件、执行管理组件、 信息服务组件和公共运行期组件。五大组件的基本功能如下【2 】： 1 ) 公共运行期组件提供了一组w s 和n o n ，w s 需要的基础库和工具； 2 ) 安全组件基于网格安全的基础设施( g s i ) ，能够确保通信的安全性； 3 ) 数据管理组件可以管理大量的数据集，能够提供分布式数据的定位、传输和 管理。g t 4 中基本的数据管理工具有：用于高性能和可靠数据传输的g r i d f t p ， 用于管理多传输的r f t ( r e l i a b l ef i l et r a n s f e rs e r v i c e ) ，以及为副本文件维持位 置信息的r l s ( r e p l i c al o c a t i o ns e r v i c e ) 。 4 ) 信息服务组件中的m d s ( m o n i t o r i n ga n d d i s c o v e r ys e r v i c e s ) 用于监控和发 8 第2 章计算网格技术 现网格中的服务和资源，m d s 服务提供查询和订阅接口来描述资源。g t 4 中的 m d s 包括w sm d s 和p r e w sm d s 。 w sm d s 是m d s 的w s r f 实现，它包括以下一些服务： ( 1 ) 索引服务( i n d e xs e r v i c e ) ，索引服务从网格资源收集监控和发现信 息，并且在一个单独的位置发布这些信息。 ( 2 ) 触发器服务( t r i g g e rs e r v i c e ) ，在网格上的资源上收集数据，如果和 管理员定义的规则相匹配，该服务能够执行多种操作。 ( 3 ) 集合框架( a g g r e g a t o rf r a m e w o r k ) ，w sm d s 服务建立在这个软件 框架中。 w e b m d s 能够让终端用户不需要安装额外的软件就能通过标准的w e b 浏 览器查看监控信息。 p r e w sm d s 是在g t 2 中被引入的，在g t 4 中为了向下兼容于是保留了 m d s 2 ，但是现在已不提倡使用该组件，估计在g t 的后续版本会逐渐被取消。 5 ) 执行管理组件负责用户提交作业的监控、管理、调度和执行。 尽管g t 4 实现了w e b 服务，但工具包也包含了一些没有实现w e b 服务的 组件，如g r i d f t p 组件使用的是非w e b 服务的协议1 2 1 。 9 第3 章校园网格框架设计 第3 章校园计算网格框架设计 3 1 校园计算网格总体设计 建立校园计算网格旨在整合计算资源，达到计算资源的有序充分的共享和 各种计算资源之间的协同工作的目标。另一方面，当多个资源被整合起来后， 网格用户还要能方便简单地使用这些资源。 3 1 1 校园计算网格拓扑结构 本文在充分研究g t 4 这一网格基础设施的基础上，提出了校园计算网格框 架体系结构。如下图3 1 所示为校园计算网格的拓扑图1 8 a 5 。 图3 - 1 校园计算网格拓扑图 如图3 1 所示校园计算网格的中枢为计算网格中心服务器，负责整个网格 的运行。该服务向上处理来自网格门户的各种网格操作请求，向下管理各种网 格资源。 数据库服务器作为计算网格中心服务器的信息存储中心，只与计算网格中 成都理工大学硕七学位论文 心服务器通信，用于网格平台运行的数据保存。 网格门户是网格平台与网格用户的交互接口，在此框架中网格门户设计为 w e b 应用。网格用户通过网格门户进行各种计算网格操作，网格门户负责收集 用户的操作并提交到计算网格中心服务器，当操作完成后网格门户将取回操作 的结果呈现给网格用户。 计算网格节点包括单机节点和集群节点通过i n t e r n e t 接入到计算网格，这 样一来无论计算网格节点的物理位置在何处，只要有i n t e m e t 的地方就具备了 接入计算网格的条件，而网格用户在使用这些计算资源的时候物理位置是透明 的，在忽略网络性能的条件下是感受不到这种差异的。 i n t e r n e t 在是计算网格联系的纽带，它联结了计算网格中心服务器与计算网 格节点、网格用户与网格门户，一旦多条这种纽带建立后在计算网格中的就形 成了一张“网”，而这张“网”对用户来说就是无限的计算能力。 3 1 2 校园计算网格层次结构 校园计算网格以g t 4 、数据库软件、集群管理软件为基础软件设施来构建 网格，同时在g t 4 之上又将分离出来的计算网格的各种操作以及各种操作所依 赖的环境设计成为计算网格中间件，最后在中间件的基础上进行相应的网格应 用开发。图3 - 2 给出了校园计算网格层次结构图1 2 1 , 2 2 , 2 s 1 。 图3 - 2 校园计算网格层次结构图 如上图所示，校园计算网格由三个层次组成：计算网格基础设施层、校园计 算网格中间件层、校园计算网格门户层。 第3 章校嗣网格框架设计 1 1 计算网格基础设施层：通过g t 4 以及集群管理软件( s g e 、p b s 等) 将分 散的计算机连接起构成逻辑上的计算网格1 2 , 3 1 。同时加入了m y s q l 数据库作为 计算网格的存储中心。在本层上存在两种节点：计算节点、网格节点，所谓计 算点指的是一台物理计算机具有一定的计算能力：而网格节点指的是此节点上 安装了g t 4 ，在网格上是一个可见的最小资源节点。 ( 1 ) 一般情况下一个集群上只有一个网格节点，多个计算节点，网格节 点通常是安装在集群的主控机上，这个网格节点对集群下面的每个节点具 有控制的能力。网格中的作业只能调度到网格节点上，然后由网格节点全 权控制作业，由网格节点决定如何将作业分配到不同的计算节点上执行， 并负责从计算节点上回收执行的结果。 ( 2 ) 对单机接入网格来说，该单机同时担任网格节点和计算节点的角色。 2 ) 校园计算网格中间件层：向上为网格门户提供各种网格操作服务，向下操 纵计算网格基础设施层完成上层所请求的网格操作。中间件层所完成工作主要 有如下几个方面： ( 1 ) 中间件自身系统管理 ( 2 ) 计算网格节点( 计算资源) 管理 ( 3 ) 计算作业管理 ( 4 ) 网格用户管理 3 1 校园计算网格门户层：在校园计算网格中间件层的基础上建立面向用网格 用户的接口，本质上是一个w e b 应用，负责完成网格用户与计算网格的交互。 3 2 校园计算网格工作原理 在“校园计算网格总体设计”一节中从计算网格总体的拓扑结构和层次展 现了“成都理工大学校园计算网格”的总体设计方案。在分散的计算资源上安 装g t 4 等计算网格基础设施软件，分散的计算资源就成为了计算网格节点，成 为了计算网格中的一部分。以下将从理论上阐述校园计算网格中具有无限计算 能力的“网”是如何互联起来成为用户的透明计算资源，用户针对计算网格的 操作是如何在计算网格上面得以实现。 3 2 1 计算网格的构成 接入计算网格的网格节点应当透明地由用户使用，计算网格的作用就是要 屏蔽各节点的之间的通信和互操作。从计算网格的设计和开发来看，网格节点 之间的互联从三方面来实现1 ”1 1 1 。 1 1 节点资源信息互联：主要指的是每个节点之间相互知道对方的存在以及如 何定位对方。在本计算网格框架中是通过g t 4 中的m o n i t o r i n ga n dd i s c o v e r y 成都理工大学硕士学位论文 s y s t e m ( m d s ) 来实现的。m d s 4 中利用了w s r f 框架，包含两种服务：i n d e x s e r v i c e 和t r i g g e rs e r v i c e 分别实现对节点资源的查询订阅和收集每个节点资源 信息，m d s 4 还包含一个a g g r e g a t o rf r a m e w o r k 作为以上两种服务的容器，只 要网格节上的m d s 运行起来，多个网格节点在节点资源信息方面就形成互联， 对于网格用户来说可见的是具有多个计算资源的“网”1 6 , 2 3 。 2 ) 安全认证体系之问互联：主要指的是如何让网格用户可以操作多个节点。 在本计算网格框架中主要利用g t 4 中的g r i ds e c u r i t yi n f r a s t r u c t u r e ( g s i ) 来实 现。g s i 以公钥密码体系为基础，网格节点上的用户用x 5 0 9 证书作为身份的 认证，当用户要操作某个节点时，该节点要求网格用户给出证书，节点将证书 交与c a 中心检验以便确认身份。所有的网格用户在同一c a 中心取得证书， 同时所有节点也由同一c a 中心完成身份认证。在这种机制下，计算网格的每 个网格节点以及其上的用户就不再孤立，而是通过c a 中心互联起来。 3 ) 网格作业执行之间互联：主要指的是网格用户只需要请求计算网格执行作 业，而不用向具体的某个网格节点请求执行作业。作业的执行主要有两方面的 操作：执行作业以及作业结果相关数据的传输；发出命令让计算节点执行作业。 在本框架中使用了g t 4 中的w s g r a m 来实现这方面的操作。网格用户向计 算网格提交作业后由w s g r a m 来接管，w s g r a m 利用r e l i a b l ef i l e t r a n s f e r ( r f t ) s e r v i c e 向作业执行的目标节点传输作业相关数据，然后向目标节点发出 执行作业命令。在w s g r a m 帮助完成网格作业执行之间的互联，网格用户只 用关心如何把作业提交给网格平台即可1 “1 。 3 2 2 计算网格操作的执行顺序 1 4 囤囤囤回囤 ：网格操作请求一 转发操作请求 目用相应的g t 操作 执行操作 执彳亍结果 结果 结果 结果 图3 3 计算网格操作执行顺序图 第3 章校同网格框絮设计 如3 1 2 节所述校园计算网格平台是一个三层的结构，网格用户的操作会 按如图3 3 的顺序执行c ”。 3 3 网格节点接入 计算网格的最理想的目标是提供无穷无尽的计算资源，在不考虑其它因素 的情况下，这种无穷无尽的计算资源是通过在计算网格中加入无数的网格节点 来实现的。因此能否方便快速地加入一个网格节点到计算网格中，成为衡量计 算网格体系结构性能的一个指标。 校园计算网格是以一个基于g t 4 计算网格中问件为核心的体系结构，计算 网格用户对网格的绝大多数操作都封装在计算网格中间件中。网格节点的接入 处于计算网格基础设施的下层，增加一个网格节点时，只用在网格节点上安装 g t 4 以及完成g t 4 与其它网格节点上的g t 4 之间的互联，就可以完成一个新 网格节点的接入。具体的做法是只用配置g t 4 中的m d s 、与其它节点相同一 c a 中心并根据网格节点的类型配置w sg r a m 。 1 1m d s 配置 设置m d s 的上流服务器为网格中心服务器m d s 默认的i n d e xs e r v i c e 即 可。 如网格中心服务器的地址为g r i d 0 8 d n c p c t o m ，修改当前网格节点上的 $ g l o b u s l o c a t i o n e t c g l o b u s _ w s r f m d s i n d e x h i e r a r c h y x m l 文件的中 标签内容为： 2 ) 使用同一c a 中心 设置节点g s i 时，安装与网格中心服务服务器安装s i m p l e c a 产生的g s i 安装文件即可。 3 ) 根据网格节点配置w sg r a m ( 1 ) 集群节点，对于集群节点视集群管理软件不同需要安装不同集群管 理软件与g t 4 适配器。集群管理软件为s g e ，安装g r i d w i s et e c h n o l o g i e s ( h t t p ：w w w g r i d w i s e t e e h e o m s g e g t g p t ) 提供的s g e _ g t 适配器；集群 管理软件为p b s 时，g t 4 提供的相应的适配器。 ( 2 ) 单机节点，不用额外地作其它配置。 1 5 成都理工大学硕士学位论文 3 4 框架优势 经过对g t 4 的深入研究和反复的检验，成都理工大学校园计算网格除了完 成计算网格所需的功能外有如下几点优势： ( 1 ) 三层结构框架，层次清晰、层与层与之间的藕合度比较低、独立性好，具 有良好的可扩展性； ( 2 ) 可以快速地接入新的网格节点，新节点只需与计算网格基础设施层联结， 简单方便。 ( 3 ) 分离出计算网格中间件，完成绝大部分计算网格相关操作，在中间件的基 础上可以快速地开发网格应用。 ( 4 ) 网格门户操作简单，对网格用户的专业技术水平要求不高，使用门坎低； ( 5 ) 中间件支持二次开发，容易扩展整个平台的功能。 1 6 第4 章校园计算网格中闯件的设计与实现 第4 章校园计算网格中间件的设计与实现 4 1 计算网格中间件功能需求 计算网格中间件是整个校园计算网格的核心。从业务方面看，主要功能是 负责校园计算网格节点管理、用户安全认证管理、计算网格作业管理以及与网 格门户的接口。从系统方面看，中间件应该可以独立运行、自主管理、可二次 开发、可动态扩展。 4 1 1 计算网格节点管理 计算网格节点是计算网格中计算资源的最小单位，是计算网格的扩展的关 键。计算网格的核心是计算资源的共享，对计算网格节点的管理是计算网格必 须的关键任务。对计算网格节点的管理主要有如下几个方面的任务： 1 ) 计算网格节点注册、动态发现。 当有新的计算网格节点上安装了g t 4 并作了相应的配置后，该网格节点就 具备成为网格节点的条件，计算网格中间件必须动态地发现新的网格节点，取 得网格节点的信息( 包括节点i p 地址、g r a mi 厂u r l 地址) 。在取得新的 网格节点信息后，中间件还提供用户对这些节点的手动管理功能，以便完善新 的网格节点信息使该节点成为可用的网格节点1 8 】。 2 ) 计算网格节点状态的动态更新。 计算网格节点是一种动态资源，节点的可用性是无法预先知道的，计算网 格中间件要具备动态检测计算网格节点可用性的能力，并及时报告以便中间件 在作业执行时选择可用节点。 3 ) 计算网格节点人为可控。 计算网格中的网格节点是属于提供者的资源，节点的所有者有权控制节点 可用状态。同时出于系统管理的目的，计算网格的管理员也应该可以控制节点 的可用状态。 4 1 计算网格节点安全访问控制。 计算网格是一个开放的平台，但是出于安全和有偿使用计算网格节点的目 的，网格节点不能毫无限制的使用。计算网格节点管理要集成节点访问权限的 控制，在此安全访问控制中要集成“网格社区”的访问控制，对于某个网格节 点，要做到多个级别( 网格节点所有者、网格节点所在虚拟组织用户、网格节 点所在虚拟组织的子父组织用户、网格节点所在虚拟组织外的其它组织用户) 1 7 成都理工大学硕十学位论文 的安全访问控制。 5 ) 计算网格所有节点信息管理。 计算网格节点作为计算网格的核心资源，中间件应提供对这些资源信息的 维护管理，不仅要全面地呈现计算网格所