（教育技术学专业论文）跨平台三维集群渲染系统web+portal的设计与实现.pdf

硕士学位论文 m a s t e r st h e s i s 中文摘要 在计算机三维动画技术高速发展的同时，渲染的速度瓶颈严重制约了三维动画 产业的发展。随着数字电影、h d t v 标准的普及，尤其是画幅和分辨率的增大，显 著增加了三维动画渲染的时间复杂度和对物理设备的性能要求。为解决此问题，国 内外纷纷建立了渲染服务公共技术平台或专业渲染服务公司，这些集群渲染系统大 多采用单一的操作系统，基于c s 的工作模式，工作服务模式单一，利用率低下。 为了提高集群渲染系统的使用效率，优化渲染业务服务模式，大多建立了集群渲染 系统和用户交互的网站。但是对于多数用户来说，需要把场景文件和数据文件上传 到渲染平台指定的f t p 服务器上，有渲染平台的技术人员执行渲染，客户如果要亲 自渲染就需要驻留在渲染平台，给用户带来了诸多不便、严重影响了集群渲染系统 的使用效率和服务功能的发挥。 本文在m u s t e r 集群渲染管理软件基础上，利用不同操作系统的优势，采用域控 制器进行整个渲染平台的用户管理和文件共享管理，设计与实现了跨平台集群渲 染，实现了不同平台之间的优化组合、互联互通、资源共享。通过为m u s t e r 集群渲 染管理软件配置m y s q l 后台数据库，灵活配置m u s t e r 集群渲染管理系统的用户权 限，实现了对跨平台集群渲染系统的有效管理。最后本文使用j s p 动态网页技术开 发了一个跨平台集群渲染系统w e bp o r t a l ，实现用户的注册、不同类型用户的权限 管理、场景文件和数据文件的上传，此外用户还可以自主提交渲染作业、设置渲染 参数、调度渲染作业、查看渲染作业的性能报告和下载渲染输出的图片序列，通过 设置场景文件的相对路径解决了场景文件路径依赖问题，实现了基于b s 模式的远 程自适应渲染。 关键词：集群渲染；m u s t e r ；w e bp o r t a l ；b s a b s t r a c t w h i l et h ec o m p u t e r3 da n i m a t i o nt e c h n o l o g yi sd e v e l o p i n ga tah i g hs p e e d ，t h e r e n d e r i n gs p e e dr e s t r i c t i o nh a sb e e ns e r i o u s l yh a m p e r i n g t h ed e v e l o p m e n to fa n i m a t i o n i n d u s t r y w i 廿lt h ep r e v a l e n c eo fd i g i t a lc i n e m aa n dh d t vs t a n d a r d s ，e s p e e i a u yt h e i n c r e a s eo fs c r e e ns i z ea n dr e s o l u t i o n , t h e r eh a sb e e nah i g h e rr e q u i r e m e n tf o rt h et i m e c o m p l e x i t ya n dp h y s i c a le q u i p m e n to f3 da n i m a t i o nr e n d e r i n g t os o l v et h i sp r o b l e m , m a n yp u b l i ct e c h n o l o g yp l a t f o r mo fr e n d e r i n gs e r v i c e sa n dm a n yp r o f e s s i o n a lr e n d e r i n g c o m p a n i e sh a v eb e e ne s t a b l i s h e db o t ha th o m ea n da b r o a d m o s to ft h e s ec l u s t e r r e n d e r i n gs y s t e m sa p p l yf o ras i n g l eo p e r a t i n gs y s t e m ，a n dt h ec sb a s e do p e r a t i o nm o d e ， w h i c hi st o os i m p l ei nt h ej o bs e r v i c em o d ea n dh a sal o wu s eo ft h es y s t e m i no r d e rt o i n c r e a s et h eu s ee f f i c i e n c yo fc l u s t e rr e n d e r i n gs y s t e ma n do p t i m i z et h es e r v i c em o d eo f r e n d e r i n gb u s i n e s s ，m a n yc o m p a n i e sh a v ee s t a b l i s h e dw e b s i t e s f o rt h ei n t e r a c t i o n b e t w e e nt h ec l u s t e rr e n d e r i n gs y s t e ma n dt h eu s e r b u tf o rm o s tu s e r s ，t h e yh a v et o u p l o a dt h es c e n ef i l e sa n d d a t af i l e so n t oas p e c i f i e d 邱s e r v e ro ft h er e n d e r i n gp l a t f o r m f o rat e c h n i c i a nt oo p e r a t et h er e n d e r i n g ，a n di fc u s t o m e r sw a n tt or e n d e rb yt h e m s e l v e s ， t h e yh a v et os t a ya tt h er e n d e r i n gp l a t f o r m , w h i c hb r i n g sal o to fi n c o n v e n i e n c ea n dc a n s e r i o u s l ya f f e c tt h eu s ee f f i c i e n c ya n ds e r v i c ef u n c t i o no f c l u s t e rr e n d e r i n gs y s t e m b a s e do nm u s t e rc l u s t e rr e n d e r i n gm a n a g e m e n ts o f t w a r e ，t h i sa r t i c l ed e s c r i b e sh o w t ou s et h ea d v a n t a g e so fd i f f e r e n to p e r a t i n gs y s t e m s ，a n dh o wt od ou s e rm a n a g e m e n t a n df i l e - s h a r i n gm a n a g e m e n tw i t had o m a i nc o n t r o l l e rf o rt h ee n t i r er e n d e r i n gp l a t f o r m , t od e s i g na n dr e a l i z et h ec r o s s - p l a t f o r mc l u s t e rr e n d e r i n g ，a n dt or e a l i z et h eo p t i o n a l r e g r o u p i n g ，i n t e r c o n n e c t i n ga n d r e s o u r c es h a r i n ga m o n gd i f f e r e n tp l a t f o r m s t h r o u g ht h e d e p l o y m e n to fm y s q l b a c k e n dd a t a b a s ef o r t h em a n a g e m e n ts o f t w a r eo fm u s t e rc l u s t e r r e n d e r i n g ，a n dt h ef l e x i b l ec o l l o c a t i o no f t h eu s e sp e r m i s s i o nf o rt h em a n a g e m e n ts y s t e m o fm u s t e rc l u s t e rr e n d e r i n g ，a i le f f e c t i v em a n a g e m e n tf o rt h ec r o s s p l a t f o r mr e n d e r i n g c l u s t e rs y s t e mi sr e a l i z e d a tl a s t ，t h i sa r t i c l ee x p l a i n sh o wt ou s et h ej s pd y n a m i c w e b p a g et e c h n o l o g yt od e v e l o paw e bp o r t a lf o rac r o s s - p l a t f o r mc l u s t e rr e n d e r i n g s y s t e m , t or e a l i z et h er e g i s t r a t i o no fu s e r s ，p e r m i s s i o n sd i s t r i b u t i o no fd i f f e r e n tt y p e so f u s e r s ，a n dt h eu p l o a d i n go fs c e n e sd o c u m e n t sa n dd a t af i l e s e x c e p tf o rt h e s e ，u s e r sc a n f r e e l ys u b m i tt h e i rr e n d e r i n gj o b ，s e tr e n d e r i n gp a r a m e t e r s ，s c h e d u l er e n d e r i n gj o b ，v i e w t h ep e r f o r m a n c er e p o r t so fr e n d e r i n gj o ba n dd o w n l o a dt h ep i c t u r es e q u e n c eo fr e n d e r i n g o u t p u t t h r o u g ht h es e t t i n go fr e l a t i v ep a t h ，i ts o l v e st h ei s s u eo fp a t hd e p e n d e n c eo ft h e s a ? , e l l ed o c u m e n t , a n di th a sr e a l i z e dt h el o n g - d i s t a n c es e l f - a d o p t i n gr e n d e r i n g , w h i c hi s b a s e do nt h eb sw a y k e yw o r d s ：c l u s t e rr e n d e r i n g ；m u s t e r ；w e bp o r t a l ；b s 硕士学位论文 m a s t e r st h e s i s 华中师范大学学位论文原创性声明和使用授权说明 原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下，独立进行研究工作 所取得的研究成果。除文中已经标明引用的内容外，本论文不包含任何其他个人或 集体已经发表或撰写过的研究成果。对本文的研究做出贡献的个人和集体，均已在 文中以明确方式标明。本声明的法律结果由本人承担。 作者签名： 即士私 嗍：垆州引日 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，即：学校有权 保留并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借 阅。本人授权华中师范大学可以将本学位论文的全部或部分内容编入有关数据库进 行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。同意华中 师范大学可以用不同方式在不同媒体一l 发表、传播学位论文的全部或部分内容。 ) 作者签名：行士礼 导雌名：灌裔铂 日期莎吖年月岁日日期：硝铲( ，月1 日o z 一卜 本人已经认真阅读“c a l i s 高校学位论文全文数据库发布章程”，同意将本人的 学位论文提交“c a l i s 高校学位论文全文数据库”中全文发布，并可按“章程”中的规 、1 、 1 1 研究背景和意义 第一章绪论 近些年，随着数字媒体技术、计算机图形学、三维动画制作软件的迅速发展以 及计算机硬件性能的迅速提高，具有强烈视觉冲击力、画面逼真细腻的三维动画， 以数字媒介为载体，越来越多的出现在大型的影视、游戏、栏目包装和商业广告媒 体中。 在计算机三维动画制作过程中，完成角色、道具、场景建模以及设定好动作、 灯光、材质之后，要看到设计的实际效果或输出可被后期编辑合成使用的图片动画 序列或视频，就需要对制作的三维场景进行渲染( r e n d e r ) 。一部电影的场景往往 非常复杂，制作中又需要反复渲染5 0 次以上【1 1 。然而，对高精度的复杂场景和特效 进行渲染是一个极其耗时的过程。渲染是一种计算机图形生成技术，首先在计算机 内建立所需场景的几何模型，并附加一定的材质、纹理及色彩，再加上光源、根据 一定的光照条件，计算生成具有真实感效果的场景图形 2 1 。一般来说，影响渲染速 度的因素除了计算机性能( c p u 、内存、显卡等) 外，还包括模型因素、灯光因 素、材质因素和渲染输出参数设置等【3 】。模型越复杂精细，渲染所用时间越长；灯 光强度越大、数量越多渲染所用时间也相应增加；场景中反射折射越多、细分值越 高渲染所用时间越多；图像分辨率和画幅的增大也会增加渲染所用时间。随着人们 视觉欣赏要求不断提高，数字电影和h d t v 标准的普及，特别是画幅和分辨率的增 大，对三维动画渲染提出了更高的要求，在三维动画制作过程中渲染所需要的时间 越来越多。在三维动画制作过程中，渲染是整个工作流程中占用时间最多、工作量 最大的一道工序。过去，与一般的p c 机相比，专业的图形工作站速度快、效率高、 稳定可靠，所以人们一般使用专业的图形工作站来进行最后的渲染工作，但单一的 图形工作站在将一个高精度的复杂场景渲染成图片序列或视频的时候，耗费的时间 惊人，往往需要数天甚至数周的时间，不仅延长了整个动画项目的时间，而且增加 了动画制作的成本，甚至影响项目及时的交付。渲染速度过慢，已经成为制约动画 业快速健康持续发展的一个重要“瓶颈”。 集群渲染系统的出现有效提高了渲染速度，减少了渲染所需时间，可以在较短 的时间把动画师的完美创意展现出来。在完成角色、道具、场景建模和设定好动作、 灯光、材质以后，场景文件被提交到集群渲染系统，集群渲染系统将一个大型的渲 硕士学位论文 m a s t e r st h e s i f l 染任务分而治之，加快渲染速度，迅速完成多帧或单帧图像渲染。对于大型的渲染 任务，集群渲染系统可以根据具体三维动画设计软件调整参数，较好地解决复杂情 况下的三维模型渲染问题，确保渲染任务如期完成，在较短的时间把完美的创意展 现出来。集群渲染系统一般由一台管理服务器( 有时还需要备份的管理服务器) 和 一台文件服务器、众多廉价且性价比高的p c 机和网络连接设备组成，每台p c 都 是一个自治的系统，拥有自己c p u 、主板、内存以及存储设备，既可以各自渲染， 也可以在集群渲染管理软件的管理和协调下统一工作。集群渲染管理软件能统一调 度集群网络中的计算机硬件资源和软件资源，通过大量的浮点运算将复杂的3 d 场 景，输出可被后期合成使用的图片动画序列或视频。集群渲染系统代表了三维渲染 技术的发展方向，它不但大大节省了渲染所用的时间，提高了动画渲染的效率，而 且优化了整个网络资源的调度，减少了原来因分散造成资源浪费。 为了促进中国动画产业的持续健康发展，降低中小型动画企业的渲染成本，实 现中国动画产业的全面振兴，目前在国内动画产业发展较好的省市都建立了渲染服 务公共技术平台或专业的渲染服务公司，他们一般是通过集群渲染管理软件来管理 整个集群渲染系统，操作系统一般采用w m d o w s 系列，架构模式大多采用c s ( 客 户端服务器) 模式，业务服务模式单一。对于多数用户来说，需要把场景文件和数 据文件上传到渲染平台指定的f t p 服务器上，再由渲染平台的技术人员执行渲染操 作，客户如果要亲自渲染就需要驻留在渲染平台，给用户带来了诸多不便，严重影 响了公共技术服务平台的使用效率和辐射范围 4 1 。本文在m u s t e r 集群渲染管理软件 基础上，利用不同操作系统的优势，使用域控制器管理渲染平台的用户账号和文件 共享，设计与实现了一个跨平台三维集群渲染系统，实现了不同平台之间的互联互 通、资源共享，有效提高了集群渲染系统的性能。通过为m u s t e r 集群渲染管理软件 配置m y s q l 后台数据库，灵活配置m u s t e r 集群渲染系统的用户权限，实现了对跨 平台集群渲染系统的有效管理。最后，本文使用j s p 动态网页技术开发了一个跨平 台三维集群渲染系统w e bp o r t a l ，实现了用户注册、不同类型用户的权限管理、场 景文件和数据文件的上传。此外，用户还可以自主提交渲染作业、设置渲染参数、 调度渲染作业、查看渲染作业的性能报告和下载渲染输出的2 d 图片序列，通过设 置场景文件的相对路径解决场景文件的路径依赖问题，实现了基于b s 模式的远程 2 硕士学位论文 m a s t e r st h e s i s 自适应渲染，能有效扩大集群渲染系统平台的服务范围，提高集群渲染系统平台的 使用效率，有效发挥渲染平台的政府服务功能。 1 2 国内外研究与应用现状 国内外的许多大学、研究所以及应用单位对集群渲染系统做了大量的研究工 作，在与其他数据库集成及开发集群渲染系统的w e bp o r t a l 等方面进行了许多应用 实践，如p i x a r 开发的a l f r e d 集群渲染管理系统和加拿大p l a t f o r m 开发的基于l s f ( l o a ds h a r i n gf a c i l i t y ) 的m a y a 跨集群网格渲染系统。 美国p i x a r 公司开发的a l f r e d 集群渲染管理系统是完全综合智能的集群渲染管 理系统，它可以有效管理拥有数百台p c 的集群渲染系统，能根据当前集群渲染系 统中各个渲染节点的工作情况和负载情况动态分配渲染任务，有效整合整个集群p c 机的c p u 运算能力，使整个集群的渲染能力随c p u 的增加呈线性增长，最大效率 的发挥集群渲染系统的优势【5 】。通过a l f r e d 集群渲染管理系统，大量廉价且性价比 较高的p c 机可以有效的替代昂贵的超级计算机来进行渲染工作，使用户在最短的 时间内得到可被后期编辑合成使用的图片动画序列或视频。其特点如下1 6 j ： l 、支持与o r a c l e 、m y s q l 等知名数据库的集成，方便信息的检索和管理； 2 、支持强有力的脚本语言，允许与本地的计算机结合； 3 、拥有多种a p i 接口，具有良好的可扩展性，能根据需求进行二次开发； 4 、动态的任务难度分配，能根据不同的渲染任务，进行不同的渲染优化，节 省时间、提高渲染质量与效率。 加拿大p l a t f o r m 公司开发的基于l s f 的m a y a 跨集群渲染系统，通过l s ff o r m a y a 插件使m a y a 渲染作业成为l s f 一个作业队列，充分发挥了l s f 集群作业 管理系统的优势。它能够在集群动态负载平衡的基础上，进行渲染任务的动态分配 和集中管理，最大限度的利用集群中各个渲染节点的软硬件资源进行高效的m a y a 作业渲染，有效解决三维动画集群渲染和集群软硬件资源的管理问题。在此基础上， 利用e n g i n f r a m e 强大的w e b 接e l 来提交和管理m a y a 渲染作业1 7 j ，目前该系统已 运行于华中师范大学高性能计算网格平台。其主要特点包括操作界面简洁友好、安 全性高、能高效渲染m a y a 场景文件、图形化显示各个集群和渲染节点的资源利用 率、以及自动管理和下载渲染输出二维图像序列等。而且，该集群渲染系统使用底 层数据库记录用户作业的详细信息，允许用户查询或检索作业信息，显著提高了用 户的工作效率。该系统的缺点是用户不能实时浏览渲染输出的二维图像序列，无法 3 硕士学位论文 m a s t e r st h e s i s 及时纠正渲染过程中出现的错误，且该集群渲染系统目前仅支持m a y a 一种三维动 画制作软件，扩展性不够，l s f 源代码不公开，加大了二次开发的难度。 近年来，我国加大了对动画产业的支持和扶持力度，除北京、上海、湖南、常州 建设了首批动画公共技术服务平台外，某些地方政府、科研机构、公司或大学也建立 了自己的集群渲染系统，以服务于本地动画制作企业或对外提供专业渲染服务。 沈阳( 国家) 动画产业发展基地投资4 0 0 0 万打造了沈阳市动画公共技术平台， 该平台开创了国内使用刀片服务器构建集群渲染系统的先例阻1 。北京天文馆联合 a m d 、s u n 以及微软等公司，建成了全球首个分辨率达8 1 9 2 x 8 1 9 2 的中国高性能图 像渲染实验室，能支持目前8 k x 8 k 分辨率的巨幕电影的渲染需求，代表了目前国内 最先进的集群渲染技术水平脚。最近，高性能集群渲染系统开始直接服务于教学和 科研。中国传媒大学动画学院基于m u s t e r 集群渲染管理软件的集群渲染系统不仅 可以满足校内广大师生的渲染需求，而且可以向社会各界提供动画、影视制作及工 业设计等渲染服务训。 为了提高集群渲染系统的使用效率，扩展集群渲染系统的服务范围，增加客户 端渲染时的自主性，国内外的一些研究机构、公共服务技术平台和专业三维渲染服 务公司，在如何开发一个方便易用的集群渲染系统w e bp o r t a l 用户界面方面做了各 种尝试。 渲染农场【l i 】是英国规模最大、速度最快、提供商业渲染服务的一家专业渲染服 务公司，其核心业务是为3 d 设计者和中小型数字媒体公司提供专业的高速渲染服 务。目前该公司可以提供半自动化的集群渲染服务，用户可以把场景文件和数据文 件上传到公司的f t p 服务器上，也可以通过e m a i l 、c d 、d v d 或磁带的方式把场 景文件和数据文件发送到该公司，在操作员确认场景文件无误后渲染作业被提交给 集群渲染系统。公司正在致力于开发网站界面，该网站界面将允许用户在线上传场 景文件及提交场景文件到渲染农场。目前该渲染公司的工作流程如图1 1 所示： 阶礼ients f i p 画s e r v 啼雪圆哆富r 舀e n d e r e d 兰 c le rr e n d e rm a n a a e r “掣 图i 1r e n d e r f a r m n e t 工作流程示意图 4 c d - r o r n 圆 圆肿 隧m a 硕士学位论文 m a s t e r st h e s i s 1 3 本文的主要工作和组织结构 1 3 1 论文的主要工作 本文研究的内容主要集中在以下两个方面： 1 ) 通过配置外接后台数据库实现对m u s t e r 集群渲染系统的有效管理。通过分 析集群渲染系统的构成、工作流程、关键元素以及影响集群渲染系统性能的软件因 素，综合运用各种操作系统的优势，使用域控制器管理整个集群渲染平台的用户账 号和文件共享权限，实现一个跨平台三维集群渲染系统，提高了集群渲染系统硬件 的使用效率； 2 ) 实现基于w e bp o r t a l 的b s 模式远程自适应渲染。通过灵活配置基于m u s t e r 跨平台集群渲染系统的用户权限，实现跨平台集群渲染系统用户权限管理和作业队 列信息管理，并使用j s p 动态网页技术开发跨平台集群渲染w e bp o r t a l ，实现用户 的注册、不同类型用户的权限分配、场景文件和数据文件的上传，此外用户还可以 自主提交渲染作业、设置渲染参数、调度渲染作业、查看渲染作业的性能报告和下 载渲染输出的2 d 图片序列，通过设置场景文件的相对路径解决了场景文件的路径 依赖问题，实现基于b s 模式的远程自适应渲染。 1 3 2 论文的组织结构 第一章为绪论，主要介绍了本文的研究背景和意义，国内外研究和应用现状， 本文的主要工作以及论文的组织结构； 第二章主要介绍了集群渲染系统的组成部分、工作流程和关键元素以及两种典 型的集群渲染系统案例，分析了影响集群渲染系统性能的软件因素( 如集群渲染管 理软件、操作系统) ； 第三章配置m u s t e r 集群渲染系统的外接后台数据库，综合运用各种操作系统的 优势，使用域控制器管理整个集群渲染平台的用户账号和文件共享权限，实现了一 个跨平台三维集群渲染系统； 第四章设计了一个跨平台集群渲染w e bp o r t a l ，实现用户的注册、不同类型用 户的权限分配、场景文件和数据文件的上传，此外，用户还可以自主提交渲染作业、 设置渲染参数、调度渲染作业、查看渲染作业的性能报告和下载渲染输出的2 d 图 片序列，通过设置场景文件的相对路径解决了场景文件的路径依赖问题，实现了基 于b s 模式的远程自适应渲染； 5 硕士学位论文 m a s t e r st h e s i $ 第五章开发了一个原型系统，验证了跨平台集群渲染系统w e bp o r t a l 的各项功 能、跨平台集群渲染系统性能以及场景文件相对路径对渲染结果的影响； 第六章总结了本文的主要工作，展望了未来的工作。 6 第二章三维集群渲染系统介绍 本章首先介绍了与三维集群渲染系统相关的一些概念和集群渲染系统的构成、 工作流程、关键元素及两个典型的集群渲染系统，最后分析了影响集群渲染系统性 能的一些软件因素。 2 1 基本概念 2 1 1 三维渲染 在计算机三维动画制作流程中，渲染是在角色、道具、场景建模以及设定好动 作、灯光、材质以后进行的。在渲染阶段，三维场景被渲染输出为二维动画图像序 列或视频，结台根据需要单独设计制作的二维图像，经过渲染检查和处理以后，进 入影片后期合成编辑阶段i ”i 。三维消染主要是根据场景模型上添加的色彩、材质、 纹理以及场景里面设置的光源强弱、远近和多少，再根据假定的光照条件，计算场 景中町见的各模型表面的阴影效果、纹理材质，生成具有真实感或具有某种艺术效 粜的二维平卣图像。渲染前后的效果圈如图2 - 1 、2 - 2 所示。其关键技术主要包括场 景模型的简化和管理、光照模型、渲染算法、纹理映射、材质设冠等方面【l ”。 罔2 - 1 三维模型渲染前 图2 - 2 二维模型渲染后 2 1 2 实时与非实时渲染 渲染可分为实时渲染和非实时渲染两种。其中，实时渲染是即时渲染出来的， 如硬件加速实时渲染技术主要依靠计算机的硬件性能( 如g p u 的速度和能力) ， 主要应用于游戏画面、三维虚拟漫游等，g p u 一般用于制作过程中的实时显示 ( s h a d e ) 任务1 4 1 1 5 1 ：非实时渲染是利用计算机c p u 完全通用的真实浮点运算能力 事先渲染成图片序列，而后再以一定的速率播放形成动画或视频的 1 6 1 ，如电影、三 维动画、片头和栏目包装等影视动画作品都是非实时渲染。 2 1 3 集群 集群是一组通过通信协议和通信设备连接在一起的廉价但性价比较高的普通 计算机的集合，各个计算机除了可以作为独立的系统使用外，还可以协同工作。协 同工作的时候它们能够自动的进行集群中各个计算机间的负载均衡，它的目标是使 大量廉价且性价比高的普通计算机组成并行计算系统，“虚拟 出天价超级计算机 的渲染能力，这种技术应用于电影特效、三维动画产业以加快图像渲染时，称为渲 染农场1 1 7 j 。 2 2 集群渲染系统介绍 2 2 1 集群渲染系统 集群渲染系统可以充分利用集群计算机的优势，通过集群渲染管理软件和并行 3 d 渲染软件，充分利用集群网络中的计算机软硬件资源，通过集群渲染管理软件 管理和协调几十台甚至上百台渲染节点将复杂的3 d 场景通过大量的计算，迅速渲 染生成序列图像或单帧图像，以供审核或后期制作合成之用。集群渲染系统通过合 理的分配和调度整个网络上的软硬件资源，对提交到集群渲染系统上的渲染作业进 行灵活的管理，实施跨平台、多引擎、多任务的大规模渲染。集群渲染系统打破了 过去分散的单机渲染工作模式，大大提高了集群渲染系统软硬件资源的使用效率 团1 o 一般而言，集群渲染系统应该具有如下条件渊： l 、由大量廉价且性价比较高的p c 或渲染服务器组成，能充分利用集群中所有 硬件、软件和人力资源，有效提高渲染速度，加快渲染进度； 2 、集群渲染管理软件具备完善功能，简单易用，能根据不同的渲染作业进行 渲染任务调配； 8 硕士学位论文 m a s t e r st h e s i s 3 、集群渲染管理软件应该具备有优秀的算法，能充分发挥每个节点的性能， 能根据当前集群渲染系统中各个渲染节点的工作情况和负载情况动态分配渲染任 务； 4 、具备快速的网络互联设备，即要有高性能的交换机和高速连接设备( 如光 纤连接) ，以保证三维渲染过程中大量的数据传输，减少通信延迟和拥塞； 5 、共享文件系统，存储各种场景、贴图、材质等，要求具有足够的存储容量， 支持外接高速磁盘阵列； 6 、支持不同的操作系统、硬件平台和三维动画制作软件，满足多系统跨平台 三维渲染的需求。 2 2 2 集群渲染系统的构成 就当前构建各种集群渲染系统的主流集群渲染管理软件而言，如d r q u e u e ， l i g h t n e t ，m u s t e r ，s p i d e r ，b u t t e r f l y n e t r e n d e r ，r e n d e r f a r mc o m m a n d e r ，t e q u i l a s c r e a m ，m a t a d o r 等，集群渲染系统一般包括客户端、管理节点、渲染节点、共享 文件系统以及网络互连设备构成。集群渲染系统架构如图2 3 所示【1 9 1 。 图2 3 集群渲染系统构架 1 、客户端 客户端( c l i e n t ) 完成角色、道具、场景模型和设定好动作、灯光、材质后把 场景文件和数据文件上传到共享存储系统中，包括角色、道具、场景模型、纹理映 射、灯光、摄像机轨迹和材质设置等信息，然后把渲染作业提交给管理节点( m a s t e r ) 。 当渲染完成后，再从共享文件系统指定目录下下载渲染输出的2 d 图像序列。 9 硕士学位论文 m a s t e r st h e s i s 2 、管理节点 管理节点除了为渲染节点提供基本的网络服务外，一般还应该具有节点管理、 任务划分、任务控制等功能【2 0 】。管理节点与客户机、存储节点和渲染节点都有交互， 是整个集群渲染系统的核心组成部分，集群渲染管理软件的分发服务器一般运行在 该机上。 1 ) 任务划分是集群渲染管理节点的核心功能。在集群渲染系统中，渲染任务可 能是一部完整的动画、多帧图像或者仅是分辨率比较大的单帧图像。划分后的次级 任务可以是一帧或多帧图像，或者一帧图像的某些区域( 针对单帧分割协同渲染) 。 客户提交渲染任务信息一般包括任务名称、起始帧、帧步数、结束帧、渲染引擎和 渲染输出图像的存储路径等信息。对于异构集群渲染系统，各个渲染节点的渲染能 力可能不一样，管理节点应该具备实时评估各个渲染节点的渲染能力、资源利用率、 当前渲染节点的负载情况以及任务复杂度，动态的分配渲染任务。 2 ) 节点管理是所有集群渲染系统管理节点的基本管理功能。在大规模的集群渲 染系统中有几十个甚至几百个渲染节点，采用人工方式管理复杂繁琐也是不现实 的。管理节点应该具备对整个集群渲染系统自动管理的功能。集群渲染系统下的管 理节点应该能够动态的发现加入或退出集群渲染系统的渲染节点，并对加入到集群 渲染系统的渲染节点远程启动和配置。 3 ) 任务控制是用户在本地计算机向集群渲染系统提交渲染任务后，应该有足够 的权限提前终止、临时暂停、删除自己的渲染作业、重新恢复作业队列，甚至还应 向用户提供操作渲染节点的权限，如暂停、重启渲染节点，指定渲染池等。 管理节点还应该集成至少两个网卡，其中一个执行与内部集群渲染系统局域网 的连接，一个执行整个集群渲染系统同外部i n t e m e t 的网络连接。 3 、渲染节点 渲染节点主要任务是执行渲染。这需要根据渲染需求和预算来决定采用什么样 的硬件配置。一般来说，多c p u 渲染节点具有更高的性价比。 在集群渲染系统中，依据渲染任务的工作量的大小，一个节点可以同时承担多 种角色，如在一个小的集群渲染环境中，可以同时使用一台计算机作为管理节点、 渲染节点和存储节点，只需要该节点拥有足够计算力和存储容量。 4 、共享文件系统 如果集群系统的应用运行需要大量的数据存储，比如h d 素材、各种贴图、渲 染生成的图片序列等，就需要一个共享文件系统，以便集群内的所有计算机存取文 件，它是整个集群渲染系统的数据存储器和文件服务器。在众多由政府投资的动画 1 0 硕士学位论文 m a s t e r st h e s i $ 公共渲染技术平台或专业三维渲染服务公司的集群渲染系统中，一般采用高速磁盘 阵列作为文件共享系统的容器。另外，作为文件共享系统的计算机还应该具有较强 的网络能力和i o 吞吐能力。 5 、网络互连设备 在集群渲染系统中管理节点与渲染节点、渲染节点与渲染节点、管理节点与共 享文件系统、渲染节点与共享文件系统之间的数据传输需要高速的网络传输设备。 2 2 3 集群渲染系统的工作流程 集群渲染系统的典型工作流程是【2 1 1 ： l 、用3 d 动画制作软件制作好3 d 场景后，保存为集群渲染系统支持的文件格 式，并把场景文件和数据文件保存到文件共享系统中，以保证每个渲染节点拥有读 写的权限； 2 、选择渲染器，设置渲染参数，把场景文件和数据文件的网络路径提交集群 渲染管理软件接口，将渲染作业提交到集群渲染系统； 3 、集群渲染管理系统收到渲染作业后，管理服务器使其成为集群渲染系统的 一个作业队列； 4 、管理服务器查找集群渲染系统中的空闲渲染节点，评估各个渲染节点负载 情况、资源利用率，依据渲染作业的复杂度和渲染参数把渲染任务分配给空闲的渲 染节点； 5 、空闲渲染节点接到分配过来的渲染任务后，启动相应的渲染引擎开始渲染 作业，并把渲染作业信息和本机状态实时报告给集群渲染系统的管理服务器： 6 、管理服务器把收到的作业信息和渲染节点状态信息实时反馈给集群渲染管理 软件，集群渲染管理软件把各种信息统一存储至后台数据库，以方便用户查询和查看； 7 、整个场景渲染完成，渲染节点把渲染输出的2 d 图像序列保存到文件共享系 统，用户可以登录文件共享系统下载渲染2 d 图像序列至本地客户端。 2 2 4 集群渲染系统的关键因素 l 、c p u 渲染节点在渲染时主要是进行大量的浮点运算，是三维动画渲染时最费时费力 的一个过程，因此需要选择一款浮点性能出色的处理器。随着x 8 6 处理器性能的飞 速提升，越来越多的三维软件制作商推出了基于x 8 6 处理器三维动画软件( 如 m a y a 、3 d s 眦) 。依据著名的摩尔定律，p c 机的性能每1 8 个月就会提高一倍， 硕士学位论文 m a s t e r st h e s i s 发展速度远远超过了过去三维渲染的主力工作站。在高性能的p c 的某些性能 已经达到甚至超过了专业图形工作站，且p c 机操作和维护方便，性价比高。目前 基于x 8 6 处理器的p c 借助集群渲染管理软件、凭借低成本高性价比已经在渲染领 域大放异彩，有众多廉价且高性价比普通计算机组成的渲染集群在中小型数字媒体 企业尤其常见，这些普通计算机既能服务于三维动画的设计创作也可以协同工作， “虚拟 出天价超级计算机的渲染能力。 2 、节点机 集群渲染系统一般采用胖节点架构，这是因为：胖节点架构具有更多的c p u ， 增加线程数，有利于快速完成大规模的计算量；其次，胖节点能够大大降低节点间 的网络通讯，避免通讯堵塞和延迟，极大地提高集群渲染系统的性能【1 9 1 。c p u 现在 正朝着双核乃至多核的方向发展，性能与以前相比有了极大的提高，双核和多核处 理器的出现能有效降低集群渲染系统中渲染节点的数量，降低各个节点间的通信， 显著提高集群渲染系统的性能。近年来众多国产高性能服务器( 如同方服务器、华 硕服务器和曙光服务器) 也加入到三维集群渲染的行列。如上海多媒体公共服务平 台引入了具有2 0 颗双核c p u 的同方渲染服务器集群，担当3 d 动画渲染计算的关 键任务，进一步增强平台的技术实力【2 2 】。 2 2 5 典型集群渲染系统介绍 集群渲染系统大体上分为两类：一类是基于专业的集群渲染管理软件，是专门 针对三维动画设计软件和后期编辑合成软件集群渲染量身定做的，国内外的集群渲 染系统大多依据此类管理软件为基础架构的，具有通用性。这里以具有良好图形化 界面、简单易用、算法优秀、支持跨平台的m u s t e r 集群渲染管理软件构建的集群渲 染系统为例进行具体介绍。另一类是基于通用集群作业管理系统的集群渲染管理系 统，此类系统是在某一通用集群作业管理软件基础上，通过开发针对某一个具体的 三维设计软件的插件从而使该三维设计软件成为其中的一个作业队列，达到集群渲 染的目的。这其中又以加拿大p l a t f o r m 公司开发的l s f 为代表，如通过l s ff o r m a y a 插件使m a y a 渲染作业成为l s f 的一个作业队列，使m a y a 渲染作业可 以跨l s f 集群调度，达到在多个l s f 集群中调度资源来渲染m a y a 作业继而达到 跨集群网格渲染的目的。 l 、m u s t e r 集群渲染系统概述 m u s t e r 是一套为管理复杂多平台集群渲染系统而专门设计的基于c s 模式的应 用程序，它可以提供对多达数百台计算机组成的的集群渲染系统的监视管理团j 。 1 2 硕士学位论文 m a s t e r st h e s i s 1 ) m u s t e r 集群渲染管理软件模块 由m u s t e r5 5 3 构建的集群渲染系统主要由以下组成模块田】1 2 4 1 【2 5 】： d i s p a t c h e rs e r v i c e - d i s p a t c h e rs e r v i c e 是整个m u s t e r 集群管理软件中最核心 的组成部分，目前可以安装在w i n d o w s ，l i n u x ，m a co sx 操作系统上。它的功能 是维持一个稳固持久的与各个渲染节点主机的连接资源池，管理和维护整个集群渲 染系统的网络连接、作业调度，它从外部客户端接受命令，并分发渲染作业到各个 渲染节点、发送作业消息给用户： r e n d e rc l i e n ts e r v i c e ：它的主要功能是维持与d i s p a t c h e rs e r v i c e 的网络连 接，调度渲染引擎渲染d i s p a t c h e rs e r v i c e 分发的渲染作业： n o t i f i c a t o r ：当作业完成时，发消息通知用户，此模块只适用于c s 工作模 式； e x p l o r e r ：与d i s p a t c h e rs e r v i c e 交互的图形用户界面。通过它用户可以设置 渲染参数、选择渲染引擎、提交作业、管理作业、管理渲染节点，并对d i s p a t c h e r s e r v i c e 进行配置； c l i e n tm a n a g e m e n tc o n s o l e ：渲染节点管理工具，主要功能是管理渲染壮点、 配置渲染节点参数。 2 ) m u s t e r 集群渲染系统的工作流程 c l i e n t m r t o o iw e bi n t e r f a c em u s t e re x p l o r e r 爪爪爪 小 山 山 k 闻佩m佛 y = ，y、y l f 、，1r l v l a s l e r d i s p a t c h e rs e r v i c e f i l es h a r es y a e m f i l es e r v i c e 、 (9( 9 1 、 ， l r e n d e rn o d e sl c i i e n ts e r v i c e jc l i e n ts e r v i c e 2 c l i e n ts e r v i c e 用 图2 _ 4m