高性能计算机与网格PPT课件

1、高性能计算机与网格李国杰中科院计算所高性能计算机发展趋势高性能计算机研究开发现状n美国较全面：系统、软件、应用的研制和部署美国较全面：系统、软件、应用的研制和部署n欧洲的强项则是高性能计算机的使用欧洲的强项则是高性能计算机的使用 n日本地球模拟器：日本地球模拟器：20022002，40 40 TflopTflop/s/sn美国美国ASCIASCI：20042004，100 Tflop100 Tflop/s/sn美国的预研阶段计划美国的预研阶段计划nPetaflops(1000 Tflop/s)Petaflops(1000 Tflop/s)和和Ultrascale(10000 TflopUltr

2、ascale(10000 Tflop/s)/s)nIBMIBM的高性能计算机研究的高性能计算机研究: :nBlue Gene (Blue Gene (1000 Tflop1000 Tflop/s, 2004/s, 2004) )nBlue Light (360Blue Light (360 Tflop Tflop/s, 2004/s, 2004) )n2000-20052000-2005年期间，每年投资年期间，每年投资1 1亿美元购买高性能计算机，亿美元购买高性能计算机，用于科研。用于科研。n1993-20011993-2001，Top500Top500的总计算能力增长了的总计算能力增长了90

3、90倍，平均每年增倍，平均每年增长长75.6%75.6%，大大高于摩尔定律的增长率，大大高于摩尔定律的增长率 高性能计算机发展趋势n摩尔定律趋势（I/O瓶颈）n网格与普遍计算趋势n开放性趋势n动态复杂性趋势n总拥有性能价格比趋势n商品化和标准化趋势n好用性与平民化趋势微处理器Roadmap摩尔定律趋势n摩尔定律可能持续到2020年n指数率：芯片密度、主频、速度，内存容量、 网络带宽n超指数率：硬盘容量、网络带宽；n 线性改善：延迟、内存存取速度nCPU = Memory = I/OnFran Berman: 21世纪头十年是“数据年代”n高性能计算机的峰值性能价格比遵循摩尔定律n2000年大约

4、为每亿次浮点运算速度20004000美元n2005年将会改善至每亿次浮点运算速度250500美元摩尔定律和新摩尔定律CY95CY07CY05CY97CY99CY01CY03Log Growth10010,0001 MChip Performance2X/18 monthsLAN/WAN Bandwidth2X/6 months 芯片性能（集成度）每18个月翻一番 互联网骨干网的带宽每6个月至9个月翻一番商业模式创新科学技术创新PhotonicsElectronicsHardware Cost and ImplicationslStorages are large and cheap.lInfo

5、rmation and computing available everywhere.l一个晶体管只值10-5美分，不再是重要资源199019802002$400,000/MIPS (Cray-I)$250/MIPS (i860)$4/MIPS or less.制约计算机能力的瓶颈n二十世纪70年代：计算能力（kflops）n二十世纪80年代：内存容量（Mbyte）n二十世纪90年代：网络带宽（Gbit）n二十一世纪：计算能力达到了Tflops（万亿次）、内存容量达到了Tbyte（万亿字节）、网络带宽达到了Tbit（万亿位）n瓶颈变成了满足用户多种需求的Petabyte（千万亿字节）海量信息的

6、存储和处理计算所设计高性能CPU的体会n中国还没有类似Intel的IDM公司，系统设计、电路设计、微电子设计人员与芯片生产厂、服务厂商必须密切合作。应寻求与Intel等大公司合作。n不要过分强调通用与嵌入式CPU的区别，通信与流媒体处理需要很高性能CPU而且市场很大（通用）n必须有一批精通CPU原理的人进行微体系结构创新n尽量利用先进EDA工具，到最先进的生产线流片。n采用IP软核或标准单元最多只能做到商用芯片一半性能n我国发展高性能CPU当前的瓶颈是缺乏适合国内生产厂工艺的IP硬核库，国家必须尽快重点支持。n成功的关键是COT（Customer Owned Tooling）高性能计算机发展趋

7、势n摩尔定律趋势（I/O瓶颈）n网格与普遍计算趋势n开放性趋势n动态复杂性趋势n总拥有性能价格比趋势n商品化和标准化趋势n好用性与平民化趋势普遍计算趋势n服务器端=网格，客户端=各种各样的有线或无线终端设备音响Notebook移动电话数字像机电话游戏机电视DVD PCInternetIP宽带网结点结点结点结点数据库信息库贵重设备网格普遍计算趋势nanytime, anywhere, any user, any device, any service n通信、内容、计算、交易、过程、组合服务 n企业和消费者=用户主体n使用方式趋势：Utility + 服务52%27%0%10%20%30%40%

8、50%60%19931995199719992001企业研究所大学其他高性能计算机的重点转移n计算机的CPU周期（Cycle）已非常便宜n80年代：40万美元/MIPSn90年代：250美元/MIPSn现在：4美元/MIPSn网上资源的利用率极低nInternet上每年产生的信息达2x1018BYTEn每年Internet网上可利用的公用信息只有3x1012BYTE，只占百万分之一。n现在关键不是增加CPU Cycle，而是发展Grid技术实现信息资源共享，提高信息资源利用率。n美国NSF已不再支持研制单台巨型机，重点支持Teragrid 类型的高性能计算环境。Changing of NSF

9、Sponsored High Performance Computing Effortsl2001 to 2004: Distributed Terascale Facility (DTF) 4 DTF sites: NCSA, NPACI, Argonne, and Caltech providing aggregated 14+ teraflops and 450+ terabytes. lTasks: - NCSA: 6+ TFs & 240+TBs Linux cluster of Itaniums - NPACI: 4+ TFs & 225+ TBs - Angonn

10、e: 1+ TF IBM cluster, grid & viz. software - Caltech: 86 TB on-line storage.Large NSF Sponsored Grid ProjectslGIOD (Globally Interconnected Object Databases) global data storage and accesses of particle collider experiments lGriPhyN (Grid Physics Network) building global grids for experimental p

11、hysics studies.liVDgL (international Virtual-Data grid Lab) grids for physics/astronomy experiments data-intensive science, US & EU collaborationlNEES (Network for Earthquake Engineering Simulation) shifting from physical tests to simulation (20 grid sites)网格已成为高性能计算的主要研究方向n美国联邦政府：美国联邦政府：2000-20

12、032000-2003，已投入约，已投入约5 5亿美元亿美元nTeraGrid,2001-2003, $53M,11 TflopTeraGrid,2001-2003, $53M,11 Tflop/s,450TB /s,450TB n加州：加州：2001-20042001-2004，3 3亿美元，信息网格亿美元，信息网格 n欧洲：欧洲：2001-2003,2001-2003,约约2.22.2亿美元亿美元nUK eScience UK eScience Grid: 1.2Grid: 1.2亿英镑亿英镑nIBM Grid Initiative: 40IBM Grid Initiative: 40亿美

13、元亿美元n风险投资：风险投资：Entropia Entropia 约约50005000万美元万美元开放性趋势n水平化水平化: : 垂直方式垂直方式 - - 水平方式水平方式n水平化水平化 = = 标准化、公开化、开放化标准化、公开化、开放化n美国总统信息技术顾问委员会美国总统信息技术顾问委员会n政府应该在高性能计算领域鼓励开放源码模式政府应该在高性能计算领域鼓励开放源码模式n网格研究采用开放源码、公开合作的因特网模式网格研究采用开放源码、公开合作的因特网模式nGlobal Grid ForumGlobal Grid Forum是网格研究目前主要的合作组是网格研究目前主要的合作组织和标准化组织织

14、和标准化组织nGlobusGlobus几乎已成为网格系统软件事实上的标准几乎已成为网格系统软件事实上的标准n集群计算标准很可能在今后几年出现集群计算标准很可能在今后几年出现动态复杂性趋势n端到端复杂性（端到端复杂性（end-to-end complexity） n从用户终端设备通过网络到高性能计算机从用户终端设备通过网络到高性能计算机 n从应用软件、中间件、系统软件到系统硬件从应用软件、中间件、系统软件到系统硬件n端到端动态性端到端动态性n用户的业务需求不断变化用户的业务需求不断变化 n需要高性能计算系统能够高效率地动态变化需要高性能计算系统能够高效率地动态变化n动态复杂性趋势动态复杂性趋势n

15、IBMIBM的的eLizaeLiza计划提出的计划提出的“自治计算自治计算”n中科院计算所的织女星（中科院计算所的织女星（VEGAVEGA）网格计划）网格计划 n“自主控制自主控制”、“动态功能部署动态功能部署”、“Late Binding” Late Binding” 总拥有性能价格比趋势n大部分应用常常只能得到大部分应用常常只能得到5%5%甚至甚至1%1%以下利用率以下利用率 n性能价格比性能价格比 总拥有性能价格比总拥有性能价格比nTotal Performance/Cost of OwnershipTotal Performance/Cost of Ownershipn性能无关的因素性

16、能无关的因素 越来越重要越来越重要n互操作性、可移植性、安全性、好用性、易管理互操作性、可移植性、安全性、好用性、易管理性和高可用性性和高可用性n易部署性易部署性n服务协议等级（服务协议等级（Service Level AgreementService Level Agreement） 商品化和标准化n尽量使用商品化部件尽量使用商品化部件n降低成本、提高性能降低成本、提高性能n缩短开发周期缩短开发周期n提高可靠性提高可靠性nBeowulfBeowulf系统的兴起系统的兴起n标准化标准化n硬件硬件n操作系统操作系统n编程语言编程语言n中间件中间件量产导致简单便宜的标准平台MPPs1-4 proc

17、essor mP1-20 processor mPDistributed workstationsClustered Computers price for high speed interconnect priceperformanceStand-aloneDesk topsPCsplatforms好用性趋势n格林吉利定律（格林吉利定律（Gringeleys Law） n电脑系统的研制成本 = O(好用性2)nMIT 氧气计划：Human-Centric Computingn5年（2000-2004）、$50M、500人 n网格可能会大大提高好用性n网格应用模式（通信、内容、计算、交易、过程

18、）n网格编程模式（网格服务描述语言GSDL）n网格浏览器n微软Office.Net：网格界面、联接用户和经济用户最关心的计算机特性-SUMAnS Scalabilitycalability（可扩展性）（可扩展性）n系统各部分可独立扩展，系统性能随规模接近线形增长系统各部分可独立扩展，系统性能随规模接近线形增长nU Usability (sability (用户友善性）用户友善性）n方便使用，人机和谐方便使用，人机和谐nM Maintainabilityaintainability（可维护性）（可维护性）n不论规模和复杂性的大小，系统应该只需要最少的人工不论规模和复杂性的大小，系统应该只需要最少

19、的人工管理管理n A Availabilityvailability（可用性）（可用性）n即使软硬件发生故障，系统也应该继续满足服务目标的即使软硬件发生故障，系统也应该继续满足服务目标的质量要求质量要求n曙光计算机的特色曙光计算机的特色-SUMASUMA特色特色网格与机群系统（Cluster）网格技术的由来与发展n网格技术本质上是分布式计算技术，与OSF、CORBA、DCOM、CSCW等技术有密切联系。n网格是机群（Cluster）系统的分布式扩展，网格技术首先在高性能计算领域展开。n网格是Server-oriented结构，基于C/S思想，Peer-oriented 系统是与网格互补的思想。

20、n全世界有132个Grid网站，333万Grid网页；73个Web Service网站，35万Web Service网页。5990网页同时涉及Grid 和 Web Service 。超级计算机与超级服务器 超超级级计计算算机机 超超级级服服务务器器 应应用用 科科学学工工程程计计算算 科科学学工工程程计计算算，事事务务处处理理，网网络络信信息息服服务务 性性能能要要求求 强强调调单单个个应应用用的的速速度度 强强调调多多个个应应用用的的吞吞吐吐率率和和响响应应时时间间 支支撑撑软软件件 支支持持 C、Fortran、Java；MPI、PVM、HPF；主主流流操操作作系系统统 还还需需支支持持各

21、各种种中中间间件件，如如数数据据库库，Web server 系系统统结结构构 向向量量机机、MPP、PVP 机机群群系系统统、SMP、ccNUMA ExpandabilityNode IndependentNode Failure Isolated& Taken OverSingle Point LoginSingle System File ImageSingle Point of ManagementNode ExpandableUser ExpandableSystem ExpandableApplication ExpandableSingle System imageShar

22、e ResourceShare System ManagementEasy to manageHigh AvailabilityCluster的兴起的兴起ASCI Red (Intel)ASCI Blue Mountain (SGI)ASCI Blue Pacific (IBM)ASCI White (IBM)未来的高性能计算机系统n1010万亿次级网格万亿次级网格( (TeraGridTeraGrid) ) 分布式万亿级分布式万亿级 (NSF) (NSF) 13.6 Tflops 13.6 Tflops 计算网格计算网格 NCSA, SDSC, ArgonneNCSA, SDSC, Argo

23、nne Lab, Caltech Lab, Caltech $53M, IBM, $53M, IBM, 第三季度第三季度, 2002, 2002 Intel-Intel-架构架构 (McKinley) Linux (McKinley) Linux 机群机群 3300 3300 处理器处理器, , Myricom MyrinetMyricom Myrinet, , IBM CSM, GPFS IBM CSM, GPFS 高可视化高可视化, , 网格工具包网格工具包 450TB IBM 450TB IBM 存储容量存储容量 40Gb/s Qwest 40Gb/s Qwest NetworkNetw

24、orkWhy Linux/IA Clustern极高的性能/价格比n平民化的高性能超级服务器nCPUnIA-32, IA-64：定、浮点能力增强n未来主流：Power和IA-64n操作系统nLinux：UNIX平台、开放源码、非厂商控制n丰富的商用硬件与开放源码软件Linux超级服务器超级服务器n发展趋势nLinux机群正由早期采用阶段向主流阶段发展，由Beowulf向Linux超级服务器发展n超级服务器使能(Enabling)技术 nRISC架构超级服务器核心技术n高性能文件系统n高可用软件n高度可扩展软件n内置管理Cluster的三种形式nASCI Machine: SMP/NUMA大结点

25、Cluster + 大量专有软硬件 + 科学计算应用n系统提供者+应用提供者（使用者）n商品化Cluster: 商品化部件 + 软硬件增值 + 通用应用n系统提供者+应用提供者+使用者nBeowulf Cluster: PC Server + Linux + Freewaren系统提供者（应用提供者）（使用者） Beowulf Cluster缺乏什么缺乏什么n性能：float point，cache，memory， I/O，interconnect networkn效率n标准n一体化系统软件n安装、使用、维护难n不能解决Great-Challenge应用（生物、核能模拟、SAR、大型仿真、分子

26、动力学、分子化学）n不能解决事务处理、数据挖掘应用nSUMA特性有限（可扩展性，通用性，可靠性，可用性）Cluster在中国的发展方向nASCI系统（国家战略需求）n高端需求的通用Clustern平民化/开放化/标准化（Open Cluster）nGridnCluster算法和应用（远远落后）n呼唤行业应用n产业发展曙光3000超级服务器国家高性能计算中心（西安）成都合肥西安北京武汉上海大连国家高性能计算环境网格网格下一代下一代InternetInternet应用应用 第一波第一波 第二波第二波 第三波第三波（1960现在）现在）（1980现在）现在）（1993） 因特网因特网 Web 网格（

27、网格（Grid) 计算机的联通 网页的联通资源的全面联通telnet:/ http:/www grid:/ftp:/mailto:/资源包括： 计算资源 存贮资源 信息资源 知识资源福布斯福布斯杂志：市场趋势杂志：市场趋势n信息技术的下一波大浪潮将在20042005年度出现，并造就2005-2020 十五年的黄金时代n这个大浪潮将极大地改变我们的工作和生活。到2020年，由此产生的互联网将成长为一个20万亿美元产值的大工业。 n信息市场从2000年的1万亿美元增长20倍。n这一波浪潮的本质特征，就是万维网（World Wide Web）升华为网格（Great Global Grid）。IBM的

28、网格远景：现在的计算机的网格远景：现在的计算机未来：因特网是计算机未来：因特网是计算机!如果整个因特网就是一台计算机，那么.n什么是它的硬件？什么是它的处理器、它的存储器、它的外部设备？它应该采用什么样的体系结构？n什么是网格这台计算机的操作系统？什么是它的进程和线程？什么是它的地址空间？如何管理它的资源？n什么是网格的编程环境和使用环境？什么是网格的用户界面？什么是网格的程序设计语言？n什么是网格的应用？它们有什么样的模式和特征？n从用户的角度看，网格与当前的因特网/Web有什么不同？它能提供什么样的独特益处？网格技术提出的新概念n点播服务n及时集成n按需通信n信息拒绝n信息的强共享、次共享

29、和弱共享n虚拟组织、虚拟用户、虚拟代理（Agent）Web Service与Grid走向OGSAnIan Foster 最近在GGF上发表重要论文:The Physiology of the Grid, 提出OGSA(Open Grid Service Architecture)体系结构 ,New York Time介绍这一思想nOGSA是Web Service的自然演进n集成现有Web Service技术和OGSA的瞬时Stateful service instance技术, 很小的扩充将明显提高Web Service的功能。GGG（Great Global Grid）HP eSpeakIB

30、M Web ServicesMicrosof.NetSun ONE计算和数据网格TeraGridIPGGIGASCI GridData Grid信息网格和知识网格Semantic WebKnowledgeManagementOntologyInformationPlatform商业应用网格CDNRTECWeb Service其它模式P2PP a r a s i t i c ComputingUK e-Sciencee-Science and the Gride-Science is about global collaboration in key areas of science, and

31、the next generation of infrastructure that will enable it.e-Science will change the dynamic of the way science is undertaken.John TaylorDirector General of Research CouncilsOffice of Science and TechnologyFrom presentation by Tony HeyCambridgeNewcastleEdinburghOxfordGlasgowManchesterCardiffSouthampt

32、onLondonBelfastDLRALHinxtonUK Grid NetworkFrom Tony Hey 27 July 01863计划网格重大专项预定目标n研制成功国家高性能计算环境（网格）n每秒15万亿次规模的共享计算能力n100万亿字节（100TB）海量共享数据存储能力n部分系统的处理器芯片、计算机硬件、系统软件将采用我国具有产权或能自主控制的产品n一批工业、服务业、科学研究、资源环境、国防领域的重大应用投入运行n培养5000名技术人才、500名高级人才n产生国际标准、数百项发明专利、数千篇高质量论文n将高性能计算服务送到科研、企业、政府等各方面用户的桌面上，从而大幅度地提高我国的

33、综合国力和国际竞争能力经济和社会发展对网格的需求n制造业的“网络化虚拟制造”需求n产品研制周期缩短40%，研制经费降低30%n金融界的“业务集中”需求n降低运行成本和管理成本n提高安全性、可靠性、运行效率、服务质量、宏观监控、风险防范 n信息服务业的高性能、高质量需求n电子政务的“资源共享”和“协同工作”需求n能源业的高性能可视化计算、资源共享、系统监控需求n资源环境领域的海量数据处理和分析、共享、模拟与预测需求n科学研究和技术创新的需求n国防需求 现有工作基础n863计划重点部署了高性能计算领域的研究计划重点部署了高性能计算领域的研究n863“国家高性能计算环境国家高性能计算环境”重大项目重

34、大项目n曙光曙光30003000、神威、银河、神威、银河、n近近1010个高性能计算中心（网格结点）个高性能计算中心（网格结点）n初步功能的网格系统软件和一批网格应用软件初步功能的网格系统软件和一批网格应用软件 n中科院计算所、国防科技大学、江南计算所、中科院计算所、国防科技大学、江南计算所、清华大学、西安交通大学、中国科技大学、华清华大学、西安交通大学、中国科技大学、华中科技大学等单位，都开展了网格技术的研究中科技大学等单位，都开展了网格技术的研究 n与网络部门、应用部门、地方政府的合作关系与网络部门、应用部门、地方政府的合作关系 中科院计算所织女星（VEGA）服务网格n超级服务器 服务网格nSUMA VEGAnVersatile Serv