云计算中的HPC高性能计算

1、背景：O云计算的优势共享的计算设备多租户的使用模型可高度适配的资源分配O按需定 制的HPC环境开始流行挑战O虚拟化的开销CPU,内存，驱动等O通信网络的区别万兆以太网vs. InfinibandO并行IO的配置选项设备，文件系统和IO库的选择CCI: Amazon的HPC解决方案传统云计算平台(EC2)集群云计算平台(CCI)成千上万的服务器，分布在全球大约1000台左右集中部署的服务器低端的，共享的处理器高端的计算用处理器千兆以太网，网络竞争严重非阻塞的万兆以太网每个服务器多个虚拟机每个服务器一个虚拟机类虚拟化硬件虚拟化任意的虚拟机放置策略放置组每个虚拟机实例每小时$0.085-$2.40每

2、个虚拟机实例每小时$1.60虚拟化对HPC的影响O 虚拟设备和物理设备有巨大的性能差别O虚拟机并没有引入很大的开销对于直接分配给客户机的千兆网卡结论如此，我们正在研究万兆网卡和IB 网卡的性能结果 性能评价结论O 本地集群在通信上有巨大优势O对于CPU和内存密集型程序，CCI的性能和本地集群相似O究竟使用云还是本地集群，需要研究二者的性价比I/O系统的可配置性：背景O I/O是很多高性能应用程序的性能瓶颈应用程序的读写密集和并发度差别较大传统高性能平台只提供通用的、统一的I/O系统O 一些高性能程序开始考虑向云计算平台迁移O云计算平台可以带来I/O系统的高可配性完全受控的虚拟机环境，自定义配置

3、成为可能弹性的资源申请和方便的部署方式可选多种存储资源进行搭配O I/O系统的可配置性在于可以在虚拟集群上选择不同的文件系统可以利用多种底层存储设备进行组合可以充分调节文件系统参数，专门为特定的某一个高性能应用程序进行配置O I/O系统可配置性的挑战最优配置需要根据不同应用程序进行选择需要平衡性能和总成本I/O系统的可配置性：文件系统O网络文件系统(NFS)使用简单，只有POSIX系统调用接口对I/O需求较低的应用程序已经足够存在单点瓶颈，扩展性差O 并行文件系统(如PVFS)MPI-IO接口，对并行读写支持良好可以使用更多的IO节点，扩展性好I/O系统的可配置性：存储设备、O单实例临时存储设

4、备(Ephemeral)块设备，每节点2*800 GB,非持久化存储O弹性块设备(EBS)每个实例可挂载任意多块，可跨实例挂载持久化，生命期与虚拟机实例无关O云端数据库存储服务(S3)键值存储，面向数据库和互联网应用I/O系统的可配置性：文件系统参数参数描述服务器端同步模式NFS可以在服务器端在异步模式下服务客户端请求设备数目将多块磁盘做成软RAID0，提高读写带宽I/O服务器数目并行文件系统可以米用多个I/O服务器并行工作元数据服务器数目 元数据服务器数目可以调节，满足海量小文件需求元数据服务器分布元数据服务器可以和I/O服务器复用，或独立存放I/O服务器分布可以在I/O服务器上部署计算任务，提高利用率数据分布条带化参数，数据块大小等10. I/O系统的可配置性：结论O 针对不同的HPC应用配置I/O系统很有必要 不同HPC应用对I/O的需求不一样性能和价格需要折中O I/O配置的挑战应用的I/O行为决定了系统参数的选择领域专家对文件系统知识缺乏，缺少经验O自动化的IO优化配置是有实际意义的11.结论O高端处理器让HPC的云计算变得更加现实虚拟化的低开销可以忍受对于计算密集型的HP