pbs-torque应用方案

高性能集群作业调度系统,高晓泽2016.06.19上海承蓝科技股份有限公司,提纲,一、PBS作业调度系统概述二、PBS基本命令三、PBS任务提交方法,1.1PBS作业调度系统,PBS（PortableBatchSystem）,最初由NASA的Ames研究中心开发，设计为一个能满足异构计算网络需要的软件包。它力求提供对批处理的初始化和调度执行的控制，允许作业在不同主机间的路由。PBS的开源版本为OpenPBS，目前已经停止开发。PBS的商业版为PBSPro，由Altair公司开发和维护。TORQUE(Tera-scaleOpen-sourceResourceandQueuemanager）为OpenPBS的后续开源版本，修正了OpenPBS的很多bug，功能和可扩展性都有很大提高。,1.2作业调度系统功能,系统资源整合异构资源，软硬件资源的整合任务综合管理用户提交的任务的统一安排用户权限的管理对用户进行各类权限控制,1.3作业调度系统的组成,资源管理器：管理集群的软硬件资源及认证信息等队列管理器：管理当前所有已提交但还未完成的作业调度器：为作业分配资源,1.4作业调度系统的组成,2.1PBS主要操作,节点查看,提交作业,查看作业,作业其他操作,2.2PBS查看节点状态,xxxxadmin$pbsnodes-anode2state=freenp=12ntype=clusterstatus=rectime=1347344839,varattr=,jobs=,state=free,netload=1994804223313,gres=,loadave=0.15,ncpus=32,physmem=132133404kb,availmem=147084788kb,totmem=148910612kb,idletime=1721946,nusers=1,nsessions=1,sessions=2455,uname=Linuxnode22.6.32-220.el6.x86_64#1SMPWedNov908:03:13EST2011x86_64,opsys=linuxgpus=0node3state=downnp=12ntype=cluster,pbsnodes命令的主要参数-a列出所有结点及其属性，属性包括“state”和“status”-o将指定结点的状态标记为“offline”。这将帮助管理员暂时停止某些结点的服务-l以行的方式列出被标记的结点的状态，如-lfree，-loffline-c清除结点列表中的“offline”或“down”状态设置，使结点可以被分配给作业-r清除指定结点的“offline”状态,2.2PBS查看节点状态,2.3PBS作业提交,步骤：准备：编写描述该作业的脚本，包括作业名，需要的资源等。提交：使用qsub命令将该作业提交给PBS服务器排队：服务器将该任务排入适当的队列调度：服务器检查各工作节点的状态是否符合该作业的要求，并进行调度。执行：当条件满足时，作业被发给相应的执行服务器执行。程序运行时执行服务器会收集程序的标准输出和标准错误流，等程序结束时，将这些信息返回给用户。查询和调整：当作业在运行时，用户可以使用qstat进行状态查询。用户发现作业提交错误时，可以使用qdel删除正在运行的作业。查看结果：使用文本编辑软件vi或者系统命令cat,less等查看输出及错误信息显示。,2.4PBS作业提交基本命令,在PBS系统中，用户使用qsub命令提交用户程序。用户运行程序的命令及PBS环境变量设置组成PBS作业脚本，如下,作业脚本使用如下格式提交到PBS系统运行,2.5PBS运行参数,运行参数在PBS脚本和qsub命令行中均有效，qsub命令行参数的优先级更高,2.6PBS环境变量,2.7PBS脚本