集群简单配置.doc

集群中MPI简单配置2011-12-30 15:28127人阅读评论(0)收藏举报一、集群和Linux上的集群解决方案集群计算机是指用一组联网的PC或工作站来搭建成的，提供比单个PC（节点）计算性能高得多的计算机。说其是计算机，其实是针对所提供出来的服务而言的， 或者说是逻辑上来说的。集群计算机的主要优势就是成本，相同的计算能力下，其成本只有传统大型机的十分之一，在全球计算机TOP500中，集群计算机的比 重越来越大，近两年的比重超过了80%。特别是对中小企事业应用，实验研究和教学有很大的竞争力。集群系统(Cluster)主要解决下面几个问题：1高可靠性（HA）。利用集群管理软件，当主服务器故障时，备份服务器能够自动接管主服务器的工作，并及时切换过去，以实现对用户的不间断服务。2高性能计算（HP）。充分利用集群中的每一台计算机的资源，实现复杂运算的并行处理，通常用于科学计算领域，比如基因分析，物理与化学分析等。3负载平衡。即把负载压力根据某种算法合理分配到集群中的每一台计算机上，以减轻主服务器的压力，降低对主服务器的硬件和软件要求。在实际应用中，最常见的情况是利用集群解决负载平衡问题，比如用于提供WWW服务。在这里主要展示如何使用LVS(Linux Virtial Server)来实现实用的WWW负载平衡集群系统关于集群计算机的操作系统，在TOP500中现在主要的操作系统都有身影，但是应用最多的是LINUX操作系统。这首先利益于LINUX的开放源代码，使得其有很高的可制定性，可以根据不同的硬件和应用环境作出相应的修改，其次，LINUX也有很高的稳定性，而且不乏商业支持。为了降低程序开发的难度和提高程序的可移植性，目前基于LINUX的集群计算环境主要是通过配置MPI（Message Passing Interface）环境可实现的。这也是目前比较成熟的应用模式。因此，本文主要讲解LINUX下的集群环境配置的要求和MPI的配置。LINUX集群环境的配置主要有以下几个部分：1 MPI并行计算环境的安装和配置2 计算节点之间的无密码访问3 NFS共享文件系统的配置/注:在集群配置过程中,MPI运行环境的安装和配置是必要的，至于计算节点之间的无密码访问和NFS共享，则是在运算效率和文件管理上对高性能计算提出的要求。一般来说，只要具有MPI运行环境可以运算并行计算。二、linux集群中MPI的并行计算环境的简单配置MPI的安装及简单测试MPI有多种实现版本，如MPICH， CHIMP以及OPENMPI。其中MPICH是一种最重要的MPI实现，它可以从网上免费获得Linux和Windows版本。它的开发和MPI规范的制定是同步的，因此最能反映MPI的变化和发展，MPICH由此成为实现MPI的最成熟和最广泛使用的版本。本文安装的MPI软版本为MPICH-1.2.6。安装步骤：1、从网上下载MPICH压缩包（mpich.tar.gz）2、解压：# tar zxvf mpich.tar.gz3、进入解压后的目录： # cd mpich-1.2.64、配置： # ./configure prefix=/usr/local/mpich其中/usr/local/mpich为软件所安装的目录5、编译 # make6、安装 # make install7、配置该软件的用户搜索路径Root 用户下：修改/etc/profile 加入PATH=$PATH:/usr/local/mpich/binMANPATH=$MANPATH:/usr/local/mpich/manExport PATH MANPATH普通用户下：修改/.bash_profile 加入export PATH=$PATH:/usr/local/mpich/bin8、修改/usr/local/mpich/share/machines.LINUX文件，加入集群中可以用来做并行计算的主机名(八节点集群为例)加入的内容为：Local:4Node11:4Node22:4（注：冒号后为节点的CPU数或者内核数）9、MPI环境的简单测试在服务器节点上，以mpich 自带的计算PI值的并行计算程序cpi对所搭建的集群环境做简单的测试。步骤：在/usr/local/mpich/example目录下（1） 编译 # make cpi（2） 启动并行计算 # mpirun np N cpi (其中N 为节点机的个数)可以看到PI值及误差和计算时间，说明环境搭建基本成功。至此，所组建的MPI集群基本成。虽然现在主流的集群配置都是基于MPI的，但是由于MPI的标准和MPI实现的多样性，特别是商业应用领域中不同的商业封装的存在，在MPI环境的安装和配置过程中，要详细的阅读相关的帮助文件。以求正确的配置好MPI运行环境。三、计算节点之间的无密码访问这 一点主要是针对高性能计算来说的。在高性能计算中，计算任务被分割成并行的几个部分，而这几个部分之间也是有相互关联，根据计算任务的不同和任务分割的方 法的不同。计算节点之间的通信量也是不同的。这也是衡量和影响集群计算机性能的主要方面。从逻辑上讲，计算节点之间的无密码访问可以使计算进程在集群计算 机内自由跳跃，从而提高集群计算的效率。目前主要的访问机制有RSH和SSH，相对来说SSH的安全性更好些。关于这两种节点间访问机制的配置，网上有很 多的教程，本文将简述SSH在节点之间的无密码访问。实现原理使用一种被称为公私钥认证的方式来进行ssh登录. 公私钥认证方式简单的解释是首先在客户端上创建一对公私钥 （公钥文件：/.ssh/id_rsa.pub； 私钥文件：/.ssh/id_rsa）然后把公钥放到服务器上（/.ssh/authorized_keys）, 自己保留好私钥当ssh登录时,ssh程序会发送私钥去和服务器上的公钥做匹配.如果匹配成功就可以登录了1用用户anyone登录客户机器并在客户端机器上执行ssh-keygen -t rsa产生的密钥文件。如果文件/.ssh/id_rsa存在，会提示是否覆盖该文件，此时可选择n不覆盖该文件而使用已有的id_rsa文件；如果选择y则会重 新生成/.ssh/id_rsa文件，接下来会提示输入passphrase，回车确定使用空的passphrase，再次回车确认（这里也可以输 出passphrase，相当于ssh时登录的密码）。然后会重新生成/.ssh/id_rsa文件和/.ssh/id_rsa.pub文件 （结果如下）。如果/.ssh/id_rsa文件和/.ssh/id_rsa.pub文件不存在则会自动创建新的/.ssh/id_rsa文件和/.ssh/id_rsa.pub文件，passphrase设置同上。2、使用ssh登录到服务器，编辑服务器上/.ssh/authorized_keys文件，将客户端机器上的/.ssh/id_rsa.pub文件内容追加到/.ssh/authorized_keys文件中。此时会要求输入zhaoy在服务器上的登录密码，输入后即会将客户端机器上的/.ssh/id_rsa.pub文件内容追加到服务器上的/.ssh/authorized_keys文件中）3完成了密钥的生成和分发之后就可以进行无密码的SSH登陆了，当然在密钥的生成和分发过程中，有很多可控的参数。这一点要注意查看相关的MAN和使用GOOGLE来解决。四、NFS共享文件系统的配置配置NFS共享文件系统是因为在高性能计算过程中，各计算节点要频繁对任务进行数据的读取和存储。使用NFS一来可以提高I/O读写的效率，可以有针对性 的提高NFS系统的可靠性。另外有一点需要注意，在配置计算环境时，要尽量使得与节点配置无关的文件处于NFS系统中，这可以提高管理效率，降低文件冗 余。还有就是使文件系统在各个节点上有相同的路径。关于NFS的设置网上和书本中有很多。下面简单介绍一下。1 服务器端的设定服务器端的设定都是在/etc/exports这个文件中进行设定的，设定格式如下：欲分享出去的目录 主机名称1或者IP1(参数1，参数2） 主机名称2或者IP2（参数3，参数4）上面这个格式表示，同一个目录分享给两个不同的主机，但提供给这两台主机的权限和参数是不同的，所以分别设定两个主机得到的权限。例如可以编辑/etc/exports为：/tmp*(rw,no_root_squash)/home/public192.168.0.*(rw) *(ro)/home/test00(rw)/home/linux *.(rw,all_squash,anonuid=40,anongid=40)设定好后可以使用以下命令启动NFS:/etc/rc.d/init.d/portmap start (在REDHAT中PORTMAP是默认启动的）/etc/r