MPICH2在两台Ubuntu上安装(用mpd做进程管理)

本文在经过大量的实验终于不负众望成功的在两台Ubuntu 12.04上部署MPI的一个小型集群,MPICH2所用版本为mpich2-1.4.1,下载地址:http://www.mcs.anl.gov/research/projects/mpich2staging/goodell/downloads/index.php?s=downloads

1.安装准备

1.1 首先肯定是需要安装GCC和G++编译器,这个直接apt-get就OK了;

sudo apt-get g++ gfortran

1.2 设置主机名

先在/etc/hosts中删除原来的hostname,然后 vi /etc/hostname改成你想要的,注意必须顶行写。然后使用hostname命令来重新得到hostname, logout一下再login就会改掉。

这里我用的是node1-ubuntu和node2-ubuntu。

1.3 修改hosts文件,修改如下:

 192.168.1.133    node1-ubuntu server
 192.168.1.135    node2-ubuntu

1.4 配置自动ssh登录

这里主要是要各个机器之间能无密码访问,主要用到的就是SSH,因此需要一些设置。

首先,我们需要导出各个节点的公钥和私钥:

$ ssh-keygen -t rsa 

在运行过程中,会提示你输入这个输入那个,不用管那么多,直接回车就完了。等运行结束后,进入.ssh目录,你会看到公钥和私钥文件;

$ cd ~/.ssh 
$ ls  
id_rsa   id_rsa.pub  

其中id_rsa就是私钥,id_rsa.pub就是公钥,现在我们需要把各个节点上的公钥都集中发送到一个节点上,来制作授权文件(authorized_keys).

注意:在两台机器必须安装ssh(sudo apt-get install ssh openssh-server)而且必须设置root密码(sudo passwd root),才能远程登录

$ scp ~/.ssh/id_rsa.pub node1-ubuntu:~/.ssh/1.pub

在将node2-ubuntu拷贝到node1-ubuntu后,在node1-ubuntu进行如下处理:

$ cp ~/.ssh/id_rsa.pub authorized_keys  
$ cat ~/.ssh/1.pub >> authorized_keys  

在node1-ubuntu上制作好的authorized_keys拷贝到node2-ubuntu上:(node1-ubuntu使用scp)

$ scp ~/.ssh/authorized_keys node2-ubuntu:~/.ssh/

要想让这两台机器无密码登录,所以我们需要更改一下必要的文件的权限(所有节点都要更改):其实只要保证authorized_keys的文件权限为600或者644

$ chmod 755 ~  
$ chmod 755 ~/.ssh  
$ chmod 600 ~/.ssh/authorized_keys  
$ chmod 600 ~/.ssh/id_rsa  
$ chmod 644 ~/.ssh/id_rsa.pub  

至此,SSH配置就完成了。下面检验一下:

在一个主机上面SSH另一个主机:

$ ssh node1-ubuntu

2.安装MPICH2

2.1  首先将下载的文件解压,下载的文件在当前用户目录里面的“下载”目录里面,我直接解压到当前目录:

$ tar xvfz mpich2-1.4.1.tar.gz  

2.2 安装官方文档配置的,可以查看解压后的README文档参考:由于是bash,因此选择以下命令,prefix指示安装路径,USERNAME就是当前用户的用户名,由于这里我不用fortran,因此加上参数(--disable-f77 and --disable-fc),

在此之前当然要建立安装MPICH的路径,也就是:

$ mkdir mpich2

运行shell程序configure对mpich进行一些配置,使用hydra作为pm

$ ./configure --prefix=/home/<USERNAME>/mpich2 --with-pm=mpd:hydra --disable-f77 --disable-fc 2>&1 | tee c.txt  

而且在之前的安装过程中,我发现如果不禁止fortran,安装会出问题,会导致MPICH2安装不完全而出错,是因为没有安装fortran编译器,如果使用C/C++的话,这里建议禁用fortran。

接下来,编译和安装:

$ make 2>&1 | tee m.txt  
$ make install 2>&1 | tee mi.txt  

安装完成后,会有如下情况:

至此,MPICH2安装完成。

2.3 设置进程的配置环境

这里所说的配置文件主要是进程管理的配置文件,hydra是默认的进程管理,smpd只支持MPICH2的windows版本,这里我们使用mpd。这段配置的详细情况见官方安装文档(章节:Installing and Managing Process Managers):http://www.mcs.anl.gov/research/projects/mpich2staging/goodell/documentation/files/mpich2-1.5-installguide.pdf

 MPI应用一个管理器来管理运行MPI程序,这个管理器就是mpd,但是在正式开始运行mpd前还需要一个基于安全考虑的配置文件,.mpd.conf,而这个文件只能由用户读写,创建文件如下:(在每个结点上)

1 cd $HOME
2 touch .mpd.conf
3 chmod 600 .mpd.conf

注意:$HOME是看你处于那个用户下还是root权限下,取决于你运行的权限问题。

然后在文件中写入secretword=***,***在参与的计算机上必须完全一致。

建立hosts文件:(在每个参与计算的计算机上都要有mpd.hosts)

$ sudo vim ~/mpd.hosts

文件的结构如下:
# Some Comments
MainNode:8 # other comments
Node1:2
Node2:2

每行中由冒号(:)分隔的前半部分表示节点,可以使用节点名也可以使用IP地址,貌似不区分大小写;后半部分表示可用的CPU数量。注释用“#”前导。根据你的实际情况撰写hosts文件。

编辑如下:

node1-ubuntu   #192.168.1.133  
node2-ubuntu  #192.168.1.135 

至此,设置完毕进程环境。

2.4 设置环境变量

这里设置环境变量主要是将MPICH的安装目录加到系统环境变量中,这里我在/etc/environment中加入对应的路径:

用vim编辑器打开/etc/environment:

$ sudo vim /etc/environment

输入密码之后,将下面语句添加到最后一行:

PATH="/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin:/usr/games:/home/awy/mpich2/bin"

3.验证是否成功:

1 $ which mpd
2 /home/awy/mpich2/bin/mpd
3 $ which mpicc
4 /home/awy/mpich2/bin/mpicc
5 $ which mpiexec
6 /home/awy/mpich2/bin/mpiexec
7 $ which mpirun
8 /home/awy/mpich2/bin/mpirun

这样就说明mpich已经安装成功了。

4.测试:

启动运算集群:

1 /home/awy# mpdboot -n 2 -f mpd.hosts

-n表示要启动的机器个数,一般是不大于mpd.hosts文件中的机器数,比如本文中的例子就是两台机器。这样,列表中的机器就会启动其本机上的mpd管理器。

测试MPICH源码包里example下的cpi,然后在主节点下运行:

# mpiexec -np 2 ./Download/mpich2-1.4.1/example/cpi

mpd在运行过程中,可以通过mpdtrace显示参与计算的机器名,mpdtrace –l则是显示机器名以及其端口.

5.问题解决

5.1 通过mpdcheck获得一些帮助信息

1 $   mpdcheck -pc

5.2 查错

1 $ mpdcheck -l

5.3 通过mpd.hosts文件查错

1 $ mpdcheck -f mpd.hosts     //如果无错误
2 $ mpdcheck -f mpd.hosts -ssh

5.4 如果上述无错误,可略过此步

对任意两台机器进行查错

node1-ubuntu: $ mpdcheck -s //输出主机名host和端口port
node2-ubuntu: $ mdpcheck -c host port

以上四步都是在没有运行mpd的情况下进行的。

5.5 mpd查错

node1-ubuntu: $ mpd -e & //返回使用的端口
node2-ubuntu: $ mpd -h node1-ubuntu -p echoed_port_node1-ubuntu &

以上测试通过,集群系统就建成了。

原文地址:https://www.cnblogs.com/awy-blog/p/3311112.html