Chinaunix首页 | 论坛 | 博客
  • 博客访问: 873430
  • 博文数量: 372
  • 博客积分: 10063
  • 博客等级: 中将
  • 技术积分: 4220
  • 用 户 组: 普通用户
  • 注册时间: 2012-02-24 11:36
文章分类

全部博文(372)

文章存档

2012年(372)

分类: 虚拟化

2012-03-11 16:52:59

前文说到如何搭建集群中第一个节点,这篇将说到如何向集群添加节点。这篇是基于前文的,没有看过前文的可以参考此链接:http://www.cnblogs.com/mikelij/archive/2012/03/06/2380937.html

2 向集群添加节点

前文已经建立了一个节点的hadoop集群。现在要做的添加节点。安装JDK, 创建hadoop用户等见前文。这里就不重复了。

2.1 检查主机名,修改/etc/hostname, /etc/hosts

新节点需要在这个集群里叫一个名字,给此节点命名,比如slavenode1, slavenode2, etc.集群里新加入的服务器都需要在/etc/hostname中改名,将规定的服务器名放在/etc/hostname文件中。然后将已有服务器上的/etc/hosts拷贝过来。再加上此新节点的主机名。然后再复制到群里每一个服务器中。即所有集群中服务器的/etc/hosts文件要一样。

2.2 配置SSH Key以便hadoop用户无密码登录集群

与前文不同的是,此处只需要将之前的节点产生的ssh key等拷贝过来就可以了。用hadoop用户登录,

sudo apt-get install ssh

安装完ssh就可以从已有的服务器上拷贝ssh key了。

mkdir /home/hadoop/.ssh

scp hadoop@namenode:/home/hadoop/.ssh/* /home/hadoop/.ssh/

这就拷贝过来了。之所以要从已有服务器上拷贝ssh key,是因为如果两个服务器的ssh key不一致,则第一次连服务器时,还是需要密码的。这里的需求是hadoop用户连任何一个集群中的服务器都不需要密码,因此需要拷贝已有服务器上的ssh key.

下面需要从此节点用ssh命令连 到已有的所有节点上去。已有的节点只有一个时,假设本节点的主机名是slavenode1, 就ssh namenode, ssh localhost, ssh slavenode1。如果已经有namenode, slavenode1, slavenode2... 到slavenode6, 那么就尝试ssh namenode, ssh slavenode1, ssh slavenode2, ..., ssh slavenode6, ssh localhost. 保证这些连接都是不需要密码就可连接的就可以了。另外在换到其他机器上,都ssh 此节点的主机名,如ssh slavenode1s。这样的方法,就可以保证每台机器间都可以用ssh无密码就可以连接。用的用户都是hadoop。

2.3 安装hadoop包

可参考前文的1.5, 这里就不重复了。

2.4 namenode上的hadoop配置

集群里要加入新的节点,可以在namenode服务器上的mapred-site.xml中加入dfs.hosts和mapred.hosts两个元素。即象这样:


dfs.hosts
/usr/local/hadoop/hadoop-0.20.203.0/conf/slaves


mapred.hosts
/usr/local/hadoop/hadoop-0.20.203.0/conf/slaves

然后再在/usr/local/hadoop/hadoop-0.20.203.0/conf/slaves文件中写上集群中所有的节点的主机名。一个主机名占一行。如:

namenode

slavenode1

slavenode2

...

如果dfs.hosts和mapred.hosts已经加好了,就只需要到slaves中加入一行。

2.5 新加入节点的hadoop配置

集群中所有节点的hadoop配置要全部保持一致。即那些core-site.xml, hdfs-site.xml, mapred-site.xml, masters, slaves可以从已有节点处拷贝过来。包括/etc/environment也可以从已有节点那里拷贝过来。用scp命令,上面已经用过了,再用scp拷贝这些文件过来。

2.6 新加入节点启动

start-dfs.sh

start-mapred.sh

2.7 通知namenode和jobtracker有新节点加入

在第一台服务器(namenode兼jobtracker)运行的情况下,到第一台服务器那里,

hadoop dfsadmin -refreshNodes

这是通知hdfs有新节点加入

hadoop mradmin -refreshNodes

这是通知jobtracker有新节点加入

2.8 验证集群是否正常工作

还是老办法,用一些常用命令将一些服务器上的本地文件方到服务器上,如:

hadoop fs -put testfolder uploadfolder

再拷贝,删除等做一做。

另外验证jobtracker和所有的tasktracker是否正常工作,还是用wordcount示例来运行:

hadoop jar hadoop-examples-0.20.203.0.jar wordcount input output

得到大概这样的结果就对了, 即map增长到100%, reduce也增长到100%。

访问 可以看到集群里所有的datanode

还有 可以看到集群里所有的tasktracker

2.7 启动集群

namenode上运行:

start-all.sh

slavenode上运行:

start-dfs.sh

start-mapred.sh

2.8 停止集群

slavenode上运行:

stop-mapred.sh

stop-dfs.sh

namenode上运行:

stop-all.sh

2.9 遇到的问题

Too many fetch-failures问题

这次还是遇到了这个问题,和单机时一样的错误信息Too many fetch-failures,略有不同的是reduce不是卡在0%,而是卡在17%那里就不动了。

这次又是到处检查,最后发现是第一台服务器的/etc/hosts文件里少写了一个服务器名字。将这个服务器名字补上以后,这个wordcount示例就可以正常运行了。

所以集群中所有服务器的/etc/hosts, core-site.xml, hdfs-site.xml, mapred-site.xml, masters, slaves,还有ssh key所在.ssh目录等文件和目录都需完全一样。

以上说的是往集群里添加节点,这里说的是添加第二个节点,此过程适用于以后所有新节点的添加。第三个一直到第n个都是按同样的方法来添加。只要重复以上过程就可以了。

本文就说到这里。后文再说一些hadoop集群管理的内容。

阅读(728) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~