Chinaunix首页 | 论坛 | 博客
  • 博客访问: 7171100
  • 博文数量: 3857
  • 博客积分: 6409
  • 博客等级: 准将
  • 技术积分: 15948
  • 用 户 组: 普通用户
  • 注册时间: 2008-09-02 16:48
个人简介

迷彩 潜伏 隐蔽 伪装

文章分类

全部博文(3857)

文章存档

2017年(5)

2016年(63)

2015年(927)

2014年(677)

2013年(807)

2012年(1241)

2011年(67)

2010年(7)

2009年(36)

2008年(28)

分类: HADOOP

2015-11-17 12:51:52

Hadoop企业级集群架构 - Hadoop安装

[日期:2015-11-16] 来源:Linux社区  作者:chujq [字体:  ]

企业级集群架构 - Hadoop安装

1. 在h1.hadoop上解压并配置hadoop-2.5.2

2. 在hadoop安装目录下,创建tmp,data目录

3. 使用awk命令创建复制脚本 (java, hadoop-2.5.2)

awk '{ print "scp -rp hadoop-2.5.2 " $1 ":/home/grid" }' /home/grid/hadoop-2.5.2/etc/hadoop/slaves >dd.sh

source ./dd.sh

awk '{ print "scp -rp jdk1.7.0_79 " $1 ":/home/grid" }' /home/grid/hadoop-2.5.2/etc/hadoop/slaves >dd_java.sh

source ./dd_java.sh

4. 格式化namenode

bin/hdfs namenode -format

5. 启动Hadoop

sbin/start-dfs.sh

sbin/start-yarn.sh

6. 检查进程

/home/grid/jdk1.7.0_79/bin/jps

Master节点:

h1.hadoop.com

Sencod namenode节点:

h2.hadoop.com

其它3个datanoe节点:

h3.hadoop.com

h4.hadoop.com

h5.hadoop.com

7.运行示例

7.1 准备输入

mkdir input

cd input

echo "hello word" >test1.txt

echo "hello hadoop" >test2.txt

bin/hadoop fs -put /home/grid/hadoop-2.5.2/input /in

bin/hadoop fs -ls -R /in

7.2 运行示例

bin/hadoop jar /home/grid/hadoop-2.5.2/share/hadoop/mapreduce/hadoop-mapreduce-examples-2.5.2.jar wordcount /in/* /out

8. 查看结果

bin/hadoop fs -ls -R /out

bin/hadoop fs -cat /out/part-r-00000

下面关于Hadoop的文章您也可能喜欢,不妨看看:

14.04下Hadoop2.4.1单机/伪分布式安装配置教程  

安装和配置Hadoop2.2.0  

Ubuntu 13.04上搭建Hadoop环境 

Ubuntu 12.10 +Hadoop 1.2.1版本集群配置 

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式) 

Ubuntu下Hadoop环境的配置 

单机版搭建Hadoop环境图文教程详解 

更多Hadoop相关信息见 专题页面 

本文永久更新链接地址

阅读(1451) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~