Chinaunix首页 | 论坛 | 博客
  • 博客访问: 156794
  • 博文数量: 53
  • 博客积分: 2059
  • 博客等级: 大尉
  • 技术积分: 490
  • 用 户 组: 普通用户
  • 注册时间: 2009-09-14 20:25
文章分类
文章存档

2012年(1)

2011年(25)

2010年(16)

2009年(11)

我的朋友

分类: LINUX

2011-11-12 10:21:28

学Hadoop的时候,根据官方文档配置单节点的时候,在运行sh start-all.sh时遇到出现问题:


localhost: starting datanode, logging to /usr/local/hadoop/bin/../logs/hadoop-root-datanode-fedora.out
localhost: Unrecognized option: -jvm
localhost: Could not create the Java virtual machine.

在网上搜到很多 Could not create the Java virtual machine.都是说内存分配不够或者其他的问题,跟Hadoop相关的不多。搜了很多最后找到了这个问题的原因,首先说一下我安装过程。

因为是本机,所以为了方便加上习惯性su开启root运行,故同样也用root来运行start-all.sh,于是上面问题出现了,到网上搜了,有人说改/hadoop/conf/hadoop-env.sh中的


# The maximum amount of heap to use, in MB. Default is 1000.
# export HADOOP_HEAPSIZE=2000

把 HADOOP_HEAPSIZE的值设为一个更小的,当然这样说的人肯定是以为jvm不能启动是因为内存大小没满足1000的要求,内存不足使得 Could not create the Java virtual machine,看起来貌似有道理,但是怎么解释-jvm的问题呢?动手改改看,改过以后,无果,至少说明我遇到的不是这问题。继续搜,最后发现是在hadoop/bin/hadoop中有如下一段shell:

  1. CLASS='org.apache.hadoop.hdfs.server.datanode.DataNode'
  2. if [[ $EUID -eq 0 ]];
  3. then
  4. HADOOP_OPTS="$HADOOP_OPTS -jvm server $HADOOP_DATANODE_OPTS"
  5. else
  6. HADOOP_OPTS="$HADOOP_OPTS -server $HADOOP_DATANODE_OPTS"
  7. fi
其中的
  1. if [[ $EUID -eq 0 ]]; then
  2. HADOOP_OPTS="$HADOOP_OPTS -jvm server $HADOOP_DATANODE_OPTS"


如果 $EUID 为 0,什么意思呢?
有效用户标识号(EUID):该标识号负责标识以什么用户身份来给新创建的进程赋所有权、检查文件的存取权限和检查通过系统调用kill向进程发送软 中断信号的许可权限。
在root用户下echo $EUID,echo结果为 0
ok,在root下会有-jvm选项添加上去,上面说的Unrecognized option: -jvm难道就是这里产生的。

两个想法。一个想法是自己改了这shell代码,去掉里面的-jvm。另外一个想法是 既然这里要求 $EUID -eq 0,那别用$EUID不为0的(root用户)用户运行即可。果断试试,换上普通用户根据文档提示做。ok,成功。好奇的再试试第一个想法,其实暂时还是不太想动源码。但是这shell动动也没妨,果断去掉上面的-jvm,直接把上面的if else 结构直接去掉改为

  1. HADOOP_OPTS="$HADOOP_OPTS -server $HADOOP_DATANODE_OPTS"

同样运行成功。

如上几个尝试最终证明问题就出现在与-jvm这个参数选项,这是由于Hadoop版本或者java版本差异产生的问题吗?继续研究中…

转载:

阅读(3204) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~