Chinaunix首页 | 论坛 | 博客
  • 博客访问: 7785700
  • 博文数量: 593
  • 博客积分: 13065
  • 博客等级: 上将
  • 技术积分: 10313
  • 用 户 组: 普通用户
  • 注册时间: 2008-03-26 16:44
个人简介

推荐: blog.csdn.net/aquester https://github.com/eyjian https://www.cnblogs.com/aquester http://blog.chinaunix.net/uid/20682147.html

文章分类

全部博文(593)

分类: HADOOP

2016-10-25 17:25:06

编译hbase-1.2.3源代码.pdf

目录


1. 约定

确保机器可以正常访问Internet,如能正常访问等,如果是代理方式则需要设置好eclipsemaven的网络配置。

本文环境为64位版本Windows7jre安装目录为C:\java\jdk1.8.0_111,jdk安装目录为C:\java\jre1.8.0_111。

最好将jre安装在在jdk目录下,否则编译时会遇到“Could not find artifact jdk.tools:jdk.tools:jar”错误。将jre安装在jdk目录下的目的是使得jre的上一级存在jdklib目录。

2. 安装jdk

略!安装好后请设置环境变量JAVA_HOMEjdk的安装目录(不是javac所在的bin目录,而是bin的上一级目录)。

3. 安装maven

maven官网下载安装包(本文下载的是apache-maven-3.3.9-bin.zip):


解压后,将mavenbin目录加入到环境变量PATH中,本文对应的目录为C:\Program Files\apache-maven-3.3.9\bin。并设置环境变量M2_HOME的值为maven的安装目录,对于本文M2_HOME值为C:\Program Files\apache-maven-3.3.9


然后设置eclipse使用外部的maven,进入eclipsePreferences中按下图进行设置:

 

4. 网络配置

确保机器可以正常访问Internet,否则大量问题难以解决。如果是通过代理才能访问,则需要为eclipsemaven配置好代理。

4.1. eclipse

 

4.2. maven

编辑$HOME/.m2目录下的settings.xml,如果不存在该文件,则复制$MAVEN_HOME/conf目录下的settings.xml,然后再修改即可同。

MAVEN_HOMEmaven的安装目录,$HOME/.m2repository的默认目录,HOMEWindows用户目录,Windows7上假设用户名为mikeHOMEC:\Users\mike

假设代理服务器的地址和端口分别为:proxy.oa.com8080,则(不需要用户名或密码,则相应的值不设置即可):

    

      http-proxy

      true

      http

      

      

      proxy.oa.com

      8080

      local|127.0.0.1

        

    

      https-proxy

      true

      https

      

      

      proxy.oa.com

      8080

      local|127.0.0.1

    

5. 从hbase官网下载源代码包:

以下网站均提供hbase源代码包下载:


本文下载的是hbase-1.2.3-src.tar.gz。

6. eclipse导入hbase源代码

本文使用的eclipse版本:

 


hbase-1.2.3-src.tar.gz解压,本文将其解压到目录E:\bigdata\hbase-1.2.3-src,然后以“Existing Maven Projects”方式导入:

 


 


成功导入后如下图所示:

 


maven编译hbase源代码,编译整个hbase容易遇到错误,比如编译hbase-common需要安装bashhbase-thrift、但hbase-serverhbase-client等模块不依赖bash。为简单体验,先定一个小目标:编译hbase-thrift模块:

7. 编译hbase-thrift

鼠标右击hbase-thrift,按下图进入设置界面:

 


设置界面如下图所示,并设置Goalsclean install -DskipTests(注意不是clean install,需要加上-DskipTests,否则即使勾选了Skip Tests也可能无效):

 


然后点击“Run”即开始编译!

编译过程中如遇到下面的错误,请确认是否存在目录C:\java\jre1.8.0_111/../lib,其用意是jre安装在jdk的目录下,也就是说lib需要为jdklib目录。

简单的做法是复制jdklib目录到C:\java目录下。

[ERROR] Failed to execute goal on project hbase-thrift: Could not resolve dependencies for project org.apache.hbase:hbase-thrift:jar:1.2.3: Could not find artifact jdk.tools:jdk.tools:jar:1.8 at specified path C:\java\jre1.8.0_111/../lib/tools.jar -> [Help 1]


成功后如下图所示:

 


在目录E:\bigdata\hbase-1.2.3-src\hbase-thrift\target下可以看到编译生成的jar文件:

 


然后可以编译hbase-client,如果需要编译hadoop-common则需要安装bash先,也就是得安装cygwin)。

建议从国内镜像安装cgywin,会快很多,可用镜像:


选择从互联网安装,在“User URL”处输入国内镜像网址。

 


安装好cygwin后,需将cgywinbin目录加入到环境变量PATH中,并需要重启eclipse才会生效。如果未安装bash,则用同样方法编译hadoop-common时,会报如下错误:

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-antrun-plugin:1.6:run (generate) on project hbase-common: An Ant BuildException has occured: Execute failed: java.io.IOException: Cannot run program "bash": CreateProcess error=2, 系统找不到指定的文件。 -> [Help 1]

8. Problems opening an editor ... does not exist

eclipse里用F3想进入某个类的某方法时,提示以下错误(Problems opening an editor Reason: [项目名] does not exist):

 


解决办法(目的是生成“.project”和“.classpath”两个eclipse需要的文件):

按下图所示,进入项目的根目录,以hbasehbase-thrift为例,如hbase-thrift所在目录为E:\bigdata\hbase-1.2.3-src\hbase-thrift,注意不是E:\bigdata\hbase-1.2.3-src,然后执行:mvn eclipse:eclipse,成功后重启eclipse上述问题即解决(mvn eclipse:eclipse的作用是将maven项目转化为eclipse项目,即生成两个eclipse导入所需的配置文件,并无其他改变,也就是生成eclipse需要的.project.classpath两个文件):

 


其它诸于hbase-clienthbase-commonh base-server等同样处理即可。

9. hbase-common

编译hbase-common如遇到下述问题:

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:2.5.1:compile (default-compile) on project hbase-common: Compilation failure: Compilation failure:

[ERROR] E:\bigdata\hbase-1.2.3-src\hbase-common\target\generated-sources\java\org\apache\hadoop\hbase\package-info.java:[5,39] 错误: 非法转义符

[ERROR] E:\bigdata\hbase-1.2.3-src\hbase-common\target\generated-sources\java\org\apache\hadoop\hbase\package-info.java:[5,30] 错误: 未结束的字符串文字

[ERROR] E:\bigdata\hbase-1.2.3-src\hbase-common\target\generated-sources\java\org\apache\hadoop\hbase\package-info.java:[6,0] 错误: 需要class, interface或enum

[ERROR] E:\bigdata\hbase-1.2.3-src\hbase-common\target\generated-sources\java\org\apache\hadoop\hbase\package-info.java:[6,9] 错误: 需要class, interface或enum

[ERROR] -> [Help 1]

 

打开package-info.java:

/*

 * Generated by src/saveVersion.sh

 */

@VersionAnnotation(version="1.2.3", revision="Unknown",

                         user="mooon\mike

", date="Tue Oct 25 18:02:39     2016", url="file:///cygdrive/e/bigdata/hbase-1.2.3-src",

                         srcChecksum="88f3dc17f75ffda6176faa649593b54e")

package org.apache.hadoop.hbase;

 

,可以看到问题出在“mike”后多了一个换行符,正常应当是:

/*

 * Generated by src/saveVersion.sh

 */

@VersionAnnotation(version="1.2.3", revision="Unknown",

                         user="mooon\mike", date="Tue Oct 25 18:02:39     2016", url="file:///cygdrive/e/bigdata/hbase-1.2.3-src",

                         srcChecksum="88f3dc17f75ffda6176faa649593b54e")

package org.apache.hadoop.hbase;

 

查看hadoop-commonsaveVersion.sh,部分内容如下:

unset LANG

unset LC_CTYPE

 

version=$1

outputDirectory=$2

 

pushd .

cd ..

 

user=`whoami`

date=`date`

cwd=`pwd`

 

问题就出在whoami命令返回了mooon\mike,并且mike后跟了一个换行符导致的,因此可以如下消灭多余的换行符:

unset LANG

unset LC_CTYPE

 

version=$1

outputDirectory=$2

 

pushd .

cd ..

 

user=`whoami|awk '{printf("%s",$1);}'`

date=`date`

cwd=`pwd`

 

再次编译,仍然报错:

[ERROR] Failed to execute goal org.apache.maven.plugins:maven-compiler-plugin:2.5.1:compile (default-compile) on project hbase-common: Compilation failure

[ERROR] E:\bigdata\hbase-1.2.3-src\hbase-common\target\generated-sources\java\org\apache\hadoop\hbase\package-info.java:[5,39] 错误: 非法转义符

[ERROR] -> [Help 1]

 

再次打开package-info.java:

/*

 * Generated by src/saveVersion.sh

 */

@VersionAnnotation(version="1.2.3", revision="Unknown",

                         user="mooon\mike", date="Tue Oct 25 17:59:21     2016", url="file:///cygdrive/e/bigdata/hbase-1.2.3-src",

                         srcChecksum="88f3dc17f75ffda6176faa649593b54e")

package org.apache.hadoop.hbase;

 

问题出在“mooon\mike”间的斜杠,需要将单个斜杠改成双斜杠“mooon\\mike”或者干脆去掉“mooon\”仅保留“mike”也可以。

 

再次修改saveVersion.sh,直接写死user

unset LANG

unset LC_CTYPE

 

version=$1

outputDirectory=$2

 

pushd .

cd ..

 

user=mike

date=`date`

cwd=`pwd`

 

然后再次编译hadoop-common,终于成功了:

阅读(4472) | 评论(4) | 转发(0) |
给主人留下些什么吧!~~

Aquester2016-11-01 10:29:02

设置maven编译器级别:

1) 全局设置
在settings.xml文件中找到<profiles>标签,然后在此标签内部粘贴如下内容:
<profile>
    <id>jdk-1.6</id>
    <activation>
        <jdk>1.6</jdk>
    </activation>
    <properties>
        <maven.compiler.source>1.6</maven.compiler.source>
        <maven.compiler.target>1.

Aquester2016-11-01 10:07:12

Maven官方有两个插件列表:
第一个列表的GroupId为org.apache.maven.plugins,这里的插件最为成熟,具体地址为:http://maven.apache.org/plugins/index.html
第二个列表的GroupId为org.codehaus.mojo,这里的插件没有那么核心,但也有不少十分有用,其地址为:http://mojo.codehaus.org/plugins.html,但是codehaus已废弃(当前已不能访问http://docs.codehaus.org/display/MAVENUSER/Compiler+Plugin)。

Aquester2016-10-26 18:53:47

/usr/local/jdk/bin/java -Dproc_thrift2 -XX:OnOutOfMemoryError=\'kill -9 %p\' -XX:+UseConcMarkSweepGC -Dhbase.log.dir=/data/hbase/bin/../logs -Dhbase.log.file=hbase-gongyi-thrift2-hadoop-031.log -Dhbase.home.dir=/data/hbase/bin/.. -Dhbase.id.str=gongyi -Dhbase.root.logger=INFO,RFA -Dhbase.security.logger=INFO,RFAS -classpath `find /data/hbase/libX -name \"*.jar\"|awk \'{printf(\"%s:\", $0);}\'` org.apache.hadoop.hbase.thrift2.ThriftServer --infoport 9086 -p 9876

Aquester2016-10-25 17:54:25

\'./.bashrc\' -> \'/home/mike//.bashrc\'
\'./.bash_profile\' -> \'/home/mike//.bash_profile\'
\'./.inputrc\' -> \'/home/mike//.inputrc\'
\'./.profile\' -> \'/home/mike//.profile\'