hadoop基本用法

启动Hadoop

• 进入HADOOP_HOME目录。
• 执行sh bin/start-all.sh

关闭Hadoop

• 进入HADOOP_HOME目录。
• 执行sh bin/stop-all.sh

 

1、查看指定目录下内容

hadoop dfs –ls [文件目录]

eg: hadoop dfs –ls /user/wangkai.pt

2、打开某个已存在文件

hadoop dfs –cat [file_path]

eg:hadoop dfs -cat /user/wangkai.pt/data.txt

3、将本地文件存储至hadoop

Sudo –u ads hadoop fs –put [本地地址] [hadoop目录]

Eg: Sudo –u ads hadoop fs –put /home/wangkai.pt/file.txt  /user/wangkai.pt   

(file.txt是文件名)

4、将本地文件夹存储至hadoop

Sudo –u ads hadoop fs –put [本地目录] [hadoop目录]
eg: Sudo –u ads hadoop fs –put /home/wangkai.pt/dir_name /user/wangkai.pt

(dir_name是文件夹名)

5、将hadoop上某个文件down至本地已有目录下

hadoop fs -get [文件目录] [本地目录]

eg: sudu –u ads hadoop fs –get /user/wangkai.pt/ok.txt /home/wangkai.pt

6、删除hadoop上指定文件

Hadoop fs –rm [文件地址]

Eg: Sudu –u ads hadoop fs –rm /user/wangkai.pt/ok.txt

7、删除hadoop上指定文件夹（包含子目录等）

Hadoop fs –rm [目录地址]

Eg: Sudu –u ads hadoop fs –rmr /user/wangkai.pt

8、在hadoop指定目录内创建新目录

Sudo –u ads hadoop fs –mkdir /user/wangkai.pt

9、在hadoop指定目录下新建一个空文件

使用touchz命令：

Sudo  –u  ads  hadoop  fs  -touchz  /user/new.txt

10、将hadoop上某个文件重命名

使用mv命令：

Sudo  –u  ads  hadoop  fs  –mv  /user/test.txt  /user/ok.txt   （将test.txt重命名为ok.txt）

11、将hadoop指定目录下所有内容保存为一个文件，同时down至本地

Hadoop dfs –getmerge /user /home/wangkai.pt

12、将正在运行的hadoop作业kill掉

Hadoop job –kill  [job-id]