按类别查询搜索结果
关于关键词 "HADOOP" 的检测结果,共 2200
虹波2016 | 2016-04-19 10:13:51 | 阅读(16560) | 评论(0)
本文详细介绍了在RedHat6.2以上版本的Linux服务器之上快速搭建hadoop2.6版本的集群方法。以下操作步骤是笔者在安装hadoop集群的安装笔记,如有对hadoop感兴趣的博友可按照本文操作进行无障碍搭建。博主可以确认以下所有操作步骤的准确性和可行性,如在搭建过程中遇到任何问题欢迎随时交流。【阅读全文】
zhaoritian | 2016-04-18 10:50:18 | 阅读(280) | 评论(0)
hadoop找不到主类 export HADOOP_CLASSPATH=$JAVA_HOME/lib/tools.jar理解【阅读全文】
OowarrioroO | 2016-04-15 21:26:50 | 阅读(620) | 评论(0)
Hadoop 提交任务执行流程总结
用流水线可表示任务执行流程如下:
input(k1,v1) -> map -> (k2,v2) -> combine -> shuffle(partitioner) -> sort -> (k2,v2) -> reduce -> (k3,v3) ->output【阅读全文】
zghover | 2016-04-14 15:54:55 | 阅读(1420) | 评论(0)
hadoop 安装【阅读全文】
海峡 | 2016-04-12 15:39:31 | 阅读(600) | 评论(0)
1、什么是yarn? 2、Yarn 和MapReduce相比,它有什么特殊作用 ?背景 Yarn是一个分布式的资源管理系统,用以提高分布式的集群环境下的资源利用率,这些资源包括内存、IO、网络、磁盘等。其产生的原因是为了解决原MapReduce框架的不足。最初MapReduce的committer们还可以周期性的在已有的代码上进行修改,...【阅读全文】
【架构设计与优化】 Hadoop进程启动过程分析
海峡 | 2016-04-11 21:27:15 | 阅读(610) | 评论(0)
hadoop 启动过程【阅读全文】
【大数据】 hadoop集群快速搭建
dusir120 | 2016-04-10 17:15:45 | 阅读(670) | 评论(0)
我们将部署一个两节点的hadoop集群,集群架构如下图: 2016-04-10 05.png【阅读全文】
OowarrioroO | 2016-04-01 21:28:43 | 阅读(500) | 评论(0)
hadoop namenode -formate后,上传文件报错 0 datanode(s) running and no node(s) are excluded
1.报错内容:
?put: File /user/username/testData/matrixdata.txt._COPYING_ could only be replicated to 0 nodes instead of minReplication (=1). There are 0 datanode(s) running and no node(s) are excluded in this operation.
2.错误分析与解决
?打开hdfs-site.xml里配置的datanode和namenode对应的目录,分别打开current文件夹里的VERSION,可以看到clusterID项正如日志里记录的一样,确实不一致,修改datanode里VERSION文件的clusterID 与namenode里的一致,再重新启动dfs(执行start-dfs.sh)再执行jps命令可以看【阅读全文】
【服务器与存储】 Hadoop2集群搭建过程
niao5929 | 2016-03-24 13:08:59 | 阅读(1130) | 评论(0)
Hadoop2集群搭建过程[日期:2016-03-23]来源:Linux社区  作者:zouqingyun[字体:大 中 小]在这里我选用4台机器进行示范,各台机器的职责如下表格所示(说明:  1. ZooKeepe使用其它节点的 2. Hadoop0节点...【阅读全文】
海峡 | 2016-03-22 16:25:23 | 阅读(560) | 评论(0)
hadoop master second【阅读全文】
zzjlzx | 2016-03-21 10:38:53 | 阅读(1020) | 评论(0)
Hadoop虚拟化扩展(HVE)之资源扩展技术作者:vBigData  发布日期:2013-11-07 10:22:29背景在虚拟化的云环境中,Hadoop可以有更好的“弹性”,这是云计算的一个重要优势,例如亚马逊的EMR(ElasticMapReduce)服务, 用户可以迅速的在云中根据需求部署一个H...【阅读全文】
zzjlzx | 2016-03-21 10:35:48 | 阅读(920) | 评论(0)
正式生产环境下hadoop集群的DNS+NFS+ssh免密码登陆配置作者:weir2010  发布日期:2014-06-09 18:03:05环境虚拟机centos6.5主机名h3  IP 192.168.137.11  作为DNS FNS的服务器主机名h4  IP 192.168.137.12主机名h3  I...【阅读全文】
levy-linux | 2016-03-17 17:42:57 | 阅读(900) | 评论(0)
hadoop之steaming介绍hadoop有个工具叫做steaming,能够支持python、shell、C++、PHP等其他任何支持标准输入stdin及标准输出stdout的语言,其运行原理可以通过和标准java的map-reduce程序对比来说明:使用原生java语言实现Map-reduce程序    hadoop准备好数据后,将数据传送给java的map程序 &nbs...【阅读全文】
【系统运维】 Redhat 下hadoop简单搭建
foreverxp0 | 2016-03-16 21:51:14 | 阅读(1200) | 评论(0)
一   hadoop简介 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。 用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进行高速运算和存储。        Hadoop实现了一个分布式文件系统(Hadoop Distributed File System...【阅读全文】
jelon521 | 2016-03-15 15:58:04 | 阅读(910) | 评论(0)
Hadoop简介        Hadoop是Apache软件基金会旗下的一个开源分布式计算平台。以Hadoop分布式文件系统(HDFS,Hadoop Distributed Filesystem)和MapReduce(Google MapReduce的开源实现)为核心的Hadoop为用户提供了系统底层细节透明的分布式基础架构。对于Hadoop的集群来讲,...【阅读全文】
niao5929 | 2016-03-10 08:06:32 | 阅读(980) | 评论(0)
Hadoop2.2.0上Spark伪分布式安装[日期:2016-03-09]来源:Linux社区  作者:yeruby[字体:大 中 小]Hadoop2.2.0上Spark伪分布式安装过程笔记。1. 从官网上下下载合适的版本:http://spark.apache.org/downloads.html...【阅读全文】
niao5929 | 2016-03-10 08:05:36 | 阅读(940) | 评论(0)
CentOS 6.4+Hadoop2.2.0 Spark伪分布式安装[日期:2016-03-09]来源:Linux社区  作者:sunflower_cao[字体:大 中 小]Hadoop版本是2.2.0的稳定版本 下载地址spark版本:spark-0.9.1-bin-hadoop2  下载地址http://spark.apache....【阅读全文】
【大数据】 Hadoop伪分布式
zhaoritian | 2016-03-04 17:33:08 | 阅读(0) | 评论(0)
参见:http://www.powerxing.com/install-hadoop/1.格式化 ./bin/hdfs namenode -format2.开启 NameNode 和 DataNode 守护进程  ./sbin/start-dfs.sh3.  jps   显示java进程4.停止 ./sbin/stop-dfs.sh5.成功启动后,可以访问 Web 界面 http://localhost:50070 查看 NameNode...【阅读全文】
speckle | 2016-03-01 08:23:49 | 阅读(840) | 评论(0)
Hadoop NameNode HA【阅读全文】
hackeruncle | 2016-02-25 16:37:00 | 阅读(840) | 评论(0)
本博文收集和整理了在日常维护hadoop集群时运维工程师需要掌握的最基本的hadoop管理与维护的相关命令,在此分享出来供大家参考学习~博主也是刚刚接触hadoop不久,如有问题欢迎批评指正~非常感谢【阅读全文】