按类别查询搜索结果
关于关键词 的检测结果,共 99
aquester | 2019-10-22 14:28:03 | 阅读(2040) | 评论(0)
目录目录 11. 背景 12. 环境 13. 执行语句 14. 问题描述 15. 错误信息 26. 问题原因 37. 解决办法 4 1. 背景机房裁撤,需将源HBase集群的数据迁移到目标HBase集群,采用快照迁移方式。2. 环境Hadoop-3.1.2 + HBase-2.2.13. 执行语句...【阅读全文】
vivo互联网技术 | 2019-09-25 21:43:12 | 阅读(1710) | 评论(0)
随着 Java8 的不断流行,越来越多的开发人员使用并行流(parallel)这一特性提升代码执行效率。但是,作者发现在 Tomcat 容器中使用并行流会出现动态加载类失败的情况,通过对比 Tomcat 多个版本的源码,结合并行流和 JVM 类加载机制的原理,成功定位到问题来源。本文对这个问题展开分析,并给出解决方案。【阅读全文】
浅色年华 | 2018-07-09 15:03:23 | 阅读(3840) | 评论(0)
为了学习HBase,跑过来先把Hadoop学习下。主要是根据马老师之前直播的教程来学习的。好了,废话不多说了,开搞。相比VMware,Vritual Box是免费的,因此这里采用Virtual Box。首先在virtualbox官网的下载页面下载Virtual Box,并安装。安装过程没什么好说的。在CentOS官网下载最新版的CentOS 7,下载的时候要DVD ...【阅读全文】
lmz1951 | 2017-02-18 19:34:55 | 阅读(0) | 评论(0)
hbase shell基础和常用命令详解【阅读全文】
pamire | 2017-01-13 20:06:14 | 阅读(5610) | 评论(1)
hive export table 【阅读全文】
清无 | 2017-01-06 23:28:24 | 阅读(930) | 评论(0)
root@localhost:/usr/local/hadoop-1.0.2# bin/hadoop namenode -format复制代码会出现datanode无法启动,查看日志,发现错误为:三、解决办法把配置文件中dfs.data.dir在本地系统的路径下的current/VERSION中的namespaceID改为与namenode一样。java.io.IOException: Incompatibl...【阅读全文】
xuxiyao8888 | 2016-12-06 13:54:55 | 阅读(0) | 评论(0)
1. 需求:7 9999 3 99997 77774 223 77777 5553 66666 03 88884 11将上面的数据按照第一列分组,然后第二列排序yarn jar target/WordCount-0.0.1.jar WordCount.WordCount.SecondarySort /user/sort /user/...【阅读全文】
sanshugen | 2016-08-13 16:12:53 | 阅读(1870) | 评论(0)
CentOS添加环境变量在Linux CentOS系统上安装完php和MySQL后,为了使用方便,需要将php和mysql命令加到系统命令中,如果在没有添加到环境变量之前,执行“php -v”命令查看当前php版本信息时时,则会提示命令不存在的错误,下面我们详细介绍一下在linux下将php和mysql加入到环境变量中的方法(假设php和mysq...【阅读全文】
【HADOOP】 hbase hbck详
wenhq | 2016-06-04 23:39:30 | 阅读(2590) | 评论(0)
hbck 是hbase里的一把用来检查hbase region和表一致性及修复错误块的利剑。是hbase管理中不可或缺的工具。【阅读全文】
OowarrioroO | 2016-04-24 16:40:38 | 阅读(2010) | 评论(0)
HIVE安装环境:ubuntu14.04 hadoop-2.6.0 hive-2.0.0
?1.下载安装
?下载链接:http://mirror.bit.edu.cn/apache/hive/
?解压安装:
2.参数配置
?2.1设置环境变量
2.2设置配置文件
3错误信息:
Exception in thread "main" java.lang.RuntimeException: Hive metastore database is not initialized.
Exception in thread "main" java.lang.IllegalArgumentException: java.net.URISyntaxException: 【阅读全文】
levy-linux | 2016-03-17 11:57:58 | 阅读(2670) | 评论(0)
ambari默认3个journalnode节点,但是如果一个节点出现问题,需要增加补充,ambari界面没有操作的选项,所以只能通过其他命令方式操作,看到之前有个文章是将HA降级,之后重新做HA,这样的风险太高了,操作负载,从网上找到了其他方式,分享给需要的朋友,也希望ambari新版本可以将这个增加journalnode功能,添加进去。增...【阅读全文】
speckle | 2016-03-01 08:23:49 | 阅读(2280) | 评论(0)
Hadoop NameNode HA【阅读全文】
levy-linux | 2015-12-23 11:12:05 | 阅读(3540) | 评论(0)
Ambari和CM管理平台都提示,建议关闭THP,这是为什么?如果不关闭THP,发现Hadoop的系统态CPU使用率很高,原因是RHEL6优化了内存申请的效率,而且在某些场景下对KVM的性能有明显提升。而Hadoop是个高密集型内存运算系统,这个改动似乎给它带来了副作用。理论上运算型Java程序应该更多的使用用户态CPU才对,Cloudera官...【阅读全文】
levy-linux | 2015-12-10 11:52:00 | 阅读(5470) | 评论(0)
1、问题前几天因为一个hive SQL的问题,导致其中很多节点机器的磁盘空间不足,job执行结束后,临时文件删除解决了空间不足的问题;查看http://hostname:8088/cluster/nodes发现出现了一个unhealty节点,错误信息如下1/4 local-dirs turned bad: /data1/hadoop/yarn/local;1/4 log-dirs turned bad: /data1/hadoop/yarn/...【阅读全文】
xuemling | 2015-09-17 16:02:21 | 阅读(1710) | 评论(0)
Spark 安装及使用详解,包括spark-sql 以及 JDBC-Server 模式【阅读全文】
levy-linux | 2015-09-10 14:46:21 | 阅读(3270) | 评论(0)
在运行中的ambari hadoop集中中动态添加或删除节点<br /><br /><strong>1. 下线节点</strong><br />1) namenode节点上dfs.exclude文件,看配置文件怎么配置的,里每行添加一个服务器名,如我要下线server7,server8,server9,则如下:<br />server7<br />server8<br /><br />resourcemanager节点上yarn.exclude文件里...【阅读全文】
【HADOOP】 Haodoop RPC
Aquester | 2015-09-07 12:47:15 | 阅读(2800) | 评论(0)
<a href="/blog/downLoad/fileid/11720.html" target="_blank"><img src="/image/default/fj.png" align="middle" />Haodoop RPC解析.pdf</a><br /><p class="p19" style="margin-bottom:0pt;margin-top:0pt;"><a href="#_Toc27030 ">1.&nbsp;前言1</a><o:p></o:p></p><p class="p19" style="margin-bottom:0pt;margi...【阅读全文】
xuemling | 2015-08-11 10:36:23 | 阅读(2880) | 评论(0)
HadoopHA【一】 hadoop配置文件详解【阅读全文】
levy-linux | 2015-08-06 17:58:10 | 阅读(1530) | 评论(0)
添加节点

1.修改host
和普通的datanode一样。添加namenode的ip

2.修改namenode的配置文件conf/slaves
添加新增节点的ip或host

3.在新节点的机器上,启动服务
[root@slave-004 hadoop]# ./bin/hadoop-daemon.sh start datanode
[root@slave-004 hadoop...【阅读全文】
CuteB | 2015-07-06 14:18:35 | 阅读(1290) | 评论(0)
1.对于分布式系统和框架的架构来说,一般分为两部分:<br />第一部分:管理层,用于管理应用层的<br />第二部分:应用层(工作的)<br />NameNode(元数据服务器)<br />Secondary NameNode(辅助元数据服务器)<br />JobTracker(任务调度员)<br />DataNodes(块存储) &nbsp; &nbsp;TaskTracker(任务执行)<br /><br />HD...【阅读全文】