Chinaunix首页 | 论坛 | 博客
  • 博客访问: 6318445
  • 博文数量: 2759
  • 博客积分: 1021
  • 博客等级: 中士
  • 技术积分: 4091
  • 用 户 组: 普通用户
  • 注册时间: 2012-03-11 14:14
文章分类

全部博文(2759)

文章存档

2019年(1)

2017年(84)

2016年(196)

2015年(204)

2014年(636)

2013年(1176)

2012年(463)

发布时间:2013-10-24 11:47:52

     部署完成Hadoop/Hbase集群之后,开始测试Sleuthkit,结果发现tpkickoff.sh运行时不断提醒zookeeper的连接错误:Session 0x0 for server。网上大部分的资料说问题出在DNS的解析上,需要去修改/etc/hosts文件,但是之前部署分布式的时候这个文件就已经设置好了,所以问题应该不是在这里。于是考虑这个奇.........【阅读全文】

阅读(457) | 评论(0) | 转发(0)

发布时间:2013-10-17 08:59:32

     在单机上部署好hadoop与hbase之后,现在终于要开始在集群上来部署了。一路配置下来,个人觉得其实分布式配置与单机配置差不多,但是修改了配置文件中的一些参数适应分布式。当然这只是简单地配置部署,如果真的要作为一个实际系统来使用,考虑性能稳定性等其他因素的时候当然就没有这么简单了,但是今.........【阅读全文】

阅读(783) | 评论(0) | 转发(0)

发布时间:2013-10-08 00:32:34

我们接着分析,上一章节中讲到了,allocator将满足特定frameworkID的资源列表offerable,发送给了Master::offer()函数,我们就来看看offer函数做了什么工作:点击(此处)折叠或打开void Master::offer(const FrameworkID& frameworkId,       .........【阅读全文】

阅读(680) | 评论(0) | 转发(0)

发布时间:2013-10-08 00:32:26

本篇我们就来介绍一下,Mesos是如何支持Hadoop计算框架的。对于Mesos的安装和配置,以及Hadoop的安装和配置,这里就不再多说,前面的博文中有详细的介绍和说明。让Hadoop支持Mesos的计算框架,其实对于Hadoop用户来讲,实现起来并不是非常的困难,但是前提是你的hadoop是MR1的,因为最新的hadoop版本基于MR2来实现的,其中.........【阅读全文】

阅读(873) | 评论(0) | 转发(0)

发布时间:2013-09-29 13:27:38

有人问我,“你在大数据和Hadoop方面有多少经验?”我告诉他们,我一直在使用Hadoop,但是我处理的数据集很少有大于几个TB的。他们又问我,“你能使用Hadoop做简单的分组和统计吗?”我说当然可以,我只是告诉他们我需要看一些文件格式的例子。他们递给我一个包含600MB数据的闪盘,看起来这些数据并非样本数据,由于一.........【阅读全文】

阅读(1281) | 评论(0) | 转发(0)
给主人留下些什么吧!~~
留言热议
请登录后留言。

登录 注册