Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1108532
  • 博文数量: 143
  • 博客积分: 969
  • 博客等级: 准尉
  • 技术积分: 1765
  • 用 户 组: 普通用户
  • 注册时间: 2011-07-30 12:09
文章分类

全部博文(143)

文章存档

2023年(4)

2021年(2)

2020年(4)

2019年(4)

2018年(33)

2017年(6)

2016年(13)

2014年(7)

2013年(23)

2012年(33)

2011年(14)

我的朋友

发布时间:2018-07-19 10:40:41

MapReduce输入数据源不仅可以是文件还可以是Hbase,从Hbase读取数据需要注意以下细节1、Mapper类需要从TableMapper继承,并且实现函数 void map(ImmutableBytesWritable key, Result columns, Context context)ImmutableBytesWritable key 实际上是Hbase表记录的rowkeyResult columns 是hbase.........【阅读全文】

阅读(1735) | 评论(0) | 转发(0)

发布时间:2018-07-17 18:02:13

创建用户 1. 创建hadoop用户组sudo  groupadd hadoop2. 创建hadoop用户 sudo useradd -g hadoop hadoop3. 给hadoop用户添加权限,打开/etc/sudoers文件 Vi /etc/sudoers按回车键后就会打开/etc/sudoers文件了,给hadoop用户赋予root用户同样的权限在root  ALL=(ALL:.........【阅读全文】

阅读(6329) | 评论(0) | 转发(0)

发布时间:2018-07-09 19:01:15

点击(此处)折叠或打开import backtype.storm.spout.SpoutOutputCollector; import backtype.storm.task.TopologyContext;import backtype.storm.topology.OutputFieldsDeclarer;import backtype.storm.topology.base.BaseRichSpout;imp.........【阅读全文】

阅读(1506) | 评论(0) | 转发(0)

发布时间:2018-07-07 17:11:16

由于storm使用zookeeper 来管理的,所以在安装storm前先要安装zookeeper安装zookeeper1)下载安装Java JDK,JDK版本为JDK 6或以上。2)根据Zookeeper集群的负载情况,合理设置Java堆大小,尽可能避免发生swap,导致Zookeeper性能下降。保守期间,4GB内存的机器可以为Zookeeper分配3GB最大堆空间。3)下载后.........【阅读全文】

阅读(1248) | 评论(0) | 转发(0)

发布时间:2018-07-07 16:59:10

Strom是什么      Storm是由专业数据分析公司BackType开发的一个分布式计算框架,可以简单、高效、可靠地处理大量的数据流。Twitter在2011年7月收购该公司,并于2011年9月底正式将Storm项目开源。软件核心部分使用Clojure开发,外围部分使用Java开发。      Storm可以方便.........【阅读全文】

阅读(8107) | 评论(0) | 转发(0)
给主人留下些什么吧!~~
留言热议
请登录后留言。

登录 注册