Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1108522
  • 博文数量: 143
  • 博客积分: 969
  • 博客等级: 准尉
  • 技术积分: 1765
  • 用 户 组: 普通用户
  • 注册时间: 2011-07-30 12:09
文章分类

全部博文(143)

文章存档

2023年(4)

2021年(2)

2020年(4)

2019年(4)

2018年(33)

2017年(6)

2016年(13)

2014年(7)

2013年(23)

2012年(33)

2011年(14)

我的朋友

发布时间:2018-06-15 18:41:49

总结:  1、当reducenum 设置为1时,自定义的分区函数不会被调用,这可以理解  2、在实现compare 函数时要要注意,两个对象firstKey值不相等是要直接返回,只有两个相等时,才比较secondKey,自己在实现是没有注意到这个问题随便写了,调试半天没有发现问题。      错误写法如下:  &nbs.........【阅读全文】

阅读(785) | 评论(0) | 转发(0)

发布时间:2018-06-14 20:26:56

假设有如下原始数据DATA1,我们需要通过Map Reducer得到DATA3. DATA1 DATA2 DATA3 A   5  A   5  .........【阅读全文】

阅读(4127) | 评论(0) | 转发(0)

发布时间:2018-06-11 21:25:37

......【阅读全文】

阅读(623) | 评论(0) | 转发(0)

发布时间:2018-06-11 21:03:28

注意点:  点击(此处)折叠或打开import org.apache.commons.lang.StringUtils;import org.apache.commons.logging.Log;import org.apache.commons.logging.LogFactory;import org.apache.hadoop.fs.*;import org.apache..........【阅读全文】

阅读(772) | 评论(0) | 转发(0)

发布时间:2018-06-11 20:59:07

Join 就是对两个文件中相关联字段进行关联,如:File1中含有字段 公司ID,公司名称File2 中含有字段 公司ID,公司生产量 现在需要统计如下数据:公司名称,公司ID,公司生产量就需要将File1,File2根据公司ID进行join,得到以上数据 Mapreduce join有以下几种方式1、 .........【阅读全文】

阅读(727) | 评论(0) | 转发(0)
给主人留下些什么吧!~~
留言热议
请登录后留言。

登录 注册