Chinaunix首页 | 论坛 | 博客
  • 博客访问: 89596
  • 博文数量: 44
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 431
  • 用 户 组: 普通用户
  • 注册时间: 2013-09-13 14:21
文章分类
文章存档

2014年(2)

2013年(42)

我的朋友

分类: HADOOP

2013-11-06 09:11:31

hive大数据除重问题研究
 
存量表: store
增量表:  incre 
 
字段:
1. p_key   除重主键
2. w_sort  排序依据
3. info    其他信息
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
方法一(union all + row_number()over ):
  
insert overwrite table limao_store  
  select p_key,sort_word 
    from ( select tmp1.*, row_number() over(distribute by sort_word sort by p_key desc) rownum 
             from ( select *
                      from limao_store   
                    union all   
                    select *
                      from limao_incre 
                   ) tmp1 
         ) hh 
   where hh.rownum = 1;
  
  
分析, 长表排序
  
  
方法二(left outer join + union all):
注意:  hive 不支持 顶层 union all ,而且union all 结果必须有别名
insert overwrite table limao_store 
select t.p_key,t.sort_word from (
  select s.p_key,s.sort_word from limao_store s left outer join limao_incre i on(s.p_key=i.p_key) where i.p_key=null
  union all
  select p_key,sort_word from limao_incre);
    
  
  
分析:  不能识别 incre中的重复数据   长表关联 ,  表宽度加倍
  
  
方法三(left outer join + insert into)
  
insert overwrite table store 
    select s.* from store s left outer join incre i on(s.p_key=i.p_key) where i.p_key=null    
    insert into table jm_g_l_cust_secu_acct  
    select * from jm_g_l_cust_secu_acct_tmp;
  
  分析:  insert into 最好不用。 使用insert into 在hdfs中的表现为,在表(分区)文件夹下,建立新的文件
存放insert into数据, 造成文件碎片,降低以后该表查询效率。
      
  
==================================================================================
  
  
use nets_life;
create table limao_store 
(
    p_key string,
    sort_word string
)ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE;
  
create table limao_incre 
(
    p_key string,
    sort_word string
)ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE;
  
  
建表语句
  
use nets_life;
create table limao_store 
(
    p_key string,
    sort_word string
)ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE;
  
create table limao_incre 
(
    p_key string,
    sort_word string
)ROW FORMAT DELIMITED FIELDS TERMINATED BY ',' STORED AS TEXTFILE;
  
=====================================================
  
================================================================================================

 

总结:  方法二和方法三原理相同。 方法三建议避免
 
方法二、方法三 暗含逻辑:
    1.增量同步数据(incre)和存量数据(store)冲突时,总是认为增量数据为最新的
    2.无论增量数据表  还是 存量数据表, 表内没有重复字段
 
方法一, 不暗含上述逻辑。 全部合并,严格按排序字段排名取第一
 
一千万数据 store 和 一百万数据 incre 测试结果
 
方法一:  Time taken: 317.677 seconds
方法二:  Time taken: 106.032 seconds
 
总结: 方法二时间使用上大幅度少于方法一,但没有内部除重功能,只能用于比较除重。
如果想要了解其他搬家公司的更多内容,大家可以参考:这个网站

阅读(400) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~