我有以下示例数据:
(id,code,key,value)
1,A,p,10
2,B,q,20
3,B,p,30
3,B,q,20
3,C,t,60
3,C,q,20
将其存储到PIG中后,我需要如下输出:
O/P:
(A,{(p,10)})
(B,{(q,40),(p,30)})
(C,{(t,60)},(q,20))
我们可以删除id,并需要输出将与特定代码的键匹配的所有值的总和相加。在上面的示例中,对于代码B,我们可以看到q,20是两倍,因此加起来成为q,40。
下面是我的代码,但无法获得确切的输出:
Lo = load 'pivot.txt' using PigStorage (',') as (id:chararray, code:chararray, key:chararray, value:int);
Aa = group L by (code);
Bb = foreach Aa {AUX = foreach Lo generate $0,$2,$3;generate group, AUX;}`
dump Bb:
(A,{(1,p,10)})
(B,{(3,q,20),(3,p,30),(2,q,20)})
(C,{(3,t,60),(3,q,20)})
我无法继续进行,非常感谢您的帮助。
谢谢,
罗希斯
最佳答案
pig 脚本:
input_data = LOAD 'input.csv' USING PigStorage(',') AS (id:int,code:chararray,key:chararray,value:int);
req_stats = FOREACH(GROUP input_data BY (code,key)) GENERATE FLATTEN(group) AS (code,key), SUM(input_data.value) AS value;
req_stats_fmt = FOREACH(GROUP req_stats BY code) GENERATE group AS code, req_stats.(key,value);
DUMP req_stats_fmt;
输入:
1,A,p,10
2,B,q,20
3,B,p,30
3,B,q,20
3,C,t,60
3,C,q,20
输出:DUMP req_stats_fmt
(A,{(p,10)})
(B,{(q,40),(p,30)})
(C,{(t,60),(q,20)})