combiner hadoop

Combiner用来在map输出之前先做一次合并,减少map和reduce节点之间的数据传输,优化mapreduce。    

Combiner相当于是一个小的reduce,如下所示

map:(key1,value1) ——> list(key2,value2)

combiner:(key2,list(value2)) ——> list(key2,value2)

reduce:(key2,list(value2)) ——> list(key3,value3)

注意一下几点:

1、如果当前集群在很繁忙的情况下job就是设置了也不会执行Combiner。

2、Combiner的输出是Reduce的输入,它绝不会改变最终的计算结果。

3、combiner的数据类型是由reduce决定的,因而输入输出是和reducer一致的。又因为combiner的输出是reducer的输入,所以reducer的输入输出的数据类型要保持一致的时候才能使用combiner,否则报错。 

原文地址:https://www.cnblogs.com/chenyaling/p/5575407.html