在mapreduce中,我知道映射器不会相互通信。
但是,所有映射器都需要与所有化简器进行通信吗?

最佳答案

这取决于映射器生成的键集。如果它不产生任何需要由某个特定化简器处理的密钥,那么它可能根本不需要与该化简器进行通信。但是,映射器产生的键通常取决于其输入,并且输入可能因作业而异,因此对于某些作业,每个映射器都有可能(甚至可能)需要将数据发送到每个reducer。

关于hadoop - 在Hadoop中,mapreduce是否所有映射器都需要与所有reducer通信?,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/26006974/

10-12 23:04