我有一个关于合并的问题。目前尚不清楚它的副作用。我有以下RDD:

JavaRDD<String> someStrings = //...
JavaRDD<String> coalescedStrings = someStrings.coalesce(100, false); //descreasing


那么,实际发生了什么?如果我对someStrings进行一些操作会影响coalescedStrings吗?

最佳答案

那么,实际发生了什么?


首先,由于coalesce是Spark转换(并且所有转换都是惰性的),因此什么也没有发生。没有读取数据,也没有对该数据执行任何操作。发生了什么-创建了一个新的RDD(它只是分布式数据的驱动程序端抽象)。这个新的RDD是一组用于读取/转换数据的指令,该指令集与称为someStrings的指令集相同,不同之处在于它包含一个“指令”:将数据重新划分为100个分区。在新的RDD(coalescedStrings)上进行的操作/转换将使用100个分区(每个阶段将转换为100个任务)来执行任何处理,这与在someStrings上使用原始分区计数的操作不同。因此,两个RDD将包含相同的数据(如果对其进行操作),但是分区不同。


  如果我对someStrings进行某些操作会影响coalescedStrings吗?


不,两个RDD完全*彼此独立-对一个RDD的操作不会影响另一个。 someStrings仍具有其原始分区数。

*这有一些例外,主要是在缓存方面:例如,如果在计算的任何阶段缓存了someStrings,并且在someStrings上进行操作之前先在​​coalescedStrings上进行操作-然后在coalescedStrings上进行后续操作cc>将能够使用缓存的结果并从那里继续。

07-24 09:53