我有一个关于合并的问题。目前尚不清楚它的副作用。我有以下RDD:
JavaRDD<String> someStrings = //...
JavaRDD<String> coalescedStrings = someStrings.coalesce(100, false); //descreasing
那么,实际发生了什么?如果我对
someStrings
进行一些操作会影响coalescedStrings
吗? 最佳答案
那么,实际发生了什么?
首先,由于coalesce
是Spark转换(并且所有转换都是惰性的),因此什么也没有发生。没有读取数据,也没有对该数据执行任何操作。发生了什么-创建了一个新的RDD(它只是分布式数据的驱动程序端抽象)。这个新的RDD是一组用于读取/转换数据的指令,该指令集与称为someStrings
的指令集相同,不同之处在于它包含一个“指令”:将数据重新划分为100个分区。在新的RDD(coalescedStrings
)上进行的操作/转换将使用100个分区(每个阶段将转换为100个任务)来执行任何处理,这与在someStrings
上使用原始分区计数的操作不同。因此,两个RDD将包含相同的数据(如果对其进行操作),但是分区不同。
如果我对someStrings
进行某些操作会影响coalescedStrings
吗?
不,两个RDD完全*彼此独立-对一个RDD的操作不会影响另一个。 someStrings
仍具有其原始分区数。
*这有一些例外,主要是在缓存方面:例如,如果在计算的任何阶段缓存了someStrings
,并且在someStrings
上进行操作之前先在coalescedStrings
上进行操作-然后在coalescedStrings
上进行后续操作cc>将能够使用缓存的结果并从那里继续。