val reduced_rdd = mofm.reduceByKey(_ + _)
                      .map(item => item.swap)
                      .sortByKey(false)
                      .take(5)
                      .saveAsTextFile("/home/scrapbook/tutorial/IPLData/")

给出错误:
<console>:40: error: value saveAsTextFile is not a member of Array[(Int, String)]
   val reduced_rdd = mofm.reduceByKey(_ + _).map(item => item.swap).sortByKey(false).take(5).saveAsTextFile("/home/scrapbook/tutorial/IPLData/")

最佳答案

.take(5) or .collect

导致RDD类型被丢弃。

saveAsTextFile需要一个RDD;在take(5)或collect之后,您将不再拥有它。

你需要:
val x = ...
...
take(5)

sc.parallelize(x).saveAsTextFile("path")

关于apache-spark - Spark saveAsTextFile无法正常工作,请引用以下代码,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/54842779/

10-09 02:54