我通过导入所有可能的库并检查与saveAstextFile或saveAsSequenceFile相关的所有问题的答案来尝试了所有可能的方法,甚至都没有帮助。因此启动一个新线程。
我收到一个错误“错误:值saveAsTextFile不是scala.collection.Map[String,Long] countResult.saveAsTextFile("tmp/testfile").的成员,同时尝试将rdd保存到HDFS。我正在按照以下步骤操作。

1.scala> import org.apache.spark.SparkFiles
import org.apache.spark.SparkFiles

2.scala> val countrdd = sc.parallelize(Array( "hadoop","spark","hadoop","spark")).map( k => (k,1))
countrdd: org.apache.spark.rdd.RDD[(String, Int)] = MapPartitionsRDD[17] at map at :28

3.scala> val countResult = countrdd.countByKey()
countResult: scala.collection.Map[String,Long] = Map(spark -> 2, hadoop -> 2)

4.scala> countResult.saveAsTextFile("tmp/testfile")
:33: error: value saveAsTextFile is not a member of scala.collection.Map[String,Long]
countResult.saveAsTextFile("tmp/testfile")

注意:我在独立集群上使用Spark 2.X版本。

最佳答案

saveAstextFile这样的方法仅适用于RDD
如果是RDD,则可以执行任意数量的转换,然后可以使用类似的方法

但是如果您已应用了action之类的任何countByKey,则类似方法将不再可用。

除了countByKey之外,您还可以在此处使用reduceByKey。您可以在RDD API示例部分下找到有关此here的更多详细信息。

或者您可以尝试以下代码:-

val countrdd = sc.parallelize(Array( "hadoop","spark","hadoop","spark"))
val findRDD = .map(word => (word, 1))
                 .reduceByKey(_ + _)

希望这能解决您的问题

谢谢

09-26 18:19