我通过导入所有可能的库并检查与saveAstextFile或saveAsSequenceFile相关的所有问题的答案来尝试了所有可能的方法,甚至都没有帮助。因此启动一个新线程。
我收到一个错误“错误:值saveAsTextFile不是scala.collection.Map[String,Long] countResult.saveAsTextFile("tmp/testfile").
的成员,同时尝试将rdd保存到HDFS。我正在按照以下步骤操作。
1.scala> import org.apache.spark.SparkFiles
import org.apache.spark.SparkFiles
2.scala> val countrdd = sc.parallelize(Array( "hadoop","spark","hadoop","spark")).map( k => (k,1))
countrdd: org.apache.spark.rdd.RDD[(String, Int)] = MapPartitionsRDD[17] at map at :28
3.scala> val countResult = countrdd.countByKey()
countResult: scala.collection.Map[String,Long] = Map(spark -> 2, hadoop -> 2)
4.scala> countResult.saveAsTextFile("tmp/testfile")
:33: error: value saveAsTextFile is not a member of scala.collection.Map[String,Long]
countResult.saveAsTextFile("tmp/testfile")
注意:我在独立集群上使用Spark 2.X版本。
最佳答案
像saveAstextFile
这样的方法仅适用于RDD
。
如果是RDD
,则可以执行任意数量的转换,然后可以使用类似的方法
但是如果您已应用了action
之类的任何countByKey
,则类似方法将不再可用。
除了countByKey
之外,您还可以在此处使用reduceByKey
。您可以在RDD API示例部分下找到有关此here的更多详细信息。
或者您可以尝试以下代码:-
val countrdd = sc.parallelize(Array( "hadoop","spark","hadoop","spark"))
val findRDD = .map(word => (word, 1))
.reduceByKey(_ + _)
希望这能解决您的问题
谢谢