我正在使用SparkSession运行我的spark应用程序,因为我使用了很多spark-sql功能。我想使用JavaSparkContext从列表中创建一个RDD。但是通过 session ,我只能得到一个普通的SparkContext。有没有办法在这个方向上转换上下文?

最佳答案

确定SparkContext后,可以使用:

SparkContext sc = ...
JavaSparkContext jsc = JavaSparkContext.fromSparkContext(sc);

这将为您返回JavaSparkContext的新实例,但是只要您仅维护SparkContext的一个 Activity 实例就没有问题。

07-24 14:41