我正在使用SparkSession
运行我的spark应用程序,因为我使用了很多spark-sql功能。我想使用JavaSparkContext
从列表中创建一个RDD。但是通过 session ,我只能得到一个普通的SparkContext
。有没有办法在这个方向上转换上下文?
最佳答案
确定SparkContext
后,可以使用:
SparkContext sc = ...
JavaSparkContext jsc = JavaSparkContext.fromSparkContext(sc);
这将为您返回
JavaSparkContext
的新实例,但是只要您仅维护SparkContext
的一个 Activity 实例就没有问题。