我正在尝试从Eclipse Rich Platform应用程序连接到本地计算机上的Spark集群,以创建Spark Streaming上下文。从spark shell进行连接可以正常工作,但是当我尝试从该类中运行代码时,结果是:

 WARN ReliableDeliverySupervisor: Association with remote system [akka.tcp://host:7077] has failed, address is now gated for [5000] ms. Reason is: [Disassociated].


显然,主机与我在Spark Shell中使用的主机相同。

这是我尝试连接到Spark的代码块。

SparkConf conf = new SparkConf().setAppName("SparkNode")
        .setMaster("spark://host:7077").set("spark.akka.heartbeat.interval", "100");

JavaSparkContext sc = new JavaSparkContext(conf);
JavaStreamingContext ssc = new JavaStreamingContext(sc,Durations.seconds(3));
ssc.awaitTermination();


重试几次,然后终止。

最佳答案

可能存在版本问题,如果使用maven或在1.4中有jar文件,则您的spark服务器可能是1.3,而在pom文件中有1.4的依赖关系,请在代码中交叉引用它

SparkConf conf = new SparkConf().setAppName("SparkNode")
        .setMaster("spark://host:7077").set("spark.akka.heartbeat.interval", "100");


火花://主机:7077
该主机应为主机名

关于java - 无法连接到Spark Master:原因是:[已取消关联],我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/30935072/

10-10 03:14
查看更多