在scala spark中,可以创建一个命名的累加器,该累加器将显示在Web ui中

val accum = sc.accumulator(0, "My Accumulator")

但是pyspark sc.accumulator()方法没有名称参数。是否可以在pyspark中创建一个命名的累加器,该累加器将显示在Web ui中?

最佳答案

在pyspark中无法创建命名的累加器。这个问题已经提出。您可以跟踪该线程https://issues.apache.org/jira/browse/SPARK-2868

关于python - 在pyspark中命名为累加器,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/51639796/

10-10 23:47