在scala spark中,可以创建一个命名的累加器,该累加器将显示在Web ui中
val accum = sc.accumulator(0, "My Accumulator")
但是pyspark
sc.accumulator()
方法没有名称参数。是否可以在pyspark中创建一个命名的累加器,该累加器将显示在Web ui中? 最佳答案
在pyspark中无法创建命名的累加器。这个问题已经提出。您可以跟踪该线程https://issues.apache.org/jira/browse/SPARK-2868。
关于python - 在pyspark中命名为累加器,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/51639796/