我有一个10节点群集。
当我提交Hive作业时,出现以下错误-

WARN org.apache.hadoop.mapred.TaskTracker: Task Tracker local Incorrect permission for /data/gomz/mapred/local, expected: rwxr-xr-x, while actual: rwxrwxr-x
ERROR org.apache.hadoop.mapred.TaskTracker: Can not start TaskTracker because org.apache.hadoop.util.DiskChecker$DiskErrorException: all local directories are not writable
    at org.apache.hadoop.mapred.TaskTracker.checkLocalDirs(TaskTracker.java:5268)
    at org.apache.hadoop.mapred.TaskTracker.initializeDirectories(TaskTracker.java:907)
    at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:979)
    at org.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:2176)
    at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:5310)
mapred.local.dirmapred-site.xml中的taskcontroller.cfg都指向/data/gomz/mapred/local
对于Hive session ,我使用以下设置:
SET hive.exec.scratchdir=/dev/tmp/hive;
SET hive.metastore.warehouse.dir=/dev/warehouse; (setting works for Hive jobs that do not launch MR)

错误可能指向其他哪些本地目录?

最佳答案

您可以检查/data的权限吗?

你可以试试这个命令吗?

sudo chown $USER /data

执行此命令后,请重试。

关于hadoop - Hadoop任务跟踪器-所有本地目录都不可写,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/23565823/

10-11 10:43