我有一个10节点群集。
当我提交Hive作业时,出现以下错误-
WARN org.apache.hadoop.mapred.TaskTracker: Task Tracker local Incorrect permission for /data/gomz/mapred/local, expected: rwxr-xr-x, while actual: rwxrwxr-x
ERROR org.apache.hadoop.mapred.TaskTracker: Can not start TaskTracker because org.apache.hadoop.util.DiskChecker$DiskErrorException: all local directories are not writable
at org.apache.hadoop.mapred.TaskTracker.checkLocalDirs(TaskTracker.java:5268)
at org.apache.hadoop.mapred.TaskTracker.initializeDirectories(TaskTracker.java:907)
at org.apache.hadoop.mapred.TaskTracker.initialize(TaskTracker.java:979)
at org.apache.hadoop.mapred.TaskTracker.<init>(TaskTracker.java:2176)
at org.apache.hadoop.mapred.TaskTracker.main(TaskTracker.java:5310)
mapred.local.dir
和mapred-site.xml
中的taskcontroller.cfg
都指向/data/gomz/mapred/local
对于Hive session ,我使用以下设置:
SET hive.exec.scratchdir=/dev/tmp/hive;
SET hive.metastore.warehouse.dir=/dev/warehouse; (setting works for Hive jobs that do not launch MR)
错误可能指向其他哪些本地目录?
最佳答案
您可以检查/data
的权限吗?
你可以试试这个命令吗?
sudo chown $USER /data
执行此命令后,请重试。
关于hadoop - Hadoop任务跟踪器-所有本地目录都不可写,我们在Stack Overflow上找到一个类似的问题:https://stackoverflow.com/questions/23565823/