分享

hdfs日志报错,每天在固定时间点报错

mjjian0 发表于 2014-11-27 15:20:32 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 5 15602
这是hadoop-hadoop-namenode-master.log记录的异常日志,看了几天的日志,几乎每天都在5:25左右回有这个异常,网上查了说事,动态分区太多导致的,但是我的hive建的表都没有动态分区啊。显然不符合我的情况。
2014-11-27 05:25:34,034 INFO org.apache.hadoop.ipc.Server: IPC Server handler 9 on 9000, call addBlock(/tmp/hive-root/hive_2014-11-27_05-22-01_723_2371934662368645001/_tmp.-mr-10002/_tmp.000010_0, DFSClient_attempt_201406270956_4815_r_000010_0, null) from 10.0.1.105:60791: error: org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-11-27_05-22-01_723_2371934662368645001/_tmp.-mr-10002/_tmp.000010_0 File does not exist. Holder DFSClient_attempt_201406270956_4815_r_000010_0 does not have any open files.org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-11-27_05-22-01_723_2371934662368645001/_tmp.-mr-10002/_tmp.000010_0 File does not exist. Holder DFSClient_attempt_201406270956_4815_r_000010_0 does not have any open files.        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1664)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1655)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1571)        at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:771)        at sun.reflect.GeneratedMethodAccessor163.invoke(Unknown Source)        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)        at java.lang.reflect.Method.invoke(Method.java:597)        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:557)        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1439)        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1435)        at java.security.AccessController.doPrivileged(Native Method)        at javax.security.auth.Subject.doAs(Subject.java:396)        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1278)        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1433)

已有(5)人评论

跳转到指定楼层
mjjian0 发表于 2014-11-27 15:51:17
回复

使用道具 举报

desehawk 发表于 2014-11-27 15:52:04


这个文件是存在还是不存在,楼主配置的这个文件/tmp/hive-root/,用来存储什么的?

  1. /tmp/hive-root/hive_2014-11-27_05-22-01_723_2371934662368645001/_tmp.-mr-10002/_tmp.000010_0
复制代码



回复

使用道具 举报

mjjian0 发表于 2014-11-27 16:11:10
desehawk 发表于 2014-11-27 15:52
这个文件是存在还是不存在,楼主配置的这个文件/tmp/hive-root/,用来存储什么的?

这个 目录是 flume 采集日志到hdfs上的时候 自动创建的,我人为是hive  load数据的时候的缓存目录。
回复

使用道具 举报

desehawk 发表于 2014-11-27 16:55:43
mjjian0 发表于 2014-11-27 16:11
这个 目录是 flume 采集日志到hdfs上的时候 自动创建的,我人为是hive  load数据的时候的缓存目录。

弄清楚这个目录,应该就能找到问题了,看看是不是提前删除了。
回复

使用道具 举报

mjjian0 发表于 2014-11-28 09:31:12
desehawk 发表于 2014-11-27 16:55
弄清楚这个目录,应该就能找到问题了,看看是不是提前删除了。

其实对线上数据到没有什么影响,就是想弄清楚这个异常的原因
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条