分享

namenode日志报错

mjjian0 发表于 2014-7-8 15:25:04 [显示全部楼层] 只看大图 回帖奖励 阅读模式 关闭右栏 9 44135
目前线上经常回报一个错误
一下是错误信息,不知道是什么导致的,麻烦大神们帮帮忙啊。

2014-07-08 06:02:07,319 INFO org.apache.hadoop.hdfs.StateChange: Removing lease on  file /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000208_0 from client DFSClient_attempt_201406270956_0490_m_000208_02014-07-08 06:02:07,320 INFO org.apache.hadoop.hdfs.StateChange: DIR* NameSystem.completeFile: file /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000208_0 is closed by DFSClient_attempt_201406270956_0490_m_000208_02014-07-08 06:02:11,336 INFO org.apache.hadoop.hdfs.StateChange: BLOCK* NameSystem.allocateBlock: /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_0. blk_-7259868683421424853_1551022014-07-08 06:02:14,409 INFO org.apache.hadoop.hdfs.StateChange: BLOCK* NameSystem.addStoredBlock: blockMap updated: 10.0.1.104:50010 is added to blk_-7259868683421424853_155102 size 2231462014-07-08 06:02:14,409 INFO org.apache.hadoop.hdfs.StateChange: Removing lease on  file /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_0 from client DFSClient_attempt_201406270956_0490_m_000210_02014-07-08 06:02:14,409 INFO org.apache.hadoop.hdfs.StateChange: DIR* NameSystem.completeFile: file /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_0 is closed by DFSClient_attempt_201406270956_0490_m_000210_02014-07-08 06:02:14,725 ERROR org.apache.hadoop.security.UserGroupInformation: PriviledgedActionException as:root (auth:SIMPLE) cause:org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1 File does not exist. Holder DFSClient_attempt_201406270956_0490_m_000210_1 does not have any open files.2014-07-08 06:02:14,725 INFO org.apache.hadoop.ipc.Server: IPC Server handler 9 on 9000, call addBlock(/tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1, DFSClient_attempt_201406270956_0490_m_000210_1, null) from 10.0.1.93:30824: error: org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1 File does not exist. Holder DFSClient_attempt_201406270956_0490_m_000210_1 does not have any open files.org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1 File does not exist. Holder DFSClient_attempt_201406270956_0490_m_000210_1 does not have any open files.        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1664)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.checkLease(FSNamesystem.java:1655)        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.getAdditionalBlock(FSNamesystem.java:1571)        at org.apache.hadoop.hdfs.server.namenode.NameNode.addBlock(NameNode.java:771)        at sun.reflect.GeneratedMethodAccessor8.invoke(Unknown Source)        at sun.reflect.DelegatingMethodAccessorImpl.invoke(DelegatingMethodAccessorImpl.java:25)        at java.lang.reflect.Method.invoke(Method.java:597)        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:557)        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1439)        at org.apache.hadoop.ipc.Server$Handler$1.run(Server.java:1435)        at java.security.AccessController.doPrivileged(Native Method)        at javax.security.auth.Subject.doAs(Subject.java:396)        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1278)        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:1433)

已有(9)人评论

跳转到指定楼层
howtodown 发表于 2014-7-8 16:40:06

回帖奖励 +3 云币

是不是空间满了
回复

使用道具 举报

mjjian0 发表于 2014-7-8 17:18:08

异常信息里提示的文件目录是配置在hive-site.xml里
hive.exec.scratchdir的我没有改过这个配置默认是hdfs目录你说的意思是不是这个目录文件满了?不太明白你的意思啊?
回复

使用道具 举报

sstutu 发表于 2014-7-8 17:43:39
你这个文件好像重复 操,导致下次在操作的时候,找不到了。/tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_0



PriviledgedActionException as:root (auth:SIMPLE) cause:org.apache.hadoop.hdfs.server.namenode.LeaseExpiredException: No lease on /tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1 File does not exist. Holder DFSClient_attempt_201406270956_0490_m_000210_1 does not have any open files.2014-07-08 06:02:14,725 INFO org.apache.hadoop.ipc.Server: IPC Server handler 9 on 9000, call addBlock(/tmp/hive-root/hive_2014-07-08_05-55-23_941_3309969198820114161/_tmp.-ext-10001/_tmp.000210_1,


回复

使用道具 举报

mjjian0 发表于 2014-7-8 18:06:40
如果是这样的话,为什么会重复操作了呢,还有我想问一下,这个目录下的文件是做什么的啊?
回复

使用道具 举报

sstutu 发表于 2014-7-8 18:14:30
mjjian0 发表于 2014-7-8 18:06
如果是这样的话,为什么会重复操作了呢,还有我想问一下,这个目录下的文件是做什么的啊?
只是从你的错误里面看到了这些信息,具体你需要看看配置项说明。
你看在配置文件里,这个属于哪个配置项。根据这个配置项,找出配置项的作用。就明白了。
回复

使用道具 举报

sstutu 发表于 2014-7-8 19:03:51


QQ截图20140708185846.jpg


区别找出来了,你看到你的文件名称后被修改了,后面多了_01,找不到这个文件。
回复

使用道具 举报

howtodown 发表于 2014-7-8 21:50:46
猜测可能是程序的问题,你们上传文件之后,没有正常关闭,所以系统帮助你们关闭,但是关闭的时候却不知道被什么重命名了,导致这个问题
回复

使用道具 举报

mjjian0 发表于 2014-7-11 17:13:03
sstutu 发表于 2014-7-8 19:03
区别找出来了,你看到你的文件名称后被修改了,后面多了_01,找不到这个文件。

最近有点忙,问题的原因找到了
可能是:mapred.task.timeout设置时间过短,hadoop将该任务kill,并清理临时目录,后续遍找不到临时数据了。
把这个参数设置大点。
我还没有修改,因为是线上环境,所以我还要申请。等修改后,在测试下。
回复

使用道具 举报

请叫我野区养猪 发表于 2016-6-13 18:57:19
楼主 你这个错误解决了吗 怎么做了
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条