分享

hadoop datanode 无法启动

sniperD 发表于 2016-3-3 09:54:20 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 8 12880
我用四台台式机配hadoop集群,ssh免密码登录,java,网络,防火墙都没有问题,系统是centos6.5 64位。
hadoop版本是2.6.0,但是无论怎样都无法启动datanode。
hadoop-spark-datanode-slave1.D.out的内容如下:
ulimit -a for user spark
core file size          (blocks, -c) 0
data seg size           (kbytes, -d) unlimited
scheduling priority             (-e) 0
file size               (blocks, -f) unlimited
pending signals                 (-i) 14581
max locked memory       (kbytes, -l) 64
max memory size         (kbytes, -m) unlimited
open files                      (-n) 1024
pipe size            (512 bytes, -p) 8
POSIX message queues     (bytes, -q) 819200
real-time priority              (-r) 0
stack size              (kbytes, -s) 10240
cpu time               (seconds, -t) unlimited
max user processes              (-u) 1024
virtual memory          (kbytes, -v) unlimited
file locks                      (-x) unlimited

各位大神有遇到过这种情况的吗。另外,完全相同的配置,我在虚拟机上就可以成功但是在实体机上就出现这种问题,我想是不是跟硬件环境有关?

已有(8)人评论

跳转到指定楼层
atsky123 发表于 2016-3-3 10:16:36
看日志了吗?跟 硬件有关系,但是根据楼主的描述应该关系不大。内存多大的,是否足够。
回复

使用道具 举报

sniperD 发表于 2016-3-3 10:54:35
atsky123 发表于 2016-3-3 10:16
看日志了吗?跟 硬件有关系,但是根据楼主的描述应该关系不大。内存多大的,是否足够。

谢谢你的回复,我不知道你说的日志是哪一个,如果是.out文件的话,每次启动时候的日志内容跟我上面贴出来的内容是一样的。内存每台机子都有2G,我觉得应该是够用的吧。
.log文件的内容是
2016-03-01 19:54:34,944 INFO org.apache.hadoop.hdfs.server.datanode.DataNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting DataNode
STARTUP_MSG:   host = java.net.UnknownHostException: slave1.D: slave1.D
STARTUP_MSG:   args = []
STARTUP_MSG:   version = 2.6.0


你一说我好像明白了什么。。。
我以前都看得是.out文件,看不出什么东西来,我看了这个.log文件,发现有个UnknownHostException ,我想是不是因为我hosts里的主机名没有加后缀。
回复

使用道具 举报

atsky123 发表于 2016-3-3 11:01:15
sniperD 发表于 2016-3-3 10:54
谢谢你的回复,我不知道你说的日志是哪一个,如果是.out文件的话,每次启动时候的日志内容跟我上面贴出来 ...

应该是host的问题
回复

使用道具 举报

sniperD 发表于 2016-3-3 11:07:20
atsky123 发表于 2016-3-3 11:01
应该是host的问题

我查看了一下我虚拟机的hostname确实是没有后缀的,应该就是这个问题,但是我不理解的是:我在slaves里的名字跟hosts里的是一样的,并且我ssh无密码登录也没有任何问题,为什么hadoop就不认呢,它是从哪里知道我的主机名有后缀的?难道不是直接读取hosts里的内容就行了吗?
回复

使用道具 举报

atsky123 发表于 2016-3-3 11:23:46
sniperD 发表于 2016-3-3 11:07
我查看了一下我虚拟机的hostname确实是没有后缀的,应该就是这个问题,但是我不理解的是:我在slaves里的 ...

跟有没有后缀  没有关系的
先确保修改啊生效,最好重启。
贴出来看下,关于host、
回复

使用道具 举报

sniperD 发表于 2016-3-3 11:50:07
atsky123 发表于 2016-3-3 11:23
跟有没有后缀  没有关系的
先确保修改啊生效,最好重启。
贴出来看下,关于host、

改过之后成功了,所有进程正常启动。
改之前:
主机名 master.D slave1.D ...
hosts  ****.****.****.****  master
          ****.****.****.****  salve1
         ...
slaves  salve1
          ....

改之后:
主机名 master.D slave1.D ...
hosts  ****.****.****.****  master.D
          ****.****.****.****  salve1.D
         ...
slaves  salve1.D
          ....


还是刚刚说那个, 为什么改之前ssh免密码登录都可以成功,而hadoop却连不上呢?
回复

使用道具 举报

when30 发表于 2016-3-3 12:21:08
sniperD 发表于 2016-3-3 11:50
改过之后成功了,所有进程正常启动。
改之前:
主机名 master.D slave1.D ...

跟你的配置文件有关系
回复

使用道具 举报

sniperD 发表于 2016-3-3 12:28:55
when30 发表于 2016-3-3 12:21
跟你的配置文件有关系

嗯,谢谢你,我再研究研究
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条