分享

nodemanager启动后自动关闭了,会是什么原因?

chenhaoyes 发表于 2014-8-22 11:39:16 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 6 70839
在主机上启动hadoop集群,然后使用jps查看主从机上的进城状态,能够看到主机上的resourcemanager和各个从机上的nodemanager,但是过一段时间后,从机上的nodemanager就没有了,主机上的resourcemanager还在,这是什么原因呢?

已有(6)人评论

跳转到指定楼层
nettman 发表于 2014-8-22 13:35:55
本帖最后由 nettman 于 2014-8-22 13:39 编辑
具看日志,这个能精准定位。Hadoop日志位置在哪里?确切日志位置指定
大部分是都是配置文件、权限的问题。

回复

使用道具 举报

chenhaoyes 发表于 2014-8-22 14:27:01
nettman 发表于 2014-8-22 13:35
本帖最后由 nettman 于 2014-8-22 13:39 编辑
具看日志,这个能精准定位。Hadoop日志位置在哪里?确切日 ...

查看日志了,原因是连接Call From slave1/10.145.188.151 to 0.0.0.0:8031 failed on connection exception,我知道8031端口是yarn.resourcemanager.resource-tracker.address的默认端口,但我在yarm-site.xml中配置这个参数已经改了端口,为什么前面的IP地址还是0.0.0.0啊?
回复

使用道具 举报

nettman 发表于 2014-8-22 14:34:19
chenhaoyes 发表于 2014-8-22 14:27
查看日志了,原因是连接Call From slave1/10.145.188.151 to 0.0.0.0:8031 failed on connection excepti ...

这个ip代表的是你本地,看看hostname、防火墙等是不是出问题了。
回复

使用道具 举报

nettman 发表于 2014-8-22 15:03:35
如果都没有问题的,再看看自己的配置项:
参考这个,对于hadoop2.2以上都适用
hadoop2.2完全分布式最新高可靠安装文档

回复

使用道具 举报

chenhaoyes 发表于 2014-8-22 16:04:09
nettman 发表于 2014-8-22 15:03
如果都没有问题的,再看看自己的配置项:
参考这个,对于hadoop2.2以上都适用
hadoop2.2完全分布式最新高 ...

我是在从机上查看的nodemanager的yarn-hadoop-nodemanager-slave1.log文件,它怎么是连接0.0.0.0:8031这个地址呢,0.0.0.0代表的是本地,应该连接主机的8031端口才是正确的。如果我主机IP是10.15.15.15,从机应该连接10.15.15.15:8031才对,怎么改成连接主机呢?连接本地(从机自己)肯定是不对的。
回复

使用道具 举报

nettman 发表于 2014-8-22 17:27:48
chenhaoyes 发表于 2014-8-22 16:04
我是在从机上查看的nodemanager的yarn-hadoop-nodemanager-slave1.log文件,它怎么是连接0.0.0.0:8031这 ...

你改一下这个配置文件:
yarn-site.xml

<configuration>
        <property>
               <name>yarn.nodemanager.aux-services</name>
               <value>mapreduce_shuffle</value>
        </property>
        <property>                                                               
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
               <value>org.apache.hadoop.mapred.ShuffleHandler</value>
        </property>
        <property>
               <name>yarn.resourcemanager.address</name>
               <value>master:8032</value>
       </property>
       <property>
               <name>yarn.resourcemanager.scheduler.address</name>
               <value>master:8030</value>
       </property>
       <property>
            <name>yarn.resourcemanager.resource-tracker.address</name>
             <value>master:8031</value>
      </property>
      <property>
              <name>yarn.resourcemanager.admin.address</name>
               <value>master:8033</value>
       </property>
       <property>
               <name>yarn.resourcemanager.webapp.address</name>
               <value>master:8088</value>
       </property>
</configuration>
记得上面需要修改自己的host。如果配置不正确,还是会出问题的。

再次建议你从整体来看看自己的集群是否正确,参考hadoop2.2完全分布式最新高可靠安装文档


回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条