错误1:
java.io.FileNotFoundException: File does not exist: /user/admin/.staging/job_1571397171638_0001/job_1571397171638_0001_1.jhist
错误2:
org.apache.hadoop.yarn.exceptions.YarnRuntimeException: java.net.BindException: Problem binding to [0.0.0.0:0] java.net.BindException: Address already in use;
还是需要从源头说起: 当我们提交wordcount的时候,通过cloudera mananger看到了错误1:
java.io.FileNotFoundException: File does not exist: /user/admin/.staging/job_1571397171638_0001/job_1571397171638_0001_1.jhist
他是什么原因?为什么会产生这个问题。
因此我们这里又定位到了,第二个错误,那么有可能它就是根本的错误,也就是因为他导致任务不能下发。
org.apache.hadoop.yarn.exceptions.YarnRuntimeException: java.net.BindException: Problem binding to [0.0.0.0:0] java.net.BindException: Address already in use;
看到上面错误,一看我们就可以判断,这是网络问题,然而网络无非是防火墙,端口,hosts等。防火墙和端口这是非常容易排查的,而且我们这个发生问题的集群是可以正常运行的,所以这个防火墙,端口等问题排除。