新手求助,MapReduce程序运行出错,非计算机专业,恳请大神介绍得浅显点,感激不尽!

查看数: 8137 | 评论数: 10 | 收藏 1
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2017-4-13 21:06

正文摘要:

david@s0:~/Downloads$ hadoop jar HadoopDemo2.jar /user/it18zhang/ncdc_data/19*.gz /user/it18zhang/out 17/04/13 20:14:34 INFO client.RMProxy: Connecting to ResourceManager at s0/192.168.20.128:8032 1 ...

回复

1601365 发表于 2017-4-14 19:08:28
sstutu 发表于 2017-4-14 16:07
一个个解决,你这里明显有问题。下面红字部分先解决掉。为什么还有gz文件。datanode根本不能保存。
atte ...

膜拜,膜拜,心中充满了激动与对您的感谢,以前不知道溢于言表什么感觉,现在终于知道了!!!终于解决了,太感谢您了,果然是gz文件的问题,往后有哪位朋友也遇到同样问题时候,建议最好上传txt类型数据文件。最后,还得感谢大神!解决了困惑我好几天的问题!赞一个!
tanxl 发表于 2017-4-14 17:43:19
1601365 发表于 2017-4-14 16:05
WordCount程序也一样出错,而且有时候还有Interruptedexception,哎,卡了好几天,要崩溃了

那最好是先把hadoop集群搭建正确了 ,先跑wordcount程序确保集群能够正常运行,再完成自己的mapreduce程序为好。
1601365 发表于 2017-4-14 16:24:11
sstutu 发表于 2017-4-14 16:07
一个个解决,你这里明显有问题。下面红字部分先解决掉。为什么还有gz文件。datanode根本不能保存。
atte ...

我原先看教学视频上是gz文件,如果不是gz文件,我最好应该上传什么文件好啊。
sstutu 发表于 2017-4-14 16:07:01
1601365 发表于 2017-4-14 15:58
通过jps命令查看过了,都活的好好的,我搭建的是一个NameNode节点和两个DataNode节点,但DataNode节点的 ...

一个个解决,你这里明显有问题。下面红字部分先解决掉。为什么还有gz文件。datanode根本不能保存。
attempt_1492080262949_0002_m_000000_0, Status : FAILED
Error: org.apache.hadoop.hdfs.BlockMissingException: Could not obtain block: BP-1808748719-192.168.20.128-1488809333278:blk_1073741826_1002 file=/user/it18zhang/ncdc_data/1902.gz

1601365 发表于 2017-4-14 16:05:32
tanxl 发表于 2017-4-14 09:59
问一下:你的hadoop集群能跑基本的wordcount程序吗,先试一下跑一下wordcount程序

WordCount程序也一样出错,而且有时候还有Interruptedexception,哎,卡了好几天,要崩溃了
einhep 发表于 2017-4-14 13:15:27
jps看下datanode可能有挂掉的。
最好重启下集群。
有的datanode在刚启动的时候是没有问题的,但是一会就挂掉了。
tanxl 发表于 2017-4-14 09:59:28
问一下:你的hadoop集群能跑基本的wordcount程序吗,先试一下跑一下wordcount程序
关闭

推荐上一条 /2 下一条