分享

HDFS block missing 的问题

kaif22 发表于 2013-10-25 10:44:59 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 7 9535
请问一下,最近在跑m/r时 经常会抛出 一些block missing ,导致job failed的情况。
请问下 是block真正从HDFS中丢失了么吗?还是namenode的元数据出了吗?
这种block丢失 只能重新 load数据到hdfs中么吗?
谢谢

已有(7)人评论

跳转到指定楼层
kaif22 发表于 2013-10-25 10:44:59
你配置的replication值是多少吗?
回复

使用道具 举报

einhep 发表于 2013-10-25 10:44:59
你配置的replication值是多少吗?
bigmike 发表于 2010-9-12 02:26



rep=1
回复

使用道具 举报

leo_1989 发表于 2013-10-25 10:44:59
....
你不会把rep设置的大一些么,
用的是伪分布式吗?
回复

使用道具 举报

datong838 发表于 2013-10-25 10:44:59
真实的分布式, rep=1 或者设大都不是,只过不可能慢一点而已
还是能跑下来的
关键是 某些个map 或报block missing , 但是用fsck 查看的时候没说miss
回复

使用道具 举报

when30 发表于 2013-10-25 10:44:59
真实的分布式, rep=1 或者设大都不是,只过不可能慢一点而已
还是能跑下来的
关键是 某些个map 或报 ...
MooNsKY 发表于 2010-9-13 14:06



有几台机子在跑吗?
回复

使用道具 举报

dgxl 发表于 2013-10-25 10:44:59
10 个机器
回复

使用道具 举报

qz2003 发表于 2013-10-25 10:44:59
我也老遇到block missing的,我们rep是默认的3,重启一下就没有block missing的了。
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条