分享

彻底了解mapreduce核心Shuffle--解惑各种mapreduce问题

 
hyj 发表于 2014-3-7 21:55:06 [显示全部楼层] 回帖奖励 阅读模式 关闭右栏 50 162717
bob007 发表于 2015-8-14 14:22:09
zcfightings 发表于 2015-8-14 11:45
你好,看了你的回答,我还有点小问题,希望能不吝赐教!
针对第一个,直接读取中间结果:
             ...

问的挺多的,先自己回答找找答案,这样探讨才有意义
回复

使用道具 举报

Aliang_29 发表于 2015-8-26 15:20:06
11111111111111111111111
回复

使用道具 举报

hyj 发表于 2015-8-26 15:25:47
zcfightings 发表于 2015-8-14 11:45
你好,看了你的回答,我还有点小问题,希望能不吝赐教!
针对第一个,直接读取中间结果:
             ...

(a)中间结果是以文件的形式
(b)map的输出结果是hdfs file
(c)keyvalue可以看下输出的结果
(d)  map端输出是(key,val1)(key,val2)(key,val3),而reduce端收到时已经变成了(key,【val1,val2,val3】),那中间这个变化,完全被教条主义了。
只不过整合下而已。
回复

使用道具 举报

zmer 发表于 2015-9-17 01:21:56
reduce阶段应该是没有combine,说“如果有设置combine,reduce阶段也会执行”,这句话应该不对吧
回复

使用道具 举报

linian_hadoop 发表于 2015-11-17 15:28:03
分析的相当透彻,赞一个@!
回复

使用道具 举报

bingyuac 发表于 2016-5-1 18:07:31
很全面的知识 学习了
回复

使用道具 举报

carle 发表于 2016-5-9 22:20:14
hyj 发表于 2014-3-7 21:57
本帖最后由 nettman 于 2014-3-8 00:06 编辑

        Shuffle的正常意思是洗牌或弄乱,可能大家更熟悉 ...

受教了
回复

使用道具 举报

sunt99 发表于 2016-5-11 10:49:01
嗯嗯,很清晰
回复

使用道具 举报

雷夫23 发表于 2016-6-24 21:57:35
讲的很详细
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

关闭

推荐上一条 /2 下一条