关于mr1和mr2结构的一点疑问

查看数: 20800 | 评论数: 11 | 收藏 0
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2016-3-16 20:37

正文摘要:

mr1的结构是jobtracker+tasktracker mr2的结构是yarn(resourcemanager+nodemaneger) 那么在mr2中还有tasktracker这个角色的存在吗?如果没有的话,是什么组件代替了它? 在配置 mapred.tasktracker.map.task ...

回复

wscl1213 发表于 2016-3-21 16:46:00
jchubby 发表于 2016-3-17 22:13
那么请问怎么确定节点上能启动的tasktracker数量呢?查了很多资料都不明白

这个是有yarn来分配的,还有需要的资源有关系。即使提前分配了,也会根据实际情况。
其实楼主就是不懂mapreduce得map数量和reduce的数量

下面楼主多看几遍,相信就可以了
hadoop中map和reduce的数量设置
http://www.aboutyun.com/forum.php?mod=viewthread&tid=5583

如何确定 Hadoop map和reduce的个数--map和reduce数量之间的关系是什么?

http://www.aboutyun.com/forum.php?mod=viewthread&tid=6945


他们计算比较复杂的
jchubby 发表于 2016-3-17 22:13:27
atsky123 发表于 2016-3-17 22:04
每一个tasktracker同时运行的 任务数 ,tasktracker跟节点没有关系的

那么请问怎么确定节点上能启动的tasktracker数量呢?查了很多资料都不明白
atsky123 发表于 2016-3-17 22:04:41
jchubby 发表于 2016-3-17 10:44
mapred.tasktracker.map.tasks.maximum那这个值如果设定为10,是不是就意味着每个节点上能启动的最大mapp ...

每一个tasktracker同时运行的 任务数 ,tasktracker跟节点没有关系的
jchubby 发表于 2016-3-17 10:44:51
wscl1213 发表于 2016-3-17 10:30
tasktracker是没有这个进程了,不代表类里面不可以使用tasktracker。

mapred.tasktracker.map.tasks.maximum那这个值如果设定为10,是不是就意味着每个节点上能启动的最大mapper的数量为10?
wscl1213 发表于 2016-3-17 10:30:46
jchubby 发表于 2016-3-17 10:28
原来如此,可是mr2中不是已经没有tasktracker了吗,为什么还有这两个参数?

tasktracker是没有这个进程了,不代表类里面不可以使用tasktracker。

jchubby 发表于 2016-3-17 10:28:18
wscl1213 发表于 2016-3-17 10:24
mapred.tasktracker.map.tasks.maximum
mapred.tasktracker.reduce.tasks.maximum
这两个属性是hadoop1 ...

原来如此,可是mr2中不是已经没有tasktracker了吗,为什么还有这两个参数?
wscl1213 发表于 2016-3-17 10:24:39
jchubby 发表于 2016-3-17 10:17
有的呀,在hadoop官方文档里面,2.7.2版本的,所以一直很疑惑

mapred.tasktracker.map.tasks.maximum
mapred.tasktracker.reduce.tasks.maximum
这两个属性是hadoop1.x的

mapreduce.tasktracker.map.tasks.maximum
mapreduce.tasktracker.reduce.tasks.maximum       
这两个是hadoop2.x的
这应该说是对1.x进行了改变了。
同样是对map和reduce任务数的设置



atsky123 发表于 2016-3-17 08:59:42
jchubby 发表于 2016-3-16 22:36
那么既然mr2中jobtracker和tasktracker不存在了,那么请问
mapred.tasktracker.map.tasks.maximum
mapr ...

hadoop2中没有看到这个属性
楼主可以自己找找
关闭

推荐上一条 /2 下一条