jchubby 发表于 2016-3-17 22:13 这个是有yarn来分配的,还有需要的资源有关系。即使提前分配了,也会根据实际情况。 其实楼主就是不懂mapreduce得map数量和reduce的数量 下面楼主多看几遍,相信就可以了 hadoop中map和reduce的数量设置 http://www.aboutyun.com/forum.php?mod=viewthread&tid=5583 如何确定 Hadoop map和reduce的个数--map和reduce数量之间的关系是什么? http://www.aboutyun.com/forum.php?mod=viewthread&tid=6945 他们计算比较复杂的 |
atsky123 发表于 2016-3-17 22:04 那么请问怎么确定节点上能启动的tasktracker数量呢?查了很多资料都不明白 |
jchubby 发表于 2016-3-17 10:44 每一个tasktracker同时运行的 任务数 ,tasktracker跟节点没有关系的 |
wscl1213 发表于 2016-3-17 10:30 mapred.tasktracker.map.tasks.maximum那这个值如果设定为10,是不是就意味着每个节点上能启动的最大mapper的数量为10? |
jchubby 发表于 2016-3-17 10:28 tasktracker是没有这个进程了,不代表类里面不可以使用tasktracker。 |
wscl1213 发表于 2016-3-17 10:24 原来如此,可是mr2中不是已经没有tasktracker了吗,为什么还有这两个参数? |
jchubby 发表于 2016-3-17 10:17 mapred.tasktracker.map.tasks.maximum mapred.tasktracker.reduce.tasks.maximum 这两个属性是hadoop1.x的 mapreduce.tasktracker.map.tasks.maximum mapreduce.tasktracker.reduce.tasks.maximum 这两个是hadoop2.x的 这应该说是对1.x进行了改变了。 同样是对map和reduce任务数的设置 |
jchubby 发表于 2016-3-16 22:36 hadoop2中没有看到这个属性 楼主可以自己找找 |