在Hadoop集群中,任务分配到每个节点上的传统方法是什么,怎么实现随机分配,均衡分配........

[复制链接]
查看11 | 回复3 | 2013-5-27 14:34:12 | 显示全部楼层 |阅读模式
默认方法是随机加均衡,几条策略,一般都会把任务分配给离存储节点之一最近的节点如果某个节点运算效率过慢就会把这个运算给另一个空闲节点同时做,谁先做完用谁的如果某段计算实在做不过去,说明程序有问题,会跳过出问题的步骤,做下一步...
回复

使用道具 举报

千问 | 2013-5-27 14:34:12 | 显示全部楼层
如果你不管他,他就会对比,谁的效率高空间剩余的多优先用谁,不过在空闲的时候你可以使用负载均衡来使他们平均一些...
回复

使用道具 举报

千问 | 2013-5-27 14:34:12 | 显示全部楼层
这个嘛,我也在学习中,有在学习hadoop的朋友多交流交流,暂时还不知道,看资料中。你看看编程的api文档,是用mapreduce写的job吗?看看有没有提供...
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

主题

0

回帖

4882万

积分

论坛元老

Rank: 8Rank: 8

积分
48824836
热门排行