您的位置:首页 > 运维架构

处理数据时,hadoop如何找最近的数据节点呢?

2016-03-20 17:52 465 查看
首先,namenode维护着当前集群中datanode的拓扑情况(也就是哪个datanode在哪个机架上)。

hadoop认为datanode与客户端的距离,最近的是客户端本身(如果客户端与datanode在同一台机器上时),
其次是与客户端在同一机架上的datanode,最远的是与客户端在不同机架上的datanode。

1)如果客户端在集群中,namenode就可以从数据所在datanode中,选出一个距离最短的节点了。

2)如果客户端不在集群中时,namenode认为客户端与集群中任何datanode的距离是一样的,
namenode会根据datanode负载情况,返回一个拥有数据的datanode的位置信息,供客户端访问它。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: