处理数据时,hadoop如何找最近的数据节点呢?
2016-03-20 17:52
465 查看
首先,namenode维护着当前集群中datanode的拓扑情况(也就是哪个datanode在哪个机架上)。
hadoop认为datanode与客户端的距离,最近的是客户端本身(如果客户端与datanode在同一台机器上时),
其次是与客户端在同一机架上的datanode,最远的是与客户端在不同机架上的datanode。
1)如果客户端在集群中,namenode就可以从数据所在datanode中,选出一个距离最短的节点了。
2)如果客户端不在集群中时,namenode认为客户端与集群中任何datanode的距离是一样的,
namenode会根据datanode负载情况,返回一个拥有数据的datanode的位置信息,供客户端访问它。
hadoop认为datanode与客户端的距离,最近的是客户端本身(如果客户端与datanode在同一台机器上时),
其次是与客户端在同一机架上的datanode,最远的是与客户端在不同机架上的datanode。
1)如果客户端在集群中,namenode就可以从数据所在datanode中,选出一个距离最短的节点了。
2)如果客户端不在集群中时,namenode认为客户端与集群中任何datanode的距离是一样的,
namenode会根据datanode负载情况,返回一个拥有数据的datanode的位置信息,供客户端访问它。
相关文章推荐
- Linux下程序安装:rpm工具
- linux系统调用(2)
- Tomcat Connector
- linux shell 使用
- 1.android体系与系统架构
- 2016_3_20
- Linux中关于API函数与系统调用
- centos
- 网站的500错误的一个可能原因。
- 安装CentOS5.5
- LINUX第四周学习
- Linux程序包管理(yum)
- LINUX学习第一周
- Linux之RPM、YUM、源码编译安装
- Linux第四次实验——谢飞帆
- 阿里云Linux系统Nginx配置多个域名的方法
- Linux环境下使用GDB调试C程序
- Linux c 管道和有名管道(FIFO)
- Linux rsync 数据备份
- linux 常用命令