hdfs的架构,文件副本机制及block块存储
2019-02-23 16:52
369 查看
hdfs的基础架构
1、 NameNode是一个中心服务器,单一节点(简化系统的设计和实现),负责管理文件系统的名字空间(namespace)以及客户端对文件的访问。
a.文件名称
b.文件目录结构
c.文件属性 创建时间 权限 副本数
d.文件对应哪些数据块
–>数据块对应哪些datanode节点上
blockmap
nn节点不会持久化存储这种映射关系
dn定期发送blockreport 给nn,
以此nn在【内存】中动态维护这种映射关系!
2、 文件操作,namenode是负责文件元数据的操作,datanode负责处理文件内容的读写请求,跟文件内容相关的数据流不经过Namenode,只询问它跟哪个dataNode联系,否则NameNode会成为系统的瓶颈
3、 副本存放在哪些Datanode上由NameNode来控制,根据全局情况作出块放置决定,读取文件时NameNode尽量让用户先读取最近的副本,降低读取网络开销和读取延时
4、 NameNode全权管理数据库的复制,它周期性的从集群中的每个DataNode接收心跳信合和状态报告,接收到心跳信号意味着DataNode节点工作正常,块状态报告包含了一个该DataNode上所有的数据列表
NameNode与Datanode的总结概述:
hdfs的文件副本机制及block块存储
所有的文件都是以block块的方式存放在HDFS文件系统当中,在hadoop1当中,文件的block块默认大小是64M,hadoop2当中,文件的block块大小默认是128M,block块的大小可以通过hdfs-site.xml当中的配置文件进行指定
<property> <name>dfs.block.size</name> <value>块大小 以KB为单位</value>//只写数值就可以 </property>
相关文章推荐
- HDFS原理-架构、副本机制、HDFS负载均衡、机架感知、健壮性、文件删除恢复机制
- Hadoop的HDFS文件存储实现机制
- Hadoop实战-中高级部分 之 HDFS原理 架构和副本机制
- 存储在HDFS上的文件,存储机制及数据安全性如何保证。
- 【Ogre引擎架构】 第四讲 模型文件渲染数据的存储机制
- Hadoop_HDFS文件读写代码流程解析和副本存放机制
- HDFS原理 架构和副本机制
- (Hdoop Distributed File System )分布式文件系统原理;HDFS文件系统基本架构和运行机制
- Kafka文件存储机制那些事
- 使用python来访问Hadoop HDFS存储实现文件的操作
- Kafka文件存储机制
- HDFS文件系统和OpenStack swift对象存储有何不同
- Kafka文件存储机制那些事
- 嵌入式Linux文件系统及其存储机制分析
- Kafka文件存储机制那些事
- hdfs文件上传机制与namenode元数据管理机制
- 4 hbase表结构 + hbase集群架构及表存储机制
- 分布式文件系统架构GFS、HDFS、TFS、Haystack
- Kafka文件存储机制那些事
- 【thinkphp3.2.x】thinkphp3.2.x中有关session存储机制的相关文件