Hadoop NameNode元数据相关文件目录解析
2016-03-20 11:21
375 查看
在第一次部署好Hadoop集群的时候,我们需要在NameNode(NN)节点上格式化磁盘:
格式化完成之后,将会在$dfs.namenode.name.dir/current目录下如下的文件结构
其中的dfs.namenode.name.dir是在hdfs-site.xml文件中配置的,默认值如下:
dfs.namenode.name.dir属性可以配置多个目录,如/data1/dfs/name,/data2/dfs/name,/data3/dfs/name,....。各个目录存储的文件结构和内容都完全一样,相当于备份,这样做的好处是当其中一个目录损坏了,也不会影响到Hadoop的元数据,特别是当其中一个目录是NFS(网络文件系统Network File System,NFS)之上,即使你这台机器损坏了,元数据也得到保存。
下面对$dfs.namenode.name.dir/current/目录下的文件进行解释。
1、VERSION文件是Java属性文件,内容大致如下:
其中
(1)、namespaceID是文件系统的唯一标识符,在文件系统首次格式化之后生成的;
(2)、storageType说明这个文件存储的是什么进程的数据结构信息(如果是DataNode,storageType=DATA_NODE);
(3)、cTime表示NameNode存储时间的创建时间,由于我的NameNode没有更新过,所以这里的记录值为0,以后对NameNode升级之后,cTime将会记录更新时间戳;
(4)、layoutVersion表示HDFS永久性数据结构的版本信息, 只要数据结构变更,版本号也要递减,此时的HDFS也需要升级,否则磁盘仍旧是使用旧版本的数据结构,这会导致新版本的NameNode无法使用;
(5)、clusterID是系统生成或手动指定的集群ID,在-clusterid选项中可以使用它;如下说明
a、使用如下命令格式化一个Namenode:
选择一个唯一的cluster_id,并且这个cluster_id不能与环境中其他集群有冲突。如果没有提供cluster_id,则会自动生成一个唯一的ClusterID。
b、使用如下命令格式化其他Namenode:
c、升级集群至最新版本。在升级过程中需要提供一个ClusterID,例如:
如果没有提供ClusterID,则会自动生成一个ClusterID。
(6)、blockpoolID:是针对每一个Namespace所对应的blockpool的ID,上面的这个BP-893790215-192.168.24.72-1383809616115就是在我的ns1的namespace下的存储块池的ID,这个ID包括了其对应的NameNode节点的ip地址。
2、$dfs.namenode.name.dir/current/seen_txid非常重要,是存放transactionId的文件,format之后是0,它代表的是namenode里面的edits_*文件的尾数,namenode重启的时候,会按照seen_txid的数字,循序从头跑edits_0000001~到seen_txid的数字。所以当你的hdfs发生异常重启的时候,一定要比对seen_txid内的数字是不是你edits最后的尾数,不然会发生建置namenode时metaData的资料有缺少,导致误删Datanode上多余Block的资讯。
3、$dfs.namenode.name.dir/current目录下在format的同时也会生成fsimage和edits文件,及其对应的md5校验文件。fsimage和edits是Hadoop元数据相关的重要文件,我打算在下一篇文章中fsimage和edits存储的内容和他们之间的关系进行说明,请关注本博客。
1 | [wyp @wyp hadoop- 2.2 . 0 ]$ $HADOOP_HOME/bin/hdfs namenode -format |
1 | current/ |
2 | |-- VERSION |
3 | |-- edits_* |
4 | |-- fsimage_0000000000008547077 |
5 | |-- fsimage_0000000000008547077.md5 |
6 | `-- seen_txid |
01 | <property> |
02 | <name>dfs.namenode.name.dir</name> |
03 | <value>file: //${hadoop.tmp.dir}/dfs/name</value> |
04 | </property> |
05 |
06 | hadoop.tmp.dir是在core-site.xml中配置的,默认值如下 |
07 | <property> |
08 | <name>hadoop.tmp.dir</name> |
09 | <value>/tmp/hadoop-${user.name}</value> |
10 | <description>A base for other temporary directories.</description> |
11 | </property> |
下面对$dfs.namenode.name.dir/current/目录下的文件进行解释。
1、VERSION文件是Java属性文件,内容大致如下:
1 | #Fri Nov 15 19 : 47 : 46 CST 2013 |
2 | namespaceID= 934548976 |
3 | clusterID=CID-cdff7d73-93cd- 4783 - 9399 -0a22e6dce196 |
4 | cTime= 0 |
5 | storageType=NAME_NODE |
6 | blockpoolID=BP- 893790215 - 192.168 . 24.72 - 1383809616115 |
7 | layoutVersion=- 47 |
(1)、namespaceID是文件系统的唯一标识符,在文件系统首次格式化之后生成的;
(2)、storageType说明这个文件存储的是什么进程的数据结构信息(如果是DataNode,storageType=DATA_NODE);
(3)、cTime表示NameNode存储时间的创建时间,由于我的NameNode没有更新过,所以这里的记录值为0,以后对NameNode升级之后,cTime将会记录更新时间戳;
(4)、layoutVersion表示HDFS永久性数据结构的版本信息, 只要数据结构变更,版本号也要递减,此时的HDFS也需要升级,否则磁盘仍旧是使用旧版本的数据结构,这会导致新版本的NameNode无法使用;
(5)、clusterID是系统生成或手动指定的集群ID,在-clusterid选项中可以使用它;如下说明
a、使用如下命令格式化一个Namenode:
1 | $ $HADOOP_HOME/bin/hdfs namenode -format [-clusterId <cluster_id>] |
b、使用如下命令格式化其他Namenode:
1 | $ $HADOOP_HOME/bin/hdfs namenode -format -clusterId <cluster_id> |
1 | $ |
2 | --config |
(6)、blockpoolID:是针对每一个Namespace所对应的blockpool的ID,上面的这个BP-893790215-192.168.24.72-1383809616115就是在我的ns1的namespace下的存储块池的ID,这个ID包括了其对应的NameNode节点的ip地址。
2、$dfs.namenode.name.dir/current/seen_txid非常重要,是存放transactionId的文件,format之后是0,它代表的是namenode里面的edits_*文件的尾数,namenode重启的时候,会按照seen_txid的数字,循序从头跑edits_0000001~到seen_txid的数字。所以当你的hdfs发生异常重启的时候,一定要比对seen_txid内的数字是不是你edits最后的尾数,不然会发生建置namenode时metaData的资料有缺少,导致误删Datanode上多余Block的资讯。
3、$dfs.namenode.name.dir/current目录下在format的同时也会生成fsimage和edits文件,及其对应的md5校验文件。fsimage和edits是Hadoop元数据相关的重要文件,我打算在下一篇文章中fsimage和edits存储的内容和他们之间的关系进行说明,请关注本博客。
相关文章推荐
- Node.js中的全局对象global(一)
- leetcode 25. Reverse Nodes in k-Group
- nodejs学习-socket.io
- Node.js链式回调
- node源码详解(五) —— 在main函数之前 —— js和C++的边界,process.binding
- 19. Remove Nth Node From End of List
- nodejs learn
- node源码详解(四) —— js代码如何调用C++的函数
- 基于angular的route实现单页面cnodejs
- nodepad++搭建各种开发环境
- HDFS源码分析心跳汇报之DataNode注册
- nodepad++搭建各种开发环境
- 19. Remove Nth Node From End of List
- 安装ionic出现node-sass无法下载的解决方法
- nodeJS搭建本地服务器
- util
- HDU 4587 TWO NODES(割点,连通块,枚举)
- Node.js自定义对象事件监听与发射
- Hadoop启动没有namenode进程
- nodepad++搭建各种开发环境