HADOOP -- 配置Tip 配置hadoop.tmp.dir
2016-04-05 16:15
399 查看
先说说,场景,在开发环境中,由于意外断电.重新启动HADOOP MASTER 结点.
启动HADOOP START-ALL.SH
查看http:\\hdnode1m:50070\ 无法打开网页, HADOOP 启动失败,回过头去看日志文件。
打开 ${hadoop_home}\logs\hadoop-grid-namenode-hdnode1m.log
出现如下错误:
很清楚了 ,/tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist,
1.具体愿因是 LINUX 系统,在服务重启后,/tmp 下的目录被清空,Hadoop无法找到dfs/name 这个dfs文件系统的域名空间文件。
hadoop.tmp.dir 是 hadoop文件系统依赖的基本配置,很多配置路径都依赖它,它的默认位置在/tmp/{$user}下面。
2.解决办法:
在core-site.xml中配置 hadoop.tmp.dir 路径到持久化目录。
3.由于重新配置了hadoop.tmp.dir 目录,意味着,必须重新格式hdfs
#bin/hadoop namenode -format
4.后果
重新格式化了文件系统,自己想想吧,以前所有的文件都没有了。
强烈建议大家,在安装配置HADOOP的时候,一定要更改hadoop.tmp.dir .
启动HADOOP START-ALL.SH
grid$ start-all.sh
查看http:\\hdnode1m:50070\ 无法打开网页, HADOOP 启动失败,回过头去看日志文件。
打开 ${hadoop_home}\logs\hadoop-grid-namenode-hdnode1m.log
出现如下错误:
2012-10-12 10:06:54,804 INFO org.apache.hadoop.hdfs.server.common.Storage: Storage directory /tmp/hadoop-grid/dfs/name does not exist. 2012-10-12 10:06:54,806 ERROR org.apache.hadoop.hdfs.server.namenode.FSNamesystem: FSNamesystem initialization failed. org.apache.hadoop.hdfs.server.common.InconsistentFSStateException: Directory /tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist or is not accessible. at org.apache.hadoop.hdfs.server.namenode.FSImage.recoverTransitionRead(FSImage.java:290) at org.apache.hadoop.hdfs.server.namenode.FSDirectory.loadFSImage(FSDirectory.java:87) at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.initialize(FSNamesystem.java:311) at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.<init>(FSNamesystem.java:292) at org.apache.hadoop.hdfs.server.namenode.NameNode.initialize(NameNode.java:201) at org.apache.hadoop.hdfs.server.namenode.NameNode.<init>(NameNode.java:279) at org.apache.hadoop.hdfs.server.namenode.NameNode.createNameNode(NameNode.java:956) at org.apache.hadoop.hdfs.server.namenode.NameNode.main(NameNode.java:965) 2012-10-12 10:06:54,819 INFO org.apache.hadoop.ipc.Server: Stopping server on 9000
很清楚了 ,/tmp/hadoop-grid/dfs/name is in an inconsistent state: storage directory does not exist,
1.具体愿因是 LINUX 系统,在服务重启后,/tmp 下的目录被清空,Hadoop无法找到dfs/name 这个dfs文件系统的域名空间文件。
hadoop.tmp.dir 是 hadoop文件系统依赖的基本配置,很多配置路径都依赖它,它的默认位置在/tmp/{$user}下面。
2.解决办法:
在core-site.xml中配置 hadoop.tmp.dir 路径到持久化目录。
<configuration> <property> <name>fs.default.name</name> <value>hdfs://hdnode1m:9000</value> </property> <property> <name>hadoop.tmp.dir</name> <value>/home/grid/disk</value> </property> </configuration> ~
3.由于重新配置了hadoop.tmp.dir 目录,意味着,必须重新格式hdfs
#bin/hadoop namenode -format
4.后果
重新格式化了文件系统,自己想想吧,以前所有的文件都没有了。
强烈建议大家,在安装配置HADOOP的时候,一定要更改hadoop.tmp.dir .
相关文章推荐
- ubuntu 14.4常见命令
- 【Chromium中文文档】Profile架构(看看谷歌家的重构)
- 编译安装apache
- OpenWRT使用Wifidog实现强制认证的WIFI热点
- linux服务器同步时间
- HBase shell 常用指令
- 红帽5和6的NTP时间同步
- nginx $uri 和 $request_uri 的区别
- hadoop的序列化机制
- 树莓派linux驱动学习之LED控制
- Nginx做负载均衡器以及proxy缓存配置
- linux下,使用lvm 创建、扩充 、缩减 逻辑磁盘大小,以及相应的文件系统大小
- Nginx+Keepalived实现站点高可用
- 红帽5和6的网卡绑定
- Nginx配置location总结及rewrite规则写法
- Nginx服务器安装及配置文件详解
- 强强合体:Docker版Kali Linux发布
- Docker 安装
- Nginx配置文件nginx.conf中文详解(总结)
- Opencv读取多光谱(高光谱)数据(1)