Hadoop如何修改HDFS文件存储块大小
2013-12-09 11:17
543 查看
原始出处:/article/4379798.html
一、 临时修改
可以在执行上传文件命令时,显示地指定存储的块大小。
1. 查看当前 HDFS文件块大小
我这里查看HDFS上的TEST目录下的jdk-7u25-linux-x64.gz 文件存储块大小。
1.1 终端命令方式查看
[xiaoyu@hadoop02 hadoop-1.1.2]$ ./bin/hadoop fs -stat "%o" TEST/jdk-7u25-linux-x64.gz
51200
单位为B(字节)
1.2 或页面方式查看
打开haddop datanode节点的hdfs监控页面:
http://hadoop01:50070
如下所示:
二、永久修改
这个需要修改hdfs-site.conf配置文件,增加全局参数dfs.block.size。
如下:
修改后参数
把配置同步到其它节点,并重启hdfs。
[xiaoyu@hadoop02 hadoop-1.1.2]$ bin/stop-dfs.sh
no namenode to stop
hadoop02: stopping datanode
hadoop01: stopping secondarynamenode
[xiaoyu@hadoop02 hadoop-1.1.2]$ bin/start-dfs.sh
starting namenode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-namenode-hadoop02.out
hadoop02: starting datanode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-datanode-hadoop02.out
hadoop01: starting secondarynamenode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-secondarynamenode-hadoop01.out
重新查看TEST/jdk-7u25-linux-x64.gz 文件存储的块大小:
重新上传文件到HDFS,并重命名为 比较用_jdk-7u25-linux-x64.gz
参考资料:
http://hadoop.apache.org/docs/r0.18.3/cluster_setup.html#Configuration
一、 临时修改
可以在执行上传文件命令时,显示地指定存储的块大小。
1. 查看当前 HDFS文件块大小
我这里查看HDFS上的TEST目录下的jdk-7u25-linux-x64.gz 文件存储块大小。
1.1 终端命令方式查看
[xiaoyu@hadoop02 hadoop-1.1.2]$ ./bin/hadoop fs -stat "%o" TEST/jdk-7u25-linux-x64.gz
51200
单位为B(字节)
1.2 或页面方式查看
打开haddop datanode节点的hdfs监控页面:
http://hadoop01:50070
如下所示:
二、永久修改
这个需要修改hdfs-site.conf配置文件,增加全局参数dfs.block.size。
如下:
修改后参数
把配置同步到其它节点,并重启hdfs。
[xiaoyu@hadoop02 hadoop-1.1.2]$ bin/stop-dfs.sh
no namenode to stop
hadoop02: stopping datanode
hadoop01: stopping secondarynamenode
[xiaoyu@hadoop02 hadoop-1.1.2]$ bin/start-dfs.sh
starting namenode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-namenode-hadoop02.out
hadoop02: starting datanode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-datanode-hadoop02.out
hadoop01: starting secondarynamenode, logging to /home/xiaoyu/hadoop-1.1.2/libexec/../logs/hadoop-xiaoyu-secondarynamenode-hadoop01.out
重新查看TEST/jdk-7u25-linux-x64.gz 文件存储的块大小:
重新上传文件到HDFS,并重命名为 比较用_jdk-7u25-linux-x64.gz
参考资料:
http://hadoop.apache.org/docs/r0.18.3/cluster_setup.html#Configuration
相关文章推荐
- window.open打开新页面,父页面无提示自动关闭
- 契约Contract(ServiceContract、OperationContract、DataContract、ServiceKnownType和DataMember)
- (转)Linux tr命令详解
- 将 Win32 C/C++ 应用程序迁移到 POWER 上的 Linux,第 3 部分: 信号
- linux 关闭远程回话之后保持进程继续
- Linux中文件操作命令
- centos 6 不能上网
- Shell脚本的追踪与调试
- 将 Win32 C/C++ 应用程序迁移到 POWER 上的 Linux,第 2 部分: 互斥
- Linux下C语言main函数的原型
- 零点起飞学Linux C编程
- 将 Win32 C/C++ 应用程序迁移到 POWER 上的 Linux,第 1 部分: 进程、线程和共享内存服务
- nagios监控linux主机
- apache配置php的php5apache2_2.dll过程并加载Zend Guard Loader (windows)
- 将 Windows IPC 应用程序移植到 Linux,第 2 部分: 信号量和事件
- nginx查看配置文件nginx.conf路径
- nginx安装与配置在CentOS 6下安装nginx
- Linux下SVN安装配置
- 查看嵌入式的linux下的SO依赖关系。
- 将 Windows IPC 应用移植到 Linux,第 1 部分: 进程和线程