hadoop 添加本机文件夹到HDFS目录以及一些简单命令
2016-10-03 21:49
309 查看
写完mapreduce程序后,将jar包上传到集群中run,会出现如下异常
原因是input目录是自己的本地目录,而不是HDFS的目录,会提示你hdfs://node1:9000/input path 是不存在的,解决方法就是将本地的input目录加到HDFS目录中,添加方法我们可以参考官方的文档:
hadoop shell 官方文档
下面举几个使用shell的例子
上面命令的hadoop fs -put 后面的第一个参数是本地路径,第二个参数是hadoop HDFS上的路径,意思就是将本地路径加载到HDFS上。
上面命令在HDFS的tmp目录下穿件了input文件夹
上面的命令就把output文件夹删除了,-rmr是一个递归删除操作,会删除该文件夹下面的所有文件以及文件夹。也可以选用-rm ,单个删除。
这篇博客在hadoop1.x下对比了put,copyFromLocal这两个命令的效率,喜欢的朋友可以去看看,其得出的结论是后者性能更好,没有做验证,不做评论。
上面写的东西自己在遇到问题的时候,找了些方法,解决问题的过程是痛苦的,解决成功是快乐的。
Exception in thread "main" java.lang.ClassNotFoundException: /input
原因是input目录是自己的本地目录,而不是HDFS的目录,会提示你hdfs://node1:9000/input path 是不存在的,解决方法就是将本地的input目录加到HDFS目录中,添加方法我们可以参考官方的文档:
hadoop shell 官方文档
下面举几个使用shell的例子
1. 添加本地文件到hdfs目录
hadoop fs -put /home/hadoop/input hdfs://node1:9000/tmp
上面命令的hadoop fs -put 后面的第一个参数是本地路径,第二个参数是hadoop HDFS上的路径,意思就是将本地路径加载到HDFS上。
2. 创建文件夹
在hadoop的HDFS上创建文件夹和在she’ll上创建文件夹一样:hadoop fs -mkdir hdfs://node1:9000/tmp/input
上面命令在HDFS的tmp目录下穿件了input文件夹
删除文件夹
每一次运行mapreduce程序之前,要确保output目录是不存在或者空的,那么,我们就要把文件夹删除掉,删除的方法如下:
hadoop fs -rmr hdfs://node1:9000/tmp/output
上面的命令就把output文件夹删除了,-rmr是一个递归删除操作,会删除该文件夹下面的所有文件以及文件夹。也可以选用-rm ,单个删除。
写在最后
http://blog.csdn.net/fansy1990/article/details/21101667?utm_source=tuicool&utm_medium=referral这篇博客在hadoop1.x下对比了put,copyFromLocal这两个命令的效率,喜欢的朋友可以去看看,其得出的结论是后者性能更好,没有做验证,不做评论。
上面写的东西自己在遇到问题的时候,找了些方法,解决问题的过程是痛苦的,解决成功是快乐的。
相关文章推荐
- linux文件夹目录以及一些基本的命令
- linux文件夹目录以及一些基本的命令
- linux文件夹目录以及一些基本的命令
- Ubuntu下配置tomcat7.0以及一些简单命令x
- linux目录基础、简单的命令以及运用linux帮助
- Linux下查找目录下的所有文件夹以及子文件中包含某个字符串的命令
- linux入门到精通一:文件目录,磁盘以及一些命令
- 安装、进程-云计算学习笔记---hadoop的简介,以及安装,用命令实现对hdfs系统进行文件的上传下载-by小雨
- Ubuntu系统目录结构以及一些常用命令
- Hadoop之HDFS的简单介绍及常用命令
- vim的简单使用以及一些常用的命令
- Ubuntu系统目录结构以及一些常用命令
- mongodb学习一 关于 下载 安装 以及增删改查 还有一些简单的命令
- Data Mining with R (code + notes) Chapter 1 --- R中关于DM的数据结构,以及一些简单的命令
- Hadoop之门之HDFS的简单命令
- hadoop hdfs 一些命令记录
- 云计算学习笔记004---hadoop的简介,以及安装,用命令实现对hdfs系统进行文件的上传下载
- 如何在Windows下安装ffmpeg以及一些简单的命令
- linux的命令解析器和常用的快捷键(以及简单的目录结构)
- 10-06 Linux的基本命令以及一些简单的通配符说明