在eclipse上运行MapReduce的wordcount程序所遇到的问题
2013-05-26 23:26
495 查看
接触Hadoop有些日子了,今天想在ecipse上跑一下MR的wordcount程序。没想到需要了很多莫名其妙的问题,现在汇总一下,希望其他朋友看到不会走弯路。
本地安装的eclipse是3.6.2版本,其实平时是不会去刻意的去看eclipse的版本号,但是hadoop对每个所运行且配合使用的应用都有严格的版本要求,否则会运行不起来。
首先将eclipse插件安装上,我使用的是hadoop-eclipse-plugin-1.0.4.jar这个插件,将该插件放入eclipse的plugins文件夹下,然后启动eclipse。
这里具体的操作,不一一详述,网上有很多该方面的文档。
着重的说一下我遇到的两个问题:
第一:将所有的配置都连接好以后,运行run as,发现console报了一个错误。
由于该部分是apche的configuration,因此需要引入相关几个比较重要的jar包。
commons-configuration-1.6.jar
commons-httpclient-3.0.1.jar
commons-lang-2.4.jar
jackson-core-asl-1.0.1.jar
jackson-mapper-asl-1.0.1.jar
commons-cli-1.2.jar
该jar包存放在hadoop文件根目录的lib下。
第二:
当引入了以上jar包后,再次进行run as操作时,会再次出现如下错误。
据了解,该问题为hadoop 0700 bug,在csdn上看到有人已经放出该部分的问题解决,用以替代之前引入的hadoop-core-xxx.jar,即可解决,至于是不是bug,有待商榷。
为了尊重他人的劳动成果,本人仅将解决该问题的下载地址贴出,就不做上传了。
以上是本人所遇到的两个问题,用以总结,希望可以帮到其他人。
本地安装的eclipse是3.6.2版本,其实平时是不会去刻意的去看eclipse的版本号,但是hadoop对每个所运行且配合使用的应用都有严格的版本要求,否则会运行不起来。
首先将eclipse插件安装上,我使用的是hadoop-eclipse-plugin-1.0.4.jar这个插件,将该插件放入eclipse的plugins文件夹下,然后启动eclipse。
这里具体的操作,不一一详述,网上有很多该方面的文档。
着重的说一下我遇到的两个问题:
第一:将所有的配置都连接好以后,运行run as,发现console报了一个错误。
由于该部分是apche的configuration,因此需要引入相关几个比较重要的jar包。
commons-configuration-1.6.jar
commons-httpclient-3.0.1.jar
commons-lang-2.4.jar
jackson-core-asl-1.0.1.jar
jackson-mapper-asl-1.0.1.jar
commons-cli-1.2.jar
该jar包存放在hadoop文件根目录的lib下。
第二:
当引入了以上jar包后,再次进行run as操作时,会再次出现如下错误。
据了解,该问题为hadoop 0700 bug,在csdn上看到有人已经放出该部分的问题解决,用以替代之前引入的hadoop-core-xxx.jar,即可解决,至于是不是bug,有待商榷。
为了尊重他人的劳动成果,本人仅将解决该问题的下载地址贴出,就不做上传了。
以上是本人所遇到的两个问题,用以总结,希望可以帮到其他人。
相关文章推荐
- 在windows上用eclipse远程运行hadoop上的wordcount程序出现的问题,求解决
- hadoop2.2.0配置eclipse运行wordcount程序问题及解决方法
- hadoop学习之HDFS(2.1):linux下eclipse中配置hadoop-mapreduce开发环境并运行WordCount.java程序
- 在伪分布式环境下通过宿主机上的eclipse运行WordCount小程序出现的问题小结
- eclipse运行hadoop示例程序wordcount的一些问题
- Eclipse下运行hadoop自带的mapreduce程序--wordcount
- 在 Eclipse 中运行 MapReduce 程序会遇到的问题
- Hadoop MapReduce案例word count本地环境运行时遇到的一些问题
- 解决在windows的eclipse上面运行WordCount程序出现的一系列问题详解
- Windows下Cygwin环境的Hadoop安装(3)- 运行hadoop中的wordcount实例遇到的问题和解决方法
- Windows下Cygwin环境的Hadoop安装(3)- 运行hadoop中的wordcount实例遇到的问题和解决方法
- Eclipse中运行MapReduce程序时控制台无法打印进度信息的问题
- Hadoop MapReduce基于新API的WordCount程序运行过程分析
- 用新版本的job打成jar包在终端运行mapreduce程序遇到的问题 -找不到Map class?
- Hadoop 1.x 使用eclipse集成环境运行WordCount程序
- Hadoop学习笔记2:eclipse运行Mapreduce程序问题总结
- 在windows7下Eclipse中运行Hadoop的WordCount程序
- 第一个MapReduce程序----wordcount(编写并运行)
- 一步一步跟我学习hadoop(2)----hadoop eclipse插件安装和运行wordcount程序
- Eclipse重写Wordcount类实现处理中文字符,利用hadoop Eclipse插件远程调试hadoop运行WordCount程序