您的位置:首页 > 编程语言 > Java开发

在eclipse上运行MapReduce的wordcount程序所遇到的问题

2013-05-26 23:26 495 查看
接触Hadoop有些日子了,今天想在ecipse上跑一下MR的wordcount程序。没想到需要了很多莫名其妙的问题,现在汇总一下,希望其他朋友看到不会走弯路。

本地安装的eclipse是3.6.2版本,其实平时是不会去刻意的去看eclipse的版本号,但是hadoop对每个所运行且配合使用的应用都有严格的版本要求,否则会运行不起来。

首先将eclipse插件安装上,我使用的是hadoop-eclipse-plugin-1.0.4.jar这个插件,将该插件放入eclipse的plugins文件夹下,然后启动eclipse。

这里具体的操作,不一一详述,网上有很多该方面的文档。

着重的说一下我遇到的两个问题:

第一:将所有的配置都连接好以后,运行run as,发现console报了一个错误。



由于该部分是apche的configuration,因此需要引入相关几个比较重要的jar包。

commons-configuration-1.6.jar

commons-httpclient-3.0.1.jar 

commons-lang-2.4.jar 

jackson-core-asl-1.0.1.jar 

jackson-mapper-asl-1.0.1.jar

commons-cli-1.2.jar

该jar包存放在hadoop文件根目录的lib下。

第二:

当引入了以上jar包后,再次进行run as操作时,会再次出现如下错误。



据了解,该问题为hadoop 0700 bug,在csdn上看到有人已经放出该部分的问题解决,用以替代之前引入的hadoop-core-xxx.jar,即可解决,至于是不是bug,有待商榷。

为了尊重他人的劳动成果,本人仅将解决该问题的下载地址贴出,就不做上传了。

以上是本人所遇到的两个问题,用以总结,希望可以帮到其他人。
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: 
相关文章推荐