springhadoop mapreduce wordcount
2016-09-22 17:37
363 查看
<?xml version="1.0" encoding="UTF-8"?>
@SpringBootApplication
@ImportResource("bean.xml")
public class App {
public static void main(String[] args) {
SpringApplication.run(App.class, args);
}
}
这其中有个坑,官网介绍是可以集成2.6.0 hadoop的,不过我在执行的时候报错
java.lang.ClassNotFoundException: org.apache.hadoop.util.StopWatch
在之前的pom改成:
启动App类,还是报错:
org.apache.hadoop.io.nativeio.NativeIO$Windows.access0(Ljava/lang/String
好了,这个是代表windows上调试hadoop需要hadoop.dll和winutils.exe,IDEA目前还不会配这个hadoop的路径,所以先放到linux上面跑一下。
打包,执行脚本开跑,结果为:
后续看看如何在IDEA上加上hadoop路径
@SpringBootApplication
@ImportResource("bean.xml")
public class App {
public static void main(String[] args) {
SpringApplication.run(App.class, args);
}
}
这其中有个坑,官网介绍是可以集成2.6.0 hadoop的,不过我在执行的时候报错
java.lang.ClassNotFoundException: org.apache.hadoop.util.StopWatch
在之前的pom改成:
<dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-common</artifactId> <version>2.7.2</version> <scope>compile</scope> <exclusions> <exclusion> <artifactId>slf4j-log4j12</artifactId> <groupId>org.slf4j</groupId> </exclusion> </exclusions> </dependency>
启动App类,还是报错:
org.apache.hadoop.io.nativeio.NativeIO$Windows.access0(Ljava/lang/String
好了,这个是代表windows上调试hadoop需要hadoop.dll和winutils.exe,IDEA目前还不会配这个hadoop的路径,所以先放到linux上面跑一下。
打包,执行脚本开跑,结果为:
后续看看如何在IDEA上加上hadoop路径
相关文章推荐
- hadoop学习笔记(三)mapreduce程序wordcount
- HADOOP 分布式集群环境下第一个mapReduce程序—WordCount
- hadoop mapreduce 之wordcount 编译执行
- Hadoop之道--MapReduce之Hello World实例wordcount
- Hadoop之MapReduce—Wordcount扩展
- Hadoop之道--MapReduce之Hello World实例wordcount
- [hadoop源码阅读][9]-mapreduce-从wordcount开始
- hadoop集群配置方法---mapreduce应用:xml解析+wordcount详解---yarn配置项解析
- Hadoop_MapReduce中的WordCount运行详解 运行原理
- 初学Hadoop之图解MapReduce与WordCount示例分析
- Hadoop2.2.0 第一步完成MapReduce wordcount计算文本数量
- mapreduce中wordcount详细介绍(包括hadoop1和hadoop2版本)
- Hadoop集群_WordCount运行详解--MapReduce编程模型
- hadoop hdfs搭建 mapreduce环境搭建 wordcount程序简单注释
- Eclipse下运行hadoop自带的mapreduce程序--wordcount
- hadoop之MapReduce WordCount分析
- Hadoop MapReduce示例程序WordCount.java手动编译运行解析
- hadoop学习(六)WordCount示例深度学习MapReduce过程(1)
- 初学Hadoop之图解MapReduce与WordCount示例分析
- 从wordcount 开始 mapreduce (C++\hadoop streaming模式)