Hadoop实战——MapReduce程序的运行模式
2017-05-07 14:52
246 查看
MapReduce程序的运行模式,有两种:一种是本地运行;另一种是yarn集群运行。
本地运行模式:
MapReduce程序是被提交给LocalJobRunner运行,通过设置参数mapreduce.framework.name=local
处理的数据及输出结果可以在本地文件系统,也可以在HDFS上;
本地模式利于调试;
yarn集群运行模式:
MapReduce程序被提交到yarn集群中运行,首先与集群中的resourcemanager通信,然后在resourcemanager的调度下,在nodemanager上的container中运行。
设置参数mapreduce.framework.name=yarn,及输入、输入的文件位置
本地运行模式:
MapReduce程序是被提交给LocalJobRunner运行,通过设置参数mapreduce.framework.name=local
处理的数据及输出结果可以在本地文件系统,也可以在HDFS上;
本地模式利于调试;
yarn集群运行模式:
MapReduce程序被提交到yarn集群中运行,首先与集群中的resourcemanager通信,然后在resourcemanager的调度下,在nodemanager上的container中运行。
设置参数mapreduce.framework.name=yarn,及输入、输入的文件位置
相关文章推荐
- hadoop中mapreduce程序的几种提交运行模式
- 单机伪分布式模式 运行MapReduce程序 配置问题
- Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序(转)
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop单机模式并运行Wordcount(1)
- Eclipse打包mapreduce程序并提交至hadoop集群运行
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop伪分布模式并运行Wordcount示例(1)
- Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序
- Eclipse下使用Hadoop单机模式调试MapReduce程序
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop伪分布模式并运行Wordcount示例(1)
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop单机模式并运行Wordcount(2)
- 编写简单的Mapreduce程序并部署在Hadoop2.2.0上运行
- [转载]Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序
- 在hadoop集群上运行mapreduce程序时报错“org.apache.hadoop.util.Shell$ExitCodeException:***not found”
- 【hadoop入门实战】Mac上安装hadoop,并运行程序(1)
- Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序
- Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序
- Hadoop学习全程记录——在Eclipse中运行第一个MapReduce程序
- Hadoop MapReduce示例程序WordCount.java手动编译运行解析
- 【Spark亚太研究院系列丛书】Spark实战高手之路-第一章 构建Spark集群-配置Hadoop-伪分布模式并运行Wordcount(2)
- Win系统下用Eclipse中运行远程hadoop MapReduce程序出现Permission denied错误