MapReduce2.0
2016-07-11 00:39
225 查看
MapReduce2.0运行流程
![](http://img.blog.csdn.net/20160711002551888?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
1、Client将应用程序提交给ResourceManager
2、ResourceMananager申请资源并与Nodemanager通信
3、Nodemanager收到请求启动MR AppMaster
4、MR AppMaster(MapTask、ReduceTask)与ResourceManager通信并申请资源
5、MR AppMaster申请到资源与NodeManager通信运行Task
6、NodeManager启动Task
MRAppMaster容错性:
一旦运行失败,由YARN的ResourceManager负责重新启动,最多重启次数可由用户设置,默认是2次。一旦超过最高重启次数,则作业运行失败。
Map Task/Reduce Task:
Task周期性向MRAppMaster汇报心跳,一旦Task挂掉,则MRAppMaster将为之重新申请资源,并运行。最多重新运行次数可由用户设置,默认4次。
1、Client将应用程序提交给ResourceManager
2、ResourceMananager申请资源并与Nodemanager通信
3、Nodemanager收到请求启动MR AppMaster
4、MR AppMaster(MapTask、ReduceTask)与ResourceManager通信并申请资源
5、MR AppMaster申请到资源与NodeManager通信运行Task
6、NodeManager启动Task
MRAppMaster容错性:
一旦运行失败,由YARN的ResourceManager负责重新启动,最多重启次数可由用户设置,默认是2次。一旦超过最高重启次数,则作业运行失败。
Map Task/Reduce Task:
Task周期性向MRAppMaster汇报心跳,一旦Task挂掉,则MRAppMaster将为之重新申请资源,并运行。最多重新运行次数可由用户设置,默认4次。
相关文章推荐
- OpenMP First Demo
- 数据结构(虚树,动态规划):HNOI 2014 世界树
- 格雷码(Gray Code)的生成
- mongdb 安装
- Xshell5平台命令行与DOS窗口下命令行
- PHPExcel 对xls表格的文件读取
- spring 集成shiro 之 自定义过滤器
- UIWebView与JavaScript(JS) 回调交互
- 知识图谱
- 求某个数范围内的素数个数
- c++中STL库简介及使用说明
- c++中STL库简介及使用说明
- 基于 flask 框架的模拟instagram 图片分享网站的开发 4
- iterm2上传下载文件
- L2-001. 紧急救援(dijkstra+记录路径)
- 3987 D. Hacb knows the gift
- nginx 重写 rewrite 基础及实例(转)
- 洛谷 P1082 同余方程
- 隐藏nginx 版本号信息(转)
- Java二维数组_三角