hadoop 学习总结系列 (一)
2017-10-25 14:42
246 查看
版本 2.8
ResourceManager: RM
ApplicationManager: AM
NodeManager :NM
RM 是一个资源管理和调度器。 一个集群只有一个。
发布一个yarn application 的流程是:
yarn client 和RM 通信,创建AM ,AM是RM 创建的并且也是一个container。
AM 和RM 通信创建 NM,
AM是yarn application 的 master process , 但是具体的application 的运行是由 NM 创建的 container 实现的。AM 负责application的容错机制,比如失败是否重新运行等。
NM 是RM 的代理,负责创建container 的创建,并把 container信息反馈给RM ,RM 也可以把信息反馈给AM。
所以要运行一个yarn application 首先要开启一个RM ,否则,会报错
此时还需要开启一个NM ,因为NM 负责创建具体的container ,container 才是程序运行的地方。
如果不开启NM ,则提交的application 会处于一直等待状态,因为RM虽然接受了运行请求,却需要NM 进行container的分配,并运行。
所以运行一个yarn application 需要3步:
1.
2.
3.
ResourceManager: RM
ApplicationManager: AM
NodeManager :NM
RM 是一个资源管理和调度器。 一个集群只有一个。
发布一个yarn application 的流程是:
yarn client 和RM 通信,创建AM ,AM是RM 创建的并且也是一个container。
AM 和RM 通信创建 NM,
AM是yarn application 的 master process , 但是具体的application 的运行是由 NM 创建的 container 实现的。AM 负责application的容错机制,比如失败是否重新运行等。
NM 是RM 的代理,负责创建container 的创建,并把 container信息反馈给RM ,RM 也可以把信息反馈给AM。
所以要运行一个yarn application 首先要开启一个RM ,否则,会报错
8032端口不能访问, 一直重试,报错
此时还需要开启一个NM ,因为NM 负责创建具体的container ,container 才是程序运行的地方。
如果不开启NM ,则提交的application 会处于一直等待状态,因为RM虽然接受了运行请求,却需要NM 进行container的分配,并运行。
所以运行一个yarn application 需要3步:
1.
yarn resourcemanager
2.
yarn nodemanager
3.
yarn application_command
相关文章推荐
- hadoop 学习总结系列 (二 ) 查看日志
- hadoop 学习系列总结(三) hadoop 简易配置,及启动 起步
- Hadoop学习过程遇到的问题总结
- 【转】步步为营 SharePoint 开发学习笔记系列总结
- Spring3.0.4 学习与问题总结系列 - 1开场篇
- Hadoop学习总结之三:Map-Reduce入门
- hadoop入门学习系列之五Eclipse下搭建Hadoop2.6.5开发环境并写wordcount
- Hadoop2.6.0学习笔记(八)SPOF解决方案总结
- Hadoop学习总结之四:Map-Reduce的过程解析
- 软件工程(C编码实践篇)学习总结【实验楼系列shiyanlou.com】
- Hadoop学习总结之三:Map-Reduce入门
- [BigData]关于Hadoop学习笔记第二天(PPT总结)(一)
- 深度学习DeepLearning.ai系列课程学习总结:3. Python矢量化实现神经网络
- Maven学习总结系列八:使用Nexus创建私服
- [置顶] 【TX1学习与开发系列】Kintinuous移植到TX1的一些问题总结(三)
- hadoop 学习总结2
- Hadoop学习总结(3)——Hadoop伪分布式环境搭建
- Hadoop学习总结(1)——大数据以及Hadoop相关概念介绍
- Hadoop学习总结之Map-Reduce的过程解析
- .Net学习难点讨论系列14 – 多线程下的进程同步(线程同步问题总结篇)