Hadoop 2.x HDFS和YARN的启动方式
2017-06-01 00:00
375 查看
一.三种启动方式介绍
方式一:逐一启动(实际生产环境中的启动方式)hadoop-daemon.sh start|stop namenode|datanode| journalnode
yarn-daemon.sh start |stop resourcemanager|nodemanager
方式二:分开启动
start-dfs.sh
start-yarn.sh
方式三:一起启动
start-all.sh
二.脚本解读
start-dfs.sh脚本:(1) 通过命令bin/hdfs getconf –namenodes查看namenode在那些节点上
(2) 通过ssh方式登录到远程主机,启动hadoop-deamons.sh脚本
(3) hadoop-deamon.sh脚本启动slaves.sh脚本
(4) slaves.sh脚本启动hadoop-deamon.sh脚本,再逐一启动
start-all.sh脚本:
说明:start-all.sh实际上是调用sbin/start-dfs.sh脚本和sbin/start-yarn.sh脚本
三.三种启动方式的关系
start-all.sh其实调用start-dfs.sh和start-yarn.shstart-dfs.sh调用hadoop-deamon.sh
start-yarn.sh调用yarn-deamon.sh
如下图:
四.为什么要设置ssh协议
当执行start-dfs.sh脚本时,会调用slaves.sh脚本,通过ssh协议无密码登陆到其他节点去启动进程。为了能自动启动远程节点的进程,需要进行免密码登录。
五.采用第二种启动方式
上面已经配置好了ssh公钥登录,接下来用第二种启动方式启动Step1:先停止所以进程(如果已经启动)
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/yarn-daemon.sh stop nodemanager
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/yarn-daemon.sh stop resourcemanager
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/hadoop-daemon.sh stop datanode
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/hadoop-daemon.sh stop secondarynamenode
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/hadoop-daemon.sh stop namenode
Step2:启动所以进程
[hadoop@hadoop-yarn hadoop-2.2.0]$sbin/start-dfs.sh
[hadoop@hadoop-yarn hadoop-2.2.0]$ sbin/start-yarn.sh
Step3:查看管理界面
YARN: http://hadoop-yarn.dragon.org:8088/
HDFS: http://hadoop-yarn.dragon.org:50070/
相关文章推荐
- Hadoop 2.x HDFS和YARN的启动方式
- 企业级Hadoop 2.x入门系列之八HDFS和YARN的启动方式
- Hadoop 2.x HDFS和YARN的启动方式
- Hadoop系列二:启动HDFS和YARN过程日志
- Hadoop2.X中Mapreduce,YARN等配置,启动和常见错误解决办法
- hadoop集群之HDFS和YARN启动和停止命令
- hadoop2.x入门:Hadoop的启动方式
- 搭建yarn方式管理hadoop2.x
- hadoop-HA集群搭建,启动DataNode,检测启动状态,执行HDFS命令,启动YARN,HDFS权限配置,C++客户端编程,常见错误
- 云帆大数据学院_hdfs和YARN的启动方式
- 企业级Hadoop 2.x入门系列之四HDFS文件系统和YARN资源管理框架简介
- 启动Hadoop HDFS时的“Incompatible clusterIDs”错误原因分析
- 启动Hadoop HDFS时的“Incompatible clusterIDs”错误原因分析
- Hadoop2.X/YARN环境搭建--CentOS7.0系统配置
- Hadoop - YARN 启动流程
- Hadoop 2.2.0启动脚本——bin/hdfs
- 【Hadoop】Hadoop/Yarn中hdfs与mapreduce相关问题汇总
- 启动Hadoop HDFS时的“Incompatible clusterIDs”错误原因分析
- Hadoop 2.0+YARN启动脚本分析与实战经验
- Hadoop HDFS Namenode启动不成功