hadoop集群中动态增加新的DataNode节点
2014-10-27 15:55
337 查看
集群中现有的计算能力不足,需要另外添加新的节点时,使用如下方法就能动态增加新的节点:
1、在新的节点上安装hadoop程序,一定要控制好版本,可以从集群上其他机器cp一份修改也行
2、把namenode的相关配置文件复制到该节点
3、修改masters和slavers文件,增加节点
4、设置ssh免密码登录该节点
5、单独启动该节点上的datanode和tasktracker守护进程,启动命令如下:
hadoop -daemon.sh start datanode\tasktracker
6、下次操作hdfs时,就可将数据写到该机器上,如果想使得节点间的负载均衡,可使用一下命令:
start-balancer.sh ,备注:负载均衡视集群规模大小耗时,如果正在运行较重的任务或者任务队列等待任务较多时不宜使用。
以上命令均在/hadoop/bin 目录下执行。
1、在新的节点上安装hadoop程序,一定要控制好版本,可以从集群上其他机器cp一份修改也行
2、把namenode的相关配置文件复制到该节点
3、修改masters和slavers文件,增加节点
4、设置ssh免密码登录该节点
5、单独启动该节点上的datanode和tasktracker守护进程,启动命令如下:
hadoop -daemon.sh start datanode\tasktracker
6、下次操作hdfs时,就可将数据写到该机器上,如果想使得节点间的负载均衡,可使用一下命令:
start-balancer.sh ,备注:负载均衡视集群规模大小耗时,如果正在运行较重的任务或者任务队列等待任务较多时不宜使用。
以上命令均在/hadoop/bin 目录下执行。
相关文章推荐
- hadoop集群中动态添加新的DataNode节点
- Hadoop 2.6.3动态增加/删除DataNode节点
- Hadoop 2.6.3动态增加/删除DataNode节点
- hadoop1.2.1集群增加datanode节点
- hadoop1.1.2集群动态添加datanode节点
- Hadoop之——Hadoop 2.6.3动态增加/删除DataNode节点
- Hadoop 2.6.3动态增加/删除DataNode节点
- Hadoop集群动态添加datanode节点步骤
- [Nutch]Hadoop动态增加DataNode节点和TaskTracker节点
- hadoop 动态添加节点datanode及tasktracker
- hadoop集群的负载均衡配置与添加DataNode节点和TaskTracker节点
- Hadoop集群节点的动态增加与删除
- hadoop集群启动后,datanode节点上jps后NodeManager无法启动
- Hadoop集群节点的动态增加与删除
- Hadoop集群节点的动态增加与删除
- Hadoop集群节点的动态增加与删除
- Hadoop集群搭建过程中DataNode与TaskTracker节点的问题
- 启动 Hadoop 集群时datanode节点不启动原因之一——格式化次数太多的解决办法
- hadoop1.x配置 - 集群增加datanode
- hadoop2.5.x搭建集群启动jps在datanode节点无法显示datanode