您的位置:首页 > 运维架构

基于Mac版VmwareFusion中安装的多台Ubuntu16.04系统虚拟机,实现Hadoop框架的过程

2018-03-05 18:10 951 查看
  由于用到了虚拟机来做多台机器联机的分布式,所以,关键的一点就是确保这几台虚拟机间的网络通信。首先我们要在vmware fusion中建立四台ubuntu 16.04版本的Linux系统虚拟机,然后进行相关的网络设置。

  值得借鉴的几篇有关Mac上vmware fusion里,几台虚拟机之间各自的网络适配器(网卡)设置的参考方法可以从以下的这个URL中找到:
http://blog.csdn.net/YooFale/article/details/78223453

  vmware fusion软件里的配置文件存放位置为:
/Library/Preferences/VMware\ Fusion
。在这里有一个
networking
文件,在这里可以看到子网和子网掩码,开启和关闭DHCP(Dynamic Host Configuration Protocol,动态主机配置协议),以及NAT(Network Address Translation,网络地址转换)。
但是最重要的是这个目录下的networking文件是自动生成的,只要自己配置好网络以及相关网络适配器(网卡),这个文件的内容也会相应的改变。这里提到的方法仅用来做相应的强制性改变......


  在配置好相应的网络设置后,就可以按照《Hadoop + Spark 大数据巨量分析与机器学习整合开发实战》这本书进行相关的集群搭建和配置。可以在URL:https://item.jd.com/12075332.html里找到这本书,余下的操作按照这本书中的内容进行配置即可。

#搭建分布式期间可能遇到的典型问题#:

在搭建 Hadoop hadoop-2.7.1 的最后一步启动./sbin/start-yarn.sh,在命令窗口并没有报任何错误,但是Slave 节点的 NodeManager进程始终启动不起来。随后查看了后台启动日志,发现如下错误:

FATAL org.apache.hadoop.yarn.server.nodemanager.NodeMana
ger: Error starting NodeManager
org.apache.hadoop.yarn.exceptions.YarnRuntimeException: org.apache.hadoop.yarn.e
xceptions.YarnRuntimeException: Recieved SHUTDOWN signal from Resourcemanager ,R
egistration of NodeManager failed, Message from ResourceManager: NodeManager fro
m  hadoop22 doesn't satisfy minimum allocations, Sending SHUTDOWN signal to the NodeManager.


发现yarn-site.xml配置有点问题。nodemanager要求的内存较低1024MB,在yarn-site.xml加上以下代码,重启./sbin/start-yarn.sh,问题解决。

<property>

<name>yarn.nodemanager.resource.memory-mb</name>

<value>1024</value>

</property>

<property>

<name>yarn.nodemanager.resource.cpu-vcores</name>

<value>1</value>

</property>
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
相关文章推荐