基于Mac版VmwareFusion中安装的多台Ubuntu16.04系统虚拟机,实现Hadoop框架的过程
2018-03-05 18:10
951 查看
由于用到了虚拟机来做多台机器联机的分布式,所以,关键的一点就是确保这几台虚拟机间的网络通信。首先我们要在vmware fusion中建立四台ubuntu 16.04版本的Linux系统虚拟机,然后进行相关的网络设置。
值得借鉴的几篇有关Mac上vmware fusion里,几台虚拟机之间各自的网络适配器(网卡)设置的参考方法可以从以下的这个URL中找到:
http://blog.csdn.net/YooFale/article/details/78223453
vmware fusion软件里的配置文件存放位置为:
在配置好相应的网络设置后,就可以按照《Hadoop + Spark 大数据巨量分析与机器学习整合开发实战》这本书进行相关的集群搭建和配置。可以在URL:https://item.jd.com/12075332.html里找到这本书,余下的操作按照这本书中的内容进行配置即可。
#搭建分布式期间可能遇到的典型问题#:
在搭建 Hadoop hadoop-2.7.1 的最后一步启动./sbin/start-yarn.sh,在命令窗口并没有报任何错误,但是Slave 节点的 NodeManager进程始终启动不起来。随后查看了后台启动日志,发现如下错误:
发现yarn-site.xml配置有点问题。nodemanager要求的内存较低1024MB,在yarn-site.xml加上以下代码,重启./sbin/start-yarn.sh,问题解决。
<property>
<name>yarn.nodemanager.resource.memory-mb</name>
<value>1024</value>
</property>
<property>
<name>yarn.nodemanager.resource.cpu-vcores</name>
<value>1</value>
</property>
值得借鉴的几篇有关Mac上vmware fusion里,几台虚拟机之间各自的网络适配器(网卡)设置的参考方法可以从以下的这个URL中找到:
http://blog.csdn.net/YooFale/article/details/78223453
vmware fusion软件里的配置文件存放位置为:
/Library/Preferences/VMware\ Fusion。在这里有一个
networking文件,在这里可以看到子网和子网掩码,开启和关闭DHCP(Dynamic Host Configuration Protocol,动态主机配置协议),以及NAT(Network Address Translation,网络地址转换)。
但是最重要的是这个目录下的networking文件是自动生成的,只要自己配置好网络以及相关网络适配器(网卡),这个文件的内容也会相应的改变。这里提到的方法仅用来做相应的强制性改变......
在配置好相应的网络设置后,就可以按照《Hadoop + Spark 大数据巨量分析与机器学习整合开发实战》这本书进行相关的集群搭建和配置。可以在URL:https://item.jd.com/12075332.html里找到这本书,余下的操作按照这本书中的内容进行配置即可。
#搭建分布式期间可能遇到的典型问题#:
在搭建 Hadoop hadoop-2.7.1 的最后一步启动./sbin/start-yarn.sh,在命令窗口并没有报任何错误,但是Slave 节点的 NodeManager进程始终启动不起来。随后查看了后台启动日志,发现如下错误:
FATAL org.apache.hadoop.yarn.server.nodemanager.NodeMana ger: Error starting NodeManager org.apache.hadoop.yarn.exceptions.YarnRuntimeException: org.apache.hadoop.yarn.e xceptions.YarnRuntimeException: Recieved SHUTDOWN signal from Resourcemanager ,R egistration of NodeManager failed, Message from ResourceManager: NodeManager fro m hadoop22 doesn't satisfy minimum allocations, Sending SHUTDOWN signal to the NodeManager.
发现yarn-site.xml配置有点问题。nodemanager要求的内存较低1024MB,在yarn-site.xml加上以下代码,重启./sbin/start-yarn.sh,问题解决。
<property>
<name>yarn.nodemanager.resource.memory-mb</name>
<value>1024</value>
</property>
<property>
<name>yarn.nodemanager.resource.cpu-vcores</name>
<value>1</value>
</property>
相关文章推荐
- 虚拟机安装的三台Ubuntu系统下搭建Hadoop过程记录
- [视频]mac系统下虚拟机parallels安装ubuntu 14.04视频教程
- mac系统下虚拟机parallels安装ubuntu 14.04
- [视频]mac系统下虚拟机parallels安装ubuntu 14.04视频教程
- 基于ubuntu16.04系统下OpenCV源码安装及无法import cv2
- mac系统下虚拟机parallels安装ubuntu 14.04
- 图文讲解基于centos虚拟机的Hadoop集群安装,并且使用Mahout实现贝叶斯分类实例 (6)
- hadoop学习笔记之前期准备 ubuntu16.04虚拟机安装、WMwareTools安装及网络配置
- 在Linux系统中配置Hadoop环境(1)---在虚拟机上安装Linux Ubuntu系统
- 双系统ubuntu16.04 64位安装android studio并启动虚拟机
- WIN7系统下安装ubuntu-16.04,实现双系统
- hadoop安装过程中ubuntu系统ssh免密码登陆设置
- 图文讲解基于centos虚拟机的Hadoop集群安装,并且使用Mahout实现贝叶斯分类实例 (4)
- VMware12使用三台虚拟机Ubuntu16.04系统搭建hadoop-2.7.1+hbase-1.2.4(完全分布式)
- ubuntu16.04与win10双系统的安装过程遇到的问题解决方案记录
- 图文讲解基于centos虚拟机的Hadoop集群安装,并且使用Mahout实现贝叶斯分类实例 (3)
- Ubuntu安装虚拟机XP系统 实现文件的共享
- 图文讲解基于centos虚拟机的Hadoop集群安装,并且使用Mahout实现贝叶斯分类实例 (2)
- 云计算大赛准备过程之安装虚拟机及linux系统ubuntu过程
- [视频]mac系统下虚拟机parallels安装ubuntu 14.04视频教程