您的位置:首页 > 运维架构 > Apache

Apache Spark的部署环境的小记

2016-07-29 10:42 447 查看
  不多说,直接上干货!

  Spark的单机版便于测试,同时通过SSH用Spark的内置部署脚本搭建Spark集群,使用Mesos、Yarn或者Chef来部署Spark。对于Spark在云环境中的部署,比如在EC2(基本环境和ECMR)上的部署。

  请移步,见我的下面博客

Spark运行模式概述

注意:EMR(Elastic MapReduce),即弹性MapReduce。 亚马逊弹性MapReduce(Amazon EMR)

1、从Spark源码搭建Spakr环境

2、在云环境搭建搭建Spakr环境

3、通过SSH搭建Spakr环境

  如果集群未安装任何集群管理软件,你能用一些方便Spark部署的脚本通过SSH部署Spark,这种方式在Spark文档中叫“standlone”模式。

4、在YARN上搭建Spakr环境

5、在Mesos上搭建Spakr环境

  进一步学习,请移步Spark集群搭建(1、3和5节点)(含CentOS系统和Ubuntu系统) (博主推荐)



欢迎大家,加入我的微信公众号:大数据躺过的坑 免费给分享

同时,大家可以关注我的个人博客

http://www.cnblogs.com/zlslch/ http://www.cnblogs.com/lchzls/

  人生苦短,我愿分享。本公众号将秉持活到老学到老学习无休止的交流分享开源精神,汇聚于互联网和个人学习工作的精华干货知识,一切来于互联网,反馈回互联网。
  目前研究领域:大数据、机器学习、深度学习、人工智能、数据挖掘、数据分析。 语言涉及:Java、Scala、Python、Shell、Linux等 。同时还涉及平常所使用的手机、电脑和互联网上的使用技巧、问题和实用软件。 只要你一直关注和呆在群里,每天必须有收获

以及对应本平台的QQ群:161156071(大数据躺过的坑)





内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: