linux上安装spark1.0.0
2015-12-17 21:48
525 查看
此系统是ubuntu!前提你已经安装scala和jdk,spark的运行依赖于scala2.10.4,具体下载安装等等,在我的博客都已说明。
1.下载spark-1.0.0-bin-hadoop2.tar.gz,下载链接为:http://pan.baidu.com/s/1c0PxMpi
2.解压到你的某个文件夹里tar -xzvf spark-1.0.0-bin-hadoop2.tar.gz
3.得到目录spark后,进入spark目录,进入conf子目录,将 spark-env.sh-template 重命名为spark-env.sh,并添加以下代码行:
export SCALA_HOME=你的scala安装路径
export JAVA_HOME=你的jdk安装路径 我的如下图所示:
4.去设置spark-shell的环境变量,如下图:当然你按照你的路径,这是我的路径
5.source /etc/profile
6.敲入:spark-shell
spark配置集群:在spark目录下的conf/中找到spark-env.sh。如下图加入两行参数,当然还有许多可以配置的参数
IP写上你的master的IP,修改master的就行,其余的不用。
修改此目录下的slaves:
把你所有的slave的机器名写进来。
启动集群(1)Spark启动与关闭
1)在Spark根目录启动Spark,敲入:./sbin/start-all.sh
2)关闭Spark敲入:./sbin/stop-all.sh
(2)查看spark集群,敲入:jps,在master会出现master,在slave机器上出现worker
1.下载spark-1.0.0-bin-hadoop2.tar.gz,下载链接为:http://pan.baidu.com/s/1c0PxMpi
2.解压到你的某个文件夹里tar -xzvf spark-1.0.0-bin-hadoop2.tar.gz
3.得到目录spark后,进入spark目录,进入conf子目录,将 spark-env.sh-template 重命名为spark-env.sh,并添加以下代码行:
export SCALA_HOME=你的scala安装路径
export JAVA_HOME=你的jdk安装路径 我的如下图所示:
4.去设置spark-shell的环境变量,如下图:当然你按照你的路径,这是我的路径
5.source /etc/profile
6.敲入:spark-shell
spark配置集群:在spark目录下的conf/中找到spark-env.sh。如下图加入两行参数,当然还有许多可以配置的参数
IP写上你的master的IP,修改master的就行,其余的不用。
修改此目录下的slaves:
把你所有的slave的机器名写进来。
启动集群(1)Spark启动与关闭
1)在Spark根目录启动Spark,敲入:./sbin/start-all.sh
2)关闭Spark敲入:./sbin/stop-all.sh
(2)查看spark集群,敲入:jps,在master会出现master,在slave机器上出现worker
相关文章推荐
- linux进程间通信-----System V消息队列总结实例
- CentOS安装arm-linux-gcc交叉编译器
- Linux——Linux 文件基本操作
- Linux——Linux 文件系统基本结构
- linux => Linux下的Notepad++编辑器——Notepadqq
- 在CentOS下,搭建单节点以及集群spark
- linux 下core文件的设置
- centos安装lxml和pyspider
- CentOS6.5下用yum安装 git .
- CentOS6.6下配置KMS自动激活服务器虚拟机简化配置
- linux安装PHP环境
- 为Linux应用构造有限状态机
- linux环境下的线程的创建问题
- Linux命令:时间,用户及系统常用基础总结
- Linux中查看是否有nvdia的显卡
- Linux命令:文本处理
- Linux命令:文件目录管理
- Linux中的shift命令
- linux下解压命令大全
- [Linux]ubuntu下共享文件夹密码设置和重置-smbpasswd -a user