Windows下单机安装Spark开发环境
2016-02-25 14:36
218 查看
机器:windows 10 64位。
因Spark支持java、python等语言,所以尝试安装了两种语言环境下的spark开发环境。
[b]1、Java下Spark开发环境搭建[/b]
1.1、jdk安装
安装oracle下的jdk,我安装的是jdk 1.7,安装完新建系统环境变量JAVA_HOME,变量值为“C:\Program Files\Java\jdk1.7.0_79”,视自己安装路劲而定。
同时在系统变量Path下添加C:\Program Files\Java\jdk1.7.0_79\bin和C:\Program Files\Java\jre7\bin。
1.2 spark环境变量配置
去http://spark.apache.org/downloads.html网站下载相应hadoop对应的版本,我下载的是spark-1.6.0-bin-hadoop2.6.tgz,spark版本是1.6,对应的hadoop版本是2.6
解压下载的文件,假设解压 目录为:D:\spark-1.6.0-bin-hadoop2.6。将D:\spark-1.6.0-bin-hadoop2.6\bin添加到系统Path变量,同时新建SPARK_HOME变量,变量值为:D:\spark-1.6.0-bin-hadoop2.6
1.3 hadoop工具包安装
spark是基于hadoop之上的,运行过程中会调用相关hadoop库,如果没配置相关hadoop运行环境,会提示相关出错信息,虽然也不影响运行,但是这里还是把hadoop相关库也配置好吧。
1.3.1 去下载hadoop 2.6编译好的包https://www.barik.net/archive/2015/01/19/172716/,我下载的是hadoop-2.6.0.tar.gz,
1.3.2 解压下载的文件夹,将相关库添加到系统Path变量中:D:\hadoop-2.6.0\bin;同时新建HADOOP_HOME变量,变量值为:D:\hadoop-2.6.0
1.4 eclipse环境
直接新建java工程,将D:\spark-1.6.0-bin-hadoop2.6\lib下的spark-assembly-1.6.0-hadoop2.6.0.jar添加到工程中就可以了。
[b]2、Python下Spark开发环境搭建[/b]
2.1 安装python,并添加到系统变量path中:C:\Python27和C:\Python27\Scripts
2.2 重复1.2和1.3步骤
2.3 将spark目录下的pyspark文件夹(D:\spark-1.6.0-bin-hadoop2.6\python\pyspark)复制到python安装目录C:\Python27\Lib\site-packages里
2.5 在cmd命令行下运行pyspark,然后运行pip install py4j安装相关库。
2.4 安装pycharm开始编程吧。
因Spark支持java、python等语言,所以尝试安装了两种语言环境下的spark开发环境。
[b]1、Java下Spark开发环境搭建[/b]
1.1、jdk安装
安装oracle下的jdk,我安装的是jdk 1.7,安装完新建系统环境变量JAVA_HOME,变量值为“C:\Program Files\Java\jdk1.7.0_79”,视自己安装路劲而定。
同时在系统变量Path下添加C:\Program Files\Java\jdk1.7.0_79\bin和C:\Program Files\Java\jre7\bin。
1.2 spark环境变量配置
去http://spark.apache.org/downloads.html网站下载相应hadoop对应的版本,我下载的是spark-1.6.0-bin-hadoop2.6.tgz,spark版本是1.6,对应的hadoop版本是2.6
解压下载的文件,假设解压 目录为:D:\spark-1.6.0-bin-hadoop2.6。将D:\spark-1.6.0-bin-hadoop2.6\bin添加到系统Path变量,同时新建SPARK_HOME变量,变量值为:D:\spark-1.6.0-bin-hadoop2.6
1.3 hadoop工具包安装
spark是基于hadoop之上的,运行过程中会调用相关hadoop库,如果没配置相关hadoop运行环境,会提示相关出错信息,虽然也不影响运行,但是这里还是把hadoop相关库也配置好吧。
1.3.1 去下载hadoop 2.6编译好的包https://www.barik.net/archive/2015/01/19/172716/,我下载的是hadoop-2.6.0.tar.gz,
1.3.2 解压下载的文件夹,将相关库添加到系统Path变量中:D:\hadoop-2.6.0\bin;同时新建HADOOP_HOME变量,变量值为:D:\hadoop-2.6.0
1.4 eclipse环境
直接新建java工程,将D:\spark-1.6.0-bin-hadoop2.6\lib下的spark-assembly-1.6.0-hadoop2.6.0.jar添加到工程中就可以了。
[b]2、Python下Spark开发环境搭建[/b]
2.1 安装python,并添加到系统变量path中:C:\Python27和C:\Python27\Scripts
2.2 重复1.2和1.3步骤
2.3 将spark目录下的pyspark文件夹(D:\spark-1.6.0-bin-hadoop2.6\python\pyspark)复制到python安装目录C:\Python27\Lib\site-packages里
2.5 在cmd命令行下运行pyspark,然后运行pip install py4j安装相关库。
2.4 安装pycharm开始编程吧。
相关文章推荐
- c语言入门之项目4.1——利用for循环求1!+2!+3!...12!
- NVMe驱动中断绑定
- Nginx+Keepalived(带Nginx监控脚本)
- 自动化安装linux--cobbler
- Python2.X UNICODE, UTF-8转换
- 【技术控】 如何做按钮小动画?HTML+CSS3
- nginx 操作
- 在centos 6.6 上搭建一个简单的php的开发环境
- oracle技术博客
- Http错误代码
- lintcode-easy-Insert Node in a Binary Search Tree
- 聪明的iOS开发者的Xcode使用技巧
- SSH 远程登录Linux服务器很慢的解决方案
- [C++11]_[初级]_[左值引用声明和右值引用声明]
- linux常用基本命令之二十二implantisomd5和checkisomd5
- [C++11]_[初级]_[左值引用声明和右值引用声明]
- nexus+maven配置
- poj 1948(搜索+剪枝)
- 初识AOP
- GDKOI2016总结