如何将PySpark导入Python的放实现(2种)
2020-04-27 12:03
696 查看
方法一
使用findspark
使用pip安装findspark:
pip install findspark
在py文件中引入findspark:
>>> import findspark >>> findspark.init()
导入你要使用的pyspark库
>>> from pyspark import *
优点:简单快捷
缺点:治标不治本,每次写一个新的Application都要加载一遍findspark
方法二
把预编译包中的Python库文件添加到Python的环境变量中
export SPARK_HOME=你的PySpark目录 export PYTHONPATH=$SPARK_HOME/libexec/python:$SPARK_HOME/libexec/python/build:$PYTHONPATH
优点:一劳永逸
缺点:对于小白可能不太了解环境变量是什么
问题1、ImportError: No module named pyspark
现象:
- 已经安装配置好了PySpark,可以打开PySpark交互式界面;
- 在Python里找不到pysaprk。
参照上面解决
问题2、ImportError: No module named ‘py4j'
现象:
已经安装配置好了PySpark,可以打开PySpark交互式界面;
按照上面的b方式配置后出现该问题。
解决方法:
把py4j添加到Python的环境变量中
export PYTHONPATH= $SPARK_HOME/python/lib/py4j-x.xx-src.zip:$PYTHONPATH
注意:这里的py4j-x.xx-src.zip根据自己电脑上的py4j版本决定。
测试成功的环境
- Python: 3.7、2.7
- PySpark: 1.6.2 - 预编译包
- OS: Mac OSX 10.11.1
参考
Stackoverflow: importing pyspark in python shell
Stackoverflow: Why can't PySpark find py4j.java_gateway?
到此这篇关于如何将PySpark导入Python的放实现(2种)的文章就介绍到这了,更多相关PySpark导入Python内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
您可能感兴趣的文章:
相关文章推荐
- 如何将PySpark导入Python
- 非常详细的讲解Python 中如何实现自动导入缺失的库?
- 由浅入深:Python 中如何实现自动导入缺失的库?
- 由浅入深:Python 中如何实现自动导入缺失的库?
- 如何实现将Excel表(含多张数据库表)导入数据库(SQLServer)
- 如何用Python,C#等语言去实现抓取静态网页+抓取动态网页+模拟登陆网站
- 如何实现将Excel表(含多张数据库表)导入数据库(SQLServer)
- 如何用Java实现把excel表中的数据导入到mysql数据库已有的表中
- Python如何导入模块
- 如何使用Python实现进程间通信
- 读取excel, 让用户选出的几个列,将数据导入到sql server,如何实现!
- 在使用exp/imp时如何实现导入数据到指定的表空间
- 如何实现数据从EXCEL表格导入到SQL Server
- [OpenCV]如何实现人工添加椒盐(Python)
- 【Python笔记】如何用C语言实现Python第三方扩展包
- 如何用Python去实现抓取静态网页+抓取动态网页+模拟登陆网站
- Python实现基于权重的随机数2种方法
- Python里如何实现C中switch...case的功能
- 在使用exp/imp时如何实现导入数据到指定的表空间
- 如何实现将Excel表(含多张数据库表)导入数据库(SQLServer)