Scrapy安装
2015-07-23 21:14
253 查看
最近在做一个舆情的项目,需要用到爬虫来爬去网页内容。因此,这两天在恶补Python,作为一个零基础的我,要安装Python包,实在是有点难度。
使用爬虫时,了解到了Scrapy框架,这是Python开发的一个高速,高层次的屏幕抓取和web抓取框架。
然后,问题来了,因为这个包相对来说处于高层,需要先安装一些基础的包,如:setuptools,lxml,zope.interface,twisted,pyOpenSSL,pywin32,
我一开始的问题是卡在了setuptools的安装,没有exe或者msi.它是一段代码,要在本地用Python执行。但是不知道为什么,我执行完,自动下载完,就是没有在Python的Scipts目录下生成easy_install等文件。整了半天都没用。后来,发现pip的安装会自带easy_install的安装,,,尼玛怎么不早说,瞬间想哭。。。pipinstall的安装过程与easy是一样的的,都是将官网的一段Python代码拷贝到本地执行完,就会自动安装了!!so easy
好了,装完pip,一切都简单了
在这里,给大家推荐一个链接
http://www.cnblogs.com/CLTANG/archive/2011/07/05/2098531.html
但是,这链接里面用的都是easy_install方式,本人不建议,最好用pipinstall,方便卸载。
下面是用pip方式安装Python模块的一些命令:
windows下
1.配置好pip命令
下载安装
pip‑1.5.6.win‑amd64‑py2.7.exe or pip‑1.5.6.win32‑py2.7.exe
装好在C:\Python27\Scripts下应该有easy_install.exe 和 pip.exe
设置好环境变量Path 有C:\Python27\Scripts
在命令行输入pip是否成功
2.下载pyOpenSSL-0.11.winxp32-py2.7.exe
下载地址 https://launchpad.net/pyopenssl
装好后 import OpenSSL
可能报cryptography 找不到
3.去pypi网站下载cryptography-0.5.3-cp27-none-win32.whl
接着pip来装whl
确保装好wheel pip install wheel
解压 pip wheel cryptography-0.5.3-cp27-none-win32.whl 会解压到当前目录下的wheelhouse ,里面有依赖的whl
安装 pip install --use-wheel --no-index --find-links=wheelhouse cryptography
不要高兴太早,看是否成成功
测试import OpenSSL 是否报错
我现在还有点问题,在安装完进行测试的时候, 说模块找不到,谷歌了还是无解,搞得我好心塞
![](http://static.blog.csdn.net/xheditor/xheditor_emot/default/wail.gif)
求大神帮忙解答下,感激不尽!!
![](http://img.blog.csdn.net/20150723210908266?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
![](http://img.blog.csdn.net/20150723211006496?watermark/2/text/aHR0cDovL2Jsb2cuY3Nkbi5uZXQv/font/5a6L5L2T/fontsize/400/fill/I0JBQkFCMA==/dissolve/70/gravity/Center)
( ps. 下源码包 自己编译安装 很痛苦。。.,直接找编译好的二进制安装包
推荐网址http://www.lfd.uci.edu/~gohlke/pythonlibs/)
使用爬虫时,了解到了Scrapy框架,这是Python开发的一个高速,高层次的屏幕抓取和web抓取框架。
然后,问题来了,因为这个包相对来说处于高层,需要先安装一些基础的包,如:setuptools,lxml,zope.interface,twisted,pyOpenSSL,pywin32,
我一开始的问题是卡在了setuptools的安装,没有exe或者msi.它是一段代码,要在本地用Python执行。但是不知道为什么,我执行完,自动下载完,就是没有在Python的Scipts目录下生成easy_install等文件。整了半天都没用。后来,发现pip的安装会自带easy_install的安装,,,尼玛怎么不早说,瞬间想哭。。。pipinstall的安装过程与easy是一样的的,都是将官网的一段Python代码拷贝到本地执行完,就会自动安装了!!so easy
好了,装完pip,一切都简单了
在这里,给大家推荐一个链接
http://www.cnblogs.com/CLTANG/archive/2011/07/05/2098531.html
但是,这链接里面用的都是easy_install方式,本人不建议,最好用pipinstall,方便卸载。
下面是用pip方式安装Python模块的一些命令:
windows下
1.配置好pip命令
下载安装
pip‑1.5.6.win‑amd64‑py2.7.exe or pip‑1.5.6.win32‑py2.7.exe
装好在C:\Python27\Scripts下应该有easy_install.exe 和 pip.exe
设置好环境变量Path 有C:\Python27\Scripts
在命令行输入pip是否成功
2.下载pyOpenSSL-0.11.winxp32-py2.7.exe
下载地址 https://launchpad.net/pyopenssl
装好后 import OpenSSL
可能报cryptography 找不到
3.去pypi网站下载cryptography-0.5.3-cp27-none-win32.whl
接着pip来装whl
确保装好wheel pip install wheel
解压 pip wheel cryptography-0.5.3-cp27-none-win32.whl 会解压到当前目录下的wheelhouse ,里面有依赖的whl
安装 pip install --use-wheel --no-index --find-links=wheelhouse cryptography
不要高兴太早,看是否成成功
测试import OpenSSL 是否报错
我现在还有点问题,在安装完进行测试的时候, 说模块找不到,谷歌了还是无解,搞得我好心塞
![](http://static.blog.csdn.net/xheditor/xheditor_emot/default/wail.gif)
求大神帮忙解答下,感激不尽!!
( ps. 下源码包 自己编译安装 很痛苦。。.,直接找编译好的二进制安装包
推荐网址http://www.lfd.uci.edu/~gohlke/pythonlibs/)
相关文章推荐
- 开源 PetaPoco 扩展~一个小型轻巧的ORM~
- Spring AOP 详解
- jdk环境变量的配置
- Cutting stock
- 编程是一门实践技能,积极动手实验常有意外的收获
- ScrollView:ScrollView can host only one direct child异常
- LeetCode#66 Plus One
- 反射setAccessible()方法
- 字典
- 基于Linux webRTC 音语对讲之三 -- webrtc voip 实例展现
- cf559B字符串的最小表示法和递归的写法
- 解决java.net.SocketException: Unrecognized Windows Sockets error: 0: JVM_Bind
- hdoj 1106 排序
- 205 Isomorphic Strings
- undefined reference to `log4cplus::Logger::Logger(log4cplus::Logger&&)'
- iOS 监听文本框的改变 代码片段
- 7.23多校——5305DFS——Friends
- Parencodings
- SQL*loader实验
- C语言部分知识