您的位置:首页 > 其它

Scrapy安装

2015-07-23 21:14 253 查看
最近在做一个舆情的项目,需要用到爬虫来爬去网页内容。因此,这两天在恶补Python,作为一个零基础的我,要安装Python包,实在是有点难度。

使用爬虫时,了解到了Scrapy框架,这是Python开发的一个高速,高层次的屏幕抓取和web抓取框架。

然后,问题来了,因为这个包相对来说处于高层,需要先安装一些基础的包,如:setuptools,lxml,zope.interface,twisted,pyOpenSSL,pywin32,

我一开始的问题是卡在了setuptools的安装,没有exe或者msi.它是一段代码,要在本地用Python执行。但是不知道为什么,我执行完,自动下载完,就是没有在Python的Scipts目录下生成easy_install等文件。整了半天都没用。后来,发现pip的安装会自带easy_install的安装,,,尼玛怎么不早说,瞬间想哭。。。pipinstall的安装过程与easy是一样的的,都是将官网的一段Python代码拷贝到本地执行完,就会自动安装了!!so easy

好了,装完pip,一切都简单了

在这里,给大家推荐一个链接
http://www.cnblogs.com/CLTANG/archive/2011/07/05/2098531.html
但是,这链接里面用的都是easy_install方式,本人不建议,最好用pipinstall,方便卸载。

下面是用pip方式安装Python模块的一些命令:

windows下

1.配置好pip命令

下载安装

pip‑1.5.6.win‑amd64‑py2.7.exe or pip‑1.5.6.win32‑py2.7.exe

装好在C:\Python27\Scripts下应该有easy_install.exe 和 pip.exe

设置好环境变量Path 有C:\Python27\Scripts

在命令行输入pip是否成功

2.下载pyOpenSSL-0.11.winxp32-py2.7.exe

下载地址 https://launchpad.net/pyopenssl
装好后 import OpenSSL

可能报cryptography 找不到



3.去pypi网站下载cryptography-0.5.3-cp27-none-win32.whl

接着pip来装whl

确保装好wheel pip install wheel

解压 pip wheel cryptography-0.5.3-cp27-none-win32.whl 会解压到当前目录下的wheelhouse ,里面有依赖的whl

安装 pip install --use-wheel --no-index --find-links=wheelhouse cryptography

不要高兴太早,看是否成成功

测试import OpenSSL 是否报错

我现在还有点问题,在安装完进行测试的时候, 说模块找不到,谷歌了还是无解,搞得我好心塞

求大神帮忙解答下,感激不尽!!





( ps. 下源码包 自己编译安装 很痛苦。。.,直接找编译好的二进制安装包

推荐网址http://www.lfd.uci.edu/~gohlke/pythonlibs/)
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: