您的位置:首页 > 其它

64位windows环境如何安装scrapy框架

2017-08-01 17:25 489 查看
一。scrapy在windows的安装最为复杂,因为很多东西没有预安装,除了python27以外,还需安装以下 依赖项

Scrapy依赖项的安装

1.假设已经安装好了python2.7 (64位)

2.安装pywin32:到https://sourceforge.net/projects/pywin32/files/pywin32/Build%20221/ 页面

  我下载的是pywin32-221.win-amd64-py2.7.exe版本

 .执行文件pywin32-221.win-amd64-py2.7.exe

 .在python命令行下输入:import win32com,如果没有提示错误,则证明安装成功

3.安装pyOpenSSL,下载pyOpenSSL-0.13.1.win-amd64-py2.7.exe,安装完成

4.安装lxml,参考安装过程http://blog.csdn.net/zouxfbj/article/details/76427557

5.安装Twisted-13.2.0.win-amd64-py2.7.exe

6.将zope.interface-4.0.5-py2.7-win32.egg拷贝到C:\Python27\Scripts目录下,执行$ easy_install.exe zope.interface-4.0.5-py2.7-win32.egg

此步安装失败,错误提示如下

c:\Python27\Scripts>easy_install.exe zope.interface-4.0.5-py2.7-win32.egg

Searching for zope.interface-4.0.5-py2.7-win32.egg

Reading https://pypi.python.org/simple/zope.interface-4.0.5-py2.7-win32.egg/
Couldn't find index page for 'zope.interface-4.0.5-py2.7-win32.egg' (maybe misspelled?)

Scanning index of all packages (this may take a while)

Reading https://pypi.python.org/simple/
No local packages or working download links found for zope.interface-4.0.5-py2.7-win32.egg

error: Could not find suitable distribution for Requirement.parse('zope.interface-4.0.5-py2.7-win32.egg')

验证scrapy依赖项是否安装成功的方法:

cmd执行$ python进入python控制台

执行import lxml,如果没报错,则说明lxml安装成功

执行import twisted,如果没报错,则说明twisted安装成功

执行import OpenSSL,如果没报错,则说明OpenSSL安装成功

执行import zope.interface,如果没报错,则说明zope.interface安装成功

如果安装成功,那么在cmd中执行& python,然后执行import lxml,如果没有报错,则说明lxml安装成功。

因为第六步安装失败,所以import twisted,import zope.interface先跳过(爬虫开发项目与实战一书中,关于scrapy的安装,并没有这2项,因此先行忽略)

后来去python官网下载了zope.interface-4.0.5-py2.7-win-amd64.egg ,重新加载成功

再次执行import twisted,没报错

再次执行import zope.interface,如果没报错

zope.interface-4.0.5-py2.7-win-amd64.egg 下载地址为:https://pypi.python.org/pypi/zope.interface/4.0.5#downloads

二,安装scrapy

7.解压缩Scrapy-0.22.2.tar.gz,在其目录下执行$ python setup.py install进行Scrapy的安装

此步骤安装,会联网到python的官网下载一些部件,如果网络不好,可能会出现timeout的错误提示,再重复python setup.py install 安装一次即可

(请一定要到官网下载scarpy最新版本,否则程序运行会出错,截止2017-8-3,最新版本是1.4)

8.安装完成后,在cmd命令行下输入scrapy,屏幕提示如下

c:\Python27\Scrapy>scrapy

Scrapy 0.20.2 - no active project

Usage:

  scrapy <command> [options] [args]

Available commands:

  bench         Run quick benchmark test

  fetch         Fetch a URL using the Scrapy downloader

  runspider     Run a self-contained spider (without creating a project)

  settings      Get settings values

  shell         Interactive scraping console

  startproject  Create new project

  version       Print Scrapy version

  view          Open URL in browser, as seen by Scrapy

  [ more ]      More commands available when run from project directory

Use "scrapy <command> -h" to see more info about a command

即可安装成功

关于scrapy依赖项以及scrapy本身安装包的下载,可以参考链接
https://pan.baidu.com/s/1mgBOGYG#list/path=%2F
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签: