大数据爬虫基础(三)Scrapy在Windows 10下的安装
2016-07-11 16:15
369 查看
环境:
Windows 10 x64
Anaconda python 2.7.12
1、依赖包的安装
Scrapy依赖项的安装
Scrapy的依赖项可以在这里进行下载:http://pan.baidu.com/s/13oRlq(已失效,需要可以联系本人)
安装lxml-3.2.4.win-amd64-py2.7.exe
安装pywin32-218.win-amd64-py2.7.exe
安装Twisted-13.2.0.win-amd64-py2.7.exe
安装pyOpenSSL-0.13.1.win-amd64-py2.7.exe
安装zope.interface-4.0.5.win-amd64-py2.7.exe
验证scrapy依赖项是否安装成功的方法:
cmd执行$ python进入python控制台
执行import lxml,如果没报错,则说明lxml安装成功
执行import twisted,如果没报错,则说明twisted安装成功
执行import OpenSSL,如果没报错,则说明OpenSSL安装成功
执行import zope.interface,如果没报错,则说明zope.interface安装成功
如果安装成功,那么在cmd中执行& python,然后执行import lxml,如果没有报错,则说明lxml安装成功。
2、Scrapy安装
可以 pip install Scrapy 或者 conda install -c scrapinghub scrapy 或者
安装Scrapy
方法1: 控制台输入:easy_install scrapy(下载较慢,如果失败可以多试几次或使用方法2)
方法2:解压缩Scrapy-0.22.2.tar.gz,在其目录下执行$ python setup.py install进行Scrapy的安装。
检查Scrapy是否安装成功的方法:可以在cmd控制台执行 $ scrapy ,如果没有报错,说明安装成功。
Windows 10 x64
Anaconda python 2.7.12
1、依赖包的安装
Scrapy依赖项的安装
Scrapy的依赖项可以在这里进行下载:http://pan.baidu.com/s/13oRlq(已失效,需要可以联系本人)
安装lxml-3.2.4.win-amd64-py2.7.exe
安装pywin32-218.win-amd64-py2.7.exe
安装Twisted-13.2.0.win-amd64-py2.7.exe
安装pyOpenSSL-0.13.1.win-amd64-py2.7.exe
安装zope.interface-4.0.5.win-amd64-py2.7.exe
验证scrapy依赖项是否安装成功的方法:
cmd执行$ python进入python控制台
执行import lxml,如果没报错,则说明lxml安装成功
执行import twisted,如果没报错,则说明twisted安装成功
执行import OpenSSL,如果没报错,则说明OpenSSL安装成功
执行import zope.interface,如果没报错,则说明zope.interface安装成功
如果安装成功,那么在cmd中执行& python,然后执行import lxml,如果没有报错,则说明lxml安装成功。
2、Scrapy安装
可以 pip install Scrapy 或者 conda install -c scrapinghub scrapy 或者
安装Scrapy
方法1: 控制台输入:easy_install scrapy(下载较慢,如果失败可以多试几次或使用方法2)
方法2:解压缩Scrapy-0.22.2.tar.gz,在其目录下执行$ python setup.py install进行Scrapy的安装。
检查Scrapy是否安装成功的方法:可以在cmd控制台执行 $ scrapy ,如果没有报错,说明安装成功。
相关文章推荐
- Python3写爬虫(四)多线程实现数据爬取
- install and upgrade scrapy
- install scrapy with pip and easy_install
- Scrapy的架构介绍
- 爬虫笔记
- 基于C#实现网页爬虫
- Nodejs爬虫进阶教程之异步并发控制
- Node.js环境下编写爬虫爬取维基百科内容的实例分享
- PHP+HTML+JavaScript+Css实现简单爬虫开发
- python使用scrapy解析js示例
- 如何优雅地使用c语言编写爬虫
- Python基于scrapy采集数据时使用代理服务器的方法
- PHP实现简单爬虫的方法
- NodeJS制作爬虫全过程(续)
- php实现简单爬虫的开发
- node.js基础模块http、网页分析工具cherrio实现爬虫
- PHP爬虫之百万级别知乎用户数据爬取与分析
- 一个PHP实现的轻量级简单爬虫
- nodejs爬虫抓取数据乱码问题总结