爬虫scrapy之学习路线
2017-10-10 09:31
197 查看
http://coding.imooc.com/class/92.html#Anchor
Python网络爬虫与信息提取
http://www.icourse163.org/course/BIT-1001870001网络爬虫,是在网上进行数据抓取的程序,使用它能够抓取特定网页的HTML数据。虽然我们利用一些库开发一个爬虫程序,但是使用框架可以大大提高效率,缩短开发时间。Scrapy是一个使用Python编写的,轻量级的,简单轻巧,并且使用起来非常的方便。Scrapy使用了Twisted异步网络库来处理网络通讯。整体架构大致如下(注:图片来自互联网):
Scrapy主要包括了以下组件:引擎,用来处理整个系统的数据流处理,触发事务。
调度器,用来接受引擎发过来的请求,压入队列中,并在引擎再次请求的时候返回。
下载器,用于下载网页内容,并将网页内容返回给蜘蛛。
蜘蛛,蜘蛛是主要干活的,用它来制订特定域名或网页的解析规则。
项目管道,负责处理有蜘蛛从网页中抽取的项目,他的主要任务是清晰、验证和存储数据。当页面被蜘蛛解析后,将被发送到项目管道,并经过几个特定的次序处理数据。
下载器中间件,位于Scrapy引擎和下载器之间的钩子框架,主要是处理Scrapy引擎与下载器之间的请求及响应。
蜘蛛中间件,介于Scrapy引擎和蜘蛛之间的钩子框架,主要工作是处理蜘蛛的响应输入和请求输出。
调度中间件,介于Scrapy引擎和调度之间的中间件,从Scrapy引擎发送到调度的请求和响应。
http://hao.jobbole.com/python-scrapy/
相关文章推荐
- 爬虫学习(三) Scrapy框架入门与豆瓣电影爬虫
- 精通Python网络爬虫(0):网络爬虫学习路线
- python爬虫scrapy从零开始学习杂记(2)
- Scrapy爬虫框架学习之自定义Pipelines将文件以Json格式存储
- Scrapy 新建爬虫项目-启动爬虫项目-本地调试页面-学习
- 爬虫学习之基于Scrapy的网络爬虫
- Scrapy框架学习(四)----CrawlSpider、LinkExtractors、Rule及爬虫示例
- 数据抓取学习(爬虫via scrapy)
- 爬虫Scrapy框架之学习使用(二):DownloaderMiddleWares
- 爬虫Scrapy框架之学习使用(三):信号(Signals)
- 爬虫 scrapy 框架学习 2. Scrapy框架业务逻辑的理解 + 爬虫案例 下载指定网站所有图片
- 爬虫学习——Scrapy安装报错Microsoft Visual C++ 14.0 is required
- 【Python学习系列五】Python网络爬虫框架Scrapy环境搭建
- Python网络爬虫框架scrapy的学习
- Python爬虫框架Scrapy 学习笔记 10.3 -------【实战】 抓取天猫某网店所有宝贝详情
- Scrapy爬虫学习中遇到的问题记录
- Scrapy爬虫框架学习笔 一
- Python爬虫框架Scrapy学习三记—让虫子爬
- scrapy爬虫学习系列二:scrapy简单爬虫样例学习