Python爬虫实例——基于urlib、urlib和re实现
2017-05-16 08:58
736 查看
爬取的目标网页:http://www.qianlima.com/zb/area_305/
这是一个招投标网站,我们使用python脚本爬取红框中的信息,包括链接网址、链接名称、时间等三项内容。
使用到的Python库:urlib、urlib2、re(正则表达式库)
代码如下:
# -*- coding:utf-8 -*-
import urllib
import urllib2
import re
url = 'http://www.qianlima.com/zb/area_305/'
user_agent = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36'
headers = { 'User-Agent' : user_agent}
try:
request = urllib2.Request(url,headers = headers)
response = urllib2.urlopen(request)
content = response.read().decode('gbk')
pattern = re.compile(u'<span class="shixian_biao">招标公告</span>(.*?)<span class="shixian_biao">招标预告</span>',re.S)
items = re.findall(pattern,content)
item = items[0]
pattern = re.compile('<dt><a href="(.*?)" target="_blank">(.*?)</a></dt><dd>(.*?)</dd>',re.S)
items = re.findall(pattern,item)
for m in items:
print '%s\t%s\t%s' % (m[0],m[1],m[2])
except urllib2.URLError, e:
if hasattr(e,"code"):
print e.code
if hasattr(e,"reason"):
print e.reason这里使用到了两次正则表达式匹配
运行结果如下
这是一个招投标网站,我们使用python脚本爬取红框中的信息,包括链接网址、链接名称、时间等三项内容。
使用到的Python库:urlib、urlib2、re(正则表达式库)
代码如下:
# -*- coding:utf-8 -*-
import urllib
import urllib2
import re
url = 'http://www.qianlima.com/zb/area_305/'
user_agent = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36'
headers = { 'User-Agent' : user_agent}
try:
request = urllib2.Request(url,headers = headers)
response = urllib2.urlopen(request)
content = response.read().decode('gbk')
pattern = re.compile(u'<span class="shixian_biao">招标公告</span>(.*?)<span class="shixian_biao">招标预告</span>',re.S)
items = re.findall(pattern,content)
item = items[0]
pattern = re.compile('<dt><a href="(.*?)" target="_blank">(.*?)</a></dt><dd>(.*?)</dd>',re.S)
items = re.findall(pattern,item)
for m in items:
print '%s\t%s\t%s' % (m[0],m[1],m[2])
except urllib2.URLError, e:
if hasattr(e,"code"):
print e.code
if hasattr(e,"reason"):
print e.reason这里使用到了两次正则表达式匹配
运行结果如下
相关文章推荐
- Python爬虫实例——基于BeautifulSoup和requests实现
- 基于Python实现的扫雷游戏实例代码
- 基于Python、PyQuery实现的一个网络爬虫实例
- 基于python实现的抓取腾讯视频所有电影的爬虫
- Python实现基于协程的异步爬虫
- python基于queue和threading实现多线程下载实例
- 基于Python,scrapy,redis的分布式爬虫实现框架
- 基于正则表达式(python)对东方财富网上证指数吧爬虫实例
- Python实现基于HTTP文件传输实例
- [原创]一种基于Python爬虫和Lucene检索的垂直搜索引擎的实现方法介绍
- Python实现基于HTTP文件传输实例
- Python基于Tkinter实现的记事本实例
- python基于Tkinter库实现简单文本编辑器实例
- Python实现基于协程的异步爬虫(一)
- python基于mysql实现的简单队列以及跨进程锁实例详解
- Python实现基于HTTP文件传输实例
- python简单实现基于SSL的IRC bot实例
- python简单实现基于SSL的IRC bot实例
- Python实现基于协程的异步爬虫
- Python爬虫利用cookie实现模拟登陆实例详解