Python爬虫实例——基于BeautifulSoup和requests实现
2017-05-16 09:10
1126 查看
爬取的目标网页:http://www.qianlima.com/zb/area_305/
这是一个招投标网站,我们使用python脚本爬取红框中的信息,包括链接网址、链接名称、时间等三项内容。
使用到的Python库:BeautifulSoup、requests
代码如下:
# -*- coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup
url = 'http://www.qianlima.com/zb/area_305/'
user_agent = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36'
headers = { 'User-Agent' : user_agent}
r = requests.get(url,headers=headers)#连接
content = r.text#获取内容,自动转码unicode
soup = BeautifulSoup(content,"lxml")
tags1 = soup.select('div .shixian_zhaobiao')
tag1 = tags1[0]
tag2 = tag1.find(name = 'dl')
tags2 = tag2.find_all(name = 'a')
tags3 = tag2.find_all(name = 'dd')
for tag in tags2:
print tag.get('href')
print tag.string
print tag.next_element.next_element.string
运行结果如下
这是一个招投标网站,我们使用python脚本爬取红框中的信息,包括链接网址、链接名称、时间等三项内容。
使用到的Python库:BeautifulSoup、requests
代码如下:
# -*- coding:utf-8 -*-
import requests
from bs4 import BeautifulSoup
url = 'http://www.qianlima.com/zb/area_305/'
user_agent = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36'
headers = { 'User-Agent' : user_agent}
r = requests.get(url,headers=headers)#连接
content = r.text#获取内容,自动转码unicode
soup = BeautifulSoup(content,"lxml")
tags1 = soup.select('div .shixian_zhaobiao')
tag1 = tags1[0]
tag2 = tag1.find(name = 'dl')
tags2 = tag2.find_all(name = 'a')
tags3 = tag2.find_all(name = 'dd')
for tag in tags2:
print tag.get('href')
print tag.string
print tag.next_element.next_element.string
运行结果如下
相关文章推荐
- Python爬虫实例——基于urlib、urlib和re实现
- Python使用requests及BeautifulSoup构建爬虫实例代码
- Python下基于requests及BeautifulSoup构建网络爬虫
- 基于Python实现的扫雷游戏实例代码
- python基于queue和threading实现多线程下载实例
- 基于requests实现极客学院课程爬虫
- 基于正则表达式(python)对东方财富网上证指数吧爬虫实例
- 基于Python实现的爬虫源码(1)
- 基于Python实现的扫雷游戏实例代码
- python简单实现基于SSL的IRC bot实例
- 基于Python,scrapy,redis的分布式爬虫实现框架
- Python基于Tkinter实现的记事本实例
- 基于python实现的抓取腾讯视频所有电影的爬虫
- Python实现基于HTTP文件传输实例
- 基于Python,scrapy,redis的分布式爬虫实现框架
- python基于mysql实现的简单队列以及跨进程锁实例详解
- python基于queue和threading实现多线程下载实例
- 基于Python实现的百度贴吧网络爬虫实例
- python基于Tkinter库实现简单文本编辑器实例
- Python:的web爬虫实现及原理(BeautifulSoup工具)