Python基于BeautifulSoup和requests实现的爬虫功能示例
2019-08-02 11:33
1686 查看
本文实例讲述了Python基于BeautifulSoup和requests实现的爬虫功能。分享给大家供大家参考,具体如下:
爬取的目标网页:http://www.qianlima.com/zb/area_305/
这是一个招投标网站,我们使用python脚本爬取红框中的信息,包括链接网址、链接名称、时间等三项内容。
使用到的Python库:BeautifulSoup、requests
代码如下:
# -*- coding:utf-8 -*- import requests from bs4 import BeautifulSoup url = 'http://www.qianlima.com/zb/area_305/' user_agent = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36' headers = { 'User-Agent' : user_agent} r = requests.get(url,headers=headers)#连接 content = r.text#获取内容,自动转码unicode soup = BeautifulSoup(content,"lxml") tags1 = soup.select('div .shixian_zhaobiao') tag1 = tags1[0] tag2 = tag1.find(name = 'dl') tags2 = tag2.find_all(name = 'a') tags3 = tag2.find_all(name = 'dd') for tag in tags2: print tag.get('href') print tag.string print tag.next_element.next_element.string
运行结果如下
更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python正则表达式用法总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
您可能感兴趣的文章:
- Python使用requests及BeautifulSoup构建爬虫实例代码
- python利用beautifulSoup实现爬虫
- python爬虫之BeautifulSoup 使用select方法详解
- python3第三方爬虫库BeautifulSoup4安装教程
- Python爬虫包 BeautifulSoup 递归抓取实例详解
- Python爬虫包BeautifulSoup简介与安装(一)
- python用BeautifulSoup库简单爬虫实例分析
- Python爬虫beautifulsoup4常用的解析方法总结
- Python HTML解析器BeautifulSoup用法实例详解【爬虫解析器】
- python中数据爬虫requests库使用方法详解
- Python3网络爬虫中的requests高级用法详解
相关文章推荐
- Python3实现爬虫爬取赶集网列表功能【基于request和BeautifulSoup模块】
- Python爬虫实例——基于BeautifulSoup和requests实现
- Python实现可获取网易页面所有文本信息的网易网络爬虫功能示例
- Python基于TCP实现会聊天的小机器人功能示例
- Python网络编程基于多线程实现多用户全双工聊天功能示例
- Python实现的拟合二元一次函数功能示例【基于scipy模块】
- Python实现基于TCP UDP协议的IPv4 IPv6模式客户端和服务端功能示例
- Python基于list的append和pop方法实现堆栈与队列功能示例
- Python实现的爬虫刷回复功能示例
- Python爬虫实现简单的爬取有道翻译功能示例
- Python+Socket实现基于TCP协议的客户与服务端中文自动回复聊天功能示例
- Python实现的爬取小说爬虫功能示例
- Python3.4编程实现简单抓取爬虫功能示例
- Python基于socket模块实现UDP通信功能示例
- Python基于列表list实现的CRUD操作功能示例
- Python爬虫实现全国失信被执行人名单查询功能示例
- Python基于分析Ajax请求实现抓取今日头条街拍图集功能示例
- Python基于opencv实现的简单画板功能示例
- 基于Python实现的ID3决策树功能示例
- python实现简单爬虫功能的示例