Python编写百度贴吧的简单爬虫
2015-04-02 09:31
756 查看
操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数
功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名
代码:
# -*- coding: utf-8 -*- #---------------------------- # 程序:百度贴吧的小爬虫 # 日期:2015/03/28 # 语言:Python 2.7 # 操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数 # 功能:下载对应页码的所有页面并储存为HTML文件,以当前时间命名 #---------------------------- import urllib2 import time def baidu_tieba(url, start, end): for i in range(start, end): sName = time.strftime('%Y%m%d%H%M%S') + str(i) + '.html' print '正在下载第' + str(i) + '个网页,并将其储存为' + sName + '...' f = open(sName, 'w+') m = urllib2.urlopen(url+str(i)) n = m.read() f.write(n) f.close() print '成功下载' baiduurl = str(raw_input('请输入贴子的地址,去掉pn后面的数字>>\n')) begin_page = int(raw_input('请输入帖子的起始页码>>\n')) end_page = int(raw_input('请输入帖子的终止页码>>\n')) baidu_tieba(baiduurl, begin_page, end_page)
以上所述就是本文的全部内容了,希望能够对大家学习Python制作爬虫有所帮助。
您可能感兴趣的文章:
相关文章推荐
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫
- 使用Python编写简单网络爬虫抓取视频下载资源
- python基础入门之简单爬虫编写
- Python中使用urllib2模块编写爬虫的简单上手示例
- 使用python语言结合beautifulsoup编写简单的网络爬虫
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫
- 使用Python的Scrapy框架编写web爬虫的简单示例
- Python与简单网络爬虫的编写
- 使用python编写简单网络爬虫(一)
- Python中使用urllib2模块编写爬虫的简单上手示例
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫(转)
- python写爬虫技巧(五):简单的百度贴吧网页爬虫
- 使用Python编写简单网络爬虫抓取视频下载资源
- 在python3中使用urllib.request编写简单的网络爬虫
- Python与简单网络爬虫的编写
- 编写简单的网络爬虫 (python3.2)
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫
- [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫
- 如何用Python编写一个简单的爬虫