Python3实现爬取指定百度贴吧页面并保存页面数据生成本地文档的方法
分享给大家供大家参考,具体如下:Python3实现爬取指定百度贴吧页面并保存页面数据生成本地文档的方法。分享给大家供大家参考,具体如下:
首先我们创建一个python文件, tieba.py,我们要完成的是,输入指定百度贴吧名字与指定页面范围之后爬取页面html代码,我们首先观察贴吧url的规律,比如:
百度贴吧LOL吧第一页:http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=0
第二页: http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=50
第三页: http://tieba.baidu.com/f?kw=lol&ie=utf-8&pn=100
发现规律了吧,贴吧中每个页面不同之处,就是url最后的pn的值,其余的都是一样的,我们可以抓住这个规律(kw表示贴吧名,采用url编码)。
清楚了url规则,我们便可以利用
urllib进行批量式数据爬取,代码如下:
# -*- coding:utf-8 -*- from urllib import request as urllib2 from urllib import parse import random def loadPage(url, page): ''' 根据url获取服务器响应文件 url:需要爬取的url ''' print('---------正在下载页面%d-------' % page) ua_list = [ "Mozilla/5.0 (Macintosh; Intel Mac OS X 10.6; rv2.0.1) Gecko/20100101 Firefox/4.0.1", "Mozilla/5.0 (Windows NT 6.1; rv2.0.1) Gecko/20100101 Firefox/4.0.1", "Opera/9.80 (Macintosh; Intel Mac OS X 10.6.8; U; en) Presto/2.8.131 Version/11.11", "Opera/9.80 (Windows NT 6.1; U; en) Presto/2.8.131 Version/11.11", "Mozilla/5.0 (Macintosh; Intel Mac OS X 10_7_0) AppleWebKit/535.11 (KHTML, like Gecko) Chrome/17.0.963.56 Safari/535.11" ] header = random.choice(ua_list) request = urllib2.Request(url) request.add_header('User-Agent', header) response = urllib2.urlopen(request) html = response.read() return html def write(html, page): ''' 将html文件写入本地 :param html: 服务器响应文件内容 :return: ''' data = html file_name = 'tieba{}.txt'.format(page) print('---------正在保存文件%s-------'%file_name) # 运用with open as语句使代码更加简洁 避免写异常处理和文件关闭语句 with open(file_name,'w',encoding='utf-8') as file: file.write(data.decode()) print('---------success!---------') def tiebaSpider(url, kw, begin, end): ''' 爬取贴吧信息 ''' words = { 'kw':kw } kw = parse.urlencode(words) url = url % (kw) for page in range(begin, end + 1): pn = ((page-1)*50) ful_url = url + str(pn) html = loadPage(url, page) write(html, page) if __name__ == '__main__': kw = input('请输入爬取贴吧名:') beginPage = int(input('请输入起始页:')) endPage = int(input('请输入结束页:')) url = r'http://tieba.baidu.com/f?%s&pn=' tiebaSpider(url, kw, beginPage, endPage)
控制台结果如下:
请输入爬取贴吧名:河南
请输入起始页:1
请输入结束页:3
---------正在下载页面1-------
---------正在保存文件tieba1.txt-------
---------success!---------
---------正在下载页面2-------
---------正在保存文件tieba2.txt-------
---------success!---------
---------正在下载页面3-------
---------正在保存文件tieba3.txt-------
---------success!---------
Process finished with exit code 0
更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
您可能感兴趣的文章:
- python3爬取指定百度贴吧页面并保存成本地文档(批量爬取贴吧页面数据)
- 实现访问一个网站并将指定的一个页面保存到本地
- 实现从“环信”下载聊天记录,显示在本地项目页面的功能(三)—— 将解析后的数据保存到本地DB中
- Python实现生成随机数据插入mysql数据库的方法
- PB 利用timer()函数实现定时将数据窗口以excel文档保存至指定地方
- python爬虫数据保存到本地各种格式的方法
- python处理文本文件实现生成指定格式文件的方法
- python处理文本文件实现生成指定格式文件的方法
- Python下载网络文本数据到本地内存的四种实现方法示例
- C#:简单实现动态数据生成Word文档并保存
- C#:简单实现动态数据生成Word文档并保存
- python处理文本文件实现生成指定格式文件的方法
- Python3实现将本地JSON大数据文件写入MySQL数据库的方法
- C#简单实现动态数据生成Word文档并保存
- python处理文本文件实现生成指定格式文件的方法
- python处理文本文件实现生成指定格式文件的方法
- (fujie724) C#:简单实现动态数据生成Word文档并保存
- 在python中实现数据生成饼图,并且饼图要显示在HTML页面中
- Python实现将MySQL数据库表中的数据导出生成csv格式文件的方法
- Python实现导出数据生成excel报表的方法示例