Python实现爬取百度贴吧帖子所有楼层图片的爬虫示例
2018-04-26 10:04
961 查看
本文实例讲述了Python实现爬取百度贴吧帖子所有楼层图片的爬虫。分享给大家供大家参考,具体如下:
下载百度贴吧帖子图片,好好看
python2.7版本:
#coding=utf-8 import re import requests import urllib from bs4 import BeautifulSoup import time time1=time.time() def getHtml(url): page = requests.get(url) html =page.text return html def getImg(html): soup = BeautifulSoup(html, 'html.parser') img_info = soup.find_all('img', class_='BDE_Image') global index for index,img in enumerate(img_info,index+1): print ("正在下载第{}张图片".format(index)) urllib.urlretrieve(img.get("src"),'C:/pic4/%s.jpg' % index) def getMaxPage(url): html = getHtml(url) reg = re.compile(r'max-page="(\d+)"') page = re.findall(reg,html) page = int(page[0]) return page if __name__=='__main__': url = "https://tieba.baidu.com/p/5113603072" page = getMaxPage(url) index = 0 for i in range(1,page): url = "%s%s" % ("https://tieba.baidu.com/p/5113603072?pn=",str(i)) html = getHtml(url) getImg(html) print ("OK!All DownLoad!") time2=time.time() print u'总共耗时:' + str(time2 - time1) + 's'
PS:这里再为大家提供2款非常方便的正则表达式工具供大家参考使用:
JavaScript正则表达式在线测试工具:
http://tools.jb51.net/regex/javascript
正则表达式在线生成工具:
http://tools.jb51.net/regex/create_reg
更多关于Python相关内容可查看本站专题:《Python Socket编程技巧总结》、《Python正则表达式用法总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
希望本文所述对大家Python程序设计有所帮助。
您可能感兴趣的文章:
相关文章推荐
- [置顶] 【python 爬虫】百度贴吧帖子所有楼层图片爬虫
- python3 多页爬虫爬取百度贴吧帖子所有图片
- Python爬虫实战(五) :下载百度贴吧帖子里的所有图片
- Python实现可获取网易页面所有文本信息的网易网络爬虫功能示例
- Python爬虫实战(1)——百度贴吧抓取帖子并保存内容和图片
- 【python爬虫】百度贴吧帖子图片批量保存爬虫
- 【Python3.6爬虫学习记录】(四)爬取百度贴吧某帖子内容及图片
- Python实现简单爬虫功能--批量下载百度贴吧里的图片
- Python爬虫实现抓取京东店铺信息及下载图片功能示例
- python 实现一个贴吧图片爬虫的示例
- Python实现简单的获取图片爬虫功能示例
- python下多线程爬虫爬取斗图网的所有最新图片
- python实现简单爬虫--爬图片
- 用python实现的抓取腾讯视频所有电影的爬虫
- python爬虫框架scrapy实现模拟登录操作示例
- [python3]爬虫实战二之爬取百度贴吧帖子
- 百度贴吧爬虫python示例
- 用python实现的抓取腾讯视频所有电影的爬虫
- python3爬虫爬取网页图片简单示例
- Python爬虫实战二之爬取百度贴吧帖子