您的位置:首页 > 编程语言 > Python开发

Python学习笔记之简单爬虫

2017-07-15 07:56 627 查看
所谓的爬虫就是通过代码的方式,抓取网站上的你想要的任何信息,

比如你在网上看见很多有意思的图片,如果不会爬虫的话,我是不是的一张张另存下来,如果会了爬虫,就能悄无声息 的吧图片下载下来,慢慢欣赏。

现阶段我们利用urllib模块,去做最简单的爬虫,因为比较简单,所以直接看代码就行。主要知识就是通过urllib模块的各个函数加上正则表达式去完成。

#encoding:utf-8

import re
import urllib

#利用urllib的urlopen()函数打开一个url地址
#并读取所有的html代码,
def gethtml(url):
content=urllib.urlopen(url)
html=content.read()
return html

#根据正则表达式去匹配符合规则的内容
def geturls(html):
r=r'data-src="(http://.*?)"'
alllist=re.findall(r,html)
return alllist

#利用urlretrieve()下载文件
def download(list):
x=0
for li in list:
x=x+1
urllib.urlretrieve(li,"%s.jpg"%x)

if  __name__ == '__main__':
#内涵段子
url = "http://neihanshequ.com/pic/"
#获取网页源码
html = gethtml(url)
#根据一定规则过滤出想要的内容
list = geturls(html)
#下载图片
download(list)

print list
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息