python实现简易网络爬虫

#!user/bin/python
"""
Created on Sun Oct 11 18:10:27 2015

@author: ccl
"""
import urllib
import re
def getHtml(url): #得到指定url中的页面的内容
page = urllib.urlopen(url)
html = page.read()
return html

def getImg(html): #得到给定页面中的照片并保存在本地
reg = r'src="(.+?\.jpg)" pic_ext'
imgre = re.compile(reg)
imglist = re.findall(imgre, html)
x = 0
for imgurl in imglist:
urllib.urlretrieve(imgurl, '%s.jpg'%x)
x += 1

html = getHtml("http://tieba.baidu.com/p/2460150866")
getImg(html)

urllib.urlretrieve(url[, filename[, reporthook[, data]]])

参数说明：

url：外部或者本地url

filename：指定了保存到本地的路径（如果未指定该参数，urllib会生成一个临时文件来保存数据）；

reporthook：是一个回调函数，当连接上服务器、以及相应的数据块传输完毕的时候会触发该回调。我们可以利用这个回调函数来显示当前的下载进度。

data：指post到服务器的数据。该方法返回一个包含两个元素的元组(filename, headers)，filename表示保存到本地的路径，header表示服务器的响应头。