您的位置:首页 > 编程语言 > Python开发

Python3之协程爬虫应用

2017-08-31 17:10 253 查看
from gevent import monkey;

monkey.patch_all()
import gevent, requests

def get_page(url):
ret = requests.get(url).text
with open('b.txt', 'a', encoding='utf-8') as f:
f.write('%s-%s\n' % (url, len(ret)))

# g1 = gevent.spawn(get_page, 'http://www.openstack.org')
g2 = gevent.spawn(get_page, 'https://www.python.org')
g3 = gevent.spawn(get_page, 'http://www.sina.com.cn/')
gevent.joinall([g2, g3])


所用时间是网络延迟最长还有写文件最耗时的那个任务的时间!!!
内容来自用户分享和网络整理,不保证内容的准确性,如有侵权内容,可联系管理员处理 点击这里给我发消息
标签:  python 爬虫 应用