Python爬虫-爬取猫眼电影Top100榜单

import json
import re

import requests
from requests.exceptions import RequestException

#获取一个url下的html文件
def get_one_page(url):
try:
res = requests.get(url)
if res.status_code == 200:
print('请求成功')
return res.text
print('请求失败')
return None
except RequestException:
return None

#解析html文件   其中使用了正则匹配
def parse_one_page(html):
#如果不加re.S(任意匹配)  .就不会匹配换行符!
pattern = re.compile('<dd>.*?board-index.*?>(\d+)</i>.*?data-src="(.*?)" alt="(.*?)" class="board-img" />.*?star">(.*?)</p>.*?releasetime">(.*?)</p>.*?integer">(.*?)</i>.*?fraction">(.*?)</i>.*?</dd>', re.S)
items = re.findall(pattern, html)
for item in items:  #构造一个生成器可以使用 for遍历
#生成一个字典
yield{
'index' : item[0],
'image': item[1],
'title': item[2],
#strip()去除空格和\n  切片去除  主演:
'actor': item[3].strip()[3:],
'time' : item[4].strip()[5:],
'score' : item[5]+item[6]
}

#写入文件 使用json加载字典
def write_to_file(content):
#加上encoding='utf-8'  和  ensure_ascii=False显示汉字
with open('result.txt', 'a', encoding='utf-8') as f:
#字典转换成 字符串
f.write(json.dumps(content, ensure_ascii=False) + '\n')
f.close()

#主函数运行
def main():
html = get_one_page('http://maoyan.com/board/4?')
for item in parse_one_page(html):
print(item)
write_to_file(item)

if __name__ == '__main__':
main()

def main(offset):
url = 'http://maoyan.com/board/4?offset={}'.format(offset)
html = get_one_page(url)
# total = []
for item in parse_one_page(html):
print(item)
# total.extend(item)
write_to_file(item)
# save_to_pandas(total)

if __name__ == '__main__':
import time
time1 = time.time()

pool = Pool()
pool.map(main, [i*10 for i in range(10)])

# for i in range(10):   单进程
#     main(i*10)

time2 = time.time()
print(time2-time1)