爬虫——爬取猫眼电影网
2018-05-10 19:12
99 查看
import json from multiprocessing import Pool import requests from requests.exceptions import RequestException import re def get_one_page(url): try: headers={"user-agent":'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36'} response = requests.get(url,headers=headers) if response.status_code == 200: return response.text return None except RequestException: return None def parse_one_page(html): pattern = re.compile('<dd>.*?board-index.*?>(\d+)</i>.*?data-src="(.*?)".*?name"><a' +'.*?>(.*?)</a>.*?star">(.*?)</p>.*?releasetime">(.*?)</p>' +'.*?integer">(.*?)</i>.*?fraction">(.*?)</i>.*?</dd>', re.S) items = re.findall(pattern, html) for item in items: yield { 'index': item[0], 'image': item[1], 'title': item[2], 'actor': item[3].strip()[3:], 'time': item[4].strip()[5:], 'score': item[5]+item[6] } def write_to_file(content): with open('E:\\doc\\bawei\\pachong\\maoyan_movie_result.txt', 'a', encoding='utf-8') as f: #路径 f.write(json.dumps(content, ensure_ascii=False) + '\n') f.close() def main(offset): url = 'http://maoyan.com/board/4?offset='+str(offset) url='http://www.baidu.com' html = get_one_page(url) # print(html) for item in parse_one_page(html): print(item) write_to_file(item) if __name__ == '__main__': for i in range(10): main(i*10) pool = Pool() # 建立进程池 pool.map(main, (i * 10 for i in range(10))) # 映射到主函数中进行循环阅读更多
相关文章推荐
- 【爬虫学习1】正则表达式加Requests爬取猫眼电影排行
- python3爬虫之猫眼电影Toop100获取
- Python爬虫之抓取猫眼电影TOP100
- python爬虫:爬取猫眼电影(分数的处理和多线程)
- Python爬虫(三):爬取猫眼电影网经典电影TOP100信息并存入本地Markdown文件(上)
- Python爬虫之requests+正则表达式抓取猫眼电影top100以及瓜子二手网二手车信息(四)
- Python爬虫(三):爬取猫眼电影网经典电影TOP100信息并存入本地Markdown文件(下)
- Python爬虫实战01:Requests+正则表达式爬取猫眼电影
- python爬虫爬取猫眼电影top100
- python 爬虫抓取猫眼电影 top100 源码
- 今天写的一个用爬虫爬猫眼电影top100的完整代码
- 反击“猫眼电影”网站的反爬虫策略
- Python爬虫-爬取猫眼电影Top100榜单
- 【详解01】猫眼电影_简单Java爬虫
- python3的爬虫抓取猫眼电影的信息(requests+正则表达式)
- Python爬虫之三:抓取猫眼电影TOP100
- 爬虫(猫眼电影+校花网+github+今日头条+拉钩)
- 【爬虫】爬取猫眼电影top100
- python 爬虫 正则表达式爬取猫眼电影top100榜
- python爬虫实战:抓取猫眼电影TOP100存放到MongoDB中