百行代码,python爬取小姐姐网100G套图,别流鼻血,身体重要!
2019-01-10 10:36
429 查看
前言
最近在做监控相关的配套设施,发现很多脚本都是基于Python的。很早之前就听说其大名,人生苦短,我学Python,这并非一句戏言。随着人工智能、机器学习、深度学习的崛起,目前市面上大部分的人工智能的代码 大多使用Python 来编写。所以人工智能时代,是时候学点Python了。
基本环境配置
- Python3
- PyCharm
实现步骤
以妹子图为例,其实很简单,分以下四步:
- 获取首页的页码数,并创建与页码对应的文件夹
- 获取页面的栏目地址
- 进入栏目,获取栏目页码数(每个栏目下有多张图片,分页显示)
- 获取到栏目下对用标签中的图片并下载
注意事项
爬取过程中,还需要注意以下几点,可能对你有所帮助:
1)导库,其实就类似于Java中框架或者是工具类,底层都被封装好了
2)定义方法函数,一个爬虫可能会几百行,所以尽量不要写成一坨
3)定义全局变量
4)防盗链
5)切换版本
6)异常捕获
代码实现(完整源码关注获取地址)进群:960410445 即可获取书十套PDF!
下面,请小伙伴们睁大眼睛,鸡冻人心的套图时刻来了。
总结
其实脚本很简单,从配置环境、安装集成开发环境、编写脚本到整个脚本顺利执行,差不多花费了四五个小时,最终脚本一根筋的执行。限于服务器带宽以及配置的影响,17G的图差不多下载了三四个小时,至于剩下的83G,小伙伴们自行下载吧。
相关文章推荐
- python打造百行代码实现简单的下载器
- 如何写出一见倾心的Python代码?获取小姐姐的欢心呢?
- Python-1-另一个代码世界的九九乘法口诀表
- 重新编译TensorFlow1.4源代码支持SSE-AVX-FMA指令集 (Python3.5版本)
- Python人工智能之图片识别,Python3一行代码实现图片文字识别
- 如何使用 Pylint 来规范 Python 代码风格
- Python知识点(代码形式)
- python入门常用代码
- tensorflow代码梳理3——变量管理(重要!)
- IronPython for ASP.NET:使用共享代码
- 120行python代码解锁10000分微信跳一跳
- 生成六位验证码python代码
- 使用pyinstaller工具打包python项目代码生成exe文件
- Python开发工具 Wing IDE Snippet 代码片段 快捷键 设置
- sublime执行python含有中文代码结果报错UnicodeEncodeError
- python 一些重要内库
- 资源 | 想用Python学机器学习?Google大神替你写好了所有的编程示范代码
- python数据分析代码优化小结
- Python设置FireFox headless(无头模式)的代码
- Python2到Python3代码的转换工具2to3.py