scrapy 爬豆瓣返回403错误的解决方法
2016-12-29 17:13
197 查看
用scrapy爬豆瓣的某些页面返回403错误:
解决方法:
在setting.py文件中增加USER_AGENT配置:
解决方法:
在setting.py文件中增加USER_AGENT配置:
USER_AGENT = 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/55.0.2883.87 Safari/537.36'
相关文章推荐
- Scrapy爬取百度股票时遇403错误的解决方法
- 对于Volley中onResponse无法返回数据结果的问题解决方法
- django在提交表单时403错误解决方法
- ios7之后自定义返回按钮后,右滑返回功能失效解决方法
- PHP解码Json(json_decode)字符串返回NULL的原因及解决方法(转载)
- “git push”后返回“Error 403”解决方法
- 服务器出现HTTP400、401、402、403错误原因及解决方法
- Hibernate通过SQL查询常量时只能返回第一个字符的解决方法
- PHP中Laravel 关联查询返回错误id的解决方法
- 在Mac terminal上安装scrapy过程报错及解决方法
- 关于C#操作PPT时遇到的“对COM组件的调用返回了错误HRESULT E_FAIL”错误的解决方法
- @ResponseBody注解时返回字符串被转成json格式会多出双引号的解决方法
- ios微信浏览器返回不刷新问题完美解决方法
- fckeditor提交失败返回内容变html的解决方法
- apache伪静态中文urlencode重写时403错误解决方法
- 解决DataSet的GetXml()方法空列不返回问题
- Django分页查询并返回jsons数据(中文乱码解决方法)
- [Android] 更好的解决 "返回键或取消时自动回调DatePickerDialog的方法onDateSet()" 的问题
- scrapy 出现key error 出错解决方法
- ASP.NET设置404页面返回302HTTP状态码的解决方法