Python爬虫实现selenium处理iframe作用域问题
2021-02-01 04:06
1471 查看
项目场景:
在使用selenium模块进行数据爬取时,通常会遇到爬取iframe中的内容。会因为定位的作用域问题爬取不到数据。
问题描述:
我们以菜鸟教程的运行实例为案例。
按照正常的定位
会以文本块生成xpath为/html/body/text()。这样的话根据xpath进行如下代码编写。
#!/user/bin/ # -*- coding:UTF-8 -*- # Author:Master from selenium import webdriver import time driver = webdriver.Chrome(executable_path="./chromedriver") driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3') time.sleep(2) text = driver.find_element_by_xpath('/html/body').text print(text) time.sleep(5) driver.quit()
执行结果:
很明显这并不是想要的结果。
原因分析:
当我们打开抓包工具定位到Hello, World!文本的时候会发现,该文本是在一个iframe中。这样的话我们xpath所定位到的内容则是大的html中的路径。我们需要的内容则是在iframe中的小的html中。
解决方案:
通过分析发现,想要解决问题的实质就是改变作用域。通过switch_to.frame(‘id')方法来改变作用域就可以了。
重新编写代码:
#!/user/bin/ # -*- coding:UTF-8 -*- # Author:Master from selenium import webdriver import time driver = webdriver.Chrome(executable_path="./chromedriver") driver.get('https://www.runoob.com/try/runcode.php?filename=HelloWorld&type=python3') time.sleep(2) driver.switch_to.frame('iframeResult') text = driver.find_element_by_xpath('/html/body').text print(text) time.sleep(5) driver.quit()
查看运行结果:
到此这篇关于Python爬虫实现selenium处理iframe作用域问题的文章就介绍到这了,更多相关selenium iframe作用域内容请搜索脚本之家以前的文章或继续浏览下面的相关文章希望大家以后多多支持脚本之家!
您可能感兴趣的文章:相关文章推荐
- [Python爬虫] Selenium实现自动登录163邮箱和Locating Elements介绍
- 基于python的selenium实现警告框的处理
- [Python爬虫] Selenium自动访问Firefox和Chrome并实现搜索截图
- python+selenium初学者常见问题处理
- Python爬虫 Selenium实现自动登录163邮箱和Locating Elements介绍
- 第三百五十节,Python分布式爬虫打造搜索引擎Scrapy精讲—selenium模块是一个python操作浏览器软件的一个模块,可以实现js动态网页请求
- python selenium 弹出框处理的实现
- 纪念解决困扰许久的问题——知网 python爬虫 selenium webdriver
- Python爬虫处理抓取数据中文乱码问题
- 使用python+selenium制作浏览器爬虫,彻底解决ajax异步加载问题(待更新)
- python爬虫selenium模块实现登陆(浅)
- python selenium自动化测试处理iframe
- Python爬虫中处理Ajax返回的json数据问题
- Selenium Webdriver处理iFrame之间的切换问题
- python+selenium调用浏览器(IE-Chrome-Firefox)实现爬虫功能
- [Python爬虫] Selenium自动访问Firefox和Chrome并实现搜索截图
- Python+Selenium练习篇之28-处理iframe切换
- Selenium + PhantomJS + python 简单实现爬虫的功能
- Selenium + PhantomJS + python 简单实现爬虫的功能
- 文件上传 通过隐藏iframe的方式来实现ajax上传文件并返回处理结果 ie乱码问题解决