java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决
2018-03-02 14:29
711 查看
问题描述:
在使用jsoup爬取其他网站数据的时候,发现class是带空格的多选择,如果直接使用doc.getElementsByClass(“class的值”),这种方法获取不到想要的数据。
爬取网站页面结构如下:
其中文章列表的div为:<div class="am-cf inner_li inner_li_abtest"></div>
我们可以看到其class的值为:am-cf inner_li inner_li_abtest。带空格的。多值的。
如果我们还是用getElementsByClass()这个方法获取的话,是获取不到的。eclipse中断点如下:
可以看到获取的值的长度size=0。没有获取到数据。
经过各方搜索,发现解决方案:使用的不是getElementsByClass()方法,可以使用其他方法。
先上成功后截图:
我们可以看到数据的长度size=20了。说明获取到数据了。
下面讲解select方法使用:
Elements org.jsoup.nodes.Element.select(String cssQuery)
样式选择器。
查看源码:
我们知道这个可以多个。
在看看我们案例中使用的是:div.am-cf.inner_li.inner_li_abtest。为什么要这么写呢?
查看需要爬取文章的页面结构:
这下就明白了为什么这么用了吧。
凯哥微信id:kaigejava
个人网站:www.kaigejava.com
凯哥网站地址:http://kaigejava.com/article/detail/121
在使用jsoup爬取其他网站数据的时候,发现class是带空格的多选择,如果直接使用doc.getElementsByClass(“class的值”),这种方法获取不到想要的数据。
爬取网站页面结构如下:
其中文章列表的div为:<div class="am-cf inner_li inner_li_abtest"></div>
我们可以看到其class的值为:am-cf inner_li inner_li_abtest。带空格的。多值的。
如果我们还是用getElementsByClass()这个方法获取的话,是获取不到的。eclipse中断点如下:
可以看到获取的值的长度size=0。没有获取到数据。
经过各方搜索,发现解决方案:使用的不是getElementsByClass()方法,可以使用其他方法。
先上成功后截图:
我们可以看到数据的长度size=20了。说明获取到数据了。
下面讲解select方法使用:
Elements org.jsoup.nodes.Element.select(String cssQuery)
样式选择器。
查看源码:
我们知道这个可以多个。
在看看我们案例中使用的是:div.am-cf.inner_li.inner_li_abtest。为什么要这么写呢?
查看需要爬取文章的页面结构:
这下就明白了为什么这么用了吧。
凯哥微信id:kaigejava
个人网站:www.kaigejava.com
凯哥网站地址:http://kaigejava.com/article/detail/121
相关文章推荐
- java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决
- java爬虫问题二: 使用jsoup爬取数据class选择器中空格多选择怎么解决
- jsoup使用样式class抓取数据时空格的处理
- JAVA反射使用实例和class.getResource()得到URL中含有中文和空格乱码问题
- Java中Scanner使用解决读入数据问题
- 使用asx3m与xstream配合解决flex与java利用httpservice传递xml数据问题
- 【微信Java开发 --1---番外1】在windows下,使用JAVA执行多条DOS命令+文件夹/路径中有空格怎么解决【目的是实现内容穿透外网】
- 解决spring使用动态代理类型转换失败的问题--java.lang.ClassCastException: com.sun.proxy.$Proxy$ cannot be cast to ...今天
- java使用POI解析Excel表格中由纯数字组成的字符串报错问题&解决数据自动保存为科学计数法问题
- 使用网上流传的一个数据库连接池在Proxy.newProxyInstance处引起 java.lang.ClassCastException 问题的解决方法
- 【Java Utility】Jsoup网页爬虫工具-使用选择器查找元素【八】
- 使用网上流传的一个数据库连接池在Proxy.newProxyInstance处引起 java.lang.ClassCastException 问题的解决方法
- Java解决取数据时“因数据库中 字符串含空格 而取值不成功”的问题
- 使用csv存储爬虫数据乱码问题解决
- 使用网上流传的一个数据库连接池在Proxy.newProxyInstance处引起 java.lang.ClassCastException 问题的解决方法
- java爬虫问题一: 解决使用htmlunit 时候ssl认证失败问题
- 使用asx3m与xstream配合解决flex与java利用httpservice传递xml数据问题
- jsoup使用样式class抓取数据时空格的处理
- 使用myeclipse将Java项目打成jar包遇到classnotfound的问题解决办法
- 使用asx3m与xstream配合解决flex与java利用httpservice传递xml数据问题