导航:首页 > 编程语言 > jsoup多层div查询

jsoup多层div查询

发布时间:2024-02-28 08:05:37

jsoup教程

jsoup是一款java的HTML解析器,主要用来对HTML解析。 官网 中文文档

在爬虫的时候,当我们用HttpClient之类的框架,获取到网页源码之后,需要从网页源码中取出我们想要的内容,

就可以使用jsoup这类HTML解析器了。可以非常轻松的实现。

虽然jsoup也支持从某个地址直接去爬取网页源码,但是只支持HTTP,HTTPS协议,支持不够丰富。

所以,主要还是用来对HTML进行解析。

◆其中,要被解析的HTML可以是一个HTML的字符串,可以是一个URL,可以禅困是一个文件

org.jsoup.Jsoup把输入的HTML转换成一个org.jsoup.nodes.Document对象,然后从Document对象中取出想要的元素。

org.jsoup.nodes.Document继承了org.jsoup.nodes.Element,Element又继承了org.jsoup.nodes.Node类。里面提供了丰富的方法来获取HTML的元素。

◇从URL获取HTML来解析

其中Jsoup.connect("xxx")方法返回一个org.jsoup.Connection对象。
在Connection对象中,我们可以执行get或者post来执行请求。但是在执行请求之前,
我们可以使用Connection对象来设置一些请求信息。比如:头信息,cookie,请求等待时间,代理等等来模拟浏览器的行为。

◆获得Document对象后,接下来就是解析Document对象,并从中获取我们想要的元素了。

Document中提供了丰富的方法来获取指定元素。

◇使用DOM的方式来取得

getElementById(String id):通过id来获取
getElementsByTag(String tagName):通过标签名字来获取
getElementsByClass(String className):通过类名来获取
getElementsByAttribute(String key):通过属性名字来获取
getElementsByAttributeValue(String key, String value):通过指定的属性名字,属性值来获取
getAllElements():获取所有元素

◇通过类似于css或jQuery的选择器来查找元素

使用的是Element类的下记方法:

public Elements select(String cssQuery)

通过传入一个类似于CSS或jQuery的选择器字符串,来查找指定元素。

例子:

选择器的更多语法(可以在org.jsoup.select.Selector中查看到更多关于选择器的语法):

tagname: 通过标签查找元素,比如:a
ns|tag: 通过标签在命名空间查找元素,比如:可以用 fb|name 语法码桐来查找 <fb:name> 元素
#id: 通过ID查找元素,比如:#logo
.class: 通过class名称查迟袭坦找元素,比如:.masthead
[attribute]: 利用属性查找元素,比如:[href]
[^attr]: 利用属性名前缀来查找元素,比如:可以用[^data-] 来查找带有HTML5 Dataset属性的元素
[attr=value]: 利用属性值来查找元素,比如:[width=500]
[attr^=value], [attr$=value], [attr=value]: 利用匹配属性值开头、结尾或包含属性值来查找元素,比如:[href=/path/]
[attr~=regex]: 利用属性值匹配正则表达式来查找元素,比如: img[src~=(?i).(png|jpe?g)]
*: 这个符号将匹配所有元素

Selector选择器组合使用
el#id: 元素+ID,比如: div#logo
el.class: 元素+class,比如: div.masthead
el[attr]: 元素+class,比如: a[href]
任意组合,比如:a[href].highlight
ancestor child: 查找某个元素下子元素,比如:可以用.body p 查找在"body"元素下的所有 p元素
parent > child: 查找某个父元素下的直接子元素,比如:可以用div.content > p 查找 p 元素,也可以用body > * 查找body标签下所有直接子元素
siblingA + siblingB: 查找在A元素之前第一个同级元素B,比如:div.head + div
siblingA ~ siblingX: 查找A元素之前的同级X元素,比如:h1 ~ p
el, el, el:多个选择器组合,查找匹配任一选择器的唯一元素,例如:div.masthead, div.logo

伪选择器selectors
:lt(n): 查找哪些元素的同级索引值(它的位置在DOM树中是相对于它的父节点)小于n,比如:td:lt(3) 表示小于三列的元素
:gt(n):查找哪些元素的同级索引值大于n,比如: div p:gt(2)表示哪些div中有包含2个以上的p元素
:eq(n): 查找哪些元素的同级索引值与n相等,比如:form input:eq(1)表示包含一个input标签的Form元素
:has(seletor): 查找匹配选择器包含元素的元素,比如:div:has(p)表示哪些div包含了p元素
:not(selector): 查找与选择器不匹配的元素,比如: div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表
:contains(text): 查找包含给定文本的元素,搜索不区分大不写,比如: p:contains(jsoup)
:containsOwn(text): 查找直接包含给定文本的元素
:matches(regex): 查找哪些元素的文本匹配指定的正则表达式,比如:div:matches((?i)login)
:matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素
注意:上述伪选择器索引是从0开始的,也就是说第一个元素索引值为0,第二个元素index为1等

◆通过上面的选择器,我们可以取得一个Elements对象,它继承了ArrayList对象,里面放的全是Element对象。

接下来我们要做的就是从Element对象中,取出我们真正需要的内容。

通常有下面几种方法:

◇Element.text()

这个方法用来取得一个元素中的文本。

◇Element.html()或Node.outerHtml()

这个方法用来取得一个元素中的html内容

◇Node.attr(String key)

获得一个属性的值,例如取得超链接<a href="">中href的值

json字符串-数组类型与JSONArray之间的转换

复杂json格式字符串与JSONObject之间的转换

② jsoup 怎么拿某个div下的的内容

Document doc = Jsoup.parse(html),html就是指包含你需要的div的那段html代码,然后再Elements el = doc.select("div"),如果这个div有class=abc,或者id=abc,或者其它的属性attr=abc,那么你就这么选,doc.select("div[AttrName=abc]"),AttrName就是指class,id或者其它的属性名称,网络回答不允许直接贴链接,所以你最好再搜索下Jsoup的API,读一读,Selector类的文档有实例.

③ jsoup解析html的table中的内容

public void parse(){

String htmlStr = "<table id=kbtable >"

+ "<tr> "

+ "<td width=123>"

+ "<div id=12>这里是要获取的数据1</div>"

+ "<div id=13>这里是要获取的数据2</div>"

+ "</td>"

+ "<td width=123>"

+ "<div id=12>这里是要获取的数据3</div>"

+ "<div id=13>这里是要获取的数据4</div>"

+ "</td> "

+ "</tr>"

+ "</table>";

Document doc = Jsoup.parse(htmlStr);

// 根据id获取table

Element table = doc.getElementById("kbtable");

// 使用选择器选择该table内所有的<tr> <tr/>

Elements trs = table.select("tr");

//遍历该表格内的所有的<tr> <tr/>

for (int i = 0; i < trs.size(); ++i) {

// 获取一个tr

Element tr = trs.get(i);

// 获取该行的所有td节点

Elements tds = tr.select("td");

// 选择某一个td节点

for (int j = 0; j < tds.size(); ++j) {

Element td = tds.get(j);

// 获取td节点的所有div

Elements divs = td.select("div");

// 选择一个div

for (int k = 0; k < divs.size(); k++) {

Element div = divs.get(k);

//获取文本信息

String text = div.text();

//输出到控制台

System.out.println(text);

}

}

}

}

④ 用JSOUP解析HTML,怎样删除掉其中的一段DIV标签及内容

换个角度,不删除,只是用的时候直接用continue忽视掉;
Elements els = doc.getElementsByTag("div");
foreach(Element el :els)
{
if(el == els.get(1)) //如果是页面中第2个div,直接跳到下一轮循环内,不执行下面的容操作
{
continue;
}
//其他操作
}

⑤ jsoup的select怎么选择div里多个元素

你的div肯定设置定位关系了,那你也给select一个定位,然后z-index的数值要大于该div可以了,如果还不行就网络hi我 愿意帮你解决,我一直在线

⑥ 用jsoup解析获取一段网页内容的问题

这段html实际上是不符合规范的。在用jsoup解析时会出现问题。

我想到一个办法解决这个问题。

首先我想你应该是想得到标题、馆藏复本的数目、可借复本的数目、朱印宏编著和长江出版社。


所以我们先把上面html里面的文字全部得到即:

java开发解析馆藏复本:3可借复本:0朱印宏编著长江出版社


然后我想在这段文字中“馆藏复本:”、“可借复本:”、“编著”这几个字应该是固定不变的。所以我们可以用正则表达式去对它进行解析,得到你想要的文字。

代码如下:

publicclassTest{


publicstaticvoidmain(String[]args){

Stringhtml="<divclass="list_books"id="list_books"><td>java开发解析</td><p><span><strong>馆藏复本:</strong>3<br/><strong>可借复本:</strong>0</span>朱印宏编著<br/>长江出版社</p></div>";
Documentdoc=Jsoup.parse(html);
Stringe=doc.select("#list_books").text().replaceAll("[\s]+","");
//System.out.println(e);
Patternp=Pattern.compile("^(.*)馆藏复本:([\d]+)可借复本:([\d]+)(.*)编著(.*)$");
Matcherm=p.matcher(e);
if(m.find()){
for(inti=1;i<=m.groupCount();i++){
System.out.println(m.group(i));
}
}
}

}

如果如下:

java开发解析
3
0
朱印宏
长江出版社

⑦ jsoup 中取div id标签用#,取class标签用. 那么取style标签用什么

例:document.select("tr[style="BACKGROUND:white"]")

阅读全文

与jsoup多层div查询相关的资料

热点内容
遗愿清单app 浏览:419
温州ug数控编程培训哪个学校好 浏览:98
360收藏的网站不见了如何找回 浏览:457
电影39天完整版 浏览:902
星空卫视播放的日本恐怖片 浏览:494
手机重置后wlan怎么添加网络名称 浏览:608
谷歌商店下载旧版本 浏览:392
我老公的家庭教育师韩剧演员表 浏览:161
来一个电影网站都懂 浏览:715
苹果备忘录我存的文件 浏览:778
男女漏器官的台剧 浏览:728
那里有合法小电影 浏览:76
微信放在哪个文件夹最隐私 浏览:271
文件扫描件制作软件 浏览:419
一个女的变蛇了主角有一个女鬼叫北安 浏览:824
网络用语游戏开小灶什么意思 浏览:413
免费追剧不卡的网站 浏览:921
视频怎么添加网站 浏览:797
威胁网络安全的典型案例有哪些 浏览:42
潇湘溪苑师徒训诫文严苛 浏览:641

友情链接