一文入门XPath
之前学会了使用re模块通过正则表达式从网页中提取出来想要的信息,但是效率上很低;内容越复杂,构造正则表达式的时间也就越多了。而且,有些时候网页中的内容并不是完全一样的规律,导致提取到的信息会不完整。
本文中介绍的XPath能够大大地提高从源码中提取信息的效率。下面介绍的内容全部是从w3school中提炼总结而来,总结的内容主要是将来用到爬虫中,提高效率。
什么是XPath
XPath (XML Path)
是一门在 XML 文档中查找信息的语言。XPath
可用来在XML
文档中对元素和属性进行遍历。
XPath 是 W3C XSLT 标准的主要元素,并且 XQuery 和 XPointer 都构建于 XPath 表达之上。
- 是一种查询语言
- 在XML(Extensible Markup Language)和HTML的树状结构中寻找节点
- XPATH是一种根据‘地址’来‘寻找人’的语言
语法
XPath 使用路径表达式来选取 XML 文档中的节点或节点集。
节点是通过沿着路径 (path) 或者步 (steps) 来选取的。
路径表达式
下面列出了最有用的路径表达式
表达式 | 描述 |
---|---|
nodename | 选取此节点的所有子节点。 |
/ | 从根节点选取。 |
// | 从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。 |
. | 选取当前节点。 |
.. | 选取当前节点的父节点。 |
@ | 选取属性。 |
具体的例子解释
路径表达式 | 结果 |
---|---|
bookstore | 选取 bookstore 元素的所有子节点。 |
/bookstore | 选取根元素 bookstore。注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径! |
bookstore/book | 选取属于 bookstore 的子元素的所有 book 元素。 |
//book | 选取所有 book 子元素,而不管它们在文档中的位置。 |
bookstore//book | 选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。 |
//@lang | 选取名为 lang 的所有属性。 |
通配符
XPath 通配符可用来选取未知的 XML 元素
通配符 | 描述 |
---|---|
匹配任何元素节点 | |
@* | 匹配任何属性节点。 |
node() | 匹配任何类型的节点。 |
具体的例子解释
路径表达式 | 结果 |
---|---|
/bookstore/* | 选取 bookstore 元素的所有子元素。 |
//* | 选取文档中的所有元素。 |
//title@* | 选取所有带有属性的 title 元素。 |
选取不同路径
通过在路径表达式中使用“|”运算符,您可以选取若干个路径。
通过在路径表达式中使用“|”运算符,您可以选取若干个路径。
在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:
路径表达式 | 结果 |
---|---|
//book/title | //book/price | 选取 book 元素的所有 title 和 price 元素 |
//title | //price | 选取文档中(//)的所有 title 和 price 元素。 |
/bookstore/book/title | //price | 选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中(//)所有的 price 元素。 |
谓语
谓语用来查找某个特定的节点或者包含某个指定的值的节点。谓语被嵌在方括号中
注意!!!
某个元素下面的第一个子元素的索引是1开始的,不是0
路径表达式 | 结果 |
---|---|
/bookstore/book1 | 选取属于 bookstore 子元素的第一个 book 元素。 |
/bookstore/booklast() | 选取属于 bookstore 子元素的最后一个 book 元素。 |
/bookstore/booklast()-1 | 选取属于 bookstore 子元素的倒数第二个 book 元素。 |
/bookstore/bookposition()<3 | 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
//title@lang | 选取所有拥有名为 lang 的属性的 title 元素。 |
//title@lang='eng' | 选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。 |
/bookstore/bookprice>35.00 | 选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。 |
/bookstore/bookprice>35.00/title | 选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。 |
XPath运算符
XPath 表达式可返回节点集、字符串、逻辑值以及数字
下面列出了可用在 XPath 表达式中的运算符:
运算符 | 描述 | 实例 | 返回值 |
---|---|---|---|
| | 计算两个节点集 | //book | //cd | 返回所有拥有 book 和 cd 元素的节点集 |
加法 | 6 4 | 10 | |
减法 | 6 - 4 | 2 | |
乘法 | 6 * 4 | 24 | |
div | 除法 | 8 div 4 | 2 |
= | 等于 | price=9.80 | 如果 price 是 9.80,则返回 true。如果 price 是 9.90,则返回 false。 |
!= | 不等于 | price!=9.80 | 如果 price 是 9.90,则返回 true。如果 price 是 9.80,则返回 false。 |
< | 小于 | price<9.80 | 如果 price 是 9.00,则返回 true。如果 price 是 9.90,则返回 false。 |
<= | 小于或等于 | price<=9.80 | 如果 price 是 9.00,则返回 true。如果 price 是 9.90,则返回 false。 |
大于 | price>9.80 | 如果 price 是 9.90,则返回 true。如果 price 是 9.80,则返回 false。 | |
| 大于或等于 | price>=9.80 | 如果 price 是 9.90,则返回 true。如果 price 是 9.70,则返回 false。 |
or | 或 | price=9.80 or price=9.70 | 如果 price 是 9.80,则返回 true。如果 price 是 9.50,则返回 false。 |
and | 与 | price>9.00 and price<9.90 | 如果 price 是 9.80,则返回 true。如果 price 是 8.50,则返回 false。 |
mod | 计算除法的余数 | 5 mod 2 | 1 |
安装
为了使用XPath,必须先安装一个库:lxml
pip install lxml # Macos
sudo apt-get install python-lxml # Ubuntu
Windows 下面的安装比较坑,步骤分为:
- pip install lxml
- 安装Virtual C 运行库
- 步骤2失败,在安装.whl包文件
pip install lxml-3.7.3-cp36-cp36m-win_amd64.whl
- 步骤3仍然失败,将后缀whl改为zip,解压之后将两个文件放到Python安装文件下的
Libsite-packages
文件夹中即可 - 验证是否成功安装
import lxml # 没有报错即成功了