一文入门XPath

2020-10-30 10:04:26 浏览数 (1)

一文入门XPath

之前学会了使用re模块通过正则表达式从网页中提取出来想要的信息,但是效率上很低;内容越复杂,构造正则表达式的时间也就越多了。而且,有些时候网页中的内容并不是完全一样的规律,导致提取到的信息会不完整。

本文中介绍的XPath能够大大地提高从源码中提取信息的效率。下面介绍的内容全部是从w3school中提炼总结而来,总结的内容主要是将来用到爬虫中,提高效率。

什么是XPath

XPath (XML Path)是一门在 XML 文档中查找信息的语言。XPath 可用来在XML文档中对元素和属性进行遍历。

XPath 是 W3C XSLT 标准的主要元素,并且 XQuery 和 XPointer 都构建于 XPath 表达之上。

  • 是一种查询语言
  • 在XML(Extensible Markup Language)和HTML的树状结构中寻找节点
  • XPATH是一种根据‘地址’来‘寻找人’的语言

语法

XPath 使用路径表达式来选取 XML 文档中的节点或节点集。

节点是通过沿着路径 (path) 或者步 (steps) 来选取的。

路径表达式

下面列出了最有用的路径表达式

表达式

描述

nodename

选取此节点的所有子节点。

/

从根节点选取。

//

从匹配选择的当前节点选择文档中的节点,而不考虑它们的位置。

.

选取当前节点。

..

选取当前节点的父节点。

@

选取属性。

具体的例子解释

路径表达式

结果

bookstore

选取 bookstore 元素的所有子节点。

/bookstore

选取根元素 bookstore。注释:假如路径起始于正斜杠( / ),则此路径始终代表到某元素的绝对路径!

bookstore/book

选取属于 bookstore 的子元素的所有 book 元素。

//book

选取所有 book 子元素,而不管它们在文档中的位置。

bookstore//book

选择属于 bookstore 元素的后代的所有 book 元素,而不管它们位于 bookstore 之下的什么位置。

//@lang

选取名为 lang 的所有属性。

通配符

XPath 通配符可用来选取未知的 XML 元素

通配符

描述

匹配任何元素节点

@*

匹配任何属性节点。

node()

匹配任何类型的节点。

具体的例子解释

路径表达式

结果

/bookstore/*

选取 bookstore 元素的所有子元素。

//*

选取文档中的所有元素。

//title@*

选取所有带有属性的 title 元素。

选取不同路径

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

通过在路径表达式中使用“|”运算符,您可以选取若干个路径。

在下面的表格中,我们列出了一些路径表达式,以及这些表达式的结果:

路径表达式

结果

//book/title | //book/price

选取 book 元素的所有 title 和 price 元素

//title | //price

选取文档中(//)的所有 title 和 price 元素。

/bookstore/book/title | //price

选取属于 bookstore 元素的 book 元素的所有 title 元素,以及文档中(//)所有的 price 元素。

谓语

谓语用来查找某个特定的节点或者包含某个指定的值的节点。谓语被嵌在方括号中

注意!!!

某个元素下面的第一个子元素的索引是1开始的,不是0

路径表达式

结果

/bookstore/book1

选取属于 bookstore 子元素的第一个 book 元素。

/bookstore/booklast()

选取属于 bookstore 子元素的最后一个 book 元素。

/bookstore/booklast()-1

选取属于 bookstore 子元素的倒数第二个 book 元素。

/bookstore/bookposition()<3

选取最前面的两个属于 bookstore 元素的子元素的 book 元素。

//title@lang

选取所有拥有名为 lang 的属性的 title 元素。

//title@lang='eng'

选取所有 title 元素,且这些元素拥有值为 eng 的 lang 属性。

/bookstore/bookprice>35.00

选取 bookstore 元素的所有 book 元素,且其中的 price 元素的值须大于 35.00。

/bookstore/bookprice>35.00/title

选取 bookstore 元素中的 book 元素的所有 title 元素,且其中的 price 元素的值须大于 35.00。

XPath运算符

XPath 表达式可返回节点集、字符串、逻辑值以及数字

下面列出了可用在 XPath 表达式中的运算符:

运算符

描述

实例

返回值

|

计算两个节点集

//book | //cd

返回所有拥有 book 和 cd 元素的节点集

加法

6 4

10

减法

6 - 4

2

乘法

6 * 4

24

div

除法

8 div 4

2

=

等于

price=9.80

如果 price 是 9.80,则返回 true。如果 price 是 9.90,则返回 false。

!=

不等于

price!=9.80

如果 price 是 9.90,则返回 true。如果 price 是 9.80,则返回 false。

<

小于

price<9.80

如果 price 是 9.00,则返回 true。如果 price 是 9.90,则返回 false。

<=

小于或等于

price<=9.80

如果 price 是 9.00,则返回 true。如果 price 是 9.90,则返回 false。

大于

price>9.80

如果 price 是 9.90,则返回 true。如果 price 是 9.80,则返回 false。

=

大于或等于

price>=9.80

如果 price 是 9.90,则返回 true。如果 price 是 9.70,则返回 false。

or

price=9.80 or price=9.70

如果 price 是 9.80,则返回 true。如果 price 是 9.50,则返回 false。

and

price>9.00 and price<9.90

如果 price 是 9.80,则返回 true。如果 price 是 8.50,则返回 false。

mod

计算除法的余数

5 mod 2

1

安装

为了使用XPath,必须先安装一个库:lxml

代码语言:txt复制
pip install lxml  # Macos
sudo apt-get install python-lxml  # Ubuntu

Windows 下面的安装比较坑,步骤分为:

  1. pip install lxml
  2. 安装Virtual C 运行库
  3. 步骤2失败,在安装.whl包文件
代码语言:txt复制
pip install lxml-3.7.3-cp36-cp36m-win_amd64.whl
  1. 步骤3仍然失败,将后缀whl改为zip,解压之后将两个文件放到Python安装文件下的Libsite-packages文件夹中即可
  2. 验证是否成功安装
代码语言:txt复制
import lxml  # 没有报错即成功了

0 人点赞