Python Elasticsearch DSL 查询、过滤、聚合操作

Elasticsearch 基本概念

Index：Elasticsearch用来存储数据的逻辑区域，它类似于关系型数据库中的database 概念。一个index可以在一个或者多个shard上面，同时一个shard也可能会有多个replicas。

Document：Elasticsearch里面存储的实体数据，类似于关系数据中一个table里面的一行数据。

document由多个field组成，不同的document里面同名的field一定具有相同的类型。document里面field可以重复出现，也就是一个field会有多个值，即multivalued。

Document type：为了查询需要，一个index可能会有多种document，也就是document type. 它类似于关系型数据库中的 table 概念。但需要注意，不同document里面同名的field一定要是相同类型的。

Mapping：它类似于关系型数据库中的 schema 定义概念。存储field的相关映射信息，不同document type会有不同的mapping。

下图是ElasticSearch和关系型数据库的一些术语比较：

Relationnal database	Elasticsearch
Database	Index
Table	Type
Row	Document
Column	Field
Schema	Mapping
Schema	Mapping
Index	Everything is indexed
SQL	Query DSL
SELECT * FROM table…	GET http://…
UPDATE table SET	PUT http://…

Python Elasticsearch DSL 使用简介

连接 Es：

代码语言：javascript复制

import elasticsearch

es = elasticsearch.Elasticsearch([{'host': '127.0.0.1', 'port': 9200}])
复制代码

先看一下搜索，q 是指搜索内容，空格对 q 查询结果没有影响，size 指定个数，from_ 指定起始位置，filter_path 可以指定需要显示的数据，如本例中显示在最后的结果中的只有 _id 和 _type。

代码语言：javascript复制

res_3 = es.search(index="bank", q="Holmes", size=1, from_=1)
res_4 = es.search(index="bank", q=" 39225    5686 ", size=1000, filter_path=['hits.hits._id', 'hits.hits._type'])
复制代码

查询指定索引的所有数据：

其中，index 指定索引，字符串表示一个索引；列表表示多个索引，如 index=["bank", "banner", "country"]；正则形式表示符合条件的多个索引，如 index=["apple*"]，表示以 apple 开头的全部索引。

search 中同样可以指定具体 doc-type。

代码语言：javascript复制

from elasticsearch_dsl import Search

s = Search(using=es, index="index-test").execute()
print s.to_dict()
复制代码

根据某个字段查询，可以多个查询条件叠加：

代码语言：javascript复制

s = Search(using=es, index="index-test").query("match", sip="192.168.1.1")
s = s.query("match", dip="192.168.1.2")
s = s.excute()
复制代码

多字段查询：

代码语言：javascript复制

from elasticsearch_dsl.query import MultiMatch, Match

multi_match = MultiMatch(query='hello', fields=['title', 'content'])
s = Search(using=es, index="index-test").query(multi_match)
s = s.execute()

print s.to_dict()
复制代码

还可以用 Q() 对象进行多字段查询，fields 是一个列表，query 为所要查询的值。

代码语言：javascript复制

from elasticsearch_dsl import Q

q = Q("multi_match", query="hello", fields=['title', 'content'])
s = s.query(q).execute()

print s.to_dict()
复制代码

Q() 第一个参数是查询方法，还可以是 bool。

代码语言：javascript复制

q = Q('bool', must=[Q('match', title='hello'), Q('match', content='world')])
s = s.query(q).execute()

print s.to_dict()
复制代码

通过 Q() 进行组合查询，相当于上面查询的另一种写法。

代码语言：javascript复制

q = Q("match", title='python') | Q("match", title='django')
s = s.query(q).execute()
print(s.to_dict())
# {"bool": {"should": [...]}}

q = Q("match", title='python') & Q("match", title='django')
s = s.query(q).execute()
print(s.to_dict())
# {"bool": {"must": [...]}}

q = ~Q("match", title="python")
s = s.query(q).execute()
print(s.to_dict())
# {"bool": {"must_not": [...]}}
复制代码

过滤，在此为范围过滤，range 是方法，timestamp 是所要查询的 field 名字，gte 为大于等于，lt 为小于，根据需要设定即可。

关于 term 和 match 的区别，term 是精确匹配，match 会模糊化，会进行分词，返回匹配度分数，（term 如果查询小写字母的字符串，有大写会返回空即没有命中，match 则是不区分大小写都可以进行查询，返回结果也一样）

代码语言：javascript复制

# 范围查询
s = s.filter("range", timestamp={"gte": 0, "lt": time.time()}).query("match", country="in")
# 普通过滤
res_3 = s.filter("terms", balance_num=["39225", "5686"]).execute()
复制代码

其他写法：

代码语言：javascript复制

s = Search()
s = s.filter('terms', tags=['search', 'python'])
print(s.to_dict())
# {'query': {'bool': {'filter': [{'terms': {'tags': ['search', 'python']}}]}}}

s = s.query('bool', filter=[Q('terms', tags=['search', 'python'])])
print(s.to_dict())
# {'query': {'bool': {'filter': [{'terms': {'tags': ['search', 'python']}}]}}}
s = s.exclude('terms', tags=['search', 'python'])
# 或者
s = s.query('bool', filter=[~Q('terms', tags=['search', 'python'])])
print(s.to_dict())
# {'query': {'bool': {'filter': [{'bool': {'must_not': [{'terms': {'tags': ['search', 'python']}}]}}]}}}
复制代码

聚合可以放在查询，过滤等操作的后面叠加，需要加 aggs。

bucket 即为分组，其中第一个参数是分组的名字，自己指定即可，第二个参数是方法，第三个是指定的 field。

metric 也是同样，metric 的方法有 sum、avg、max、min 等，但是需要指出的是，有两个方法可以一次性返回这些值，stats 和 extended_stats，后者还可以返回方差等值。

代码语言：javascript复制

# 实例1
s.aggs.bucket("per_country", "terms", field="timestamp").metric("sum_click", "stats", field="click").metric("sum_request", "stats", field="request")

# 实例2
s.aggs.bucket("per_age", "terms", field="click.keyword").metric("sum_click", "stats", field="click")

# 实例3
s.aggs.metric("sum_age", "extended_stats", field="impression")

# 实例4
s.aggs.bucket("per_age", "terms", field="country.keyword")

# 实例5，此聚合是根据区间进行聚合
a = A("range", field="account_number", ranges=[{"to": 10}, {"from": 11, "to": 21}])

res = s.execute()
复制代码

最后依然要执行 execute()，此处需要注意，s.aggs 操作不能用变量接收（如 res=s.aggs，这个操作是错误的），聚合的结果会保存到 res 中显示。

排序

代码语言：javascript复制

s = Search().sort(
    'category',
    '-title',
    {"lines" : {"order" : "asc", "mode" : "avg"}}
)
复制代码

分页

代码语言：javascript复制

s = s[10:20]
# {"from": 10, "size": 10}
复制代码

一些扩展方法，感兴趣的同学可以看看：

代码语言：javascript复制

s = Search()

# 设置扩展属性使用`.extra()`方法
s = s.extra(explain=True)

# 设置参数使用`.params()`
s = s.params(search_type="count")

# 如要要限制返回字段，可以使用`source()`方法
# only return the selected fields
s = s.source(['title', 'body'])
# don't return any fields, just the metadata
s = s.source(False)
# explicitly include/exclude fields
s = s.source(include=["title"], exclude=["user.*"])
# reset the field selection
s = s.source(None)

# 使用dict序列化一个查询
s = Search.from_dict({"query": {"match": {"title": "python"}}})

# 修改已经存在的查询
s.update_from_dict({"query": {"match": {"title": "python"}}, "size": 42})
复制代码

ElasticsearchService 网络安全 http 数据库 sql

0 人点赞