现代化日志解决方案 PLG (Promtail +Loki + Grafana )

2023-10-17 19:05:39 浏览数 (3)

解决方案 PLG概述

Promtail、Loki 和 Grafana 是一组开源工具,通常一起使用,用于帮助监控、收集、存储和可视化日志和指标数据的现代化日志解决方案。

Promtail:

介绍:Promtail 是 Grafana Labs 开发的一个用于日志收集的开源代理。它特别与 Prometheus 和 Loki 集成得非常好,以帮助用户从各种应用程序和服务中轻松收集和标准化日志数据。 功能:Promtail 会监视目标日志文件、目录或系统日志流,并将其发送到 Loki 数据源。它还支持标签化日志以使其更易于查询,类似于 Prometheus 的标签数据模型。 用途:Promtail 可以与容器化环境、Kubernetes 集群和传统主机一起使用,以便实时收集和传输日志数据。

Loki:

介绍:Grafana Loki 是一个开源的日志聚合和存储系统,旨在提供高效的日志存储和查询。它专门用于处理大规模的分布式日志数据。 功能:Loki 提供了一个标签索引系统,类似于 Prometheus,以便高效地存储和查询日志。它支持 LogQL 查询语言,允许用户执行强大的查询以检索和分析日志数据。 用途:Loki 通常与Promtail一起使用,以收集、存储和查询分散的日志数据。它还与 Grafana 集成,使用户可以创建仪表板和可视化,以展示日志数据和监控指标的关系。

Grafana:

介绍:Grafana 是一款开源的数据可视化和监控工具,用于创建仪表板和可视化不同数据源的指标数据和日志数据。

功能:Grafana 支持多种数据源,包括 Prometheus、Loki、Elasticsearch、InfluxDB 等。它允许用户创建交互式仪表板,图表、警报和面板,以实时监控应用程序性能、系统指标和日志数据。

用途:Grafana 通常用于可视化监控指标数据和日志数据,以便在一个集中的仪表板中跟踪应用程序性能和健康状态。它与 Prometheus、Loki 和其他数据源集成得很好,为用户提供一个综合的监控和可视化解决方案。

综合使用 Promtail、Loki 和 Grafana 可以实现从应用程序生成的日志数据的收集、存储、查询和可视化,有助于更好地理解应用程序的行为,识别问题,以及监视性能和可用性。这一组工具通常在现代DevOps和云原生环境中得到广泛使用。


Loki概述

https://grafana.com/docs/loki/latest/


Loki overview

Loki 是一个受Prometheus启发的水平可扩展、高可用、多租户日志聚合系统。Loki 与 Prometheus 的不同之处在于,它关注日志而不是指标,并通过推送而不是拉取来收集日志。

Loki 的设计非常经济高效且具有高度可扩展性。与其他日志系统不同,Loki 不会对日志内容进行索引,而只会对有关日志的元数据进行索引,作为每个日志流的一组标签。

日志流是一组共享相同标签的日志。标签可帮助 Loki 在数据存储中查找日志流,因此拥有一组高质量的标签是高效执行查询的关键。

然后,日志数据被压缩并以块的形式存储在对象存储中,例如 Amazon Simple Storage Service (S3) 或 Google Cloud Storage (GCS),甚至为了开发或概念验证而存储在文件系统上小索引和高度压缩的块简化了操作并显着降低了 Loki 的成本


3个组件 (Promtail Loki Grafana)

  • 代理- 代理或客户端,例如与 Loki 一起分发的 Promtail 或 Grafana 代理。代理抓取日志,通过添加标签将日志转换为流,并通过 HTTP API 将流推送到 Loki。
  • Loki - 主服务器,负责摄取和存储日志以及处理查询。它可以部署在三种不同的配置中,有关详细信息,请参阅部署模式。
  • Grafana用于查询和显示日志数据。您还可以使用LogCLI或直接使用 Loki API从命令行查询日志

特点

  • 可扩展性- Loki 专为可扩展性而设计,可以从小到在 Raspberry Pi 上运行扩展到每天摄取 PB 数据。在其最常见的部署“简单可扩展模式”中,Loki 将请求解耦到单独的读取和写入路径中,以便您可以独立扩展它们,从而实现灵活的大规模安装,可以快速适应在任何给定时间满足您的工作负载。如果需要,Loki 的每个组件也可以作为微服务运行,旨在在 Kubernetes 中本地运行。
  • 多租户- Loki 允许多个租户共享一个 Loki 实例。通过多租户,每个租户的数据和请求与其他租户完全隔离。通过在代理中分配租户 ID 来配置多租户。
  • 第三方集成- 多个第三方代理(客户端)通过插件支持 Loki。这使您可以保留现有的可观察性设置,同时还将日志发送到 Loki。
  • 高效存储- Loki 将日志数据存储在高度压缩的块中。同样,Loki 索引由于只索引标签集,因此明显小于其他日志聚合工具。压缩的块、更小的索引以及低成本对象存储的使用使得 Loki 的运行成本更低。
  • LogQL,Loki 的查询语言- LogQL是 Loki 的查询语言。已经熟悉 Prometheus 查询语言PromQL的用户会发现 LogQL 熟悉且灵活,可以针对日志生成查询。该语言还有助于从日志数据生成指标,这是一个远远超出日志聚合范围的强大功能。
  • 警报- Loki 包含一个称为标尺的组件,它可以持续评估针对日志的查询,并根据结果执行操作。这使您可以监视日志中的异常或事件。Loki 与Prometheus Alertmanager或Grafana 中的警报管理器集成。
  • Grafana 集成- Loki 与 Grafana、Mimir 和 Tempo 集成,提供完整的可观察性堆栈以及日志、指标和跟踪之间的无缝关联。

导图

0 人点赞