介绍
通过一个完整例子,在基于 Gin 框架的微服务中添加 API 日志中间件。
什么是日志拦截器/中间件?
日志拦截器会对每一个 API 请求记录日志。
我们将会使用 rk-boot 来启动 Gin 框架的微服务。
请访问如下地址获取完整教程:https://rkdocs.netlify.app/cn
安装
代码语言:txt复制go get github.com/rookie-ninja/rk-boot
go get github.com/rookie-ninja/rk-gin
快速开始
rk-boot 默认集成如下两个开源库。
- uber-go/zap 作为底层的日志库。
- logrus 作为日志滚动。
1.创建 boot.yaml
boot.yaml 文件描述了 Gin 框架启动的原信息,rk-boot 通过读取 boot.yaml 来启动 Gin。
为了验证,我们同时启动了 commonService。commonService 里包含了一系列通用 API。
详情: CommonService
代码语言:txt复制---
gin:
- name: greeter # Required, name of gin entry
port: 8080 # Required, port of gin entry
enabled: true # Required, enable gin entry
commonService:
enabled: true # Optional, enable common service
interceptors:
loggingZap:
enabled: true # Optional, enable logging interceptor
2.创建 main.go
代码语言:txt复制package main
import (
"context"
"github.com/rookie-ninja/rk-boot"
_ "github.com/rookie-ninja/rk-gin"
)
// Application entrance.
func main() {
// Create a new boot instance.
boot := rkboot.NewBoot()
// Bootstrap
boot.Bootstrap(context.Background())
// Wait for shutdown sig
boot.WaitForShutdownSig(context.Background())
}
3.文件夹结构
代码语言:txt复制$ tree
.
├── boot.yaml
├── go.mod
├── go.sum
└── main.go
0 directories, 4 files
4.启动 main.go
代码语言:txt复制$ go run main.go
5.验证
我们发送 CommonService 自带的 /rk/v1/healthy 请求。
代码语言:txt复制$ curl -X GET localhost:8080/rk/v1/healthy
{"healthy":true}
EventLog 会默认输出到 stdout。
下面的日志格式来自 rk-query ,用户也可以选择 JSON 格式,我们稍后会介绍。
代码语言:txt复制------------------------------------------------------------------------
endTime=2021-11-03T16:07:16.163624 08:00
startTime=2021-11-03T16:07:16.16355 08:00
elapsedNano=73445
timezone=CST
ids={"eventId":"a9cc6ca1-cb54-4495-a83c-b296a8162149"}
app={"appName":"rk-demo","appVersion":"master-2c9c6fd","entryName":"greeter","entryType":"GinEntry"}
env={"arch":"amd64","az":"*","domain":"*","hostname":"lark.local","localIP":"10.8.0.2","os":"darwin","realm":"*","region":"*"}
payloads={"apiMethod":"GET","apiPath":"/rk/v1/healthy","apiProtocol":"HTTP/1.1","apiQuery":"","userAgent":"curl/7.64.1"}
error={}
counters={}
pairs={}
timing={}
remoteAddr=localhost:50722
operation=/rk/v1/healthy
resCode=200
eventStatus=Ended
EOE
修改日志格式
我们可以通过修改 boot.yaml 来修改日志格式。
目前支持 json 和 console 两种格式,默认为 console。
通过修改 eventLoggerEncoding 的值为 json,我们可以把日志的输出为 JSON 格式。
代码语言:txt复制gin:
- name: greeter # Required, name of gin entry
port: 8080 # Required, port of gin entry
enabled: true # Required, enable gin entry
commonService:
enabled: true # Optional, enable common service
interceptors:
loggingZap:
enabled: true # Optional, enable logging interceptor
zapLoggerEncoding: "json" # Override to json format, option: json or console
eventLoggerEncoding: "json" # Override to json format, option: json or console
代码语言:txt复制{
"endTime":"2021-11-03T16:09:27.712 0800",
"startTime":"2021-11-03T16:09:27.712 0800",
"elapsedNano":81181,
"timezone":"CST",
"ids":{
"eventId":"8a9ae674-d1dc-4f43-a5ad-4e30412cb69e"
},
"app":{
"appName":"rk-demo",
"appVersion":"master-2c9c6fd",
"entryName":"greeter",
"entryType":"GinEntry"
},
"env":{
"arch":"amd64",
"az":"*",
"domain":"*",
"hostname":"lark.local",
"localIP":"10.8.0.2",
"os":"darwin",
"realm":"*",
"region":"*"
},
"payloads":{
"apiMethod":"GET",
"apiPath":"/rk/v1/healthy",
"apiProtocol":"HTTP/1.1",
"apiQuery":"",
"userAgent":"curl/7.64.1"
},
"error":{},
"counters":{},
"pairs":{},
"timing":{},
"remoteAddr":"localhost:59140",
"operation":"/rk/v1/healthy",
"eventStatus":"Ended",
"resCode":"200"
}
修改日志路径
通过修改 eventLoggerOutputPaths 的值,可以指定输出路径。
日志默认在 1GB 之后,进行切割,并压缩。
代码语言:txt复制---
gin:
- name: greeter # Required, name of gin entry
port: 8080 # Required, port of gin entry
enabled: true # Required, enable gin entry
commonService:
enabled: true # Optional, enable common service
interceptors:
loggingZap:
enabled: true # Optional, enable logging interceptor
zapLoggerOutputPaths: ["logs/app.log"] # Override output paths
eventLoggerOutputPaths: ["logs/event.log"] # Override output paths
代码语言:txt复制.
├── boot.yaml
├── go.mod
├── go.sum
├── logs
│ └── event.log
└── main.go
概念
验证了日志拦截器,我们来具体讲一下 rk-boot 提供的日志拦截器都有哪些功能。
我们需要提前了解两个概念。
- EventLogger
- ZapLogger
ZapLogger
用于记录错误/详细日志,用户可以获取本次 RPC 调用的 ZapLogger 实例,进行日志写入,每个 RPC 的 ZapLogger 实例都包含当前的 RequestId。
代码语言:txt复制2021-11-03T16:13:36.362 0800 INFO boot/gin_entry.go:759 Bootstrapping GinEntry. {"eventId": "68d0c4c0-c631-4a9c-a518-2576ed6175a4", "entryName": "greeter", "entryType": "GinEntry", "port": 8080, "interceptorsCount": 2, "swEnabled": false, "tlsEnabled": false, "commonServiceEnabled": true, "tvEnabled": false}
EventLogger
RK 启动器把每一个 RPC 请求视作 Event,并且使用 rk-query 中的 Event 类型来记录日志。
字段 | 详情 |
---|---|
endTime | 结束时间 |
startTime | 开始时间 |
elapsedNano | Event 时间开销(Nanoseconds) |
timezone | 时区 |
ids | 包含 eventId, requestId 和 traceId。如果原数据拦截器被启动,或者 event.SetRequest() 被用户调用,新的 RequestId 将会被使用,同时 eventId 与 requestId 会一模一样。 如果调用链拦截器被启动,traceId 将会被记录。 |
app | 包含 appName, appVersion, entryName, entryType。 |
env | 包含 arch, az, domain, hostname, localIP, os, realm, region. realm, region, az, domain 字段。这些字段来自系统环境变量(REALM,REGION,AZ,DOMAIN)。 "*" 代表环境变量为空。 |
payloads | 包含 RPC 相关信息。 |
error | 包含错误。 |
counters | 通过 event.SetCounter() 来操作。 |
pairs | 通过 event.AddPair() 来操作。 |
timing | 通过 event.StartTimer() 和 event.EndTimer() 来操作。 |
remoteAddr | RPC 远程地址。 |
operation | RPC 名字。 |
resCode | RPC 返回码。 |
eventStatus | Ended 或者 InProgress |
------------------------------------------------------------------------
endTime=2021-11-03T16:07:16.163624 08:00
startTime=2021-11-03T16:07:16.16355 08:00
elapsedNano=73445
timezone=CST
ids={"eventId":"a9cc6ca1-cb54-4495-a83c-b296a8162149"}
app={"appName":"rk-demo","appVersion":"master-2c9c6fd","entryName":"greeter","entryType":"GinEntry"}
env={"arch":"amd64","az":"*","domain":"*","hostname":"lark.local","localIP":"10.8.0.2","os":"darwin","realm":"*","region":"*"}
payloads={"apiMethod":"GET","apiPath":"/rk/v1/healthy","apiProtocol":"HTTP/1.1","apiQuery":"","userAgent":"curl/7.64.1"}
error={}
counters={}
pairs={}
timing={}
remoteAddr=localhost:50722
operation=/rk/v1/healthy
resCode=200
eventStatus=Ended
EOE
日志拦截器选项
名字 | 描述 | 类型 | 默认值 |
---|---|---|---|
gin.interceptors.loggingZap.enabled | 启动日志拦截器 | boolean | false |
gin.interceptors.loggingZap.zapLoggerEncoding | 日志格式:json 或者 console | string | console |
gin.interceptors.loggingZap.zapLoggerOutputPaths | 日志文件路径 | []string | stdout |
gin.interceptors.loggingZap.eventLoggerEncoding | 日志格式:json 或者 console | string | console |
gin.interceptors.loggingZap.eventLoggerOutputPaths | 日志文件路径 | []string | stdout |
获取 RPC 日志实例
每一次 RPC 请求进来的时候,拦截器会把 RequestId(当启动了原数据拦截器)注入到日志实例中。
换句话说,每一个 RPC 请求,都会有一个新的 Logger 实例。我们来看看如何为一个 RPC 请求,记录 ZapLogger 日志。
通过 rkginctx.GetLogger(ctx) 方法获取本次请求的日志实例。
代码语言:txt复制func Greeter(ctx *gin.Context) {
rkginctx.GetLogger(ctx).Info("Request received")
ctx.JSON(http.StatusOK, &GreeterResponse{
Message: fmt.Sprintf("Hello %s!", ctx.Query("name")),
})
}
日志打印了出来!
代码语言:txt复制2021-11-03T16:16:20.041 0800 INFO basic/main.go:43 Request received {"requestId": "f1c15b4e-d4e2-4da9-a9dd-55aa31fc35ac"}
修改 Event
日志拦截器会为每一个 RPC 请求创建一个 Event 实例。
用户可以添加 pairs,counters,errors。
通过 rkginctx.GetEvent(ctx) 获取本次 RPC 的 Event 实例。
代码语言:txt复制func Greeter(ctx *gin.Context) {
event := rkginctx.GetEvent(ctx)
event.AddPair("key", "value")
ctx.JSON(http.StatusOK, &GreeterResponse{
Message: fmt.Sprintf("Hello %s!", ctx.Query("name")),
})
}
Event 里增加了 pairs={"key":"value"}!
代码语言:txt复制------------------------------------------------------------------------
endTime=2021-11-03T16:17:42.892857 08:00
startTime=2021-11-03T16:17:42.892762 08:00
elapsedNano=94494
timezone=CST
ids={"eventId":"1ef6ceab-f6fd-4995-9272-b0ce60476e57","requestId":"1ef6ceab-f6fd-4995-9272-b0ce60476e57"}
app={"appName":"rk-demo","appVersion":"master-2c9c6fd","entryName":"greeter","entryType":"GinEntry"}
env={"arch":"amd64","az":"*","domain":"*","hostname":"lark.local","localIP":"10.8.0.2","os":"darwin","realm":"*","region":"*"}
payloads={"apiMethod":"GET","apiPath":"/v1/greeter","apiProtocol":"HTTP/1.1","apiQuery":"","userAgent":"curl/7.64.1"}
error={}
counters={}
pairs={"key":"value"}
timing={}
remoteAddr=localhost:57814
operation=/v1/greeter
resCode=200
eventStatus=Ended
EOE