https://gitee.com/tianjingle/file2udp
很多时候服务产生的日志需要进行汇总,这种统一日志处理的方式有elb,而且很多日志组件也支持日志转出的能力。但是从广义上来说是定制化的,我们需要一个小工具实现tail -f的能力,将增量日志转到udp,然后通过logstash进行集中汇总进行外发。
基于此,作者利用周末开发file2Udp工具,实现日志文件增量tail -f能力,以求侵入式采集具有更大的覆盖面。
https://gitee.com/tianjingle/file2udp/releases
file2Udp原理
类似于CAS原理,给予检测时间片之内文件变动,通过指针滑动读时间片内的增量日志,实现`tail -f`的能力。目前支持`window、linux(x86)、linux(arm)`版本.file2udp开发采用第三方组件:
代码语言:javascript复制github.com/hpcloud/tail
- https://gitee.com/tianjingle/file2udp/releases
- 找到适合自己的版本并下载
- 编辑`conf`文件夹下的配置文件server.ini
[system]
collector.default.files = C:UsersAdministratorGolandProjectsawesomeProject1.txt,C:UsersAdministratorGolandProjectsawesomeProject2.txt
collector.default.addr = 127.0.0.1:8888
collector.test.files = C:UsersAdministratorGolandProjectsrun.txt,C:UsersAdministratorGolandProjectstest.log
collector.test.addr = 127.0.0.1:8889
配置说明
代码语言:javascript复制collector.类型.files=需要监听的文件,多个文件用,隔开
collector.类型.addr=当前类型的文件需要转出的udp地址
4. 根据版本执行run.sh、run.vbs启动日志转出,执行stop.sh、stop.vbs停止日志. * 注意: 配置变动均需重启file2Udp进程
功能测试
1.解压window版本,如下:
2.配置监听文件
3.启动file2Udp.exe进程
4.启动udp服务端,编辑被监听文件