Flume使用案例

2023-02-25 15:17:31 浏览数 (1)

先用一个最简单的例子来测试一下程序环境是否正常

1、 先在flume的conf目录下新建一个文件

vi netcat-logger.conf

代码语言:javascript复制
#定义这个agent中各组件的名字

a1.sources = r1

a1.sinks = k1

a1.channels = c1

# 描述和配置source组件:r1

a1.sources.r1.type = netcat

a1.sources.r1.bind = localhost

a1.sources.r1.port = 44444

# 描述和配置sink组件:k1

a1.sinks.k1.type = logger

# 描述和配置channel组件,此处使用是内存缓存的方式

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000 内存里面存放1000个事件

a1.channels.c1.transactionCapacity = 100

# 描述和配置source  channel   sink之间的连接关系

a1.sources.r1.channels = c1

a1.sinks.k1.channel = c1

2、 启动agent去采集数据

代码语言:javascript复制
bin/flume-ng agent -c conf -f conf/netcat-logger.conf -n a1  -Dflume.root.logger=INFO,console

-c conf   指定flume自身的配置文件所在目录

-f conf/netcat-logger.con  指定我们所描述的采集方案

-n a1  指定我们这个agent的名字

-Dflume.root.logger=INFO,console 运行日志输出到控制台,那么把该条删除就可以按照log4j的配置输出到对应日志文件中,如果没有输出到对应日志文件,那么看下flume的lib包中是否含有log4j的依赖jar包

3、 测试

启动nc的客户端

代码语言:javascript复制
​​​$>nc localhost 44444

$nc>hello world

​在flume的终端输出hello world.

先要往agent采集监听的端口上发送数据,让agent有数据可采

随便在一个能跟agent节点联网的机器上

4、 补充安装nc

代码语言:javascript复制
$>sudo yum install nmap-ncat.x86_64

清除仓库缓存

代码语言:javascript复制
​$>修改ali.repo --> ali.repo.bak文件。

​$>sudo yum clean all

​$>sudo yum makecache

0 人点赞