Flume中常见的组件

2020-10-27 17:51:28 浏览数 (1)

  • netcat source: 类似于netcat的 nc -l 端口号!可以监听某个主机的指定端口收到的消息,将每行消息封装为一个event
  • exec source : 执行一个linux命令,根据命令启动的进程获取进程在标注输出输出的内容,将内容封装为event! 要求进程必须是一个可以持续产生消息的进程,因为一旦进程停止,source就自动停止!
  • logger sink: 多用于调试,可以将event由logger使用info级别,输出到控制台或文件!
  • hdfs sink: 将event写入到hdfs!
  • memory channel: 在内存中存储event!一旦进程发生故障,有丢失阶段性数据的风险!效率高!

0 人点赞