最新 最热

企业级Flink实战踩过的坑经验分享

一个流程中,有两个重要子任务:一是数据迁移,将kafka实时数据落Es,二是将kafka数据做窗口聚合落hbase,两个子任务接的是同一个Topic GroupId。上游 Topic 的 tps 高峰达到5-6w。...

2021-09-16
1

从头分析flink源码第五篇之提交jobGraph时各组件内部都发生了什么?

上几篇文章中我们分析了一个flink wordcount任务生成streamGraph和jobGraph的过程。接下来,我们继续从jobGraph生成后开始来分析executionGraph的生成过程及任务的提交过程,本文主要分析任务提交过程中各组件的执行逻辑...

2021-09-14
0

Flink+Kafka:FlinkKafkaConsumer简单样例

1、创建Maven项目,pom.xml文件如下<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.o

2021-09-14
0

Flink报错记录

[20210910 10:16:40.107] [DEBUG] [main] [StreamGraph.java:391][addOperator] Vertex: 2java.lang.IllegalStateException: No ExecutorFactory found to execute the ap...

2021-09-14
0

Flink 任务远程调用Dubbo接口

在大数据中,Flink任务一般都不是基于Spring框架和Dubbo框架的,但很多业务系统采用Dubbo架构,当需要调用业务系统的接口获取数据时,就出现Flink调用Dubbo的情况了。...

2021-09-10
1

使用Prometheus+Grafana监控Flink on YARN作业

实时作业要保证7 x 24运行,除了要在业务逻辑和编码上下功夫之外,好的监控系统也是必不可少的。Flink支持多种汇报监控指标(metrics)的reporter,如JMX、SLF4J、InfluxDB、Prometheus等。...

2021-09-10
1

flink 1.11.2 学习笔记(5)-处理消息延时/乱序的三种机制

* 按时间顺序发生的数据1 -> 2,本来应该是1先发送,1先到达,但是在1发送过程中,因为网络延时之类的原因,导致1反而到达晚了,变成2先到达,也就造成所谓的接收乱序;...

2021-09-09
0

实时即未来:Apache Flink实践(一)

的确,实时这个名词在现代这个科技社会越来越重要,仅以此篇文章记录我的Apache Flink实践学习过程~

2021-09-09
0

Flink 窗口剔除器 Evictor

除了 WindowAssigner 和 Trigger 之外,Flink 的窗口模型还允许指定一个可选的 Evictor。Evictor 提供了在使用 WindowFunction 之前或者之后从窗口中删除元素的能力。为此,Evictor 接口提供了两个方法:...

2021-09-08
0

Flink第一课!使用批处理,流处理,Socket的方式实现经典词频统计

导入成功之后有一点要注意,就是java_2.12中的2.12指的是scala的版本,导入依赖成功之后即在对应目录创建包与对应类开始项目的编写。

2021-09-08
0