最新 最热

报名中|面基啦~首站深圳线下云原生技术开放日来了

往期精选推荐   新春采购节,腾讯云容器服务邀你免费体验 开工必备!50+篇超实用云原生技术干货合集 大数据云原生系列| 微信 Flink on Kubernetes 实战总结 DNSPod十问邹辉:云原生对企业的价值到底有多大? 云原生的弹性...

2021-03-31
1

Flink结合Kafka实时写入Iceberg实践笔记

环境:本地测试环境 JDK1.8 、Flink 1.11.2 、Hadoop3.0.0 、Hive2.1.1

2021-03-27
1

生产上的坑才是真的坑 | 盘一盘Flink那些经典线上问题

一个流程中,有两个重要子任务:一是数据迁移,将kafka实时数据落Es,二是将kafka数据做窗口聚合落hbase,两个子任务接的是同一个Topic GroupId。上游 Topic 的 tps 高峰达到5-6w。...

2021-03-26
1

Upsert Kafka Connector - 让实时统计更简单

在某些场景中,例如读取 compacted topic 或者输出(更新)聚合结果的时候,需要将 Kafka 消息记录的 key 当成主键处理,用来确定一条数据是应该作为插入、删除还是更新记录来处理。为了实现该功能,社区为 Kafka 专门新增了一个...

2021-03-25
0

大数据云原生系列| 微信 Flink on Kubernetes 实战总结

涂小刚,微信高级开发工程师,负责微信大数据平台开发及建设。 王玉君,腾讯云后台高级开发工程师,负责腾讯云原生系统开发及建设。 前言 架构转型,拥抱云原生服务生态 当前微信内部的大数据计算平台是基于自研的 Yard 资源调...

2021-03-25
0

深入研究Apache Flink中的可缩放状态

•本来打算写一个flink源码分析的系列文章,但由于事情太多,又不太想输出低质量的文章,所以开始看一些好的flink相关博客,本文译自https://www.ververica.com/blog/apache-flink-at-mediamath-rescaling-stateful-applicat...

2021-03-24
0

TiDB ✖️ 智慧芽 | HTAP 为实时数据服务插上翅膀

数字化转型的推进使得越来越多企业正面临前所未有的数据规模,随着商业竞争的日趋加剧,无论是外部的用户还是公司内部的决策已经无法依赖时效性不佳的离线数据分析,需要更实时的数据分析,甚至是对正在发生的交易数据进行分...

2021-03-19
0

Flink学习——时间概念与Watermark

对于流式处理,最大的特点是数据上具有时间的属性特征,Flink根据时间产生的不同位置分为三个时间概念:

2021-03-18
0

一文搞懂Flink SQL执行过程

学习了 apache calcite,基本上把 apache calcite 的官网看了一遍,也写了几个小例子,现在该分析一下 Flink SQL 的执行过程了,其中关于 apache calcite 的部分不深究,因为 apache calcite 有些复杂,真的要了解清楚需要大量时...

2021-03-17
0

Flink(1.12.1)日志配置Logback实现日志切分和kafka发送

产线环境上的Flink应用是长时运行的应用,日志量较大,需要将flink应用的日志发送到外部系统,方便进行日志检索。

2021-03-16
1