最新 最热

大数据HelloWorld-Flink实现WordCount

开始Flink之前先在本机尝试安装一下Flink,当然FLink正常情况下是部署的集群方式。作者比较穷,机器配置太低开不了几个虚拟机。所以只能先演示个单机的安装。Apache Flink需要在Java1.8+以上的环境中运行。所以,先确保...

2020-04-14
0

Apache Flink利用Maven对Scala与Java进行混编

主要是因为作者在使用IDEA,maven做Flink开发的时候出现的问题。Flink作业在提交到生产环境集群的时候不要把Flink相关源码等打入jar包中,因为这样可能会出现当生产版本与开发版本不同的时候就会出现冲突。...

2020-04-14
0

Apache Flink窗口的几种实现的类别

“ 无界数据于有界数据是一个比较于模糊的概念,无界与有界之间是可以进行转换的。无界数据流在进行某些计算的时候例如每分钟、每小时、每天等操作时都可以看做是有界数据集。Apache Flink使用Windows方式实现了对于无...

2020-04-14
0

Apache Flink Table Api&SQL 介绍与使用

“ Apache Flink,Spark,Hadoop包括其他计算框架都趋向于使用SQL的方式对数据进行检索。很少再有通过代码的方式进行数据的操作。数据计算框架使用SQL解释器的方式对数据进行检索。Apache Flink提供了Table API 与SQL...

2020-04-14
0

什么是Flink CEP (1)

复杂事件处理(CEP)既是把不同的数据看做不同的事件,并且通过分析事件之间的关系建立起一套事件关系序列库。利用过滤,聚合,关联性,依赖,层次等技术,最终实现由简单关系产生高级事件关系。...

2020-04-14
0

大数据技术栈详解

相信很多学Java的同学都有想转大数据或者学大数据的想法,但是一看到网上那些大数据的技术栈,就一脸懵逼,什么Hadoop、HDFS、MapReduce、Hive、Kafka、Zookeeper、HBase、Sqoop、Flume、Spark、Storm、Flink等等技术。...

2020-04-13
1

大数据技术

如果没有一个好的开始,不妨试试一个坏的开始吧。因为一个坏的开始,总比没有开始强。而完美的开始,则永远都不会来到。

2020-04-11
0

写给大忙人看的Flink 消费 Kafka

对于实时计算来说,Flink 可以说是如日中天,国内很多公司也开始慢慢转向于 Flink 的使用。而对于 Flink 来说最常见的使用场景莫过于读取 Kafka 中的数据,若对此熟练掌握,在面试中拔得头筹也不是不可能的。...

2020-04-08
0

大数据第一天 Hadoop3.2.1

大数据介绍 hadoop3.2.1 根据官网开启之旅storm 实时计算 纯流式计算 无头无尾 已经过时Spark Streaming 非纯流式计算 有桶的概念Flink 纯流式计算框架 无头无尾 用户画像 => 什么样的人喜欢购买什么样的东西产品聚...

2020-04-03
1

深度理解 Flink 的 parallelism 和 slot

(1)比如 kafka 某个 topic 数据量太大,设置了10个分区,但 source 端的算子并行度却为1,只有一个 subTask 去同时消费10个分区,明显很慢。此时需要适当的调大并行度。...

2020-03-31
0