最新 最热

你问我DataX是谁?对不起,我活在Apache SeaTunnel的时代!

SeaTunnel正式通过世界顶级开源组织Apache软件基金会的投票决议,以全票通过的优秀表现正式成为Apache孵化器项目!

2022-01-20
1

盘点13种流行的数据处理工具

作者:所罗伯·斯里瓦斯塔瓦(Saurabh Shrivastava)、内拉贾利·斯里瓦斯塔夫(Neelanjali Srivastav)

2022-01-20
1

转型【数仓开发】该怎么学

知道概念—>学习理论—>大量练习—>逐渐清晰—>再大量练习—>清晰—>熟练运用—>融汇贯通

2022-01-19
1

Cloudera数据工程(CDE)2021年终回顾

自一年多前发布 Cloudera 数据工程 (CDE) 以来,我们的首要目标是使用旨在简化自动化和可观察性的顶级工具来大规模操作 Spark 管道。在与部署 Spark 应用程序的数千名客户合作时,我们看到了管理 Spark 以及自动化、交付...

2022-01-19
1

spark SQL配置连接Hive Metastore 3.1.2

Hive Metastore作为元数据管理中心,支持多种计算引擎的读取操作,例如Flink、Presto、Spark等。本文讲述通过spark SQL配置连接Hive Metastore,并以3.1.2版本为例。...

2022-01-19
1

Deeplearning4j介绍

Deeplearning4j(DL4J)是第一个基于Java和Scala的具有商业化水平、完全开源和支持分布式的深度学习库。DL4J可以整合到Hadoop和Apache Spark里面并同时支持分布式GPUs和CPUs,它把AI带到了商业化环境中。...

2022-01-19
1

深度对比 Delta、Iceberg 和 Hudi 三大开源数据湖方案

目前市面上流行的三大开源数据湖方案分别为:Delta、Apache Iceberg 和 Apache Hudi。其中,由于 Apache Spark 在商业化上取得巨大成功,所以由其背后商业公司 Databricks 推出的 Delta 也显得格外亮眼。Apache Hudi 是由 ...

2022-01-19
1

spark-shell操作hudi并使用hbase作为索引

接上一篇文章,上篇文章说到hudi适配hbase 2.2.6,这篇文章在spark-shell中操作hudi,并使用hbase作为索引。要完成以下实验,请先确保你已经按照文章步骤对hudi进行适配。并且得到了hudi-spark3-bundle_2.12-0.9.0.jar...

2022-01-19
1

Apache Hudi 0.9.0 版本发布

Apache Hudi 0.9.0实验性地支持使用Spark SQL进行DDL/DML操作,朝着让所有用户(非工程师、分析师等)更容易访问和操作Hudi迈出了一大步。用户可以直接使用CREATE TABLE ... USING HUDI以及CREATE TABLE ... AS SELECT语...

2022-01-19
1

使用spark3操作hudi数据湖初探

本文基于上述组件版本使用spark插入数据到hudi数据湖中。为了确保以下各步骤能够成功完成,请确保hadoop集群正常启动。

2022-01-19
1