最新 最热

最新Hive的高频面试题新鲜出炉了!

如果其中有一张表为小表,直接使用map端join的方式(map端加载小表)进行聚合。

2021-03-05
0

SQL on Hadoop性能对比-Hive、Spark SQL、Impala

Apache Hive数据仓库软件提供对存储在分布式中的大型数据集的查询和管理,它本身是建立在Apache Hadoop之上。Hive SQL代表的是以传统基于Mapreduce为核心的SQL语言。...

2021-03-05
0

基于 Flink+Iceberg 构建企业级实时数据湖

Apache Flink 是大数据领域非常流行的流批统一的计算引擎,数据湖是顺应云时代发展潮流的新型技术架构。那么当 Apache Flink 遇见数据湖时,会碰撞出什么样的火花呢?本次分享主要包括以下核心内容:...

2021-03-05
1

【唯实践】基于Alluxio优化电商平台热点数据访问性能

在互联网电商平台上,广告是提升成交总额(Gross Merchandise Volume)和拉取新客的常见途经。在广告系统或广告运营中都需要基于人群数据分析进行定向的用户广告投放。在第三方平台进行广告投放,同样需要使用人群数据分析计...

2021-03-05
0

面试|不可不知的十大Hive调优技巧最佳实践

Apache Hive是建立在Apache Hadoop之上的数据仓库软件项目,用于提供数据查询和分析。Hive是Hadoop在HDFS上的SQL接口,它提供了类似于SQL的接口来查询存储在与Hadoop集成的各种数据库和文件系统中的数据。可以说从事数据...

2021-03-05
1

Delta实践 | Delta Lake在Soul的应用实践

(一)业务场景传统离线数仓模式下,日志入库前首要阶段便是ETL,Soul的埋点日志数据量庞大且需动态分区入库,在按day分区的基础上,每天的动态分区1200+,分区数据量大小不均,数万条到数十亿条不等。下图为我们之前的ETL过程,埋点日...

2021-03-05
1

蚂蚁绊倒大象?不起眼的小文件竟拖了Hadoop大佬的后腿

在使用Hadoop过程中,小文件是一种比较常见的挑战,如果不小心处理,可能会带来一系列的问题。HDFS是为了存储和处理大数据集(M以上)而开发的,大量小文件会导致Namenode内存利用率和RPC调用效率低下,block扫描吞吐量下降,应用层...

2021-03-05
1

Hive

Hive.pngHive运行方式命令行脚本jdbcwebui搭建模式local单用户模式远程模式/多用户模式一般模式Beeline· 服务器hiveserver2启动· 客户端beeline连接HQL建表(create)内部表· hive管理,删除表时源数据消失外部表· 非h...

2021-03-05
0

Hive底层原理:explain执行计划详解

不懂hive中的explain,说明hive还没入门,学会explain,能够给我们工作中使用hive带来极大的便利!

2021-03-04
1

Flink 中极其重要的 Time 与 Window 详细解析(深度好文,建议收藏)

流式:就是数据源源不断的流进来,也就是数据没有边界,但是我们计算的时候必须在一个有边界的范围内进行,所以这里面就有一个问题,边界怎么确定?无非就两种方式,根据时间段或者数据量进行确定,根据时间段就是每隔多长时间就划分...

2021-03-04
0