最新 最热

数据分享|Python、Spark SQL、MapReduce决策树、回归对车祸发生率影响因素可视化分析

根据已有的车祸数据信息,计算严重车祸发生率最高和最低的地区;并对车祸发生严重程度进行因素分析,判断哪些外界环境变量会影响车祸严重程度,分别有怎样的影响。...

2023-11-17
1

Spark读写ES最佳实践

更换代码中公网ip为内网ip,选择maven assembly plugin进行打包,上传带依赖的jar包到EMR上,运行"ReadES"

2023-11-14
2

SparkSQL

Hive on Spark:Hive既作为存储元数据又负责SQL的解析优化,语法是HQL语法,执行引擎变成了Spark,Spark负责采用RDD执行。

2023-11-04
1

Spark-Core

初始化工作是在Driver端进行的,而实际运行程序是在Executor端进行的,这就涉及到了跨进程通信,是需要序列化的。

2023-10-26
1

Spark简介

2)文档查看地址:https://spark.apache.org/docs/3.1.3/

2023-10-23
1

Spark简介

2)文档查看地址:https://spark.apache.org/docs/3.1.3/

2023-10-23
1

Spark入门指南:从基础概念到实践应用全解析

在这个数据驱动的时代,信息的处理和分析变得越来越重要。而在众多的大数据处理框架中,「Apache Spark」以其独特的优势脱颖而出。

2023-10-20
1

Spark系列 - (6) Spark 内存管理

在执行Spark的应用程序时,Spark集群会启动Driver和Executor两种JVM线程,前者为主控进程,负责创建Spark上下文,提交Spark作业(Job),并将作业转化为计算任务(Task),在各个Executor进程间协调任务的调度,后者负责在工作节点上执行具...

2023-10-19
1

Spark系列 - (5) Spark Shuffle

有些运算需要将各节点上的同一类数据汇集到某一节点进行计算,把这些分布在不同节点的数据按照一定的规则汇集到一起的过程称为Shuffle。

2023-10-19
1

Spark系列 - (4) Spark任务调度

Spark驱动器节点,用于执行Spark任务中的main方法,负责实际代码的执行工作。Driver在Spark作业时主要负责:

2023-10-19
2