Spark是一种快速、通用、可扩展的大数据分析引擎，2009年诞生于加州大学伯克利分校AMPLab，2010年开源，2013年6月成为Apache孵化项目，2014年2月成为Apache顶级项目。目前，Spark生态系统已经发展成为一个包含多个子项目的集合...
背景：Hive默认使用MapReduce作为执行引擎，即Hive on mr。实际上，Hive还可以使用Tez和Spark作为其执行引擎，分别为Hive on Tez和Hive on Spark。由于MapReduce中间计算均需要写入磁盘，而Spark是放在内存中，所以总体来讲Spark...
spark-env.sh: spark.speculation 的节点上也尝试执行该任务的一个副本。打开此选项会帮助减少大规模集群中个别较慢的任务带来的影响。默认值false spark.driver.memory 为driver进程分配的内存。注意：在客户端模式...
Spark Core 是 Spark 的核心，Spark SQL、Spark Streaming、MLib、GraphX 等都需要在 Spark Core 的基础上进行操作。Spark Core 定义了 RDD、DataFrame 和 DataSet，而 Spark Core 的核心概念是 RDD（Resilient ......
CacheManager 是 Spark SQL 中内存缓存的管理者，在 Spark SQL 中提供对缓存查询结果的支持，并在执行后续查询时自动使用这些缓存结果。
常用spark优化参数强制使用spark engineset tqs.query.engine.type = sparkCli;set spark.yarn.priority = 4;双写HDFS开启：set spark.shuffle.hdfs.enable=true;set spark.shuffle....
一、Spark 的5大优势： 1. 更高的性能。因为数据被加载到集群主机的分布式内存中。数据可以被快速的转换迭代，并缓存用以后续的频繁访问需求。在数据全部加载到内存的情况下，Spark可以比Hadoop快100倍，在内存不够存放所有...
Spark是一个快速、可扩展的大数据处理引擎，它提供了一个统一的编程模型，可以处理各种数据源，包括Hadoop HDFS、Hive、Cassandra、HBase等。本文将介绍Spark的基本概念和使用方法，帮助初学者快速入门。...
上篇【rainbowzhou 面试4/101】技术提问中，我着重说明了ETL测试中常见的两种测试场景，以及相应地测试方法。那么在实际大数据项目过程中，会遇到哪些问题呢？本篇就带你了解大数据测试过程中遇到的一些经典测试问题，并针对问...
随着数据量不断增长和业务复杂度逐渐攀升，数据处理效率面临巨大挑战。最典型的表现是面向分析型场景的数据仓库性能问题越来越突出，压力大、性能低，查询时间长甚至查不出来，跑批跑不完造成生产事故等问题时有发生。当数据...
