本栏目大数据开发岗高频面试题主要出自
大数据技术专栏的各个小专栏,由于个别笔记上传太早,排版杂乱,后面会进行原文美化、增加。
文章目录- 面试题 01、Spark累加器有哪些特点？
- 面试题02、spark hashParitioner的弊端是什么？
- 面试题03、RangePartitioner分区的原理？
- 面试题04、RangePartioner分区器特点？
- 面试题05、如何理解Standalone模式下，Spark资源分配是粗粒度的？
- 总结
停不要往下滑了，
默默想5min，
看看这5道面试题你都会吗？
代码语言：javascript复制面试题 01、Spark累加器有哪些特点？
面试题02、Spark hashParitioner的弊端是什么？
面试题 03、RangePartitioner分区的原理？
面试题04、rangePartioner分区器特点？
面试题05、如何理解Standalone模式下，Spark资源分配是粗粒度的？以下答案仅供参考：
面试题 01、Spark累加器有哪些特点？
1）累加器在全局唯一的，只增不减，记录全局集群的唯一状态； 2）在exe中修改它，在driver读取； 3）executor级别共享的，广播变量是task级别的共享两个application不可以共享累加器，但是同一个app不同的job可以共享。
面试题02、spark hashParitioner的弊端是什么？
HashPartitioner分区的原理很简单，对于给定的key，计算其hashCode，并除于分区的个数取余，如果余数小于0，则用余数 分区的个数，最后返回的值就是 这个key所属的分区ID；弊端是数据不均匀，容易导致数据倾斜，极端情况下某几个分区会拥有rdd的所有数据。
面试题03、RangePartitioner分区的原理？
RangePartitioner分区则尽量保证每个分区中数据量的均匀，而且分区与分区之间是有序的，也就是说一个分区中的元素肯定都是比另一个分区内的元素小 或者大；但是分区内的元素是不能保证顺序的。简单的说就是将一定范围内的数映射到某一个分区内。其原理是水塘抽样。
面试题04、RangePartioner分区器特点？
rangePartioner尽量保证每个分区中数据量的均匀，而且分区与分区之间是有序的，一个分区中的元素肯定都是比另一个分区内的元素小或者大； 但是分区内的元素是不能保证顺序的。简单的说就是将一定范围内的数映射到某一个分区内。RangePartitioner作用：将一定范围内的数映射到某一个分区内， 在实现中，分界的算法尤为重要。算法对应的函数是rangeBounds。
面试题05、如何理解Standalone模式下，Spark资源分配是粗粒度的？
spark默认情况下资源分配是粗粒度的，也就是说程序在提交时就分配好资源，后面执行的时候使用分配好的资源，除非资源出现了故障才会重新分配。 比如Spark shell启动，已提交，一注册，哪怕没有任务，worker都会分配资源给executor。
总结
今天我们复习了面试中常考的Spark相关的五个问题，你做到心中有数了么？
