Spark提供的Broadcast Variable，是只读的。并且在每个节点上只会有一份副本，而不会为每个task都拷贝一份副本。因此其最大作用，就是减少变量到各个节点的网络传输消耗，以及在各个节点上的内存消耗。此外，spark自己内部也使用了高效的广播算法来减少网络消耗。
可以通过调用SparkContext的broadcast()方法，来针对某个变量创建广播变量。然后在算子的函数内，使用到广播变量时，每个节点只会拷贝一份副本了。每个节点可以使用广播变量的value()方法获取值。记住，广播变量，是只读的。 val factor = 3 val factorBroadcast = sc.broadcast(factor)
val arr = Array(1, 2, 3, 4, 5) val rdd = sc.parallelize(arr) val multipleRdd = rdd.map(num => num * factorBroadcast.value())
multipleRdd.foreach(num => println(num))
Java版本案例
代码语言：javascript复制public class BroadcastVariable {
public static void main(String[] args) {
SparkConf conf = new SparkConf().setAppName("BroadcastVariable").setMaster("local");
JavaSparkContext sc = new JavaSparkContext(conf);
// 在java中，创建共享变量，就是调用SparkContext的broadcast()方法
// 获取的返回结果是Broadcast<T>类型
final int factor = 3;
final Broadcast<Integer> factorBroadcast = sc.broadcast(factor);
List<Integer> numberList = Arrays.asList(1, 2, 3, 4, 5);
JavaRDD<Integer> numbers = sc.parallelize(numberList);
// 让集合中的每个数字，都乘以外部定义的那个factor
JavaRDD<Integer> multipleNumbers = numbers.map(new Function<Integer, Integer>() {
private static final long serialVersionUID = 1L;
@Override
public Integer call(Integer v1) throws Exception {
// 使用共享变量时，调用其value()方法，即可获取其内部封装的值
int factor = factorBroadcast.value();
return v1 * factor;
}
});
multipleNumbers.foreach(new VoidFunction<Integer>() {
private static final long serialVersionUID = 1L;
@Override
public void call(Integer t) throws Exception {
System.out.println(t);
}
});
sc.close();
}
}Scala版本案例
代码语言：javascript复制object BroadcastVariable {
def main(args: Array[String]){
val conf = new SparkConf().setAppName("name").setMaster("local")
val sc = new SparkContext(conf)
val factor = 3
val factorBroadcast = sc.broadcast(factor)
val numberArray = Array(1,2,3,4,5)
val numbers = sc.parallelize(numberArray, 1)
val multipleNumbers = numbers.map { num => num * factorBroadcast.value }
multipleNumbers.foreach { num => println(num) }
}
}
