最新 最热

Hadoop生态上几个技术的关系与区别:hive、pig、hbase 关系与区别

一种操作hadoop的轻量级脚本语言,最初又雅虎公司推出,不过现在正在走下坡路了。当初雅虎自己慢慢退出pig的维护之后将它开源贡献到开源社区由所有爱好者来维护。不过现在还是有些公司在用,不过我认为与其使用pig不如使用...

2023-02-23
2

Java并发(Stream API)

Stream(流) 的主要作用是对 集合(Collection) 中的数据进行各种操作,增加了集合对象的功能。

2023-02-22
2

Java8的Stream流 _ JavaCoreII

使用流,我们可以说明想要完成什么任务,而不是说明如何去实现它。我们讲操作的具体调度留给具体实现去解决。

2023-02-20
1

Java Stream 解析和使用技巧

Stream 的类型Stream 有分普通流和数值流,之间没有继承关系,普通流用一个泛型表示流中的数据结构类型,如 Stream数值流主要是避免重复的装箱拆箱,统一用原始数值类型(无法应用泛型指定类型),int long double,我们在做终结操作...

2023-02-16
1

JavaScript专项算法题(1):回调和高阶函数

题解:// Challenge 1function addTwo(num) { return num + 2; }

2023-02-14
2

执行Hive查询时出现OOM

使用的是缺省参数每个task分配200M内存「mapred.child.java.opts」

2023-01-31
1

执行MapReduce报错:无法分配内存 (errno=12)

程序执行一个MapReduce,该MapReduce实现了自定义分区,总共分为4个分区,且在Driver端自定义设置reducer端num个数为4

2023-01-31
1

玩转mongoDB(八):分布式计算--MapReduce

MongoDB提供了MapReduce的聚合工具来实现任意复杂的逻辑,它非常强大,非常灵活。MapReduce使用JavaScript作为“查询语言”,能够在多台服务器之间并行执行。它会将一个大问题拆分为多个小问题,将各个小问题发送到不同的机...

2023-01-17
2

bison解析中lookahead前瞻工作原理

上面的步骤2并不是匹配上的都能reduce,lookahead token会影响一些规则,使其延迟reduce。

2023-01-13
1

Hive和Hbase集成及互相操作

Hive中的表是纯逻辑表,就只是表的定义等,即表的元数据。Hive本身不存储数据,它完全依赖HDFS和MapReduce。这样就可以将结构化的数据文件映射为为一张数据库表,并提供完整的SQL查询功能,并将SQL语句最终转换为MapReduce任务...

2023-01-11
1