最新 最热

跌下神坛的Hadoop,拥抱云计算和AI会是一个新故事吗?丨科技云·视角

同美国市场一样,以Hadoop为代表的开源大数据技术,在中国大数据产业经历了一段狂热期,目前这股浪潮正渐渐退去。

2022-04-14
0

大数据常用技术概要

MapReduce 适合批处理任务,也就是说每天对一个大量的静态数据集进行一次处理,同样,Spark 也非常的适合批处理任务,但是 Spark 有一个子模块就是 Spark Streaming 用于实时数据流处理...

2022-04-14
1

Hadoop3.0、Hive2.3.2、HBase2.1集群重置

大数据集群搭建之Linux安装hadoop3.0.0_qq262593421的博客-CSDN博客

2022-04-13
1

大数据调度平台分类大对比(Oozie/Azkaban/AirFlow/XXL-Job/DolphinScheduler)

大数据调度系统,是整个离线批处理任务和准实时计算计算任务的驱动器。这里我把几个常见的调度系统做了一下分类总结和对比。

2022-04-13
1

Hadoop | 海量数据与Hadoop初识

Hadoop是一个使用JAVA开发的开源框架,是一个可以分析和处理海量数据的软件平台。它允许在整个集群使用简单编程模型计算机的分布式环境存储并处理大数据。它的目的是从单一的服务器到上千台机器的扩展,每一个台机都可以...

2022-04-11
1

今日指数项目之需求调研【三】

大数据平台作为底层的基础数据平台,集群规模、计算存储性能将决定流、批的性能指标上限。所以需要考虑整个大数据平台的吞吐量(网络、磁盘IO)、响应速率、计算能力、高并发性、高可用、维护性方便等,以满足多业务场景下,不...

2022-04-11
1

我,29岁,数据分析师,3月无情被辞:想给数据人提个醒!

“程序员能纯靠技术渡过中年危机吗?”

2022-04-11
1

如何在100个节点集群上模拟10000个节点的集群?让DynoYARN来模拟吧

DynoYARN 是一种用于按需启动 YARN 集群并运行模拟 YARN 工作负载以进行规模测试的工具。由Linkedin开源。它可以在 100 个节点的 Hadoop 集群上模拟 10,000 个节点的 YARN 集群性能。...

2022-04-08
1

「原创」大数据岗位总结和相关书籍推荐

最近有几个群友问我大数据怎么入门,作为一个零基础大数据入门学习者该看哪些书呢?我结合自己看过的书和了解到的比较好的数据,给大家分享一下。...

2022-04-08
0

你真的了解ELT和ETL吗?

ETL 和 ELT 有很多共同点,从本质上讲,每种集成方法都可以将数据从源端抽取到数据仓库中,两者的区别在于数据在哪里进行转换。 接下来,我们一起详细地分析一下 ETL 和 ELT各自的优缺点,看看在你们现在的业务中用哪种方式处...

2022-04-08
1