最新 最热

2021最全大数据面试题汇总---hadoop篇,附答案!

1)Zookeeper:是一个开源的分布式应用程序协调服务,基于zookeeper可以实现同步服务,配置维护,命名服务。 2)Flume:一个高可用的,高可靠的,分布式的海量日志采集、聚合和传输的系统。 3)Hbase:是一个分布式的、面向列的开源数据库...

2021-08-16
1

从后端到大数据,这里帮你规划一条高薪之路!

大数据(big data),是近几年很火的一共概念。 **什么是大数据?**就举一个生活中很常见的一个例子,平常我们使用APP在各大商城进行商品浏览购物的时候,你会发现,当你在一类商品停留的时间较长时,回到首页,轮播图推荐跟猜你喜欢那...

2021-08-16
1

大数据文件分隔符

背景:DSG数据同步到hadoop平台,发现部分表中数据存在竖线分隔符(“|”),导致hadoop平台数据不准确。 为解决此问题并避免出现内容带分隔符的可能情况,商定分隔符修改为CtrlA(ascii是0x01 ) ,经测试在HDFS可用。...

2021-08-16
1

Shell-通过shell启动Java类中的main方法 + 通过Shell启动jar包

Java程序 运行在linux主机上, 通过shell脚本启动为进程。 Java程序中 通过定时任务,设置访问Hbase的时间间隔,设置告警规则,比如三次获取Hbase中的数据失败,则调用存过,遍历配置的告警号码,插入短信中间表,实现短信的发送。 ...

2021-08-16
1

2.0 Hadoop 运行环境

由于 Hadoop 是为集群设计的软件,所以我们在学习它的使用时难免会遇到在多台计算机上配置 Hadoop 的情况,这对于学习者来说会制造诸多障碍,主要有两个:...

2021-08-12
1

1.0 Hadoop 教程

Hadoop 是一个开源的分布式计算和存储框架,由 Apache 基金会开发和维护。

2021-08-12
1

7.0 MapReduce 编程

在学习了 MapReduce 的使用之后,我们已经可以处理 Word Count 这类统计和检索任务,但是客观上 MapReduce 可以做的事情还有很多。

2021-08-12
1

6.0 MapReduce 使用

在学习了之前的 MapReduce 概念之后,我们应该已经知道什么是 Map 和 Reduce,并了解了他们的工作方式。

2021-08-12
1

5.0 HDFS 集群

HDFS 集群是建立在 Hadoop 集群之上的,由于 HDFS 是 Hadoop 最主要的守护进程,所以 HDFS 集群的配置过程是 Hadoop 集群配置过程的代表。

2021-08-12
1

4.0 HDFS 配置与使用

单机模式:Hadoop 仅作为库存在,可以在单计算机上执行 MapReduce 任务,仅用于开发者搭建学习和试验环境。

2021-08-12
1