最新 最热

2021年大数据环境搭建(二):分布式环境搭建

使用完全分布式,实现namenode高可用,ResourceManager的高可用

2021-10-11
1

2021年大数据Hadoop(一):​​​​​​​Hadoop介绍

Hadoop是Apache旗下的一个用java语言实现开源软件框架,是一个开发和运行处理大规模数据的软件平台。允许使用简单的编程模型在大量计算机集群上对大型数据集进行分布式处理。...

2021-10-11
0

2021年大数据Hadoop(二):Hadoop发展简史和特性优点

Hadoop是Apache Lucene创始人 Doug Cutting 创建的。最早起源于Nutch,它是Lucene的子项目。Nutch的设计目标是构建一个大型的全网搜索引擎,包括网页抓取、索引、查询等功能,但随着抓取网页数量的增加,遇到了严重的可扩展...

2021-10-11
0

2021年大数据Hadoop(三):Hadoop国内外应用

Yahoo是Hadoop的最大支持者,Yahoo的Hadoop机器总节点数目已经超过42000个,有超过10万的核心CPU在运行Hadoop。最大的一个单Master节点集群有4500个节点(每个节点双路4核心CPUboxesw,4×1TB磁盘,16GBRAM)。总的集群存储容量...

2021-10-11
1

2021年大数据Hadoop(四):Hadoop发行版公司

商业版Hadoop是指由第三方商业公司在社区版Hadoop基础上进行了一些修改、整合以及各个服务组件兼容性测试而发行的版本,比较著名的有cloudera的CDH、mapR、hortonWorks等。...

2021-10-11
0

2021年大数据Hadoop(五):Hadoop架构

NameNode:集群当中的主节点,管理元数据(文件的大小,文件的位置,文件的权限),主要用于管理集群当中的各种数据

2021-10-11
0

2021年大数据Hadoop(六):全网最详细的Hadoop集群搭建

HADOOP集群具体来说包含两个集群:HDFS集群和YARN集群,两者逻辑上分离,但物理上常在一起。

2021-10-11
1

2021年大数据Hadoop(七):HDFS分布式文件系统简介

在现代的企业环境中,单机容量往往无法存储大量数据,需要跨机器存储。统一管理分布在集群上的文件系统称为分布式文件系统 。

2021-10-11
0

2021年大数据Hadoop(八):HDFS的Shell命令行使用

HDFS是存取数据的分布式文件系统,那么对HDFS的操作,就是文件系统的基本操作,比如文件的创建、修改、删除、修改权限等,文件夹的创建、删除、重命名等。对HDFS的操作命令类似于Linux的shell对文件的操作,如ls、mkdir、rm等...

2021-10-11
0

2021年大数据Hadoop(九):HDFS的高级使用命令

安全模式是hadoop的一种保护机制,用于保证集群中的数据块的安全性。当集群启动的时候,会首先进入安全模式。当系统处于安全模式时会检查数据块的完整性。...

2021-10-11
0