最新 最热

挂载HDFS到本地目录

Hadoop新特性:支持通过NFSv3挂载HDFS文件系统到用户的本地文件目录;也就是说:允许用户像访问本地文件系统一样访问HDFS!这对于普通用户来说大大的简化了HDFS的使用。summer记录下如何将HDFS文件系统挂载到Linux本地中。...

2022-09-16
1

hadoop单机部署

记录如何单机部署hadoop,并启动HDFS文件系统 # 1.安装java环境略过[root@summer ~]# java -versionjava version "1.8.0_171"Java(TM) SE Runtime Environment (build 1.8.0_171-b11)Java ......

2022-09-16
1

mysql双主搭建

之前summer部署过主从,这里记录下部署双主的方法,坑有蛮多但总体还算顺利。MySQL版本为8.0.19。

2022-09-16
1

0895-Cloudera Manager的工作原理

1.Cloudera Manager词汇下图说明了Cloudera Manager的基本名词和关系:一个Deployment代表了全部,包括Cluster。Cluster是一些运行相同版本CDH的Host的集合,不同的Host又会划给不同的Rack。Service是特定系统的实例,跨越了...

2022-09-15
1

数据同步工具

公司要搞数据平台,首当其冲的是把旧库的数据导入到新库中,原本各种数据库大部分都提供了导入导出的工具,但是数据存储到各个地方,mongdb,hbase,mysql,oracle等各种各样的不同数据库,同步起来头都大了...

2022-09-13
1

hadoop常用命令汇总[通俗易懂]

大家好,又见面了,我是你们的朋友全栈君。1、查看目录下的文件列表:hadoop fs –ls [文件目录]hadoop fs -ls -h /lance

2022-09-12
1

flume和kafka区别

kafka和flume都是日志系统,kafka是分布式消息中间件,自带存储;flume每一部分都是可以定制。kafka更合适做日志缓存,flume数据采集部分做的很好,可以定制很多数据源,减少开发量。...

2022-09-10
1

kafka和flume区别

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/152355.html原文链接:https://javaforall.cn

2022-09-10
1

日志采集系统flume和kafka有什么区别及联系,它们分别在什么时候使用,什么时候又可以结合?

日志采集。线上数据一般主要是落地文件或者通过socket传输给另外一个系统。这种情况下,你很难推动线上应用或服务去修改接口,直接向kafka里写数据。这时候你可能就需要flume这样的系统帮你去做传输。...

2022-09-10
1