最新 最热

hadoop常用的命令

hdfs dfs -mkdir -p /user/centos/hadoophdfs dfs -ls /userhdfs dfs -ls -R /user 递归查看hdfs dfs -help put 解释hdfs dfs -put index.html /user/centos/hadoop 上传index....

2023-02-25
1

通过hadoop自带的demo运行单词统计

mkdir inputcd intputecho “hello word” > file1.txtecho “hello hadoop” > file2.txtecho “hello mapreduce” >> file2.txtmore file2.txthdfs dfs -mkdir /wc_inp...

2023-02-25
1

快速搭建Hadoop

1.配置jdk环境变量 2.配置Hadoop环境变量 3.文件配置 ​1.配置完全分布式(/etc/hadoop/) core-site.xml

2023-02-25
1

hive相关错误

1.java.sql.SQLException: Could not open client transport with JDBC Uri: jdbc:hive2://ip地址:10000/default: Failed to open new session: java.lang.RuntimeException:...

2023-02-25
1

Hadoop生态上几个技术的关系与区别:hive、pig、hbase 关系与区别

一种操作hadoop的轻量级脚本语言,最初又雅虎公司推出,不过现在正在走下坡路了。当初雅虎自己慢慢退出pig的维护之后将它开源贡献到开源社区由所有爱好者来维护。不过现在还是有些公司在用,不过我认为与其使用pig不如使用...

2023-02-23
1

完结撒花 | 全网稀有的Ambari自定义服务集成实战(全)

自从 2020 年开始,我就发觉网上使用 Ambari 的同学多了很多,随着 cloudera 收购 hdp 并进入收费模式,越来越多的企业选择了 Ambari 来管理大数据平台,Ambari 集成第三方服务的需求也就变得越来越常见。...

2023-02-21
1

(内部资料)第十七讲:如何将服务一劳永逸的集成到ambari中,方便新环境部署,无需二次拷贝

通常,我们在自定义服务集成开发中,会将集成服务的代码项目放置到 /var/lib/ambari-server/resources/stacks/HDP/<version>/services/ 目录下。这样子的前提就是 ambari 与 hdp 集群必须提前搭建好。...

2023-02-21
1

分享一下我对 ambari 二次开发的一些理解~

安装过 hadoop 集群的人都应该清楚,hadoop 生态从安装、配置到后期运维是一个非常艰辛的过程,一般来说安装 hadoop 可能就需要几天时间,运维一个小型集群同样需要几个人。ambari 和 cloudera Manager 这两个系统,目的就是...

2023-02-21
1

ETL工具选型 需要考虑哪些因素

ETL产品的选型工作一直以来都是困扰架构师的一块心病,国外付费产品用不起,国外免费产品学习成本高、不易实施。

2023-02-20
1

HBase 快速入门(安装和命令操作)

1)hbase-env.sh 修改内容(不使用hbase自带zk),可以添加到最后:

2023-02-16
1