最新 最热

2021年大数据Spark(四):三种常见的运行模式

Spark 框架编写的应用程序可以运行在本地模式(Local Mode)、集群模式(Cluster Mode)和云服务(Cloud),方便开发测试和生产部署。

2021-10-09
1

将数据迁移到CDP 私有云基础的数据迁移用例

您可以使用 authzmigrator 工具将 Hive 对象和 URL 权限以及 Kafka 权限从 CDH 集群迁移到 CDP 私有云基础 集群。您可以使用 DistCp 工具将 HDFS 数据从安全的 HDP 集群迁移到安全或不安全的CDP 私有云基础集群。...

2021-10-09
0

如何获取Yarn和Spark UI界面指标信息

ip和port:Yarn ResourceManager active节点的ip地址和端口号

2021-09-24
0

打车巨头Uber是如何构建大数据平台?

大家好,我是一哥,最近滴滴出的技术少了,给大家分享一下Uber的大数据平台是如何建设的?

2021-09-23
0

hadoop中yarn启动无报错,jps无nodemanager进程

2、修改yarn-site.xml的shuffle为mapreduce_shuffle

2021-09-23
0

企业级Flink实战踩过的坑经验分享

一个流程中,有两个重要子任务:一是数据迁移,将kafka实时数据落Es,二是将kafka数据做窗口聚合落hbase,两个子任务接的是同一个Topic GroupId。上游 Topic 的 tps 高峰达到5-6w。...

2021-09-16
0

Yarn配置分区

这是CDP中Yarn使用系列中的一篇,之前的文章请参考<使用YARN Web UI和CLI>、<CDP 中配置Yarn的安全性>、<CDP的Yarn资源调度与管理>、<CDP中Yarn管理队列>、<Yarn在全局级别配置调度程序属性>、<Yarn配置每个队列属性>...

2021-09-15
0

Yarn管理动态队列

这是CDP中Yarn使用系列中的一篇,之前的文章请参考<使用YARN Web UI和CLI>、<CDP 中配置Yarn的安全性>、<CDP的Yarn资源调度与管理>、<CDP中Yarn管理队列>、<Yarn在全局级别配置调度程序属性>、<Yarn配置每个队列属性>...

2021-09-15
0

Yarn管理放置规则

这是CDP中Yarn使用系列中的一篇,之前的文章请参考<使用YARN Web UI和CLI>、<CDP 中配置Yarn的安全性>、<CDP的Yarn资源调度与管理>、<CDP中Yarn管理队列>、<Yarn在全局级别配置调度程序属性>和<Yarn配置每个队列属性>...

2021-09-15
0

Yarn配置每个队列属性

这是CDP中Yarn使用系列中的一篇,之前的文章请参考<使用YARN Web UI和CLI>、<CDP 中配置Yarn的安全性>、<CDP的Yarn资源调度与管理>、<CDP中Yarn管理队列>和<Yarn在全局级别配置调度程序属性>。...

2021-09-15
0