最新 最热

hdoop(2)——hdfs一些常用的配置文件

此处可以看到datanode数据存放在哪 此处可以设置我们的namenode的文件放置在哪

2020-11-11
0

nodejs中生成uuid

nodejs中有一个uuid的生成库uuid:https://www.npmjs.com/package/uuid,使用起来非常简单。

2020-11-06
0

Flink实战之网站日志ETL案例【含代码】

问题导读1.怎样对字段进行大区转换?2.怎样拆分打平大JSON?3.怎样把不同类型的日志数据分别进行存储?应用场景:数据清洗【实时ETL】数据报表1、数据清洗【实时ETL】...

2020-11-05
1

yarn 学习笔记(对比 kubernetes 调度)

ApplicationMaster(AM),用户提交的每个应用程序都需要包含一个AM, 作用为:

2020-11-03
0

创建第一条substrate2.0链

官网上的安装代码会出现一个bug,即安装的源码一致,编译工具版本一致,但是最后编译出现问题。原因是cargo下载的package没有成功checkout到对应版本的代码。这里如果之前已经安装了相关的rust工具链条,需要先行卸载:...

2020-11-03
0

Flink任务中断:Container is running beyond physical memory limits

某用户反馈,Flink(版本1.9)任务中断,查看日志发现用户使用的是Flink on yarn,错误日志提示如下:

2020-11-02
0

Hadoop框架:HDFS高可用环境配置

在单点或者少数节点故障的情况下,集群还可以正常的提供服务,HDFS高可用机制可以通过配置Active/Standby两个NameNodes节点实现在集群中对NameNode的热备来消除单节点故障问题,如果单个节点出现故障,可通过该方式将NameNod...

2020-11-02
0

Vue3实战系列:Vue3.0 + Vant3.0 搭建种子项目

最近在用 Vue3 写一个开源的商城项目,开源后让大家也可以用现成的 Vue3 大型商城项目源码来练练手,目前处于开发阶段,过程中用到了 Vant3.0,于是就整理了这篇文章来讲一下如何使用 Vue3.0 + Vant 3.0 搭建种子项目。...

2020-10-29
1

Spark内核详解 (1) | Spark内核的简要概述

包括 Spark 核心组件的运行机制、Spark 任务调度机制、Spark 内存管理机制、Spark 核心功能的运行原理等

2020-10-28
1

Spark内核详解 (4) | Spark 部署模式

实际上,除了上述这些通用的集群管理器外,Spark 内部也提供了方便用户测试和学习的简单集群部署模式。由于在实际生产环境下使用的绝大多数的集群管理器是 Hadoop YARN,因此我们关注的重点是 Hadoop YARN 模式下的 Spark ...

2020-10-28
0