最新 最热

Shell中的变量

1.基本语法 (1)定义变量:变量=值 (2)撤销变量:unset 变量 (3)声明静态变量:readonly变量,注意:不能unset

2023-02-25
1

Shell脚本入门

2.第一个Shell脚本:helloworld (1)需求:创建一个Shell脚本,输出helloworld (2)案例实操:

2023-02-25
1

Shell解析器

$ cat /etc/shells /bin/sh /bin/bash /sbin/nologin /bin/dash /bin/tcsh /bin/csh

2023-02-25
1

Flink HA ZooKeeper

修改flink-conf.yaml HA模式下,jobmanager不需要指定,在master file中配置,由zookeeper选出leader与standby。

2023-02-25
2

linux crontab

crontab是linux下用来周期性的执行某种任务或等待处理某些事件的一个守护进程,与windows下的计划任务类似。

2023-02-25
1

kafka集群安装部署

1)官网下载安装包 2)上传安装包 3)解压安装包 4)重命名 5)修改配置文件 config/server.properties #broker的全局唯一编号,不能重复 broker.id=0 #删除topic功能使能 delete.topic.enable=true #处理网络请求的线程数...

2023-02-25
2

Kafka基于Receiver的开发

基于Receiver的方式 这种方式使用Receiver来获取数据。Receiver是使用Kafka的高层次Consumer API来实现的。receiver从Kafka中获取的数据都是存储在Spark Executor的内存中的,然后Spark Streaming启动的job会去处理那...

2023-02-25
2

spark数据保存到mysql 通过Azkaban提交集群任务

toMysql.job 和 sparkToMysql.sh压缩上传Azkaban定时执行

2023-02-25
2

Spark全分布部署和HA

基于Zookeeper的Standby Masters ZooKeeper提供了一个Leader Election机制,利用这个机制可以保证虽然集群存在多个Master,但是只有一个是Active的,其他的都是Standby。当Active的Master出现故障时,另外的一个Standby Mast...

2023-02-25
2

azkaban流程调度

1.搜集数据upload.job#upload.jobtype=commandcommand=bash upload.shupload.sh#!/bin/bash#set java envexport JAVA_HOME=/soft/jdk/export JRE_HOME=${JAVA_HOME}/...

2023-02-25
1