最新 最热

kafka集群安装部署

1)官网下载安装包 2)上传安装包 3)解压安装包 4)重命名 5)修改配置文件 config/server.properties #broker的全局唯一编号,不能重复 broker.id=0 #删除topic功能使能 delete.topic.enable=true #处理网络请求的线程数...

2023-02-25
1

Kafka基于Receiver的开发

基于Receiver的方式 这种方式使用Receiver来获取数据。Receiver是使用Kafka的高层次Consumer API来实现的。receiver从Kafka中获取的数据都是存储在Spark Executor的内存中的,然后Spark Streaming启动的job会去处理那...

2023-02-25
1

spark数据保存到mysql 通过Azkaban提交集群任务

toMysql.job 和 sparkToMysql.sh压缩上传Azkaban定时执行

2023-02-25
1

Spark全分布部署和HA

基于Zookeeper的Standby Masters ZooKeeper提供了一个Leader Election机制,利用这个机制可以保证虽然集群存在多个Master,但是只有一个是Active的,其他的都是Standby。当Active的Master出现故障时,另外的一个Standby Mast...

2023-02-25
1

azkaban流程调度

1.搜集数据upload.job#upload.jobtype=commandcommand=bash upload.shupload.sh#!/bin/bash#set java envexport JAVA_HOME=/soft/jdk/export JRE_HOME=${JAVA_HOME}/...

2023-02-25
1

安装hive

上传安装包apache-hive-2.3.4-bin.tar.gz解压tar -xzvf apache-hive-2.3.4-bin.tar.gz -C /hd/重命名ln -s apache-hive-2.3.4-bin hive修改环境变量vim /etc/profileexport HIVE_H...

2023-02-25
1

搭建Hexo博客-第5章-一些我用到的小技巧

这大概是这组博客地最后一篇文章了,在这篇文章里,我想和大家分享一些我写博客时用到的小技巧。

2023-02-25
1

eBPF 入门开发实践指南五:在 eBPF 中使用 uprobe 捕获 bash 的 readline 函数调用

eBPF (Extended Berkeley Packet Filter) 是 Linux 内核上的一个强大的网络和性能分析工具,它允许开发者在内核运行时动态加载、更新和运行用户定义的代码。

2023-02-24
1

jumpserver集群部署(二)---之NFS部署

部署NFS集群热备高可用环境,用作jumpserver集群的远程存储,实现jumpserver数据持久化。

2023-02-24
1

ansible 基本命令学习

1、替换某行内容 2、在某行前插入内容 3、在某行后面插入内容 4、删除某行

2023-02-24
1