项目使用技术及版本和基础环境准备
一、项目使用技术及版本
下表列出项目中使用的大数据技术组件及各个组件的版本,如下:
使用技术 | 版本 |
---|---|
zookeeper | 3.4.13 |
HDFS | 3.1.4/3.2.2 |
Hive | 3.1.2(MySQL 5.7.32) |
iceberg | 0.11.1 |
Hbase | 2.2.6 |
phoenix | 5.0.0 |
kafka | 0.11.0.3 |
redis | 2.8.18 |
flink | 1.11.6 |
flume | 1.9.0 |
maxwell | 1.28.2 |
clickhouse | 21.9.4.35 |
二、项目基础环境准备
这里我们使用5台节点来安装各个大数据组件,每台节点给了3G内存,4个core,并且每台节点已经关闭防火墙、配置主机名、设置yum源、各个节点时间同步、各个节点两两免密、安装JDK操作。5台节点信息如下:
节点IP | 节点名称 |
---|---|
192.168.179.4 | node1 |
192.168.179.5 | node2 |
192.168.179.6 | node3 |
192.168.179.7 | node4 |
192.168.179.8 | node5 |
下篇一一进行基础技术组件搭建。