基于Docker的Kafka集群搭建

2022-06-27 21:36:58 浏览数 (1)

大家好,又见面了,我是你们的朋友全栈君。

1.pull docker ,在机器上下载最新版本的kafka和zookeeper镜像,这里使用的是wurstmeister的镜像

docker pull wurstmeister/kafka

docker pull wurstmeister/zookeeper

2.装好的docker镜像

3.启动zk容器

Docker run –d –name zookeeper –p 2181:2181 –t wurstmerister/zookeeper

Zk容器命名为zookeeper,端口号2181.

下面先测试一下单节点kafka docker是否好用

4.启动kafka容器

docker run -d –name kafka1

-p 9092:9092

-e KAFKA_BROKER_ID=0

-e KAFKA_ZOOKEEPER_CONNECT=172.21.3.228:2181

-e KAFKA_ADVERTISED_LISTENERS=PLAINTEXT://172.21.3.228:9092

-e KAFKA_LISTENERS=PLAINTEXT://0.0.0.0:9092 -t wurstmeister/kafka

容器命名为kafka1,指定了broker_id为0,端口号9092,zk地址为本机2181

5.进入kafka容器创建主题

使用docker exec –ti {$name} /bin/bash来进入指定容器

创建一个名为test的主题,一个副本一个分区,须指定zk地址

6.收发送消息

使用kafka-console-producer.sh发送、kafka-console-consumer.sh接收消息。都需要指定broker的地址

测试结果如图所示,单机情况下能够正常收发消息,下面测试基于docker的集群搭建

7.搭建集群

使用docker命令可快速在同一台机器启动多个kafka,只需要改变brokerId和端口即可用于搭建集群

启动第二个kafka容器命名为kafka2,其zk地址与kafka1一致,broker_id为1,服务端口号为9093

然后进入kafka容器创建第二个topic名为test2,副本数2,分区2

查询test2主题可以看到,已经是集群环境,可以看到leader机器、副本在分区上的保存情况,和ISR列表成员

8.集群收发消息

测试一下使用kafka1发送消息,kafka2接收消息

如图所示,可以正常发送和接收

9.关闭kafka2后查看集群状态

可以看到分区的leader机都变成了broker0(即kafka1),ISR列表中只有broker0

除了手动命令行搭建集群,还可以用k8s 配合yml文件快捷的搭建集群

详情见另一篇博文https://blog.csdn.net/playadota/article/details/84784073

发布者:全栈程序员栈长,转载请注明出处:https://javaforall.cn/133015.html原文链接:https://javaforall.cn

0 人点赞