最新 最热

Kafka 为什么会丢消息?

Kafka 是一个分布式的高可用、高性能消息队列,它可以用于大规模的数据处理和流式计算场景。在 Kafka 中丢失消息是一件非常不好的事情,因为这会导致数据的不连续性、计算结果的准确性下降等问题,从而影响到系统的功能和...

2023-08-22
1

进击消息中间件系列(二十):Kafka 生产调优最佳实践

服务器台数= 2 * (生产者峰值生产速率 * 副本 / 100) + 1,即 2 * (20m/s * 2 / 100) + 1= 3 台。建议 3 台服务器。

2023-08-22
0

进击消息中间件系列(十九):Kafka 安全配置最佳实践

Kafka 在整个大数据生态系统中扮演着核心的角色,对于系统数据的安全性要求相对较高。因此进行 Kafka 安全配置是非常必要的。更多关于消息中间件 Kafka 系列的学习文章,请参阅:消息中间件 Kafka,本系列持续更新中。...

2023-08-22
1

基于Docker搭建大数据集群(八)Kafka部署

腾讯云开发者社区是腾讯云官方开发者社区,致力于打造开发者的技术分享型社区。提供专栏,问答,沙龙等产品和服务,汇聚海量精品云计算使用和开发经验,致力于帮助开发者快速成长与发展,营造开放的云计算技术生态圈。...

2023-08-17
1

使用Flume实现MySQL与Kafka实时同步

http://www.apache.org/dyn/closer.lua/flume/1.9.0/apache-flume-1.9.0-bin.tar.gz https://github.com/keedio/flume-ng-sql-source/archive/v1.5.2.tar.gz

2023-08-17
1

Kafka性能测试初探

Kafka是一种高性能的分布式消息系统,由LinkedIn公司开发,用于处理海量的实时数据流。它采用了发布/订阅模式,可以将数据流分发到多个消费者端,同时提供了高可靠性、高吞吐量和低延迟的特性。...

2023-08-04
1

Kafka测试初探【Go】

上周分享了Kafka性能测试初探的Java版本,有读者留言说太简单,内容比较水。这里澄清一下,是我学得比较水。文章定位就是一篇使用Java语言的Kafka Client客户端进行简单操作演示,然后模拟一下简单场景的性能测试。其中深入...

2023-08-04
1

谈谈 Kafka 的幂等性 Producer

使用消息队列,我们肯定希望不丢消息,也就是消息队列组件,需要保证消息的可靠交付。消息交付的可靠性保障,有以下三种承诺:

2023-08-03
1

kcat的使用

腾讯云开发者社区是腾讯云官方开发者社区,致力于打造开发者的技术分享型社区。提供专栏,问答,沙龙等产品和服务,汇聚海量精品云计算使用和开发经验,致力于帮助开发者快速成长与发展,营造开放的云计算技术生态圈。...

2023-08-02
1

2023-07-14:讲一讲Kafka与RocketMQ中存储设计的异同?

在Kafka中,文件的布局采用了Topic/Partition的方式,每个分区对应一个物理文件夹,且在分区文件级别上实现了顺序写入。然而,当一个Kafka集群拥有大量的主题和每个主题拥有数百个分区时,在高并发写入消息的情况下,IO操作会变...

2023-07-25
1