我们知道RocketMQ主要分为消息 生产、存储(消息堆积)、消费 三大块领域。
那接下来,我们白话一下,RocketMQ是如何发送消息的,揭秘消息生产全过程。
注意,如果白话中不小心提到相关代码配置与类名,请参考RocketMQ 4.9.4版本
关键字摘要
- 哪些消息类型?
- 发给谁?
- 怎么发?
- 怎么知道发成功了还是失败了?
- 发失败了怎么办?
Q1: RocketMQ有哪些消息类型?
RocketMQ生产消息时,支持多种「消息类型」:
- 普通消息:发送普通消息。
SendResult send(final Message msg);
- 普通有序消息:发送普通有序消息,通过指定「消息筛选器selector」,动态决定发送哪个队列。
SendResult send(final Message msg, final MessageQueueSelector selector, final Object arg);
- 严格有序消息:发送严格有序消息,通过指定队列,保证严格有序。
SendResult send(final Message msg, final MessageQueue mq);
- 事务消息:实现分布式事务。(属于分布式事务范畴,区别较大,本文不再展开讨论,后面单独写一篇针对「事务消息」的分析)
上面列举的三种send方法,都是以同步发送模式为例。 定时/延迟消息从发送方式角度来说,不算一种独立的消息类型。
Q2:RocketMQ怎么知道一条消息要发送给谁?
一般我们要发送一条消息给RocketMQ,需要创建这样一个消息体。
代码语言:javascript复制Message msg = new Message( "TestTopic", "Hello World".getBytes() );
在这个消息体里面,我们只单纯指定了要发送的Topic名字,以及要发送的消息内容。
那么,RocketMQ-client怎么知道这条消息要发送到RocketMQ集群中的哪一个broker上呢?
这里需要了解下RocketMQ中Topic的「路由注册与发现机制」。
RocketMQ基本架构
Topic 路由注册与发现:
- Broker 每30秒向 NameServer 发送心跳包,里面包含Topic的路由信息,包括主题的读写队列数和操作权限等。NameServer会保存这些路由信息,并记录最后一次收到 Broker 心跳包的时间(NameServer每10秒根据记录的时间戳清理已经失联120秒以上的 Broker)。
- 生产者每30秒获取一次主题的路由信息。这意味着消息生产者不会立即知道有新的 Broker 加入或者被移除。
Topic路由信息
Topic的路由信息,包括了Topic的 队列queue和broker的映射关系 ,那么如何利用这个Topic的路由信息呢?
我们需要根据前面的不同「消息类型」进行分别讨论:
- 普通消息:默认采用轮询机制,消息会依次发送到Topic的每个可用的 Broker 的某个队列queue上,以实现负载均衡。
- 普通有序消息:根据传递的
MessageQueueSelector
和消息体msg
内容,计算可以投递的队列queue,然后发送消息。(可以类比分库分表中的分表计算写入的方式) - 严格有序消息:根据传递的
MessageQueue
信息,强制消息发送到对应队列queue上。(可以类比分库分表中,强制指定物理表写入的方式)
根据消息类型获取到目标队列queue后,就可以根据Topic路由信息发送消息到指定broker上了。
Q3:怎么发送一条消息?
从发送模式角度来说,RocketMQ有三种「消息发送模式」:
- 同步发送:调用发送消息方法后,同步阻塞,直到返回SendResult。
SendResult send(final Message msg);
- 异步发送:调用发送消息方法后,立即返回,发送结果会通过开发者自己注册的回调函数SendCallback进行处理。
void send(final Message msg, final SendCallback sendCallback);
- 单向发送:这种方法完全不关心发送后的返回结果。显然,它具有最大吞吐量,但也存在消息丢失的潜在风险。
void sendOneway(final Message msg);
上面列举的三种send方法,都是以「普通消息」为例。
「消息类型」 和 「消息发送模式」 是 N*M
的关系,所以聪明的你一定已经想到了,存在9种不同组合(不包括事物消息),RocketMQ也是在接口中定义了9种不同方法。
Q4: 发送后,怎么知道消息发成功了还是失败了?
前面介绍了三种「消息发送模式」,其中「单向发送」属于不可靠发送,我们无法知道是否发送成功。
而「同步发送」和「异步发送」都是可靠发送,我们能够获取发送状态,知道是否成功。
在「同步发送」中,我们可以根据SendResult
中的sendStatus
属性判断是否发送成功。
SendResult类属性
在「异步发送」中,我们可以自定义实现SendCallback
的onSuccess()
方法和onException()
方法,来判断消息是否发送成功。
SendCallback接口定义
Q5: 消息发送失败了怎么办?
如果消息发送失败了,RocketMQ-client默认有重试机制,以确保消息的高可用性。
前面提到,生产者每30秒获取一次主题的路由信息,所以即使某个 Broker 宕机,消息发送者可能无法立即察觉到它的宕机状态。
但是,当消息发送者向某个 Broker 发送消息后,如果返回异常,生产者会在接下来的一段时间内(例如5分钟)避免再次选择该 Broker 上的队列来发送消息。这样做的目的是规避可能发生故障的 Broker。
当然了,用户也能根据返回的异常,自己定义业务重试、补偿机制。
需要注意的是,不同「消息类型」和「消息发送模式」的RocketMQ-client默认重试机制不同。
消息类型:
- 普通消息:无顺序性要求,异常时RocketMQ-client默认重试。
- 普通有序消息:异常时RocketMQ-client默认不重试,可以用户自己捕获异常重试,并发送到其他队列。
- 严格有序消息:保证严格有序,异常时RocketMQ-client默认不重试,可以用户自己捕获异常重试。
注意:有序消息异常时RocketMQ-client都是默认不重试
消息发送模式:
- 同步发送:配置
retryTimesWhenSendFailed
默认重试次数。 - 异步发送:配置
retryTimesWhenSendAsyncFailed
默认重试次数。 - 单向发送:无重试机制,存在丢失消息的风险。
注意:单向发送模式异常时RocketMQ-client默认不重试
总结
- 有哪些消息类型:普通消息、有序消息、事务消息
- 发给谁?:Topic路由信息注册与发现机制、普通消息轮询发送、有序消息指定selector或者queue发送
- 怎么发?:同步发送、异步发送、单向发送
- 怎么知道发成功了还是失败了?:同步&异步都能够获取发送状态(可靠发送)、单向发送不可靠
- 发失败了怎么办?: 失败重试机制
3分钟到了吗?应该对RocketMQ如何生产消息有全面了解了吧。 如果还想了解更多,欢迎关注下一期内容。