Spring Cloud Alibaba学习笔记（8） - RocketMQ术语与概念

Topic

一类消息的集合，RocketMQ的基本订阅单位

部署结构

Name Server

Name Server 为 producer 和 consumer 提供路由信息。
相对来说，nameserver的稳定性非常高。原因有二：

• nameserver互相独立，彼此没有通信关系，单台nameserver挂掉，不影响其他nameserver，即使全部挂掉，也不影响业务系统使用。无状态
• nameserver不会有频繁的读写，所以性能开销非常小，稳定性很高。

Broker Server

代理服务器，消息中转角色，负责存储消息、转发消息

消息模型

Producer

消息生产者，生产者的作用就是将消息发送到 MQ，生产者本身既可以产生消息，如读取文本信息等。
也可以对外提供接口，由外部应用来调用接口，再由生产者将收到的消息发送到 MQ。

与NameServer关系

• 连接
  • 单个生产者者和一台NameServer保持长连接，定时查询topic配置信息，如果该NameServer挂掉，生产者会自动连接下一个NameServer，直到有可用连接为止，并能自动重连。
• 心跳
  • 无心跳连接
• 轮询时间
  • 默认情况下，生产者每隔30秒从NameServer获取所有topic的最新队列情况，这意味着某个broker如果宕机，生产者最多要30秒才能感知，在此期间，发往该broker的消息发送失败。该时间由DefaultMQProducer的pollNameServerInteval参数决定，可手动配置。

与Borker关系

• 连接
  • 单个生产者和该生产者关联的所有broker保持长连接。
• 心跳
  • 默认情况下，生产者每隔30秒向所有broker发送心跳，该时间由DefaultMQProducer的heartbeatBrokerInterval参数决定，可手动配置。broker每隔10秒钟（此时间无法更改），扫描所有还存活的连接，若某个连接2分钟内（当前时间与最后更新时间差值超过2分钟，此时间无法更改）没有发送心跳数据，则关闭连接。
• 断开
  • 移除broker上的生产者信息

Broker

Broker 接收来自生产者的消息，储存以及为消费者拉取消息的请求做好准备。

与NameServer关系

• 连接
  • 单个broker和所有nameserver保持长连接
• 心跳
  • 心跳间隔：每隔30秒（此时间无法更改）向所有nameserver发送心跳，心跳包含了自身的topic配置信息。
  • 心跳超时：nameserver每隔10秒钟（此时间无法更改），扫描所有还存活的broker连接，若某个连接2分钟内（当前时间与最后更新时间差值超过2分钟，此时间无法更改）没有发送心跳数据，则断开连接。
• 断开
  • 时机：broker挂掉；心跳超时导致nameserver主动关闭连接
  • 动作：一旦连接断开，nameserver会立即感知，更新topic与队列的对应关系，但不会通知生产者和消费者

负载均衡

• 一个topic分布在多个broker上，一个broker可以配置多个topic，它们是多对多的关系。
• 如果某个topic消息量很大，应该给它多配置几个队列？这什么意思，并且尽量多分布在不同broker上，减轻某个broker的压力。
• topic消息量都比较均匀的情况下，如果某个broker上的队列越多，则该broker压力越大。

Consumer

消息消费者，简单来说，消费 MQ 上的消息的应用程序就是消费者，至于消息是否进行逻辑处理，还是直接存储到数据库等取决于业务需要。

与NameServer关系

• 连接
  • 单个消费者和一台nameserver保持长连接，定时查询topic配置信息，如果该nameserver挂掉，消费者会自动连接下一个nameserver，直到有可用连接为止，并能自动重连。
• 心跳
  • 不心跳关联
• 轮询时间
  • 默认情况下，消费者每隔30秒从nameserver获取所有topic的最新队列情况，这意味着某个broker如果宕机，客户端最多要30秒才能感知。该时间由DefaultMQPushConsumer的pollNameServerInteval参数决定，可手动配置。

与Borker关系

• 连接
  • 单个消费者和该消费者关联的所有broker保持长连接。
• 心跳
  • 默认情况下，消费者每隔30秒向所有broker发送心跳，该时间由DefaultMQPushConsumer的heartbeatBrokerInterval参数决定，可手动配置。broker每隔10秒钟（此时间无法更改），扫描所有还存活的连接，若某个连接2分钟内（当前时间与最后更新时间差值超过2分钟，此时间无法更改）没有发送心跳数据，则关闭连接，并向该消费者分组的所有消费者发出通知，分组内消费者重新分配队列继续消费。
• 断开
  • 时机：消费者挂掉；心跳超时导致broker主动关闭连接
  • 动作：一旦连接断开，broker会立即感知到，并向该消费者分组的所有消费者发出通知，分组内消费者重新分配队列继续消费

负载均衡

• 集群消费模式下，一个消费者集群多台机器共同消费一个topic的多个队列，一个队列只会被一个消费者消费。
• 如果某个消费者挂掉，分组内其它消费者会接替挂掉的消费者继续消费。

消费机制

• 本地队列
  • 消费者不间断的从broker拉取消息，消息拉取到本地队列，然后本地消费线程消费本地消息队列，只是一个异步过程，拉取线程不会等待本地消费线程，这种模式实时性非常高。对消费者对本地队列有一个保护，因此本地消息队列不能无限大，否则可能会占用大量内存，本地队列大小由DefaultMQPushConsumer的pullThresholdForQueue属性控制，默认1000，可手动设置。
• 轮询间隔
  • 消息拉取线程每隔多久拉取一次？间隔时间由DefaultMQPushConsumer的pullInterval属性控制，默认为0，可手动设置。
• 消息消费数量
  • 监听器每次接受本地队列的消息是多少条？这个参数由DefaultMQPushConsumer的consumeMessageBatchMaxSize属性控制，默认为1，可手动设置。

消费进度存储

• 每隔一段时间将各个队列的消费进度存储到对应的broker上，该时间由DefaultMQPushConsumer的persistConsumerOffsetInterval属性控制，默认为5秒，可手动设置。

连接数

• 如果一个topic在某broker上有3个队列，一个消费者消费这3个队列，那么该消费者和这个broker有几个连接？
• 一个连接，消费单位与队列相关，消费连接只跟broker相关，事实上，消费者将所有队列的消息拉取任务放到本地的队列，挨个拉取，拉取完毕后，又将拉取任务放到队尾，然后执行下一个拉取任务

Group

Producer Group

生产者组，简单来说就是多个发送同一类消息的生产者称之为一个生产者组。

Consumer Group

消费者组，和生产者类似，消费同一类消息的多个 consumer 实例组成一个消费者组(集群)。

Tag

标签可以被认为是对Topic进一步细化。一般在相同业务模块中通过引入标签来标记不同用途的消息。
RocketMQ支持给在发送的时候给topic打tag，同一个topic的消息虽然逻辑管理是一样的。但是消费topic1的时候，如果你订阅的时候指定的是tagA，那么tagB的消息将不会投递。

Message

Message 是消息的载体。一个 Message 必须指定 topic，相当于寄信的地址。
Message 还有一个可选的 tag 设置，以便消费端可以基于 tag 进行过滤消息。
也可以添加额外的键值对，例如你需要一个业务 key 来查找 broker 上的消息，方便在开发过程中诊断问题。

Message Queue

简称queue或Q，消息物理管理单位。一个Topic将有若干个Q。若Topic同时创建在不同的Broker，则不同的broker上都有若干Q，消息将物理地存储落在不同Broker结点上，具有水平扩展的能力。

Offset

RocketMQ中，有很多offset的概念。但通常我们只关心暴露到客户端的offset。一般我们不特指的话，就是指逻辑Message Queue下面的offset。

Consumer Offset

用于标记Consumer Group在一条逻辑Message Queue上，消息消费到哪里了。注：从源码上看，这个数值是最新消费的那条消息的offset+1，所以实际上这个值存储的是【下次拉取的话，从哪里开始拉取的offset】。

参考

https://www.jianshu.com/p/3938d990a8de
https://www.cnblogs.com/qdhxhz/p/11094624.html