RocketMQ 介绍及核心概念

RocketMQ官网地址:https://github.com/apache/rocketmq

一、概述

  消息中间件是分布式系统中重要的组件,主要解决应用解耦,异步消息,流量削锋等问题,实现高性能,高可用,可伸缩和最终一致性架构。目前使用较多的消息队列有ActiveMQ,RabbitMQ,Kafka,RocketMQ等。从这篇文章开始,将会通过几篇文章系统学习下RocketMQ。

  RocketMQ是一个队列模型的消息中间件,具有高性能、高可靠、高实时、分布式特点。由阿里巴巴研发,借鉴参考了JMS规范的MQ实现,更参考了优秀的开源消息中间件Kafka,并且结合阿里实际业务需求,在天猫双十一的场景,实现业务削峰,分布式事务的优秀框架。

  Producer 向一些队列轮流发送消息,队列集合称为 Topic,Consumer 如果做广播消费,则一个 consumer 实例消费这个 Topic 对应的所有队列,如果做集群消费,则多个 Consumer 实例平均消费这个 topic 对应的队列集合。

  下面介绍一下RocketMQ的一些特性:

    具有高性能、高可靠、高实时、分布式( Producer、Consumer、队列都可以分布式 )特点;

    底层采用Netty NIO框架实现数据通信;

    内部使用更轻量级的NameServer进行网络路由,提高服务性能,并支持消息失败重试机制;

    支持集群模式、消费者负载均衡、水平扩展能力,支持广播模式;

    采用零拷贝原理,顺序写盘、支持亿级消息堆积能力;

    提供丰富的消息机制,比如顺序消息、事务消息;

二、核心概念

  在正式进入RocketMQ的学习之前,有必要熟悉一下RocketMQ核心概念,为后面学习RocketMQ打下基础。


  (一)、消息模型(Message Model)
    RocketMQ主要由 Producer、Broker、Consumer 三部分组成,其中Producer 负责生产消息,Consumer 负责消费消息,Broker 负责存储消息。Broker 在实际部署过程中对应一台服务器,每个 Broker 可以存储多个Topic的消息,每个Topic的消息也可以分片存储于不同的 Broker。Message Queue 用于存储消息的物理地址,每个Topic中的消息地址存储于多个 Message Queue 中。ConsumerGroup 由多个Consumer 实例构成。

  (二)、消息生产者(Producer)
    Producer负责生产消息,一般由业务系统负责生产消息。一个消息生产者会把业务应用系统里产生的消息发送到broker服务器。RocketMQ提供多种发送方式,同步发送、异步发送、顺序发送、单向发送。同步和异步方式均需要Broker返回确认信息,单向发送不需要。

  (三)、消息消费者(Consumer)
    Consumer负责消费消息,一般是后台系统负责异步消费。一个消息消费者会从Broker服务器拉取消息、并将其提供给应用程序。从用户应用的角度而言提供了两种消费形式:拉取式消费(Pull方式)、推动式消费(Push方式)。

    拉取式消费:应用通常主动调用Consumer的拉消息方法从Broker服务器拉消息、主动权由应用控制。一旦获取了批量消息,应用就会启动消费过程。

    推动式消费:Broker收到数据后会主动推送给消费端,该消费模式一般实时性较高。

  (四)、消息(Message)
    Message其实就是要发送的信息内容,生产和消费数据的最小单位,每条消息必须属于一个主题。RocketMQ中每个消息拥有唯一的Message ID,且可以携带具有业务标识的Key。系统提供了通过Message ID和Key查询消息的功能。

  (五)、主题(Topic)
    表示一类消息的集合,每个主题包含若干条消息,每条消息只能属于一个主题,是RocketMQ进行消息订阅的基本单位。Topic可以理解为对消息的分类,或者打标签。Topic与Message之间的关系是一对多的关系,即一个Topic可以有多个Message,但是一个Message只能属于一个Topic。

  (六)、标签(Tag)
    为消息设置的标志,用于同一主题下区分不同类型的消息。来自同一业务单元的消息,可以根据不同业务目的在同一主题下设置不同标签。标签能够有效地保持代码的清晰度和连贯性,并优化RocketMQ提供的查询系统。消费者可以根据Tag实现对不同子主题的不同消费逻辑,实现更好的扩展性。

    可以简单理解为:Topic主题是消息的大分类,而标签Tag则是大分类下的小分类。

  (七)、代理服务器(Broker Server)
    消息存储服务器,同时也是消息中转角色,负责存储消息、转发消息。代理服务器在RocketMQ系统中负责接收从生产者发送来的消息并存储、同时为消费者的拉取请求作准备。代理服务器也存储消息相关的元数据,包括消费者组、消费进度偏移和主题和队列消息等。

    Broker分为两种角色:Master与Slave。主服务Master承担读写操作,从服务器Slave作为一个备份。所有Broker,包含Slave服务器每隔30s会向Nameserver发送心跳包,心跳包中会包含存在于Broker上所有的topic的路由信息。

  (八)、名字服务(Name Server)
    NameServer是Topic的路由注册中心,为客户端根据Topic提供路由服务,从而引导客户端向Broker发送消息。生产者或消费者能够通过NameServer查找各主题相应的Broker的IP列表。

    多个NameServer实例组成集群,但相互独立,它们之间没有信息交换。

  (九)、生产者组(Producer Group)
    同一类Producer的集合,这类Producer发送同一类消息且发送逻辑一致。如果发送的是事务消息且原始生产者在发送之后崩溃,则Broker服务器会联系同一生产者组的其他生产者实例以提交或回溯消费。

  (十)、消费者组(Consumer Group)
    同一类Consumer的集合,这类Consumer通常消费同一类消息且消费逻辑一致。消费者组使得在消息消费方面,实现负载均衡和容错的目标变得非常容易。要注意的是,消费者组的消费者实例必须订阅完全相同的Topic。RocketMQ 支持两种消息模式:集群消费(Clustering)和广播消费(Broadcasting)。

    集群消费(Clustering):集群消费模式下,相同Consumer Group的每个Consumer实例平均分摊消息。例如某个Topic有10条消息,然后存在两个Consumer Group,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),那么MQ会将负载均衡分给两个Consumer Group,一个5条。那么Consumer Group A会有5条消息,B也有5条。A有三个Consumer,再进行负载均衡,那么可能会是2,2,1这样进行分配消费。B有两个Consumer,那么可能是3,2这样进行分配消费。

    RocketMQ天然支持消费者负载均衡,并且负载均衡不仅仅局限于消费者,还有消费者组的负载均衡。集群模式是非常普遍的模式,符合分布式架构的基本理念,即横向扩容,当前消费者如果无法快速及时处理消息时,可以通过增加消费者的个数横向扩容,快速提高消费能力,及时处理挤压的消息。

    广播消费(Broadcasting):广播消费模式下,相同Consumer Group的每个Consumer实例都接收全量的消息。
例如某个Topic有一条消息,其中一个Consumer Group有3个实例(可能是3个进程或3台机器),另外一个Consumer Group有2个实例(可能是2个进程或2台机器),广播消费的话,消息会被Consumer Group中的每个Consumer都消费一次,即每个实例都会消费这条消息。如下图所示:

 

posted on 2022-08-04 21:42  胡子就不刮  阅读(517)  评论(0编辑  收藏  举报

导航