消息队列概述及应用场景

一.消息队列概述

“消息”是在两台计算机间传送的数据单位，消息可以非常简单，例如只包含文本字符串；也可以更复杂，可能包含嵌入对象。消息被发送到队列中。

“消息队列”是在消息的传输过程中保存消息的容器。消息队列管理器在将消息从它的源中继到它的目标时充当中间人。队列的主要目的是提供路由并保证消息的传递；如果发送消息时接收者不可用，消息队列会保留消息，直到可以成功地传递它。

消息队列中间件是分布式系统中重要的组件，主要解决应用耦合、异步消息、流量晓峰等问题，实现高性能，高可用，可伸缩和最终一致性架构，是大型系统中不可缺少的中间件。

1.1 消息生产者、消息者、队列、主题

消息生产者Producer：发送消息到消息队列。

消息消费者Consumer：从消息队列接收消息。

消息队列Queue：一个先进先出的消息存储区域。消息按照顺序发送接收，一旦消息被消费处理，该消息将从队列中删除。

主题Topic：一种支持消息多个订阅者的机制。

1.2 点对点/Queue消息队列模型

一个生产者向一个特定的队列发送消息，一个消费者从该队列中接收消息；

消息的生产者和消费者可以不同时处于运行状态。

每一个成功处理的消息都由消息消费者签收确认（Acknowledge）。如图：

1.3 发布订阅消息模型Topic

发布订阅模型中，支持向一个特定的消息主题Topic发布消息。0个或多个订阅者可能对接收来自特定消息主题的消息感兴趣。在这种模型下，发布者和订阅者彼此不知道对方，这种模式被概括为：多个消费者可以获得消息在发布者和订阅者之间存在时间依赖性，即必须先订阅，再发送消息，而后接收订阅的消息，这个操作顺序必须保证。如图：

1.4 消息的顺序性保证

基于Queue消息模型，利用FIFO先进先出的特性，可以保证消息的顺序性。

1.5 消息的ACK机制

即消息的Ackownledge确认机制，为了保证消息不丢失，消息队列提供了消息Acknowledge机制，即ACK机制，当Consumer确认消息已经被消费处理，发送一个ACK给消息队列，此时消息队列便可以删除这个消息了。如果Consumer宕机/关闭，没有发送ACK，消息队列将认为这个消息没有被处理，会将这个消息重新发送给其他的Consumer重新消费处理。

1.6. 消息的同步和异步收发

同步：消息的收发支持同步收发的方式。同时还有另一种同步方式：同步收发场景下，消息生产者和消费者双向应答模式，例如：张三写封信送到邮局中转站，然后李四从中转站获得信，然后在写一份回执信，放到中转站，然后张三去取，当然张三写信的时候就得写明回信地址。消息的接收如果以同步的方式(Pull)进行接收，如果队列中为空，此时接收将处于同步阻塞状态，会一直等到消息的到达。

异步：消息的收发同样支持异步方式：异步发送消息，不需要等待消息队列的接收确认；异步接收消息，以Push的方式触发消息消费者接收消息。

1.7 消息的事务支持

消息的收发处理支持事务，例如：在任务中心场景中，一次处理可能涉及多个消息的接收、处理，这应该处于同一个事务范围内，如果一个消息处理失败，事务回滚，消息重新回到队列中。

1.8 消息的持久化

消息的持久化，对于一些关键的核心业务来说是非常重要的，启用消息持久化后，消息队列宕机重启后，消息可以从持久化存储恢复，消息不丢失，可以继续消费处理。

1.9 消息队列的高可用性

在实际生产环境中，使用单个实例的消息队列服务，如果遇到宕机、重启等系统问题，消息队列就无法提供服务了，因此很多场景下，我们希望消息队列有高可用性支持，例如Azure ServiceBus Messaging就有高可用保障机制；RabbitMQ有镜像+HAProxy的高可用性方案，ActiveMQ也有基于LevelDB+ZooKeeper的高可用性方案。这点大家在实际技术选型时需要重要考虑，云端的MQ服务，比如Azure Messaging的SLA就承诺了99.9%, 也是非常推荐的。

二.消息队列应用场景

以下介绍消息队列在实际生活中的应用场景。异步处理，应用解耦、流量削峰和消息通讯4个场景。

2.1 异步处理

场景说明：用户注册后，系统要发送注册邮件和注册短信。传统的方式有两种，串行模式和并行方式

（1）串行模式：将注册信息存入数据库成功后，发送注册短信和注册邮件，以上三个步骤都完成后，将成功的信息返回给客户端。

（2）并行模式：将注册信息存入数据库成功后，同时发送注册短信和注册邮件，以上三个任务都完成后返回给客户端，与串行模式的差别是并行模式可以提高处理的时间。

假设每个业务结点的处理时间为50ms,不考虑网络开销，则串行模式的时间为150ms,并行模式的时间为100ms.

因为CPU在单位时间内处理的请求数是一定的，假设CPU1秒内吞吐量是100次。则串行方式1秒内CPU可处理的请求量是7次（1000/150）。并行方式处理的请求量是10次（1000/100）。
小结：如以上案例描述，传统的方式系统的性能（并发量，吞吐量，响应时间）会有瓶颈。如何解决这个问题呢？
引入消息队列，将不是必须的业务逻辑，异步处理。改造后的架构如下：

按照以上约定，用户的响应时间相当于是注册信息写入数据库的时间，也就是50毫秒。注册邮件，发送短信写入消息队列后，直接返回，因此写入消息队列的速度很快，基本可以忽略，因此用户的响应时间可能是50毫秒。因此架构改变后，系统的吞吐量提高到每秒20 QPS。比串行提高了3倍，比并行提高了两倍。

2.2 应用解耦

场景说明：用户下单后，订单系统需要通知库存系统。传统的做法是，订单系统调用库存系统的接口。如下图：

传统模式的缺点：

1）假如库存系统无法访问，则订单减库存将失败，从而导致订单失败。

2）订单系统与库存系统耦合

为了解决上面的问题，我们引用消息队列后的方案为：

· 订单系统：用户下单后，订单系统完成持久化处理，将消息写入消息队列，返回用户订单下单成功。
· 库存系统：订阅下单的消息，采用拉/推的方式，获取下单信息，库存系统根据下单信息，进行库存操作。
· 假如：在下单时库存系统不能正常使用。也不影响正常下单，因为下单后，订单系统写入消息队列就不再关心其他的后续操作了。实现订单系统与库存系统的应用解耦。