HM-SpringCloud微服务系列12.2【死信交换机】
1. 初识死信交换机
1.1 什么是死信交换机
当一个队列中的消息满足下列情况之一时,可以成为死信(dead letter):
- 消费者使用basic.reject或 basic.nack声明消费失败,并且消息的requeue参数设置为false
- 消息是一个过期消息,超时无人消费
- 要投递的队列消息满了,无法投递
如果这个包含死信的队列配置了dead-letter-exchange
属性,指定了一个交换机,那么队列中的死信就会投递到这个交换机中,而这个交换机称为死信交换机(Dead Letter Exchange,检查DLX)。
如图,假如消费者采用默认的失败重试策略(在内部不断重试,当重试次数耗尽时,就reject。被拒绝的消息一般会被丢弃,若不想丢弃消息需要给队列绑定死信交换机)
一个消息被消费者拒绝了,变成了死信:
因为simple.queue通过dead-letter-exchange
属性绑定了死信交换机 dl.direct,因此死信会投递给这个交换机:
如果这个死信交换机也绑定了一个队列,则消息最终会进入这个存放死信的队列:
另外,队列将死信投递给死信交换机时,必须知道两个信息:
- 死信交换机名称
- 死信交换机与死信队列绑定的RoutingKey
这样才能确保投递的消息能到达死信交换机,并且正确的路由到死信队列。
在此,与上节<(https://www.cnblogs.com/yppah/p/16244809.html>中失败策略RepublishMessageRecoverer的异常消息处理进行一下对比,可以发现:前者是消费者主动投递失败消息到交换机,后者(本节死信交换机)是队列主动投递失败消息到交换机。
1.2 利用死信交换机接收死信(拓展|未讲)
在失败重试策略中,默认的RejectAndDontRequeueRecoverer会在本地重试次数耗尽后,发送reject给RabbitMQ,消息变成死信,被丢弃。
我们可以给simple.queue添加一个死信交换机,给死信交换机绑定一个队列。这样消息变成死信后也不会丢弃,而是最终投递到死信交换机,路由到与死信交换机绑定的队列。
在consumer服务中,定义一组死信交换机、死信队列:
// 声明普通的 simple.queue队列,并且为其指定死信交换机:dl.direct
@Bean
public Queue simpleQueue2(){
return QueueBuilder.durable("simple.queue") // 指定队列名称,并持久化
.deadLetterExchange("dl.direct") // 指定死信交换机
.build();
}
// 声明死信交换机 dl.direct
@Bean
public DirectExchange dlExchange(){
return new DirectExchange("dl.direct", true, false);
}
// 声明存储死信的队列 dl.queue
@Bean
public Queue dlQueue(){
return new Queue("dl.queue", true);
}
// 将死信队列 与 死信交换机绑定
@Bean
public Binding dlBinding(){
return BindingBuilder.bind(dlQueue()).to(dlExchange()).with("simple");
}
1.3 小结
什么样的消息会成为死信?
- 消息被消费者reject或者返回nack
- 消息超时未消费
- 队列满了
死信交换机的使用场景是什么?
- 如果队列绑定了死信交换机,死信会投递到死信交换机
- 可以利用死信交换机收集所有消费者处理失败的消息(死信),交由人工处理,进一步提高消息队列的可靠性
如何给队列绑定死信交换机?
-
给队列设置dead-letter-exchange属性,指定一个交换机
-
给队列设置dead-letter-routing-key属性,设置死信交换机与死信队列的RoutingKey
2. TTL
2.1 什么是TTL
TTL,也就是Time-To-Live。
如果一个队列中的消息如果超时未消费,则会变为死信,超时分为两种情况:
- 消息所在的队列设置了超时时间
- 消息本身设置了超时时间
2.2 接收超时死信的死信交换机
在consumer服务的SpringRabbitListener中,定义一个新的消费者,并且声明 死信交换机、死信队列:
@RabbitListener(bindings = @QueueBinding(
value = @Queue(name = "dl.queue", durable = "true"),
exchange = @Exchange(name = "dl.direct"),
key = "dl"
))
public void listenDlQueue(String msg) {
log.debug("消费者接收到dl.queue的延迟消息:{}", msg);
}
2.3 声明一个队列,并且指定TTL
在consumer服务的config包下新建TTLMsgConfig配置类
package cn.itcast.mq.config;
import org.springframework.amqp.core.*;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
public class TTLMsgConfig {
@Bean
public DirectExchange ttlDirectExchange() {
return new DirectExchange("ttl.direct");
}
@Bean
public Queue ttlQueue() {
return QueueBuilder
.durable("ttl.queue") // 指定队列名称,并持久化
.ttl(10000) // 设置队列的超时时间: 1W ms=10s
.deadLetterExchange("dl.direct") // 指定死信交换机
.deadLetterRoutingKey("dl")
.build();
}
@Bean
public Binding ttlBinding(){
return BindingBuilder.bind(ttlQueue()).to(ttlDirectExchange()).with("ttl");
}
}
启动consumer服务
在publisher服务的SpringAmqpTest测试类中新增测试方法:
@Test
public void testTTlMsg() {
// 1. 准备消息
Message message = MessageBuilder
.withBody("hello ttl".getBytes(StandardCharsets.UTF_8))
.setDeliveryMode(MessageDeliveryMode.PERSISTENT) //NON_PERSISTENT是非持久
.build();
// 2. 发送消息
rabbitTemplate.convertAndSend("ttl.direct", "ttl", message);
log.debug("消息发送成功");
}
此时,发送的消息并没有设置超时时间,仅在队列ttl.queue中设置了10秒延迟
运行testTTlMsg()
2.4 发送消息时,设定TTL
这次,发送与接收的延迟只有5秒。说明当队列、消息都设置了TTL时,任意一个到期就会成为死信。
2.5 小结
消息超时的两种方式是?
- 给队列设置ttl属性,进入队列后超过ttl时间的消息变为死信
- 给消息设置ttl属性,队列接收到消息超过ttl时间后变为死信
如何实现发送一个消息20秒后消费者才收到消息?
- 给消息的目标队列指定死信交换机
- 将消费者监听的队列绑定到死信交换机
- 发送消息时给消息设置超时时间为20秒
3. 延迟队列
利用TTL结合死信交换机,我们实现了消息发出后,消费者延迟收到消息的效果。这种消息模式就称为延迟队列(Delay Queue)模式。
延迟队列的使用场景包括:
- 延迟发送短信
- 用户下单,如果用户在15 分钟内未支付,则自动取消
- 预约工作会议,20分钟后自动通知所有参会人员
因为延迟队列的需求非常多,所以RabbitMQ的官方也推出了一个插件,原生支持延迟队列效果。
这个插件就是DelayExchange插件。参考RabbitMQ的插件列表页面:https://www.rabbitmq.com/community-plugins.html
使用方式可以参考官网地址:https://blog.rabbitmq.com/posts/2015/04/scheduling-messages-with-rabbitmq
3.1 安装DelayExchange插件
3.1.1 下载插件
以去对应的GitHub页面下载3.8.9版本的插件,地址为https://github.com/rabbitmq/rabbitmq-delayed-message-exchange/releases/tag/3.8.9这个对应RabbitMQ的3.8.5以上版本。
课前资料也提供了下载好的插件:
3.1.2 上传插件
因为我们是基于Docker安装,所以需要先查看RabbitMQ的插件目录对应的数据卷。
我们之前设定的RabbitMQ的数据卷名称为mq-plugins
,所以我们使用下面命令查看数据卷:
docker volume inspect mq-plugins
发现当前使用的mq是刚开始学习mq是安装的,当时并没有指定数据卷https://www.cnblogs.com/yppah/p/15832492.html
现在重新单机部署一个mq
上传到虚拟机中后,使用命令加载镜像即可:
docker load -i mq.tar
停止之前运行的mq
执行下面的命令来运行MQ容器:
docker run \
-e RABBITMQ_DEFAULT_USER=haifei \
-e RABBITMQ_DEFAULT_PASS=123321 \
-v mq-plugins:/plugins \
--name mq2 \
--hostname mq2 \
-p 15672:15672 \
-p 5672:5672 \
-d \
rabbitmq:3.8-management
再来查看mq2的数据卷
将插件上传到这个目录即可:
3.1.3 安装插件
需要进入MQ容器内部来执行安装。我的容器名为mq2
,所以执行下面命令:
docker exec -it mq2 bash
进入容器内部后,执行下面命令开启插件:
rabbitmq-plugins enable rabbitmq_delayed_message_exchange
3.2 DelayExchange原理
DelayExchange需要将一个交换机声明为delayed类型。当我们发送消息到delayExchange时,流程如下:
- 接收消息
- 判断消息是否具备x-delay属性
- 如果有x-delay属性,说明是延迟消息,持久化到硬盘,读取x-delay值,作为延迟时间
- 返回routing not found结果给消息发送者
- x-delay时间到期后,重新投递消息到指定队列
3.3 使用DelayExchange(界面操作方式|了解)
3.4 SpringAMQP使用延迟队列插件(代码方式|掌握)
插件的使用也非常简单:声明一个交换机,交换机的类型可以是任意类型,只需要设定delayed属性为true即可,然后声明队列与其绑定即可。
3.4.1 声明DelayExchange交换机
在consumer服务的SpringRabbitListener类中添加消费者
基于注解方式(推荐|简单方便):
@RabbitListener(bindings = @QueueBinding(
value = @Queue(name = "delay.queue", durable = "true"),
exchange = @Exchange(name = "delay.direct", delayed = "true"),
key = "delay"
))
public void listenDelayQueue(String msg) {
log.debug("消费者接收到delay.queue的延迟消息:{}", msg);
}
也可以基于@Bean的方式:
3.4.2 发送消息
在publisher服务的SpringAmqpTest类中新添测试方法
发送消息时,一定要携带x-delay属性,指定延迟的时间:
@Test
public void testSendDelayMsg() throws InterruptedException {
Message message = MessageBuilder
.withBody("hello ttl".getBytes(StandardCharsets.UTF_8))
.setDeliveryMode(MessageDeliveryMode.PERSISTENT) //NON_PERSISTENT是非持久
.setHeader("x-delay", 5000) //消息延迟5秒
.build();
CorrelationData correlationData = new CorrelationData(UUID.randomUUID().toString());
rabbitTemplate.convertAndSend("delay.direct", "delay", message, correlationData);
log.info("发送消息成功");
}
3.4.2 测试
先重启comsumer服务
然后运行单元测试方法
查看消费者的消息接收情况
上面测试方法中的报错无关紧要,消息没问题,下面在publisher服务的CommonConfig中判断一下进行处理该报错
再次测试,发现不会报错了
3.5 小结
延迟队列插件的使用步骤包括哪些?
-
声明一个交换机,添加delayed属性为true
-
发送消息时,添加x-delay头,值为超时时间