RabbitMq发布确认高级

RabbitMq发布确认高级

在生产环境中由于一些不明原因,导致 rabbitmq 重启,在 RabbitMQ 重启期间生产者消息投递失败,导致消息丢失,需要手动处理和恢复。于是,我们开始思考,如何才能进行 RabbitMQ 的消息可靠投递呢? 特别是在这样比较极端的情况,RabbitMQ 集群不可用的时候,无法投递的消息该如何处理呢。

 

发布确认机制

代码架构图

添加配置信息

在配置文件当中需要添加:publisher-confirm-type: correlated

spring:
  rabbitmq:
    host: localhost
    port: 5672
    username: zjh
    password: zjh
    # 发布消息成功到交换机后会触发回调方法
    publisher-confirm-type: correlated
  • NONE: 禁用发布确认模式,是默认值

  • CORRELATED: 发布消息成功到交换器后会触发回调方法

  • SIMPLE: 试有两种效果,其一效果和 CORRELATED 值一样会触发回调方法。其二在发布消息成功后使用 rabbitTemplate 调用 waitForConfirms 或 waitForConfirmsOrDie 方法等待 broker 节点返回发送结果,根据返回结果来判定下一步的逻辑,要注意的点是waitForConfirmsOrDie 方法如果返回 false 则会关闭 channel,则接下来无法发送消息到 broker

 

项目依赖参考以下链接中给出的依赖

https://www.cnblogs.com/zjh0420/p/16895248.html

 

声明队列、交换机以及交换机和队列绑定

/**
 * @author zjh
 */

@Configuration
public class ConfirmConfig {

    /**
     * 交换机名称
     */
    public static final String CONFIRM_EXCHANGE = "confirm.exchange";

    /**
     * 队列名称
     */
    public static final String CONFIRM_QUEUE = "confirm.queue";

    /**
     * routingKey
     */
    public static final String CONFIRM_ROUTING_KEY = "confirm.routing.key";

    /**
     * 声明交换机
     */
    @Bean
    public DirectExchange confirmExchange(){
        return new DirectExchange(CONFIRM_EXCHANGE);
    }

    /**
     * 声明队列
     */
    @Bean
    public Queue confirmQueue(){
        return new Queue(CONFIRM_QUEUE);
    }

    /**
     * 绑定
     */
    @Bean
    public Binding confirmQueueBindingConfirmExchange(
            @Qualifier("confirmQueue") Queue confirmQueue,
            @Qualifier("confirmExchange") DirectExchange confirmExchange){

        return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
    }
}

消息生产者代码

/**
 * @author zjh
 */
@Api(value = "生产者")
@Slf4j
@RestController
@RequestMapping("/confirm")
public class ProducerController {

    private final RabbitTemplate rabbitTemplate;

    @Autowired
    public ProducerController(RabbitTemplate rabbitTemplate) {
        this.rabbitTemplate = rabbitTemplate;
    }

    @ApiOperation(value = "发消息", httpMethod = "GET")
    @GetMapping("/sendMessage/{message}")
    public void sendMessage(@PathVariable String message){
        CorrelationData correlationData1 = new CorrelationData("1");

        // 发消息
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE,
                ConfirmConfig.CONFIRM_ROUTING_KEY, message + ConfirmConfig.CONFIRM_ROUTING_KEY, correlationData1);
        log.info("发送消息内容:{}", message + ConfirmConfig.CONFIRM_ROUTING_KEY);

        CorrelationData correlationData2 = new CorrelationData("2");

        // 发消息
        rabbitTemplate.convertAndSend(ConfirmConfig.CONFIRM_EXCHANGE,
                ConfirmConfig.CONFIRM_ROUTING_KEY + "123123", message + ConfirmConfig.CONFIRM_ROUTING_KEY + "123123", correlationData2);
        log.info("发送消息内容:{}", message + ConfirmConfig.CONFIRM_ROUTING_KEY + "123123");
    }
}

回调接口

/**
 * @author zjh
 */
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback {

    private final RabbitTemplate rabbitTemplate;

    @Autowired
    public MyCallBack(RabbitTemplate rabbitTemplate) {
        this.rabbitTemplate = rabbitTemplate;
    }

    /**
     * 注入回调方法
     */
    @PostConstruct
    public void init(){
        rabbitTemplate.setConfirmCallback(this);
    }

    /**
     * 交换机确认回调方法
     * @param correlationData 保存回调消息的ID以及相关内容
     * @param ack 交换机收到消息 成功为true 失败为false
     * @param cause 失败原因 失败才不为空
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {
        String id = null != (correlationData != null ? correlationData.getId() : null) ? correlationData.getId() : "";
        if (ack) {
            log.info("交换机已经收到Id为:{}的消息", id);
        } else {
            log.info("交换机还未收到Id为:{}的消息, 原因是:{}", id, cause);
        }
    }
}

消息消费者代码

/**
 * @author zjh
 */
@Slf4j
@Component
public class ConfirmConsumer {

    @RabbitListener(queues = ConfirmConfig.CONFIRM_QUEUE)
    public void receiveConfirmMessage(Message message){
        String msg = new String(message.getBody());
        log.info("接收到的队列confirm.queue消息:{}", msg);
    }
}

请求结果

可以看到,发送了两条消息,第一条消息的 routingKey 为 "confirm.routing.key",第二条消息的 routingKey 为"confirm.routing.key123123",两条消息都成功被交换机接收,也收到了交换机的确认回调,但消费者只收到了一条消息,因为第二条消息的 routingKey 与队列的 BindingKey 不一致,也没有其它队列能接收这个消息,所有第二条消息被直接丢弃了。每次发的消息肯定都是业务生成的,所以不可能让交换机随意丢弃,如何接收到交换机丢弃并处理他呢下方回退消息讲解...

 

回退消息

publisher-returns: true 参数

在仅开启了生产者确认机制的情况下,交换机接收到消息后,会直接给消息生产者发送确认消息,如果发现该消息不可路由,那么消息会被直接丢弃,此时生产者是不知道消息被丢弃这个事件的。那么如何让无法被路由的消息帮我想办法处理一下?最起码通知我一声,我好自己处理啊。通过设置 publisher-returns: true 参数可以在当消息传递过程中不可达目的地时将消息返回给生产者。

添加配置参数

publisher-returns: true

spring:
  rabbitmq:
    host: localhost
    port: 5672
    username: zjh
    password: zjh
    # 发布消息成功到交换机后会触发回调方法
    publisher-confirm-type: correlated
    # 发布消息未成功到达队列回退
    publisher-returns: true

回调接口

注意:这在原有的回调方法上增加的

/**
 * @author zjh
 */
@Slf4j
@Component
public class MyCallBack implements RabbitTemplate.ConfirmCallback, RabbitTemplate.ReturnCallback {

    private final RabbitTemplate rabbitTemplate;

    @Autowired
    public MyCallBack(RabbitTemplate rabbitTemplate) {
        this.rabbitTemplate = rabbitTemplate;
    }

    /**
     * 注入回调方法
     */
    @PostConstruct
    public void init(){
        rabbitTemplate.setConfirmCallback(this);
        rabbitTemplate.setReturnCallback(this);
    }

    /**
     * 交换机确认回调方法
     * @param correlationData 保存回调消息的ID以及相关内容
     * @param ack 交换机收到消息 成功为true 失败为false
     * @param cause 失败原因 失败才不为空
     */
    @Override
    public void confirm(CorrelationData correlationData, boolean ack, String cause) {
        String id = null != (correlationData != null ? correlationData.getId() : null) ? correlationData.getId() : "";
        if (ack) {
            log.info("交换机已经收到Id为:{}的消息", id);
        } else {
            log.info("交换机还未收到Id为:{}的消息, 原因是:{}", id, cause);
        }
    }

    /**
     * 不可达目的地的时候回调方法
     * @param message 发送的消息
     * @param replyCode 退回Code
     * @param replyText 退回原因
     * @param exchange 交换机
     * @param routingKey 路由
     */
    @Override
    public void returnedMessage(Message message, int replyCode, String replyText, String exchange, String routingKey) {

        log.error("消息{}, 被交换机{}给退回, 退回的原因:{}, 路由key:{}", new String(message.getBody()), exchange, replyText, routingKey);
    }
}

请求结果

可以看到,交换机丢弃的消息也拿到了。

 

备份交换机

有了 publisher-returns: true 参数和回退消息,我们获得了对无法投递消息的感知能力,有机会在生产者的消息无法被投递时发现并处理。但有时候,我们并不知道该如何处理这些无法路由的消息,最多打个日志,然后触发报警,再来手动处理。而通过日志来处理这些无法路由的消息是很不优雅的做法,特别是当生产者所在的服务有多台机器的时候,手动复制日志会更加麻烦而且容易出错。而且设置 publisher-returns: true 参数会增加生产者的复杂性,需要添加处理这些被退回的消息的逻辑。如果既不想丢失消息,又不想增加生产者的复杂性,该怎么做呢?前面在设置死信队列的文章中,我们提到,可以为队列设置死信交换机来存储那些处理失败的消息,可是这些不可路由消息根本没有机会进入到队列,因此无法使用死信队列来保存消息。在 RabbitMQ 中,有一种备份交换机的机制存在,可以很好的应对这个问题。什么是备份交换机呢?备份交换机可以理解为 RabbitMQ 中交换机的“备胎”,当我们为某一个交换机声明一个对应的备份交换机时,就是为它创建一个备胎,当交换机接收到一条不可路由消息时,将会把这条消息转发到备份交换机中,由备份交换机来进行转发和处理,通常备份交换机的类型为 Fanout ,这样就能把所有消息都投递到与其绑定的队列中,然后我们在备份交换机下绑定一个队列,这样所有那些原交换机无法被路由的消息,就会都进入这个队列了。当然,我们还可以建立一个报警队列,用独立的消费者来进行监测和报警。

代码架构图

声明队列、交换机以及绑定关系

将上方 ConfirmConfig 文件替换成下方代码,主要就是声明了一个备份交换机、备份队列、警告队列。备份交换机与备份队列绑定、备份交换机与警告队列绑定。修改声明确认交换机时指定备份交换机。

/**
 * @author zjh
 */

@Configuration
public class ConfirmConfig {

    /**
     * 交换机名称
     */
    public static final String CONFIRM_EXCHANGE = "confirm.exchange";

    /**
     * 队列名称
     */
    public static final String CONFIRM_QUEUE = "confirm.queue";

    /**
     * routingKey
     */
    public static final String CONFIRM_ROUTING_KEY = "confirm.routing.key";

    /**
     * 备份交换机名称
     */
    public static final String BACKUP_EXCHANGE = "backup.exchange";

    /**
     * 备份队列名称
     */
    public static final String BACKUP_QUEUE = "backup.queue";

    /**
     * 报警队列名称
     */
    public static final String WARNING_QUEUE = "warning.queue";

    /**
     * 声明交换机
     */
    @Bean
    public DirectExchange confirmExchange(){
        return ExchangeBuilder.directExchange(CONFIRM_EXCHANGE).durable(true)
                .withArgument("alternate-exchange", BACKUP_EXCHANGE).build();
    }

    /**
     * 声明备份交换机
     */
    @Bean
    public FanoutExchange backUpExchange(){
        return new FanoutExchange(BACKUP_EXCHANGE);
    }

    /**
     * 声明队列
     */
    @Bean
    public Queue confirmQueue(){
        return QueueBuilder.durable(CONFIRM_QUEUE).build();
    }

    /**
     * 声明备份队列
     */
    @Bean
    public Queue backUpQueue(){
        return QueueBuilder.durable(BACKUP_QUEUE).build();
    }

    /**
     * 声明报警队列
     */
    @Bean
    public Queue warningQueue(){
        return QueueBuilder.durable(WARNING_QUEUE).build();
    }

    /**
     * 绑定队列和交换机
     */
    @Bean
    public Binding confirmQueueBindingConfirmExchange(
            @Qualifier("confirmQueue") Queue confirmQueue,
            @Qualifier("confirmExchange") DirectExchange confirmExchange){

        return BindingBuilder.bind(confirmQueue).to(confirmExchange).with(CONFIRM_ROUTING_KEY);
    }

    /**
     * 绑定备份队列和备份交换机
     */
    @Bean
    public Binding backUpQueueBindingConfirmExchange(
            @Qualifier("backUpQueue") Queue backUpQueue,
            @Qualifier("backUpExchange") FanoutExchange backUpExchange){

        return BindingBuilder.bind(backUpQueue).to(backUpExchange);
    }

    /**
     * 绑定报警队列和备份交换机
     */
    @Bean
    public Binding warningQueueBindingConfirmExchange(
            @Qualifier("warningQueue") Queue warningQueue,
            @Qualifier("backUpExchange") FanoutExchange backUpExchange){

        return BindingBuilder.bind(warningQueue).to(backUpExchange);
    }
}

添加报警消费者代码

/**
 * @author zjh
 *
 * 报警消费者
 */
@Slf4j
@Component
public class WarningConsumer {

    /**
     * 接收报警消息
     */
    @RabbitListener(queues = ConfirmConfig.WARNING_QUEUE)
    public void receiveWarningMsg(Message message){
        String msg = new String(message.getBody());
        log.info("报警发现不可路由消息:{}", msg);
    }
}

请求结果

回退消息备份交换机 可以一起使用,如果两者同时开启,备份交换机优先级高。

posted @ 2022-11-16 16:47  橙香五花肉  阅读(20)  评论(0编辑  收藏  举报