RabbitMQ学习笔记(二) 工作队列

什么是工作队列?

工作队列(又名任务队列)是RabbitMQ提供的一种消息分发机制。当一个Consumer实例正在进行资源密集任务的时候,后续的消息处理都需要等待这个实例完成正在执行的任务,这样就导致消息挤压,后续的消息不能及时的处理。

RabbitMQ的工作队列机制允许同一个Consumer的多个实例同时监听消息队列,如果发现某个Consumer实例的处理任务未完成,就自动将消息转给其他未工作的Consumer实例,从而达到平衡负载的效果。

消息确认机制

前一篇笔记中,Receive程序创建消息消费者的时候,我们将autoAck参数设置为true, 即自动确认消息。

1
channel.BasicConsume(queue: "hello", autoAck: true, consumer:consumer);

 

自动确认的意思就是当消费者程序接收到消息之后,会自动给RabbitMQ一个收到消息的反馈。RabbitMQ会自动将这条消息删除,而不去关心消费者程序实例是否正确处理了这条消息,这样的缺点是一旦消费者程序实例出错,这条消息就丢失了。

 

所以在正式项目中,很少会将这个参数设置为true。大部分情况下,我们需要在消费者处理程序的Received事件处理方法最后调用BasicAck方法,手动通知RabbitMQ。

 

1
2
3
4
5
6
7
        //
 
        // Summary:
 
        //     /// Acknowledge one or more delivered message(s). ///
 
        void BasicAck(ulong deliveryTag, bool multiple);



 

这样做的好处是,如果当前的消费者程序发生异常,RabbitMQ会自动分配一下一个可用的实例处理消息,或者等待当前实例重新连接,再发将消息发送过去

持久化机制

如果没有启动持久化机制,所有的消息队列和消息信息都是存储在服务器内存中。所以当RabbitMQ服务器停止运作或者发生错误的时候,所有的消息队列和消息队列中的消息都会丢失掉。为了能够避免丢失队列或者丢失消息,RabbitMQ提供了一种持久化机制。

RabbitMQ的持久化机制分为消息队列的持久化和消息的持久化。

 

消息队列持久化#

前一篇笔记中,Send和Receive程序都是用如下代码,对消息队列进行声明

1
2
3
4
5
6
7
8
9
channel.QueueDeclare(queue: "hello",
 
                        durable: false,
 
                        exclusive: false,
 
                        autoDelete: false,
 
                        arguments: null);



 

durable就是是否启用消息队列持久化的参数。

注:RabbitMQ不允许重新定义一个已经存在的消息队列,即一个消息队列的参数只有当第一次创建的时候才能配置,后面如果修改配置参数不会起作用。

 

消息持久化#

前一篇笔记中,当发送一个消息的时候,我们使用了如下代码

1
2
3
4
5
6
7
8
9
channel.BasicPublish(exchange: "",
 
                        routingKey: "hello",
 
                        basicProperties: null,
 
                        body: body
 
                    );



其中有一个参数basicProperties, 我们没有设置他的。

这里我们修改一下,创建一个BasicProperties配置,然后设置他的Persistent属性为true

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
var properties = channel.CreateBasicProperties();
 
                    properties.Persistent = true;
 
  
 
                    channel.BasicPublish(exchange: "",
 
                        routingKey: "hello",
 
                        basicProperties: properties,
 
                        body: body
 
                    );



 

Round-Robin调度

Round-Robin调度即循环调度,RabbitMQ的任务分发默认使用是循环调度。即按照消费者程序实例的连接顺序,依次发送消息。

 

例:如果有2个实例,实例A和实例B, 循环调度发送消息的顺序即A,B,A,B,A,B…..

循环调度的缺点是,它不会考虑实例是否正在处理消息,它只是按照实例的连接顺序,发送消息给实例进行处理,这样就可能导致某些消息处理实例一直处理资源密集型消息任务,导致消息任务处理速度下降。

以2个实例为例,实例A和实例B, 奇数次的消息任务都是资源密集型的消息任务,这样实例A就会堆积很多未完成的任务。

Fair调度

Fair调度,即公平调度,它与Round-Robin调度的区别就是,它可以为每个消费者程序实例设置一个处理任务的上限。

当消费者实例的消息任务数量(待进行任务数量+正在进行的任务数量)达到设置的上限,RabbitMQ就不会再给他分配新的消息任务,除非当该实例的消息任务数量小于设置的上限,RabbitMQ才有可能发送新的消息给该实例处理

 

RabbitMQ中,我们可以调用channel实例的BasicQos方法设置每个实例处理消息的上限。

例: 设置最大处理上限为1

1
channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false);



 

 

修改程序

Send#

  1. 定义新的消息队列task_queue, 启用队列持久化
  2. 启用消息持久化
  3. 使用程序启动参数来决定发送的

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
static void Main(string[] args)
 
        {
 
            var factory = new ConnectionFactory()
 
            {
 
                HostName = "localhost"
 
            };
 
  
 
            using (var connection = factory.CreateConnection())
 
            {
 
                using (var channel = connection.CreateModel())
 
                {
 
                    channel.QueueDeclare(queue: "work_queue",
 
                        durable: true,
 
                        exclusive: false,
 
                        autoDelete: false,
 
                        arguments: null);
 
                    
 
                    string message = args[0];
 
                    var body = Encoding.UTF8.GetBytes(message);
 
  
 
                    var properties = channel.CreateBasicProperties();
 
                    properties.Persistent = true;
 
  
 
                    channel.BasicPublish(exchange: "",
 
                        routingKey: "work_queue",
 
                        basicProperties: properties,
 
                        body: body
 
                    );
 
  
 
                    Console.WriteLine("[x] Sent {0}", message);
 
                }
 
            }
 
        }
 
  
 
  



Receive#

  1. 定义新的消息队列task_queue, 启用队列持久化
  2. 启用消息持久化
  3. 使用Fair调度,每个消费者实例最多处理一个消息
  4. Received事件中添加代码Thread.Sleep(4000), 模拟资源密集操作
  5. 取消自动确认消息
  6. 手动确认消息

 

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
static void Main(string[] args)
 
        {
 
            var factory = new ConnectionFactory() { HostName = "localhost" };
 
  
 
            using (var connection = factory.CreateConnection())
 
            {
 
                using (var channel = connection.CreateModel())
 
                {
 
                    channel.QueueDeclare(queue: "work_queue",
 
                        durable: true,
 
                        exclusive: false,
 
                        autoDelete: false,
 
                        arguments: null);
 
  
 
                    channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false);
 
  
 
                    var consumer = new EventingBasicConsumer(channel);
 
  
 
                    consumer.Received += (model, ea) =>
 
                    {
 
                        var body = ea.Body;
 
                        var message = Encoding.UTF8.GetString(body);
 
                        Console.WriteLine("[x] Received {0}", message);
 
  
 
                        channel.BasicAck(ea.DeliveryTag, false);
 
                    };
 
  
 
                    channel.BasicConsume(queue: "work_queue", autoAck: false, consumer: consumer);
 
  
 
                    Console.Read();
 
                }
 
            }
 
        }



 

最终效果

 

 

 

posted @   LamondLu  阅读(461)  评论(0编辑  收藏  举报
编辑推荐:
· 如何编写易于单元测试的代码
· 10年+ .NET Coder 心语,封装的思维:从隐藏、稳定开始理解其本质意义
· .NET Core 中如何实现缓存的预热?
· 从 HTTP 原因短语缺失研究 HTTP/2 和 HTTP/3 的设计差异
· AI与.NET技术实操系列:向量存储与相似性搜索在 .NET 中的实现
阅读排行:
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· 分享 3 个 .NET 开源的文件压缩处理库,助力快速实现文件压缩解压功能!
· Ollama——大语言模型本地部署的极速利器
· DeepSeek如何颠覆传统软件测试?测试工程师会被淘汰吗?
点击右上角即可分享
微信分享提示
主题色彩