Loading

RabbitMQ学习笔记(二) 工作队列

什么是工作队列?

工作队列(又名任务队列)是RabbitMQ提供的一种消息分发机制。当一个Consumer实例正在进行资源密集任务的时候,后续的消息处理都需要等待这个实例完成正在执行的任务,这样就导致消息挤压,后续的消息不能及时的处理。

RabbitMQ的工作队列机制允许同一个Consumer的多个实例同时监听消息队列,如果发现某个Consumer实例的处理任务未完成,就自动将消息转给其他未工作的Consumer实例,从而达到平衡负载的效果。

消息确认机制

前一篇笔记中,Receive程序创建消息消费者的时候,我们将autoAck参数设置为true, 即自动确认消息。

channel.BasicConsume(queue: "hello", autoAck: true, consumer:consumer);

 

自动确认的意思就是当消费者程序接收到消息之后,会自动给RabbitMQ一个收到消息的反馈。RabbitMQ会自动将这条消息删除,而不去关心消费者程序实例是否正确处理了这条消息,这样的缺点是一旦消费者程序实例出错,这条消息就丢失了。

 

所以在正式项目中,很少会将这个参数设置为true。大部分情况下,我们需要在消费者处理程序的Received事件处理方法最后调用BasicAck方法,手动通知RabbitMQ。

 

        //

        // Summary:

        //     /// Acknowledge one or more delivered message(s). ///

        void BasicAck(ulong deliveryTag, bool multiple);



 

这样做的好处是,如果当前的消费者程序发生异常,RabbitMQ会自动分配一下一个可用的实例处理消息,或者等待当前实例重新连接,再发将消息发送过去

持久化机制

如果没有启动持久化机制,所有的消息队列和消息信息都是存储在服务器内存中。所以当RabbitMQ服务器停止运作或者发生错误的时候,所有的消息队列和消息队列中的消息都会丢失掉。为了能够避免丢失队列或者丢失消息,RabbitMQ提供了一种持久化机制。

RabbitMQ的持久化机制分为消息队列的持久化和消息的持久化。

 

消息队列持久化

前一篇笔记中,Send和Receive程序都是用如下代码,对消息队列进行声明

channel.QueueDeclare(queue: "hello",

                        durable: false,

                        exclusive: false,

                        autoDelete: false,

                        arguments: null);



 

durable就是是否启用消息队列持久化的参数。

注:RabbitMQ不允许重新定义一个已经存在的消息队列,即一个消息队列的参数只有当第一次创建的时候才能配置,后面如果修改配置参数不会起作用。

 

消息持久化

前一篇笔记中,当发送一个消息的时候,我们使用了如下代码

channel.BasicPublish(exchange: "",

                        routingKey: "hello",

                        basicProperties: null,

                        body: body

                    );



其中有一个参数basicProperties, 我们没有设置他的。

这里我们修改一下,创建一个BasicProperties配置,然后设置他的Persistent属性为true

 

var properties = channel.CreateBasicProperties();

                    properties.Persistent = true;

 

                    channel.BasicPublish(exchange: "",

                        routingKey: "hello",

                        basicProperties: properties,

                        body: body

                    );



 

Round-Robin调度

Round-Robin调度即循环调度,RabbitMQ的任务分发默认使用是循环调度。即按照消费者程序实例的连接顺序,依次发送消息。

 

例:如果有2个实例,实例A和实例B, 循环调度发送消息的顺序即A,B,A,B,A,B…..

循环调度的缺点是,它不会考虑实例是否正在处理消息,它只是按照实例的连接顺序,发送消息给实例进行处理,这样就可能导致某些消息处理实例一直处理资源密集型消息任务,导致消息任务处理速度下降。

以2个实例为例,实例A和实例B, 奇数次的消息任务都是资源密集型的消息任务,这样实例A就会堆积很多未完成的任务。

Fair调度

Fair调度,即公平调度,它与Round-Robin调度的区别就是,它可以为每个消费者程序实例设置一个处理任务的上限。

当消费者实例的消息任务数量(待进行任务数量+正在进行的任务数量)达到设置的上限,RabbitMQ就不会再给他分配新的消息任务,除非当该实例的消息任务数量小于设置的上限,RabbitMQ才有可能发送新的消息给该实例处理

 

RabbitMQ中,我们可以调用channel实例的BasicQos方法设置每个实例处理消息的上限。

例: 设置最大处理上限为1

channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false);



 

 

修改程序

Send

  1. 定义新的消息队列task_queue, 启用队列持久化
  2. 启用消息持久化
  3. 使用程序启动参数来决定发送的

 

static void Main(string[] args)

        {

            var factory = new ConnectionFactory()

            {

                HostName = "localhost"

            };

 

            using (var connection = factory.CreateConnection())

            {

                using (var channel = connection.CreateModel())

                {

                    channel.QueueDeclare(queue: "work_queue",

                        durable: true,

                        exclusive: false,

                        autoDelete: false,

                        arguments: null);

                   

                    string message = args[0];

                    var body = Encoding.UTF8.GetBytes(message);

 

                    var properties = channel.CreateBasicProperties();

                    properties.Persistent = true;

 

                    channel.BasicPublish(exchange: "",

                        routingKey: "work_queue",

                        basicProperties: properties,

                        body: body

                    );

 

                    Console.WriteLine("[x] Sent {0}", message);

                }

            }

        }

 

 



Receive

  1. 定义新的消息队列task_queue, 启用队列持久化
  2. 启用消息持久化
  3. 使用Fair调度,每个消费者实例最多处理一个消息
  4. Received事件中添加代码Thread.Sleep(4000), 模拟资源密集操作
  5. 取消自动确认消息
  6. 手动确认消息

 

static void Main(string[] args)

        {

            var factory = new ConnectionFactory() { HostName = "localhost" };

 

            using (var connection = factory.CreateConnection())

            {

                using (var channel = connection.CreateModel())

                {

                    channel.QueueDeclare(queue: "work_queue",

                        durable: true,

                        exclusive: false,

                        autoDelete: false,

                        arguments: null);

 

                    channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false);

 

                    var consumer = new EventingBasicConsumer(channel);

 

                    consumer.Received += (model, ea) =>

                    {

                        var body = ea.Body;

                        var message = Encoding.UTF8.GetString(body);

                        Console.WriteLine("[x] Received {0}", message);

 

                        channel.BasicAck(ea.DeliveryTag, false);

                    };

 

                    channel.BasicConsume(queue: "work_queue", autoAck: false, consumer: consumer);

 

                    Console.Read();

                }

            }

        }



 

最终效果

 

 

 

posted @ 2017-09-06 08:33  LamondLu  阅读(456)  评论(0编辑  收藏  举报