RabbitMQ学习笔记(二) 工作队列
什么是工作队列?
工作队列(又名任务队列)是RabbitMQ提供的一种消息分发机制。当一个Consumer实例正在进行资源密集任务的时候,后续的消息处理都需要等待这个实例完成正在执行的任务,这样就导致消息挤压,后续的消息不能及时的处理。
RabbitMQ的工作队列机制允许同一个Consumer的多个实例同时监听消息队列,如果发现某个Consumer实例的处理任务未完成,就自动将消息转给其他未工作的Consumer实例,从而达到平衡负载的效果。
消息确认机制
前一篇笔记中,Receive程序创建消息消费者的时候,我们将autoAck参数设置为true, 即自动确认消息。
channel.BasicConsume(queue: "hello", autoAck: true, consumer:consumer);
自动确认的意思就是当消费者程序接收到消息之后,会自动给RabbitMQ一个收到消息的反馈。RabbitMQ会自动将这条消息删除,而不去关心消费者程序实例是否正确处理了这条消息,这样的缺点是一旦消费者程序实例出错,这条消息就丢失了。
所以在正式项目中,很少会将这个参数设置为true。大部分情况下,我们需要在消费者处理程序的Received事件处理方法最后调用BasicAck方法,手动通知RabbitMQ。
// // Summary: // /// Acknowledge one or more delivered message(s). /// void BasicAck(ulong deliveryTag, bool multiple);
这样做的好处是,如果当前的消费者程序发生异常,RabbitMQ会自动分配一下一个可用的实例处理消息,或者等待当前实例重新连接,再发将消息发送过去
持久化机制
如果没有启动持久化机制,所有的消息队列和消息信息都是存储在服务器内存中。所以当RabbitMQ服务器停止运作或者发生错误的时候,所有的消息队列和消息队列中的消息都会丢失掉。为了能够避免丢失队列或者丢失消息,RabbitMQ提供了一种持久化机制。
RabbitMQ的持久化机制分为消息队列的持久化和消息的持久化。
消息队列持久化
前一篇笔记中,Send和Receive程序都是用如下代码,对消息队列进行声明
channel.QueueDeclare(queue: "hello", durable: false, exclusive: false, autoDelete: false, arguments: null);
durable就是是否启用消息队列持久化的参数。
注:RabbitMQ不允许重新定义一个已经存在的消息队列,即一个消息队列的参数只有当第一次创建的时候才能配置,后面如果修改配置参数不会起作用。
消息持久化
前一篇笔记中,当发送一个消息的时候,我们使用了如下代码
channel.BasicPublish(exchange: "", routingKey: "hello", basicProperties: null, body: body );
其中有一个参数basicProperties, 我们没有设置他的。
这里我们修改一下,创建一个BasicProperties配置,然后设置他的Persistent属性为true
var properties = channel.CreateBasicProperties(); properties.Persistent = true; channel.BasicPublish(exchange: "", routingKey: "hello", basicProperties: properties, body: body );
Round-Robin调度
Round-Robin调度即循环调度,RabbitMQ的任务分发默认使用是循环调度。即按照消费者程序实例的连接顺序,依次发送消息。
例:如果有2个实例,实例A和实例B, 循环调度发送消息的顺序即A,B,A,B,A,B…..
循环调度的缺点是,它不会考虑实例是否正在处理消息,它只是按照实例的连接顺序,发送消息给实例进行处理,这样就可能导致某些消息处理实例一直处理资源密集型消息任务,导致消息任务处理速度下降。
以2个实例为例,实例A和实例B, 奇数次的消息任务都是资源密集型的消息任务,这样实例A就会堆积很多未完成的任务。
Fair调度
Fair调度,即公平调度,它与Round-Robin调度的区别就是,它可以为每个消费者程序实例设置一个处理任务的上限。
当消费者实例的消息任务数量(待进行任务数量+正在进行的任务数量)达到设置的上限,RabbitMQ就不会再给他分配新的消息任务,除非当该实例的消息任务数量小于设置的上限,RabbitMQ才有可能发送新的消息给该实例处理
RabbitMQ中,我们可以调用channel实例的BasicQos方法设置每个实例处理消息的上限。
例: 设置最大处理上限为1
channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false);
修改程序
Send
- 定义新的消息队列task_queue, 启用队列持久化
- 启用消息持久化
- 使用程序启动参数来决定发送的
static void Main(string[] args) { var factory = new ConnectionFactory() { HostName = "localhost" }; using (var connection = factory.CreateConnection()) { using (var channel = connection.CreateModel()) { channel.QueueDeclare(queue: "work_queue", durable: true, exclusive: false, autoDelete: false, arguments: null); string message = args[0]; var body = Encoding.UTF8.GetBytes(message); var properties = channel.CreateBasicProperties(); properties.Persistent = true; channel.BasicPublish(exchange: "", routingKey: "work_queue", basicProperties: properties, body: body ); Console.WriteLine("[x] Sent {0}", message); } } }
Receive
- 定义新的消息队列task_queue, 启用队列持久化
- 启用消息持久化
- 使用Fair调度,每个消费者实例最多处理一个消息
- Received事件中添加代码
Thread.Sleep(4000)
, 模拟资源密集操作 - 取消自动确认消息
- 手动确认消息
static void Main(string[] args) { var factory = new ConnectionFactory() { HostName = "localhost" }; using (var connection = factory.CreateConnection()) { using (var channel = connection.CreateModel()) { channel.QueueDeclare(queue: "work_queue", durable: true, exclusive: false, autoDelete: false, arguments: null); channel.BasicQos(prefetchSize: 0, prefetchCount: 1, global: false); var consumer = new EventingBasicConsumer(channel); consumer.Received += (model, ea) => { var body = ea.Body; var message = Encoding.UTF8.GetString(body); Console.WriteLine("[x] Received {0}", message); channel.BasicAck(ea.DeliveryTag, false); }; channel.BasicConsume(queue: "work_queue", autoAck: false, consumer: consumer); Console.Read(); } } }
最终效果