Work Queue
1.概念
工作队列(又称任务队列)的主要思想是避免立即执行资源密集型任务,而不得不等待它完成。
相反我们安排任务在之后执行。我们把任务封装为消息并将其发送到队列。
在后台运行的工作进程将弹出任务并最终执行作业。当有多个工作线程时,这些工作线程将一起处理这些任务。
2.实现
- 生产者
public class Producer {
public static final String QUEUE_NAME = "hello";
public static void main(String[] args) throws Exception {
ConnectionFactory factory = new ConnectionFactory();
//连接RabbitMQ队列
factory.setHost("127.0.0.1");
//设置用户名 密码
factory.setUsername("guest");
factory.setPassword("guest");
//创建连接
Connection connection = factory.newConnection();
//获取信道
Channel channel = connection.createChannel();
channel.queueDeclare(QUEUE_NAME, false, false, false,null);
Scanner sc = new Scanner(System.in);
while(sc.hasNext()){
String message = sc.next();
channel.basicPublish("",QUEUE_NAME,null,message.getBytes(StandardCharsets.UTF_8));
}
}
}
- 消费者
public class Woker1 {
public static final String QUEUE_NAME = "hello";
public static void main(String[] args) throws Exception {
Channel channel = Utils.getChannel();
//声明
DeliverCallback deliverCallback = (counsumerTag , message) -> {
System.out.println(new String(message.getBody()));
};
CancelCallback cancelCallback = counsumerTag -> {
System.out.println("消息被中断");
};
System.out.println("Work1");
channel.basicConsume(QUEUE_NAME, true, deliverCallback,cancelCallback);
}
}
- 多线程启动消费者
选择第一项
3.消息应答
3.1 概念
消费者完成一个任务可能需要一段时间,如果其中一个消费者处理一个长的任务并仅只完成了部分突然它挂掉了,会发生什么情况。
RabbitMQ一旦向消费者传递了一条消息,便立即将该消息标记为则除。在这种情况下,突然有个消费者挂掉了,我们将丢失正在处理的消息。
以及后续发送给该消费这的消息,因为它无法接收到。
为了保证消息在发送过程中不丢失,RabbitMQ引入消息应答机制,
消息应答就是:消费者在接收到消息并且处理该消息之后,告诉RabbitMQ它已经处理了,RabbitMQ可以把该消息删除了。
3.2自动应答
消息发送后立即被认为已经传送成功,这种模式需要在高吞吐量和数据传输安全性方面做权衡,
因为这种模式如果消息在接收到之前,消费者那边出现连接或者channel关闭,那么消息就丢失了,
当然另一方面这种模式消费者那边可以传递过载的消息,没有对传递的消息数量进行限制
当然这样有可能使得消费者这边由于接收太多还来不及处理的消息,导致这些消息的积压,最终使得内存耗尽,最终这些消费者线程被操作系统杀死,
所以这种模式仅适用在消费者可以高效并以某种速率能够处理这些消息的情况下使用。
3.3 手动应答
- Channel. basicAck(用于肯定确认)
RabbitMQ已知道该消息并且成功的处理消息,可以将其丢弃了 - Channel. basicNack(用于否定确认)
- Chamel. basiceject(用于否定确认)
与Channel. basicNack相比少一个参数,不处理该消息了直接拒绝,可以将其丢弃了
3.4 消息重新入队
如果消费者由于某些原因失去连接(其通道己关闭,连接已关闭或TCP连接丢失),导致消息未发送ACK确认,RabbitMQ将了解到消息未完全处理,并将对其重新排队。
如果此时其他消费者可以处理,它将很快将其重新分发给另一个消费者。这样,即使某个消费者偶尔死亡,也可以确保不会丢失任何消息。
3.5 实现
- 生产者
public class Producer {
//消息在手动应答不丢失,重新放回队列消费
//第一次要先启动生产者
//当work2进程停止后 发送给他的消息由work1处理
public static final String QUEUE_NAME = "ack";
public static void main(String[] args) throws Exception {
ConnectionFactory factory = new ConnectionFactory();
//连接RabbitMQ队列
factory.setHost("127.0.0.1");
//设置用户名 密码
factory.setUsername("guest");
factory.setPassword("guest");
//创建连接
Connection connection = factory.newConnection();
//获取信道
Channel channel = connection.createChannel();
channel.queueDeclare(QUEUE_NAME, false, false, false,null);
Scanner sc = new Scanner(System.in);
while(sc.hasNext()){
String message = sc.next();
channel.basicPublish("",QUEUE_NAME,null,message.getBytes(StandardCharsets.UTF_8));
}
}
}
- 消费者1
public class Woker1 {
public static final String QUEUE_NAME = "ack";
public static void main(String[] args) throws Exception {
Channel channel = Utils.getChannel();
System.out.println("W1");
//手动应答
boolean autoAck = false;
//声明
DeliverCallback deliverCallback = (counsumerTag , message) -> {
try {
Thread.sleep(1000);
}catch (Exception e){
e.printStackTrace();
}
System.out.println(new String(message.getBody(), "UTF-8"));
//手动应答
/**
* 1.消息标记
* 2. 是否应答批量应答
*/
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = counsumerTag -> {
System.out.println("消息被中断");
};
System.out.println("Work1");
channel.basicConsume(QUEUE_NAME, autoAck, deliverCallback,cancelCallback);
}
}
- 消费者2
public class Woker2 {
public static final String QUEUE_NAME = "ack";
public static void main(String[] args) throws Exception {
Channel channel = Utils.getChannel();
System.out.println("W2");
//手动应答
boolean autoAck = false;
//声明
DeliverCallback deliverCallback = (counsumerTag , message) -> {
try {
Thread.sleep(5000);
}catch (Exception e){
e.printStackTrace();
}
System.out.println(new String(message.getBody(), "UTF-8"));
//手动应答
/**
* 1.消息标记
* 2. 是否应答批量应答
*/
channel.basicAck(message.getEnvelope().getDeliveryTag(), false);
};
CancelCallback cancelCallback = counsumerTag -> {
System.out.println("消息被中断");
};
System.out.println("Work2");
channel.basicConsume(QUEUE_NAME, true, deliverCallback,cancelCallback);
}
}
4.消息持久化
4.1 持久化
要想让消息实现持久化需要在消息生产者修改代码, MessageProperties.PERSISTENT_TEXT_PLAIN 添加这个属性。
将消息标记为持久化并不能完全保证不会丢失消息。
尽管它告诉RabbitMQ将消息保存到磁盘,但是这里依然存在当消息刚准备存储在磁盘的时候但是还没有存储完,消息还在缓存的一个间隔点。
此时并没有真正写入磁盘。持久性保证并不强,但是对于我们的简单任务队列而言,这已经绰绰有余了。
boolean durable = true;//持久化
channel.queueDeclare(QUEUE_NAME, durable, false, false,null);
//消息持久化,保存到磁盘
channel.basicPublish("",QUEUE_NAME, MessageProperties.PERSISTENT_TEXT_PLAIN,message.getBytes(StandardCharsets.UTF_8));
4.2 不公平分发
在最开始的时候我们学习到RabbitMQ分发消息采用的轮训分发,但是在某种场景下这种策略并不是很好
比方说有两个消费者在处理任务,其中有个消费者1处理任务的速度非常快,而另外一个消费者2s处理速度却很慢,
这个时候我们还是采用轮训分发的化就会到这处理速度快的这个消费者很大一部分时间处于空闲状态,而处理慢的那个消费者一直在干活
这种分配方式在这种情况下其实就不太好,但是RabbitMQ并不知道这种情况它依然很公平的进行分发。
为了避免这种情况,我们可以设置参数channel.basicQos(1);
意思就是如果这个任务我还没有处理完或者我还没有应答你,你先别分配给我,我目前只能处理一个任务
然后Rabbitmq就会把该任务分配给没有那么忙的那个空闲消费者
当然如果所有的消费者都没有完成手上任务,队列还在不停的添加新任务,队列有可能就会遇到队列被撑满的情况
这个时候就只能添加新的worker或者改变其他存储任务的策略。
//不公平分发
channel.basicQos(1);
4.3 预取值
本身消息的发送就是异步发送的,所以在任何时候,channel 上肯定不止只有一个消息另外来自消费者的手动确认本质上也是异步的。
因此这里就存在一个末确认的消息缓冲区, 因此希望开发人员能限制此缓冲区的大小,以避免缓冲区里面无限制的未确认消息问题。
这个时候就可以通过使用basic.qos方法设置“预取计数”值来完成的。该值定义通道上允许的未确认消息的最大数量。
一旦数量达到配置的数量,RabbitMQ将停止在通道上传递更多消息,除非至少有一个未处理的消息被确认,
例如,假设在通道上有未确认的消息5、6、7, 8,并且通道的预取计数设置为4,此时RabbitMQ将不会在该通道上再传递任何
消息,除非至少有一个未应答的消息被ack.比方说tag=6这个消息刚刚被确认ACK, RabbitMQ将会感知
这个情况到并再发送一条消息消息应答和QoS预取值对用户吞吐量有重大影响。通常,增加预取将提高
向消费者传递消息的速度。虽然自动应答传输消息速率是最佳的,但是,在这种情况下已传递但尚未处理
的消息的数量也会增加,从而增加了消费者的RAM消耗(随机存取存储器)应该小心使用具有无限预处理
的自动确认模式或手动确认模式,消费者消费了大量的消息如果没有确认的话,会导致消费者连接节点的
内存消耗变大,所以找到合适的预取值是一个反复试验的过程,不同的负载该值取值也不同100到300范
围内的值通常可提供最佳的吞吐量,并且不会给消费者带来太大的风险。预取值为1是最保守的。当然这
将使吞吐量变得很低,特别是消费者连接延迟很严重的情况下,特别是在消费者连接等待时间较长的环境
稍微高一点才是最好
//预取值
channel.basicQos(2);
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek 开源周回顾「GitHub 热点速览」
· 物流快递公司核心技术能力-地址解析分单基础技术分享
· .NET 10首个预览版发布:重大改进与新特性概览!
· AI与.NET技术实操系列(二):开始使用ML.NET
· 单线程的Redis速度为什么快?