消息队列的流派之争
一、MQ是什么
MQ通过将消息的发送和接收分离来实现应用程序的异步和解偶,但是这个只是MQ的效果而不是目的。MQ真正的目的是为了通讯,屏蔽底层复杂的通讯协议,
定义了一套应用层的、更加简单的通讯协议。一个分布式系统中两个模块之间通讯要么是HTTP,要么是自己开发的TCP,但是这两种协议其实都是原始的协议。
HTTP协议很难实现两端通讯——模块A可以调用B,B也可以主动调用A,如果要做到这个两端都要背上WebServer,而且还不支持长连接(HTTP 2.0的库根本
找不到)。TCP就更加原始了,粘包、心跳、私有的协议,想一想头皮就发麻。
MQ所要做的就是在这些协议之上构建一个简单的“协议”——生产者/消费者模型。MQ带给我的“协议”不是具体的通讯协议,而是更高层次通讯模型。
它定义了两个对象——发送数据的叫生产者;消费数据的叫消费者,提供一个SDK让我们可以定义自己的生产者和消费者实现消息通讯而无视底层通讯协议。
二、MQ的流派
2.1 有broker
一台服务器作为Broker,所有的消息都通过它中转。生产者把消息发送给它就结束自己的任务了,Broker则把消息主动推送给消费者(或者消费者主动轮询)。
-
重Topic流
kafka、JMS就属于这个流派,生产者会发送key和数据到Broker,由Broker比较key之后决定给那个消费者。
在这种模式下一个topic往往是一个比较大的概念,甚至一个系统中就可能只有一个topic,topic某种意义上就是queue。
如上图所示,Broker定义了三个队列,key1,key2,key3。如果你需要一条暴力的数据流(在乎性能而非灵活性)那么kafka是最好的选择。
-
轻Topic流
这种的代表是RabbitMQ(或者说是AMQP)。
生产者发送key和数据,消费者定义订阅的队列,Broker收到数据之后会通过一定的逻辑计算出key对应的队列,然后把数据交给队列。
注意到了吗?这种模式下解耦了key和queue,在这种架构中queue是非常轻量级的(在RabbitMQ中它的上限取决于你的内存),消费者关心的只是自己的queue;
生产者不必关心数据最终给谁只要指定key就行了,中间的那层映射在AMQP中叫exchange(交换机)。AMQP中有四种种exchange:
- Direct exchange:key就等于queue
- Fanout exchange:无视key,给所有的queue都来一份
- Topic exchange:key可以正则匹配queue
- Headers exchange:无视key,通过查看消息的头部元数据来决定发给那个queue(AMQP头部元数据非常丰富而且可以自定义)
这种结构的架构给通讯带来了很大的灵活性,我们能想到的通讯方式都可以用这四种exchange表达出来。
如果你需要一个企业数据总线(在乎灵活性),那么RabbitMQ绝对的值得一用。
2.2 无broker
此门派是AMQP的“叛徒”,某位道友嫌弃AMQP太“重”(那是他没看到用Erlang实现的时候是多么的行云流水) 所以设计了zeromq。
这位道友非常睿智,他非常敏锐的意识到——MQ是更高级的Socket,它是解决通讯问题的。所以ZeroMQ被设计成了一个“库”而不是
一个中间件,这种实现也可以达到——没有broker的目的。
节点之间通讯的消息都是发送到彼此的队列中,每个节点都既是生产者又是消费者。ZeroMQ做的事情就是封装出一套类似于scoket的API可以完成发送数据,
读取数据, 如果你仔细想一下其实ZeroMQ是这样的
顿悟了吗?Actor模型,ZeroMQ其实就是一个跨语言的、重量级的Actor模型邮箱库。你可以把自己的程序想象成一个actor,zeromq就是提供邮箱功能的库;
zeromq可以实现同一台机器的IPC通讯也可以实现不同机器的TCP、UDP通讯。如果你需要一个强大的、灵活、野蛮的通讯能力,别犹豫zeromq。
三、MQ只能异步吗
答案是否定了
1. ZeroMQ支持请求->应答模式
2. RabbitMQ提供了RPC是地地道道的同步通讯
3. 只有JMS、kafka这种架构才只能做异步。
我们很多人第一次接触MQ都是JMS之类的这种所以才会产生这种错觉。
四、总结
kafka,zeromq,rabbitmq代表了三种完全不同风格的MQ架构;关注点完全不同:
-
kafka在乎的是性能,速度
-
rabbitmq追求的是灵活
-
zeromq追求的是轻量级、分布式
如果你拿zeromq来做大数据量的传输功能,不是生产者的内存“爆掉”就是消费者被“压死”;
如果你用kafka做通讯总线那绝对的不会快只能更慢;
如果你想要rabbitmq实现分布式,那真的是难为它。
出处:
参考: