消息队列 MQ

消息队列 MQ

消息队列都有什么应用场景?

项目里具体应用在哪里?

是什么一个业务场景,这个业务场景有什么挑战?如果不用mq会怎样,使用mq会给我们带来什么好处,解决了什么问题?

各个MQ都有什么优缺点?

1、消息队列常见的场景有很多,但是比较核心的有3个:解耦、异步、削峰;

1.1 解耦:

首先说一下不使用mq会产生的耦合场景

 

 

 

下面是MQ解耦的一个流程:

 

 

 

 

1.2 异步

没有用MQ的时的同步接收消息

 

 

 

 

使用MQ后异步接收消息

 

 

 

 

总结:没有使用MQ系统执行反馈给用户的时间很长,用户体验很不好,使用MQ消息队列后,系统执行的时间大大缩短,用户体验好。

 

1.3 削峰

没有使用MQ系统的访问情况

 

 

 

 

 

使用MQ来进行削峰的场景

 

 

 

 

总结:削峰就是高峰期大量的用户请求进来,被MQ削掉,大量的用户请求被积压在MQ里,高峰期过后请求降低,系统执行的速度还是原来的速度,所有请求在MQ里积压的时间也不会太长

 

MQ的其他应用场景,比如分布式的最终一致性,点对点请求等,

 

2、在系统中使用MQ虽然有这么多好处,但是也偷很对缺点。

 

2.1 系统可用性降低:

系统引入的外部依赖越多,越容易挂掉,本来A系统调用BCD三个系统的接口就好了,ABCD四个系统正常运转,没啥问题,但是当加入MQ进来后,一旦MQ挂了,整套系统崩溃了。

2.2 系统复杂性提高:

使用MQ后,系统要考虑的问题变多,进而导致系统的复杂性提高,比如,系统A需要给系统B发送一条消息,但是MQ出行问题,导致消息重复的发送给B个系统,导致B系统内部插入了两条一模一样的数据,这就需要考虑怎么保证消息没有重复消费?

怎么处理消息丢失的情况?

比如系统A需要发送一台消息给系统B,但是到MQ的时候,MQ出现问题,导致消息丢失

怎么保证消息传递的顺序性?

比如系统A西药给系统B发送1、2、3、4 四条消息,但是到MQ的时候,消息顺序错乱,导致系统B拿到的是一个错乱的数据

还有一种情况就是,系统A需要给系统BCD发送消息,但是系统BCD都挂掉了,就会导致MQ里积压了大量的消息。

2.3 一致性问题:

A系统处理完了直接返回成功了,人都以为你这个请求就成功了;但是问题是,要是BCD三个系统那里,BD两个系统写库成功了,结果C系统写库失败了,咋整?你这数据就不一致了。

 

所以消息队列实际是一种非常复杂的架构,你引入它有很多好处,但是也得针对它带来的坏处做各种额外的技术方案和架构来规避掉,最好之后,你会发现,妈呀,系统复杂度提升了一个数量级,也许是复杂了10倍。但是关键时刻,用,还是得用的。。。

 

3、kafka、activemq、rabbitmq、rocketmq都有什么优点和缺点啊?

 

常见的MQ其实就这几种

 

特性 ActiveMQ RabbitMQ RocketMQ Kafka
单机吞吐量 万级,吞吐量比RocketMQ和Kafka要低了一个数量级 万级,吞吐量比RocketMQ和Kafka要低了一个数量级 10万级,RocketMQ也是可以支撑高吞吐的一种MQ 10万级别,这是kafka最大的优点,就是吞吐量高。 一般配合大数据类的系统来进行实时数据计算、日志采集等场景
topic数量对吞吐量的影响     topic可以达到几百,几千个的级别,吞吐量会有较小幅度的下降 这是RocketMQ的一大优势,在同等机器下,可以支撑大量的topic topic从几十个到几百个的时候,吞吐量会大幅度下降 所以在同等机器下,kafka尽量保证topic数量不要过多。如果要支撑大规模topic,需要增加更多的机器资源
时效性 ms级 微秒级,这是rabbitmq的一大特点,延迟是最低的 ms级 延迟在ms级以内
可用性 高,基于主从架构实现高可用性 高,基于主从架构实现高可用性 非常高,分布式架构 非常高,kafka是分布式的,一个数据多个副本,少数机器宕机,不会丢失数据,不会导致不可用
消息可靠性 有较低的概率丢失数据   经过参数优化配置,可以做到0丢失 经过参数优化配置,消息可以做到0丢失
功能支持 MQ领域的功能极其完备 基于erlang开发,所以并发能力很强,性能极其好,延时很低 MQ功能较为完善,还是分布式的,扩展性好 功能较为简单,主要支持简单的MQ功能,在大数据领域的实时计算以及日志采集被大规模使用,是事实上的标准
优劣势总结 非常成熟,功能强大,在业内大量的公司以及项目中都有应用 偶尔会有较低概率丢失消息 而且现在社区以及国内应用都越来越少,官方社区现在对ActiveMQ 5.x维护越来越少,几个月才发布一个版本 而且确实主要是基于解耦和异步来用的,较少在大规模吞吐的场景中使用 erlang语言开发,性能极其好,延时很低; 吞吐量到万级,MQ功能比较完备 而且开源提供的管理界面非常棒,用起来很好用 社区相对比较活跃,几乎每个月都发布几个版本分 在国内一些互联网公司近几年用rabbitmq也比较多一些 但是问题也是显而易见的,RabbitMQ确实吞吐量会低一些,这是因为他做的实现机制比较重。 而且erlang开发,国内有几个公司有实力做erlang源码级别的研究和定制?如果说你没这个实力的话,确实偶尔会有一些问题,你很难去看懂源码,你公司对这个东西的掌控很弱,基本职能依赖于开源社区的快速维护和修复bug。 而且rabbitmq集群动态扩展会很麻烦,不过这个我觉得还好。其实主要是erlang语言本身带来的问题。很难读源码,很难定制和掌控。 接口简单易用,而且毕竟在阿里大规模应用过,有阿里品牌保障 日处理消息上百亿之多,可以做到大规模吞吐,性能也非常好,分布式扩展也很方便,社区维护还可以,可靠性和可用性都是ok的,还可以支撑大规模的topic数量,支持复杂MQ业务场景 而且一个很大的优势在于,阿里出品都是java系的,我们可以自己阅读源码,定制自己公司的MQ,可以掌控 社区活跃度相对较为一般,不过也还可以,文档相对来说简单一些,然后接口这块不是按照标准JMS规范走的有些系统要迁移需要修改大量代码 还有就是阿里出台的技术,你得做好这个技术万一被抛弃,社区黄掉的风险,那如果你们公司有技术实力我觉得用RocketMQ挺好的 kafka的特点其实很明显,就是仅仅提供较少的核心功能,但是提供超高的吞吐量,ms级的延迟,极高的可用性以及可靠性,而且分布式可以任意扩展 同时kafka最好是支撑较少的topic数量即可,保证其超高吞吐量 而且kafka唯一的一点劣势是有可能消息重复消费,那么对数据准确性会造成极其轻微的影响,在大数据领域中以及日志采集中,这点轻微影响可以忽略 这个特性天然适合大数据实时计算以及日志收集

 

 

总结:

一般的业务系统要引入MQ,最早大家都用ActiveMQ,但是现在确实大家用的不多了,没经过大规模吞吐量场景的验证,社区也不是很活跃,所以大家还是算了吧,我个人不推荐用这个了;

RabbitMQ,但是erlang语言阻止了大量的java工程师去深入研究和掌控他,对公司而言,几乎处于不可控的状态,但是确实人是开源的,比较稳定的支持,活跃度也高;

不过现在确实越来越多的公司,会去用RocketMQ,确实很不错,但是我提醒一下自己想好社区万一突然黄掉的风险,对自己公司技术实力有绝对自信的,推荐用RocketMQ

所以中小型公司,技术实力较为一般,技术挑战不是特别高,用RabbitMQ是不错的选择;大型公司,基础架构研发实力较强,用RocketMQ是很好的选择

如果是大数据领域的实时计算、日志采集等场景,用Kafka是业内标准的,绝对没问题,社区活跃度很高,绝对不会黄,何况几乎是全世界这个领域的事实性规范

 

 

posted @ 2020-02-26 20:45  一勺兔子  阅读(391)  评论(0编辑  收藏  举报
Live2D