打赏

星辰大海ゞ

That which does not kill us makes us stronger!

导航

随笔分类 -  MQ

Flume监控指标项
摘要:配置监控 1、修改flume-env.sh 2、使用以下启动命令 指标项整理 OS监控项 json数据格式 指标项说明 source监控项 channel监控项 sink监控项 Flume启动关闭脚本: # vim flume.sh # sh flume.sh start 阅读全文

posted @ 2019-11-19 15:33 星辰大海ゞ 阅读(1295) 评论(0) 推荐(0) 编辑

使用Flume-Taildir和rocketmq-flume与RocketMQ的结合
摘要:一、Fume-Taidir Flume1.7.0加入了taildirSource作为agent的source。可以说是 Spooling Directory Source + Exec Source 的结合体。可以监控多个目录,并且使用正则表达式匹配该目录中的文件名进行实时收集,并记录每个文件最新消 阅读全文

posted @ 2019-11-18 18:02 星辰大海ゞ 阅读(1012) 评论(0) 推荐(0) 编辑

RocketMQ、Kafka、RabbitMQ的对比
摘要:RocketMQ 相比于 RabbitMQ、Kafka 具有主要优势特性有: 支持事务型消息(消息发送和DB操作保持两方的最终一致性,RabbitMQ 和Kafka 不支持) 支持结合 RocketMQ 的多个系统之间数据最终一致性(多方事务,二方事务是前提) 支持18个级别的延迟消息(Rabbit 阅读全文

posted @ 2019-11-15 19:28 星辰大海ゞ 阅读(1923) 评论(0) 推荐(0) 编辑

Kafka集群管理工具kafka-manager
摘要:一、kafka-manager简介 kafka-manager是目前最受欢迎的kafka集群管理工具,最早由雅虎开源,用户可以在Web界面执行一些简单的集群管理操作。具体支持以下内容: 管理多个集群 轻松检查群集状态(主题,消费者,偏移,代理,副本分发,分区分发) 运行首选副本选举 使用选项生成分区 阅读全文

posted @ 2019-11-15 16:00 星辰大海ゞ 阅读(1269) 评论(0) 推荐(0) 编辑

Kafka架构与原理
摘要:前言 kafka是一个分布式消息队列。具有高性能、持久化、多副本备份、横向扩展能力。生产者往队列里写消息,消费者从队列里取消息进行业务逻辑。一般在架构设计中起到解耦、削峰、异步处理的作用。 kafka对外使用topic的概念,生产者往topic里写消息,消费者从读消息。为了做到水平扩展,一个topi 阅读全文

posted @ 2019-11-14 19:03 星辰大海ゞ 阅读(480) 评论(0) 推荐(0) 编辑

RocketMQ安装部署
摘要:一、简介RocketMQ RocektMQ是阿里巴巴在2012年开源的一个纯java、分布式、队列模型的第三代消息中间件,不仅在传统高频交易链路有着低延迟的出色表现,在实时计算等大数据领域也有着不错的吞吐。 2016年11月11号,双十一大促见证了RocketMQ低延迟存储架构的成功试水,99.99 阅读全文

posted @ 2019-11-12 15:02 星辰大海ゞ 阅读(653) 评论(0) 推荐(0) 编辑

Flume NG简介及配置
摘要:Flume下载地址:http://apache.fayea.com/flume/ 官方使用文档: http://flume.apache.org/documentation.html 与RocketMQ的结合使用扩展:Rocket-Flume:https://github.com/apache/ro 阅读全文

posted @ 2016-05-30 15:39 星辰大海ゞ 阅读(1736) 评论(2) 推荐(0) 编辑

kafka相关资料
摘要:先来说一下Kafka与RabbitMQ的对比: RabbitMQ,遵循AMQP协议,由内在高并发的erlanng语言开发,用在实时的对可靠性要求比较高的消息传递上。 kafka是Linkedin于2010年12月份开源的消息发布订阅系统,它主要用于处理活跃的流式数据,大数据量的数据处理上。 Rabb 阅读全文

posted @ 2015-03-12 15:09 星辰大海ゞ 阅读(480) 评论(0) 推荐(0) 编辑

Rabbitmq集群高可用
摘要:MQ全称为Message Queue, 消息队列(MQ)是一种应用程序对应用程序的通信方法 RabbitMQ是流行的开源消息队列系统,用erlang语言开发 几个概念说明: Broker:简单来说就是消息队列服务器实体。 Exchange:消息交换机,它指定消息按什么规则,路由到哪个队列。 Queu 阅读全文

posted @ 2015-01-04 14:51 星辰大海ゞ 阅读(692) 评论(0) 推荐(0) 编辑