随笔分类 -  kafka

kafka与rabbitmq的区别
摘要:(1)开发语言不同 1、RabbitMQ是高并发的erlanng语言开发。 2、kafka是基于Scala和Java语言开发,主要用于处理活跃的流式数据,大数据量的数据处理上。 (2)结构不同 1、RabbitMQ采用AMQP(Advanced Message Queuing Protocol,高级 阅读全文

posted @ 2020-09-03 17:03 hdc520 阅读(7799) 评论(0) 推荐(0) 编辑

kafka面试整理
摘要:1、kafka的选取机制 它负责管理整个集群中所有分区和副本的状态。当某个分区的leader副本出现故障时,由controller负责为该分区选举新的leader副本。当检测到某个分区的ISR集合发生变化时,由controller负责通知所有broker更新其元数据信息。当使用kafka-topic 阅读全文

posted @ 2020-05-01 21:24 hdc520 阅读(578) 评论(0) 推荐(0) 编辑

kafka API
摘要:(1)Producer的API 1、发送流程:Kafka 的 Producer 发送消息采用的是异步发送的方式。在消息发送的过程中,涉及到了两个线程——main 线程和 Sender 线程,以及一个线程共享变量——RecordAccumulator。main 线程将消息发送给 RecordAccum 阅读全文

posted @ 2020-04-27 22:04 hdc520 阅读(201) 评论(0) 推荐(0) 编辑

kafka的生产者与消费者
摘要:一、kafka的存储机制 (1)存储机制:Kafka 中消息是以 topic 进行分类的,生产者生产消息,消费者消费消息,都是面向 topic的。 topic 是逻辑上的概念,而 partition 是物理上的概念,每个 partition 对应于一个 log 文件,该 log 文件中存储的就是 p 阅读全文

posted @ 2020-04-22 14:59 hdc520 阅读(2013) 评论(0) 推荐(0) 编辑

kafka架构
摘要:一、架构图如下: (1)相关概念 1、Producer:消息生产者,向kafka broker发送消息的客户端 2、Consumer:消息消费者,是消费者群组的一部分即可能会有一个或者多个消费者共同读取一个主题。 3、ConsumerGroup:消费者组,由多个 consumer 组成。消费者组内每 阅读全文

posted @ 2020-04-20 15:49 hdc520 阅读(362) 评论(0) 推荐(0) 编辑

kafka概述
摘要:一、消息队列 (1)常见的消息队列:RocketMQ,kafka (2)传统消息队列的应用场景:异步处理,具体场景:用户为了使用某个应用,进行注册,系统需要发送注册邮件并验证短信。对这两个操作的处理方式有两种:串行及并行。 1、串行处理:新注册信息生成后,先发送注册邮件,再发送验证短信; 2、并行处 阅读全文

posted @ 2020-04-20 13:55 hdc520 阅读(154) 评论(0) 推荐(0) 编辑

导航