摘要: 1. Kafka集群partition replication默认自动分配分析 下面以一个Kafka集群中4个Broker举例,创建1个topic包含4个Partition,2 Replication;数据Producer流动如图所示: (1) (2)当集群中新增2节点,Partition增加到6个 阅读全文
posted @ 2017-03-08 16:19 _1900 阅读(4236) 评论(1) 推荐(0) 编辑
摘要: Kafka的通讯协议 标签:kafka Kafka的Producer、Broker和Consumer之间采用的是一套自行设计的基于TCP层的协议。Kafka的这套协议完全是为了Kafka自身的业务需求而定制的,而非要实现一套类似于Protocol Buffer的通用协议。本文将介绍这套协议的相关内容 阅读全文
posted @ 2017-03-08 15:20 _1900 阅读(6554) 评论(0) 推荐(0) 编辑
摘要: 关于Kafka 根据Kafka官方的文档,Kafka可以被认为一个高大上的集群消息中间件,但是读了下以前一个朋友给的部署文档和Kafka的官方的文档。发现Kafka确实不错,真的可以说是集群消息中间件。 用topic来进行消息管理,每个topic包含多个part,每个part对应一个逻辑log,有多 阅读全文
posted @ 2017-03-08 12:05 _1900 阅读(2123) 评论(0) 推荐(1) 编辑
摘要: 最近开研究kafka,下面分享一下kafka的设计原理。kafka的设计初衷是希望作为一个统一的信息收集平台,能够实时的收集反馈信息,并需要能够支撑较大的数据量,且具备良好的容错能力. 1、持久性 kafka使用文件存储消息,这就直接决定kafka在性能上严重依赖文件系统的本身特性.且无论任何OS下 阅读全文
posted @ 2017-03-08 12:04 _1900 阅读(815) 评论(0) 推荐(0) 编辑
摘要: 引言 Kafka中的Message是以topic为基本单位组织的,不同的topic之间是相互独立的。每个topic又可以分成几个不同的partition(每个topic有几个partition是在创建topic时指定的),每个partition存储一部分Message。借用官方的一张图,可以直观地看 阅读全文
posted @ 2017-03-08 12:00 _1900 阅读(3330) 评论(1) 推荐(0) 编辑