摘要: 在某些场景的架构里,可能需要用到多个集群,我们把集群间的数据复制叫作镜像,Kafka 内置的跨集群复制工具叫作 MirrorMaker。 一、跨集群镜像的使用场景 区域集群和中心集群:有时候一个公司会有多个数据中心,该公司在每个城市都有一个数据中心,它们收集所在城市的供需信息,并调整商品价格。这些信 阅读全文
posted @ 2021-10-19 09:08 湮天霸神666 阅读(454) 评论(0) 推荐(0) 编辑
摘要: 在使用 Kafka 构建数据管道时,通常有两种使用场景 : 第一种,把 Kafka 作为数据管道的两个端点之一 ,例如,把 Kafka 里的数据移动到 S3 上,或者把 MongoDB 里的数据移动到 Kafka 里;第二种,把 Kafka 作为数据管道两个端点的中间媒介,例如,为了把 Twitte 阅读全文
posted @ 2021-10-19 09:07 湮天霸神666 阅读(231) 评论(0) 推荐(0) 编辑
摘要: 一、可靠性保证 ACID 是关系型数据库普遍支持的标准可靠性保证。ACID 指的是原子性、一致性、隔离性和持久性。如果一个供应商说他们的数据库遵循ACID 规范,其实就是在说他们的数据库支持与事务相关的行为。 那么 Kafka 可以在哪些方面作出保证呢? Kafka 可以保证分区消息的顺序。如果使用 阅读全文
posted @ 2021-10-19 09:06 湮天霸神666 阅读(271) 评论(0) 推荐(0) 编辑
摘要: 一、zookeeper Kafka 使用 Zookeeper 来维护集群成员的信息。每个 broker 都有一个唯一标识符, 这个标识符可以在配置文件里指定, 也可以自动生成。 在 broker 启动的时候, 它通过创建临时节点把自己的 ID 注册到 zookeeper。Kafka 组件订阅 Zoo 阅读全文
posted @ 2021-10-19 09:01 湮天霸神666 阅读(307) 评论(0) 推荐(0) 编辑