随笔分类 - Kafka
摘要:Java读文件写入kafka 文件格式 840271 103208 0 0.0 insert 84e66588-8875-4411-9cc6-0ac8302408bf 3 2 4 wangxiao 0.0 0 0.0 9927525 1619330049000 normal 1bd221d73805
阅读全文
摘要:一.Kafka概述 1.1 定义 Kafka是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。 消息队列是解决生产中同步异步问题,解耦,削峰。 应用场景:一般用于实时业务,离线偶尔用来削峰。 二.Kafka快速入门 2.1 安装部署 集群
阅读全文
摘要:一.简单实现 需求:根据 flume 监控 exec 文件的追加数据,写入 kafka 的 test-demo 分区,然后启用 kafka-consumer 消费 test-demo 分区数据。 需求分析 1)flume的配置文件 在hadoop102上创建flume的配置文件 # define a
阅读全文