随笔分类 -  Kafka

摘要:Java读文件写入kafka 文件格式 840271 103208 0 0.0 insert 84e66588-8875-4411-9cc6-0ac8302408bf 3 2 4 wangxiao 0.0 0 0.0 9927525 1619330049000 normal 1bd221d73805 阅读全文
posted @ 2021-04-27 10:19 来自遥远的水星 阅读(726) 评论(0) 推荐(0) 编辑
摘要:一.Kafka概述 1.1 定义 ​ Kafka是一个分布式的基于发布/订阅模式的消息队列(Message Queue),主要应用于大数据实时处理领域。 ​ 消息队列是解决生产中同步异步问题,解耦,削峰。 应用场景:一般用于实时业务,离线偶尔用来削峰。 二.Kafka快速入门 2.1 安装部署 集群 阅读全文
posted @ 2020-07-08 21:13 来自遥远的水星 阅读(198) 评论(0) 推荐(0) 编辑
摘要:一.简单实现 需求:根据 flume 监控 exec 文件的追加数据,写入 kafka 的 test-demo 分区,然后启用 kafka-consumer 消费 test-demo 分区数据。 需求分析 1)flume的配置文件 在hadoop102上创建flume的配置文件 # define a 阅读全文
posted @ 2020-07-07 23:00 来自遥远的水星 阅读(1194) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示