随笔分类 -  Confluent Platform

摘要:kafka-connect-hive是基于kafka-connect平台实现的hive数据读取和写入插件,主要由source、sink两部分组成,source部分完成hive表数据的读取任务,kafka-connect将这些数据写入到其他数据存储层中,比如hive到ES数据的流入。sink部分完成向 阅读全文
posted @ 2021-06-18 13:05 非洲羚羊 阅读(469) 评论(0) 推荐(0) 编辑
摘要:流水查询需求 需求第一期: 基于TB级的在线数据,支持缴费帐单明细在线查询。大家都知道,像银行帐单流水一样,查几年的流水是常有的事。 支持的维度查询:帐期、欠费状态、日期范围、费用科目类型、房屋分类、房屋所属项目、关联合同信息、统计列 什么是实时数据 实时可以分为:实时采集、实时计算、高性能,底延时 阅读全文
posted @ 2020-10-18 16:38 非洲羚羊 阅读(1273) 评论(0) 推荐(2) 编辑

点击右上角即可分享
微信分享提示