摘要: Flink 实战之维表关联 在实际的生产应用场景中,实时流式数据与维表数据的关联并生成宽表是极为常见的需求。面对这样的需求,存在多种维表关联方式可供选择。本文聚焦于其中三种常见方式展开具体实现与研究,分别是 1. 预加载维表、2. 异步 IO 3. 广播维表。 为了让读者更直观、深入地理解这三种实现方式,本文采用了实验和图解原理相结合的方法,不仅如此,还对每种方法的优点和缺点进行了细致比较。此外,为了便于读者实践和进一步探索,每种实现方式都附上了源码,同时搭配动态效果图,让复杂的技术内容变得更加清晰易懂。 阅读全文
posted @ 2025-02-24 15:07 watermark's 阅读(28) 评论(0) 推荐(0) 编辑
摘要: Flink 实战之 Real-Time DateHistogram DateHistogram 用于根据日期或时间数据进行分桶聚合统计。它允许你将时间序列数据按照指定的时间间隔进行分组,从而生成统计信息,例如每小时、每天、每周或每月的数据分布情况。Elasticsearch 就支持 DateHistogram 聚合,在关系型数据库中,可以使用 GROUP BY 配合日期函数来实现时间分桶。但是当数据基数特别大时,或者时间分桶较多时,这个聚合速度就非常慢了。如果前端想呈现一个时间分桶的 Panel,这个后端接口的响应速度将非常感人。于是我决定用 Flink 做一个实时的 DateHistogram。 阅读全文
posted @ 2024-11-19 12:42 watermark's 阅读(191) 评论(0) 推荐(1) 编辑
摘要: Flink 实战之从 Kafka 到 ES 在大数据处理领域,Flink消费Kafka数据并将其写入到ElasticSearch是极为常见的业务场景。然而,要确保数据能精准无误、一条不差地从Kafka经Flink最终落入ElasticSearch,实现端到端的数据一致性,并非易事。这背后的关键在于对Flink的Checkpoint机制有着深刻且透彻的理解。为了帮助大家更好地掌握其中的奥秘,本文别具匠心地采用了实验与图解原理相结合的方式。通过精心设计的实验,让大家直观感受数据流转过程;再辅以生动形象的图解,深入剖析Checkpoint机制如何保障数据一致性,带你一探究竟。 阅读全文
posted @ 2024-11-12 14:46 watermark's 阅读(279) 评论(0) 推荐(0) 编辑
摘要: 异构数据源DDL自动转换 异构数据源 DDL 转换工具,目前支持 MySQL、Oracle、PostgreSQL 和达梦数据库之间的转换。 阅读全文
posted @ 2024-10-30 11:00 watermark's 阅读(312) 评论(0) 推荐(1) 编辑
摘要: Vue 实现图片下拉选择控件 vue 图片下拉选择控件 阅读全文
posted @ 2024-09-05 23:21 watermark's 阅读(642) 评论(0) 推荐(2) 编辑
摘要: 用 300 行代码手写提炼 Spring 核心原理 [3] 手写一个 mini 版本的 Spring 框架是一个很好的实践项目,可以让你对框架的核心概念和实现有更深刻的理解。接下来我们从 0-1 逐层深入,一步一步揭开 Spring 的神秘面纱。 阅读全文
posted @ 2024-07-22 07:35 watermark's 阅读(18) 评论(0) 推荐(0) 编辑
摘要: 用 300 行代码手写提炼 Spring 核心原理 [2] 手写一个 mini 版本的 Spring 框架是一个很好的实践项目,可以让你对框架的核心概念和实现有更深刻的理解。接下来我们从 0-1 逐层深入,一步一步揭开 Spring 的神秘面纱。 阅读全文
posted @ 2024-07-21 23:48 watermark's 阅读(14) 评论(0) 推荐(0) 编辑
摘要: 用 300 行代码手写提炼 Spring 核心原理 [1] 手写一个 mini 版本的 Spring 框架是一个很好的实践项目,可以让你对框架的核心概念和实现有更深刻的理解。接下来我们从 0-1 逐层深入,一步一步揭开 Spring 的神秘面纱。 阅读全文
posted @ 2024-07-21 22:41 watermark's 阅读(20) 评论(0) 推荐(0) 编辑
摘要: Flink CDC 实时同步 Oracle 本文主要介绍了使用 Flink CDC 实现 Oracle 到 Oracle 的数据实时同步。 阅读全文
posted @ 2024-06-20 07:56 watermark's 阅读(1945) 评论(2) 推荐(1) 编辑
摘要: 【Flink 日常踩坑】Could not find ExecutorFactory in classpath Flink 遇到了报错 Could not find ExecutorFactory in classpath,原来是 maven 打包 SPI 的姿势不对~ 阅读全文
posted @ 2024-05-16 22:21 watermark's 阅读(886) 评论(0) 推荐(0) 编辑
点击右上角即可分享
微信分享提示