摘要: CBO与RBO并非对立关系,而是基于RBO的拓展 CBO = RBO + Cost Model + Model Iteration,通过代价模型,在一定的时间空间范围内通过动态规划算法来获得最终的执行计划 claicte的优化原理是,它假定如果一个表达式最优,那它的局部也是最优的。成本最优假设利用了 阅读全文
posted @ 2024-06-21 17:18 码以致用 阅读(41) 评论(0) 推荐(0) 编辑
摘要: FLIP-27: Refactor Source Interface 流批一体API 1、解耦SplitEnumerator与SplitReader SplitEnumerator:发现并分配splits(比如files/kafka_partitions) SourceReader:从splits里 阅读全文
posted @ 2024-06-21 00:32 码以致用 阅读(19) 评论(0) 推荐(0) 编辑
摘要: 经常会有人在面试过程中被问到做的最难的一个项目是什么?但很多人因为平时工作忙或有开源在做,面试准备少,或者临场反应差而给人留下不好的印象,也有很多人因为工作闲的整天看业界分享的ppt,而直接套用到自己的项目中,加上现成的漂亮话术,很容易俘获部分面试官的心。即使抛开诚实这一基本素质不谈,这对面试双方来 阅读全文
posted @ 2024-06-18 12:37 码以致用 阅读(18) 评论(0) 推荐(0) 编辑
摘要: 支持高吞吐数据摄入、变更追踪、高效分析的流批数据湖 基于LSM提升写入速度并降低写入消耗;基于有序的SortRun裁剪大部分数据以提升查询性能;支持多种merge引擎实现高性能流表打宽 特点 是 Flink SQL 的内置存储 Flink DDL 会真实创建或删除物理表,不再只是一个外部物理表的映射 阅读全文
posted @ 2024-06-16 00:02 码以致用 阅读(386) 评论(0) 推荐(0) 编辑
摘要: 2020.1.24 https://github.com/prestodb/presto/pull/14007 作用:使kudu connector支持kerberos认证,且在续期有效期过了后能自动获取新票据 目前:merged 2020.2.4 https://github.com/presto 阅读全文
posted @ 2023-02-06 20:06 码以致用 阅读(59) 评论(0) 推荐(0) 编辑
摘要: Flink是流计算领域的事实标准,而Flink sql的广泛应用极大地推动了这一标准的确立。 在mysql里我们可以很方便地通过show tables from db1 like '%a'直接从上百个库找出db1库a开头的表,但之前flink只支持show tables查出当前库的表,该如何改造呢? 阅读全文
posted @ 2023-01-04 10:41 码以致用 阅读(415) 评论(0) 推荐(0) 编辑
摘要: 从入行做数据库开发,到2018年过渡到大数据开发,可以说我已经与sql朝夕相处了七八年了,经常惊讶于简单的语法就能产生复杂的操作,而且还能根据索引等统计信息自动优化,不禁很想实现自己的sql语法,却不知道这是怎么做到的,繁忙的工作、庞大的语法解析及优化的储备知识让我迟迟难以行动起来,但只要出现契机并 阅读全文
posted @ 2022-05-13 17:30 码以致用 阅读(138) 评论(0) 推荐(0) 编辑
摘要: 工作七年以来,陆陆续续向社区提交了一些源码贡献,即Pull Request,简称PR。对于一个热爱技术的开发人员来说,能读懂被业界广泛使用的开源框架里的代码,甚至回馈社区,将是一件莫大的荣耀。下面简单聊聊这件大事,可能限于知识水平有些不足或片面的地方,希望多多理解。 一、我目前的社区贡献 以下列出的 阅读全文
posted @ 2021-05-24 17:22 码以致用 阅读(654) 评论(0) 推荐(4) 编辑
摘要: 一、数据内容 t20 ├── data │ ├── 00000-0-9c7ff22e-a767-4b85-91ec-a2771e54c209-00001.parquet │ └── 00000-0-ecd3f21c-1bc0-4cdc-8917-d9a1afe7ce55-00001.parquet 阅读全文
posted @ 2021-05-19 01:35 码以致用 阅读(1598) 评论(0) 推荐(0) 编辑
摘要: 是一个商用Flink sql平台,基于k8s部署 一、安装 提前安装好docker、k8s、kubectl、helm git clone --branch release-2.3 https://github.com/ververica/ververica-platform-playground.g 阅读全文
posted @ 2021-05-14 15:02 码以致用 阅读(1458) 评论(0) 推荐(0) 编辑