dremio PhysicalPlanReader 简单说明

dremio 在经过sql 解析,sql转换,优化器,物理执行计划,会包含一个基于jackson序列化的格式的执行计划信息(整体与drill是类似的)

提供的能力

  • 注册自定义的jackson 序列化处理模块(包含了protobuf),以及子类型(connectionReader 以及PhysicalOperator 都会包含)
  • 提供序列化以及反序列化能力(主要是protobuf 以及json 相关的,方便处理查询计划)

参考类图

 

 

SabotContext 方法中的初始化

  • 参考代码
 
this.reader = new PhysicalPlanReader(config, classpathScan, lpPersistence, endpoint, catalogService, this);
  • 其他模块的集成使用
    都会基于SabotContext 提供的reader provider 能力进行处理,比如MaestroServiceImpl 以及CommandCreator的调用,之后会通过参数传递给其他模块使用

说明

PhysicalPlanReader 主要是dremio 在不行阶段方便共享执行计划的一种方法(内部基于了json +protobuf+jackson),不少服务模块都间接依赖了此

参考资料

sabot/kernel/src/main/java/com/dremio/exec/planner/PhysicalPlanReader.java
sabot/kernel/src/main/java/com/dremio/exec/server/SabotContext.java
https://drill.apache.org/docs/drill-query-execution/
https://confusedcoders.com/data-engineering/apache-drill/understanding-apache-drill-logical-plan
sabot/kernel/src/main/java/com/dremio/exec/maestro/MaestroServiceImpl.java
sabot/kernel/src/main/java/com/dremio/exec/planner/sql/handlers/commands/CommandCreator.java

posted on   荣锋亮  阅读(33)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2019-01-11 sqler sql 转rest api 的docker 镜像构建(续)使用源码编译
2019-01-11 sqler sql 转rest api javascript 试用
2019-01-11 sqler sql 转rest api redis 接口使用
2019-01-11 sqler sql 转rest api 的docker image
2018-01-11 sentry docker-compsoe 安装以及简单使用

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示