随笔分类 -  dremio

1 2 3 4 5 ··· 22 下一页

dremio
dremio 25.2 软件包以及github 源码更新了
摘要:昨天我说了dremio 发布了25.2 提供了新的catalog 支持,之后过了一段时间dremio同时也提供了软件包以及github 源码的更新 说明 25.1 版本构建关于dremio-js 的 私服问题在这次代码中也看到解决了,新功能代码可以看看 参考资料 https://github.com 阅读全文

posted @ 2024-10-26 08:13 荣锋亮 阅读(28) 评论(0) 推荐(0) 编辑

dremio 25.2 发布
摘要:就在昨天dremio 发布了25.2 版本,此版本对于catalog 的支持添加了两个新的(Polaris Catalog 以及Unity Catalog) 说明 其他主要是关于历史bug 的fix 对于新catalog ce 版本实际上只Polaris Catalog ,默认没开启,需要通过plu 阅读全文

posted @ 2024-10-25 23:47 荣锋亮 阅读(20) 评论(0) 推荐(0) 编辑

dremio 25.1 版本开始支持sql 预编译处理了
摘要:dremio 从25.1 版本开始,支持sql 预编译了,可以更好的提升系统的安全性 参考使用 传统jdbc 模式 Connection conn = DriverManager.getConnection("jdbc:dremio:direct=localhost:31010;schema=sys 阅读全文

posted @ 2024-10-04 14:24 荣锋亮 阅读(16) 评论(0) 推荐(0) 编辑

dremio25.1.1 发布
摘要:就在昨天dremio 发布了25.1.1 主要是一些bug 的fix,尤其是在25.1 版本对于script 保存的问题 说明 完整的变动信息可以参考官方文档,目前oss 代码以及下载包,docker 镜像已经都上传了,可以体验下 参考资料 https://docs.dremio.com/curre 阅读全文

posted @ 2024-10-03 12:56 荣锋亮 阅读(10) 评论(0) 推荐(0) 编辑

dremio 25.1 github 代码变动
摘要:dremio 25.1 已经发布了好几个礼拜了,以前说过github 社区版25.1 版本的没有提交最新的,最近看了下github 已经提交新的了 而且这次应该是比较完整的 构建上的一些问题 jdk 依赖 这个保持不变,同时看官方一些信息对于maven 构建已经调整了,有了不错的支持 ui 组件 目 阅读全文

posted @ 2024-09-28 11:30 荣锋亮 阅读(12) 评论(0) 推荐(0) 编辑

dremio 25.1 发布
摘要:就在今天dremio 发布了25.1 版本(社区版)同时提供了docker镜像以及下载地址 说明 目前官方还缺少release note 说明,目前来说github 代码尽管提交了,但是不是新的(只更新了maven package version),从简单测试上,的确有一些bug 修复,但是目前官方 阅读全文

posted @ 2024-09-05 18:45 荣锋亮 阅读(17) 评论(0) 推荐(0) 编辑

snowflake polaris iceberg rest catalog 代码发布到github 了
摘要:就在7月低snowflake 的 polaris 代码以及发布到github 了,以下是一些资料可以参考 说明 从介绍上polaris 实际上包含了不少nessie 的能力,后续如果与dremio 的集成,还是值得期待的,在今年dremio 的发布会上,说是会包含一个基于rest catalog 的 阅读全文

posted @ 2024-08-13 00:32 荣锋亮 阅读(21) 评论(0) 推荐(0) 编辑

dbt dremio 自定义的几个macro 简单说明
摘要:关于自定义schema 以前简单说明过,实际上dbt 支持了好几个预留的macro,可以方便进行自定义,比如schema,database,aliases,target dbt dremio adapter 的几个自定义macro 实际上就是上边说的,schemas,aliases,database 阅读全文

posted @ 2024-07-22 08:00 荣锋亮 阅读(20) 评论(0) 推荐(0) 编辑

dbt dremio nessie create table branch 问题解决简单说明
摘要:以前是简单说明过解决方法,以下通过实际代码,说明下解决 dbt dremio 集成nessie 内部处理简单说明 注意目前说明的场景是基于nessie 作为数据库配置的,而不是dbt 标准的space 玩法 整体处理 如下图,实际上和业务模型的定义有关系,包含了view,以及table,当然还有属于 阅读全文

posted @ 2024-07-21 01:21 荣锋亮 阅读(17) 评论(0) 推荐(0) 编辑

dbt create table branch 问题
摘要:属于社区有人的一个提问,实际上dremio 支持对于nessie source 特定branch 的 table 的创建,而且源码也有信息,只是官方文档缺少说明 branch创建表参考测试 一个简单sql CREATE table dbtv4.myappv5 AT BRANCH prod as se 阅读全文

posted @ 2024-07-20 08:00 荣锋亮 阅读(13) 评论(0) 推荐(0) 编辑

dremio 25.0.5 docker 镜像
摘要:就在今天dremio 提供了25.0.5 社区版的下载地址,但是目前docker 镜像暂时还没提供,以下是基于eclipse-temurin:11.0.23_9-jdk 基础镜像 的一个可用镜像 Dockerfile FROM eclipse-temurin:11.0.23_9-jdk LABEL 阅读全文

posted @ 2024-07-12 20:29 荣锋亮 阅读(16) 评论(0) 推荐(0) 编辑

dremio 25.0.5 社区版下载提供了
摘要:就在昨天dremio 提供了社区版的下载地址,此版本的变动核心是一些fix,新功能并不多 说明 目前源码暂时还没push 到github,同时docker 镜像也暂时未提供,后边体验下 参考资料 https://docs.dremio.com/current/release-notes/versio 阅读全文

posted @ 2024-07-12 07:51 荣锋亮 阅读(25) 评论(0) 推荐(0) 编辑

polaris-catalog 即将开源的apache iceberg catalog 服务
摘要:polaris-catalog是snowflake 即将开源的apache iceberg catalog 服务,实现上基于了iceberg 的rest api,这样就可以实现多引擎的数据处理,而不用进行数据的移动 参考多引擎集成 说明 从机制上也是支持dremio 的,但是因为databricks 阅读全文

posted @ 2024-07-12 06:08 荣锋亮 阅读(60) 评论(0) 推荐(0) 编辑

dremio 队列类型判断处理简单说明
摘要:使用过dremio 的基本都支持dremio 包含了一个队列的概念,以下简单说明下dremio 对于队列判断的处理 目前定义的队列类型 public enum QueueType { // TODO figure out split between capacities for below queu 阅读全文

posted @ 2024-06-05 08:00 荣锋亮 阅读(12) 评论(0) 推荐(0) 编辑

dremio FormatPlugin 设计上的一些限制-基于easy format 框架
摘要:对于FormatPlugin 我以前也零碎的介绍过一些,会和FormatCreator, FormatMatcher 存储插件等都有一些关系,核心主要还是对于 文件系统的格式处理,今天我在基于easy format 框架 自定义开发jsonline 格式化插件的时候发现目前dremio 对于支持的文 阅读全文

posted @ 2024-06-03 06:41 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

dremio 系统内部插件
摘要:dremio 不少处理都是基于插件开发的,以前我也简单说明过,以下是结合启动日志列一个相对完整的内部存储插件名称 目前系统内部插件 目前包含了如下几个,可以通过启动日志看出来 系统存储插件 INFORMATION_SCHEMA __jobResultsStore __logs __support _ 阅读全文

posted @ 2024-05-30 08:00 荣锋亮 阅读(14) 评论(0) 推荐(0) 编辑

dremio DatasetListingService 服务简单说明二
摘要:以前简单介绍过DatasetListingService,以下再说明下 创建 是通过DACDaemonModule 创建的 参考处理 final DatasetListingService localListing; if (isDistributedMaster) { // 默认实现是依赖Name 阅读全文

posted @ 2024-05-29 04:38 荣锋亮 阅读(4) 评论(0) 推荐(0) 编辑

dremio nginx proxy 问题简单说明二
摘要:以前说过基于修改dremio 服务的静态index.html 实际上还有一种方法就是直接通过nginx 的sub_filter 指令,以下是简单说明 配置 核心是nginx ,后端服务就不需要修改了 nginx.conf 核心是sub_filter 的匹配处理 worker_processes 1; 阅读全文

posted @ 2024-05-26 17:21 荣锋亮 阅读(5) 评论(0) 推荐(0) 编辑

dremio nginx proxy 问题简单说明
摘要:dremio ui 处理上部分直接依赖了location pathname 对于使用默认的/ 的proxy 是没有问题的,但是很多时候我们需要自己配置一个proxy path ,以下简单说明下问题,以及解决方法 环境准备 docker-compose version: "3" services: n 阅读全文

posted @ 2024-05-24 17:09 荣锋亮 阅读(19) 评论(0) 推荐(0) 编辑

dremio 分布式存储docker配置简单说明
摘要:对于dremio 分布式存储的配置我们直接修改配置文件,当然基于环境变量 参考配置 dremio: platform: linux/x86_64 image: dremio/dremio-oss:latest ports: - 9047:9047 - 31010:31010 - 32010:3201 阅读全文

posted @ 2024-05-18 22:18 荣锋亮 阅读(28) 评论(0) 推荐(0) 编辑

1 2 3 4 5 ··· 22 下一页

导航