dremio 文件夹数据分区

使用场景

基于s3进行文件存储，我们使用dremio查询，同时dremio 也提供了强大的文件夹过滤操作

参考图

 

 

查询

因为dremio会自定添加dirN 所以我们可以基于文件夹进行数据的过滤操作

说明

当然以上只是一种玩法，我们也可以基于时间分区，基于月份进行子分区，好处是不同月份的数据可能是不一样的，我们基于通用的格式进行数据处理

参考资料

https://docs.dremio.com/data-sources/files-and-directories/

posted on   荣锋亮  阅读(124)  评论(0)  编辑  收藏  举报

编辑推荐：
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识（上）
· 浏览器原生「磁吸」效果！Anchor Positioning 锚点定位神器解析
· 没有源码，如何修改代码逻辑？
阅读排行：
· 全程不用写代码，我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了，比商业数据库还牛
· .NET10 - 预览版1新功能体验（一）
历史上的今天：
2020-07-08 go-bindata + hcl 集成
2019-07-08 使用nginx 正向代理暴露k8s service && pod ip 外部直接访问
2018-07-08 nomad 集群搭建
2017-07-08 秘密共享
2017-07-08 Let’s Encrypt 将于 2018 年免费提供通配符证书

导航

< 2025年3月 >
日 一 二 三 四 五 六
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示