一些不错的开源大数据虚拟数据sql 查询引擎

以下就是一个简单的整理,核心在数据sql查询以及支持的联邦数据处理上

presto

一个通用的sql on anything 工具

apache drill

很不错的多数据源sql 查询引擎,schema on fly

dremio

很不错,从官方文档看有点对标presto,但是dremio 更强大

apache impala

从实践上算是一个虚拟数据sql 引擎,但是太复杂,与hadoop 体系集成会比较好

greenplum

greenplum 基本就是一个智能分析+ sql (oltp+olap) 平台,因为可以集成多数据源,而且内置了机器学习 
框架 ,我们直接可以基于sql进行数据处理(目前最新版本好像对于pg 的内核支持13了 ,很不错)

postgres fdw

说postgres fdw 是大数据的虚拟数据sql引擎有点牵强,但是postgres fdw 强大的扩展能力,以及生态,是一个 
很不错的选择,greenplum对于多数据源的支持基于fdw的

apache pinot

正在孵化的olap 项目,支持类sql 的查询 ,对于跨数据源的join 推荐通过presto解决

说明

以上是一个简单的梳理,还有好多其他比较好的平台工具,后边发现比较好的,补充完善

参考资料

https://prestodb.io/ 
https://drill.apache.org/ 
https://www.dremio.com/ 
https://impala.apache.org/ 
https://greenplum.org/ 
https://wiki.postgresql.org/wiki/Foreign_data_wrappers 
http://pinot.incubator.apache.org/

posted on   荣锋亮  阅读(1459)  评论(2编辑  收藏  举报

编辑推荐:
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
· 理解Rust引用及其生命周期标识(上)
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析
· 没有源码,如何修改代码逻辑?
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2019-10-08 typedi 强大的javascript以及typescript 依赖注入框架
2019-10-08 使用overnightjs typescript 注解开发expressjs 应用
2018-10-08 jaeger 使用ElasticSearch 作为后端存储
2018-10-08 nginx-opentracing 简单使用
2017-10-08 openfaas 架构介绍
2017-10-08 openfaas 简单试用
2017-10-08 openfaas cli 安装

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示