fugue 分布式计算通用接口

fugue提供了通用方便分布式计算的接口,可以高效的访问大数据项目,提供了python,pandas,sql 等模式
如下图


从上图可以看出fugue 提供了一个语义层,我们的计算任务可以运行在ray,dask,spark,以及duckdb 中

参考架构

可以看出fugue 提供了不少方便的能力,比如sql,机器学习,以及流处理

说明

对于搞机器学习以及数据分析的场景,fugue 还是值得试用下的,官方文档也比较全

参考资料

https://github.com/fugue-project/fugue
https://fugue-tutorials.readthedocs.io/tutorials/fugue_sql/index.html
https://optuna.org/
https://hyperopt.github.io/hyperopt/

posted on   荣锋亮  阅读(38)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2021-12-23 wundergraph 又一个即将开源强大的graphl 引擎
2018-12-23 prime docker-compose 环境运行试用
2018-12-23 prime 又一个开源的基于graphql 的cms
2018-12-23 gaia 开源多语言的pipeline 平台
2017-12-23 orientdb 图数据库docker 安装试用
2013-12-23 转详解Zoosk千万用户实时通信背后的开源技术

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示