bytewax python 流处理框架

bytewax python 流处理框架,支持批以及流处理,内部使用了timely-dataflow rust 库
bytewax 支持的模式主要是多worker 以及多process 核心还是单机场景,暂时不支持
多主机的集群模式,同时对于状态的存储以及recovery 使用了sqlite

说明

以前我也介绍过一个基于rust 的流处理引擎arroyo,目前发展很快,而且很强大,对于单机场景
bytewax 是一个值得试用的,集群环境arroyo 也是不错的选择

参考资料

https://github.com/bytewax/bytewax
https://docs.bytewax.io/
https://doc.arroyo.dev/introduction
https://github.com/ArroyoSystems/arroyo
https://github.com/TimelyDataflow/timely-dataflow
https://bytewax.io/docs/getting-started/design-patterns

posted on   荣锋亮  阅读(127)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2022-10-22 dremio 23 版本的试用简单说明
2022-10-22 dremio 21 版本之后反射No File System scheme matches 问题解决
2022-10-22 dremio 23 s3 插件默认ssl 配置问题
2022-10-22 dremio 23 版本docker 镜像jdk 说明
2022-10-22 dremio 23 社区版发布提供了
2022-10-22 dremio 官方 dbt 扩展
2022-10-22 minio gateway nas 参考配置

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示