bytewax python 流处理框架

bytewax python 流处理框架,支持批以及流处理,内部使用了timely-dataflow rust 库
bytewax 支持的模式主要是多worker 以及多process 核心还是单机场景,暂时不支持
多主机的集群模式,同时对于状态的存储以及recovery 使用了sqlite

说明

以前我也介绍过一个基于rust 的流处理引擎arroyo,目前发展很快,而且很强大,对于单机场景
bytewax 是一个值得试用的,集群环境arroyo 也是不错的选择

参考资料

https://github.com/bytewax/bytewax
https://docs.bytewax.io/
https://doc.arroyo.dev/introduction
https://github.com/ArroyoSystems/arroyo
https://github.com/TimelyDataflow/timely-dataflow
https://bytewax.io/docs/getting-started/design-patterns

posted on 2023-10-22 08:26  荣锋亮  阅读(70)  评论(0编辑  收藏  举报

导航