bytewax python 流处理框架
bytewax python 流处理框架,支持批以及流处理,内部使用了timely-dataflow rust 库
bytewax 支持的模式主要是多worker 以及多process 核心还是单机场景,暂时不支持
多主机的集群模式,同时对于状态的存储以及recovery 使用了sqlite
说明
以前我也介绍过一个基于rust 的流处理引擎arroyo,目前发展很快,而且很强大,对于单机场景
bytewax 是一个值得试用的,集群环境arroyo 也是不错的选择
参考资料
https://github.com/bytewax/bytewax
https://docs.bytewax.io/
https://doc.arroyo.dev/introduction
https://github.com/ArroyoSystems/arroyo
https://github.com/TimelyDataflow/timely-dataflow
https://bytewax.io/docs/getting-started/design-patterns