arroyo 基于rust开发的流处理引擎

arroyo 基于rust开发的流处理引擎

包含的特性

  • sql 以及rust pipelines
  • 可以直接每秒百万级别的事件
  • 支持windows 以及joins 的状态处理
  • 基于状态checkpointing 的支持容错以及恢复的pipelines
  • 通过dataflow 模型的及时流处理

使用场景

  • 安全以及欺诈事件捕捉
  • 实时产品分析
  • 数据仓库，数据湖实时数据进入
  • 实时机器学习特性生成

参考架构

 

 

状态处理

 

 

说明

arroyo 从架构上以及介绍上看着还是比较方便的，而且看着很强大， 值得学习研究

参考资料

https://github.com/ArroyoSystems/arroyo
https://doc.arroyo.dev/introduction

posted on   荣锋亮  阅读(600)  评论(0)  编辑  收藏  举报

相关博文：
· bytewax python 流处理框架
· arroyo sql 处理
· RAG 引擎 RAGFlow
· 计算引擎-Presto
· 11、复杂事件处理（CEP）引擎简介
阅读排行：
· 全程不用写代码，我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了，比商业数据库还牛
· .NET10 - 预览版1新功能体验（一）
历史上的今天：
2022-04-10 node canvas 服务器端canvas 进行图片组合
2022-04-10 coolify 使用到的几个nodejs 包
2022-04-10 coolify 项目代码结构
2022-04-10 coolify haproxy 集成简单说明
2021-04-10 k6 常见测试模式说明
2021-04-10 k6 使用参考
2021-04-10 dremio 开发测试简单说明

导航

< 2025年3月 >
日 一 二 三 四 五 六
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示