开源Multi-agent AI智能体框架aevatar.ai,欢迎大家贡献代码
2025-03-06 14:47 圣殿骑士 阅读(1864) 评论(22) 编辑 收藏 举报aevatar平台: https://github.com/aevatarAI/aevatar-station
aevatar 案例: https://github.com/aevatarAI/aevatar-gagents
-
引言 (Introduction)

-
背景与挑战 (Background & Challenges)

2.1 AI智能体系统隔离
2.2 单一LLM的局限性
2.3 检索增强生成(RAG)精度不足
2.4 缺乏事件追踪与可观测性
2.5 高部署与协作成本
-
总体目标与愿景 (Vision & Goals)

3.1 核心:aevatar框架
- Orleans使用“grains”(轻量级、隔离的微对象)来表示参与者或“智能体”。
- 一组silos(Orleans中的运行时主机)协调这些grains,使其可以分布在多台服务器上并进行扩展。
- 在此架构中,每个grain实际上是一个智能体(通常称为“GAgent”)。
- 图中展示了多层智能体分组。例如,一个“发布GAgent”协调多个“组成员GAgent”实例。
- 事件处理器管理异步触发器或状态变化,使智能体能够实时响应来自其他智能体的数据或更新。
- Semantic Kernel提供高级AI编排和提示链功能。
3.2 顶层:aevatar应用
- 市场:一个集中化的平台,用户可以发现、开发、管理和部署各种AI智能体。
- 智能体:执行特定任务或功能的独立AI智能体。这些智能体可以独立开发和部署。
- Webhook:aevatar可以无缝编排大量外部输入,将现实世界的触发器转换为结构化事件,供G-agent处理,从而实现与各种外部系统的持续、实时交互。
- Twitter智能体:监控推文、发布更新或与Twitter互动。
- Telegram智能体:与Telegram进行聊天交互。
- 编程智能体:帮助生成或审查代码。
- 营销智能体:执行营销任务,如活动管理。
- 运营智能体:处理运营任务。
- aelf智能体等。
3.3 环境(Web 2 / Web 3)
3.4 LLM集成
- OpenAI / ChatGPT
- Anthropic
- Meta
- Azure OpenAI
- Deepseek
- 以及其他更多…
3.5 数据与消息层
- Kafka:实时消息传递和事件流。
- MongoDB:基于文档的通用数据存储。
- Elasticsearch:大规模全文搜索和分析。
- Redis:用于缓存和高速访问的内存数据存储。
- Qdrant:专用向量存储。
3.6 部署与DevSecOps
- Kubernetes + Docker:跨集群的容器化和编排。
- GitHub Actions, GitOps, Argo:CI/CD管道和“GitOps”风格的部署,用于自动化、版本化发布。
- “DevSecOps”循环突出了以安全为中心的持续集成/持续部署实践。
3.7 多云与安全
- GCP、AWS、Azure:支持的云服务提供商。
- 额外的安全和可观测性工具,如Grafana(监控仪表板)、Vault(密钥管理)、Elasticsearch/Fluentd/Kibana(EFK日志和分析堆栈)等。
3.8 整体架构
- 每个aevatar应用(如Twitter智能体或编程智能体)都是一个Orleans“grain”(或一组grains),封装了专门的逻辑。
- 多智能体或“分组”方法协调大量grains,使它们能够通过Kafka、Redis或直接Orleans消息传递相互传递事件/消息。
- Semantic Kernel帮助编排更高级的AI推理、提示链和记忆/知识。
- 整个设置打包用于云部署(Kubernetes + Docker),并与日志、安全和监控解决方案(Grafana、Vault、EFK)集成。
- 这种组合提供了一个可扩展、容错且高度可扩展的平台,用于在多个领域(Web 2和Web 3)、多个云上运行AI智能体,同时具备强大的安全性和可观测性。
3.9 解决上述挑战
-
多智能体协作

-
统一的跨模型协作

-
多智能体RAG架构

- 灵活扩展:基于不同业务线或知识领域快速部署新智能体。
- 降噪:利用领域特定知识库减少无关信息干扰。
- 增强可信度:多个智能体之间的交叉验证。
- 可持续性:独立维护每个智能体的知识库,便于分而治之。
-
可视化与易用性

-
安全性与可扩展性

-
架构

-
aevatar框架

- 模块化:框架设计为模块化,允许开发者根据需要添加或移除组件。
- 可扩展性:新功能可以通过插件添加,而无需修改核心框架。
- 关注点分离:每个组件都有特定的职责,提升可维护性和可读性。
-
核心组件概述
- 负责管理分布式参与者(Grain)的生命周期和通信,为每个智能体提供有状态且可重放的执行环境,确保系统的高并发性和可扩展性。
- 每个子模块(如Telegram、Twitter、MicroAI、SocialAgent等)都是一个独立的GAgent,针对不同平台或场景实现特定的智能体逻辑,支持跨平台扩展。
- 提供日志存储、事件重放和快照管理的核心功能。支持多种后端存储选项(如MongoDB和Redis),并确保系统的可追溯性和审计能力。
- 所有关键的智能体事件(如接收的消息、状态更新、模型推理输出)都可以持久化,提供重放和审计能力。
- 对外提供REST/gRPC接口,并通过读写分离架构支持高效的内部数据查询和索引。结合Elasticsearch等解决方案,实现大规模数据的快速检索。
- 读写分离:系统可以独立处理智能体状态变更的写请求(事件)和外部查询接口。
- 结合Elasticsearch/MongoDB实现快速检索和多维度查询。
- 图形化管理工具,允许用户通过低代码/无代码方式配置多智能体协作流程、监控事件流并编辑业务逻辑。这显著降低了开发门槛,尤其对非技术用户友好。
-
GAgent多智能体协作模型
- 采用
GAgentBase<TState, TEvent>
作为抽象基类,智能体可以继承并实现自己的业务处理方法。

- GAgent:管理组内多个智能体的订阅、消息路由和事件协调,支持组内广播、点对点或基于树的事件传输。
-
多大型语言模型(LLM)编排
- 多管齐下:aevatar.ai通过
AIService
和AutoGen
机制集成对多个LLM(如GPT-4、Claude、Llama2等)的访问。 - 调度策略:根据任务类型、资源成本、复杂性等维度动态决定调用哪些模型。
- 模型适配层:在框架层面支持连接更多第三方或私有模型,为企业提供定制化的多语言模型管理。
-
云原生部署与安全合规

- Orleans Silo和智能体服务可以容器化,支持自动扩展(HPA)、服务发现和弹性负载均衡。
- 提供容器镜像安全扫描、CI/CD集成和基础设施即代码(IaC)部署,确保应用安全性和可追溯性。
- 通过AuthServer和OAuth/OpenID系统进行身份验证,支持多租户和基于角色的访问控制(RBAC)。
-
技术细节
- 用户 → aevatar GAgent:捕获用户的消息或命令。
- GAgent → aevatar框架:将结构化事件传递给框架(多智能体协作和AI交互)。
- aevatar框架 → 核心逻辑(RAG和LLM):RAG和LLM解析请求。
- 核心逻辑(RAG和LLM)→ 外部服务或知识/记忆库:检索数据或调用专门操作。
- aevatar框架 → 输出代理:格式化并准备最终输出。
- 输出 → GAgent → 用户:用户收到响应。

- 智能体创建与初始化:客户端请求GAgentFactory创建智能体,智能体使用StateLogEventStorage初始化状态,并通过StreamProvider设置订阅。
- 事件发布与处理:客户端(或其他系统)向智能体发布事件,智能体将事件追加到事件存储中,更新其内存状态,并在必要时发布到外部流。
- 状态恢复:在需要时,智能体从存储中检索快照,并应用所有后续事件,最终获得最新状态。
- 多智能体协作:系统可以将复杂任务拆分为更小的专门子任务,每个任务由适当的智能体处理。
- 动态流程:智能体按需激活和调用(虚拟参与者模型),允许在任务可拆分的场景中实现并发或并行调用。
- 与外部服务集成:知识模块可以无缝整合实时数据、领域文档或高级处理能力。
- 检索增强生成(RAG):智能体可以查询向量数据库或记忆存储,利用最新的上下文数据增强LLM或其他逻辑。
- 可扩展性与扩展性:每个组件都可以水平扩展,新的智能体或工具可以在不改变主要架构的情况下引入。
5.1 Orleans参与者模型与可扩展性
- 分布式参与者:每个智能体作为一个Grain,存储自己的状态和事件历史。Orleans处理调度和消息传递,消除了手动管理并发锁和网络通信的需求。
- 水平扩展:当系统需要处理更多对话或更高并发时,添加Silo节点可以扩展智能体实例并自动平衡负载。
5.2 GAgentBase设计与事件驱动架构
-
GAgentBase<TState, TStateLogEvent>:
- 继承
JournaledGrain<TState, StateLogEventBase<TStateLogEvent>>
,天然具备事件溯源能力。 - 通过
PublishToAsync/SubscribeToAsync
等方法,允许智能体自由组合和交互,形成多对多或多级事件流拓扑。
- 继承
-
EventWrapper:
- 为所有事件添加ID、时间戳和上下文等元数据,便于审计和调试,避免传统“黑箱AI”问题。
5.3 低代码/无代码编排与可视化

- 拖放流程设计:用户可以在仪表板上拖放智能体节点、配置事件路由并设置模型策略,而无需编写复杂的后端代码。
- 实时监控与日志重放:集成事件溯源日志,允许通过aevatar仪表板查看任何时刻的事件序列或智能体状态,帮助业务优化和维护故障排查。
5.4 可观测性与监控
- 分布式追踪:集成OpenTelemetry、Jaeger或Zipkin,可视化跟踪跨智能体/Grain的调用链。
- 指标与警报:收集系统指标(如QPS、延迟、错误率等),并基于Prometheus/Grafana实现实时警报。
- Orleans仪表板:可选的内置Orleans仪表板,显示运行时数据(如Grain激活数量、消息处理速率等)。
-
关键特性
6.1 多模型并行处理/动态切换
- 根据业务需求自动(或手动)在不同LLM之间切换。
- 能够分配多个模型同时处理子任务并合并结果。
6.2 高级任务编排与协作
- GAgent提供基于事件的协作机制,允许多个智能体并行处理复杂业务流程。
6.3 RAG集成
- 连接向量数据库/文档搜索引擎,使智能体能够从大规模知识库中检索并生成答案。
6.4 跨平台扩展
- 通过插件与Telegram、X、Slack等平台集成,快速构建多渠道聊天/通信场景。
6.5 开发者与非开发者友好
- 面向开发者:提供可编程的插件框架。
- 面向非技术人员:通过仪表板的低代码/无代码管理,快速上手。
-
用例

7.1 多智能体协作/自动化
-
跨部门智能体:
- Finance Agent(财务智能体)自动处理报销工作流程
- HR Agent(人力资源智能体)负责简历/履历筛选
- IT Agent(IT智能体)管理工单
- 各智能体可相互通知事件或汇总审批结果
-
低代码管理:
- 用户可在 aevatar Dashboard 中配置流程并设置触发条件
- 智能体在接到指令后,会根据事件流程自动执行
7.2 多语言客服/社交媒体智能体
-
Telegram/X 适配:
- 可部署多个智能体进行交互
- 支持多种通信渠道与多语言服务
7.3 区块链/金融/制造业中的行业应用
-
智能合约分析:
- 智能体从区块链中获取智能合约文本
- 执行风险检测和语言解析
- 发现异常时,向运营智能体推送警示
-
数据驱动的决策:
- 在制造行业,智能体可实时分析 IoT 传感器数据
- 并结合 LLM(大型语言模型)提供故障诊断或生产建议
-
当前的 AI 框架格局
8.1 对比表:aevatar intelligence x ElizaOS x G.A.M.E
对比方向
|
aevatar intelligence
|
ElizaOS
|
G.A.M.E
|
主要优势(Key Strength)
|
|
|
|
能力(Capabilities)
|
|
各个Agent只能同时使用同一种语言模型协作,之间目前无法交互、协作、集体做决策
|
各个Agent只能同时使用同一种语言模型协作,之间目前无法交互、协作、集体做决策
|
多语言模型(LLM)编排
|
通过 AutoGen 进行多LLM编排,适用于在任何类型的应用中进行复杂推理和决策
|
仅限于单一模型的 API 集成,没有多LLM自动化,不具备跨应用的灵活性
|
针对虚拟世界中的自然语言交互进行了优化,不适用于通用型应用
|
框架设计(Design)
|
模块化+延展性插件+动态集群管理 系统
|
模块化+延展性插件 系统
|
模块化+ 环境无关性 (environment agnostic)
|
目标用户(Target Audience)
|
终端用户与技术型开发者均适用
|
技术型开发者
|
非技术型用戶
|
编程语言(Coding Language)
|
无代码 或 低代码(no-code or low-code)
|
TypeScript/JavaScript
|
低代码 (Low-code)
|
可扩展性 (Scalability)
|
|
|
|
用例(Use Cases)
|
为区块链和金融等行业中的通用、可扩展、多领域逻辑而构建
|
为较小的网页项目和社区驱动的原型开发而构建
|
为游戏和元宇宙场景(包含通证经济集成)而构建
|
云原生 & DevOps (Cloud Native & DevOps)
|
先进的云原生 Kubernetes 部署,通过 DevSecOps & GitOps 提供强大的安全性
|
专注于速度,但缺乏广泛的自动化和合规机制
|
专注于性能,但未提供完整的云原生工具
|
维护 (Maintainability)
|
Agent-as-a-Service 通过Plugin进行功能迭代,无须用户自己部署服务。优化了对Agent开发和部署的操作。
|
Supabase 借助其后端即服务(Backend-as-a-Service)平台,为开发运维提供易用的部署方式
|
未确定 —— 闭源
|
代码获取 (Code Access)
|
开源
|
开源
|
闭源(黑盒)
|
平台集成 (Platform Integrations)
|
|
|
|
8.2 技术与商业价值
- 允许在同一个业务流程中调用多个大型语言模型
- 优化成本与性能
- aevatar Marketplace 提供低/无代码编辑器
- 大幅缩短智能体开发与运营周期
- 基于 Actor + Event Sourcing
- 系统可轻松处理数万级并发操作
- 所有交互历史可回放并进行审计
- 结合云原生 & DevSecOps & GitOps
- 在 Kubernetes 中实现自动化部署
- 确保安全与合规要求
-
路线图
9.1 短期规划
Teams
|
Done
|
Phase 1
|
Phase 2
|
aevatar-framework
|
🏆基础搭建 1.Multi-agent基础框架
|
🏆AI Gagent升级 1.更多LLM支持 2.Memory升级 3.Knowledge base 4.RAG升级
|
🏆AI Gagent升级 1.多模态 2.Knowledge base共享 3.自我反馈
|
🏆Marketplace 1.Gagent Marketplace标准 2.Ai组件 Marketplace标准
|
🏆编排 1.自然语言生成 2.可视化工作流面板
|
🏆编排升级 1.反馈与评估模块
|
|
|
4.任务调度
|
|
|
|
|
🏆Aevatar workflow sdk 1.权限体系 2.Gagent构建 3.Workflow构建
|
|
|
🏆Gagent类型丰富 1.系统Gagent 2.更丰富的社交媒体组件
|
🏆Gagent类型丰富 1.Aelf chain组件
|
|
aevatar-applications
|
🏆Pumpfun
|
🏆Aevatar workflow sdk 1.权限体系 2.Gagent构建 3.Workflow构建
|
🏆Station1.0 1.Agents即服务 2.Marketplace 3.Gagent&Swarms构建 4.Dashboard
|
|
🏆神秘Ai游戏
|
🏆AI大赛
|
|
|
|
AI大赛
|
|
9.2 长期规划
- 原生支持向量数据库
- 优化海量文档分块检索与 AI 答案生成
- 推出多行业插件生态系统
-
提供可即插即用的智能体模块,覆盖如:
- 金融风控
- 供应链管理
- 医疗健康
- 进一步深化服务网格集成
- 加强数据加密、流量管控与访问策略
- 支持对智能体进行实时人类反馈训练
- 持续优化对话质量、逻辑推理及行为决策
- 将多智能体协作从云原生拓展至物联网或其他 AI 智能体平台
-
总结
- 全面的多智能体协作:突破单一模型和封闭生态的限制,让不同 AI 智能体之间实现信息共享与高效通信。
- 可视化与低代码:大幅降低开发和维护门槛,帮助不同层级的用户快速落地 AI 智能体解决方案。
- 高并发与可追溯性:分布式 Actor 与事件溯源,确保在大规模场景中的稳定性与可审计性。
- 安全与可扩展性:云原生 DevSecOps 方案,既满足行业定制化需求,又确保合规。
aevatar平台: https://github.com/aevatarAI/aevatar-station
aevatar 案例: https://github.com/aevatarAI/aevatar-gagents
作者:圣殿骑士
出处:http://www.cnblogs.com/KnightsWarrior/
关于作者:专注于微软平台项目架构、管理和企业解决方案。自认在面向对象, 面向服务以及微服务领域有一定的造诣,熟悉设计模式、TDD、极限编程、领域驱动、架构设计、敏捷开发和项目管理。现主要从事.NET/.NET Core, Go, JavaScript/TypeScript, Azure/AWS等云计算方面的项目开发、架构、管理和企业培训工作。如有问题或建议,请多多赐教!
本文版权归作者和博客园共有,欢迎转载,但未经作者同意必须保留此段声明,且在文章页面明显位置给出原文连接。如有问题,可以邮件:KnightsWarrior(at)msn(dot)com
微博:圣殿骑士微博 联系我,非常感谢。
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 地球OL攻略 —— 某应届生求职总结
· 周边上新:园子的第一款马克杯温暖上架
· Open-Sora 2.0 重磅开源!
· .NET周刊【3月第1期 2025-03-02】
· [AI/GPT/综述] AI Agent的设计模式综述