LLMOps平台对比 dify vs bisheng

Posted on 2024-05-15 11:53  菜筐的技术之路  阅读(445)  评论(0编辑  收藏  举报

 

 

dify

bisheng

功能完备性、稳定性

较为完备和稳定,从模型调优、可观测性、知识库管理等方面都优于bisheng

升级全部docker容器搞定,操作简易

功能完备性差一些,主要是核心团队在开发,issue较多

如:助手运行时调LLM节点报错

根据历史版本升级手册,升级操作较为复杂,需要进行环境配置以及依赖包的一些升级

商用程度

商用版提供专业支持团队,从部署到线上问题排查

商用版支持SSO、高阶的可观测性、模型的负载均衡等

 

商用版和开源版基本一致

区别在于功能手册中标黄的部分

 

workflow编排

较为僵硬,只支持单流,code类型节点支持代码脚本执行

较为灵活,且支持自定义节点,支持python脚本等

知识库

除标准文档解析,也支持notion 以及网页导入以及Api管理数据集等功能

支持自己定义embedding模型

知识库解析有智能模式,需要消耗token,普通模式不需要,区别待测试

只支持标准文档解析,但是关于知识的切分(长度、分隔符等)、召回以及生成部分可以给用户进行进一步配置

知识库解析免费

开源社区

贡献者较多

基本是核心团队2-3人在维护主要功能

敏感内容审查

提供了标准插件 支持API和代码扩展

https://docs.dify.ai/v/zh-hans/guides/application-design/extension/api_based_extension/moderation

待考察

模型

支持各个厂商一键导入,平台发起调用

仅支持自己部署模型,提供SFT微调模块