2024年8月11日

ollama+ fastapi + litellm proxy + chainlit 进行chatapp 快速开发

摘要: 以前简单介绍过chainlit 以及litellm 以下是fastapi 集成chainlit ,使用litellm proxy 包装的标准openai 能力(同时还能实现计费) 参考玩法 环境准备 包含了litellm proxy 以及ollama 的比较简单,我就不多介绍了,具体可以通过静态配置 阅读全文

posted @ 2024-08-11 01:04 荣锋亮 阅读(51) 评论(0) 推荐(0) 编辑

导航