litellm proxy 模式试用
摘要：
litellm 支持灵活的proxy 模式可以更加方便得控制后端llm 以及特性，以下简单说明下 proxy 使用 对于proxy 实际上就是一个api web sever 目前可以通过两种模式运行，一种是直接cli 指定模型的，还有一种是基于配置文件的 对于简单项目基于cli 是比较快速的方法，如 阅读全文
posted @ 2024-08-03 08:00 荣锋亮 阅读(220) 评论(0) 推荐(0) 编辑
