litellm ollama 通过proxy api 进行模型创建以及自定义计费
摘要:
关于计费我以前简单介绍过,可以通过ui 配置,同时对于计费费用可以使用api 获取,实际上我们可以直接通过api 创建模型的时候进行自定义计费配置,以下是一个简单说明 参考api 定义 使用 通过curl 模式,注意此数据实际会存储到db 中,注意配置文件中关于db 信息的添加 curl -X 'P 阅读全文
posted @ 2024-08-09 08:00 荣锋亮 阅读(85) 评论(0) 推荐(0) 编辑