通过litellm + ollma 试用autolabel
摘要：
ollama 当前版本对于openai api 的兼容实际上部分是有问题的(目前官方在进行修改，但是暂时还没发布)，我们可以通过litelmm 的proxy 模式提供openaia 兼容的api，同时可以进行灵活的改写（比如openai 的gpt-3.5-turbo 实际使用的是michaelbor 阅读全文
posted @ 2024-08-23 08:00 荣锋亮 阅读(115) 评论(0) 推荐(0) 编辑
