litellm 配置embedding 模型

litellm 对于embedding模型的配置实际与普通模式的配置是一样的,embedding 有特定的,同时chat 模型也都有embedding 能力

参考配置

通过proxy 模式

model_list:
  - model_name: text-embedding-ada-002
    litellm_params: 
      model: ollama/michaelborck/refuled
      api_base: http://localhost:11434
      api_key: demo

说明

目前ollama 官方也提供了不少专用embedding 模型,详细的可以参考链接

参考资料

https://litellm.vercel.app/docs/embedding/supported_embedding
https://ollama.com/blog/embedding-models
https://ollama.com/library/nomic-embed-text

posted on   荣锋亮  阅读(127)  评论(0编辑  收藏  举报

相关博文:
阅读排行:
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
历史上的今天:
2021-08-24 cube.js 基于queryRewrite 进行安全控制
2019-08-24 cube.js 通过presto-gateway 进行连接
2019-08-24 presto-gateway nodejs client
2019-08-24 presto-gateway 试用以及docker 镜像制作
2018-08-24 ory Oathkeeper cloud native 访问认证平台
2018-08-24 golang 自定义importpath

导航

< 2025年3月 >
23 24 25 26 27 28 1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30 31 1 2 3 4 5
点击右上角即可分享
微信分享提示