litellm 配置embedding 模型
litellm 对于embedding模型的配置实际与普通模式的配置是一样的,embedding 有特定的,同时chat 模型也都有embedding 能力
参考配置
通过proxy 模式
model_list:
- model_name: text-embedding-ada-002
litellm_params:
model: ollama/michaelborck/refuled
api_base: http://localhost:11434
api_key: demo
说明
目前ollama 官方也提供了不少专用embedding 模型,详细的可以参考链接
参考资料
https://litellm.vercel.app/docs/embedding/supported_embedding
https://ollama.com/blog/embedding-models
https://ollama.com/library/nomic-embed-text
【推荐】国内首个AI IDE,深度理解中文开发场景,立即下载体验Trae
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 全程不用写代码,我用AI程序员写了一个飞机大战
· DeepSeek 开源周回顾「GitHub 热点速览」
· 记一次.NET内存居高不下排查解决与启示
· MongoDB 8.0这个新功能碉堡了,比商业数据库还牛
· .NET10 - 预览版1新功能体验(一)
2021-08-24 cube.js 基于queryRewrite 进行安全控制
2019-08-24 cube.js 通过presto-gateway 进行连接
2019-08-24 presto-gateway nodejs client
2019-08-24 presto-gateway 试用以及docker 镜像制作
2018-08-24 ory Oathkeeper cloud native 访问认证平台
2018-08-24 golang 自定义importpath