embedding模型——BGE-M3的搭建(以算力云平台为例)

本文对在算力云平台为基础搭建本地的embedding大模型bge-m3中遇到的问题做的一个汇总

https://github.com/datawhalechina/self-llm/blob/master/GLM-4/01-GLM-4-9B-chat%20FastApi%20%E9%83%A8%E7%BD%B2%E8%B0%83%E7%94%A8.md

上面是在算力云平台从零开始搭建清华GLM-4-9B-chat大模型的过程,本文算力云平台配置与其一致。

在终端运行以下命令

git lfs install
git clone https://www.modelscope.cn/Xorbits/bge-m3.git

笔者选择的是魔搭社区的源,也可以选择huggingFace的源。

算力云服务器的git版本可能不支持直接安装lfs,我们需要先执行以下命令:

sudo apt install git-lfs

然后再执行上面的两行命令即可成功下载BGE-M3模型。

 

posted @   YTARO  阅读(2528)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· 分享一个免费、快速、无限量使用的满血 DeepSeek R1 模型,支持深度思考和联网搜索!
· 基于 Docker 搭建 FRP 内网穿透开源项目(很简单哒)
· ollama系列1:轻松3步本地部署deepseek,普通电脑可用
· 按钮权限的设计及实现
· 【杂谈】分布式事务——高大上的无用知识?
历史上的今天:
2023-07-05 redis初探——redis配置和redis的数据类型简述
点击右上角即可分享
微信分享提示