embedding模型——BGE-M3的搭建(以算力云平台为例)

本文对在算力云平台为基础搭建本地的embedding大模型bge-m3中遇到的问题做的一个汇总

https://github.com/datawhalechina/self-llm/blob/master/GLM-4/01-GLM-4-9B-chat%20FastApi%20%E9%83%A8%E7%BD%B2%E8%B0%83%E7%94%A8.md

上面是在算力云平台从零开始搭建清华GLM-4-9B-chat大模型的过程,本文算力云平台配置与其一致。

在终端运行以下命令

git lfs install
git clone https://www.modelscope.cn/Xorbits/bge-m3.git

笔者选择的是魔搭社区的源,也可以选择huggingFace的源。

算力云服务器的git版本可能不支持直接安装lfs,我们需要先执行以下命令:

sudo apt install git-lfs

然后再执行上面的两行命令即可成功下载BGE-M3模型。

 

posted @ 2024-07-05 17:59  YTARO  阅读(234)  评论(0编辑  收藏  举报