linux服务器离线安装ollama
一、前言
公司服务器在线安装ollama总是超时连接不上,想着本质就是个安装包,离线安装也可以。固有了这样的一篇博客记录一下。
二、流程
1、查看服务器cpu架构
执行指令
lscpu
# x86_64 CPU选择下载ollama-linux-amd64 # aarch64|arm64 CPU选择下载ollama-linux-arm64
2、下载对应压缩包,并移动至服务器端
然后进入ollama的GitHubrelease界面,根据cpu架构下载tgz压缩包:
https://github.com/ollama/ollama/releases/
下载可以使用迅雷代理,对于没有魔法的网络环境比较友好。
3、解压压缩包
走到tgz文件夹路径,然后运行解压指令即可
sudo tar -C /usr -xzf ollama-linux-amd64.tgz
4、运行ollama
新开终端执行指令:
ollama serve
再新开终端,键入
ollama -v
验证服务是否在运行。
三、enjoy yourself~~
之后就可以正常拉取模型,启动ollama服务、关闭ollama服务了。
本文作者:笑眯眯办大事
本文链接:https://www.cnblogs.com/Vsonic12138/p/18702984
版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 2.5 中国大陆许可协议进行许可。
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步