欢迎交流与分享|

linux服务器离线安装ollama

一、前言

公司服务器在线安装ollama总是超时连接不上,想着本质就是个安装包,离线安装也可以。固有了这样的一篇博客记录一下。

二、流程

1、查看服务器cpu架构

执行指令

lscpu

image

# x86_64 CPU选择下载ollama-linux-amd64
# aarch64|arm64 CPU选择下载ollama-linux-arm64

2、下载对应压缩包,并移动至服务器端

然后进入ollama的GitHubrelease界面,根据cpu架构下载tgz压缩包:

https://github.com/ollama/ollama/releases/

image

下载可以使用迅雷代理,对于没有魔法的网络环境比较友好。

3、解压压缩包

走到tgz文件夹路径,然后运行解压指令即可

sudo tar -C /usr -xzf ollama-linux-amd64.tgz

4、运行ollama

新开终端执行指令:

ollama serve

再新开终端,键入

ollama -v

验证服务是否在运行。

三、enjoy yourself~~

之后就可以正常拉取模型,启动ollama服务、关闭ollama服务了。

本文作者:笑眯眯办大事

本文链接:https://www.cnblogs.com/Vsonic12138/p/18702984

版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 2.5 中国大陆许可协议进行许可。

posted @   笑眯眯办大事  阅读(1210)  评论(0编辑  收藏  举报
点击右上角即可分享
微信分享提示
评论
收藏
关注
推荐
深色
回顶
收起