ollama-linux-离线安装说明

1. 官网下载ollama压缩包
    https://ollama.com/download/ollama-linux-amd64.tgz

sudo tar -C /usr -xzf ollama-linux-amd64.tgz   #解压安装
ollama serve
ollama -v

 

2. 添加systemctl服务启动文件
  添加服务文件:/etc/systemd/system/ollama.service

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_MODELS=/home/deepseed-r1/models"
Environment="OLLAMA_HOST=0.0.0.0:11434"

[Install]
WantedBy=default.target

 若修改端口号,需要在~/.bashrc文件中添加如下变量:

alias ollama='OLLAMA_HOST=localhost:新端口号 ollama'

这样再使用ollama ps之类的命令时,才不会报错,哦记得 source ~/.bashrc 

 

3. 如果上边文件中指定OLLAMA_MODELS位置,还需要设置ollama对AI模型目录的权限:

sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama
sudo usermod -a -G ollama $(whoami)
chown -R ollama:ollama /home/deepseed-r1/models

 需要外网访问记得开放防火墙11434端口。

 

4. 启动ollama服务
sudo systemctl daemon-reload
sudo systemctl enable ollama
sudo systemctl start ollama
sudo systemctl status ollama
ollama -v  #查看ollama版本

 


参考资料:https://github.com/ollama/ollama/blob/main/docs/linux.md

 

posted @ 2025-02-06 11:15  天海沙  阅读(8040)  评论(2)    收藏  举报