deepin 20.9本地部署deepseek

部署ollama

部署ollama

# 创建目录
mkdir ollama
# 下载安装包
curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz
# 解压
tar -C ollama -xzf ollama-linux-amd64.tgz

启动服务

Start Ollama:

# 切换目录
cd ollama/bin
# 启动服务
ollama serve

查看版本

另外打开个终端

# ollama -v
> ollama version is 0.5.7

部署deepseek r1模型

# 拉取模型
ollama pull deepseek-r1:1.5b

如果需要更多,可以检索模型
https://ollama.com/search

运行模型deepseek

ollama run deepseek-r1:1.5b

创建为系统服务

# 创建服务文件
touch /etc/systemd/system/ollama.service

服务文件

[Unit]
Description=Ollama Service
After=network-online.target

[Service]
ExecStart=/home/john/ollama/bin/ollama serve
User=john
Group=john
Restart=always
RestartSec=3
Environment="PATH=$PATH"

[Install]
WantedBy=default.target

启动服务

sudo systemctl daemon-reload
sudo systemctl start ollama.service && sudo systemctl status ollama.service
posted @ 2025-02-12 10:42  jiftle  阅读(3)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek-R1本地部署如何选择适合你的版本?看这里
· 开源的 DeepSeek-R1「GitHub 热点速览」
· 传国玉玺易主,ai.com竟然跳转到国产AI
· 揭秘 Sdcb Chats 如何解析 DeepSeek-R1 思维链
· 自己如何在本地电脑从零搭建DeepSeek!手把手教学,快来看看! (建议收藏)
历史上的今天:
2017-02-12 如何练就好声音
2017-02-12 Log4j中配置日志文件相对路径
点击右上角即可分享
微信分享提示