本地部署deepseek
市面上面超级多攻略,鱼龙混杂。
听起来非常简单,但是将所有的文件全部下载到了C盘。因此,我打算出一个高质量攻略
从Ollama官方网站下载Ollama:
进入Ollama官方网站后,可以看到Ollama已经支持DeepSeek-R1的部署:
这样就能下载Ollama 安装包
打开安装包对应终端,输入一下命令,安装ollama
.\OllamaSetup.exe /DIR="D:\Ollama"
安装完成之后,就可以继续安装语言大模型
模型存储到其他盘
如果只是应用程序下载到了其他盘,在下载模型的时候,模型依然会默认下载到C盘,依然会占用很大的内存,接下来将展示如何将模型默认下载位置修改到其他盘。
-
打开系统"环境变量" :
- 在 Windows 搜索栏中输入 “环境变量”,选择 “编辑系统环境变量”。
- 在弹出的 “系统属性” 窗口中,点击 “环境变量” 按钮。
-
添加或修改 “OLLAMA_MODELS” 环境变量:
- 在 “系统变量” 或 “用户变量” 区域中,点击 “新建” (如果不存在
OLLAMA_MODELS
变量) 或选中OLLAMA_MODELS
变量并点击 “编辑” (如果已存在)。 - 变量名: 输入
OLLAMA_MODELS
(请确保全部大写)。 - 变量值: 输入您希望模型文件存储的路径
- 点击 “确定” 保存更改。
重启电脑保证修改生效
最后下载模型
在终端输入以下命令
ollama run deepseek-r1:1.5b
ollama run deepseek-r1:8b (本人电脑 i7 3060 使用此模型)
ollama run deepseek-r1:14b
如果中途下载速度非常慢,可以ctrl+d 中断下载,再次输入命令 重新下载
如果发现模型仍然下载到C盘,C:\Users\32761\.ollama 将此目录下的models文件,剪切至 刚刚系统变量中添加的指定目录
关闭开机自动启动
删除此目录下的 ollama图标即可 C:\Users\32761\AppData\Roaming\Microsoft\Windows\Start Menu
如果想要再次启动 deepseek 在命令行重新输入下载命令即可实现
ollama run deepseek-r1:1.5b