在本地电脑部署DeepSeek
一、下载安装 Ollama
部署DeepSeek要用到 Ollama,它支持多种大模型。
Ollama官网:ollama.com
下载安装Ollama,macOS、Linux 和 Windows都可以下载安装,这里选用Windows系统。
二、下载 DeepSeek-R1
1、进入Ollama官网,找到Models。
2、进入就可以看到deepseek-r1模型,如果没有,在搜索栏搜索即可。
3、选择对应的模型来下载,1.5b、7b、8b、14b、32b、70b或671b,这里有很多版本可选,模型越大,要求电脑内存、显卡等的配置越高。
4、找到Windows【开始菜单】,鼠标右键点击【终端管理员】。
5、复制下边7b的代码(例如 ollama run deepseek-r1)。
6、粘贴到PowerShell(管理员)运行框,然后回车。(这里会默认安装在C盘,注意C盘空间)出现下载等待窗口,等待下载完成。
7、下载完成后稍微等待,看到success,即部署完成。
8、部署完成,send a message,输入内容即可开始对话。
三、Chatbox前端搭建
通过第二步的操作,已经部署好DeepSeek,但每次使用都要在终端管理员里操作,相当繁琐。这里可以借助Chatbox,实现网页或客户端操作。
1、下载安装Chatbox
Chatbox官网:chatboxai.app/zh
进入官网下载安装Chatbox客户端。
2、点击设置,选择Ollama API
3、选择安装好的deepseek r1模型,保存即可
4、部署完成,就可以正常使用了。
四、Chrome浏览器插件
1,下载 pageassist(
github地址:https://github.com/n4ze3m/page-assist/releases/latest
下载 pageassist-1.5.1-chrome.zip(https://github.com/n4ze3m/page-assist/releases/download/v1.5.1/pageassist-1.5.1-chrome.zip)
2,将插件安装至Chrome浏览器
3, 打开设置>Ollama设置,配置Ollama URL(默认http://127.0.0.1:11434)
4,保存设置
PS:更改Ollama安装路径
- 下载之后如果点击直接安装(
install
)默认会安装在C
盘.
- 在这里面打开终端窗口执行(这个是更改路径)
OllamaSetup.exe /DIR=D:\Ollama
解释:
OllamaSetup.exe
: 这是一个安装程序的执行文件,通常用于安装Ollama
软件。/DIR=D:\Ollama
: 这是命令行参数,告诉安装程序将Ollama
安装到D
盘的Ollama
文件夹中。如果指定的目录不存在,安装程序通常会创建该文件夹。
安装程序的执行文件(OllamaSetup.exe) /DIR=path(path是一个路径)
- 这里面在安装的时候我们发现正在安装在
D
盘
PS:将deepseek模型安装到其他磁盘
1,在D:\Ollama.ollama\ 目录下新建一个文件夹,命名为 models。
2,找到 C:\Users\用户名\.ollama
路径下的 models
文件夹,将其剪切到 D:\Ollama\models 文件夹中。
3,配置系统的环境变量。
打开“控制面板” > “系统和安全” > “系统” > “高级系统设置” > “环境变量”,新增一个系统变量:
变量名: OLLAMA_MODELS
变量值: D:\Ollama\models
4,配置完成后,重启电脑刷新环境变量。
PS:局域网内其他电脑访问本机Deepseek
配置OLLAMA_HOST及OLLAMA_ORIGINS
1.突破本地限制:局域网访问
默认情况下,Ollama仅监听127.0.0.1:11434,仅允许本机访问。通过设置OLLAMA_HOST=0.0.0.0:端口号,可将服务绑定到所有网络接口,实现局域网内多设备共享模型资源。
2.解决跨域问题:Web UI集成
浏览器安全策略会阻止跨域请求,例如使用Open WebUI或LobeChat等前端工具时。配置OLLAMA_ORIGINS=*(允许所有来源)或指定域名列表(如http://localhost:3000,http://yourdomain.com"),可解除跨域限制。
**打开PowerShell(管理员)运行框,输入
OLLAMA_HOST=0.0.0.0:11434
OLLAMA_ORIGINS=*
**修改完成之后,重启ollama-webui就可以了。
PS:Page Assist 安装本地知识库并投喂RAG
1,在Page Assist的管理界面中,将语言设置为简体中文
设置》一般设置》语言:简体中文
2,打开终端,输入以下命令下载并安装RAG(Recurrent Attention Generator)模型:
ollama pull nomic-embed-text
3,安装成功后,终端会显示“success”字样
4,在RAG的设置界面中,选择中文嵌入模型 nomic-embed-text:latest
5,在Page Assist
的管理知识库页面中,你可以上传本地知识库文件
上传后,你可以针对这些上传的知识进行提问,DeepSeek会基于这些知识给出回答