DeepSeek本地部署

DeepSeek本地部署

一:安装Ollama

如果想要在本地运行 DeepSeek 需要用到 Ollama 这个工具,这是一个开源的本地大模型运行工具。

我们可以访问 https://ollama.com/ 进入 Ollama 官网下载 Ollama ,下载时有三个系统的安装包可选择,这里只需要选择下载我们电脑对应的操作系统版本即可,这里我选择的是 Windows 版本。

image-20250218101557587

Ollama 安装包下载完成后直接双击安装即可,安装速度还是比较快的。

image-20250218101738173

Ollama 安装完成后需要打开电脑的 CMD ,也就是命令提示符,只需要在电脑下方的搜索框中输入 cmd 即可打开。

image-20250218101854646

打开后在命令提示符窗口中输入 ollama help 并按回车键,这个操作是为了验证这个软件是否安装成功,如果没有报错的话则表示这个软件安装成功。

image-20250218102217196

二:下载部署 Deepseek 模型

回到 https://ollama.com/ 网址中,在网页上方搜索框中输入 Deepseek-r1,这个 Deepseek-r1 就是我们需要本地部署的一个模型。

image-20250218102303958

点击 Deepseek-r1 后会进入详情界面,里面有多个参数规模可供选择,从 1.5b 到 671b 都有。

image-20250218102335519

需注意的是,这里我们需要根据自己电脑的硬件配置来选择模型大小,下面是一个模型大小配置参考表格,大家可根据自己的电脑配置来自行选择,当然了,部署的本地模型越大,使用的深度求索效果就越好。

DeepSeek本地部署,再也不怕服务器崩了!

选择好模型规模后,复制右边的一个命令。

image-20250218102529611

命令复制完成后回到命令提示符窗口,将刚刚复制的命令粘贴到命令提示符窗口中并按回车键即可下载模型。

image-20250218111851273

模型下载完成后,我们就直接可以在命令提示符面板中使用它了。

image-20250218125515287

以后如果我们需要再次使用 Deepseek 这个模型的话,我们可以直接打开命令提示符窗口,只需要再次在命令符提示窗口中输入上面复制的指令即可。

ollama run deepseek-r1:8b

image-20250218125553482

三:可视化图文交互界面 Chatbox

一:使用远程chatbox

虽然我们可以在本地正常使用 Deepseek 这个模型了,但是这个 AI 工具的面板是非常简陋的,很多人使用不习惯,这时我们就可以通过 Chatbox 这个可视化图文交互界面来使用它。

点击 https://chatboxai.app/zh 进入 Chatbox 官网,Chatbox 虽然有本地客户端,但我们也可以直接使用网页版。

image-20250218130216249

image-20250218130228523

点击后会进入模型提供方选择界面,这里选择 Ollama API 。

image-20250218130257872

这里需要注意的是,为了能够 Ollama 能远程链接,这里我们最好看一下 Chatbox 提供的教程,根据这个教程操作一下。

image-20250218144239880

这个教程还是非常简单的,如果是 Windows 操作系统则只需要配置一下环境变量即可,配置完环境变量后需重启一下 Ollama 程序传送门

image-20250218144301820

重启 Ollama 程序后,我们需要将 Chatbox 设置界面关闭并重新打开,重新打开 Chatbox 设置界面后即可选择 Deepseek 模型了,选择后 Deepseek 模型后点击保存即可。

image-20250218144348442

接下来只需要在 Chatbox 中新建对话即可使用 Deepseek 模型了,以下图为例,上方是它的思考过程,下方是它给出的答案。

image-20250218144405550

Chatbox 可视化图文交互界面还有一个特点就是可以创建专属智能体,只需点击我的搭档即可创建,此功能是 Deepseek 官方暂时还没有的功能。

image-20250218144441688

二:本地部署chatbox

远程部署也很简单,点击 https://chatboxai.app/zh 进入 Chatbox 官网,根据环境下载本地客户端,我是Windows

image-20250218150737251

下载完成后直接下一步就行

image-20250218150821997

完成安装后,点击运行,选择使用自己的API Key或本地模型

image-20250218131641202

点击后会进入模型提供方选择界面,这里选择 Ollama API 。

image-20250218131655536

本地运行就不需要配置变量了,直接选择deepSeek的模型,点击保存就可以使用了

image-20250218131710222

posted @   李荣洋  阅读(715)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 我与微信审核的“相爱相杀”看个人小程序副业
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· spring官宣接入deepseek,真的太香了~
点击右上角即可分享
微信分享提示