DeepSeek本地部署

一.ollama

ollama是一个管理和运行所有大模型、开源大模型的平台。在官网的Models中可以看到deepseek-r1的AI模型

1.在官网中下载对应系统的ollama,下载时需要开墙,或者可以在github中找到对应的安装包进行下载安装

安装成功后,cmd命令行输入ollama,若出现相关提示说明安装成功

如果没有出现上述,提示找不到该命令,可以在电脑的环境变量手动添加ollama的安装路径

2.进入ollama官网,点击deepseek-r1进入该模型的下载主页,目前deepseek有不同参数量,模型的参数量越大,说明模型的质量越好,但是参数量越高,对电脑里的GPU质量要求也更高,如果电脑没有独立显卡,选择1.5b的也完全够用

在确定好模型版本后,就可以直接将该版本的命令直接在cmd运行(我用的是8b),命令ollama run deepseek-r1:8b

部署成功后,只能通过命令行的方式进行访问

二.cherry studio

cherry studio是一个支持多家AI大模型平台的客户端,可以直接对接ollama api,实现官网所示窗口效果的对话
在cherry studio中,设置选择ollama大模型,打开左上角的开关,右下角管理

在打开的弹窗中选择已经下载好的deepseek模型

下载好后使用回到对话框即可开始对话
注:因为cherry studio可以添加多个模型,所以在使用时,如果遇到报没有token 401的错误,可以在上方切换已经成功添加的模型

posted @   cherish-github123  阅读(19)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
· DeepSeek R1 简明指南:架构、训练、本地部署及硬件要求
· NetPad:一个.NET开源、跨平台的C#编辑器
点击右上角即可分享
微信分享提示