本地部署deepseek
1.安装ollama
下载地址:https://ollama.com/
2.选择deepseek模型(因为7b模型较大我已经下载过,所以下载截图使用deepseek-r1:latest模型)
模型拉取完成后,可以得到如下界面,可以开始对话:
安装chatbox(非必须)
安装完成后,打开chatbox,点击“设置”
接下来就可以愉快的使用啦
ollama常用命令
1.在运行的模型对话中输入“/bye”可以退出当前模型对话
2.ollama list //显示已下载的模型
3.ollama ps //显示正在运行中的模型
4.ollama stop deepseek-r1:7b //停止运行模型
5.ollama rm deepseek-r1:7b //删除本地模型
说明
1.退出模型后,如果长时间不操作,模型会停止运行以节省内存开支
2.chatbox连接模型对话时,如果模型没有运行会自动将模型运行起来
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· 在鹅厂做java开发是什么体验
· 百万级群聊的设计实践
· WPF到Web的无缝过渡:英雄联盟客户端的OpenSilver迁移实战
· 永远不要相信用户的输入:从 SQL 注入攻防看输入验证的重要性
· 浏览器原生「磁吸」效果!Anchor Positioning 锚点定位神器解析