本地搭建ollama+deepseek-r1模型
所需工具
ollama:https://ollama.com、 #通过ollama安装deepseek
ragflow:https://github.com/infiniflow/ragflow/blob/main/README_zh.md #ragflow程序调用ollama通过页面形式展示
docker:https://www.docker.com/ #跑ragflow程序
git命令:https://git-scm.com/downloads/win #拉取ragflow代码
一、工具下载
git 下载地址打开,点击下载即可 。安装步骤跳过
docker 下载地址打开,点击下载即可。安装步骤跳过
ollama下载 下载地址打开,点击下载即可。安装步骤跳过
二、工具验证
win+R 输入cmd 。打开终端窗口
验证git+docker+ollama 。 输入git、docker、ollama命令。 命令有提示即可
三、配置工具
3.1 配置docker 加速器。由于国内限制docker hub拉取镜像 目前2025.02.18可用。过期自己百度找新的地址替换即可
{ "builder": { "gc": { "defaultKeepStorage": "20GB", "enabled": true } }, "experimental": false, "registry-mirrors": [ "https://docker.1panel.live", "https://hub.rat.dev", "https://docker.actima.top", "https://atomhub.openatom.cn", "https://docker.m.daocloud.io", "https://docker.nastool.de", "https://dockerpull.org", "https://registry.dockermirror.com", "https://docker.m.daocloud.io", "https://docker.1ms.run", "https://docker.aityp.com", "https://dockerhub.xisoul.cn", "https://docker.imgdb.de", "https://hub.littlediary.cn", "https://docker.unsee.tech", "https://hub.crdz.gq", "https://hub.firefly.store", "https://docker.kejilion.pro", "https://dhub.kubesre.xyz", "https://hub.xdark.top", "https://docker.udayun.com" ] }
3.2配置ollama 环境变量
目前win10 。 我的电脑右键属性 =》 高级系统设置 =》 环境变量
允许所有地址访问ollama 变量:OLLAMA_HOST 值:0.0.0.0:11434 下载的模型地址 变量:OLLAMA_MODELS 值:E:\ollama\ollamaModels
3.3 配置好后重启ollama和docker。 windows重启方式 退出重新打开即可
注意:本地会有一个11434端口。 是ollama端口。 用工具调用ollama是通过这个端口
四、ollama下载模型
4.1 选择相关模型。在终端执行命令
ollama run deepseek-r1:1.5b
4.2启动模型测试
五、安装ragflow :ragflow/README_zh.md at main · infiniflow/ragflow · GitHub
5.1通过git 拉取代码 。先新建个文件夹,在文件夹内右键 =》终端打开
5.2 执行git拉取代码。 下不下来 网络问题
$ git clone https://github.com/infiniflow/ragflow.git
5.3修改.env文件 先别急着启动 代码ragflow/docker/.env 目录结构。 注释-slim
5.4启动程序。并拉取镜像
5.5 查看日志 看是否启动成果
docker logs -f ragflow-server
六、设置ragflow
6.1上面启动完后本地会有80端口。 直接浏览器打开
http://localhost:80
创建账号并登录。 此处跳过
6.2设置模型 找到ollama模型并添加
6.3设置ollama模型
模型类型:chat
模型名称:根据自己下载的写
基础url:自己电脑ip + ollama的端口
最大token数:32768
6.4 创建知识库 .配置好,最下方保存
上传知识库文件。 相关知识的pdf上传 然后解析即可
6.5 选择聊天
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)