本地部署 DeepSeek-R1-内部知识库

本地部署 DeepSeek-R1-内部知识库

环境准备

1. 确认系统要求

  • 操作系统:macOS(推荐 macOS 12 及以上)

  • 处理器:Apple Silicon(M3 Pro )

  • 内存: 36GB

  • Python 版本:3.11

  • DeepSeek-R1-1.5b/14b/32b 模型

确保您的系统已经安装了以下工具和软件:

2. 安装 Homebrew

如果您尚未安装 Homebrew,可以通过以下命令安装:

​
/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

完成后,验证是否安装成功:

​
brew --version

一. 安装ollama和启动服务

ollama 是一个 AI 模型运行环境,安装步骤如下:

1.1 安装 ollama

在终端运行以下命令:

#ollama官网地址
https://ollama.com/library/deepseek-r1
​
brew install --cask ollama   # 安装 ollama GUI 应用

如果不需要 GUI,可以使用以下命令:

brew install ollama  # 不带 GUI 安装

1.2 启动服务

安装完成后,您可以通过以下命令启动 ollama 服务:

brew services start ollama   # 后台启动服务

确认 ollama 是否正常安装并显示版本号:

ollama --version
# 输出类似:ollama version is 0.5.7

1.3 拉取模型并运行

拉取您需要的 DeepSeek-R1 模型:

​
ollama pull deepseek-r1:32b    # 拉取 32b 模型
ollama pull deepseek-r1:7b     # 拉取 7b 模型
ollama pull deepseek-r1:1.5b   # 拉取 1.5b 模型

运行所需的模型文件:

ollama run deepseek-r1:1.5b    # 启动指定的 DeepSeek-R1 模型

查看已安装的模型:

#01 查看已下载的模型
ollama list  
​
#02 ollama默认存储路径
~/.ollama/models/*
​
#03 命令
ollama pull models_file     #拉取模型文件
ollama run  models_file     #运行模型文件

 

二.运行DeepSeek-R1-集成web页面

2.1 运行模型

#01 下载 DeepSeek-R1 模型
ollama run deepseek-r1:32b
ollama run deepseek-r1:7b
ollama run deepseek-r1:1.5b  #选择一个#02  本地运行 DeepSeek-R1
ollama list
ollama run deepseek-r1:1.5b
​

 

2.2 安装Openweb-UI 界面

#06 通过 Open-WebUI运行
git clone https://github.com/open-webui/open-webui.git
​
​
"""
由于镜像在国外下载太慢,使用国内镜像
docker pull --platform linux/arm64 swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:main
​
docker run -d \
  -p 3000:8080 \
  --add-host=host.docker.internal:host-gateway \
  -v /Users/ningcaichen/company/01-AI系列/open-webui:/app/backend/data \
  --name open-webui \
  --restart always \
 swr.cn-north-4.myhuaweicloud.com/ddn-k8s/ghcr.io/open-webui/open-webui:main
 
 
 Mac M系列芯片 是arm的,暂时不可用于下载
​
"""
​
​
#08 使用python安装(python版本3.11)
pip install open-webui
open-webui serve --port 8081
​
页面访问:127.0.0.1:8081
​
​

 

  • 页面

image-20250208095626776

 

 

posted @   宁采臣open  阅读(690)  评论(0编辑  收藏  举报
相关博文:
阅读排行:
· DeepSeek “源神”启动!「GitHub 热点速览」
· 我与微信审核的“相爱相杀”看个人小程序副业
· 微软正式发布.NET 10 Preview 1:开启下一代开发框架新篇章
· 如何使用 Uni-app 实现视频聊天(源码,支持安卓、iOS)
· C# 集成 DeepSeek 模型实现 AI 私有化(本地部署与 API 调用教程)
点击右上角即可分享
微信分享提示