02 2025 档案
摘要:在前一篇博文中记录了 k8s 集群上部署 ollama + deepseek-r1:7b,这篇博文记录一下 Open WebUI 的部署。还是用 helm 部署,添加 open-webui 的 helm repo,准备 helm 清单文件,通过 helm 命令在 ai 命名空间下进行部署
阅读全文
摘要:在前一篇流水账博文中已经记录过 k8s 集群上部署 ollama,在这篇博文中重新整理记录一下。准备 GPU 节点服务器,这里准备的是阿里云共享型 GPU 实例 sgn7i,8核31G,4G显存。操作系统用的是 Ubuntu 20.04,容器环境用的是 containerd,没有使用 docker,主机名是 kube-gpu-8c31g
阅读全文
摘要:在前一篇博文中尝试了使用阿里云 GPU 实例 ECS 单机部署了 DeekSeek-R1 7b 模型 。这篇博文记录一下在 k8s 集群上用阿里云 GPU 实例部署 DeekSeek R1 大模型的尝试过程,部署的也是 deepseek-r1:7b 模型。
先准备一台阿里云 GPU 实例,选用了共享型 GPU 实例 sgn7i,8核31G,4G显存。
阅读全文
摘要:这篇博文记录一下使用阿里云 ECS 基于 Ollama + Open WebUI 部署 DeepSeek R1 模型的过程,部署的是 deepseek-r1 7b 模型。选用的是阿里云 GPU 计算型 T4 加速型 ECS ,实例规格:ecs.gn6i-c8g1.2xlarge,CPU&内存:8核31G,GPU:NVIDIA T4,GPU显存:16G,操作系统:Ubuntu 24.04。
阅读全文
摘要:记录一下用阿里云计算巢部署 DeepSeek-R1 的经过。进入阿里云计算巢控制台的服务目录,选择 DeepSeek 社区版,点击「开始部署」,选择最便宜的 ECS 实例 GRID 虚拟化4核30G,费用是 ¥1.748/小时。点击「立即创建」,然后控制台会显示正在部署的状态。部署完成后,控制台会显示公网访问地址
阅读全文