02 2025 档案

摘要:在前一篇博文中记录了 k8s 集群上部署 ollama + deepseek-r1:7b,这篇博文记录一下 Open WebUI 的部署。还是用 helm 部署,添加 open-webui 的 helm repo,准备 helm 清单文件,通过 helm 命令在 ai 命名空间下进行部署 阅读全文
posted @ 2025-02-22 12:41 dudu 阅读(12) 评论(0) 推荐(0) 编辑
摘要:在前一篇流水账博文中已经记录过 k8s 集群上部署 ollama,在这篇博文中重新整理记录一下。准备 GPU 节点服务器,这里准备的是阿里云共享型 GPU 实例 sgn7i,8核31G,4G显存。操作系统用的是 Ubuntu 20.04,容器环境用的是 containerd,没有使用 docker,主机名是 kube-gpu-8c31g 阅读全文
posted @ 2025-02-20 17:41 dudu 阅读(37) 评论(0) 推荐(0) 编辑
摘要:在前一篇博文中尝试了使用阿里云 GPU 实例 ECS 单机部署了 DeekSeek-R1 7b 模型 。这篇博文记录一下在 k8s 集群上用阿里云 GPU 实例部署 DeekSeek R1 大模型的尝试过程,部署的也是 deepseek-r1:7b 模型。 先准备一台阿里云 GPU 实例,选用了共享型 GPU 实例 sgn7i,8核31G,4G显存。 阅读全文
posted @ 2025-02-15 23:17 dudu 阅读(136) 评论(2) 推荐(2) 编辑
摘要:这篇博文记录一下使用阿里云 ECS 基于 Ollama + Open WebUI 部署 DeepSeek R1 模型的过程,部署的是 deepseek-r1 7b 模型。选用的是阿里云 GPU 计算型 T4 加速型 ECS ,实例规格:ecs.gn6i-c8g1.2xlarge,CPU&内存:8核31G,GPU:NVIDIA T4,GPU显存:16G,操作系统:Ubuntu 24.04。 阅读全文
posted @ 2025-02-12 23:14 dudu 阅读(395) 评论(0) 推荐(0) 编辑
摘要:记录一下用阿里云计算巢部署 DeepSeek-R1 的经过。进入阿里云计算巢控制台的服务目录,选择 DeepSeek 社区版,点击「开始部署」,选择最便宜的 ECS 实例 GRID 虚拟化4核30G,费用是 ¥1.748/小时。点击「立即创建」,然后控制台会显示正在部署的状态。部署完成后,控制台会显示公网访问地址 阅读全文
posted @ 2025-02-08 18:48 dudu 阅读(110) 评论(0) 推荐(0) 编辑

点击右上角即可分享
微信分享提示