3条命令布署本地DeepSeek
摘要:3条命令布署本地DeepSeek curl -fsSL https://ollama.com/install.sh | shsystemctl start ollama --启动Ollamaollama run modelscope.cn/unsloth/DeepSeek-R1-Distill-Qw
阅读全文
posted @
2025-02-16 22:47
yi-sheng
阅读(47)
推荐(0) 编辑
AnolisOS8.6系统少量代码快速布署DeepSeek-R1推理服务
摘要:AnolisOS8.6系统少量代码快速布署DeepSeek-R1推理服务 先硬件准备,安装操作系统,安装显卡驱动。 检查环境 cat /etc/system-release --查看系统版本nvidia-smi --查看显卡驱动nvcc -V --检查CUDA 安装ollama 查看ollama官网
阅读全文
posted @
2025-02-15 14:12
yi-sheng
阅读(45)
推荐(0) 编辑
AnolisOS8.6安装NVIDIA驱动和CUDA
摘要:计划在AnolisOS8.6上部署DeepSeek推理模型。比较重要的一步是安装显卡驱动,此篇重点记录安装NVIDIA驱动和CUDA 硬件组装和安装操作系统 找到两张NVIDIA GeForce RTX 2080 Ti 显卡,服务器硬盘做RAID后安装AnolisOS8.6操作系统。配置外网。 查看
阅读全文
posted @
2025-02-15 00:04
yi-sheng
阅读(54)
推荐(0) 编辑