DeepSeek-R1，模型训练成本为什么这么低，是openai的1/10左右，有什么创新点么？

DeepSeek-R1模型训练成本之所以比 OpenAI 的模型低，大约只有 OpenAI 的十分之一，这归功于几个创新方法：

DeepSeek-R1 的主要创新点：

• 高效的训练方法：DeepSeek-R1 采用多阶段训练流程，包括初始微调和强化学习 (RL) 阶段。这种方法旨在增强模型的推理能力，同时通过大量利用强化学习来最大限度地减少对监督数据的依赖。
• 纯强化学习 (RL)，无需监督微调 (SFT)：与许多依赖监督微调的模型不同，DeepSeek-R1 强调纯强化学习。这减少了对昂贵的、标记数据集的需求，从而显著降低了训练成本。
• 混合专家 (MoE) 稀疏性：DeepSeek-R1 利用混合专家架构，并提高了稀疏性比率。这种技术降低了训练期间的计算需求，因为对于每个输入，只有网络的特定部分被激活，从而实现更快、更便宜的训练。虽然这可能会略微增加 VRAM 的使用，但这种权衡有利于大幅降低训练成本。

成本效益和性能：

• 更低的 Token 成本：与 OpenAI 的模型相比，DeepSeek-R1 每百万 token 的成本显著降低。一些来源表明，DeepSeek-R1 的成本低至每 100 万 token 2.19 美元，而 OpenAI 的旧模型则为每 100 万 token 60 美元。
• 具有竞争力的性能：尽管训练成本较低，但据报道 DeepSeek-R1 在推理任务中实现了与 OpenAI 模型相当的性能水平。这种成本与性能的优势是 DeepSeek-R1 的一个主要亮点。
• 可访问性：DeepSeek 已经免费且公开地提供了 R1 模型，进一步增强了其可访问性，并促进了人工智能领域的更广泛创新。

虽然一些分析表明，与某些 OpenAI 模型相比，DeepSeek-R1 在推理任务中可能使用更多的 token，这可能会影响实际的成本效益，但初始训练成本仍然显著降低。对高效架构和以强化学习为中心的训练的关注是 DeepSeek-R1 能够以极低的成本实现高性能的主要驱动力。

总而言之，DeepSeek-R1 的创新之处在于其高效的训练方法，特别是其强化学习和稀疏混合专家架构的应用，这在保持竞争性性能的同时，大幅降低了训练成本。

值得注意的是，训练成本估算可能会有所不同，直接比较也很复杂。然而，普遍的看法是，DeepSeek-R1 代表着朝着更具成本效益的人工智能模型开发迈出的重要一步。

来源：

• DeepSeek-R1: Technical Overview of its Architecture and Innovations - GeeksforGeeks
• Innovations in DeepSeek-R1 Over GPT and Gemini | by Dr. Nimrita Koul - Medium
• DeepSeek R1 Explained: Chain of Thought, Reinforcement Learning, and Model Distillation | by Tahir | Jan, 2025 - Medium
• DeepSeek vs. OpenAI: Comparing the New AI Titans | DataCamp
• DeepSeek R1: The New AI Giant Taking on OpenAI - Amity Solutions
• What DeepSeek's R1 Model Means For AI Innovation and Enterprise Security - Checkpoint Blog
• DeepSeek-R1 RL model: 95% cost cut vs. OpenAI's o1 - R&D World