02 2025 档案
摘要:DeepSeek-R1大模型具备深度思考和推理能力,在数学、代码、自然语言推理等任务上都有着极大的提升。一方面由于官方或第三方的在线服务或多或少存在不稳定的问题,另一方面考虑到数据安全和隐私问题,本地私有化部署DeepSeek开源大模型对个人或企业来说也是一种不错的选择。本文主要介绍完整参数版本 deepseek-r1-671b 模型的部署和测试过程,对 deepseek-v3-671b 以及其他更小参数版本的模型同样适用。
阅读全文
最新评论
- 1. Re:本地部署 DeepSeek-R1-671B 满血版大模型教程
- @yunshan312 推理主要还是靠GPU,显存至少要400多G以上。 CPU建议每个GPU至少配4个核心,8卡情况大概32核,内存至少64G,避免因为CPU和内存导致瓶颈。...
- --zhayujie
- 2. Re:本地部署 DeepSeek-R1-671B 满血版大模型教程
请问需要至少多大内存?
- --yunshan312
- 3. Re:基于云服务的个人网站架构设计
学到了
- --ShinyRou
- 4. Re:基于云服务的个人网站架构设计
整理的很好👍
- --沈运龙
- 5. Re:基于云服务的个人网站架构设计
牛
- --xhhbk