【E-02】内存不足RuntimeError: CUDA out of memory. Tried to allocate 16.00 MiB (GPU 0; 2.00 GiB total capacity; 1.34 GiB already allocated; 14.76 MiB free; 1.38 GiB reserved in total by PyTorch)

原因一:找到错误点,增加以下语句:

with torch.no_grad():

    outputs = Net_(inputs) ---错误代码的位置。

   

原因二:GPU没有选对

os.environ["CUDA_VISIBLE_DEVICES"] = "0, 2, 3"

查看性能,发现NVIDIA的只有GPU1,所以改成如下:

os.environ["CUDA_VISIBLE_DEVICES"] = "0"

若是不能在GPU上跑,直接改到CPU上跑,修改如下:

os.environ["CUDA_VISIBLE_DEVICES"] = "-1"

 

不过,这种问题,还是GPU内存不足引起的。应该购买或租用高性能显卡,减少时间的浪费。

posted @   忆凡人生  阅读(41726)  评论(0编辑  收藏  举报
编辑推荐:
· 基于Microsoft.Extensions.AI核心库实现RAG应用
· Linux系列:如何用heaptrack跟踪.NET程序的非托管内存泄露
· 开发者必知的日志记录最佳实践
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
阅读排行:
· 无需6万激活码!GitHub神秘组织3小时极速复刻Manus,手把手教你使用OpenManus搭建本
· Manus爆火,是硬核还是营销?
· 终于写完轮子一部分:tcp代理 了,记录一下
· 别再用vector<bool>了!Google高级工程师:这可能是STL最大的设计失误
· 单元测试从入门到精通
点击右上角即可分享
微信分享提示