兵马逐浪去,将象入海流。炮声震心动,惊起卧龙游。
我的博客园主页 --------- 我的知乎主页 --------- 我的github主页 --------- 我的csdn主页 --------- 我的新浪微博

显存不够----ResourceExhaustedError (see above for traceback): OOM when allocating tensor with shape[4096]

ResourceExhaustedError (see above for traceback): OOM when allocating tensor with shape[4096]

 

类似问题 https://github.com/CharlesShang/TFFRCNN/issues/68

参考:

 http://blog.csdn.net/qing101hua/article/details/77153222

方案:

 

take a look at the memory usage of your gpu with

1
nvidia-smi -l 3

  

if still free memory that can be used
-> edit lib/fast_rcnn/train.py
~line396 : config.gpu_options.per_process_gpu_memory_fraction = 0.40
edit 0.40 to larger propotion (e.g. 0.9)

posted @   leoking01  阅读(6137)  评论(0编辑  收藏  举报
编辑推荐:
· SQL Server 2025 AI相关能力初探
· Linux系列:如何用 C#调用 C方法造成内存泄露
· AI与.NET技术实操系列(二):开始使用ML.NET
· 记一次.NET内存居高不下排查解决与启示
· 探究高空视频全景AR技术的实现原理
阅读排行:
· 阿里最新开源QwQ-32B,效果媲美deepseek-r1满血版,部署成本又又又降低了!
· 单线程的Redis速度为什么快?
· SQL Server 2025 AI相关能力初探
· AI编程工具终极对决:字节Trae VS Cursor,谁才是开发者新宠?
· 展开说说关于C#中ORM框架的用法!
#back-to-top { background-color: #00CD00; bottom: 0; box-shadow: 0 0 6px #00CD00; color: #444444; padding: 10px 10px; position: fixed; right: 50px; cursor: pointer; }
点击右上角即可分享
微信分享提示