YOLOv5-6.0训练出错及解决方法(RuntimeError)
知识经验分享——YOLOv5-6.0训练出错及解决方法(RuntimeError)
一、问题bug
不知道小伙伴们在训练YOLOv5-6.0或者其他版本有没有遇到以下问题:
RuntimeError: result type Float can't be cast to the desired output type long int
二、解决方法
步骤1:打开utils/loss.py文件
步骤2:找到 for i in range(self.nl) 函数(Ctrl+F),作以下替换:

替换代码:
anchors, shape = self.anchors[i], p[i].shape
替换之后:

步骤3:找到# Append部分(Ctrl+F),作以下替换:

替换代码:
indices.append((b, a, gj.clamp_(0, shape[2] - 1), gi.clamp_(0, shape[3] - 1)))
替换之后:

步骤4:顺利运行train.py文件

原文地址:知识经验分享——YOLOv5-6.0训练出错及解决方法(RuntimeError) - 知乎
【推荐】编程新体验,更懂你的AI,立即体验豆包MarsCode编程助手
【推荐】凌霞软件回馈社区,博客园 & 1Panel & Halo 联合会员上线
【推荐】抖音旗下AI助手豆包,你的智能百科全书,全免费不限次数
【推荐】博客园社区专享云产品让利特惠,阿里云新客6.5折上折
【推荐】轻量又高性能的 SSH 工具 IShell:AI 加持,快人一步