NMS及其变体
摘要：nms:1.首先将pred_data中置信度小于x的过滤掉，2.根据conf从大到小重新排序并记为P。3.将P[0]保存到另一个列表R中并计算其与P[1:]的IOU(可选项：是否在不同类间计算IOU)，过滤掉其中IOU大于y的P[1:]。4.重复步骤3直到P为空 batch-nms:它并非是真正的在
阅读全文
posted @ 2022-03-11 21:57
03 2022 档案
混合精度AMP
摘要：优点 1.显存占用少 2.训练更快 缺点 1.数据溢出 -> 在训练后期激活函数的梯度会非常小，在梯度乘以学习率后，值会更加小。可能会导致下溢出 2.舍入误差 -> FP16 最大范围是 [-65504 - 66504]，虽然最小精度为 2-24，该精度不是在范围内各个区间都支持，例 在[2-3,2
阅读全文
posted @ 2022-03-08 17:40
损失函数
摘要：NLLLoss = -x[class] x为输出张量 class为target 注！数据准备阶段target是一个class_index∈[0,n-1] n = 类别总数 Pytorch会自动转为One-Hot格式 CELoss同理 CELoss = softmax + log + NLLLoss
阅读全文
posted @ 2022-03-08 17:09
