2024年5月30日
PyTorch: clamp函数与梯度的关系
摘要： 本文主要以下探究这一点：梯度反向传播过程中，测试强行修改后的预测结果是否还会传递loss？ clamp应用场景：在深度学习计算损失函数的过程中，会有这样一个问题，如果Label是1.0，而预测结果是0.0，则BCE损失中理论上计算出的结果是无穷大的(当然pytorch并不会报错，而是将损失上限设在了 阅读全文
posted @ 2024-05-30 22:51 龙雪 阅读(28) 评论(0) 推荐(0) 编辑