2021年4月8日
多任务学习的多个loss应该如何权衡
摘要： 超级有用！ 从上图的方程可以看出： 1、loss大则梯度更新量也大； 2、不同任务的loss差异大导致模型更新不平衡的本质原因在于梯度大小； 3、通过调整不同任务的loss权重wi可以改善这个问题； 4、直接对不同任务的梯度进行处理也可以改善这个问题； 所以，后续的方法大体分为两类： 1、在权重wi 阅读全文
posted @ 2021-04-08 17:35 douzujun 阅读(2438) 评论(0) 推荐(1) 编辑