logits mask与label smoothing冲突

有时候在做分类任务时,如果一些类别明确不会被分类到,可以通过mask把logits非法部分置为较大的负数。但此处如果引入了标签平滑,那么这些区域会因为负值非常大而产生巨大的损失。
posted @ 2022-04-25 09:35  Luke_Ye  阅读(66)  评论(0编辑  收藏  举报