Focal Loss
为了有效地同时解决样本类别不均衡和苦难样本的问题,何凯明和RGB以二分类交叉熵为例提出了一种新的Loss----Focal loss
原始的二分类交叉熵形式如下:
Focal Loss形式如下:
上式中,相对于原始的二分类交叉熵加入了两个量:1、modulating factor:(其中幂称为focusing parameter);2、
;
现在分别来解释一下两个分量的作用:
(1)第一个分量称为调制系数,它的作用是困难样本挖掘,比如p越大,则表示它更趋于是简单正样本,则对应的调制系数则更小,即简单样本对Loss的贡献更小,对于简单负样本同样如此;
(2)第二个分量我还不是很理解,感觉就只是一个起到调节不同类别样本比例的作用;
参考博客:https://blog.csdn.net/u014380165/article/details/77019084
https://blog.csdn.net/qq_34564947/article/details/77200104