Focal Loss

为了有效地同时解决样本类别不均衡和苦难样本的问题,何凯明和RGB以二分类交叉熵为例提出了一种新的Loss----Focal loss

原始的二分类交叉熵形式如下:

Focal Loss形式如下:

 上式中,相对于原始的二分类交叉熵加入了两个量:1、modulating factor:(其中幂称为focusing parameter);2、

现在分别来解释一下两个分量的作用:

(1)第一个分量称为调制系数,它的作用是困难样本挖掘,比如p越大,则表示它更趋于是简单正样本,则对应的调制系数则更小,即简单样本对Loss的贡献更小,对于简单负样本同样如此;

(2)第二个分量我还不是很理解,感觉就只是一个起到调节不同类别样本比例的作用;

参考博客:https://blog.csdn.net/u014380165/article/details/77019084

                  https://blog.csdn.net/qq_34564947/article/details/77200104

原文地址:https://www.cnblogs.com/zf-blog/p/10334279.html