NLP面试问题个人总结-伪标签

1 半监督方法的定义

 

 

2 伪标签的定义

 

 

 值得注意的是: 

测试集的采样比例不能过高,一般都是(0.3 --  0.5)

 

一些其他总结的点:

一般分类分类问题属于Low-Density Separation 时，加入伪标签才有用，建议观看李弘毅的视频，讲半监督的部分，举个简单的例子，二分类问题预训练模型对某一未标记的样本输出为（0.7， 0.3），那么他对应的硬标签就是（1，0），这就产生了信息的增益。另外，同理，伪标签对回归问题是没有用的。