NLP面试问题个人总结-伪标签
1 半监督方法的定义
2 伪标签的定义
值得注意的是:
测试集的采样比例不能过高,一般都是(0.3 -- 0.5)
一些其他总结的点:
一般分类分类问题属于Low-Density Separation 时,加入伪标签才有用,建议观看李弘毅的视频,讲半监督的部分,举个简单的例子,二分类问题预训练模型对某一未标记的样本输出为(0.7, 0.3),那么他对应的硬标签就是(1,0),这就产生了信息的增益。另外,同理,伪标签对回归问题是没有用的。