2-error come from?variance 和 bias 过拟合和欠拟合

1、机器学习就是学习最佳的fucntion,实现从x预测y

2、对于输入的(x,y),训练出来一些model,这些model function计算出来的y1,y2,y3... 均值为E(y1,y2,y3...),即所有的预测输出值均在E(y1,y2,y3...)的周围(比如是射箭,虽然射出去的箭都是瞄准的靶心,但是由于风的原因,所有射到靶的箭均围绕在均值周围),均值E和y值得差距就是bise。 对于该种情况,真正的function可能都 不在训练出来的这一些model范围内

3、对于输入的(x,y),训练出来一些model,这些model function计算出来的y1,y2,y3... 标准差(y-E)^2,即variance.当variance大,即所有的预测出来的值 散列在均值点比较开。均值点相对上面情况靠近靶心。对于该种情况,真正的function可能在训练出来的model范围内

4、3相对2,模型比较复杂,受输入值得变化影响大。

5、优化方法:当出现2情况,为欠拟合,真正的function可能不在训练出来的model中,所以需要增加模型的特征,来训练新模型。 当出现3情况,为过拟合,优化方法:1、增加训练样本集 2、增加正则项

posted @ 2020-04-05 12:11  哈哈哈喽喽喽  阅读(104)  评论(0编辑  收藏  举报