摘要:
1 为什么需要regularization?我们建一个模型,期望:在训练集上,training error 要小,过小会产生overfitting ,模型会复杂,预测能力差在测试集上,test error 要小,即test error -training error 也要小(要求模型不那么复杂)两者需要一个balance,有种方法就是regulariztion文档中第10页有个图,其中variance可以理解做(test error -training error)bias是模型和真实函数的偏差,看图的话跟training error大致相同2、regularization方法。限制参数的空间
阅读全文