Day3----《Pattern Recognition and Machine Learning》Christopher M. Bishop

其实今天只花了一点点时间来学习这本书，

如果模型的参数过多，而训练数据又不足够多的话，就会出现overfitting。

overfitting可以通过regularization来解决，贝叶斯方法也可以避免overfitting的出现，实际上在贝叶斯模型里，模型的有效参数数量会自动地根据训练数据集大小来确定。

regularization的思想是，对误差函数加入惩罚项，使得系数不会很大。在李宏毅视频中，也讲了这个问题，但是每太理解和明白。

模型的复杂程度应该由要解决的问题的复杂度来决定，而不是测试数据集的多少来决定，这才更加合理。

 

坚持，耐心，努力！