摘要:
这节课是最后一节,讲的是做机器学习的三个原则。 第一个是Occan's razor,即越简单越好。接着解释了什么是简单的hypothesis,什么是简单的model。关于为什么越简单越好,林老师从大致思想上进行了解释:如果一个简单的模型能对数据分得很好,那说明输入的资料是有规律的资料(这被... 阅读全文
摘要:
这节课是接着上节的正则化课程的,目的也是为了防止overfitting。 第一小节讲了模型的选择,前面讲了很多模型,那么如何做出正确的选择呢?我们的目标是选择最小的Eout目标函数。首先应避免视觉化选择,因为高维。假如选Ein最小的化,则会出现过拟合。虽然能用test数据选择最好的,但通常... 阅读全文
摘要:
这一节讲的是正则化,在优化中一直会用到正则化项,上课的时候老师一句话代过,没有作过多的解释。听完这节课后,才明白好大学和野鸡大学的区别有多大。总之,这是很有收获的一节课。 首先介绍了为什么要正则化,简单说就是将复杂的模型用简单的模型进行表示,至于如何表示,这中间有一系列推导假设,很有创意。 ... 阅读全文