【机器学习基石笔记】五、训练和测试的差距

两个核心问题：

1、Ein和Eout是否接近

2、Ein是否足够小

 

无限多个M怎么解决？

找到mH，使得M无限也没问题。

上一节课的放缩稍微有点小，应该使用小一点的放缩。

 

在感知机中，其自由度与样本点个数有关，2^n，如果共线的话还会更少。

2^n是上界，要搞定多项式的。

从一维开始推导，

一维中，最多n+1种情况、

一维中选取两个点，最多是n^2级别的

二维中，选取一个凸集，2^n都没问题。所以凸集好像不太好！

 

如果BreakPoint = k, 那么成长的速度为n_(k-1)

尚未证明。