关于周志华《机器学习》中假设空间规模大小65的计算
从西瓜的例子来看,色泽、根蒂、敲声每种特征均有三个属性。
我们想要从所有可能性中抽取一条规则来定义什么瓜是好瓜。而我们的假设空间则包含所有可能性。
这里我们可以从两个角度得到最终结果65。
一、分别考虑
现在我们一共有3个特征,如果我们只需要从3个特征中选取一个特征中作为最终的结果(这意味着剩余两个特征无关紧要),我们一共有3*3=9种可能;
如果我们需要从3个特征中选取2个特征作为最终的结果,则一共有$C_{3}^{2} * 3*3=27$种可能;
如果我们需要从3个特征中选取3个特征作为最终的结果,则一共有$3*3*3=27$种可能;
如果我们一个特征都不需要,恒真,则为一种可能;
如果我们发现什么特征都没有用,恒假,则为另外一种可能;
综上一共有65种可能。
二、 整体考虑
我们像周志华老师书中提到的一样,引入通配符,作为这个特征无关紧要的标志。
因此$(*+3个属性)(*+3个属性)(*+3个属性)+恒假=65$种可能;
以上便是两种得到65的思路。