第二节，不得不知的概念（2）

泛化能力

泛化能力（generalization），学得的模型适用于新样本的能力，是非常重要的能力。

引起泛化能力不足的一个原因是过拟合，过拟合导致在测试集上变现非常好，但是在新来的数据集上表现非常差。

 

归纳偏好

归纳偏好（inductive bias），机器学习算法在学习过程中对某种类型假设的偏好。

任何一个有效的机器学习算法必有其归纳偏好，否则它将被假设空间中看似在训练集上等效的假设所迷惑，而无法生成确定的学习结果，这也是机器学习中非常重要的概念。