1.正则化
模型选择的典型方法是正则化。正则化是结构风险最小策略的实现,是在经验风险上加一个正则化项。正则化项一般是模型复杂度的单调递增函数。正则化的作用是选择经验风险与模型复杂度同时小的模型。
扁平稀疏(Flat sparsity): the flat sparsity is often achieved by L1-norm or L0-norm regularizer to select individual feature;
结构化系数(Structural sparsity):the L2,1-norm or L2,0-norm are imposed to select group features.