1、参数范数乘法 1.1 L1参数正则化 1.2 L2参数正则化 2、做为约束的范数惩罚 3、正则化和欠约束问题 4、数据集噪声 5、噪声鲁棒性:向输出目标注入噪声 6、半监督学习 7、多任务学习 8、提前终止 9、参数绑定和参数共享(卷积神经网络) 10、稀疏表示 11、Bagging和其他集成方法 12、Dropout 13、对抗训练 14、切面距离、正切传播和流行正切分类器