正则化

1、参数范数乘法
1.1 L1参数正则化
1.2 L2参数正则化
2、做为约束的范数惩罚
3、正则化和欠约束问题
4、数据集噪声
5、噪声鲁棒性：向输出目标注入噪声
6、半监督学习
7、多任务学习
8、提前终止
9、参数绑定和参数共享（卷积神经网络）
10、稀疏表示
11、Bagging和其他集成方法
12、Dropout
13、对抗训练
14、切面距离、正切传播和流行正切分类器