SVM面经

原始问题与对偶问题的关系

1,目标函数对原始问题是极大化,对对偶问题则是极小化

2,原始问题目标函数中的收益系数(优化函数中变量前面的系数)是对偶问题约束不等式中的右端常数,而原始问题约束不等式中的右端常数则是对偶问题中目标函数的收益系数

3,原始问题和对偶问题的约束不等式的符号方向相反

3,原始问题约束不等式系数矩阵转置后即为对偶问题的约束不等式的系数矩阵

4,原始问题的约束方程数对应于对偶问题的变量数,而原始问题的变量数对应于对偶问题的约束方程数

5,对偶问题的对偶问题是原始问题

SVM从原始问题变为对偶问题来求解 的原因

1,对偶问题将原始问题中的约束转为了对偶问题中的等式约束

2,方便核函数的引用

3,改变了问题的复杂度。由求特征向量w转化为求比例系数a,在原始问题下,求解的复杂度与样本的维度有关,即w的维度。在对偶问题下,只与样本数量有关。

原文地址:https://www.cnblogs.com/xueyunqing/p/10588551.html