AI 支持向量机

支持向量机(Support Vector Machine,简称SVM),属于监督学习。

核技巧(kernel trick)

名字很吓人,乍一听完全不懂什么意思,但其实它的名字是很有意义的。

  1)首先,要清楚空间中点和向量的联系:一个点可以看成是以原点为起点,该点为终点的向量。例如,二维空间中,向量(x1, x2)=点(x1, x2)-原点(0, 0)。“支持向量”其实就是“支持点”。

  2)支持向量机是一种二元分类模型,

超平面(hyperplane),少量样本,空间中点可以看做以原点为起点的向量,即支持超平面生成的向量,最好的分类算法,

超平面表达式:wTx + b = 0

拉格朗日乘子法(Lagrange Multiplier),

最简单的svm就是一条直线

会有很多分类满足条件

到两边的margin都最大

线性可分

KKT

VC维理论

结构风险最小原理

函数距离,几何距离

法向量:垂直于平面的向量 

平行向量(也叫共线向量)

点到超平面的距离:

视频解释:

https://v.qq.com/x/cover/m05175nci67/m05175nci67.html

https://v.qq.com/x/page/k05170ntgzc.html

监督学习

不输出概率,只输出类别

高斯核(Gaussian kernel)

参考链接:

https://blog.csdn.net/v_JULY_v/article/details/7624837

原文地址:https://www.cnblogs.com/yangwenhuan/p/9687053.html