机器学习知识总结---3、svm算法和感知器算法的区别
一、总结
一句话总结:
svm是一开始输入所有样本数据,得到一个很大的优化问题,然后解优化问题,而感知器算法是一个一个样本代入,计算w和b
1、svm算法的分类结果要比感知器算法好很多很多?
其实从两个算法的思想上面就很清晰的可以感觉到,svm找分割平面距离最大(全局思想),而感知器算法只是一个个试而已(局部思想)
2、日常生活中的问题是线性可分还是线性不可分?
日常生活中的很多问题,是非线性可分的
3、三层神经网络可以模拟所有的决策面?
三层神经网络可以模拟所有的决策面,证明也很简单
4、后向传播算法的主要思想?
梯度下降法求局部极值
5、神经网络激活函数的共性(求导方面)?
都非常方便求导,无论是sigmoid,还是tanh,还是relu等
6、多层神经网络对比svm的优势?
1、基本单元简单,多个基本单元可扩展为非常复杂的非线性函数。因此易于构建,同时模型有很强的表达能力。
2、训练和测试的计算并行性非常好,有利于在分布式系统上的应用。
3、模型构建来源于对人脑的仿生,话题丰富,各种领域的研究人员都有兴趣,都能做贡献。
7、svm和神经网络的选择?
小样本的话,svm强,大样本,神经网络强
8、卷积神经网络?
由手工设计卷积核 变成了 自动学习卷积核,卷积核其实是相乘再相加
9、卷积神经网络 方格不够咋办?
可以补零,这样可以不要放弃一些边缘数据
10、卷积神经网络注意?
整个卷积神经网络的计算速度取决于网络层,整个网络的参数个数取决于全连接层
二、内容在总结中
博客对应课程的视频位置: