20210128

今天的部分是机器学习中的分类。所讲解的分类方式是感知机、支持向量机和逻辑回归。其中感知机有详细讲解，后两个是仅大致讲解。所列3项本质都是用梯度下降（或随机梯度下降）的方法进行最优化。而Sigmoid函数的应用是在逻辑回归中使用，作为取结果的“概率”，因而其中也用到了大量的概率论中的知识。相比于梯度下降方法，随机梯度下降虽然会有波动但运算量远小于梯度下降方法，在数据量大时尤为有用。