线性回归和逻辑回归

线性回归用于回归,逻辑回归用于分类

逻辑回归是在线性回归的基础上进行的,所以一般面试回问逻辑回归

LR是逻辑回归,虽然两者缩写都是LR

1.线性回归

参数是θ,解线性矩阵方程不好解或者可能没有解,所以求参数化为解最小误差,由于是回归,所以误差用均方误差来衡量:

这个问题可以用最小二乘法或者梯度下降法求解

2.逻辑回归

逻辑回归用逻辑回归函数映射了线性回归,逻辑回归函数:

把线性回归的结果作为t带入上面函数,就是逻辑回归函数

求解参数和线性回归一样,求解最小误差,不过这里是分类问题,所以用的是0/1损失函数来衡量:

可以用梯度下降法求解

原文地址:https://www.cnblogs.com/stAr-1/p/8124393.html