6.逻辑归回

1.用自己的话描述一下,什么是逻辑回归,与线性回归对比,有什么不同?

(1)逻辑回归是一种用于解决二分类(0 or 1)问题的机器学习方法,用于估计某种事物的可能性。比如某用户购买某商品的可能性,某病人患有某种疾病的可能性,以及某广告被用户点击的可能性等。

(2)逻辑回归与线性回归都是一种广义线性模型。逻辑回归假设因变量 y 服从伯努利分布,而线性回归假设因变量 y 服从高斯分布。

(3)应用上的不同。逻辑回归:常用于数据挖掘,疾病自动诊断,经济预测等领域;线性回归:常运用于数学、金融、趋势线、经济学等领域。

线性回归 逻辑回归
均方误差 对数拟然损失

正规方程

梯度下降(大批量数据)

梯度下降

2.自述一下什么是过拟合和欠拟合?

欠拟合 
因为对于给定数据集,欠拟合的成因大多是模型不够复杂、拟合函数的能力不够。 
为此可以增加迭代次数继续训练、尝试换用其他算法、增加模型的参数数量和复杂程度,或者采用Boosting等集成方法。

过拟合 
过拟合成因是给定的数据集相对过于简单,使得模型在拟合函数时过分地考虑了噪声等不必要的数据间的关联。或者说相对于给定数据集,模型过于复杂、拟合能力过强。

3.思考一下逻辑回归的应用场景有哪些?

(1)用于分类:适合做很多分类算法的基础组件。

(2)用于预测:预测事件发生的概率(输出)。

(3)用于分析:单一因素对某一个事件发生的影响因素分析(特征参数值)。

比如垃圾邮件判断(是/否垃圾邮件),是否患某种疾病(是/否), 广告是否点击等场景。

原文地址:https://www.cnblogs.com/lywkkk/p/12763591.html