1.线性回归概述-2.误差项分析 3.似然函数求解 4.目标函数推导(唐宇迪)

1.线性回归概述

2.数学部分

  

公式含意:

0x01x12x2+......θnxn


 2.误差项分析

误差ε( i )是独立并且具有相同的分布并且服从均值为0方差为θ2的高斯分布

独立:张三和李四一起来贷款,他俩没关系
同分布:他俩都来得是我们假定的这家银行

高斯分布:银行可能会多给,也可能会少给,但是绝大多数情况下这个浮动不会太大(在 [-1,1] 间),极小情况下浮动会比较大,符合正常情况(如下图)

误差求解公式:


3.似然函数求解

注:

  1. exp≈2.7

  2. 2式为高斯分部公式

似然函数:根据样本去估计参数值

例如:去赌场,不知输赢概率,问从赌场出来的n个人,计算出输赢概率(不管赌场实际输赢服从什么规则),此即为似然函数案例

 注:为累乘符号

 

原文地址:https://www.cnblogs.com/chenxi188/p/11038300.html