多变量线性回归分析
多变量问题描述:
回归问题分析
梯度离散应用技术
Feature Scaling(特征缩放): 通过将变量取值范围缩放到相同的尺度,加快梯度离散的收敛速度,一般选取-1~1之间。
Mean Normalizatio(均值归一化): 特征值减去其均值使得其分布更加集中。(往往在使用过程中需要配合除去(Tmax-Tmin)获得分布位于0-1之间的特征值)。
Learning Rate(学习率设定): 过大影响收敛,过小收敛过慢。
多变量与非线性回归分析
预测方程不再是线性关系,而是多项式关系。
Normal Equation(正规方程)
不通过循环离散,直接矩阵方程计算预测函数方程的参数。
梯度离散与正规方程的比较
正规方程使用时存在的问题
1.特征冗余,即多个特征表示的是同一关系;
2.实验训练数据远远小于特征数量;