按部就班的吴恩达机器学习网课用于讨论(3)

矩阵加法与乘法

加法省略,乘法房价案例:

输入层M节点,输入1xM的矩阵行向量输入,输入层到隐藏层N节点,权重表示为MxN的矩阵,
矩阵中每行N个数字,分别表示从输入层某节点接到所有隐层节点。
1xM * MxN,得到1xN,为隐层输入数据,以列向量表示。
 

矩阵乘法属性

 

 

 单位矩阵I可以表示为:

这里的I单位矩阵,但是不表示两个I的规模相同(如果A不是一个正方形矩阵,则I不相同)

Matrices that don’t have an inverse are “singular” or “degenerate”(没有逆的矩阵叫做奇异矩阵或退化矩阵)

矩阵的逆和转秩

A为方阵,A-1为矩阵的逆

 

 

多元变量线性回归

特征缩放

 

 特征缩放原则上缩放到一个合适的范围即可,针对于不同范围值量级,对输出产生的不同程度影响设计

缩放方式可以为(x-mu)/s,其中x为输入,mu为x们的均值,s为x们的标准差。简化处理后,s使用xmax-xmin表示。

特征缩放可以使得训练参数theta们在运用梯度下降的方案中收敛更快(在多维空间中thea之间相对的量级相同)

原文地址:https://www.cnblogs.com/bai2018/p/12484151.html