关于梯度

1.梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。

2.梯度就是下山最快的方向；

3.反向传播就是用梯度更新网络参数的一种方式；