吴恩达 深度学习 纪要(1.3)

输入层,隐藏层,输出层

可以将多个输入向量生成一个矩阵作为输入,一次输出就能算出多个输入的输出。

激活函数:sigmoid,tanh(更有效),ReLU,,不能在隐藏层用线性的激活函数

正向传播和反向传播,公式

权重要随机初始化,通常会是比较小的值,有必要的话还需要多随机几次

原文地址:https://www.cnblogs.com/61355ing/p/10673982.html