神经网络和深度学习 笔记

人工神经网络(ann) 模拟的是  生物神经网络(bnn)

ann 一般也叫 前馈型神经网络  : 各神经元只接受前一级输入,并输出到下一级,无反馈     也有循环型神经网络

ann一般使用bp(back-propagation 后向传播) 学习方法,来学习每一个神经元的 w参数和增强信号b,不断迭代,有监督学习,使得期望输出和实际输出差距越来越小

前馈型神经网络属于深度神经网络,但是深度神经网络还包括:递归神经网络,卷积神经网络(cnn,在图像和语音识别方面应用很广)

n层神经网络,一般包含n-1个隐层,一般说第几层,就是第几个隐层

输入层和最终的一个输出神经元    +   n-1个中间隐层  = n层神经网络

隐层是相对于输出层;

感知机就是一个神经元

两层神经网络就可以模拟   异或XOR  这种非线性逻辑运算

每个神经元包含:

  信号函数:s =   P1W1 + 。。。PnWn + b

    对于输入P1-Pn  有对应的W1-Wn,以及一个增强信号b

  传递函数:f(s)   有很多种,阶梯函数,符号函数,线性函数 等等

原文地址:https://www.cnblogs.com/brainstorm/p/7922657.html