006-卷积神经网络02-池化层,全连接层

池化层(Pooling layer)

池化层干一件事:将特征图进行浓缩

两种方法:一种是max方法,一种是mean方法,

max方法做的事就是在特征图中选定一个区域,选取里面的最大值,然后放在pooling的结果中

mean方法就是在特征图中选定一个区域,求这个区域的均值,然后放在pooling的结果中

 这里面不存在权重参数w

max方法:

mean方法就是把求max换成求mean

 

卷积神经网络前向传播框架:

通常conv+relu是一个整体,卷积完成后,在加一层激活函数

最后的一个池化层pooling链接的是一个全连接层(FC),得到特征向量。

 

全连接层:

全连接到底是一个什么鬼?

说白了就是用所有的w与全连接的输入进行加权求和,得到的一维向量

其中,x1、x2、x3为全连接层的输入,a1、a2、a3为输出,根据我前边在笔记1中的推导,有

可以写成如下矩阵形式:

这里的w是每一行内的每一个,每一列内的每一个,全部的w都与全部的输出有关系,所以叫做全连接层。

 

 

原文地址:https://www.cnblogs.com/Mjerry/p/9804331.html