Tensorflow2.0笔记29——全连接内容回顾

Tensorflow2.0笔记

本博客为Tensorflow2.0学习笔记,感谢北京大学微电子学院曹建老师

1.全连接内容回顾

​ 全连接NN特点:每个神经元与前后相邻层的每一个神经元都有连接关系。(可以实现分类和预测)

image-20210624080915358

​ 如图5- 1所示,针对一张分辨率仅为28 * 28的黑白图像(像素值个数为28 * 28 * 1 = 784),全连接网络的参数总量就有将近40万个。

image-20210624080939257

​ 在实际应用中,图像的分辨率远高于此,且大多数是彩色图像,如图5- 2所示。虽然全连接网络一般被认为是分类预测的最佳网络,但待优化的参数过多,容易导致模型过拟合。

image-20210624081011575

​ 为了解决参数量过大而导致模型过拟合的问题,一般不会将原始图像直接输入,而是先对图像进行特征提取,再将提取到的特征输入全连接网络,如图 5-3 所示,就是将汽车图片经过多次特征提取后再喂入全连接网络。

image-20210624081233784

原文地址:https://www.cnblogs.com/wind-and-sky/p/14925283.html