神经网路骨架:各自的特点统计

  1. VGGNet网络结构的改进点总结:

    1)使用了更小的3*3卷积核,和更深的网络。两个3*3卷积核的堆叠相对于5*5卷积核的视野,三个3*3卷积核的堆叠相当于7*7卷积核的视野。这样一方面可以有更少的参数(3个堆叠的3*3结构只有7*7结构参数数量的(3*3*3)/(7*7)=55%);另一方面拥有更多的非线性变换,增加了CNN对特征的学习能力。
    2) 在VGGNet的卷积结构中,引入1*1的卷积核,在不影响输入输出维度的情况下,引入非线性变换,增加网络的表达能力,降低计算量。
    3)训练时,先训练级别简单(层数较浅)的VGGNet的A级网络,然后使用A网络的权重来初始化后面的复杂模型,加快训练的收敛速度。
    4)采用了Multi-Scale的方法来训练和预测。可以增加训练的数据量,防止模型过拟合,提升预测准确率 

   参考:https://blog.csdn.net/dcrmg/article/details/79254654?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.edu_weight

            https://www.cnblogs.com/lfri/p/10493408.html

            https://blog.csdn.net/qq_40027052/article/details/79015827

2. Inception 模块的功能:

   1) 1*1模块的卷积,实现维度;

   2) 减少参数.

   参考:https://www.zhihu.com/question/67830400/answer/258277093

原文地址:https://www.cnblogs.com/zhaopengpeng/p/13714729.html