一些点:

https://www.cnblogs.com/lfri/p/10479353.html

active learning
逐渐加大不好区分的类别的权重~

充分利用数据集


https://www.cnblogs.com/lfri/p/10486972.html

池化不只有减少参数的作用,还可以:

  1. 不变性,更关注是否存在某些特征而不是特征具体的位置。可以看作加了一个很强的先验,让学到的特征要能容忍一些的变化。
  2. 防止过拟合,提高模型泛化能力
  3. 获得定长输出。(文本分类的时候输入是不定长的,可以通过池化获得定长输出)
  4. 提高感受野大小

参考知乎回答:https://www.zhihu.com/question/36686900

而且, CNN不仅可以使用在图片分析上, 也可以使用在文本分析上, 因为句子中邻近的单词总是有相关性的, 不是吗?

attention on local receptives

adaptive convolutional kernel




原文地址:https://www.cnblogs.com/cx2016/p/11876857.html