https://hal.inria.fr/file/index/docid/112631/filename/p1038112283956.pdf
caffe的卷积计算的优化来自这篇paper,实际上就是将卷积核矩阵和feature map矩阵(或者图像矩阵)转换为大的矩阵
jiayangqing自己也分析了为何要做这种转换,如下图
具体的优化过程如下图:
在caffe中是通过conv_im2col_cpu函数来实现,conv_im2col_cpu(/include/caffe/vision_layers.hpp)又通过im2col_cpu来实现(/util/im2col.cpp),还通过skip_im2col来控制是否要进行这种转换
https://github.com/Yangqing/caffe/wiki/Convolution-in-Caffe:-a-memo,jiayangqing自己将caffe的卷积实现
https://www.zhihu.com/question/28385679,知乎也有这个问题的讨论
https://www.zhihu.com/question/28385679,这个人讲的也还可以