CS231n Assignment #2

Fully-connected Neural Network

我好菜啊!!很早就写完代码了,gradient check也过了,但是需要过拟合50张图片的时候一直不太对,调了几下学习率,我看train acc只有0.14左右,loss曲线波动也很大:
image
因为最后要100%的train acc嘛,我看差的挺远的,就开始怀疑是网络哪里写错了,就没管超参数,检查代码检查了好几天tmd,深度学习debug还真是无从下手...后来跑去看了下别人的东西,发现原因竟然是不会调参(T^T)。

仔细看下,这里还是很明显的,20个epoch训练损失才下降了一点点,说明学习率太小了。
image

原文地址:https://www.cnblogs.com/EIMadrigal/p/15259030.html