上图是课上的编程作业运行10000次迭代后，输出每一百次迭代 训练准确度和测试准确度的走势图，可以看到在600代左右测试准确度为最大的，74%左右， 然后掉到70%左右，再掉到68%左右，然后升到70%，然后是68%， 然后稳定在70% ， 这个设置的 学习率为 0.005 。
这个是学习率设置为0.01的情况，在900代左右达到72%准确度的测试准确度， 7500代以后测试准确度也达到最大值 72%
根据这个小测试，一个小想法就是 在训练最早到达最高值以后就可以停止训练了，但是什么时候到达的值是最大的呢，这个也不好解释和判断，某种意义上只要达到某个高度再训练就变差的时候，这时候就可以停止了。
源码地址：