超参数最优化简单归纳

步骤一、设定超参数的范围

步骤二、从设定的超参数范围中随机采样

步骤三、使用步骤一中采样到的超参数的值进行学习,通过验证数据评估识别精度(但是要将epoch设置的很小)

步骤四、重复步骤一、步骤二(100次等),根据它们的识别精度的结果,缩小超参数的范围

重复进行上述操作,不断缩小超参数的范围,在缩小到一定程度时,从该范围中选取一个超参数的值。这就是进行超参数的最优化的一种方法。

原文地址:https://www.cnblogs.com/qiangang/p/13751740.html