学习进度笔记22

《机器学习十讲》第七讲 最优化

一、梯度下降的优化

动量法

Nesterov动量法

AdaGrad

RMSProp

Adam

二、二阶优化方法

 牛顿法

三、优化算法的选择

 四、案例：机器学习中常用优化算法的Python实践