一文通透优化算法:从随机梯度、随机梯度下降法到牛顿法、共轭梯度
1 什么是梯度下降法
经常在机器学习中的优化问题中看到一个算法,即梯度下降法,那到底什么是梯度下降法呢?
维基百科给出的定义是梯度下降法(Gradient descent)是一个一阶最优化算法,通常也称为最速下降法。 要使用梯度下降法找到一个函数的局部极小值,必须向函数上当前点对应梯度(或者是近...
作者:v_JULY_v 发表于 2018/08/01 23:23:34
原文链接 http://it.taocms.org/10/14714.htm
网友评论已有0条评论, 我也要评论