共轭梯度法是什么?【机器学习面试题】

今天爱分享给大家带来共轭梯度法是什么?【机器学习面试题】,希望能够帮助到大家。
共轭梯度法是介于梯度下降法(最速下降法)与牛顿法之间的一个方法,它仅需利用一阶导数信息,但克服了梯度下降法收敛慢的缺点,又避免了牛顿法需要存储和计算Hessian矩阵并求逆的缺点,共轭梯度法不仅是解决大型线性方程组最有用的方法之一,也是解大型非线性最优化最有效的算法之一。在各种优化算法中,共轭梯度法是非常重要的一种。其优点是所需存储量小,具有逐步收敛性,稳定性高,而且不需要任何外来参数。
下图为共轭梯度法和梯度下降法搜索最优解的路径对比示意图:

绿色为梯度下降法,红色代表共轭梯度法

来源 http://blog.csdn.net/wtq1993/article/details/51607040

原文链接:https://blog.itblood.com/2032.html,转载请注明出处。
0
亲密度v0.2 AI版[PC+安卓/876M/更新]Degrees of Intimacy [v0.2] [欧美SLG/汉化/动态]
亲密度v0.2 AI版[PC+安卓/876M/更新]Degrees of Intimacy [v0.2] [欧美SLG/汉化/动态]
6分钟前 有人购买 去瞅瞅看

站点公告

显示验证码
没有账号?注册  忘记密码?