归一化为什么能提高梯度下降法求解最优解的速度【详细介解】

今天爱分享给大家带来归一化为什么能提高梯度下降法求解最优解的速度【详细介解】,希望能够帮助到大家。
如下两图所示(来源:斯坦福机器学习视频)

蓝色的圈圈图代表的是两个特征的等高线。其中左图两个特征X1和X2的区间相差非常大,X1区间是[0,2000],X2区间是[1,5],像这种有的数据那么大,有的数据那么小,两类之间的幅度相差这么大,其所形成的等高线非常尖。当使用梯度下降法寻求最优解时,很有可能走“之字型”路线(垂直等高线走),从而导致需要迭代很多次才能收敛;

而右图对两个原始特征进行了归一化,其对应的等高线显得很圆,在梯度下降进行求解时能较快的收敛。

因此如果机器学习模型使用梯度下降法求最优解时,归一化往往非常有必要,否则很难收敛甚至不能收敛。

人已赞赏
Python

防止过拟合的方法有哪些【详细介解】

2020-12-24 16:56:46

Python

归一化的类型有哪些【详细介解】

2020-12-24 16:59:29

'); })();