最小二乘法的优良性有哪些【详细讲解】

今天爱分享给大家带来最小二乘法的优良性有哪些【详细讲解】,希望能够帮助到大家。
1.最小二乘使得误差平方和最小,并在各个方程的误差之间建立了一种平衡,从而防止某一个极端误差取得支配地位
2.计算中只要求偏导后求解线性方程组,计算过程明确便捷
3.最小二乘可以导出算术平均值作为估计值
对于最后一点,从统计学的角度来看是很重要的一个性质。推理如下:假设真值为θ, x1,⋯,xn为n次测量值, 每次测量的误差为ei=xi−θ,按最小二乘法,误差累积为

求解θ使L(θ)达到最小,正好是算术平均

由于算术平均是一个历经考验的方法,而以上的推理说明,算术平均是最小二乘的一个特例,所以从另一个角度说明了最小二乘方法的优良性,使我们对最小二乘法更加有信心。

最小二乘法发表之后很快得到了大家的认可接受,并迅速的在数据分析实践中被广泛使用。不过历史上又有人把最小二乘法的发明归功于高斯,这又是怎么一回事呢。高斯在1809年也发表了最小二乘法,并且声称自己已经使用这个方法多年。高斯发明了小行星定位的数学方法,并在数据分析中使用最小二乘方法进行计算,准确的预测了谷神星的位置。

人已赞赏
Python

最小二乘法是什么【详细讲解】

2020-12-24 17:01:54

Python

贝叶斯定理是什么【详细讲解】

2020-12-24 17:33:31

'); })();