一、简介
最小二乘法，又称最小平方法，是一种数学技术。它通过最小误差的平方和寻数据函数的最佳匹配。最小二乘法是提供“观测组合”的主要工具之一，它依据对某事件的大量观测而获得“最佳”结果或“最可能”表现形式。如已知两变量为线性关系，对其进行次观测而获得对数据。若将这对数据代入方程求解a,b之值则无确定解。最小二乘法提供了一个求解方法,其基本思想就是寻“最接近”这个观测点的直线。最小二乘法不仅是19世纪最重要的统计方法,而且还可以称为数理统计学之灵魂。相关回归分析、方差分析和线性模型理论等数理统计学的几大分支都以最小二乘法为理论基础。作为其进一步发展或纠正其不足而采取的对策，不少近现代的数理统计学分支也是在最小二乘法基础上衍生出来的。 最小二乘法之于数理统计学，有如微积分之于数学，这并非夸张之辞。统计学应用的几个分支如相关分析、回归分析、方差分析和线性模型理论等，其关键都在于最小二乘法的应用不少现代的统计学研究是在此法的基础上衍生出来，作为其进一步发展或纠正其不足之处而采取的对策，如回归分析中一系列修正最小二乘法而产生的估计方法等就是最好的例子。
二、创立思想
勒让德在先驱者解线性方程组的基础上，以整体的思想方法创立了最小二乘法；高斯由寻随机误差函数为突破，以独特的概率思想导出了正态分布，详尽地阐述了最小二乘法的理论依据。
最小二乘法(OLSE)的思想就是要使得观测点和估计点的距离平方和达到最小，在各方程的误差之间建立一种平衡，从而防止某一极端误差，对决定参数的估计值取得支配地位，有助于揭示系统的更接近真实的状态。这里的“二乘”指的是用平方来度量观测点与估计点的远近，“最小”指的是参数的估计值要保证各个观测点与估计点的距离的平方和达到最小。
三、原理
设一组数据,现用近似曲线拟合这组数据,“拟合得最好”的标准是所选择的在处的函数值与相差很小,即偏差（也称残差）都很小.一种方法是使偏差之和很小来保证每个偏差都很小.但偏差有正有负,在求和的时候可能相互抵消.为了避免这种情况,还可使偏差的绝对值之和为最小.但这个式子中有绝对值符号,不便于分析讨论.由于任何实数的平方都是正数或零,因而我们可选择使“偏差平方和最小”的原则来保证每个偏差的绝对值都很小,从而得到最佳拟合曲线=.这种“偏差平方和最小”的原则称为最小二乘原则,而按最小二乘法原则拟合曲线的方法称为最小二乘法或称最小二乘曲线拟合法. 一般而言,所求得的拟合函数可以使不同的函数类,拟合曲线都是由个线性无关函数, ,…,的线性组合而成,即
,
其中，，…，为待定系数.线性无关函数, ,…,称为基函数,常用的基函数有:
多项式：1, , ,…路由跟踪,;
三角函数：, ,浪潮财务共享…,;
指数函数：, ,…,.
最小二乘法又称曲线拟合,所谓“ 拟合” ,即不要求所作的曲线完全通过所有的数据点,只要求所得的近似曲线能反映数据的基本趋势,它的美好生活评价实质是离散情况下的最小平方逼近.
四、运用曲线拟合做最小二乘法
1 一元线性拟合
已知实测到的一组数据,求作这组数据所成的一元线性关系式.设线性关系式为,求出和即可.
法一：,则要满足,.即
化简得
从中解出
三二三事变四川大学（1）
法二：将,代入得矛盾方程组
(2)
令=,=,则（2）式可写成,则对应的正规方程组为,所以=,其中称为结构矩阵,称为数据矩阵,称为信息矩阵, 称为常数矩阵.
2 多元线性拟合
设变量与个变量, ,大冲辣椒…,（）内在联系是线性的,即有如下关系式
,设的第次测量值为,对应的函数值为,则偏差平方和为=,为了使取最小值得正规方程组
（3）
即
. （4）
将实验数据代入（4）式,即得.
3 指数函数拟合
科学实验得到一组数据时,还可以考虑用指数函数为基函数来拟合,此时设拟合函数具有形式（为待定系数）.对上式两端取自然对数可得：
（中医治股骨头坏死9）
令=, ,则（9）式可转化为一元线性函数形式,此时将指数函数拟合转化成了一元线性拟合,利用一元线性拟合中的两种方法均可求出和,继而根据可求出,从而得出因变量与自变量之间的函数关系式
豫公网安备41160202000603
站长QQ:729038198
关于我们
投诉建议