一元线性拟合是指两个变量x、y之间的直线因果关系, (i=1,2,…,n) (式1)
其中,(,)表示(X,Y)的第i个观测值,,为参数,为反映统计关系直线的分量,为反映在统计关系直线周围散布的随机分量,,拟合直线
服从正态分布。式1中,均为未知数,根据样本数据对和进行统计,和的估计值为和,建立一元线性方程: (式2)
一般而言,所求的和应能使每个样本观测点(,)与拟合直线之间的偏差尽可能小。
2,最小二乘法原理
利用最小二乘法原理,可以选出一条最能反映Y与X之间关系规律的直线。
令 (式3)
其中Q达到最小值,和称为最小二乘法估计量,根据微积分中极值的必要条件
(式4)
(式5)
残差 代表观测点对于拟合直线的误差
可以证明:
残差越小,各观测值聚焦在拟合直线周围的紧密程度就越大,说明直线与观测值的拟合越好。