最小二乘法求回归直线方程的详细推导过程

最⼩⼆乘法求回归直线⽅程的详细推导过程
其中1式叫做 Y对x的回归直线⽅程,b叫做 回归系数。要想确定回归直线⽅程,我们只需确定a与回归系数b即可。
男同姓恋
设x,y的⼀组观察值为:
李维淼
髋骨(xi, yi) i = 1, 2, 3, …n
其回归直线⽅程为:
当x取值xi(i=1,2,3……n)时,Y的观察值为yi,差yi - y^i(i = 1, 2, …, n)刻画了实际观察值y1与回归直线上相应点纵坐标之间的偏离程度,见下图:
实际上我们希望这n个离差构成的总离差越⼩越好,只有如此才能使直线最贴近已知点。换句话说,我们求回归直线⽅程的过程其实就是求离差最⼩值的过程。
⼀个很⾃然的想法是把各个离差加起来作为总离差。可是,由于离差有正有负,直接相加会互相抵消,如此就⽆法反映这些数据的贴近程度,即这个总离差不能⽤n个离差之和来表⽰,见下图:
⼀般做法是我们⽤离差的平⽅和,即:
居敬小学作为总离差 ,并使之达到最⼩。这样回归直线就是所有直线中Q取最⼩值的那⼀条。由于平⽅⼜叫⼆乘⽅,所以这种使“离差平⽅和为最⼩”的⽅法,叫做 最⼩⼆乘法。
⽤最⼩⼆乘法求回归直线⽅程中的a、b的公式如下:
a、b的上⽅加“︿”表⽰是由观察值按最⼩⼆乘法求得的估计值,a、b求出后,回归直线⽅程也就建⽴起来了。
二连浩特发生一起中毒事故致4死当然,我们肯定不能满⾜于直接得到公式,我们只有理解这个公式怎么来的才能记住它,⽤好它,因此给出上⾯两个公式的推导过程更加重要。在给出上述公式的推导过程之前,我们先给出推导过程中⽤到的两个关键变形公式的推导过程。⾸先是第⼀个公式:
接着是第⼆个公式:
基本变形公式准备完毕,我们可以开始最⼩⼆乘法求回归直线⽅程公式的推导了:
令牌桶

本文发布于:2024-09-21 12:41:44,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/403388.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:直线   离差   公式   回归   推导   过程   乘法   观察
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议