第四部分 最小二乘(OLS)的大样本性质.

第四部分  最小二乘(OLS)的大样本性质
一、背景
在有限样本条件下,OLS估计的一系列优良特性都是建立在严格的古典假定上的。显然,在现实生活中,严格的古典假定并不都能得到满足。大样本性质就是在古典假定中的残差服从正态分布这一假定不成立的条件下,利用大数定律和中心极限定理对估计量渐进性质的讨论。
二、知识要点
1、矩估计、样本矩代替总体
2、基本的大数定律和中心极限定理恺撒大帝4
3、大样本OLS估计的推导和性质
三、要点细纲
1、矩估计、样本矩和总体矩
矩估计方法(Method of Moments, 简称MOM)是由英国统计学家K.Pearson提出的。其基本的思想就是可以用样本矩估计替换总体矩,通过求解方程组的办法来得到相应的参数估计。
(1)总体矩和样本矩的概念
①总体矩
§定义 设X为随机变量,c为常数,k是正整数,则称为X关于c点的k阶总体矩。特别的,有以下两种请况:
A、,这时,称为X的k阶总体原点矩;
B、,这时,称为X的k阶总体中心矩。
可以看出,一阶原点矩为随机变量的期望,二阶中心矩为随机变量的方差。
§扩展  关于偏度和峰度
A、偏度:偏度衡量的是一个随机变量的分布是否是对称分布,这里的对称指的是关于其均值(期望)对称。偏度是用随机变量的三阶中心矩来衡量的,其公式为:。如果,则称分布为右偏(或者正偏),如果,则称分布为左偏(或者负偏)。
遵循可比性的原则,将度量的单位标准化得到“偏度系数”的表达式如下所示:
nrm
B、峰度:峰度衡量的是一个随机变量的分布在均值附近的陡峭程度如何(注意:这里的陡峭程度有一个对比的标准——正态分布)。峰度用随机变量的四阶矩来衡量。其公式为:。很显然,如果X的取值在概率上很集中在EX的附近,就倾向于小;反之,则就会比较大。
同样遵循可比性的原则,进行标准化,得到峰度系数的表达式:
峰度大小(也就是分布在均值附件集中程度)的衡量是有一个比较标准的,这个标准就是正态分布的峰度——3。如果大于3,就是常说的“尖峰”。这在金融时间序列数据中很常见。
②样本矩钴盐
和总体矩相对应,关于随机变量的样本矩有如下定义:
§定义 设X为随机变量,c为常数,k是正整数,则称为X关于c点的k阶样本矩。
A、,这时,称为X的k阶样本原点矩;
B、,这时,称为X的k阶样本中心矩。
同样采取“替换”的思想,可以得到样本的偏度和峰度。实际上,在具体的实践操作中,总体矩总是未知的,上述统计量都是用样本矩来近似的代替总体矩。
中原钢结构论坛(2)总体矩和样本矩的关系
可以证明,样本矩依概率收敛于总体矩。因此,在大样本情况下,样本矩可以很好的近似替代总体矩。在计量经济学中,主要指的就是样本均值和样本方差可以很好的替代总体均值和总体方差。(二阶矩)
具体证明过程如下:
①根据定理:如果一个随机样本具有有限的总体均值和总体方差,那么样本均值是总体均值的一致估计。
②再根据推论:一个关于随机样本的函数,如果是有限的常数,那么有:
即函数的样本均值是函数总体均值(期望)的一致估计。
,得到样本的二阶矩(方差)是总体二阶矩(方差)的一致估计。
2、基本的大数定律和中心极限定理
关于中心极限定理的内容有很多,根据收敛条件的强弱可以分为(1)几乎处处收敛、(2)依概率收敛(convergence in probability) 高温工业电视和(3)依分布收敛(convergence in distribution)。其中,几乎处处收敛强于依概率收敛;依概率收敛又强于依分布收敛。
但是,在众多的中心极限定理中,有两种重要的区别。那就是收敛于一个确定的数,以及收敛于一个已知分布的随机变量。这两者之间有很显著的不同。在计量经济学中关注的通常是一个未知分布的随机变量收敛于另一个已知分布的随机变量(一般而言是正态分布)。这就是依分布收敛的定义和极限分布的由来。需要注意的是大数定律一般是依概率收敛,而中心极限定理一般是依分布收敛。
在给出依分布收敛的定义后,就产生了渐进分布的概念。简单来说,当一个未知分布的随机变量依分布收敛于另一个已知分布的随机变量时,这个已知的分布就是该随机变量的渐进分布。而该分布的均值和方差就是这个未知分布随变量的渐进均值和渐进方差。关于渐进分布的若干运算性质详见格林教材P907页,定理D.16(Theorem D.16)

本文发布于:2024-09-24 01:22:22,感谢您对本站的认可!

本文链接:https://www.17tex.com/xueshu/152923.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:总体   样本   分布
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2024 Comsenz Inc.Powered by © 易纺专利技术学习网 豫ICP备2022007602号 豫公网安备41160202000603 站长QQ:729038198 关于我们 投诉建议