Delta方法参考模板

1、Delta 方法摘要在统计学中，独立和的中心极限定理或者Linderberg-Feller中心极限定理都给出了随机变量服从极限正态分布的条件，不过，很多时候我们关注的不是随机变量本身的分布，而是随机变量函数的分布，而delta 方法作用就是利用估计量的极限方差求得渐近正态估计量函数的极限分布。Delta方法主要利用了Taylor展开证明。介绍假定统计量是参数的一个估计，但是我们感兴趣的是，其中是一个已知的函数。一个很自然的想法是用统计量来估计。但是的渐进性质如何呢？首先由连续映射定理可知，如果序列以概率收敛于，且在处连续，那么以概率收敛于。一个类似的问题是关心极限分布。特别的如果弱收敛到一个极

2、限分布，那么对于一样成立？定理证明Delta 方法（一元）如果一列随机变量满足，其中均为有限的常数，那么，其中满足存在且取值不为零。Delta 方法（多元）设都是k变元函数，有一阶全微分,.又为一串随机向量，满足条件这里为常向量，为k阶常方阵，则其中C为矩阵，其（i，j）元为Taylor多项式 如果函数g(x)有r阶导数，即存在，则对任意常数a, g(x)在a附近r阶Taylor多项式（Taylor polynomial of order r about a为1 / 8Taylor定理 如果存在，则Taylor定理表明余项是Taylor多项式的无穷小，由于我们仅考察Taylor级数近似，常常忽

3、略其余项，所以余项的具体表达式并不十分关心，不过在余项的具体表达式中，下列表示最为常用Slutsky 定理 如果依分布收敛于随机变量，依概率收敛于常数a则A.依分布收敛于随机变量；B依分布收敛于随机变量，方法 设速记变量序列满足：依分布收敛于，函数g在指定处满足：存在且不为零，则（依分布收敛）证明 （一元）在附近的Taylor展式为余项其中，当时余项趋于零。由于依概率收敛于，故余项依概率收敛于零，于是（依分布收敛）再由Slutsky定理可知，此定理得证。（多元）因都有一阶全微分，故有按照假定有极限分布，故当，依概率成立。因此上式左边的极限分布，与右边的第一项分布的极限分布相同。按假定，后者等于

4、的分布，其中，这就证明了多元的Deita方法。扩展下面我们介绍Deita方法的一种推广。推广考察的情形，这种情况却有可能发生，例如我们在Taylor展式中多取一项，即余项令，重新整理后，即余项回忆变量的平方服从分布，于是（依分布收敛）二阶Deita方法设随机变量序列满足：依分布收敛于，函数g在指定的处满足存在且不为零，则（依分布收敛）应用样本协方差的样本协方差定义为，可以表示为，其中函数，为了简单，我们用的n而不是n-1，假定是取自那些一阶矩到四阶矩有限的分布的，并且一阶矩到四阶矩表示为。由多元的中心极限定理可知，映射在点，并且其导数。因此如果向量服从上面的正态分布，那么上式后面的变量是正态分

5、布，且均值为零，方差可以被表示。如果，方差可以简化为。一般情况下可以变为这种情况，因为在样本替换为中心化的随机变量的情况下不会改变。令，表示的中心矩。发现和为初始样本的方差，我们得到由Slutsky 定理，对于无偏的样本协方差矩阵这个结果依然成立，因为卡方检验的水平作为前面的例子的应用，考虑检验方差的卡方检验。正态理论规定，当超过的上分位数时拒绝原假设。如果样本观察值都来自正态分布，检验有一个精确的水平。如果最初的样本分布不是正态分布是不是仍然成立。不幸的是，答案是否定的。当n很大时，我们可以借助上面的结论。根据中心极限定理和前面的例子的陈述，这里表示分布的峰度。第一个式子能够得到收敛到标准正

6、态分布的上分位数。因此卡方检验的水平满足渐近的水平变为当且仅当分布的峰度等于零。这其实就是正态分布的情形。另一方面重尾分布有一个很大的峰度。如果分布的峰度是接近无穷，那么渐进水平接近。我们可以得出结论卡方检验对于那些影响峰度值的参数是不稳定的。当检验的临界值在自由度n-1的卡方分不下给定时至少是对的。如果用用正态分布去近似，且渐进方差被估地准确的话这个问题就不会被提出来。在上面的例子中的渐进分布由Delta方法得到。实际上，它可以由更简便更直接方法得到。上式的第二项以概率收敛到零；第一项由中心极限定理渐进正态，所以整个式子由Slutsky 定理渐进正态偏度样本的样本偏度定义为意料之中的它会以概

7、率收敛到潜在分布的偏度。定义系数，分别是三阶中心矩和标准差，对称分布的偏度，比如正态分布，是等于零的，样本的偏度可以用来检验潜在分布的正态性质的某些方面。对于大样本的情形，检验临界值可以用正态近似来定义。样本偏度可以写成，其中表示如下有中心极限定理可知，序列为渐近正态，且均值为零。假定有限。而表示总体的精确偏度。函数在点可微。令，偏度也可以被表示成。表示潜在分布的的偏度，那满足函数在点的导函数值为。因此如果服从上述正态分布，那么为渐近正态，均值为零，方差等于。如果潜在的分布是正态的，那么。在这种情况下，样本偏度渐近方差变换统计量，满足，对不同的的取值，的渐近置信区间为不幸的是，上面所说的区间是没有用的，因为区间跟未知参数有关。有一种方法是其他统计量估计其标准差，如果这一系列的估计量都是相合的，就会有置信区间的渐近水平为。另一个方法利用方差变换，其往往会收到比较好的结。如果与无关，这个问题就不会被提出。受此启发得到方差变换的主意。尽管适合条件的情形会比较少，而且经常把变换为另一个不同的参数，在这种情况下就可以应用了。自然估计的统计量为。如果是可微的函数，那么我们可以通过选取使得，此时渐进方差就为一个常数，找到一个针对于置信区间是简单的。微分方程的解为就为一个方差变换。相关性令为来自二维正态分布且相关系数为的样本。样本相关系数可以定义