《平稳序列参数表征》PPT课件.ppt

第三章平稳序列参数表征的矩估计 均值估计自协方差函数和自相关函数的估计偏相关函数的估计白噪声的检验 第一节平稳序列均值的估计 若为平稳序列 均值函数与t无关 记为 记为序列的容量为n的样本序列 回顾 当为独立同分布序列时 根据大数定律和中心极限定理 可知的极限性质 主要有 1 相合性设是独立同分布的随机变量序列 记 则 2 渐近正态性设随机变量相互独立 同分布 且 则当时的分布趋于标准正态分布 也就是其中是标准正态分布N 0 1 的分布函数 设是平稳序列的观测值 均值函数的点估计 由下式表示出 一相合性 consistency 定义1 1设统计量是的估计 在统计学中有如下的定义 1 如果 则称是的无偏估计 2 如果当时 则称是的渐进无偏估计 3 如果依概率收敛到 就称是的相合估计 4 如果几乎处处 a s 收敛到 就称是的强相合估计 定理1 1设平稳序列有均值和自协方差函数 若以作为的估计 那么 1 是的无偏估计 2 若 则是的相合估计 即当时 有或 3 如果是严平稳遍历序列 则是的强相合估计 二中心极限定理 渐近正态 AsymptoticNormality 回顾 如果是独立同分布序列 当时 从中心极限定理知道依分布收敛到 利用这个结果可以给出的置信度为0 95的渐近置信区间 当标准差未知和n较大时 可用样本标准差代替 可解决有关均值的假设检验 定理1 2若其中为正态白噪声序列 则渐近正态N 0 v 分布 记作其中 定理1 3设是平稳过程其中 是独立同分布的 则当时 依分布收敛到正态分布N 0 v 记作其中或者说渐近正态分布 注 定理1 3对求关于的大样本近似置信区间是有用的 如果过程是平稳Gauss过程 则对有限n 的精确分布如果已知 则上式给出的精确置信界 如果未知 有观测值估计量则只能给出近似置信界 三的模拟计算我们考虑标准正态白噪声和AR 2 模型 从计算机上产生n 1000个观测数据对于n 1 2 1000分别计算出 同时还计算出的相应样本均值 这时真值为 模拟计算1当时 模拟计算2当时 第二节自协方差与自相关函数的估计 一估计方法根据零均值的平稳序列的样本值序列 估计它的自协方差函数由两种简单方法 1 2 1 2 2 2 两种不同估计的差异 1 是的无偏估计 而不是的无偏估计 k 0例外 但当时 是渐近无偏的 2 由 2 1 定义的样本自协方差函数能够使得样本自协方差矩阵不仅是对称方阵 而且是非负定的 定理2 1设为零均值平稳序列 是长度为n的样本 如 2 1 定义 记则对任意 有 非负定 注1 在定理2 1中 若 则对任意 正定 a s 注2 对于由 2 2 定义的 虽然是的无偏估计 但序列并不像具有正定性 例2 1 设为平稳序列 是长度为n 3的样本 为非零实数 经计算故样本协方差矩阵为取 则取 则故由 2 2 定义的样本协方差为不定序列 当平稳序列的均值不为零时 我们用以下方法估计的自协方差函数 2 3 式中为的样本均值 在的估计方法确定后 相应的序列的自相关函数用以下两种方法估计 即 2 4 2 5 并且称为样本自相关函数 二的相合性定理2 2设平稳序列的样本自协方差函数和由 2 1 2 4 定义 则 1 分别是的渐近无偏估计 2 分别是的弱相合估计 即其中表示依概率收敛 3 如果是严平稳遍历序列 则对每个确定的k 和分别是和的强相合估计 即 注 从这个定理知道 只要是线性平稳序列 则样本自协方差函数是渐近无偏估计 特别当是AR p MA q 或ARMA p q 序列 是的渐近无偏估计 三 的渐近分布1 渐近方差定理2 3若为如下的平稳序列式中为独立同分布的随机序列 且 则 1 与的协方差有渐近表达式 2 样本自相关函数和的协方差有以下渐近表达式注 当为正态序列时 从而有 2渐近正态分布 中心极限定理 定理2 4在定理1 6的相同条件下 令对于任意正整数k 具有联合渐近正态分布 即其中 G为 k 1 阶对称方阵 其i行j列元素为 类似地 其中R为k阶对称方阵 其i行j列元素为 2 6 称 2 6 为Bartlett公式 该定理应用的例子 sample3 1例2 2 独立白噪声 设 如果 则 由Bartlett公式 故 当n充分大时 有 例 产生样本长度n 400的白噪声序列 样本自相关函数如下图 sample3 1 19 20 95 例2 3对MA q 序列 利用定理知 如果白噪声是独立同分布的 只要m q 由Bartlett公式知 则于是可作假设检验 是MA q 下 对m q有 检验 使用 q 0 q 1 注 一般地 常用或作为与进行比较 以检验数据由MA 1 过程产生 例2 4 一阶自回归过程 对平稳AR 1 过程用Bartlett公式 并注意到 则的渐近方差为当i比较大时 四 随机模拟AR 2 模型 其中为独立同分布正态白噪声 分别利用前100 500 900数据计算 结果如图 五 遍历性 Erdogic 一个时间序列的期望和第j个自协方差视作如下意义上的总体平均 即平稳序列的一个样本是的一个实现 而不是某个特定时刻t的的简单抽样 故不能直接引用统计中的大数定律的结果 对于从随机序列中得到的样本量为N的实现 可计算 样本均值 2 7 样本协方差 2 8 它们不是一个总体平均而是一个时间平均 一个平稳过程被称作是关于均值遍历的 如果当时 2 7 依概率收敛于 如果一个平稳过程的自协方差满足则关于均值是遍历的 一个平稳过程 如果对所有的j都成立 则称该过程是关于二阶矩遍历的 若是一个正态平稳过程时 条件足可以保证关于所有阶矩的遍历性 物理上的解释 时间平均 总体平均这一结果表明 求平稳序列的统计特征矩只需序列的一次实现 而不需要多次实现 例2 5 一个平稳的但非遍历的过程设第i个实现的均值是由分布生成的 其中是独立于的均值为0 方差为的正态白噪声过程 第三节偏相关函数估计 偏相关函数的估计的递推公式 定理3 1设为正态平稳序列 则 1 2 3 当k p时 的偏相关函数的估计为随机向量为渐近独立且渐近分布为 为M阶单位阵 M为大于1的任意给定的正整数 第四节模型的初步分析 一 独立序列的判别方法 白噪声 设为独立同分布的随机序列 而且 从而是白噪声序列 1 白噪声的正态分布检验法根据的样本数据列计算出样本自相关函数 它们的误差为由Bartlett公式 可知其中H的第i行第j列的元素为 于是有 于是对于j 1 2 k 我们有取m 1时 即在中约有68 3 的点值落在区间内 取m 2时 即在中约有95 44 的点落在区间内 取m 3时 即在中约有99 74 的点落在区间内 称为原则 换一种角度 令表示满足下面条件的j的个数 j 1 2 k 对于原假设 是独立白噪声下 对较大的n 应当有95 的小于1 96 所以当取值大于0 05值 应当拒绝是白噪声的假设 例4 1 1 样本长度n 400 取m 2 这时 也可取m 3的检验方法 则 也可取m 1的检验方法 则 例4 2样本长度n 400 AR 1 序列 例4 3样本长度n 400 MA 1 序列 二 白噪声的检验如果是独立同分布的标准正态随机变量 它们的平方和服从自由度为k的分布对于独立同分布的白噪声 由样本自相关函数的中心极限定理 当n充分大后 近似服从k维标准正态分布 于是 近似服从分布 这里 由于在原假设下 所以当检验统计量的取值较大时应当拒绝原假设 否则没理由拒绝原假设 具体地 给定检验水平 查k个自由度的分布表得到临界值满足当实际计算结果时 应当否定是独立白噪声的原假设 当时 不能否定是独立白噪声序列 例4 4 例4 1的续 对于白噪声序列 有故 不能否定原假设 对于AR 1 序列有故 否定原假设 例4 5对于AR 1 序列样本数n 400 重复n 500 得到否定原假设的比例为 1 m 5 2 m 20 例4 6MA 1 序列 样本数n 400 重复n 500 得到否定原假设的比例为 1 m 5 2 m 20 注1 上述讨论的问题叙述的依据虽然都基于是独立同分布的白噪声假设 但在实际问题中 这个假设条件可以放宽 即对于假设 是白噪声 一般都可采用上面的方法 注2 在实际问题中 k一般既不能取得过大 亦不能取得太小 一般地 若观测量较多 k可取或 甚至更小 若观测量较小 m可取 二 周期分量与季节序列的判别方法例4 7 序列其中为某个平稳线性序列 记分别表示序列的样本自协方差函数 于是有经计算 当时 由平稳序列自相关协方差函数的相合性 当k很大时 有 例4 8 北京1990 1 2000 12年的气温序列sample3 5 样本自相关函数 例4 9序列 Sample3 6 样本自协方差函数图 三 回归趋势与求和模型判别考虑序列包含一个 d 1 次多项式的趋势项 例如序列称上式中为回归趋势项 并记分别为的样本均值 样本自相关函数分别为 于是其中 经计算得到 当n很大时 又由于 当n很大时 于是的样本自相关函数满足 对每个k成立 注1 当序列中的趋势项是两阶或更高阶的多项式 仍有 的近似结果 注2 当序列中的趋势项是非多项式时 可知的尾部不衰减到零值 注1 当序列中的趋势项是两阶或更高阶的多项式 仍有 的近似结果 注2 当序列中的趋势项是非多项式时 可知的尾部