特征估计汇编

1、1.31.3随机序列数字特征的估计随机序列数字特征的估计 实际中无法得到随机序列的无穷多个样本实际中无法得到随机序列的无穷多个样本, , 因而很难精确计因而很难精确计算它的统计平均值算它的统计平均值, , 方差和自相关函数。方差和自相关函数。 本节讨论如何根据实际取得的有限样本数据来估计随机序列本节讨论如何根据实际取得的有限样本数据来估计随机序列的数字特征的数字特征. .1.3.11.3.1估计准则估计准则1.1.估计的概念估计的概念对随机变量对随机变量 观测观测 次次, , 得到得到 个观测值个观测值: : 设：设： 待估计参数的真值待估计参数的真值; ; 的估计值的估计值, ,是观测值是观

2、测值的函数的函数. .现按一定的准则构造一个观测数据的函数现按一定的准则构造一个观测数据的函数, ,以此作为以此作为真值真值 的估计值的估计值, ,即即xNN0121,Nxx xx0121,NF xx xx相应的估计误差为相应的估计误差为1.3.11.3.1估计准则估计准则注意注意: : 和和 均为随机变量。均为随机变量。图1.3.1 估计过程观测数据估计准则估计值)(tn 真值估计过程如图估计过程如图1.3.11.3.1所示。所示。1.3.11.3.1估计准则估计准则0)(1p)(2p图1.3.2 估计量的概率密度曲线 按不同的准则构造按不同的准则构造 , , 将会得到不同的将会得到不同的

3、。 如何衡量估计的质量呢如何衡量估计的质量呢? ? F从概念上讲从概念上讲, ,图中曲线图中曲线 比较窄比较窄, , 估计值估计值 接近真值接近真值 的概率比较大。的概率比较大。 因此因此 的估计性能比的估计性能比 好。好。) (1p)(1p2( )p假设估计值假设估计值 的概率密度曲线如图的概率密度曲线如图1.3.21.3.2所示所示. . 1.3.11.3.1估计准则估计准则2.2.评价估计性能的标准评价估计性能的标准主要从偏移性主要从偏移性, , 估计方差和均方差估计方差和均方差( (一致性一致性) )等方面进行评价。等方面进行评价。1) 1) 偏移性偏移性 将真值将真值 与估计量与估计

4、量 的统计平均值的统计平均值 之差称为偏移之差称为偏移, , 并用并用 表示表示, ,则则 EB BE 无偏估计无偏估计, , 估计量在真值附近摆动估计量在真值附近摆动; ; 0B 有偏估计有偏估计; ;0B 渐近无偏估计渐近无偏估计 满足下列关系的估计满足下列关系的估计: :limNE1.3.11.3.1估计准则估计准则2) 2) 估计量的方差估计量的方差设设 的无偏估计值为的无偏估计值为 , , 定义估计方差定义估计方差x22( ) EE设设 的另一个无偏估计为的另一个无偏估计为 , , 同样同样定义估计方差定义估计方差x22( ) EE若满足若满足22则说明估计则说明估计 比比 更有效更

5、有效. . 一般希望当一般希望当 时时, ,N021.3.11.3.1估计准则估计准则3)3)一致性一致性均方误差均方误差 常遇这样的情况常遇这样的情况: : 即偏移小的估计方差较大即偏移小的估计方差较大, , 而偏移大而偏移大的估计反而方差较小。的估计反而方差较小。 采用均方误差比较两个有偏估计的性能更合理。采用均方误差比较两个有偏估计的性能更合理。估计量的均方误差表示为：估计量的均方误差表示为：22() EE若满足若满足2lim0NE则有则有在均方意义上这种估计就称为一致估计。这种估计就称为一致估计。1.3.11.3.1估计准则估计准则一致估计的充分必要条件一致估计的充分必要条件 与与 ,

6、 , 的关系。的关系。2EB2)(2)()()()()(22222EEEEEEEEEEE 22)(EE222)()(BEEE, limEN0 E当当 时时, , 有有N222()0EB 因此因此, , 一致估计的充分必要条件是一致估计的充分必要条件是: : 随着随着 的增大的增大, , 偏移偏移和估计量的方差都应趋于零和估计量的方差都应趋于零. .N下面讨论均值下面讨论均值, , 方差和自相关函数的估计时方差和自相关函数的估计时, , 假定假定: : 随机序列是平稳的且具有各态历经性随机序列是平稳的且具有各态历经性, , 集合平均可用长时集合平均可用长时 间的时间平均代替。间的时间平均代替。1

7、.1.估计方法估计方法设已取得设已取得 个样本数据为个样本数据为 , ,均值估计计算公式为均值估计计算公式为N) 1, 2 , 1 , 0(Niix101NxiimxN(1.3.7)(1.3.7)其中其中 为观测次数为观测次数. .N2.2.估计质量估计质量1)1)偏移偏移由于由于110011NNxiixiiE mExE xmNN(1.3.8)(1.3.8)因此因此, , ,即为无偏估计。即为无偏估计。0 xxBmE m1.3.21.3.2均值的估计均值的估计1.3.21.3.2均值的估计均值的估计2)2)一致性一致性a)a)数据之间不相关时数据之间不相关时 【方差】【方差】2222)(xxx

8、xmmmEmEmEx(1.3.9)(1.3.9)其中其中: : 1122001NNxijijE mE x xN由于数据内部不相关由于数据内部不相关, , 则则ijijEx xExEx于是于是1.3.21.3.2均值的估计均值的估计1120022211 11 NNxijijxiiE mE xE xNNmE xE xNN即即222211xixxE mE xmmNN(1.3.10)(1.3.10)将上式代入式将上式代入式(1.3.9), (1.3.9), 得得2222211xmixxxE xmmmNN1.3.21.3.2均值的估计均值的估计即即221xmxN 上式表明上式表明: : 观测次数观测次数

9、 , , 估计量方差估计量方差 ( (是信号方差的是信号方差的 倍倍); ); 当当 时时, ., .N2xmN1N02xm【均方误差】【均方误差】222xxmmEB(1.3.12)(1.3.12)可见可见, ,当当 时时, , , , , , ,因而是一致估计。因而是一致估计。N0B02xm02xmE 结论结论: : 当数据内部不相关时当数据内部不相关时, , 利用式利用式(1.3.7)(1.3.7)估计均值估计均值, , 是一种无偏的一致估计是一种无偏的一致估计, , 因而是一种好的估计。因而是一种好的估计。1.3.21.3.2均值的估计均值的估计b)b)数据之间相关时数据之间相关时222

10、11220011122000() 11()1() ()()xmxxNNixixiiNNNixnxixinin iE mmExmExmNNE xmE xmxmN设设 , , 则则mni()()( )nxixxxE xmxmCm1.3.21.3.2均值的估计均值的估计当当 时时0m 2() (0)ixxxE xmC由于由于 点数据中相距点数据中相距 点的样本有点的样本有 对对, , 因此因此NmmN 12211211(0)2()( )12( )xNmxxxxmNxmxNCNm CmNNmmNN(1.3.13)(1.3.13)式中式中2(0)xxxC()()(0)xxxxxCmmC 结论结论: :

11、当数据内部存在相关性时当数据内部存在相关性时, , 利用式利用式(1.3.7)(1.3.7)估计均估计均值值, , 估计量的方差下降不到真值估计量的方差下降不到真值 的的 , , 说明其一致性说明其一致性效果有所变差。效果有所变差。2xN11.3.31.3.3方差的估计方差的估计1.1.数据间不相关时的估计数据间不相关时的估计 已知已知 点样本数据点样本数据 , ,且数据间不相关且数据间不相关, , 方方差的估计值由下式计算差的估计值由下式计算: : Nnx(0,1,2,1)nN12201()NxnxnxmN(1.3.14)(1.3.14) 式中式中, , 信号的均值信号的均值 通常是不知道的

12、通常是不知道的, , 为此可按式为此可按式(1.3.7)(1.3.7)首先估计均值首先估计均值 ，将，将 代入上式得代入上式得xmxmxm12201()NxnxnxmN(1.3.15)(1.3.15)1.3.31.3.3方差的估计方差的估计偏移性偏移性: :由上式可得方差估值的均值为由上式可得方差估值的均值为122201 2 NxnxnxnEE xE mE x mN(1.3.16)(1.3.16)其中其中, , 第第2 2项由式项由式(1.3.10)(1.3.10)给出给出: :22211xixNE mE xmNN1.3.31.3.3方差的估计方差的估计10120120221111111Nnx

13、nmmNnnmmm nNnnmmm nnxE x mE xxNE xE x xNNE xE xE xNNNE xmNN(1.3.17)(1.3.17)将以上二式代入式将以上二式代入式(1.3.16), (1.3.16), 得到得到22222111xnnxxNNEE xE xmNNN(1.3.18)(1.3.18)第第3 3项项: :1.3.31.3.3方差的估计方差的估计讨论讨论: :1 1） , ; , ;当当 时时, . , . 因此因此, , 按式按式(1.3.15) (1.3.15) 估计方差估计方差, , 是一种有偏估计是一种有偏估计, ,且是渐近无偏的。且是渐近无偏的。N2xEN2

14、2xxE2 2）无偏估计方法）无偏估计方法: : 为了获得无偏估计为了获得无偏估计, , 现对式现对式(1.3.15)(1.3.15)做如下修正做如下修正: :12201()1NxnxnxmN (1.3.19)(1.3.19)比较式比较式(1.3.15)(1.3.15)和和(1.3.19), (1.3.19), 可得可得221xxNN (1.3.20)(1.3.20)1.3.31.3.3方差的估计方差的估计上式两边取数学期望上式两边取数学期望, , 并将式并将式(1.3.18)(1.3.18)代入代入: :222111xxxNNNEENNN即有即有22xxE(1.3.21)(1.3.21)结论

15、结论: : 按式按式(1.3.19)(1.3.19)估计方差估计方差, , 可得到无偏估计可得到无偏估计, , 而且是一致而且是一致 估计估计( (证明从略证明从略).).1.3.31.3.3方差的估计方差的估计2.2.数据间相关时的估计数据间相关时的估计仍按式仍按式(1.3.19)(1.3.19)估计方差估计方差. . 方差估计值的统计平均值为方差估计值的统计平均值为( (推导略推导略) )122121( )1NxxxmNmEmNN(1.3.22)(1.3.22) 可以证明可以证明, , 上述估计是有偏估计上述估计是有偏估计, , 且是渐近无偏估计且是渐近无偏估计. .1.3.41.3.4自

16、相关函数的估计自相关函数的估计1.1.无偏自相关函数的估计无偏自相关函数的估计1)1)估计方法估计方法( (计算公式计算公式) ) 根据各态历经性假设根据各态历经性假设, ,求求 的自相关函数的自相关函数 , ,可由可由 的一个取样时间序列的时间平均代替其统计的一个取样时间序列的时间平均代替其统计( (集合集合) )平均。若平均。若 为实信号为实信号, , 则有则有( (自相关函数真值自相关函数真值) )(nx)(mRxx)(nx)(nx1()lim( ) ()21NxxNnNRmx n x nmN(1.3.23)(1.3.23) 实际上实际上, , 能观测到的随机信号能观测到的随机信号 只能

17、是一个有限长样只能是一个有限长样本序列本序列, , 因此因此, , 由由 个取样数据计算得到的个取样数据计算得到的 , , 应是其应是其估值估值 , , 即即)(nxN)(mRxx)(mRxx1( )( )()xxNNnRmxn xnmN(1.3.24)(1.3.24)1.3.41.3.4自相关函数的估计自相关函数的估计式中式中, ,( )( ) ( )NNxnwn x n()() ()NNxnmwnm x nm 为长度为为长度为 点的矩形窗点的矩形窗 , , 及及 。)(nwNN0)(nwN0n1 Nn 由于两个有限长序列由于两个有限长序列 与与 的乘积不为零的的乘积不为零的区间是区间是 ,

18、 , 即即)(nxN)(nmxN1|)|(0mNn( )()0NNxn xnm1|)|(0mNn所以所以, , 式式(1.3.24)(1.3.24)可写成可写成| | 101( )( ) ()|NmxxnRmx n x nmNm1| Nm(1.3.25)(1.3.25), ,这就是自相关函数无偏估计的计算公式。这就是自相关函数无偏估计的计算公式。1.3.41.3.4自相关函数的估计自相关函数的估计2)2)估计质量估计质量【偏移性】【偏移性】 取取 的数学期望的数学期望)(mRxx| | 10| | 101() ( ) ()|1()()|NmxxnNmxxxxnE RmE x n x nmNmR

19、mRmNm因因 的数学期望等于其真值的数学期望等于其真值 , , 所以偏移为零所以偏移为零, , 即即)(mRxx)(mRxx0)()(mRmREBxxxx可见可见, 是无偏估计是无偏估计. .)(mRxx【估计方差】【估计方差】 的方差为的方差为)(mRxx)()()()()(var222mRmREmREmREmRxxxxxxxxxx1.3.41.3.4自相关函数的估计自相关函数的估计其中其中 1|01|022)()()()(|)|(1)(mNnmNkxxmkxkxmnxnxEmNmRE在解决上式计算后在解决上式计算后, , 可以得到可以得到)()()(|)|()(var1|122mkRmk

20、RkRmNNmRxxxxmNNmkxxxx(1.3.26)(1.3.26) 上式中上式中, , 只有当只有当 , , 时时, , 估计方差才趋于估计方差才趋于0, 0, 而而当当 时时, ,方差将很大。方差将很大。 虽然是无偏估计虽然是无偏估计, , 但不是一致估计但不是一致估计, , 一般情况下一般情况下, , 这不是这不是一种好的估计方法。一种好的估计方法。NmNNm 1.3.41.3.4自相关函数的估计自相关函数的估计 无偏估计相当用矩形窗口对无限长数据进行截短无偏估计相当用矩形窗口对无限长数据进行截短, , 为了减小为了减小 的估计方差的估计方差, , 通常用三角窗通常用三角窗 对对 进行加权。进行加权。)(nwB)(mRxx)()()(mRmwmRxxBxx(1.3.27)(1.3.27)所以所以 , , 1|0)()(1)(mN