多元统计分析复习内容提要PPT课件

1、期末复习提要期末复习提要2008，秋罗世庄多元统计分析期末复习提要期末复习提要期末复习提要期末复习提要2008，秋罗世庄多元统计分析第二章第二章期末复习提要期末复习提要2008，秋罗世庄多元统计分析特征值与特征向量特征值与特征向量期末复习提要期末复习提要2008，秋罗世庄多元统计分析矩阵的特征值与特征向量1122,eeekk满足结论：设a是kk对称矩阵，则a有k对特征值和特征向量k,k2,21,1eeeeee1 eewhen ijij且期末复习提要期末复习提要2008，秋罗世庄多元统计分析二次型 xax (a是对称矩阵)正定矩阵 xax 0 (a是对称矩阵，x是非零向量)非负定矩阵半正定矩阵

2、xax 0 (a是对称矩阵，x是非零向量)期末复习提要期末复习提要2008，秋罗世庄多元统计分析对称矩阵的谱分解定理设a是kk对称矩阵，1 , e1 , 2 , e2 , k , ek 为a的特征值和标准化特征向量，则a可表示为1 1 12 2 2k k kk keeeeee()a 期末复习提要期末复习提要2008，秋罗世庄多元统计分析定理：a是正定矩阵 a的特征值均 0定理：a是非负定矩阵 a的特征值均 0定理：aai iiikiiiikeeee1111利用矩阵的谱分解定理可以证明：定理：a是对称矩阵 apl lp, (其中p为正交矩阵,l l为对角矩阵)期末复习提要期末复习提要2008，秋

3、罗世庄多元统计分析随机向量和矩阵e(x+y)=e(x)+e(y)e(axb)=ae(x)b期末复习提要期末复习提要2008，秋罗世庄多元统计分析e xexexexpp( ) 1212随机向量的期望(均值向量)随机向量xxxxp12期末复习提要期末复习提要2008，秋罗世庄多元统计分析t=e(x-ex)(x-ex)随机向量的协方差矩阵期末复习提要期末复习提要2008，秋罗世庄多元统计分析相关矩阵与协方差矩阵vpp121122000000其中v1/2 称为标准离差矩阵1122v r v 111122vvr 期末复习提要期末复习提要2008，秋罗世庄多元统计分析随机变量的线性组合的均值向量和协方差矩

4、阵c c)x c (var c)x c (e cx=c1x1+c2x2+cpxp对线性组合)x(var,)x(e c=(c1,c2,cp) x=(x1,x2,xp)其中期末复习提要期末复习提要2008，秋罗世庄多元统计分析第三章期末复习提要期末复习提要2008，秋罗世庄多元统计分析 样本点与样本均值点x 1111211122221212nxxxxnxxxnxxxnxxxjjnnnppnppxxxxxxxxxxxxxppnnnpn11121212221212.!样本点 1样本点 2样本点 n期末复习提要期末复习提要2008，秋罗世庄多元统计分析样本均值向量1nxx 1x xxxxxxxxxppn

5、nnp111212122212.x xxxp12l 111npp1n1期末复习提要期末复习提要2008，秋罗世庄多元统计分析样本协方差矩阵n1n s(x 1x)(x 1x)1n 1 s(x 1x)(x 1x)期末复习提要期末复习提要2008，秋罗世庄多元统计分析样本协方差矩阵与样本相关系数矩阵 pp2211s.000.s00.0sd样本标准离差矩阵11 dsdrddrs 期末复习提要期末复习提要2008，秋罗世庄多元统计分析() e x结论结论3.11cov( )nx期末复习提要期末复习提要2008，秋罗世庄多元统计分析结论结论3.1n-1()nne ss )(e期末复习提要期末复习提要200

6、8，秋罗世庄多元统计分析总方差样本总方差s11+s22+spp样本总方差 tr( )期末复习提要期末复习提要2008，秋罗世庄多元统计分析广义样本方差| s |广义方差标准化广义样本方差标准化广义样本方差| r |广义方差的与标准化广义方差| s | = s11s22sspp| r |期末复习提要期末复习提要2008，秋罗世庄多元统计分析变量的线性组合及其样本值1122ppbb xb xb xx结论结论3.5 对两个线性组合 1122ppc xc xc xcx b xbsbc xcscbsc bx 的样本均值 cx 的样本均值 bx 的样本方差 cx的样本方差 cx与与bx的样本协方差则期末复

7、习提要期末复习提要2008，秋罗世庄多元统计分析第四章第四章期末复习提要期末复习提要2008，秋罗世庄多元统计分析多元正态密度函数fep( )()()()xxx12212121 其中： x随机向量 px的分量个数 随机向量x的均值向量 随机向量x的协方差矩阵期末复习提要期末复习提要2008，秋罗世庄多元统计分析相关性与独立性若x1和x2服从正态分布，则r(x1,x2)=0x1与x2独立期末复习提要期末复习提要2008，秋罗世庄多元统计分析多元正态分布的性质 p1jjjp21p21xa ,aaa,xxxxaax这里pnnx ,a x a ,aa 结论结论4.2结论结论4.2推论推论piiiinx

8、n ,x , 期末复习提要期末复习提要2008，秋罗世庄多元统计分析多元正态分布的性质结论结论 4.3 p21qpp2p12q22121q2111pqp2p21p1p2q222112p1q221111xxxaaaaaaaaaxaxaxaxaxaxaxaxaxaaxpqxn ,axn a,a a 其中期末复习提要期末复习提要2008，秋罗世庄多元统计分析多元正态分布的性质结论结论 4.3 p21p21p21p21dddxxxdddxxxdx,n,ppx n ux du d 其中期末复习提要期末复习提要2008，秋罗世庄多元统计分析cov(x1,x2)=0x1与x2独立多元正态分布的性质结论结论

9、4.5(子向量的独立性) (a)期末复习提要期末复习提要2008，秋罗世庄多元统计分析多元正态分布的性质结论结论 4.70),(np ,x2p1)x( )x()a( 1)()x( )x(p)b(2p1期末复习提要期末复习提要2008，秋罗世庄多元统计分析1npx n,结论结论：jj1 2npx n (,), ,.,独立和 s 的分布 xpn1wn1()s |xs与独立则期末复习提要期末复习提要2008，秋罗世庄多元统计分析定义定义：服从自由度为m的wishart分布。wishart分布及其性质 jpzn0j1 2m( ,), ,., 独立mjjj 1z z统计量mjjpj 1z zw|m 记为

10、期末复习提要期末复习提要2008，秋罗世庄多元统计分析结论结论样本均值向量和协方差矩阵的大样本特性pnxpnsnnj 11njxxnj 11nnjjs(x - x)(x - x)其中期末复习提要期末复习提要2008，秋罗世庄多元统计分析结论结论(中心极限定理)npnnx -0, jxj1 2nx , , ,., ;独立n1pnnx ,期末复习提要期末复习提要2008，秋罗世庄多元统计分析第五章第五章期末复习提要期末复习提要2008，秋罗世庄多元统计分析正态总体均值向量的检验假设 h0: 0 0 ； h1: 0 0 1.当 已知时，检验统计量为)p()()(n2010 xx若 ，接受h0；若 ，

11、拒绝h0。推断规则)()()(n2p010 xx)()()(n2p010 xx期末复习提要期末复习提要2008，秋罗世庄多元统计分析2. 当 未未知时，s的无偏估计为()() sxx xx111njjjntn2010()()xsx当h0成立时，1200p,n 1n()n() txsx相应检验统计量为若 ，接受h0；若 ，拒绝h0。推断1200p,n 1n()n()t( )xsx1200p,n 1n()n()t( )xsx期末复习提要期末复习提要2008，秋罗世庄多元统计分析2p,n 1p, np(n1)ptf(np)t2分布与f分布结论期末复习提要期末复习提要2008，秋罗世庄多元统计分析当

12、未未知时，多元均值向量假设检验问题2100tn(x) s (x)当h0成立时，22p n 1p n pn1 pttfnp,()()若推断2p,np2p,np(n1)ptf()(np)(n1)ptf()(np)若接受h0，拒绝h0。检验统计量期末复习提要期末复习提要2008，秋罗世庄多元统计分析ns)(f)pn()1n(pxns)(f)pn()1n(px11pn,p1111pn,p1 t2的联合置信区间ns)(f)pn()1n(pxns)(f)pn()1n(px22pn,p2222pn,p2 ns)(f)pn()1n(pxns)(f)pn()1n(pxpppn,ppppppn,pp 期末复习提要

13、期末复习提要2008，秋罗世庄多元统计分析总体均值向量的大样本推断)(f)x(s )x(npn,p)pn(p)1n(1 结论结论5.4 设x1,x2,xn 为来自均值为，协方差矩阵正定矩阵的总体的一个随机样本。当n-p很大时，若观测值12pn xsx()()() 则在大约为a的置信水平下拒绝h0：0。注意： 1. 这里对样本所在的总体没有特别的规定。2. 这里所采用的临界值不是t2()。期末复习提要期末复习提要2008，秋罗世庄多元统计分析第七章期末复习提要期末复习提要2008，秋罗世庄多元统计分析经典线性回归模型yzzziniiiriri 0112212., ,.,i样本标号i=1,2,nn

14、总体容量0截距j偏回归系数，j =1,2,ri随机误差符号说明期末复习提要期末复习提要2008，秋罗世庄多元统计分析21.e( )2.var( ) 0i；假设经典线性回归模型矩阵形式(n 1)(nr 1)(n 1)(r 1) 1) =yz（期末复习提要期末复习提要2008，秋罗世庄多元统计分析最小二乘估计结论结论7.1 设z有满秩r+1n，则多元回归方程 y =z + 中 的最小二乘估计为yzz)z1(期末复习提要期末复习提要2008，秋罗世庄多元统计分析n1j2jn1j2jn1j2jn1j2j2)yy(1)yy()yy (r回归方程的拟合优度检验期末复习提要期末复习提要2008，秋罗世庄多元

15、统计分析若 ffa(p, n-r-1, 则拒绝假设 h0;若 f t/2(n-r-1), 则拒绝假设 h0;若 | t | t/2(n-r-1), 则接受假设 h0.其中为显著水平r为解释变量个数n为样本容量h0: i = 0,i = 1, 2, ., r 回归系数的显著性分析期末复习提要期末复习提要2008，秋罗世庄多元统计分析回归模型常遇到的问题 异方差 序列相关 共线性1.异常样本期末复习提要期末复习提要2008，秋罗世庄多元统计分析异方差问题oy正常情况yo异方差期末复习提要期末复习提要2008，秋罗世庄多元统计分析序列相关问题cov(,), ijij0 序列相关又称为自相关。如果有关

16、回归模型的随机误差项有则称其随机误差项存在序列相关现象。期末复习提要期末复习提要2008，秋罗世庄多元统计分析多重共线性问题xxxxxxxxxxxxxppnnnpp11121212221212设计矩阵c xc xc xpp11220若有不全为0的ci, 使得则称解释变量之间存在共线性关系。期末复习提要期末复习提要2008，秋罗世庄多元统计分析第八章第八章期末复习提要期末复习提要2008，秋罗世庄多元统计分析主成份分析是研究在损失最少信息主成份分析是研究在损失最少信息的原则下的原则下,通过原来变量的少数几个线通过原来变量的少数几个线性组性组(主分量主分量)合来分析或解释问题。合来分析或解释问题。

17、期末复习提要期末复习提要2008，秋罗世庄多元统计分析主成份分析的目：主成份分析的目：1.简化数据，简化数据，减少变量个数减少变量个数消除变量间相关关系的影响消除变量间相关关系的影响2.揭示变量间的关系。揭示变量间的关系。主成分分析主成分分析期末复习提要期末复习提要2008，秋罗世庄多元统计分析定理8.10pp2211eee 特征值及其相应的特征向量i1 2piiy = e x, ,.,则第i主成份为ivari1 2pi(y), ,., .且有cov0ikik(y,y ),.随机向量x(x1,x2,xp)协方差矩阵 =cov(x)主成分分析主成分分析期末复习提要期末复习提要2008，秋罗世庄多

18、元统计分析决定主成分个数的原则参考特征值碎石图按占总方差的比率按占特征值的取值期末复习提要期末复习提要2008，秋罗世庄多元统计分析决定主成分个数12k12pa,(0a1) 1i按占总方差的比率按占特征值的取值主成分分析主成分分析期末复习提要期末复习提要2008，秋罗世庄多元统计分析决定主成分个数12ka,(0a1)p 当主分量有标准化变量导出时主成分分析主成分分析12k12pa,(0a1) 按占总方差的比率期末复习提要期末复习提要2008，秋罗世庄多元统计分析决定主成分个数参考特征值碎石图n主成分分析主成分分析期末复习提要期末复习提要2008，秋罗世庄多元统计分析第九章期末复习提要期末复习提

19、要2008，秋罗世庄多元统计分析概论 因子分析是研究相关矩阵的内部依赖关系，将多个变量综合为少数几个因子，以再现原始变量与因子之间的关系。期末复习提要期末复习提要2008，秋罗世庄多元统计分析p21mpmmm2mm122p22221211p121111pp2211fffffffffxxxlllllllll正交因子模型 lij称为第 i 个变量在第j个因子上的载荷。 fj公共因子 ei特殊因子期末复习提要期末复习提要2008，秋罗世庄多元统计分析正交因子模型flx(p1)(pm)(m1)(p1) l称为载荷矩阵矩阵形式期末复习提要期末复习提要2008，秋罗世庄多元统计分析正交因子分析模型flx

20、(p1)(pm)(m1)(p1)满足假设e(f)=0, cov(f)=ie()=0, cov()=y(对角矩阵)cov(f,)=0。期末复习提要期末复习提要2008，秋罗世庄多元统计分析lfx,llx )(cov. 2)(cov. 1正交因子模型的协方差结构期末复习提要期末复习提要2008，秋罗世庄多元统计分析共同度和特殊度cov xllt() yyyyp21pp2p1pp22221p112110000000pm2m1mp22212p12111pmp2p12m22211m1211lllllllllllllllllli2im22i21iiiylllv xhiiiii() y2hi2- m个公共因

21、子对变量变量xi方差的贡献称第 i 共同度yi- 特殊因子的方差称为特殊方差或特殊度期末复习提要期末复习提要2008，秋罗世庄多元统计分析因子旋转的目的是简化因子结构，使因子的含义便于解释。因子旋转的方向是使因子载荷按列向0和1两极转化，达到结构简化的目的。因子旋转期末复习提要期末复习提要2008，秋罗世庄多元统计分析第十一章期末复习提要期末复习提要2008，秋罗世庄多元统计分析对已知的 k 个总体建立一个判别准则。并根据这个准则，对给定的任意样本 x 判定其属于那个总体。对于所建立的判别准则，我们希望其在某种意义下是最优的：错判率最低或错判损失最小。判别分析期末复习提要期末复习提要2008，

22、秋罗世庄多元统计分析例例(春旱预测)某气象预报站收集了近年气象资料如下表x124.8 24.1 26.6 23.5 25.5 27.4x2-2.0-2.4-3.0-1.9-2.1-3.1x122.3 21.6 22.0 22.8 22.7 21.5 24.1 21.4x2-0.7-1.4-0.8-1.6-1.5-1.0-1.2-2.1有春旱无春旱其中 x1 和 x2 是两个气象综合因子,假设g1和g2均服从正态分布且具有相同方差, (1) 用bayes判别法建判别函数.(2)如果今年测得的 分别为22.7和-2.1,问明年是否会发 生春旱?期末复习提要期末复习提要2008，秋罗世庄多元统计分析例(春旱预测)iii12np(g )pn6p0.429,148p0.571.141.计算各组先验概率期末复习提要期末复习提要2008，秋罗世庄多元统计分析例(春旱预测)xxss( )( ).12122531672416722275012875221406580658027008160003320033202132.计算各组均值向量和协