附录1 统计学、矩阵代数知识简介.doc

附录2 统计学、矩阵代数知识简介求和算子定义：对于T个观测值，x1, x2, , xT，求和可以简化地表示为其中 称作求和算子。求和算子的运算规则如下：(1) 变量观测值倍数的和等于变量观测值和的倍数。(2) 两个变量观测值和的总和等于它们分别求总和后再求和。(3) T个常数求和等于该常数的T倍。其中k是常数。利用求和算子定义，样本平均数可表示为(4) 变量观测值对于其平均数 的离差和等于零。利用规则(2)，(3)和样本平均数定义即可推导出上述结果。(5) 随机变量的方差等于其平方的均值减去其均值的平方证明：(6) 两个随机变量的协方差等于它们乘积的均值减去它们均值的乘积。与规则(5)的证明类似，即可证明上述结果。定义双重求和为(7) 两个变量和的双重求和等于它们各自双重求和的和。(8) 两个不同单下标变量积的双重求和等于它们各自求和的乘积。2.2.1 随机变量的数学期望随机变量定义：按一定的概率取不同实数值的变量称为随机变量，用x, y等表示。若随机变量x可能取的值为有限个或可列个，则称x为离散型随机变量。离散型随机变量的一切可能取值及其取值的相应概率称作离散型随机变量的概率分布。若随机变量x可能取的值是整个数轴，或数轴上的某个区间，则称x为连续型随机变量。连续型随机变量的概率分布是通过随机变量在一切可能区域内取值的概率定义的。最常用和最简便的形式是通过概率密度函数表示。对于随机变量x，若存在非负可积函数f (x)，（- x ），使对任意实数a, b, (a 0，则称x服从正态分布。记作x N(m, s2 )。m, s分别是x的数学期望和标准差。可以证明三种不同参数的正态分布曲线见图1。概率密度函数f (x)呈钟形。最大值点在x = m 处。曲线以x = m对称。在x = m s 处密度函数曲线有拐点。当x 时，f (x) 以x轴为渐近线。当s 较大时，f (x) 曲线较平缓；当s 较小时，f (x) 曲线较陡峭。已知m 和 s 的值，就可以完全确定正态分布密度函数。标准正态分布定义：对于正态分布密度函数f (x)，当m = 0，s = 1时，即称连续型随机变量x服从标准正态分布。记作x N(0, 1 )。对于标准正态分布E(x) = 0，Var 。标准正态分布曲线见图2。标准正态分布密度函数f0 (x)有如下性质：（1） f0 (x) 以纵轴对称；（2）x = 0 时，f0 (x) 的极大值是 （3）f0 (x) 在x = 1处有两个拐点；（4）。图2 标准正态分布曲线正态分布随机变量的标准化。若x N(m, s 2 )，a, b为任意实数，且a 30，t分布就很近似于标准正态分布。图3 自由度为3的t分布曲线t分布的均值和方差分别为E(t(n) ) = 0Var(t(n) ) = n / (n -2), n 2注意：（1）当n 2时，方差无定义。（2）当n 时，Var(t(n) ) = 1，与标准正态分布的方差相同。t分布的百分位数可以通过t分布表（附录2）查到。2.3.3c2分布c2（读作“开方”，c 是希腊字母）分布是连续型的概率分布，并具有一个参数n。n是c2分布的自由度。n可以取所有正整数，从而构成一个c2分布族。n的不同值对应着c2分布族中不同的具体的c2分布曲线。服从自由度为n的c2分布的随机变量用c2 (n) 表示。c2 (n) 的取值范围是（0, ）。c2 (2) , c2 (4) , c2 (6) 的分布密度曲线见图4。c2分布密度曲线是单峰的，右偏倚的。随着自由度n的加大，偏倚程度变小。当n 增大时，c2分布的形状趋近于正态分布。图4 2分布密度曲线可以证明（略），c2分布的均值和方差分别为E(c2 (n) ) = nVar(c2 (n) ) = 2 n, n 2由上两式知，当n 增大时，c2分布的均值和方差也分别增大。注意：c2分布的百分位数可以在c2分布表（附表3）中查到。2.3.4 F分布F分布是连续型的概率分布，并具有两个参数n1和n2 。n1和n2是F分布的两个自由度。n1称作第1自由度（或分子自由度），n2称作第2自由度（或分母自由度）。n1和n2可以取所有正整数，从而构成一个c2分布族。每个（n1, n2）对应着F分布族中一个不同的具体的分布曲线。服从自由度为n1和n2的F分布的随机变量用F(n1, n2) 表示。F(n1, n2) 的取值范围是（0, ）。服从F分布的密度曲线见图5。F分布密度曲线是单峰的，右偏倚的。随着自由度n1和n2的加大，F分布的众数趋近于1。图5 F分布密度曲线F分布的均值为 E(F(n1, n2) = n2 / (n2 - 2) , n2 2注意：（1）当n2 2时，均值无定义。（2）当n2变大时，E(F(n1, n2) 趋近于1。F分布的方差为 注意：（1）当n2 4时，方差无定义。（2）当n1, n2变大时，Var(F(n1, n2) 趋近于零。因为F分布有两个自由度，所以F分布是以不同的百分位数分别编表的。附表4和5分别给出F分布第95，99百分位数表（相对于a = 0.05 和a = 0.01）。 已知F分布第95，99百分位数，可利用下式求其第5，1百分位数。Fa (n1, n2) = 1 / (F1-a (n2, n1)注意：在上式的分母中n1, n2对调了位置。2.4.1.点估计 通常我们知道某个随机变量服从某种特定的概率分布或者愿意假定某个随机变量服从某种特定的概率分布，但是却不知道分布的参数。比如，知道某个随机变量服从正态分布，但不知道参数m 和s2。这时常常需要根据样本对总体的某种特征做出推断。这就是参数估计问题。参数估计可分为两大类。（1）点估计，（2）区间估计。点估计定义：用样本的某一函数估计总体参数就是对总体参数的点估计。用q 表示总体未知参数。在点估计中，q 也称为被估计量。常用来表示估计量。是样本（x1, x2, , xT）的函数，也称作统计量。估计量也是随机变量。当估计量取一具体值时，称其为估计值。2.4.2 评价估计量优劣的标准(1) 无偏性：若未知参数q的估计量 满足E( ) = q则称估计量是未知参数q 的无偏估计量。具有无偏性。 与q的差称作偏差。一次抽样条件下，通常 与q的偏差不会等于零。无偏性的实际意义是，当反复抽样时 的值在q周围摆动，且不存在系统偏差。(2) 有效性：设1和 2都是q的无偏估计量。若对任意的样本容量总有Var(1) Fa (1, T-2)，则拒绝H02.7.1 矩阵概念矩阵：由mn个元素排列起来的长方形阵列称为矩阵。记作aij是第i行和第j列的元素，其中i = 1, 2, , m；j = 1, 2, , n。A表示的是mn阶矩阵。它包括m行n列，共有mn个元素。 方阵：若矩阵的行数等于其列数，即m = n, 则称此矩阵为方阵。当A为方阵时，i = j的元素，即a11, a22, , ann，称作主对角线元素。当m = n = 1时，A减化为一个标量。行向量：仅有一行的矩阵称作行向量。列向量：仅有一列的矩阵称作列向量。单位矩阵：一个方阵，若其主对角线元素都为1，其余元素都为零，则称此矩阵为单位矩阵，记为I。对角矩阵：若n阶方阵L中的元素满足条件当i j时，aij = 0，（i, j = 1, 2, , n），则称L为对角矩阵。由此可知，单位矩阵是对角矩阵的一个特例。零矩阵：元素全为零的矩阵称作零矩阵，记为0。对称矩阵：若n阶方阵A中的元素满足条件aij = aji，(i j，i, j = 1, 2, , n), 则称A为n阶对称矩阵。2.7.2 矩阵运算矩阵相等：如果两个矩阵A = (aij)mn和B = (bij)mn同阶且所有对应元素相等，即aij = bij，(i = 1, 2, , m；j = 1, 2, , n), 则称矩阵A与B相等，记为A = B。矩阵加法与减法：两个同阶矩阵A = (aij)mn和B = (bij)mn对应元素相加（减）得到的矩阵称作A与B的和（差）。记为A + B（或A - B）。矩阵加法的性质：若A、B、C、0都是mn阶矩阵，则(1) A + B = B + A （交换律）(2) A +（B + C）=（A + B）+ C （结合律）(3) A - A = 0 或A + 0 = A标量与矩阵相乘：标量k与矩阵A相乘是k与A的所有元素相乘，记为k A，即 k A = k (aij)mn = (kaij)mn 标量与矩阵相乘的性质（k, l是自然数）：(1) k A = A k(2) k (A + B) = k A + k B(3) k l A = k (l A)(4) (-1) A = - A矩阵的乘法：设矩阵A = (aij)mr，B = (bij)rn，则规定A和B的乘积是 A B = C = (cij)mn，其中即两个矩阵的乘法要求左边矩阵的列数等于右边矩阵的行数，积的元素是由左边矩阵的行元素乘以右边矩阵的相应列元素，并将所有积相加得到。矩阵的乘法不满足交换律。当A B有意义时， B A不一定有意义。即使A B，B A都有意义，A B和B A也不一定相等。矩阵乘法的性质：(1) A(B + C) = A B + A C，（B + C）A = B A + C A （分配律）(2) (A B)C = A(BC)（结合律）(3) k(A B) = A(k B)矩阵的幂：对于方阵A与自然数k，利用矩阵的乘法可以得到 A k = A A k-1称作A的k次幂。 方阵幂的性质（k, l是自然数）：(1) A 0 = I(2) A k A l = A k+l(3) (A k ) l = A kl(4) I k = I一般来说，(A B)k A k B k。当且仅当A2 = A时，称A为等幂矩阵。若矩阵A是等幂的，那么对于所有的 t 1，均有At = A成立。两个向量的内积定义为一个行向量乘以一个列向量，得到的是一个标量。若两个向量的内积等于零，那么就称这两个向量是正交的。矩阵的转置：把mn阶矩阵A的行与列互换，得到的nm阶矩阵称为A的转置矩阵，记为A 或AT。 矩阵转置的性质：(1) (A ) = A(2) (k A ) = k A (3) (A + B ) = A + B (4) (A B ) = B A 余子式：划去n阶方阵A的第i行和第j列得到的 (n-1) (n-1) 阶矩阵的行列式称为元素aij的余子式，记为Mij。代数余子式：aij的余子式乘以 (-1)i + j 所得的积称作元素aij的代数余子式，记为Aij,即 Aij = (-1)i + j Mij行列式：若已定义n-1阶行列式（n 2），则定义 为n阶行列式，其中n -1阶行列式Aij，Mij分别是aij的余子式和代数余子式。矩阵的行列式：由n阶方阵A的元素构成的行列式（各元素的位置不变）称作方阵A的行列式，记作 A。行列式的性质：若A，B为n阶方阵，则(1) | A B | = | A | | B |(2) | k A | = k n | A |逆矩阵：对于n阶方阵A，如果存在n阶方阵B使得A B = B A = I成立，则称A是可逆的，B为A的逆矩阵，记作A -1 = B。如果方阵A可逆，则A的逆矩阵是唯一的。逆矩阵可用下式计算 其中adj(A) 称作A的伴随矩阵。(Aij) 是由代数余子式Aij组成的矩阵，伴随矩阵是(Aij) 的转置，即(Aij)。逆矩阵的性质：(1) 若A可逆，则A -1亦可逆，(A -1)-1 = A(2) 若A可逆，标量k 0，则 (k A) -1 = (1/ k) A -1(3) (A ) -1 = (A -1)(4) (A B ) -1 = B -1 A -12.7.3 由矩阵定义的标量值矩阵的迹：n阶方阵A主对角线上n个元素的和称作方阵A的迹，记作 矩阵迹的性质：(1) tr(I) = n, tr(0) = 0,(2) tr(A) = tr(A)(3) tr(A A) = tr(AA)(4) tr(k A) = k tr(A)(5) 若A和B为同阶矩阵，则 tr(A + B) = tr(A) + tr(B)(6) 若A BC，BC A和C A B均有意义，则 tr(ABC) = tr (BCA) = tr (CAB) 矩阵的秩：矩阵A中包含的最大非零行列式的阶数称作矩阵A的秩，记作rk(A)。 矩阵秩的性质：(1) 若A是一个mn阶矩阵，则0 rk(A) min (m, n),(2) rk(I ) = n, rk(0)= 0(3) rk(A) = rk(A ) = rk (A A ) = rk(A A)非奇异阵：若n阶方阵A是满秩的，即rk(A ) = n, 或 A 0，那么称矩阵A为非奇异阵或非退化阵。相反若 A = 0，那么称矩阵A为降秩矩阵、奇异矩阵或退化矩阵2.7.4 特征根与特征向量特征根与特征向量：对于n阶矩阵A及标量 l，如果存在非零列向量X，使得 A X = l X成立，则称 l 为A的特征根，X为A的特征向量或对应于 l 的特征向量。上式可以写为 (A - l I ) X = 0这是一个齐次方程系统，有非零解的充分条件是系数矩阵的行列式为零，即 | A - l I | = 0称为特征方程。这个特征方程是 l 的n阶多项式。特征方程的解由n个根组成，即特征根 l1，l2，ln。每个特征根对应一个特征向量。对称矩阵特征根与特征向量的性质：(1) rk(A) = 非零特征根的个数