多元统计分析 - 石家庄经济学院(1)

1、多元统计分析1多元分析概述多元方法的应用 1、 数据缩减或简化 2、分类与分组 3、变量间依赖性的研究 4、预测 5、假设检验2多元分析概述数据的组织阵列描述统计量样本协方差图解法3矩阵代数与随机向量一、矩阵代数基础（一）定义个实数排列成的一个有 将行、列的矩阵列称为矩阵，常记作，其中是第行、第列的元素。4若q=1，则称A为p维列向量，记作若p=1，则称A为q维行向量，记作若矩阵 的所有元素全为零，则称 为零矩阵。若 ，则称 为 阶方阵。5转置矩阵：将矩阵的行与列互换，记作 对角线元素非对角线元素对角矩阵：对角线所有非对角线元素均为零。简记为或p阶单位矩阵：所有p个对角线元素均为1，记作上三角

2、矩阵：方阵的对角线下方的元素全为 。下三角矩阵：方阵的对角线上方的元素全为 。6则对称矩阵：若A是方阵，且斜对称矩阵：若A是方阵，且例：如果7（二）运算1、和的运算（相同维数的两个矩阵可以相加） 若 ，则A与B的和定义为则82、积的运算 若c为一常数，则它 与A的积定义为若 ，则A与B的积定义为注意：当A的列元素个数与B的行元素个数相同时，才能进行矩阵的乘积运算。9 例 若 则103、矩阵运算规律（1）（2）（3）（4）（5）正交矩阵：若方阵 满足 。即矩阵的每一行均具有单位长度且行与行之间互相垂直（正交）。11投影矩阵：对称的幂等矩阵。幂等矩阵：若方阵 满足 。如果存在矩阵 ，使得则称 为

3、的逆矩阵，并记作 。（三） 矩阵的逆1、定义 如果 ，就存在一个倒数 ，能使 ，这个基本的数量关系在矩阵代数中有如下推广：12 的 个列向量 线性无关。即的存在等价于 仅当 时。即 是非退化方阵。存在逆矩阵的条件是：逆矩阵具有如下的基本性质： (1)（2）13 (3) 若 和 均为 阶非退化方阵， 则 （4） (5)若 是正交矩阵，则 则（6）若 非退化（即 ） （7）若和为非退化方阵，则14 于是：故 的逆矩阵为： 例：设15例：设16（1） ， 当且仅当 。（2）若 为矩阵 ,且 ， 则 。 2、 矩阵的秩的基本性质：（四）矩阵的秩1、定义：设 为 矩阵，如果 中不为零的子方阵最高阶数为

4、，而任何 阶子方阵皆为零，则称 为矩阵 的秩，记作17（4） 。 （5） 。 （3） 。 18（7） 阶方阵 是非退化的，当且仅当 （称作 是满秩的）。（8） 。（6）若 和 为非退化方阵，则 19 例：设 ， 由于 ， 所以 的秩是2。的秩是1。1阶子方阵的行列式是和，而故矩阵例：设20一 定义 设 是 阶方阵，若对于一个数 ，存在一个 维非零向量 ，使得 ，则称 为 的一个特征值或特征根，而称 为 的属于特征值 的一个特征向量。由该定义有， ，而 ，故必有 。特征值和特征向量21是 的 次多项式，称为特征多项式。上式有 个根（可能有重根），记作 ，它们可能为实数，也可能为复数。若 是 的一

5、个根，则 为退化矩阵，故存在一个 维非零向量 ，使得 即 是 的一个特征值，而 是相应的特征向量，一般都取为单位向量，即满足22 故 的特征值是 和 ，相应的单位特征向量为 例 ： 设 于是 23二 特征值和特征向量的基本性质：（1） 和 有相同的特征值。(2) 若 和 分别是 和 矩阵，则 和 有相同的非零特征值。证明： 因为24所以又故有 和25关于 的方程 和 有着完全相同的非零根（若有重根，则它们的重数也相同），故而 和 有相同的非零特征值。（3）若 为实对称矩阵，则 的特征值全为实数， 个特征值按大小依次表示为 。若 ，则相应的特征向量 和 必正交，即 。26 证明 （1）设 是 的

6、任一特征值， 是相应的特征向量，于是两边取共轭复数，并注意 为实数矩阵，得 两边左乘 得 又因此由于 ，从而 ，故而 ，即 为实数。27（2）因为 所以 而 故 由于 ， 因而有28（4）若 ，则 为 的 个特征值，相应的特征向量分别为 。（5）若 为 阶对称矩阵，则存在正交矩阵 及对角矩阵 ，使得29上式两边右乘 ，得将 按列向量分块，并记作 ，于是有30故这表明 是 的 个特征值，而 为相应的特征向量。由于 是正交矩阵，所以可以更确切地说，它们是正交单位特征向量。31上述矩阵 可作如下分解： 称之为 的谱分解。32 三 方阵的迹（一）定义 设 为 阶方阵，则它的对角线元素之和称为 的迹，记

7、作 ，即 （二）方阵的迹的性质：（1） 若 为 的特征值，则33（2）（3）（4）（5）（6）若 为投影矩阵，则34正定矩阵和非负定矩阵一 定义 设 是 阶对称矩阵， 是一 维向量，则称为 的二次型。若对一切 ，有 ，则称 为正定矩阵，记作 ；若对一切 ，有 ，则称 为非负定矩阵，记作 。 表示 ； 表示 。35二、正定矩阵和非负定矩阵的性质：（1）设 是对称矩阵，则 是正定（或非负定）矩阵，当且仅当 的所有特征值均为正（或非负）。（2）若 ，则 。（3）设 ，则 ，当且仅当 。36（4） 对一切矩阵 成立。 证明 （5）若 （或 ），则存在 （或 ），使得 ， 称为 的平方根。37证明 因为 是对称矩阵，所以存在正交矩阵 和对角矩阵 ，使得 。由 （或 ） 可知， 。令则有由于 的特征值 ，所以 （或 ） 38（6）设 是 阶秩为 的矩阵，则存在一个秩为 的 矩阵 ，使得 。证明 因为 ，所以存在正交矩阵 和对角矩阵 ，使得 ，且 。又 。令 ， ， ，39显然， 是秩为 的 矩阵，因此40特征值的极值问题 若 是 阶对称矩阵，其特征值依次为 则 41证明 由于 是对称矩阵，故存在正交矩阵 和对角矩阵 ，使得 。令 ，于是 ，即 ，可得 42故而43（2）若 是 阶对称矩阵， 是 阶正定矩阵， 是 的 个特征值，