典型相关分析的实例.ppt

CanonicalCorrelationAnalysis 典型相关分析 1 一 引言 2 1 两个随机变量Y与X简单相关系数2 一个随机变量Y与一组随机变量X1 X2 Xp多重相关 复相关系数 3 一组随机变量Y1 Y2 Yq与另一组随机变量X1 X2 Xp典型 则 相关系数 一 何时采用典型相关分析 典型相关是简单相关 多重相关的推广 或者说简单相关系数 复相关系数是典型相关系数的特例 3 典型相关是研究两组变量之间相关性的一种统计分析方法 也是一种降维技术 由Hotelling 1935 1936 最早提出 CooleyandLohnes 1971 Kshirsagar 1972 和Mardia Kent andBibby 1979 推动了它的应用 4 实例 X与Y地位相同 5 1985年中国28省市城市男生 19 22岁 的调查数据 记形态指标身高 cm 坐高 体重 kg 胸围 肩宽 盆骨宽分别为X1 X2 X6 机能指标脉搏 次 分 收缩压 mmHg 舒张压 变音 舒张压 消音 肺活量 ml 分别为Y1 Y2 Y5 现欲研究这两组变量之间的相关性 6 7 简单相关系数矩阵 8 简单相关系数公式符号 Corr X R11 Corr Y R22 Corr Y X R21 Corr X Y R12 9 简单相关系数描述两组变量的相关关系的缺点 只是孤立考虑单个X与单个Y间的相关 没有考虑X Y变量组内部各变量间的相关 两组间有许多简单相关系数 实例为30个 使问题显得复杂 难以从整体描述 10 二 典型相关分析的思想 采用主成分思想寻找第i对典型 相关 变量 Ui Vi 典型相关系数典型变量系数或典型权重 11 X 1 X 2 X p和Y 1 Y 2 Y q分别为X1 X2 Xp和Y1 Y2 Yq的正态离差标准化值 记第一对典型相关变量间的典型相关系数为 Corr U1 V1 使U1与V1间最大相关 第二对典型相关变量间的典型相关系数为 Corr U2 V2 与U1 V1无关 使U2与V2间最大相关 第五对典型相关变量间的典型相关系数为 Corr U5 V5 与U1 V1 U4 V4无关 U5与V5间最大相关 有 12 典型相关变量的性质 13 1与 2是三个X变项的线性组合 1与 2代表两个Y变项的线性组合 三 典型相关分析示意图 14 二 典型相关系数及其检验 15 一 求解典型相关系数的步骤 求X Y变量组的相关阵R 求矩阵A B可以证明A B有相同的非零特征根 16 3 求A或B的 i 相关系数的平方 与 i 1 m 即 4 求A B关于 i的特征根向量即变量加权系数 17 二 典型相关系数计算实例 求X Y变量组的相关阵R 18 Corr X R11 Corr Y R22 Corr Y X R21 Corr X Y R12 19 2 求矩阵A B 20 A矩阵 p p 21 B矩阵 q q 22 3 求矩阵A B的 相关系数的平方 A B有相同的非零特征值 23 B矩阵求 典型相关系数的平方 24 5个 与典型相关系数 25 4 求A B关于 i的变量系数 求解第1典型变量系数 26 求解第2典型变量系数 27 求解第5典型变量系数 28 5组 标准化 典型变量系数 X 29 5组 标准化 典型变量系数 X 30 由标准化典型变量系数获得原变量X对应的粗典型变量系数 粗典型变量系数可由标准典型变量系数与相应的标准差之比获得 31 5组 标准化 典型变量加权系数 Y 32 三 典型相关系数的特点 两变量组的变量单位改变 典型相关系数不变 但典型变量加权系数改变 无论原变量标准化否 获得的典型相关系数不变 第一对典则相关系数较两组变量间任一个简单相关系数的绝对值都大 即 1 max Corr Xi Yj 或 1 max Corr X Yj max Corr Xi Y 33 四 校正典型相关系数 AdjustedCanonicalCorrelation 为了使结果更加明了 增加大值或小值 减少中间大小的值 将典型变量系数旋转 可得到校正的典型相关系数 缺点 1 可能影响max U1 V1 2 影响 U1 V1 与其他典型变量间的独立性 34 五 典型相关系数的假设检验 全部总体典型相关系数均为0部分总体典型相关系数为0 35 1 全部总体典型相关系数为0 36 F近似检验 计算公式 37 F近似检验 SAS结果 TestofH0 ThecanonicalcorrelationsinthecurrentrowandallthatfollowarezeroLikelihoodApproximateRatioFValueNumDFDenDFPr F10 067984662 2430700 003020 288405091 382060 6490 168630 631953010 801250 5610 650440 855215980 546400 772950 978034790 242210 7920 38 多变量统计量与F近似检验 MultivariateStatisticsandFApproximationsStatisticValueFValueNumDFDenDFPr FWilks Lambda0 067982 2430700 0030Pillai sTrace1 716511 83301050 0133Hotelling LawleyTrace4 952772 623035 3960 0032Roy sGreatestRoot3 2422111 35621 0001NOTE FStatisticforRoy sGreatestRootisanupperboun 39 多变量统计量的计算公式 40 2 部分总体典型相关系数为0仅对较小的典型相关作检验 41 卡方近似检验 42 部分总体F近似检验 计算公式 43 三 典型结构分析 44 与原变量间的相关程度和典型变量加权系数有关 典型变量与原变量的亲疏关系 原变量与自已的典型变量原变量与对方的典型变量之间的相关系数 45 原变量在典型变量上的负荷 即原变量与典型变量间的相关系数 46 负荷矩阵的表达 左上角的矩阵X1 0 9050U1 0 0806U2 0 3777U3 0 1487U4 0 0887U5X2 0 8616U1 0 0112U2 0 4152U3 0 0360U4 0 2412U5 X6 右下角的矩阵Y1 0 4130V1 0 0848V2 0 7353V3 0 4530V4 0 2764V5Y2 0 4533V1 0 8452V2 0 0968V3 0 1433V4 0 2240V5 Y5 47 各典型变量的意义解释 48 等于该变量与自己这方典型变量的相关系数与典则相关系数的乘积 原变量与对方典型变量的相关 49 原变量与对方典型变量的相关 右上角和左下角反映了原变量和对方的典型变量间关系 为利用对方的典型变量来预测原变量 回归 提供依据 50 四 典型变量的冗余分析 CanonicalRedundancyAnalysis 51 该方法由StewartandLove1968 CooleyandLohnes1971 vandenWollenberg1977 发展 以原变量与典型变量间相关为基础 通过计算X Y变量组由自己的典型变量解释与由对方的典型变量解释的方差百分比与累计百分比 反映由典型变量预测原变量的程度 5