多元统计分析主成分分析法演示

（优选）多元统计分析主成分分析法现在是1页\一共有58页\编辑于星期五思考1反映地区社会经济发展的指标体系

X1：国内生产总值（GDP）X2：人均GDPX3：第三产业产值占GDP比重X4：人均出口额

X5：工业企业劳动生产率X6：人均社会消费品零售额

X7：每万人拥有卫生技术人员数X8：每万人高等学校在校生数

X9：教育经费投入占GDP比重X10：人均货运总量

X11：人均邮电业务总量X12：每万人电话机装机数

X13：人均固定资产投资X14：人均实际利用外资

X15：地方财政收入占GDP比重X16：每万人科研机构数

X17：科研经费占GDP比重

分析全国31个地区的社会经济发展水平。现在是2页\一共有58页\编辑于星期五

为了对常用的100种食品的生产进行经营决策，需要就消费者对食品的嗜好程度进行调查。要求每个消费者对食品进行评价，按对食品的喜好程度评分，最受欢迎的给予最高分9分，最不受欢迎的给予最低分1分。思考2现在是3页\一共有58页\编辑于星期五

为了较好地满足市场的需要，服装生产厂要了解所生产的一种服装究竟设计几种型号合适？这些型号的服装应按怎样的比例分配生产计划才能达到较好的经济效益？

思考3——服装的定型分类问题现在是4页\一共有58页\编辑于星期五大纲1.基本思想2.定义3.主成分的性质、计算等4.案例5.主成分回归现在是5页\一共有58页\编辑于星期五E.g.Hotelling(1939)用两个主成分反映入学考试成绩：

文科能力

数理能力预备知识：方差为零的变量不能区分总体中的个体成员；可以用一个变量的方差来度量其所传递的信息量。现在是6页\一共有58页\编辑于星期五主成分分析的基本概念

一个假设的例子：N=100均数101.6350.71方差109.6355.40标准差10.477.44

的均数=0

的均数=0现在是7页\一共有58页\编辑于星期五x2X1预备知识：向量

等方向都是同一个方向ab2a2b现在是8页\一共有58页\编辑于星期五(1)创建

使得

尽可能大，即寻找一个方向，使得所有点在此方向上的投影的方差尽可能大现在是9页\一共有58页\编辑于星期五（2）创建

使得

与

不相关

尽可能大。即寻找另一个方向垂直于所有点在

上的投影方差最大。现在是10页\一共有58页\编辑于星期五•••••••••••••••••••••••••••••••••••••现在是11页\一共有58页\编辑于星期五

例1985年中国人口普查资料：各省汉族青年（19-22岁）形态学指标的平均值。

现在是12页\一共有58页\编辑于星期五如何综合多个随机变量？

我们想要一个或几个综合变量，概括6个形态指标的大部分信息.

注意：若某指标在人群中方差较大，它就是一个好的指标。现在是13页\一共有58页\编辑于星期五寻找综合变量

标准化(1)找第1个最佳的综合变量

找适宜的系数

，使得与其他线性组合相比，有最大的方差

最大我们关心的是

之间的比值故限定现在是14页\一共有58页\编辑于星期五(2)找第2个最佳的综合变量

找适宜的

使得

最大

限定(3)找第3个最佳的综合变量

最大

限定原有6个变量，最多可找到6个独立的综合变量现在是15页\一共有58页\编辑于星期五主成分的一般定义

一般地,样本均数样本标准差标准化(1)在所有线性组合中，限定使得

最大的便是第1主成分。现在是16页\一共有58页\编辑于星期五(2)在所有线性组合

中，限定使得

最大的便是第2主成分.………………

类似地，我们可以定义第3，第4，直到第p个主成分。

现在是17页\一共有58页\编辑于星期五主成分的性质(1)主成分之间不相关Corr(Ci，Cj)=0(2)系数(ai1，ai2，…，aip)是单位向量ai12+ai22+…+aip2=1(3)方差递降Var(C1)≥Var(C2)≥…≥Var(Cp)(4)主成分的方差之和等于原变量的方差之和信息总量不增不减Var(C1)+Var(C2)+…+Var(Cp)=Var(x1)+Var(x2)+…+Var(xp)=p现在是18页\一共有58页\编辑于星期五主成分的计算和解释

(1)计算

的相关矩阵(2)计算R的特征根（特征值）即求解方程现在是19页\一共有58页\编辑于星期五（3）计算特征向量

即求解方程

…得到现在是20页\一共有58页\编辑于星期五

表1例1的相关矩阵

只有前几个才是名副其实的“主成分”表2例1的相关矩阵的主成分

现在是21页\一共有58页\编辑于星期五表4例1的特征向量现在是22页\一共有58页\编辑于星期五主成分的个数

实践中，（1）粗略地决定欲保留的方差百分比；

——仅保留前几个主成分或（2）若某个主成分的方差大于1，就保留它

——因为原变量的方差都是1究竟保留几个？

——取决于课题本身的需要现在是23页\一共有58页\编辑于星期五碎石图现在是24页\一共有58页\编辑于星期五主成分与原变量的相关性

和

的关系：………………:主要反映身体的大小；

身高、坐高、体重、胸围:反映宽度

肩宽和骨盆宽度总之，（1）主成分有助于综合多个变量(2)主成分的意义有时不易解释现在是25页\一共有58页\编辑于星期五例：抑郁症问卷的综合得分

表1标准CESD问卷的主成分（抑郁症数据）

现在是26页\一共有58页\编辑于星期五C1:多数条目的加权和C2:反映懒散和精力状况C3:有关“别人怎样看待自己”的感觉现在是27页\一共有58页\编辑于星期五例2关于下颚6个前齿的结石

1.右犬齿2.右、侧门牙3.右、中门牙4.左、侧门牙5.左、中门牙6.左犬齿现在是28页\一共有58页\编辑于星期五PC1：加权和，总的结石状况PC2：门牙与犬齿比较PC3：左右比较现在是29页\一共有58页\编辑于星期五主成分分析的应用综合评价市场研究定型分类问题现在是30页\一共有58页\编辑于星期五反映地区社会经济发展的指标体系

X1：国内生产总值（GDP）X2：人均GDPX3：第三产业产值占GDP比重X4：人均出口额

X5：工业企业劳动生产率X6：人均社会消费品零售额

X7：每万人拥有卫生技术人员数X8：每万人高等学校在校生数

X9：教育经费投入占GDP比重X10：人均货运总量

X11：人均邮电业务总量X12：每万人电话机装机数

X13：人均固定资产投资X14：人均实际利用外资

X15：地方财政收入占GDP比重X16：每万人科研机构数

X17：科研经费占GDP比重

对全国31个地区上述17项指标的数据进行主成分分析，应用SAS软件进行处理。例1、主成分分析用于综合评价现在是31页\一共有58页\编辑于星期五1、

求相关系数矩阵R2、

计算R的特征值主成分Y1Y2Y3Y4特征根贡献率（%）累计贡献率11.113465.3765.372.665615.6881.050.91265.3786.420.70524.1590.57现在是32页\一共有58页\编辑于星期五3、

求特征根所对应的单位特征向量0.5132250.203116-0.1828580.1936180.2172900.113642-0.164527-0.114637-0.509240-0.0258320.0834710.1325920.1054020.199407-0.181330-0.261367-0.2957560.0384660.2760200.2436540.2634870.1805460.2908340.2598420.2805230.0942330.2159460.2920160.2882680.2820160.2590060.2167930.2599620.212293X1X2

X3X4X5X6X7X8X9X10X11X12X13X14X15X16X17Y2Y1特征向量现在是33页\一共有58页\编辑于星期五第一主成分名次地区Y1得分Y2得分123456789101112131415北京上海天津广东辽宁福建浙江江苏海南新疆吉林黑龙江山西宁夏云南11.725710.17765.12352.74221.13250.55860.27180.18170.0795-0.3075-0.4873-0.6307-0.7467-0.7791-0.8203-3.943962.435050.125513.349070.619421.902482.315762.53147-0.79528-1.07448-1.094130.61915-1.13709-1.92281-0.483134、主成分的表达式及其含义解释5、计算主成分得分现在是34页\一共有58页\编辑于星期五第一主成分名次地区Y1得分Y2得分16171819202122232425262728293031陕西山东青海湖北内蒙古河北甘肃重庆湖南西藏广西四川江西河南安徽贵州-0.9116-1.0207-1.1131-1.1943-1.2295-1.4456-1.8358-1.8603-1.8806-1.9085-1.9098-2.1979-2.3049-2.3383-2.4358-2.6347-2.064812.32993-1.471450.66326-0.871811.25757-1.40987-0.364390.04577-2.04139-0.420780.331260.076600.869090.45974-0.83575现在是35页\一共有58页\编辑于星期五现在是36页\一共有58页\编辑于星期五

为了对常用的100种食品的生产进行经营决策，需要就消费者对食品的嗜好程度进行调查。对785名消费者进行调查，要求每个消费者对100种食品进行评价，按对食品的喜好程度评分，最受欢迎的给予最高分9分，最不受欢迎的给予最低分1分。例2市场研究中的应用现在是37页\一共有58页\编辑于星期五将被调查者按性别与年龄分成10组假若你是该食品加工业决策部门的高级顾问，为了对食品生产作出合理决策，请你对调查资料进行分析，为决策者提供建议。现在是38页\一共有58页\编辑于星期五

以组为单位，在每组中每个成员都对100种食品给予评分，然后计算每组成员对每种食品评分的平均值。食品组号12345678910123..1007.85.43.93.53.08.16.05.43.81.62.84.44.03.56.27.27.57.0.........3.12.83.33.02.53.93.53.02.82.59.03.01——5组表示男性，6——10组表示女性1——5，6——10年龄从小到大排序现在是39页\一共有58页\编辑于星期五特征向量y1y2y3X1X2X3X4X5X6X7X8X9X100.2860.3310.3230.2990.2610.3090.3440.3480.3460.3030.4430.235-0.172-0.364-0.5090.4090.2560.036-0.164-0.2670.1940.3360.4420.3750.123-0.034-0.171-0.290-0.322-0.522特征根方差贡献率累计方差贡献率6.82668.26%68.26%1.76917.69%85.95%0.757.5%93.45%现在是40页\一共有58页\编辑于星期五y1反映了公共平均嗜好程度，y1得分越大，表示大众越喜欢吃此食品。y2反映了年龄的作用。y2得分为正时，表示孩子喜欢吃;y2得分为负时，表示孩子不喜欢吃。y3反映性别的作用。y3得分为正时，表示男性喜欢吃;y3得分为负时，表示女性喜欢吃。主成分的含义现在是41页\一共有58页\编辑于星期五用得分来表示食品嗜好程度可有七成把握。在充分注意到人们普遍的嗜好程度基础上，进一步考虑到青少年和老年人的嗜好程度，对食品业的开发方针作出决策时，将有85%的把握。现在是42页\一共有58页\编辑于星期五

特别喜欢吃的

醋拌生鱼片、冰激棱

一般喜欢

男性喜欢

女性喜欢孩子成人咖喱饭鸡蛋烩饭、炸猪排炸肉饼、火腿面包酸汤、大头鱼

一般不喜欢孩子成人干咖喱、浓汤煮牛肉、生蛋饼干、带馅面包酱面条、烧鱼

特别不喜欢

菜粥、清汤现在是43页\一共有58页\编辑于星期五

为了较好地满足市场的需要，服装生产厂要了解所生产的一种服装究竟设计几种型号合适？这些型号的服装应按怎样的比例分配生产计划才能达到较好的经济效益？

例3服装的定型分类问题现在是44页\一共有58页\编辑于星期五X1：身长X2：坐高X3：胸围X4：头高X5：裤长X6：下裆X7：手长X8：领围X9：前胸X10：后背X11：肩厚X12：肩宽X13：袖长X14：肋围X15：腰围X16：腿肚

对128名成年男子按16项指标进行测量。现在是45页\一共有58页\编辑于星期五特征值贡献率累计贡献率7.032.611.630.840.770.640.580.460.360.310.240.220.170.140.070.0444%16%10%6%5%4%3%3%2%2%2%1%1%

1%0044%60%70%76%81%85%88%91%93%95%97%98%99%100%现在是46页\一共有58页\编辑于星期五特征向量y1y2y3X1身长X2坐高X3

胸围X4头高X5裤长X6下裆X7手长X8领围X9前胸X10后背X11肩厚X12肩宽X13袖长X14肋围X15腰围X16腿肚0.340.270.230.340.330.290.290.190.090.150.100.240.320.180.270.160.200.14-0.330.180.200.270.19-0.370.07-0.17-0.35-0.020.11-0.37-0.27-0.360.01-0.060.140.030.03-0.030.02-0.150.63-0.53-0.20-0.31-0.020.250.140.24现在是47页\一共有58页\编辑于星期五y1是刻画尺寸大小的因子。y2反映人的胖瘦情况，是一个体形因子。反映“长”的尺寸前面的系数为正;反映“围”的尺寸前的系数为负。y3系数多数取值很小，接近于0。只有三个系数绝对值较大。

y3是反映特殊体形的因子，区分有无畸形。现在是48页\一共有58页\编辑于星期五

区分有几种型号（分类）各种型号的生产量（比例）要解决的问题：现在是49页\一共有58页\编辑于星期五主成分回归

数据分析过程中的一个工具

可应用于下列分析的中间过程：多重回归判别分析因子分析

聚类分析…现在是50页\一共有58页\编辑于星期五回归中的共线性

当自变量高度相关时，