数据挖掘-2主成分分析pca

主成分分析PCAPrincipal

Componentysis2内

容一、前言二、问题的提出三、主成分分析1.

二维数据的例子2.

PCA的几何意义3.

均值和协方差、特征值和特征向量4.

PCA的性质四、主成分分析的算法五、具体实例六、结论汇报什么1？.

前

言假定你是一个公司的财务经理，掌握了公司的所有数据，比如固定资产、流动、每一笔借贷的数额和期限、各种税费、工资支出、原料消耗、产值、利润、折旧、职工人数、职工的分工和教育程度等等。如果让你介绍公司状况，你能够把这些指标和数字都原封不动地摆出去吗？当然不能。实例1

实例2你必须要把各个方面作出高度概括，用一两个指标简单明了地把情况说清楚。3PCA多变量问题是经常会遇到的。变量太多，无疑会增加分析问题的难度与复杂性.在许多实际问题中，多个变量之间是具有一定的相关关系的。因此，能否在各个变量之间相关关系研究的基础上，用较少的新变量代替原来较多的变量，而且使这些较少的新变量尽可能多地保留原来较多的变量所反映的信息？事实上，这种想法是可以实现的.主成分分析原理:是把原来多个变量化为少数几个综合指标的一种统计分析方法，从数学角度来看，这是一种降维处理技术。主成分分析方法就是综合处理这种问题的一种强有力的方法。4Data

Reductionsummarization

of

data

with

many

(p)variables

by

a

smaller

set

of

(k)

derived(synthetic,

composite)

variables.npAnkX在力求数据信息丢失最少的原则下，对高维的变量空间降维，即研究指标体系的少数几个线性组合，并且这几个线性组合所构成的综合指标将尽可能多地保留原来指标变异方面的信息。这些综合指标就称为主成分。要的问题是：(1)如何作主成分分析?当分析中所选择的变量具有不同的量纲，变量水平差异很大，应该选择基于相关系数矩阵的主成分分析。2.

问题的提出6各个变量之间差异很大7如何选择几个主成分。主成分分析的目的是简化变量，一般情况下主成分的个数应该小于原始变量的个数。关于保留几个主成分，应该权衡主成分个数和保留的信息。如何解释主成分所包含的几何意义或经济意义或其它。8的统计学家斯通(Stone)在1947年关于国民经济的研究是一项十分著名的工作。他曾利用1929一1938年各年的数据，得到了17个反映国民收入与支出的变量要素，例如雇主补贴、消费资料和生产资料、纯公共支出、净增库存、股息、利息、外贸平衡等等。在进行主成分分析后，竟以97.4％的精度，用三个新变量就取代了原17个变量。实例1:

经济分析9根据经济学知识，斯通给这三个新变量分别命名为总收入F1、总收入变化率F2和经济发展或的趋势F3。更有意思的是，这三个变量其实都是可以直接测量的。10主成分分析就是试图在力保数据信息丢失最少的原则下，对这种多变量的数据表进行最佳综合简化，也就是说，对高维变量空间进行降维处理。很显然，识辨系统在一个低要比在一个高容易得多。11实例2:

成绩数据100个学生的数学、物理、化学、语文、历史、英语的成绩如下表（部分）。12从本例可能

问题目前的问题是，能不能把这个数据的6个变量用一两个综合变量来表示呢？这一两个综合变量包含有多少原来的信息呢？能不能利用找到的综合变量来对学生排序呢？这一类数据所涉及的问题可以推广到对企业，对学校进行分析、排序、判别和分类等问题。13例中的数据点是六维的；也就是说，每个观测值是6

中的一个点。

希望把6

用低维空间表示。3.1

PCA:

二维数据分析14平均成绩73.769.861.372.577.272.36372.37015单科平均成绩74.1747066.473.663.364666870727476788082849085807570656095100dataM16

先假定数据只有二维，即只有两个

变量，它们由横坐标和纵坐标所代表；因此每个观测值都有相应于这两个坐

标轴的两个坐标值；如果这些数据形成一个椭圆形状的点阵（这在变量的二维正态的假定下是可能的）.17218x1xF12F••

••••••••

•••••••

••••

••

••••

•

•

•••

•••

••.32主成分分析的几何解释平移、旋转坐标轴219x1xF12F••

•••••••••

•••••

••

•

•••

••

••

•••

•主成分分析的几何解释平移、旋转坐标轴••

••

•220x1xF12F••••

••

•••••••••••••••••

•主成分分析的几何解释平移、旋转坐标轴•••••••221平移、旋x转坐标轴x11FF2•••••

••••••••

•

••

•••

•••主成分分析的几何解释•

•••••

••

••••••

•

••••

•

•••••

••

•••

••••

••

•

•

•••

•

•••••

•••••

••

••••

•••

•

••

•••

••

•••

••3.2.

PCA:

进一步解释4

2

0

2

4-4-2024

椭圆有一个长轴和一个短轴。在短轴方向上，数据变化很少；在的情况，短轴如果成一点，那只有在长轴的方向才能够解释这些点的变化了；这样，由二维到一维的降维就自然完成了。224232024-4-2024二维数据24进一步解释PCA当坐标轴和椭圆的长短轴平行，那么代表长轴的变量就描述了数据的主要变化，而代表短轴的变量就描述了数据的次要变化。但是，坐标轴通常并不和椭圆的长短轴平行。因此，需要寻找椭圆的长短轴，并进行变换，使得新变量和椭圆的长短轴平行。如果长轴变量代表了数据包含的大部分信息，就用该变量代替原先的两个变量（舍去次要的一维），降维就完成了。椭圆（球）的长短轴相差得越大，降维也越有道理。进一步解释PCA(续)对于变量的情况和二维类似，也有高维的椭球，只不过无法直观地看见罢了。首先把高维椭球的主轴找出来，再用代表大多数数据信息的最长的几个轴作为新变量；这样，主成分分析就基本完成了。注意，和二维情况类似，高维椭球的主轴也是互相垂直的。这些互相正交的新变量是原先变量的线性组合，叫做主成分(principal

component)。25正如二维椭圆有两个主轴，三维椭球有三个主轴一样，有几个变量，就有几个主成分。选择越少的主成分，降维就越好。什么是标准呢？那就是这些被选的主成分所代表的主轴的长度之和占了主轴长度总

和的大部分。有些文献建议，所选的主轴总长度占所有主轴长度之和的大约

85%即可，其实，这只是一个大体的说法；具体选几个，要看实际情况而定。263.3.

均值和协方差特征值和特征向量42024-4-202421

22p1p

2

X1

X2x

xx

x

x11

x12

xpn

x

xpn

pn

pnX

Xn设有n个样本，每个样本观测p个指标（变量）：X1，X2，…，Xn,得到原始数据矩阵：27n12M

1

(X +

X1.

样本均值显然,样本均值是数据散列图的中心.于是p*n

矩阵的列B具有零样本均值,称为平均偏差形式42024-4-2024M28291n

12.

样本协方差S

中

心中心协方差的大小在一定程度上反映了多变量之间的关系，但它还受变量自身度量单位的影响.注意：协方差是对称矩阵且半正定BBT303.3

特征值与特征向量Ａ为ｎ阶方阵，λ为数，X

为ｎ维非零向量，AX

X定义若则λ称为Ａ的特征值，X

称为Ａ的特征向量．注

① 特征向量X

0，特征值问题只针对与方阵；②

,X并不一定唯一；③ ｎ阶方阵Ａ的特征值，就是使齐次线性方程组

I

A有非零解的λ值，即满足的λ都是方阵Ａ的特征值．

I

定义

称以λ为未知数的一元ｎ次方程

I

A

0为Ａ的特征方程．31例1:从一个总体中随机抽取4个样本作三次测量,每一个样本的观测向量为:12341

4

7

8

1

13

1X

2,

X

2

,

X

8,

5X

4计算样本均值M和协方差矩阵S以及S的特征值和特征向量.M

1nn

ii1X1TS

BBn

1SX

X32Syntax

C

=

cov(X)AlgorithmThe

algorithm

for

cov

is[n,p]

=

size(X);X

=

X

-

ones(n,1)

*

mean(X);Y

=

X'*X/(n-1);See

Alsocorrcoef,mean,

std,var22020/11/2033x1xF1F2•••••••••

•••••

••

•

•••

••

••

•••

•平移、旋转坐标轴••

••

•M•为了方便，

在二

中

主成分的几何意义。设有n个样本，每个样本有两个观测变量xl和x2，在由变

量xl和x2

所确定的二维平面中，n个样本点所散布的情况如椭圆状。由图可以看出这n个样本点无论是沿着xl

轴方向或x2轴方向都具有较大的离散性，其离散的程度可以分别用观测变量xl

的方差和x2

的方差定量地表示。显然，

如果只考虑xl和x2中的任何一个，那么包含在原始数据中的信息将会有较大的损失。2020/11/2034

如果

xl轴和x2轴先平移，再同时按逆时针方向旋转角度，得到新坐标轴Fl和F2。Fl和F2是两个新变量。2020/11/2035Fl，F2除了可以对包含在Xl，X2中的信息起着浓缩作用之外，还具有不相关的性质，这就使得在研究复杂的问题时避免了信息

所带来的虚假性。二维平面上的个点的方差大部分都归结在Fl轴上，而F2轴上的方差很小。Fl和F2称为原始变量x1和x2的综合变量。F简化了系统结构，抓住了主要

。2020/11/203637§3.4 PCA的性质一、两个线性代数的结论1、若A是p阶实对称阵，则一定可以找到正交阵U，使p

p

p

0

00

21

0

0

0

U1AU

其中i

,

i

1.2.

p

是A的特征根。382、若上述矩阵的特征根所对应的单位特征向量为u1

,,uppp

u

u

up

2u

up12

p21

22u1

p

u11

u12u1

pU

(u

,,u

)

则实对称阵A属于不同特征根所对应的特征向量是正交的，即有U

U

U

U

I令§3.4

PCA的性质(续)3、均值E

(

U

T

x

)

U

T

M4、方差为所有特征根之和pi

11Var

(Fi

)

p

2

2

2p

1

2

2说明主成分分析把P个随

量的总方差分解成为P个不相关的随

量的方差之和。协方差矩阵的对角线上的元 和等于特征根之和。393.4、精度分析，称为贡献率，反映了原来P个指标多大1）贡献率：第i个主成分的方差在全部方差中所占pi1i

i的信息，有多大的综合能力。2）累积贡献率：前k个主成分共有多大的综合能力，用这k个主成分的方差和在全部方差中所占来描述，称为累积贡献率。pki1

i1

i

i40PCA

常用统计量：１.特征根

λi２.各成分贡献率３.前各成分累计贡献率４.特征向量各成分表达式中标准化原始变量的系数向量，就是各成分的特征向量。ii41进行主成分分析的目的之一是希望用尽可能少的主成分F1，F2，…，Fk（k≤p）代替原来的P个指标。到底应该选择多少个主成分，在实际工作中，主成分个数的多少取决于能够反映原来变量80%以上的信息量为依据，即当累积贡献率≥80%时的。最常见的情况是主成分为2到3个。主成分的个数就足够了42例设x1

,x2

,x3

的协方差矩阵为0

1

2

0

2

5

0

0

2解得特征根为1

5.83，2

2.00

，3

0.17，，

0.000

1

1

00

0.383

0.9242U

0.924

U

0.0003U

0.383第一个主成分的贡献率为5.83/（

5.83+2.00+0.17

）=72.875%，尽管第一个主成分的贡献率并不小，但应该取两个主成分。97.88%43§4

主成分分析的步骤X

x

，

x

，，

x

(l

1，2，，

n)l

1l

2

l

pln

p

px

(

xil

xi

)(x

jl

x

j

)

1

n

1

l

1ˆ一、基于协方差矩阵第一步：由X的协方差阵Σx，求出其特征根，即解方程

Σ

I

0

，可得特征根

1

2

p

0

。44第四步：计算所选出的k个主成分的得分。将原始数据的中心化值:的得分，并按得分值的大小排队。45第二步：求出分别所对应的特征向量U1，U2，…，Up，

u1i，

u

2

iUiFi

U

X

，

i

1，2，

，

k

(

k

p

)Ti代入前k个主成分的表达式，分别计算出各单位k个主成分X

*

X

X

xi

i

1i

pT

x1，

x2

i

x2，

，

x

pi

xi第三步：计算累积贡献率，给出恰当的主成分个数。i例

应收账款是指企业因对外销售产品、材料、提供劳务及其它原因，应向购货单位或接受劳务的单位收取的款项，包括应收销货款、其它应收款和应收票据等。出于扩大销售的竞争需要，企业不得不以赊销或其它 的方式招揽顾客，由于销售和收款的时间差，于是产生了应收款项。应收款赊销的效果的好坏，不仅依赖于企业的信用政策，还依赖于顾客的信用程度。由此，评价顾客的信用等级，了解顾客的综合信用程度，做到“知己知彼，百战不殆”，对加强企业的应收账款管理大有帮助。某企业为了了解其客户的信用程度，采用西方银行信用评估常用的5C方法，5C的目的是说明顾客违约的可能性。§5 PCA的应用461、品格（用X1表示），指顾客的信誉，履行偿还义务的可能性。企业可以通过过去的付款记录得到此项。2、能力（用X2表示），指顾客的偿还能力。即其流动资产的数量和质量以及流动负载的比率。顾客的流动资产越多，其转化为现金支付款项的能力越强同时，还应注意顾客流动资产的质量，看其是否会出现存货过多过时质量下降，影响其变现能力和支付能力。3、资本（用X3表示），指顾客的财务 和财务状况，表明顾客可能偿还

的背景。4、附带的担保品（用X4表示），指借款人以容易出售的资产做抵押。5、环境条件（用X5表示），指企业的外部因素，即指非企业本身能控制或

的因素。47首先并抽取了10家具有可比性的同类企业作为样本，又请8位

分别给10个企业的5个指标打分，然后分别计算企业5个指标的平均值，如表。76.581.57675.871.78579.280.384.476.570.67367.668.178.5949487.589.59290.787.39181.58084.666.968.864.866.477.573.670.969.874.857.760.457.460.86585.668.57062.276.57069.271.764.968.9；4849Eigenvalues

of

the

Covariance

MatrixEigenvalueDifferenceProportionCumulativePRIN1410.506367.2420.8458540.84585PRIN243.26422.5940.0891460.93500PRIN320.67012.5990.0425910.97759PRIN48.0715.2660.0166300.99422PRIN52.8050.

00.0057791.00000EigenvectorsPRIN1PRIN2PRIN3PRIN4PRIN5X10.468814-.8306120.0214060.254654-.158081X20.4848760.3299160.014801-.287720-.757000X30.472744-.021174-.412719-.5885820.509213X40.4617470.430904-.2408450.7062830.210403X50.3292590.1229300.878054-.0842860.31367750第一主成份的贡献率为84.6%，第一主成份Z1=0.469X1+0.485X2+0.473X3+0.462X4+0.329X5的各项系数大致相等，且均为正数，说明第一主成份是对所有指标的一个综合测度，可以作为综合的信用等级指标。可以用来排序。将原始数据的值中心化后，代入第一主成份Z1的表示式，计算各企业的得分，并按分值大小排序:在正确评估了顾客的信用等级后，就能正确制定出对其的信用期、收帐政策等，这对于加强应收帐款的管理大有帮助。序号1

2

3

4

5

6

7

8

910得分3.1613.6-9.0135.925.1-10.3-4.36-33.8-6.41-13.8排序43712851069例二

基于相关系数矩阵的主成分分析。对有关化学产业的三个和石油产业的2个纽约上市的做了100周的收益率。下表是其相关系数矩阵。1）利用相关系数矩阵做主成分分析。2）决定要保留的主成分个数，并解释意义。10.5770.5090.00630.00370.57710.5990.3890.520.5090.59910.4360.4260.3870.3890.43610.5230.4620.3220.4260.52315152Eigenvalues

of

theCorrelation

MatrixEigenvalueDifferenceProportionCumulativePRIN12.856712.047550.5713420.57134PRIN20.809160.269490.1618330.73317PRIN30.539680.088180.1079350.84111PRIN40.451500.108550.0903000.93141PRIN50.342950.

00.0685901.00000EigenvectorsPRIN1PRIN2PRIN3PRIN4PRIN5X10.463605-.240339-.6117050.386635-.451262X20.457108-.5093050.1781890.2064740.676223X30.470176-.2604480.335056-.662445-.400007X40.4214590.5256650.5407630.472006-.175599X50.4212240.581970-.435176-.3824390.385024基于PCA算法的人脸识别PCA方法由于其在降维和特征提取方面的有效性，在人脸识别领域得到了广泛的应用。PCA方法的基本原理是:利用K-L变换抽取人脸的主要成分，构成特征脸空间，识别时将测试图像投影到此空间，得到一组投影系数，通过与各个人脸图像比较进行识别。利用特征脸法进行人脸识别的过程由训练阶段和识别阶段两个阶段组成其具体步骤如下：训练阶段第一步：假设训练集有200个样本，由灰度图组成，每个样本大小为M*N写出训练样本矩阵：其中向量xi为由第i个图像的每一列向量堆叠成一列的MN维列向量,即把矩阵向量化,如下图所示：T200x

x1

,

x2

,...,

x训练阶段如：第i个图像矩阵为则xi为641

2

3

5

7

8

9

9

5

83

62

714训练阶段第二步：计算平均脸计算训练的平均脸：i200i1

2001ix训练阶段第三步：计算差值脸计算每一张人脸与平均脸的差值di

xi

i

训练阶段第四步：构建协方差矩阵AATTi

id

dC

1200

1200200i1A

d1

d2

,...,d200

训练阶段第五步：求协方差矩阵的特征值和特征向量，构造特征脸空间协方差矩阵的维数为MN*MN，考虑其维数较大，计算量比较大，所以采用奇异值分解(SingularValue

position,SVD)定理，通过求解AT

A

的特征值和特征向量来获得AAT的特征值和特征向量。训练阶段及其正交归一化特征向量i的特征值求出

A

AT

ii根据特征值的贡献率选取前p个最大特征向量及其对应的特征向量贡献率是指选取的特征值的和与占所有特征值的和比，即：i

pi200ii1i

i1

a训练阶段p个特征向量集一般取a

99%即使训练样本上的投影有99%的能量求出原协方差矩阵的特征向量则“特征脸”空间为：1iAv

(i

1,2,...,

p)iiu

1

2

pw

u

,

u