从特征向量到权向量的过度

题目：从特征向量到权向量的过度摘要本文主要介绍了线性空间线性变换的定义以及一些基本性质和例子，特征值与特征向量的一些基本性质和定理，然后介绍了特征值及特征向量的求法，给出了特征值和特征向量的一些实际应用进而过度到对权向量的学习，使我们明白对其的研究不仅仅是学习知识，更是为了将其更好地应用到实际生活中去，解决实际问题。最后本文对权向量（即多个线性变换的特征向量）作了简单的介绍，希望读者通过对本篇文章的阅读，能对今后特征向量及权向量的学习有所帮助。关键词：线性空间，线性变换，矩阵，特征值，特征向量，权向量AbstractThispapermainlyintroducesthedefinitionoflineartransformationinlinearspaceandsomebasicpropertiesandexamples,somebasicpropertiesandtheoremsofeigenvaluesandEigenvectors,andthenintroducesthemethodsoffindingeigenvaluesandEigenvectors.SomepracticalapplicationsofeigenvaluesandEigenvectorsaregiven,whichmakeusunderstandthatthestudyofeigenvaluesandfeaturevectorsisnotonlyaboutlearningknowledge,butalsoforthepurposeofapplyingittoreallifeandsolvingpracticalproblems.Finally,thispaperintroducestheweightvector(i.e.,theeigenvectorofmultiplelineartransformations),andhopesthatthereaderwillbeabletoreadthefeaturevectorandtheweightvectorinthefuturethroughthereadingofthisarticle.Learninghelps.Keywords:linearspace,lineartransformation,matrix,eigenvalue,eigenvector,weightvector目录前言第1页线性空间第2页2.1集合与映射的概念第2页2.2线性空间第3页2.3线性空间的例子第3页2.4线性空间的简单性质第4页2.5维数与基第4页线性变换第4页3.1线性变换的定义第4页3.2线性变换的例子第5页3.3线性变换的矩阵第6页特征值与特征向量第6页4.1特征值与特征向量的求法第6页4.2特征值，特征向量的性质第9页特征值与特征向量的应用第14页5.1求方阵的高次幂第14页5.2特征值与特征向量在其他领域的应用第16页权向量的研究第17页6.1Jordan-Chevalley分解第17页6.2权空间的分解第21页结束语第23页参考文献第24页第第页前言特征值和特征向量的内容在高等代数中十分重要，其应用也极其广泛。数学上，线性变换的特征向量是一个非简并的向量，其方向在该变换下不发生变。该向量在此变换下缩放的比例称为其特征值，特征空间是特征值的相同特征向量的集合。线性空间中的线性变换，在取定一组基的情况下，与一矩阵对应，即Aα=αA，这时我们可以通过研究矩阵的性质来了解线性变换的性质，其中很重要的一个就是矩阵的特征值和特征向量，通过研究对应矩阵的特征值和特征向量，来发现相应线性变换的性质，这就表示了特征值，特征向量对于定义特定的线性变换的重要性。学习和分析了特征值和特征向量后，将特征值与特征向量的知识应用于方程组的求解是高等代数中的重要内容。随着计算机技术的发展，高等代数的知识越来越多地被运用到其他行业，在许多方面都有重要的应用。另外在物理，力学，工程技术中的很多问题在数学上也都可归结为求矩阵的特征值和特征向量。另外本文对权向量作了简单介绍，希望能为读者在今后的学习中带来一些帮助。线性空间2.1集合与映射的概念集合集合是数学中最基本的概念之一，所谓集合，就是指作为整体看的一堆东西，即满足某种条件的对象的全体[1]，例如：自然数的全体实数的全体(记为R)复数的全体(记为C)开区间内点的全体(记为(a,b);闭区间内点的全体(记为[a,b];某几何图形上点的全体;n维矢量空间中线性变换的全体;实数域上mxn矩阵的全体;复数域上nn方阵的全体等都是集合.集合通常用大写字母表示，集合中的对象称为集合中的点或元素,有时也简称为元,通常用小写字母表示设A为一个集合,若a是A的一个元素,记为aA,读作a属于A;若a不是A的元素,记为aA,读作a不属于A.映射定义若A和B是两个集合,f是A到B的关系,对任元素a∈A,有一确定的元素b∈B与之相对应,那么称f为A到B中的映射记为例令A=(a，b，c),B=(a',b',c',d').若规定f:aa',bb′,ca则f便是A到B中的一个映射2.2线性空间定义设V是数域P上的非空集合.在集合V的元素之间定义了一种代数运算,称为加法;这就是说,在给定的加法下,V中任意两个元素α与β,在V中都能找到唯一的一个元素γ与它们对应,称为α与β的和,记作γ=α+β.在数域P与集合V的元素之间还定义了一种运算,叫做数量乘法;这就是说，在给定地乘法之下，对于数域P中任一数k与V中任一元素α,在V中都能找到唯一的元素δ与它们对应,称为k与α的数量乘积,记为δ=kα.同时加法与数量乘法满足下述规则,那么V称为数域P上的线性空间[2]：加法满足下面四条规则:α+β=β+α（α+β）+γ=α+（β+γ）在V中有一个元素0,对于V中任一元素α都有0+α=α（具有这个性质的元素0称为V的零元素);对于V中每一个元素α,都有V中的元素β,使α+β=0（β称为α的负元素）；数量乘法满足下面两条规则5)1α=α；

6)k(lα)=(kl)α

数量乘法与加法满足下面两条规则:

7)(k+l)α=kα+lα

8)k(α+β)=kα+kβ在以上规则中,k,l等表示数域P中的任意数;α,β,γ等表示集合V中任意元素2.3线性空间的例子1.数域P上的m×n矩阵,按照矩阵的加法和矩阵与数的数量乘法,可以构成数域P上的一个线性空间，表示为。2.全体实函数,按函数的加法和数与函数的数量乘法，即构成一个实数域上的线性空间[2],3.数域P按照本身的加法与乘法,即构成一个自身上的线性空间2.4线性空间的简单性质：零元素是唯一的负元素是唯一的0α=0；k0=0；（-1）α=-α；如果kα=0，那么k=0或者α=02.5维数与基定义：如果在线性空间V中最多能找到n个线性无关的向量，即不能找到n+1个线性无关的向量，那么V就是n维的，如果在V中可以找到无限多个线性无关的向量，那么V就是无限维的[2]定义：在n维线性空间V中，n个线性无关的向量称为V的一组基第3章线性变换3.1线性变换的定义线性空间可以看作是某一类事物量的一个抽象,我们在认识客观事物时,固然需要弄清它们单个的和总体的性质,但是更重要的在于弄清楚它们之间的联系.在线性空间中,事物与事物间的联系就反映为映射。线性空间V到自身的映射通常称为V的一个变换。这一章讨论的线性变换就是最简单的一种变换。

定义线性空间V的一个变换A称为线性变换,如果对于任意的元素α,β和数域P中任意数k,都有A(α+β)=A(α)+A(β),A(kα)=kA（α）[2]。（1）定义中等式(1)表达的意思实际上就是说线性变换保持向量的加法与数量乘法[2]

3.2线性变换的例子例1平面上的向量构成实数域上的二维线性空间.把平面围绕坐标原点顺时针旋转θ角,就是一个线性变换,我们用表示.如果平面上一个向量α在直角坐标系下的坐标是(x，y),那么像(α)的坐标,即α旋转角之后的坐标是按照公式

来计算[3].同样空间中绕轴的旋转也是线性变换

例2设是几何空间中一固定的非零向量,把每个向量

变到它在a上的内射影的变换也是一个线性变换,以表示它.

用公式表示就是

,这里(α,α),(α,β)表示内积

例3线性空间V中的恒等变换或称单位变换E,即

E(α)=α,(α∈V),

以及零变换O,即

0(α)=0(α∈V)

都是线性变换

例4设V是数域P上的线性空间,k是P中某个数,定义V的变换如下

α→kα,α∈V

可以证明,这是一个线性变换,称为由数k决定的数乘变换,可用

K表示.显然,当k=1时,我们便得恒等变换,当k=0时,便得到零变换

3.3线性变换的矩阵定义设是数域P上n维线性空间的一组基，A是V中的一个线性变换,基向量的像可以被基线性表出：A()=(A,A...A)=（）A称矩阵A为A在基下的矩阵，我们在确定一组基后，就建立了由数域P上的n维线性空间V的线性变换到数域P上的n×n矩阵的一个映射，且是双射第4章特征值与特征向量4.1特征值和特征向量的求法当我们在有限维线性空间中取定一组基后，线性变换就可以用一个对应的矩阵来表示定义设A是数域P上线性空间V的一个线性变换，如果对于kP，存在一个非零向量α，使得Aα=kα那么k就是A的一个特征值，而α就是属于k的特征向量[4]从几何上来看，特征向量经过线性变换后，方向仍旧在同一直线上，即方向相同或不变，当k=0时，特征向量就被线性变换成0

征向量不是被特征值所唯一决定的.相反,特征值却是被所唯一决定的,因为,一个特征向量只能属于一个特征值

设V是数域P上n维性空间,是它的一组基,线性变换A在这组基

写的矩阵是A.设是特征值,它的一个特征向量在下的坐标是.则A的坐标是，的坐标是

因此=或（E-A）=0这说明特征向量的坐标（）满足齐次方程组由于不全为0，即方程组有非零解，即=0上面的分析说明,如果是线性变换的特征值,那么一定是矩阵A的特征多项式的一个根，反过来,如果是矩阵A的特征多项式在数域P中的一个根,即|E-A|=0，那么齐次线性方程组(3)就有非零解.这时,如果是方程组的一个非零解，那么非零向量=就是属于特征值的一个特征向量

由此,确定一个线性变换A的特征值与特征向量的方法可以分

以下几步

1.找出线性变换A在线性空间V中一组确定基下的矩阵 A,

2.找出线性变换A的全部特征值，即特征多项式在数域P中的全部有效根，3.把所求得的特征值一一代入方程组(3),并求解，找出一个基础解析，这样我们找到了属于这个特征值的线性无关的特征向量

4.2特征值，特征向量的性质定义如果在n维向量空间V中存在一组基，它由线性变换A的特征向量构成，则称线性变换A是半单的或可对角化的，此时，线性变换A在这组基下的矩阵是对角矩阵[3]定义设A是域F上的n维向量空间，A是V的线性变换，取定V的一组基，线性变换A在这组基下的矩阵为A=()(F).定义线性变换的迹为TrA=。线性变换的迹与具体基的选取无关，线性变换的迹在不同基下的矩阵是相似的，相似矩阵有相同的特征多项式，而A的迹由它的特征多项式所唯一确定。定义特征子空间：设A是V的线性变换，是A的特征值，定义线性变换A的特征值的特征子空间为={vV丨A（v）=}引理1线性变换A的不同特征值对应的特征子空间的和是直和，也就是说不同特征值的特征向量是线性无关的[5]：证明设有特征子空间的和现对s归纳证明这是子空间的直和。要证明和中的每个向量的分解式是唯一的,只要证明零向量的分解式唯一。设有,两边作用线性变换A,得到等式。由此推出。从而,利用归纳法原理,可以假设。进而有,定义设A是V的线性变换,W是V的子空间。若AWW,则称W是A的不变子空间，也称A-不变子空间引理2设A是V的线性变换。若有V的两个不变子空间,使得V=,则A在某组基下的矩阵具有形式此时,线性变换A的特征多项式为矩阵的特征多项式的乘积

证明分别取的基,合并得到V的基。在这组基下,A的矩阵形如上式。另外,利用特征多项式的定义可以推出:矩阵A的特征多项式是的特征多项式的乘积。

例线性变换A的任意特征子空间V是不变子空间[6]。特别地，线

性变换的核A(0)={v∈V|A(v)=0}是不变子空间。线性变换的值域AV={Av丨v∈V}也是不变子空间。

命题1设v是F上的n维向量空间,A是V的线性变换,则有等式

dimA(0)+

dimAV=n(线性变换的核越大,其值域越小)

证明取子空间A(0)的一组基,扩充成V的一组基，由定义不难看出:A,…,A是AV的张成向量组。

只要再证明它是线性无关的向量组。设A+……+

A=0,其中F,必有∈A(0)。从而有∈F,使得=

由假设是V的一组基,从而所有的系数=0。特别地,A,…,A是线性无关的。命题结论成立

定义设A是n维向量空间V的线性变换,f(T)∈F[T]。称多项

式f(T)是A的零化多项式,如果f(A)=0。称A的次数最低的首项系数

为1的零化多项式m(T)为A的极小多项式

类似地,可以定义矩阵A∈Mn(F)的零化多项式与极小多项式。

引理3n维向量空间Ⅴ的线性变换A或矩阵A的极小多项式存在,并且它是唯一的[7]。

证明只需对线性变换的情形进行证明。考虑V的线性变换的全体构成

的向量空间EndV,这是一个维的向量空间(它同构于矩阵空间Mn(F)。

从而,任何n+1个向量必定是线性相关的。特别地,Idv,,A,…,A线性相

关,必存在非零多项式f(T)∈F[T],使得f(A)=0。即,A的零化多项式存

在。由此推出A的极小多项式存在。

唯一性若f(T),g(T)都是A的极小多项式,它们的次数相等,且首项系

数均为1。若f(T)≠g(T),则f(T)-g(T)将是一个次数更低的非零零化多项式,这与假设相矛盾。

定义对入∈F,令

(A-）=0，N}由定义不难直接验证V是V的一个子空间,也是A-不变子空间

当V≠0时,称其为线性变换A的根子空间或广义特征子空间(这是因为有

包含关系:

)

定理设V是域F上的n维向量空间,F是代数闭域,A是V的线性变换,f(T)∈F[T]是A的零化多项式,且

f(T)=(T-)(T-)…(T-)∈F[T]

这里互不相同,r1,··,rs是正整数。则有A-不变子空间的直和

分解:V=,其中

V={v∈V|(A-Idv)v=0}

从而,线性变换A在适当基下的矩阵为s阶准对角矩阵。下证它们是直和,只要证明后一个分解式是直和。设有零向量的分解式

推论当且仅当A是可对角化时，A的极小多项式无重根。

证明设A的极小多项式为:m(T)=(T-)(T-)……(T-),其

中,i≠j。由上述定理可知,V=。此时,广义特

征子空间。即,V是相应于特征值的特

征子空间。从而,A是可对角化的。

反之,设A是可对角化的,则有特征子空间的直和分解式:

V=，

V是相应于特征值的特征子空间。令m(T)=(T-)(T-)……(T-)。

,有(A-)()=0。从而有m(A)()=0。即,m(A)=0。

因此,A的极小多项式无重根。推论术语如上。设dimV=n,构造线性变换A的不变子空间

U=

则有等式:V=U。即,广义特征子空间定义中的方幂r是确定的

证明分两种情形讨论如下

1)若r≤n,则有VU。用去替换上述定理中相应的因

子,再应用对应的结论得到直和分解式:V=。必

有等式:V=U2)若r>n,则有。设有,使得=0,

但≠0。不难验证:下面n+1个向量线性无关

，...,

这与子空间V的维数为n的假设相矛盾,从而必有

注作为上述讨论的应用,我们现在可以给出

Cayley-

Hamilton定

理的一个证明,设V是代数闭域F上的n维向量空间,A是V的线性变换,利用上述结论得到V到其A-不变子空间的直和分解式:V=,这里

不难看出,线性变换A在V上只有特征值λ,其重数为。于是,A在V上的特征多项式为

f(T)=(T-)(T-)…(T-)

并且有等式f(A)V=0。即,f(A)=0。

特征值与特征向量的实际应用在这一章我们简单介绍几个特征值与特征向量的应用，以便加深对特征值特征向量的掌握和理解5.1求方阵的高次幂若矩阵A可对角化，即存在可逆矩阵P使例子.设某城市共有30万人从事农、工、商工作,

假定这个总人数在若干年内保持不变,而社

会调查表明

(1)在这30万就业人员中,目前约有15万人从

事农业,9万人从事工业,6万人经商(2)在从

农人员中每年约有20%改为从工,10%改为

经商(3)在从工人员中每年约有20%改为从

农,10%改为经商(4)在从商人员中每年约

有10%改为从农,10%改为从工。

现欲预测一、二年后从事各业人员的人数,

以及经过多之后从事各业人员总数之发展

趋势[8]。

解若用3维向量表示第年后从事这三种

职业的人员总数,则已知，而欲求，并考察在n越来越大时，的发展趋势。我们用三阶矩阵A=[]来表示三种职业人员间的转移，如表示每年有10%的人从工人改去经商，于是得出A=(),由矩阵乘法得将A对角化，即特征值为1,0.7,0.5，再求出对应的特征向量t+t+t=30,所以t=10，故多年后，三种职业人数将趋于相等，都是10万人5.2特征值，特征向量在其他领域的应用图像处理中的PCA方法，选取特征值最高的k个特征向量来表示一个矩阵，从而达到降维分析+特征显示的方法，还有图像压缩的K-L变换。再比如很多人脸识别，数据流模式挖掘分析等方面。

在力学中，惯量的特征向量定义了刚体的主轴。惯量是决定刚体围绕质心转动的关键数据。

在谱系图论中，一个图的特征值定义为图的邻接矩阵A的特征值，或者（更多的是）图的拉普拉斯算子矩阵，

Google的PageRank算法就是一个例子。

在量子力学中，特别是在原子物理和分子物理中，在Hartree-Fock理论下，原子轨道和分子轨道可以定义为Fock算子的特征向量。相应的特征值通过Koopmans定理可以解释为电离势能。在这个情况下，特征向量一词可以用于更广泛的意义，因为Fock算子显式地依赖于轨道和它们地特征值[9]。

第6章权向量

6.1Jordan-Chevalley分解若向量空间V的线性变换A是半单的,V可以表示成A的特征子空间的

直和,且A在这些特征子空间上的限制是最简单的数乘变换。对一般的线性

变换A,由前面关于根子空间的讨论可知,V也可以写成一些A-不变子空间

的直和,这些不变子空间具有较低的维数。从而,可以把高维向量空间问

题的研究转化为低维向量空间情形的讨论。

在这一章我们换个角度考虑问题:把一个线性变换分解为两个可交

换的较简单的线性变换之和。本讲的主要结果是证明这种分解的

.Jordan

Chevalley分解式[5]的存在性,并讨论一些相关的内容。

在这之前,先给出几个关于线性变换的矩阵化简的简单结论

引理6.1设A:V→V是n-维向量空间V的线性变换,则存在一组

基,使得A在这组基下的矩阵是一个上三角矩阵(对角线以下

全为零的矩阵)。从而,A可以分解为A1+A2,其中A1是半单的(对应于

对角矩阵);A2是幂零的(双对于应于严格上三角矩阵:对角线上元素全为零

的上三角矩阵)。

证明对向量空间的维数n归纳。当n=1时,结论自然成立。假设

对维数n-1的情形结论成立,现证明n的情形。A的特征多项式是代数

闭域F上的n次多项式,必有根。即,A有特征值λ及相应的特征向量

令W=V/V1,其中V1=F是一维向量空间。

设线性变换A在W上诱导的线性变换为B:W→W,[]→[A]。但是,

商空间W的维数为n-1,由归纳假设,必存在W的一组基[],…,[],使

得B在这组基下的矩阵B=(;2≤i,j≤n)是上三角矩阵。由等式

B([],…,[])=([],…,[])B

推出:B[]=[]+...+[]。即,A()=++…+,

这里∈F。于是,线性变换A在基下的矩阵是上三角矩阵。

通过把上三角矩阵分解为一个对角矩阵与一个严格上三角矩阵的和,

相应的线性变换的分解满足引理的要求。

定义称线性变换A:V→V是幂零的,如果存在自然数r,使

得A=0。类似地,可以定义n阶矩阵A∈Mn(F)的幂零性。

引理6.2设A:V→V是n-维向量空间V的幂零的线性变换,则存在

组基,使得A在这组基下的矩阵是一个严格上三角矩阵。

证明利用上述引理的结果,得到向量空间V的一组基使得A在这组基下的矩阵是一个上三角矩阵。只要说明:这个上三角矩阵的对角线上的元素全为零。不难看出:上三角矩阵的对角线上的元素为该矩阵的特征值。只需验证:幂零矩阵的特征值全为零(读者练习)。

引理6.3半单的线性变换限制在它的不变子空间上,还是半单的

证明设A是n-维向量空间V的半单的线性变换,W是A-不变子空间

要证明A在W上的限制A|w:W→W是W「的半单的线性变换。取W的一组

基,扩充成V的一组基。则有

A(）=（）A

这里A是n-阶矩阵,它有下列分块形式:

其中是r-阶矩阵,它是线性变换A|w在基下的矩阵。

对任意多项式f(T)∈F[T],通过初等的演算可以证明f(A)形如下式:

其中C是某个r×(n-r)矩阵。特别,由f(A)=0,必有f(A1)=0

因为A是半单的线性变换,它的极小多项式m(T)无重根。利用上段讨

论,m(T)是A丨w的零化多项式。因此,A|w的极小多项式也无重根。即,

线性变换A|w也是半单的。

引理6.4设V是域F上的有限维向量空间,则v的两个可交换的半单

线性变换的和、差与乘积都是半单的[10]。

证明只需证明:对两个可交换的半单的线性变换A,B,必存在V的

组基,使得A,B在这组基下的矩阵都是对角矩阵。假设V有如下A的特征子

空间的直和分解

，其中是互不相同的特征值。利用A,B的可换性可以推出,每个

都是B的不变子空间。由上述引理,B在这些不变子空间上的限制还是半单的线性变换。因此,每个这种不变子空间上都可以取到由B的特征向量构成

的基,合并所有这些基得到整个空间V的基,它满足引理的要求

定理5.5设V是域F上的n-维向量空间,x∈EndV。

1)存在唯一的元素∈EndV,使得

且是半单的,是幂零的

2)存在常数项为零的多项式p(T),q(T)∈F[T],使得=p(),=

q()。特别,与所有同可交换的线性变换可交换。

称为的(加性)

Jordan-

Chevalley分解,为的半单部

分,为的幂零部分

证明设的特征多项式为f(T),它有如下分解式:

这里是互不相同的特征值,为相应的重数。由

caley

Hamilton定理可知,f(T)是线性变换的零化多项式。从而,可以利用定

理9.18的结论,得到V的直和分解式

这里,且,1≤≤s。令为

由多项式生成的F[T]的主理想,不难看出:是两两互素的理

想,1≤i≤s。即F[T],。再令=(T)(当所有特征值非

零时,否则不需要)。由中国剩余定理,存在环的满同态:

F[T]F[T]/F[T]/,h(T)([h(T)]...[h(T)])从而有p(T),使得(p(T))=。即,p(T)≡0(modT)

p(T)≡(mod(T-)),1≤i≤s。令q(T)=T-p(T),则p(T),q(T)是

常数项为零的多项式。定义=p(x),=q(x),于是有断言满足定理的要求

事实上,由,且都是关于的常数项为零的多项式

有,。由于,,只要证

明限制在上分别是半单与幂零的。此时,有等式

F[T].由此推出在上恒为零。即,在上的限制是用做数乘变换。

而,即,是幂零的

唯一性:若还有满足1)中的条件,易知,

线性变换既是半单的又是幂零的,必有推论设V是域F上的n-维向量空间,x∈EndV是可逆的线性变

换。则存在唯一的元素∈EndV,使得，且是半单的,-1是幂零的

称为的(乘性)

Jordan-

Chevalley分解,为x的半单部

分,为x的幂零部分。

证明：设是x的(加性)

Jordan-

Chevalley分解。令,则是幂零的。此时,满足要求。

6.2权空间的分解权空间分解设V是域F上的n-维向量空间,H是线性变换空间EndV的子空间,它由V的两两可交换的可对角化的线性变换构成[5]。则V可以分解成一些H-不变子空间的直和(当≠0时,称其为关于H的权空间)

证明对本命题的结论,分三步进行证明如下

(1)有限维向量空间H的有限个真子空间的并是H的真子集。反证利用归纳法,不妨假设可以取到向量此时线性无关。由于F是代数闭域,它是无限域,必存在a≠b∈F,

使得属于同一个子空间,且i≠2,i≠1。从而推

出,(a-b),矛盾。

(2)H上的有限个两两不同的线性函数在H的某一点取两两不同的值。

设是两两不同的线性函数。令,