稀疏重建第一章

1、压缩感知理论及其应用第一章 有关数学基础知识介绍1第一章 有关数学基础知识介绍向量和矩阵范数的定义和性质奇异值分解的定义和性质最小二乘问题凸集、凸函数和凸优化问题21.1 向量和矩阵范数的定义和性质范数：一个非负函数 满足如下性质时被称为范数：:0,)X (1)正定性： 当且仅当 ；0 xx0(2)齐次性：对任意的 和 满足 ；xxx(3)三角不等式：对任意的 和 满足 。xyxyxy,1CCxyxy准范数准三角不等式：准范数常数31.1 向量和矩阵范数的定义和性质度量：对于集合X X，定义一个函数 ，当d满足如下性质时，其被称为一个度量：), 0: XXd(1) ，当且仅当x=y；0),(y

2、xd(2) ，有 ；Xyx ,),(),(xydyxd(3) ，有 。Xzyx,),(),(),(zydyxdzxd范数 是集合X的一个度量。yxyx),(d性质(3)由范数的三角不等式可以得到证明。41.1 向量和矩阵范数的定义和性质lp范数：1/1:pnpjpjxx=p 时， 。 : maxijnxx5 时，上述定义是一个准范数， 。01p1/12pC 时，上述定义是一个范数。1p 1.1 向量和矩阵范数的定义和性质6X的一个度量为：ppdyxyx),(由p-三角不等式：ppppppyxyx1.1 向量和矩阵范数的定义和性质向量内积：*1,niiix yx y与范数的联系：2,xx x71

3、.1 向量和矩阵范数的定义和性质对于 ，且 有,1,p q 1/1/1pqHolder不等式：,pqx yxyCauchy-Schwarz不等式：22,x yxy81.1 向量和矩阵范数的定义和性质几种特殊情况：12nxx2nxx当x x的非零元素最多有s个时：xxxss21特别地， 。1/1/,0pqpqnpq xx91.1 向量和矩阵范数的定义和性质反向不等式：,0qppq xx101.1 向量和矩阵范数的定义和性质对偶范数：xyxy,sup1*实数域xyxyy,sup1,*nR复数域xyxyy,Resup1,*nCp范数是q范数的对偶范数当 。1/1/1pq2范数的对偶范数是它自己。11

4、1.1 向量和矩阵范数的定义和性质矩阵范数：qqqpppAxAxAxx11supsup:qp,1一些性质：qprqrpBAAB（1）12qprqrqrcrcrrpqpqqpcBAAdBxAdABxABxABdxBxddBxx11/, 11supsupsupsupsup13)(maxmax22AAAAH（2）1.1 向量和矩阵范数的定义和性质其中， 为特征值， 为奇异值。14)()(maxsupsupsupsup2maxmax221112212222222AAADUxUxAxAxAxAxxxxHiiiiiiiHHHHzz取x x为 的最大特征值对应的特征矢量，则：AAH)(,)(,maxmax2

5、2AAxxAAxAxAAxAxAxHHH22max)( AAAH15ppknk1 ,maxp1aA（3）1.1 向量和矩阵范数的定义和性质特别地：mikinkA1,11maxA221maxknkaAL1范数最大的列16pknknkpkkpnkkkxxaxaaAx111pmaxL2范数最大的列njjkmkA1,maxA（4）1.1 向量和矩阵范数的定义和性质17L1范数最大的行njjkmknjjjkmknjjjkmkAxAxA1,1,1,maxmaxmaxxAxAAA1122（5）1.1 向量和矩阵范数的定义和性质2211121,1,11,21,11,1,21222maxmaxmaxxAAAxAxnkkmjkjnknkkjnjmjnkkjknkkjnjmjnkkjnkkjkmjjxAAAxAAAx如果A是共轭对称矩阵，则：1122 AA181.1 向量和矩阵范数的定义和性质Frobenious范数：2/1112,FmjnkkjHHAtrtrAAAAAFrobeniou