图像稀疏表示理论研究.doc

武汉理工大学毕业设计（论文）图像稀疏表示理论研究学院（系）： 信息学院 专业班级： 电信1001班 学生姓名： 朱玉峰 指导教师： 杨媛媛 讲师 学位论文原创性声明 本人郑重声明：所呈交的论文是本人在导师的指导下独立进行研究所取得的研究成果。除了文中特别加以标注引用的内容外，本论文不包括任何其他个人或集体已经发表或撰写的成果作品。本人完全意识到本声明的法律后果由本人承担。作者签名： 年 月 日学位论文版权使用授权书本学位论文作者完全了解学校有关保障、使用学位论文的规定，同意学校保留并向有关学位论文管理部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。本人授权省级优秀学士论文评选机构将本学位论文的全部或部分内容编入有关数据进行检索，可以采用影印、缩印或扫描等复制手段保存和汇编本学位论文。本学位论文属于1、保密囗，在 年解密后适用本授权书2、不保密囗 。（请在以上相应方框内打“”）作者签名： 年 月 日导师签名： 年 月 日18摘 要 本文借助数学软件MATLAB首先对不同小波基的图像稀疏表示能力进行了比较，从中选出最优基。然后对基于MOD和K-SVD的两种不同算法的学习字典进行了去噪实验，得出了K-SVD字典的稀疏表示能力更优的结论。虽然过完备稀疏字典的性能应该要优于小波变换，但还是通过对比试验来说明，这样显得更直观一些。对基于最优小波基和基于稀疏字典两种情况进行了比较，所得结果对于整个图像稀疏表示理论的演变发展起到了论证作用，具有重要的指导意义。 论文主要研究了图像稀疏表示理论的整个发展历史以及现在的研究现状。介绍了基于小波变换和多尺度几何分析方法的图像稀疏表示，重点研究了基于过完备字典的图像稀疏表示理论。图像的过完备字典稀疏表示可分为稀疏分解和字典学习两过程：稀疏分解是在过完备字典已知的情况下获得表示系数的过程；而字典学习与稀疏分解相反，则是通过获得的表示系数来更新过完备字典。这两个过程的有效结合可以让图像稀疏分解的结果更加符合图像特征，从而提高图像的稀疏表示质量。基于此两个过程的内容，本文分析了基于MP，BP以及OMP算法的稀疏分解和基于MOD和K-SVD算法的字典学习算法，并对其核心思想和性能差别进行了详细的介绍和分析，形成了以 OMP 算法用于稀疏分解，结合 K-SVD 字典学习算法的图像稀疏表示，并将此方法与小波变换进行比较。研究结果表明：基于稀疏字典的图像稀疏表示性能优于基于小波变换的稀疏表示。本文的特色：对整个图像稀疏表示理论的研究很全面，回顾了稀疏理论发展的历史和现状，通过实验论证了基于字典方法的优越性，对稀疏表示理论的后续研究提出了一定要求。 关键词： 图像稀疏；小波变换；过完备字典；OMP;K-SVDAbstract In this paper, using software MATLAB firstly indicates the ability to compare different image sparse wavelet base, choose the basis from which the. Then the two different learning algorithms of MOD and K-SVD dictionary based on denoising experiments, the sparse K-SVD dictionary representation capability and better conclusion. Although the performance over complete sparse dictionary should be superior to the wavelet transform, but by contrast experiment to illustrate, that seems more intuitive. Based on the optimal wavelet basis and sparse dictionary based on two conditions were compared, the results indicated the evolution theory to demonstrate to the sparse image, has the important guiding significance. This paper mainly studies the image sparse representation of the whole development history theory and the current research status. The sparse image analysis method of wavelet transform and multi scale geometric representation based on, key research based on over complete dictionary of image sparse representation theory. The image of the over complete dictionary sparse representation can be divided into two processes for learning sparse decomposition and Dictionary: sparse decomposition is to obtain there presentation coefficients of the process in the over complete dictionary of known cases; and dictionary learning and sparse decomposition instead, is obtained by the said coefficient to update the over complete dictionary. The effective combination of these two processes can make the image sparse decomposition results more in line with the image features, so as to improve the quality of image sparse representation. The two process based content, based on the analysis of the MP, BP and OMP algorithm of sparse decomposition and MOD algorithm and K-SVD algorithm based on dictionary, and the difference between its core idea and performance are introduced and analyzed in detail,using OMP algorithm for sparse decomposition of the form, combined with the K-SVD dictionary learning image sparse algorithm said, and this method is compared with the wavelet transform. Research results show that: the performance is better than the wavelet transformbased on the sparse representation of sparse representation of images based on sparse dictionary. This feature: the representation theory in the study of very comprehensive on the image sparse, reviews the history and present situation of the development of the theory of sparse, the experiments demonstrate the superiority of the dictionary based method, said some follow-up study on the theory of sparse requirements.Key Words：Sparse image; wavelet transform; over complete dictionary; OMP;KSVDI目 录第1章 绪论11.1 研究背景及意义11.2 国内外研究发展历程和现状2第2章 信号的稀疏表示理论42.1 数学基础及相关说明42.1.1 从逼近论到过冗余稀疏表示42.1.2 稀疏性的度量52.1.3 唯一性和不确定性6第3章 图像稀疏表示基本理论的发展83.1 从傅里叶到小波83.1.1 傅立叶变换93.1.2 余弦变换93.1.3 小波变换103.2 超完备图像表示103.3 超小波图像稀疏表示113.3.1 Ridgelet (脊波) 变换113.3.2 Curvelet (曲线波) 变换123.3.3 Contourlet 变换133.3.4 Bandelet 变换13第4章 图像稀疏字典的设计和构造154.1 图像的稀疏分解154.1.1 稀疏分解的定义154.2 过完备字典164.2.1 分数频率法164.2.2 图像稀疏表示字典的选择和构造174.3 稀疏分解算法的实现174.3.1 BP 算法174.3.2 MP 算法184.3.3 OMP 算法204.4 稀疏字典发展趋势21第5章 不同稀疏表示方法的性能研究235.1 基于不同小波基的稀疏性能研究235.1.1 小波去噪原理235.1.2 实验分析及结论245.2 学习字典实验255.2.1 MOD算法研究255.2.2 K-SVD算法研究265.2.3 实验分析及结论285.3 基于小波变换和稀疏字典的图像表示性能比较30第6章 全文总结与展望326.1 论文工作总结326.2 未来工作展望32参考文献33附 录34致 谢39武汉理工大学毕业设计（论文）第1章 绪论1.1 研究背景及意义随着社会的不断进步，信息技术已经成为人们日常生活中不可缺少的组成部分，图像丰富的信息含量使其成为人类获取信息的主要信息源。然而经过数字化处理的图像数据量十分庞大，给实际的存储、传输和理解带来了相当大的困难。图像表示模型的建立是图像处理应用开展的基础，如何设计既简洁又高效的图像表示模型，降低实际应用中巨大的图像数据量带来的压力，是图像处理理论和实践研究中一个十分重要的课题。传统的图像表示方法仅仅使用某一种正交变换基函数（如傅里叶基等）对图像进行表示，不能有效地表示图像的结构特征，从而不能对图像形成最稀疏的表示。小波变换理论和方法的提出弥补了傅里叶变换不具有时域局部化能力的缺陷，并且能对非平稳信号进行有效地处理，小波变换比傅里叶变换能更稀疏的表示一维信号。然而自然界中的图像往往是具有不同复杂几何结构特征的二维信号，在用二维小波对图像进行表示时，在不同的小波系数子带上会同时出现图像的几何结构特征，结果造成了表示的不稀疏。多尺度几何分析方法是继小波变换之后，提出的又一类新的图像表示方法。该方法的出现被称为小波兴起后的又一场革命。多尺度几何分析方法的提出主要是为了解决高维空间数据稀疏表示问题。图像的多尺度几何分析理论与方法是一个前沿的研究领域，其理论和算法还处在发展之中。在国内，目前图像稀疏表示方面的研究主要集中在多尺度几何分析理论及其应用。 1996年， Olshausen 和 Field 提出了稀疏编码模型。稀疏编码理论表明，V1区简单细胞感受野的反应特性能够反映自然图像的主要结构特征。图像过完备稀疏表示作为一种有效的图像稀疏表示模型，其编码机制与人类视觉感知系统处理信息的方式相匹配，字典中的原子可以理解为人类视觉皮层中的神经元，应具有与神经元相类似的感受野结构，如方向性、局部性、帯通性，从而可以有效的捕获到自然图像中的局部几何结构信息1。在图像过完备稀疏表示模型中，将信号在过完备字典上分解，尽可能的使信号能量集中到少量的系数上，即大部分变换系数为零，只有很少的非零大系数。同时用来表示信号的字典原子可以自适应的根据信号本身的特点灵活选取，以得到信号非常稀疏的表示。对比基于固定正交基的图像表示，过完备图像稀疏表示达到了更优的逼近效果。同时冗余系统能够对噪声与误差更为鲁棒，从而为图像处理带来了很大的便利。图像表示是图像处理领域中一个非常核心的问题，它在图像压缩、特征提取、图像检索、图像去噪和图像复原等应用中起着非常关键的作用。尽管在图像稀疏表示研究方面取得了一定成就，但目前稀疏表示理论还不够成熟，在实际研究与应用过程中还有许多问题亟待解决。建立高效、灵活的图像稀疏表示模型，研究有效、快速的图像稀疏表示算法，将有利于推动图像处理领域研究的开展。1.2 国内外研究发展历程和现状对于信号而言，数据处理算法和数据模型的好坏直接决定了是否能够准确有效的对数据进行处理、量化和压缩。同时，从物理学和信息学的观点来看，任何信息都可以从多个不同的角度来对其进行研究，所以，在早先的信息处理中，当对某个信息的描述和理解出现困难时，研究者们往往会将其变换到其它便于描述和理解的变换域进行处理。在这种模型下，奈奎斯特最早提出奈奎斯特采样定律，确定了可以无失真恢复原始信号的最小采用速率，为现在数字信号处理奠定了基础。到傅立叶提出傅立叶变换以后，人类推开了信号稀疏表示的大门。从之前所使用的离散Fourier变化(DFT)、离散变换Walsh(DWT) 、离散Hadamard(DHT) 、离散余弦变换(DCT)，直到90年代风靡全球小波变换理论，其本质都是将信号变换到其它域进行处理2。 在此理论下，最著名的静态图像压缩标准当属以离散余弦变换为基础的JPEG和以离散小波变换为基础的JPEG-2000。在JPEG中，图像中的大的非零系数大多被保留在了图像的左上角中DCT变换中，其余部分系数较小，所以仅使用左上角的DCT 系数就能对图像内容进行较好的近似表示，有利于图像的压缩。而在JPEG-200中，小波系数中幅值较大的系数更少，系数分布更加稀疏,能够采用更少的数据对图像进行表示。对大多数类型的图像， JPEG-2000 比JPEG 拥有更好的图像压缩性能。此后，在很长一段时间里，小波都以其强大的实用价值和理论体系受到了人们的广泛关注。但是，小波变换不能有效的表示出图像中的线状奇异性，只是对点状奇异性的对象表现出良好的效果，这就造成了小波推广到多维信号处理时的局性。其不足之处表现在变换不具备平移不变性以及对具有各种方向性的集合奇异特性的表示不稀疏。基于小波变换的缺点和劣势，在上世纪九十年代末开始。Donoho、Mallat、Coifman、Daubechies等学者和研究人员提出了一系列的与小波变换类似但也不完全一样的一类新的方法，这一类方法在2003年的纯粹应用数学（Pure and AppliedMathematics）会议上被统一定义为“几何多尺度分析方法”。具有代表性的如Ridgelet、Curvelet、Bandelet、Contourlet等3。这类方法为信号稀疏表示的发展提供了一种新的途径，并解决了小波方法未能解决的方向性问题。在此之后国外对几何多尺度分析的研究非常活跃，各类新的概念、理论、方法层出不穷。 多几何分析工具往往只能表示出信号的某一特定特征，例如纹理，边缘等。Coifman、Wickerhauser和Mallat、Z.Zhang4先后在1993年提出了将信号在过完备基（over-complete dictionary）上分解的思想，即信号的稀疏表示方法。将信号在过完备基上进行分解，可以得到信号的一个非常简洁的表达式。这种新的理论可以获得更加稀疏的信号表示。随后Mallat在1994年提出了匹配跟踪算法（MatchingPursuit,简称MP），用于实现图像的稀疏分解。这一算法之后又被扩展为OMP正交匹配跟踪算法。基于针对图像的稀疏分解方法，目前已经发展出了多种算法，包括BP、MP、OMP算法等。在此类方法中，用于图像稀疏分解的过完备基的构造和选取是其中十分重要的一个环节。这一点也在随后研究者的研究成果中得到了验证。所使用的过完备基由最先的固定基，如小波包、Bandelet等之类，逐渐发展成了现在的基于样本的学习算法，常见的有：最大似然法，最优方向法（Method of Optimal Direction,MOD）、K-SVD字典方法、最大后验概率法等5。通过研究发现，使用过完备基对图像进行稀疏表示可以获得更好的图像质量。 国内对稀疏表示的研究近些年也开始日益发展起来，并取得了长足的进步。国内学者们已在这一领域发表了大量的论文，涉及图像处理的多个方面，其中包括识别、去噪、超分辨率等，引起了同行的关注，并在国际上造成了一定的影响力。第2章 信号的稀疏表示理论2.1 数学基础及相关说明信号表示实际就是把给定的信号在己知的函数(或矢量)集上进行分解,然后在变换域上表达原始信号。这种在变换域上用尽量少的基函数来(准确地)表示原始信号，就是信号的稀疏表示，而得到信号的稀疏表示过程就是稀疏分解。对于信号矢量(其中，i信号时频参数组，i=1,2,k,N信号长度)，由其组成的集合构成了一个过完备原子库，也称之为词典D，词典中的元素被称为原子。设D = 为用于进行信号稀疏分解的过完备原子库，其元素是在整个Hilbert空间H=的单位矢量。由于原子库的冗余性(i N)，矢量不再是线性无关的6。一般地，对于任意给定的长度为N的实信号，用少数的原子(与信号长度相比较而言)就可以表示信号的主要成分，即 (2.1) 式中， j是原信号分解的原子个数；是信号f在原子上的分量，无因次；是由参数组i定义的原子，无因次；第j个原子对应的时频参数组，无因次。式(2.1)中，关在于如何从各种可能的线性组合中寻求出分量最为稀疏的一个解。理论上，以上问题可以通过线性规划的方法加以解决，但由于算法所涉及的计算量非常大，因此，早期的研究主要集中在寻求快速算法和降低算法复杂度，以及选择何种类型的原子来造合适的词典等方面。最近几年，许多研究者尝试通过分析冗余词典的互不相干性来寻求新的解决办法。2.1.1 从逼近论到过冗余稀疏表示 从逼近论的角度，信号的表示可以分为：线性逼近和非线性逼近。线性逼近是将信号f投影到从规范正交基中事先选取的M个向量上。 (2.2)而非线性逼近是根据信号的性质选取M个向量,改进(2.2)式的线性逼近结果。记为这 M 个向量的指标集，则 f 的逼近为： (2.3)其逼近误差为： (2.4)为使上面的误差最小，选择M个向量使得内积的幅值, 是前M个最大的。因此按照逼近论的思想，逼近的目标是为了选择最能刻画信号固有性质的基，在变换域用尽量少的系数来描述信号。相对线性信号，能够通过选择更广泛的函数类里的向量来替代原来的基底，用这些向量来对非线性信号逼近，可以改善逼近质量。此时，为了更好的表示信号，基的正交性也不是必要的，这样，就可以有更大的自由度去选择逼近元。由此，可以给定一个集合，把这个集合称为字典(或原子库)，集合中的元素称为原子，这里KN, N为信号的长度，所以这个字典是过冗余的,用字典中少量的原子对信号进行逼近,即: (2.5)而由于NM,所以也把这种逼近称为稀疏逼近。这种系数不是唯一的，可以通过应用的不同而灵活的选取系数，一般的从众多系数的选择中选取最为稀疏的系数，也即系数矩阵里为零值的占大多数，仅含少量的非零系数，但是只需要通过这几个大系数就能够很好的展现出信号的本质特征。这样在实际应用中我们仅用少量的几个系数就可以对信号进行描述，简化后续处理的工作量。这个稀疏度可以用范数进行度量，建立如下的数学模型并将下面的问题称为问题： (2.6)范数是范数中的情况，定义为中非零元素的个数。将字典中的所有原子作为列向量依次排列，可以构成一个的矩阵，记为。用矩阵(向量)的形式来表示原有的稀疏表示模型： (2.7)矩阵的分解过程中可以看到系数矩阵中的非零值仅占很小的比例，达到了稀疏的要求。2.1.2 稀疏性的度量 在上一节中我们看到，过完备稀疏表示问题可以用一个有约束的范数问题等价和度量，但是由于问题是 NP-Hard 问题，现有的算法无法解决，所以只能另辟蹊径用其他方法对它进行近似。范数准则可以在对稀疏表示系数的非零个数度量的同时兼顾信号的重建误差，在数学分析理论中通常是使用范数进行稀疏度量，将范数定义如下7： (2.8) 当 0p0，为整数。设表示剖分尺度为s时的全体二进方形集合，对每个块进行脊波变换得到脊波系数。设f是的函数，且沿某一直线是不连续的，除此之外均为阶连续，则函数的单尺度脊波变换M项非线性逼近误差衰减速度为： (3.8)由于单尺度脊波变换的基本尺度是固定的，导致了函数逼近的不稀疏性。3.3.2 Curvelet (曲线波) 变换Curvelet(曲线波)变换理论由 Candes 于 1999 年提出，它由脊波变换理论衍生而来。曲线波变换克服了单尺度脊波变换固定尺度的缺陷，对曲线状奇异特征具有稀疏的表示。曲线波变换的发展经历了二代，第一代曲线波变换主要基于脊波变换，其数字实现比较复杂；第二代曲线波变换通过对信号频谱的多方向分解实现信号的多方向分解，它借助快速傅里叶变换，其数字实现更加简单、快速。第一代曲线波变换的主要步骤如下：步骤 1. 对图像进行子带分解；步骤 2. 对分解出的子带进行平滑分割处理；步骤 3. 对分割出的子块进行正则化处理；步骤 4. 对正则化后的块进行脊波变换，得到曲线波变换系数。第二代曲线波变换利用构造出的多方向多尺度频率窗对信号频谱进行分解，因此其关键在于方向多尺度频率窗函数的构造。在数字实现过程中，Candes 提出了两种实现方案，即非等空间隔快速傅里叶变换(Unequally-spaced Fast FourierTransforms, USFFT)法和频率Wrapping 法12。第二代曲线波变换实现步骤如下：步骤 1. 对图像进行二维傅里叶变换；步骤 2. 用构造出的窗函数对图像频谱进行分割，得到方向频谱子带；步骤 3. 对方向频谱子带进行反傅里叶变换，得到曲线波变换系数。曲线波变换对曲线具有稀疏表示的重要原因在于，它的基函数的支撑区间表现为长方形，且满足尺度关系，即满足“各向异性尺度关系”。对于支撑在上的函数f，设其沿曲线奇异，则曲线波变换对该函数的M项非线性逼近误差为： (3.9)3.3.3 Contourlet 变换2003年，Do 和 Vetterli提出了一种新的图像多尺度几何表示方法Contourlet变换。它继承了曲线波变换的各向异性尺度关系，基的支撑区间具有随尺度变换的“长方形”结构，具有良好的各向异性，能沿着图像轮廓边缘用最少的系数来逼近奇异曲线。与小波变换和其它多尺度几何分析方法不同，Contourlet理论首先完成的是离散域的Contourlet构建。与第二代离散曲线波变换不同，Contourlet变换通过空域的方向滤波器来实现图像的多方向分解，而第二代离散曲线波变换通过频域的方向滤波器来实现图像的多方向分解。Contourlet 变换中尺度分析与方向分析是独立进行的，其数字实现主要包括两步：步骤 1. LP (Laplacian Pyramid, LP) 滤波。使用 LP 滤波器对图像进行子带分解，以捕获二维图像信号中存在的点奇异。一次 LP 分解将图像信号分解为原图像信号的近似分量和高频分量；步骤 2. 多方向滤波。使用方向滤波器组(Directional Filter Bank, DFB)对高频分量进行方向变换，将分布在同一方向上的奇异点合成一个系数。Contourlet变换具有“最优”变换所必须具备的条件，能稀疏地表示图像轮廓边缘。对于支撑在上的函数 f ，且沿曲线奇异，则Contourlet变换对该函数的M项非线性逼近误差为： (3.10)这与曲线波的逼近效率是完全相同的。因此，Contourlet变换可以认为是一种近似的曲线波变换。但与曲线波变换系数相比，Contourlet变换系数的冗余度要小得多。3.3.4 Bandelet 变换 Bandelet变换最早是由Pennec和Mallat于2002年提出的，它是一种基于图像边缘的表示方法，能自适应地跟踪图像几何正则方向。Bandelet变换引入几何矢量流，对图像空间结构灰度值变化的局部正则方向进行刻画，自适应地获得图像的最稀疏表示20。 Bandelet变换提出至今经历了两代，第一代Bandelet变换由于要对原始图像重采样，并要把任意几何方向弯曲到水平和垂直方向，进而借助二维可分离小波变换来处理，实现复杂度较高。第二代Bandelet变换巧妙地借助多尺度几何分析和方向分析，既保留了第一代Bandelet的优点，又能获得更简单的运算。 第一代 Bandelet 变换首先采用四叉树 (quadtree) 对原始图像作二进连续剖分，直到每剖分子块中只含唯一的一个边界，并将相应的子区域分别标示为水平区域、垂直区域、正则(或光滑) 区域或角点区域；然后通过弯曲 (warping) 算子把相应区域内的边界弯曲至水平或垂方向；最后借助二维可分离小波来处理这种水平和垂直奇异性。Bandelet 变换实现过程中需要进行重采样操作，为避免二进剖分时带来块状效应，在块与块相接的边界处引入仿射函数，并采用改进的提升程序。第二代 Bandelet 变换避免了重采样和弯曲等繁杂操作，通过多尺度分析和几何方向分析共同完成图像的分解。多尺度分析通过二维小波变换完成，几何方向分析通过几何正交方向上的一维小波变换完成。首先对图像进行二维小波分解；然后对高频系数图作二进四叉树剖分，自底向上对四叉树进行修剪；最后分别找出平行于子块中实际几何方向的方向，通过这个方向上的正交投影，将二维小波系数转换成一维离散信号，采用一维小波变换对该离散信号进行分析，得到 Bandelet 系数。设f是的函数，除轮廓线外，函数为阶连续，则Bandelet变换M 项非线性逼近误差性能为： (3.11)从上式可以看出，Bandelet变换对轮廓线状奇异性的非线性逼近性能与Ridgelet变换对线状奇异性的非线性逼近性能一样。第4章 图像稀疏字典的设计和构造4.1 图像的稀疏分解当基于正交分解的信号表示方法已经不能满足研究人员的要求的时候,Coifman 和 Wicker hauser 等提出了稀疏分解的概念。以小波变换为基础，Mallat 和 Zhang 提出了信号在过完备基上分解的思想。其基本思想就是：用一种过完备冗余函数来替代之前用于信号分解的基函数，这种新的过完备冗余函数被称之为原子库。同时在图像稀疏表示中，我们将原子库改称为字典。字典的选择并没有任何特殊的限制，以让信号能够尽可能好的符合被分解的信号为准。这一过程被赋予了新的名称：信号的稀疏分解（Sparse decomposition）。4.1.1 稀疏分解的定义给定一个集合，其中的元素可以张成完整的 Hilber 空间的单位矢量，我们把其中的元素称之为原子（或者基函数），对于任意的给定的维的图像信号，都可以将其表示成为迭加的形式： (4.1)上式表示在集合 D 的字典中选取一定个数的原子对信号 s 进行逼近。其中为展开系数。如果字典 D 能够张成为一个完整的 Hilber 空间，则称字典 D 是完备的（Complete），如果 ，则称字典为冗余的，如果冗余字典同时能够张成完整的 Hilber 空间则称 D 为过完备的（Overcomplete）。对于过完备字典，矢量内的原子不是线性无关的，因此式 4.1 中的信号表示是非唯一的。表示结果的不唯一性也就意味着我们可以根据需要选择最合适的表示系数，这恰恰为图像的自适应表示提供了可能。在稀疏分解的结果中，最好的结果是表示系数中系数向量的大部分分量为零，仅存在少数的非零系数，而这些非零系数又能很好的揭示图像的内在结构。采用范数的稀疏性度量，过完备稀疏表示可以从所有表示中找出分解系数最为稀疏的一个，即， (4.2)其中范数为范数时的极限形式，表示系数中非零项的个数。对于式 4.2 而言，通常将其转化为稀疏逼近的问题， (4.3)即稀疏表示原子个数为k 时，求残差 e 的最小表示。反之，用非零项的个数作为约束项，最大化残差，则以上问题又可以转化为： (4.4)其中 ，组合（4.3）和（4.4）式定义的两个问题，对非零项的个数以及稀疏逼近误差取一个折中的值。即， (4.5)在此，不同约束条件下的最优化问题代替了信号过完备稀疏表示的问题。当字典为正交基时，得到其稀疏表示是非常容易的，但是当字典为过完备冗余字典时，求解其最优化问题是一个 NP 难的问题。4.2 过完备字典 通过在过完备字典上对信号进行分解，可以自适应的根据信号的结构和特性对表示信号的原子进行选择。在此情况下，字典的选取，以及如何构造过完备字典就成了一个很重要的问题。因此在信号稀疏分解的过程中存在两个很重要的环节：一是过