Ammy讲解KSVD.doc

用几句话就能讲清楚首先,他是一个字典学习的优化方法,所以自然满足我前面讲的DL的优化也就是这个式子Y是训练的样本要学习一个字典D,以及稀疏系数X使得Y-DX的F范数最小这个优化是所有DL的通用式子具体就在求解过程由于这个问题DX都是未知如果矩阵是事先确定了的，如何通过学习的方法，得到适应于矩阵的完备冗余字典？SAR*-Target-Ammy(329035383)14:43:19所以是一个绝对非凸,且病态的问题SAR*-Target-Ammy(329035383)14:43:42因此DL的方法,大部分都是寻求一个局部最优解即可下来开始介绍KSVD的具体优化过程SAR*-Target-Ammy(329035383)14:44:07这个目标是再次说一下第一步:KSVD固定D,优化X因此这个问题就是一个普通的稀疏表示的问题SAR*-Target-Ammy(329035383)14:45:16D初始化问题是另外一个,可以随机SAR*-Target-Ammy(329035383)14:45:20先不管细节先说框架SAR*-Target-Ammy(329035383)14:45:40第一步,固定D,求解X这就是一个普通的SR过程ksvd工具包里用的算法就是OMPSAR*-Target-Ammy(329035383)14:46:21第2步,由得到的X,反过来更新D这一步就是KSVD的特色了SAR*-Target-Ammy(329035383)14:46:40Y-DX改写一下SAR*-Target-Ammy(329035383)14:47:08将D的第k列单独提出来这个的物理意义就是SAR*-Target-Ammy(329035383)14:47:58Imag-雪碧(f)(20570030)14:48:00Ek是啥含义？SAR*-Target-Ammy(329035383)14:48:06物理意义就是字典的第k列在表示Y的过程中究竟起到了多大作用fresh-Miracle(564403848)14:48:30字典第K列的残差是的SAR*-Target-Ammy(329035383)14:48:43重点就是这个fresh-Miracle(564403848)14:48:44MOD的改进SAR*-Target-Ammy(329035383)14:48:48前面括号中的就是没有dk时候的表示误差SAR*-Target-Ammy(329035383)14:49:27所以这个式子的物理意义就是想探讨,dk究竟起了多大贡献SAR*-Target-Ammy(329035383)14:49:47=然后方便起见记作上面的式子作为没有k列时候的误差SAR*-Target-Ammy(329035383)14:50:20然后SAR*-Target-Ammy(329035383)14:50:30这个问题就是变成,选取什么样的dk能够最大减少Ek的误差SAR*-Target-Ammy(329035383)14:50:52这就是这个的物理意义SAR*-Target-Ammy(329035383)14:51:02也就是dk列究竟的作用是啥SAR*-Target-Ammy(329035383)14:51:09然后这个dk的解SAR*-Target-Ammy(329035383)14:51:17dk如何求咧fresh-Miracle(564403848)14:51:34求解的时候使用的SVDSAR*-Target-Ammy(329035383)14:51:43就是对Ek进行SVD分解最大特征值对应的那个特征向量SAR*-Target-Ammy(329035383)14:52:04就作为dkSAR*-Target-Ammy(329035383)14:52:15然后dk就更新了然后D就得到了SAR*-Target-Ammy(329035383)14:52:26一次循环fresh-Miracle(564403848)14:52:31Ammy你好像漏了一步吧SAR*-Target-Ammy(329035383)14:52:41哪一步?系数?fresh-Miracle(564403848)14:52:58对的系数也更新Imag-雪碧(f)(20570030)14:53:11那这样一次得到D中的一个索引值k.是吗？DL-Imag-七夜(286961528)14:53:19还要fixthepositionofnon-zeroentrySAR*-Target-Ammy(329035383)14:53:24包含在原子更新里面了fresh-Miracle(564403848)14:53:24而且在这之前还有一步是找出实际使用了这一列的系数 AR*-Target-Ammy(329035383)14:53:42那些都是具体实现的细节了无关轻重讨论主要谈思想Imag-雪碧(f)(20570030)14:53:58SAR*-Target-Ammy(329035383)14:54:08具体细节咋做,每个人都知道fresh-Miracle(564403848)14:54:12恩，那个是个细节，是为了更新的时候系数仍然是稀疏的SAR*-Target-Ammy(329035383)14:54:20然后一共做K次SVD分解Imag-雪碧(f)(20570030)14:54:54这个KSVD一次迭代只算出或收寻出一列？DKSAR*-Target-Ammy(329035383)14:55:13当然是K个咯OK,算法介绍完毕总结一下KSVD的核心思想Imag-鋆丗榃濎(1083406530)14:55:35从大到小？SAR*-Target-Ammy(329035383)14:55:35就是让每个原子,最大化的发挥自身的作用SAR*-Target-Ammy(329035383)14:56:02来减少重构误差这就是KSVD的最最核心的思想这个你是在文章里看不见的fresh-Miracle(564403848)14:56:24其实就是尽可能的减小每一列的残差吧SAR*-Target-Ammy(329035383)14:56:26是要领悟的Imag-雪碧(f)(20570030)14:56:34这个字典D有要求吗？够早的时候fresh-Miracle(564403848)14:57:24D可以用随机矩阵初始化SAR*-Target-Ammy(329035383)14:57:25其实从原理上讲Imag-雪碧(f)(20570030)14:57:25construct的时候SAR*