（通信与信息系统专业论文）jpegls精确码率控制.pdf

摘要 j p e g l s 是i s o i t u 在1 9 9 8 年正式发布的无损近无损连续色调静止图像压缩标 准。在无损近无损条件下，与其它静止图像压缩算法相比，j p e g l s 可以获得几乎最 好的性能，并且它设计简单、快速。但是，在压缩图像的传输过程中，特别是在带宽受 限的卫星应用领域，编码器输出的码率必须能够与信道带宽相匹配才能实现图像数据的 可靠传输，若码率不可控将导致严重的后果。由于在近无损压缩模式中，j p e g l s 无法 实现精确码率控制，这在一定程度上限制了它的应用。 本文在对静止图像压缩标准进行了全面介绍的基础之上，对j p e g ? l s 涉及到的几种 主要编码方法以及率失真理论进行了深入研究。首先对j p e g l s 标准和拉格朗日求极值 问题进行了分析。然后，对网格编码量化中的码率控制算法进行了深入研究。针对 j p e g - l s 算法在近无损压缩模式时无法实现精确码率控制的情况，进行了分析，将应用 于网格编码量化中的码率控制算法与j p e g l s 图像压缩算法相结合，提出了一种基于率 失真理论和拉格朗日函数的j p e g l s 精确码率控制算法。 通过对j p e g l s 精确码率控制算法、j p e g l s 动态码率控制算法和j p e g 2 0 0 0 ( k d u ) 进行了性能比较，结果证明，j p e g l s 精确码率控制算法与j p e g l s 动态码率控制算 法相比，j p e g l s 精确码率控制算法在性能最优的前提下可以实现精确码率控制；与 j p e g 2 0 0 0 相比，j p e g l s 精确码率控制算法可以获得几乎同等的性能。 关键词：率失真p e g l s 拉格朗函数码率控制 a b s t r a c t a b s t r a c t j p e g - l si st h ei s o i t us t a n d a r df o rl o s s l e s sa n dn e a r - l o s s l e s sc o m p r e s s i o no f c o n t i n u o u s - t o n ei m a g e sa p p r o v e di n19 9 8 c o m p a r e 诵mo t h e rc o m p r e s s i o nt e c h n i q u e s ， j p e g l sa l m o s tp e r f o r m sb e s ta th i 。曲b i tr a t e 谢ml o wc o m p l e x i t ya n df a s tc o m p u t a t i o n s p e e d h o w e v e r , i nt h et r a n s m i s s i o np r o c e s se s p e c i a l l yi ns a t e l l i t ea p p l i c a t i o n s ，t h ee n c o d e r o u t p u tr a t em u s tm a t c h 、 ，i t l lt h el i m i t e dc h a n n e lb a n d w i d t h i nt h i ss i t u a t i o n , u n c o n t r o l l e dr a t e w o u l dl e a dt os e r i o u s c o n s e q u e n c e s ，j p e g - l s c a l ln o tc o n t r o lr a t e p r e c i s e l y i n t h e n e a r - l o s s l e s sc o m p r e s s i o n , w h i c hl i m i t st h ea p p l i c a t i o n so fj p e g l s st h e s i si n t r o d u c e dt h eb a c k g r o u n d so fs t a t i ci m a g ec o m p r e s s i o ns t a n d a r d s ，a n a l y z e d s o m et y p i c a lc o d i n ga l g o r i t h m so fj p e g - l sa n dt h et h e o r e m so fr a t ed i s t o r t i o n f i r s to fa l l ， t h et h e s i sp r e s e n t e dt h ej p e g - l ss t a n d a r da n dl a g r a n g ea l g o r i t h mt of i n dt h ee x t r e m ev a l u e s e c o n d ，t h et h e s i ss t u d i e dt h et r e l l i sc o d e dq u a n t i z a t i o nt h a tu s e sr a t ec o n t r o la l g o r i t h mb a s e d o nr a t ed i s t o r t i o na n dl a g r a n g ea l g o r i t h m t os o l v et h er a t ec o n t r o lp r o b l e mo fj p e g - l s ，t h e t h e s i sp r o p o s e dap r e c i s er a t ec o n t r o la l g o r i t h mf o rj p e g - l si nw h i c ht h er a t ec o n t r o l a l g o r i t h mu s e di nt r e l l i sc o d e dq u a n t i z a t i o ni sc o m b i n e dw i t l lj p e g l sa l g o r i t h m a tt h ee n do ft h i st h e s i s ，t h ep e r f o r m a n c eo fp r o p o s e dr a t ec o n t r o la l g o r i t h mw a s a s s e s s e dt h r o u g ha c o m p a r i s o nw i t hj p e g - l sd y n a m i cr a t ec o n t r o la l g o r i t h ma n dj p e g 2 0 0 0 s t a n d a r d a n dt h ee x p e r i m e n t a lr e s u l t sd e m o n s t r a t et h a tt h ep r o p o s e dr a t ec o n t r o la l g o r i t h m c o u l dp r e c i s e l yc o n t r o lr a t ef o rj p e g - l sa n dt h ec o m p a r a b l ep e r f o r m a n c ec o u l db ea l s o a c h i e v e d k e y w o r d ：r a t ed i s t o r t i o nj p e g - l s l a g r a n g ef u n c t i o n r a t ec o n t r o l 第一章绪论 第一章绪论 1 1 引言 随着科学技术水平的不断更新和发展，人类社会已经进入信息爆炸的时代，人们对 信息的传输和存储的要求越来越高。同时，而人们对数据质量的要求也在不断的提高， 尤其是对于图像质量的要求。图像数据的特点之一是信息量较大【1 1 ；海量数据在传输过 程中不仅需要巨大的存储空间而且也受到有限带宽的限制。因此在现代通信中，图像传 输已成为重要内容。采用编码压缩技术，可以减少传输数据量从而节省空间，是提高通 信速度的重要手段。描述图像信源的数据从信息论的观点来看，它由有用数据和冗余数 据两部分组成。图像压缩的目的就是在满足图像质量要求的前提下，尽可能多的消除冗 余信息，以较少的数据量有损或无损地表示原始图像。图像压缩编码主要分为两类：无 损压缩编码和有损压缩编码【l 】；无损压缩编码，以其信息熵为下限，压缩数据量有限， 主要有：霍夫曼编码、游程编码和算术编码；而有损压缩编码，也叫熵压缩，是在保证 图像主观质量的前提下，可以允许有限失真的存在，主要有：预测编码、变换编码等。 在图像压缩过程中，除了考虑压缩效率、保真度等因素，还必须考虑编码器的输出 码率f 2 j ；因为在传输压缩图像的过程中，由于信道带宽的限制，编码器输出的码率必须 能够与信道码率相匹配才能实现图像数据的可靠传输，否则过高的输出码率会造成数据 的溢出，从而导致接收信息的丢失，甚至完全紊乱；而太低的输出码率，会造成信息带 宽的浪费；因此，码率控制一直是图像压缩领域中一个重要的研究课题，j p e g l s 图像 压缩算法虽然能够获得在同等复杂度下几乎最优的压缩性能，但是它编码输出的码率是 不可预测的，这在很大程度上限制了它的应用，所以，研究j p e g l s 图像压缩算法的码 率控制问题具有重要的意义。 本文在介绍了图像压缩基本理论和j p e g l s 标准之后，将一种曾经应用于网格编码 量化( t r e l l i sc o d e dq u a n t i z a t i o n ) 的码率控制方法一拉格朗日码率控制方法1 5 】与j p e g l s 图像压缩算法相结合。拉格朗日率控制算法是基于率失真理论和数学中拉格朗日函数， 在给定的目标码率条件下，保证总体失真最小的情况时，利用所求得的最佳量化步长， 实现码率控制的一种方法。此时获得的量化步长即为在码率达到目标码率时，保证失真 最小的最佳量化步长；拉格朗日率控制的优点在于它能够在保证编码码率达到目标码率 的同时，使得总体性能最优。 下面将对静止图像压缩技术的发展进行回顾，然后对目前主要的静止图像压缩算法 进行简要介绍。 j p e g l s 精确码率控制 1 2 静止图像压缩技术的发展 静止图像压缩技术的发展可以追溯到5 0 多年前，大体上可以分为三个阶段，第一 代，着重于图像信息冗余度的压缩方法【1 1 如预测编码、变换编码、矢量量化编码和小 波编码【3 】等；在香农信息论的基础之上，熵编码技术应运而生，熵编码是一种完全依赖 于信源统计概率模型的无失真编码技术，它的编码长度下限为图像的熵，如：霍夫曼编 码、算术编码、l - z 字典编码和游程编码【6 l ；随着对图像源的认识的深入，人们发现图 像中像素点之间存在的相关性，这种相关性也即反应出，图像之间存在着大量的冗余信 息，于是这此基础之上发展起了以d p c m i r l - s 为代表的各种预测编码方法和各种内插编 码方法：随着社会的发展，人类对于视觉系统的认识也在不断加深，发现当图像信息发 生了细微变化时，人眼是无法察觉的。于是各种基于人类视觉系统的有限失真的图像压 缩算法开始得到了广泛的发展，编码效率不断得到提高。第二代，着重于图像视觉冗余 信息的压缩方法，如基于方向滤波的图像编码、基于图像轮廓- 纹理的编码方法，m k u n t 等人【9 】认为传统的编码方法是基于信号波形的方法，衡量编码算法的效果主要以重建信 号与原始信号的波形一致性程度为评价准则；第三代，基于模型的图像压缩方法【4 】，如 分形编码法、基于模型的编码方法等；虽然在一定条件下，这些编码方法能取得非常出 色的编码性能，但是如果考虑其实用性，它们还受到许多限制，其中最主要的一点就是 处理的复杂度，而且在一般的自然图像进行处理时，所获得的编码增益也没有理论预期 的好。 自2 0 世纪8 0 年代以来，由于没有统一的压缩算法和码流格式，在进行图像信息的 交流中遇到了很多困难【2 】；为了解决这一问题，国际标准化组织i s o 和国际电联的电信 委员会i t u t 的图像专家组于1 9 8 6 年前后开始进行标准的制定，其主要目的是：提供 高效的压缩编码算法和提供统一的数据流格式，经过对多个方案进行大量严格的实验测 试，从算法压缩性能到实现的复杂度等综合因素的考虑比较之后，最终形成了两个著名 的里程碑的国际标准，其中一个就是人们所熟知的用于连续色调静止图像压缩编码的 j p e g 标准；j p e g 标准中选择了经典的编码方法，通过标准测试图像确定了最佳的编码 参数，标准中使用8 x 8 的d c t 变换、均匀量化和霍夫曼编码等处理；这个标准的制定， 极大地推动了静止图像压缩的大规模普及应用，而这种大规模的应用又对图像编码技术 提出了更高的要求。 对于静止图像编码标准主要有j b i g 、j p e g 、j p e g l s 和j p e g 2 0 0 0 等。这些国际 标准的制定满足了不同类型数字图像传输的应用要求。下面简单介绍几种静止图像压缩 编码的国际标准1 8 卅。 2 第一章绪论 1 3 静止图像压缩标准的介绍 1 3 1 腰i g 标准 1 9 9 3 年j m g ( j o i n tb i 1 e v e li m a g ee x p e r tg r o u p ) 0 0 l 专家组制定了针对二值图像压缩 的i t u t 建议t 8 2 国际标准i s o i e cl1 5 4 4 即：j b i g ( 也叫j b i g l ) ；主要用于二值和低 精度灰度级( 小于每像素6 比特) 图像的无损压缩，如传真图像和报文图像；j b i g 的目的 是支持无损或渐进编码，虽然j b i g 具有有损压缩的能力，但在有损模式下，压缩的图 像效果不佳，其恢复图像像素数量不及原始图像源的1 4 ，所以j b i g 有损模式几乎没什 么用处；j b i g 主要采用二维游程编码或自适应模式、自适应算术编码方法，主要用于 二值图像，另外，它同时可以用于灰度图像，方法是把各个位平面当作一幅二值图像进 行单独压缩；当j b i g 对灰度图像进行压缩时，采用累进压缩二值图像的方法，即解压 缩时首先是分辨率低的粗糙图像，然后是分辨率较高的精确图像，一旦看到的不是所希 望的图像，马上退出，而不必等待对整幅图像全部解压；每个高分辨率的版本均采用先 前较低版本的信息，无数据重复。对于较高精度灰度级( 大于每像素6 b i t ) 图像采用j b i g ， 压缩时，效果较差。 随着2 0 世纪9 0 年代中期计算机网络通信的迅速发展，以适应多媒体通信的需要， 在1 9 9 9 年7 月j b i g 专家组又制定了另一个用于压缩二值图像的j b i g 2 标准【l u ；j b i g 2 ， 支持有损、无损和渐进编码，j b i g 2 的设计目的是：无损压缩的性能超过当时其它的静 止图像压缩标准；j b i g 2 主要应用于传真图像压缩、无线数据传输，文档图像化等。j b i g 2 把二值图像分为文字、网纹二值图像和一般数据三个部分。不同的部分采用不同的编码i 方法。支持图像质量和内容的渐进编码；它支持对不同区域采用不同的编码方法，适用 于交互式媒体的应用；并且能将多个图像文件压缩到一个j b i g 2 文件中。综上所述， j b i g 2 与j b i g l 相比，具有更强的抗干扰性能和更高效的压缩性能。 1 3 2j p e g 标准 p e g 1 2 】是由联合图像专家组j p e g ( j o i mp h o t og r a p h i ce x p e r t sg r o u p ) 提出的正式标 准，于1 9 8 6 年开始制定，1 9 9 1 年前后制定完毕的第一个静止图像压缩编码国际标准。 主要用于扫描和打印，通常采用p e g 标准来节省内存资源；p e g 支持无损压缩和有 损压缩两种压缩模式。在无损模式下【2 】，编码器计算每个像素点的预测值，产生像素与 其预测值的差值，再用霍夫曼或算术编码对差值进行编码；压缩比可达2 ：1 ：在有损模 式下，主要采用分块、离散余弦变换、量化、z i g z a g 扫描、熵编码等处理过程，在图像 质量较好的情况下，压缩比可高达2 0 ：1 。最简单的基于离散余弦变换的编码处理称为基 本系统( b a s e l i n es e q u e n t i a l ) 。它提供了大部分所需的性能。p e g 的优点【2 】是适用于各种 静止的连续色调图像，允许压缩软件和硬件在许多平台上实现，压缩比较高，可以提供 j p e g l s 精确码率控制 累进模式和分级模式，也可以部分解压缩图像；由于j p e g 优良的品质，使它在短短的 几年内就获得极大的成功，主要应用于彩色传真、静止图像、可视通信、印刷出版、新 闻图片等诸多领域；但是j p e g 也存在很多缺点，j p e g 的无损压缩模式从未特别成功 过，它产生的典型压缩倍数为2 ，因而不如其它无损图像压缩方法。此外，j p e g 在大压 缩比时会产生方块效应和蚊式噪声、缺乏比特流控制并且对误差的修复能力较弱。 1 3 3j p e g l s 标准 j p e s l s t l 3 h 1 5 1 是静止图像无损近无损编码的国际标准，其标准全称为： i n f o r m a t i o nt e c h n o l o g y - l o s s l e s sa n dn e a r - l o s s l e s sc o m p r e s s i o no fc o n t i n u o u s - t o n es t i l l i m a g e s 。j p e g l s 于1 9 9 4 年开始征集算法提案，并在1 9 9 8 年2 月作为i t u t 建议t 8 7 正式公布，用于取代原j p e g 的连续色调静止图像的无损压缩模式1 2 1 ；所谓近无损是指： 重建的样本值误差落入预先定义的误差范围内，j p e g l s 是一种新方法，而不是j p e g 的一个简单扩充或修正。j p e g l s 可以进行无损和近无损图像压缩，并且，不使用离散 余弦变换也不使用算术编码，只在近无损压缩模式中有限地使用量化。 j p e g l s 图像压缩算法主要有两种工作模式：常规编码模式和游程编码模式，其核 心算法涉及上下文建模、预测编码、游程编码和g o l o m b 编码等基本理论。上下文建模 是j p e g - l s 区别于j p e g 标准的一个标志，是j p e g l s 编码算法的基础，使用的建模 方法是基于对上下文的认识【2 l ；j p e g l s 考察当前像素的几个已经出现过的近邻，用其 作为当前像素的上下文，用上下文来预测像素，从几个这样的概率分布中选择一个，并 根据该分布用一个特殊的g o l o m b 码字来编码预测误差；对于游程模式，主要用于对图 像中的平坦区域进行编码；由于压缩方法简单快速，使得j p e g l s 图像压缩算法在卫星 遥感图像、医学图像等领域得到了广泛的应用。 1 3 4j p e g 2 0 0 0 标准 由于技术不断地进步，人们对图像压缩处理的要求也越来越高，旧的图像压缩标准 已难以适应最新的形势。所以j p e g 委员会开始致力于一个全新的图像压缩标准， j p e g 2 0 0 0 t 1 6 】 【1 剐。j p e g 2 0 0 0 是j p e g 工作组制定的一个新的静止图像压缩编码的国际标 准，标准号为i s o i e c1 5 4 4 4 f i t u tt 8 0 0 1 2 ；于2 0 0 0 年1 2 月推出标准的第一部分，即 j p e g 2 0 0 0p a r ti ；j p e g 2 0 0 0 目的在于建立一个能够适用于各种不同特性不同类型的图 像，允许在不同工作模式使用统一的标准。它具有以下几个特点：优异的低比特率压缩 性能；连续色调和二值图像的压缩；能够压缩大幅图像；同时具有无损压缩和有损压缩 的功能；支持累进传输；能够进行随机码流访问和处理；具有可控的输出比特率并对发 生比特错误具有鲁棒性；与j p e g 不同，j p e g 2 0 0 0 图像编码系统基于d a v i dt a u b m a n 提出的e b c o t ( e m b e d d e db l o c kc o d i n gw i t ho p t i m i z e dt r u n c a t i o n ) 算法，并且采用了小波 变换、多层编码策略、对压缩码流进行分层组织等关键技术。在编码时，首先对源图像 4 第一章绪论 进行离散小波变换，然后对变换后的小波系数进行量化，将量化后的小波系数划分成小 的数据单元一一码块，并对每个码块进行独立的嵌入式编码；然后将得到的所有码块的 嵌入式码流，按照率失真最优原则分层组织，形成不同质量的层，对每一层，按照一定 的码流格式打包，输出压缩码流；j p e g 2 0 0 0 不仅能够保证对图像的有效压缩，而且使 压缩码流具有随机访问、处理、渐进传输、固定码率和固定大小压缩等特性；但是算法 复杂度较高，这也为j p e g 2 0 0 0 的应用提出了较大的挑战。目前j p e g 2 0 0 0 主要应用于 图像打印、彩色传真、数码像机、遥感、移动、医学图像等领域。 1 4 本文主要工作及内容安排 j p e g l s 是一种无损近无损压缩算法，该算法以l o c o i ( l o wc o m p l e x i t yl o s s l e s s c o m p r e s s i o nf o ri m a g e s ) 为核心，具有低复杂度、效率高和易实现等特点。由于在很多应 用场合中，需要对码率进行精确控制，所以码率不可控在相当大的程度上制约了它的应 用。若能采用某种方法让j p e g l s 实现精确码率可控，这将使得j p e g l s 得到更加广 泛的应用。针对这一问题，本论文提出一种码率控制方法，该方法可以使得j p e g l s 在近无损压缩时，实现码率可控。 本论文主要工作有以下几方面： 1 深入研究j p e g l s 标准；并在v s 2 0 0 8 环境下用c 语言将其实现。 2 对码率控制算法进行了深入研究，将j p e g 2 0 0 0 标准第二部分一网格编码量化中 的码率控制算法与j p e g l s 相结合，并在v s 2 0 0 8 环境下用c 语言实现了 j p e g l s 精确码率控制。 。 3 对2 5 幅图像进行测试与j p e g 2 0 0 0 和j p e g l s 动态码率控制算法进行了客观性 能和主观性能比较。 本论文分为六章，各章安排如下： 第一章：绪论部分对图像压缩的意义、静止图像压缩技术的发展和静止图像压缩标 准进行了介绍，并概述了本论文的主要内容与章节安排。 第二章：常用编码方法原理简介，主要对编码基础知识、j p e g l s 的主要编码方法 原理进行了简要介绍。 第三章：j p e g l s 图像压缩标准介绍，概述了j p e g l s 无损近无损图像压缩标准 中使用的图像压缩算法。 第四章：拉格朗日率控制，介绍了拉格朗日求解极值问题，并在此基础上，对基于 拉格朗日函数的码率控制算法，进行了深入研究。 第五章：j p e g l s 精确码率控制，介绍如何将拉格朗日率控制算法与j p e g l s 算 法相结合并实现j p e g l s 精确码率可控；对j p e g l s 精确码率控制、j p e g l s 动态码 率控制和j p e g 2 0 0 0 ( i u ) 进行了大量测试，分别对比了客观和主观性能。 j p e g l s 精确码率控制 第六章：对全文进行总结，指出目前还存在的问题，讨论进一步的研究方向和具体 工作。 6 第二章常用编码方法原理简介 第二章常用编码方法原理简介 2 1 引言 j p e g l s 无损和近无损连续色调静止图像压缩算法，主要用于灰度和彩色图像，它 涉及到的编码方法有：上下文建模、预测编码、g o l o m b 编码和游程编码等，在介绍这 些编码知识之前，为了更好地理解j p e g - l s 图像压缩算法和率控制原理，本章首先有必 要对编码的基础知识作一个简单的介绍，然后对j p e g l s 涉及到的几种重要的编码技术 进行详细介绍和分析，最后对图像编码码率控制的理论基础一率失真理论进行简要介绍。 2 2 编码基础知识简介 2 2 1 数据冗余和压缩 数据冗余就是表达无用信息的数据。在数字图像压缩中，可以确定三种基本的数据 冗余：编码冗余、像素间冗余和心理视觉冗余1 1 9 1 ，当这三种冗余的一种或多种得到了减 少或消除时，就实现了数据压缩；编码冗余是利用图像的灰度直方图来深入了解编码结 构，从而减少表达图像所需的数据量。像素间冗余也叫空间冗余，它来自于图像中对像 之间的结构或几何关系；心理视觉冗余是由于人类的眼睛并不是对所有视觉信息有相同 的敏感度，有些信息在通常的视觉过程中与另外一些信息相比并不那么重要，这些信息 可以认为有心理视觉冗余，去除这些信息不会明显降低感受至的图像质量。这些冗余为 图像数据压缩提供了前提条件。 数据压缩就是用最少的比特来表示信息，图像压缩的基本方式有：有损压缩和无损 压缩两种。在过去很长时间内，人们对各类信息无法作定量的描述，直到1 9 4 8 年香农 发表的通信的数学理论 2 0 1 ，才开始引用概率对信息作了定量描述。香农提出的理论 为数据的无损压缩奠定了坚实的基础，同时率失真理论也为有损压缩奠定了坚实的基 础。香家信息论的提出不仅使信息量化了，而且给出了信源编码定理，告诉了我们现实 中是一定存在一种编码方法使信息能够达到无失真或达到有限失真。 2 2 2 图像信源信息的度量 2 0 世纪4 0 年代，香农提出了如何对信息进行度量了，它将一条信息中真正需要编 码的信息量用“熵”来表示。所谓信息，意味着它有助于解决问题，并且如果这条信息 发生的可能性越小，即让人越吃惊，那么，这条信息带给人们的信息量就越大，反之， 则越小。所以若我们用概率p ( 薯) 来描述一个信息发生的可能性的话，那么玉信息的度 量则采用下公式( 2 1 ) 来描述它的熵： ，( ) - - - l 0 9 2 ( p ( 薯) ) ( 比特)( 2 1 ) 7 j p e g l s 精确码率控制 整条信息的熵，即整条信息所需位数为所有信息的平均信息量，由公式( 2 2 ) 给出： ( 2 - 2 ) 2 2 3 信息编码定理 日( = 一 从而) 母l o g ：p “) ) ( 比特符号) i = l 信源编码定理分为无失真信源编码定理和有限失真信源编码定理，这两个定理为数 据压缩提供了理论依据，也为数据压缩的实现奠定了基础。下面将介绍信息论中的这两 个定理。 1 可变长无失真信源编码定理( 香农第一定理) 【6 1 设s = 口。，a 2 ，口。 为q 元离散无记忆信源s 的次扩展信源，若对s 进行编 码，码符号集 而，恐，x r ) = x ，则总可以找到一种编码方法构成唯一可译码，使信源s 中每个符号所需的平均编码长度满足： 塑1 - 土 生里旦( 2 - 3 ) l o g r nn l o g r 当一0 0 时，有! 砸( 氐in ) = h ( s ) l o g r = 皿( s ) 即：如果r 日( s ) ，就存在唯一可译变长编码；如果r 0 ，以及任意长的码长k ，一定存在一种码字个数为m 2 【r ( d 卜8 1 的 信源编码，使编码后码的平均失真度d d 。即若给定了失真d ，且 r = o o g m ) k r ( d ) ，则存在长度为k 的码，它的平均失真度d d ；如果r r ( d ) 时， 无论采用什么编码，其平均失真将大于d 。 8 第二章常用编码方法原理简介 2 2 4 离散信源的分类 离散信源一般分为两类：离散无记忆信源和离散有记忆信源，对于图像信息源一般 都属于一种有记忆信源，由于发出的各个符号之间不是相互独立的，即：各个符号出现 的概率是有关联的，对于这类图像源便可以利用具有记忆特性的马尔可夫过程来建立数 学模型。如果连续的个符号之间存在关联性，那么可以把这样有关联的个符号序 列当作一个新的符号召( m ，其中上标代表子集中包含的相继的个符号。那么马尔 可夫过程就指：假设信号源的符号集合4 ，l 他，呸，) 共有m 个符号，信源发出的个 符号的符号序列中，如果最后一个符号口，只与前面( 一1 ) 个符号序列研- ”之间存在一 个转移概率p ( 口，i 蟛。1 ) ，而不依赖于更前面的符号，那么这个符号序列是一个( 一1 ) 阶的马尔可夫过程。 2 2 1 上下文建模 2 3j p e g l s 的主要编码方法原理简介 大部分图像压缩方法都是基于这样一个观察：对于图像中任意随机选择的像素，其 邻近趋于与其相同或相似的值。基于上下文的图像方法推广了这一观察，因为当前像素 与其邻近具有相似性，那么就可以基于像素的上下文用来预测当前像素的值。 由信息论可知，对于马尔可夫图像信源序列：，毛- l ，而进行熵编码所需要的最少。 平均信息量为： ( ，吒- l ，而) = 一 p ( ，一l ，x 1 ) l 0 9 2p ( ，吒一，五) = p ( 一。，五) 日( 五ix , 一。，而) = 一喜而量i 盹，叫莩比，圳比h 州) j i 而而 l 丙j = 一喜；p c x 卜1 ， 莩p c t ix 卜1 ，- 。9 2p c 薯i x 卜1 ，) c 2 - 4 ， f = l 一_ i 再i 其中x 卜1 = 州，而称为当前符号薯的上下文。上下文建模就是根据上下文来精确 估计p ( 薯ix i - ! ) ，上下文建模主要包括3 个方面：确定上下文、估计条件概率和上下文 量化。 9 j p e g l s 精确码率控制 上下文的确定，一般根据之前的符号五小，而玉与当前符号玉在时间或空间上的远 近主观地来挑选上下文。条件概率的估计，一般有两种方法：一种是假设图像是严格平 稳、各态历经的信源，其条件概率用前面符号的累积概率来代替；另一种为概率建模， 假设条件概率服从某种概率模型。由于过多的条件概率参数p ( x ，ix 卜1 ) 需要估计而图像 样本却有限，因此容易导致“上下文稀释”。所以采用上下文量化对相似的上下文进行 合并，以达到降低上下文的数量，从而避免“上下文稀释 的现像。 2 3 2 预测编码 对于一般的图像，在相邻图像像素之间和相邻行之间存在较强的相关性，所以用这 些相关性较强的样本值来对当前像素值预测将会大大增加当相像素值的准确度。预测分 为线性预测和非线性预测；线性预测是指：如果预测方案中的预测系数是固定不变的常 数，则称为线性预测；而非线性预测，指预测方案中预测系数是变化的常数，则称为非 线性预测。如果为输入信号在乙时刻的样本值，毫为根据乙时刻之前的采样值 x i ，屯，稚l 估计得n 帅a # j j f f i ，预测则定义为如下关系式，若在某种误差准则最小的 条件下求其预测值，这样就会得到最佳的预测方案。 毫= q 薯 ( 2 5 ) i = 1 实际应用中常用的预测编码方案大致有三种方案：前值预测、一维预测和二维预测 2 1 l 。前值预测是指当前像素值用同一扫描行中前面最邻近的像素值来预测；一维预测是 指用当前像素值的同一扫描行中，前面已知的几个像素值来预测；二维预测是指当前像 素值不但要用到同一扫描行的前几个像素值，还要用到前几行中的像素值来预测。 我们采用相应的方式对当前像素值进行预测，则预测误差为： = 一毛 ( 2 - 6 ) 当预测系数选择比较准确时，巴的值将比较小，在1 9 6 6 年o n e a l l 2 1 谰计算机计算 并测量了图像水平差值信号的概率分布。发现图像差值信号统计值较小者的概率大，且 为零的概率最大；而绝对值较大者的概率极小。这说明，图像内容为缓慢变化的平坦区 占绝大多；而图像内容为急剧变化的黑白边沿或交织结构占极少数。这个重要的统计特 性是预测编码的基础。图像差值信号的概率分布，可以用下述拉普拉斯分布作为其数学 模型： 1仄 烈d = 壶c x p - 詈k | ) ( 2 - 7 ) 1 0 第二章常用编码方法原理简介 对图像进行预测编码，如果可以找到一个好的预测器，大多数残差将会接近于零。 而且预测残差的一阶熵将会远远小于原图像的一阶熵：这将会大大降低编码码率。 2 3 3g o l o m b 编码 霍夫曼编码器虽然是最佳的编码器，但是比较复杂，实现时需要对信源符号的出现 频率作统计，做出码表，译码的查码表操作实现有一定复杂度。当信源可以分成不同的 子信源，具有不同的统计特性，需要多个霍夫曼码表时，实现的复杂度会更高。针对霍 夫曼编码的复杂性。可采用一种结构明确的不等长码，即g l o l o m b 编码，它将不同统计 特性的信源符号根据出现的概率大, b l l l 页序映射到这种不等长码上。 g o l o m b 编码【2 2 】【2 3 1 是在1 9 6 6 年s w g o l o m b 提出，使服从几何分布的数据流的平均 码长最短，而且无需使用霍夫曼编码，即可直接给出最佳变长码。当x = 1 的概率分布 函数由公式( 2 8 ) 给出： p ( x = ，z ) = j d ”( 1 一p ) ，0 ( 1 2 ) 时，为了构造最佳的一元码， 就需要将p ( 1 2 ) 转化为p ( 1 2 ) 的几何分布。具体方法如下所示： 当p ( 1 2 ) 时，每个x 可以写成x = x q m + x r ，其中是x 被整数肌除的商，是 余数。即： = 引( 2 - 9 )= l i j x r = xm o dm( 2 - l o ) 此时，由于t 的取值范围为 o ，m - 1 】，所以x q 的概率分布函数为： 氏( g ) = 见( 朋+ ) = ( 1 一p ) p - ( 1 刊，y m - i = ( 1 刊，【普】 = p _ 册( 1 一p ”) = ( p ”) 【1 一( p ”) 】( 2 1 1 ) 从( 2 1 1 ) 式可以看出屯是服从参数为p 册的几何分布，当满足p 肼( 1 2 ) 1 对，一元 码为的最佳码。若p 卅( 1 2 ) ，等价于l 0 9 2p 所l 0 9 2 ( 1 2 ) ，黼m l 0 9 2p - 1 ， 则：m 一( 1 l 0 9 2p ) ，即：m = - - ( i l 0 9 2p ) l 为可能的最小整数。由于而服从 o ，1 ，脚- 1 ) 上的近似均匀分布，x r 的优化可变长度编码是修正的二进制码，所以在适 p e g l s 精确码率控制 当选择参数聊的情况下，将的码字与的修正二进制码，连接在一起就产生了几何 分布信源的优化可变长度编码，并且对任意参数值p 都成立。 2 3 4 游程编码 游程编码【2 4 1 ，是一种特别的无损编码，它分为定长编码和变长编码两类。它的基本 原理是，对字符串用重复的字符和重复次数来表示。这将会使信源符号的长度小于原始 数据的长度。从而实现数据压缩。例如对于信源符号串： l l “12 2 2 2 3 3 3 3 3 4 5 5 5 5 5 5 对应的游程编码为：( 1 ，5 ) 、( 2 ，4 ) 、( 3 ，5 ) 、( 4 ，1 ) 、( 5 ，6 ) ；由此可见，游程编码所需要 的位数远远少于原始字符串的位数。游程编码所能获得多大的压缩比，主要取决于图像 本身的特点。如果图像中具有相同颜色的图像块越大，图像块数目越少，获得的压缩比 就越高。反之压缩比就越小。 2 4 率失真原理简介 率失真理论【2 5 】主要研究在限失真条件下能够恢复信源符号所需的最小信息率，是现 代所有信息处理的基础。在数据压缩中，常常需要有损压缩，量化是有损压缩系的组成 部分，对于大多数有损压缩系统中，它是失真的唯一来源，而率失真函数就是量化性能 的根本限制，这节将对率失真原理做简要介绍。 2 4 1 互信息量 假设离散随机变量x 和】，( x 取值空间为z ，】，的取值空间为) ，) 的熵和条件熵分 别由下式( 2 - j 2 ) 和式( 2 1 3 ) 给出： h 0 时，则为近无损压缩，解压后还原图像的每个像素点与原图像中所对应的像素点相比， 差值都不超过预先设定的信息丢失容忍度参数n e a r 值，此时，j p e g l s 算法变成一种 d p c m ( 差分脉冲编码调制) 的编码方案，近无损压缩是通过对预测误差进行量化来实 现更高的压缩比【2 j 。 j p e g l s 图像压缩算法复杂度小，易于硬件实现等优势使得j p e g l s 已经在很多 领域得到应用。在卫星遥感领域中，也得到了广泛应用，如澳大利亚在2 0 0 2 年发射的 地球观测卫星f e d s a t 以及美国n a s a 在2 0 0 3 年发射的火星探测卫星m a r se x p l o r a t i o n r o v e r s 都使用了j p e g l s 算法。下一节我们将介绍j p e g l s 图像压缩算法涉及到的编 码原理及流程。 3 2 腰e g l s 编码体系统框架 j p e g l s 有两种编码方式：无损和近无损压缩；编码处理的主要组成部分如图3 1 所示。对于无损压缩，原图像的采样根据光删扫描模式依次输入给编码器，图像的无损 1 5 j p e g l s 精确码率控制 压缩编码被看作一个归纳推理问题。通过上下文建模，为当前图像样本值给予一个条件 概率反曲，可以推断出当前样本值的大小。当前样本值的最小平均码长分布为 一1 0 禹从x ) 。对于近无损压缩，其编码过程与上述过程略有差别，其方法是：使用前述 样本值的重建值而不是原始值作为条件数据。在编码处理过程中，短码被给予较大的概 率事件一由于条件概率仅依赖于已经编码的数据，所以对于解码器是可以重建对当前样 本编码时使用的条件概率。无论是无损还是近无损压缩，都有两种模式：常规模式和游 程模式。每一次上下文建模后都会根据当前上下文环境确定采用预测还是游程模式。其 编码框图如图3 1 所示。之后将详细介绍编码过程的每个环节。 原始图 图3 1j p e g l s 编码框图 3 3 上下文建模 缩码流 在第二章中已经对上下文建模做了介绍，知道在上下文建模时，对每一个样本值都 要以其相邻的部分样本值为条件，来决定对当前样本进行编码的概率分布。对于 j p e g l s 编码方法来说，上下文建模所采用的因果领域模板，如图3 2 所示，其中x 为 当前样本值，r c 、r b 、r d 为上一行的重建值，而r a 为当前行左边与x 最邻近的重建 值。根据r a 、r b 、r c 和r d 的情况，该上下文首先决定当前样本x 的信息采用常规模 式还是游长模式进行编码，j p e g l s 上下文建模主要包