数字图像处理（MATLAB版） 第2版 课件 第五章 图象编码基础

数字图像处理DigitalImageProcessing5.1图像编码的基础知识5.2无损压缩编码5.3限失真编码5第五章图象编码基础5.1.1数据冗余5.1.2图象编码中的保真度准则5.1.3图象编码模型5.1.4信息论的基础理论5.1图像编码的基础知识5.1图像编码基础动机/原因：表达数字图象所需数据量通常很大图象编码：采用对图象的新的表达方法以减小所需的数据量数据和信息：数据是信息的载体对给定量的信息可用不同的数据量来表示对给定量的信息，设法减少表达这些信息的数据量称为数据压缩图象压缩（编码）和图象解压缩（解码）图像压缩文件大小：232K文件大小：24K文件大小：138K图象压缩方法的分类

：信息保存型：在压缩和解压缩过程中没有信息损失压缩率一般在2~10之间信息损失型：常能取得较高的压缩率（几十~几百）压缩后并不能经解压缩恢复原状5.1图像编码基础数据冗余数据冗余的概念数据信息数据是信息的载体同量的数据可表达不同量的信息同量的信息可用不同量的数据表达冗余数据表达了无用的信息数据表达了已表达的信息数据冗余——

描述上的冗余描述方式：

1）这是一幅2*2的图像，图像的第一个像素是红的，第二个像素是红的，第三个像素是红的，第四个像素是红的。

2）这是一幅2*2的图像，整幅图都是红色的。整理图像的描述方法可以达到压缩的目的

1

2

3

4图像冗余

——

视觉冗余的压缩图像的视觉冗余（彩色）5.1图像编码基础相对数据冗余数据冗余可定量描述，相对冗余

压缩率：CR

在开区间(0,

)中取值n1和n2代表2个数据集合中的信息载体单位的个数数据冗余类别(1)编码冗余与灰度分布的概率特性有关(2)象素相关冗余空间冗余，时间冗余(3)心理视觉冗余与主观感觉有关减少/消除其中的一种/多种冗余，就能取得数据压缩的效果5.1图像编码基础编码冗余如果一个图像的灰度级编码，使用了多于实际需要的编码符号，就称该图像包含了编码冗余。例：如果用8位表示该图像的像素，我们就说该图像存在着编码冗余，因为该图像的像素只有两个灰度，用一位即可表示。数据冗余编码：需建立码本来表达数据码本：用来表达一定量的信息或一组事件所需的一系列符号（如字母、数字等）码字：对每个信息或事件所赋的码符号序列码字的长度（字长）：每个码字里的符号个数编码冗余图象中灰度出现的概率不同灰度出现的概率不同平均比特数用较少的比特数表示出现概率较大的灰度级用较多的比特数表示出现概率较小的灰度级5.1图像编码基础象素间冗余直接与象素间相关性联系时间冗余视频图像序列中的不同帧之间的相关性所造成的冗余F1帧F2帧心理视觉冗余主观：因人而异，因应用要求而异其存在与人观察图象的方式有关眼睛对某些视觉信息更敏感人对某些视觉信息更关心心理视觉冗余与实在的视觉信息有联系（损失不可逆转）色彩、亮度、空间频率等超出了人眼的接收范围和可区分程度图中某些目标或区域的信息不太容易引起人眼的注意5.1图像编码基础图象编码中保真度准则图象保真度信息保存型/信息损失型描述解码图象相对于原始图象的偏离程度对信息损失的测度主观保真度准则主观测量图象的质量，因人而异，应用不方便客观保真度准则用编码输入图与解码输出图的某个确定函数表示损失的信息量，便于计算或测量.客观保真度准则点误差图误差均方根误差均方信噪比（归一化）信噪比单位：分贝（dB）峰值信噪比5.1图像编码基础主观保真度准则观察者对图象综合评价的平均电视图象质量评价尺度

图象编解码系统模型两个通过信道级连的结构模块输出图是输入图的精确复制？信息保持型：是，无失真信息损失型：不是，有一定的失真信源编码器：完成原数据的压缩。信道编码器：为了抗干扰，增加一些容错、校验位、版权保护，实际上是增加冗余。以上两个方向的努力都是为了保证信息的可靠、无误传输的。5.1图像编码基础图像编码器和图像解码器映射器：转换输入数据，减少像素间冗余，可反转。量化器：减少心理视觉冗余量化（一种由多到的映射），不可反转仅用于有损压缩。符号编码器：产生码本，通常采用变长码，可反转。无失真信源编码器不需要量化器。信源编码器和解码器的模型映射器：减少像素间冗余，或进行图像变换。量化器：减少视觉心理冗余，仅用于有损压缩符号编码器：减少编码冗余，如使用哈夫曼编码5.1图像编码基础信息论的基础理论信息论是研究编码的理论基础信息论的基础可以回溯到香农早期文献。从1940年算起，香农用了八年的时间，为通信系统建立了一整套数学理论。涉及到整个通信处理过程，这些处理对象包括通信源头、数据压缩、信道编码、调制、信道噪声、解调、检错、纠错等。理论关注了最佳通信系统的性能以及如何才能接近该性能。1948年，香农在《BellSystemTechnicalJournal》期刊上发表了《AMathematicsTheoryofCommunication（通信的数学理论）》一文，标志着信息论的诞生，在这一篇论文中，香农提出熵（entropy）的概念，给出了可量化的信息的定义，推导出一系列定理。信息论给出图像压缩的最终极限，也即熵。5.1图像编码基础信息量概率为P(E)的随机事件E的信息量I(E)称为E的自信息（随概率增加而减少）特例：P(E)=1（即事件总发生），那么I(E)=0信息的单位：比特（log以2为底）1个比特：即2个相等可能性的事件之一发生熵一个随机变量X的熵定义为：P(x)称为X的概率密度函数，这里对数以2为底，熵就用bit为单位来测量。熵是对随机变量平均不确定性的一个测度。在数值上等于为描述随机变量所需的平均位数。如：一个随机变量有16个概率相同的取值，如对每个取值赋一个标记，就需要用4bit字符串，该随机变量的熵是4bit熵增定律5.1图像编码基础

信息系统信源通过信道与信宿（即信息用户）连通以传递自信息信源符号集：A={a1,a2,…,aJ}概率矢量：u=[P(a1)P(a2)…P(aJ

)]T用(A,u)可以完全描述信源平均信息产生单个信源符号的自信息：I(aj)=–logP(aj)产生k个信源符号，符号aj平均来说将产生kP(aj)次信源平均信息（熵，不确定性）定义了观察到单个信源符号输出时所获得的平均信息量5.1图像编码基础信道信息信源的输出是一个离散随机变量

信道的输出也是一个离散随机变量

信道符号集：B={b1,b2,…,bK}概率矢量：v=[P(b1)P(b2)…P(bK)]T用(B,v)可以完全描述信道输出和用户接受到的信息

信道输出概率P(bk

)和信源u的概率分布信道传递矩阵输出符号集的概率分布5.2.1基本编码定理5.2.2霍夫曼编码5.2.3香农—法诺编码5.2.4算术编码5.25.2无损压缩编码5.2无损压缩编码基本编码定理无失真编码定理香农第一定理：这就是Shannon的无失真编码定理。同时，该定理也为我们提供了一个评价无失真编码的标准。如果信道和传输系统都没有误差，传输系统的主要功能就是尽可能紧凑地表达信源（数据压缩）

可以证明：在无干扰的条件下，存在一种无失真的编码方法，使编码的平均长度L与信源的熵H(s)任意地接近，即L=H(s)+ε，其中ε为任意小的正数，但以H(s)为其下限，即L≥H(s)，这就是香农(Shannon)无失真编码定理。霍夫曼编码步骤缩减信源符号数量将信源符号按出现概率从大到小排列，然后结合5.2无损压缩编码霍夫曼编码

对每个信源符号赋值从（消减到）最小的信源开始，逐步回到初始信源霍夫曼编码结果平均长度信源熵编码效率8*8分块的编码压缩比为2.12:116*16分块的编码压缩比为1.64:1全图的编码压缩比为1.09:15.2无损压缩编码香农-法诺编码变长编码技术，其码字中的0和1是独立的，并且基本上等概率出现。主要步骤为：(1)将信源符号依其概率从大到小排列；(2)将尚未确定码字的信源符号分成概率和接近的两部分；(3)分别给两部分的信源符号组合赋值；(4)如果两部分均只有一个信源符号，编码结束，否则返回(2)继续进行。 算法评价有时哈夫曼编码的结果与香农-法诺编码结果相同。在某些情况下，二者的编码结果也不同，且哈夫曼编码算法效率高一些。

哈夫曼编码与香农-法诺编码缺乏构造性，解码均需通过查表来进行。5.2无损压缩编码算术编码基本思想将要压缩的数据映射到[0,1)实数区间中的某一区段上的实数X，该实数的二进制展开式即为原符号串的压缩编码结果算术编码通过对当前的概率区间作迭代分割来确定实数。是具体构造出的用小数表示信息的方法。小数随位数的增加，它的精度也随之提高，从信息的角度来说，它所含有的信息量也随之增加。编码来自1个4-符号信源{a1,a2,a3,a4}，出现的概率分别为{0.2,0.2,0.4,0.2}，由5个符号组成的符号序列：b1b2b3b4b5=a1a2a3a3a4编码：{a1a2a3a3a4}[0.06752,0.0688)0.06752解码：0.06752[0,0.2)(a1)[0.04,0.08)(a2)[0.056,0.072)(a3)[0.0624,0.0688)(a4)[0.06752,0.0688)(a5)5.2.1信息率失真定理5.2.2预测编码5.2.3正交变换编码5.35.3限失真编码方法5.3限失真编码方法问题：

在允许一定失真存在的条件下，能够将信源信息压缩到什么程度，即最少需要多少比特信息才能够描述信源？信息率失真理论的基本概念：在允许传输消息出现一定的失真条件下，传输该消息所需的信息率比不允许失真时小，并且允许的失真度越大，则信息率(最小值)允许减小的程度就越大。信息率失真函数实际问题中，信号有一定的失真可以容忍。当失真大于某一限度后，信息质量将被严重损伤，丧失其实用价值。因此要规定失真限度，有一个定量的失真测度－信息率失真函数。从接收端来看，就是在满足保真度准则下，寻找再现信源消息所必须获得的最低平均信息量。而接收端获得的平均信息量可用平均互信息I(X;Y)来表示，这就变成了在满足保真度准则的条件下，寻找平均互信息I(X;Y)的最小值。5.3限失真编码方法预测编码空域方法，消除象素间的冗余象素间的相关性使得预测成为可能仅提取每个象素中的新信息并对它们编码无损预测编码信息保存型有损预测编码信息损失型无损预测编码无损预测编码系统（DPCM）编码器+

解码器（有相同的预测器）无损预测编码过程输入序列：fn

(n=1,2,…)预测输出：（舍入成整数）预测误差：误差编码：在符号编码器中用变长码编误差解压序列：是根据前面几个像素的亮度值（消除了象素间冗余）哪里取得了压缩？5.3限失真编码方法有损预测编码系统增加了1个量化器，预测器放在1个反馈环中有损预测编码系统输入序列：fn

(n=1,2,…)量化输出：预测输入：解压序列：编码误差：（量化，减少了心理视觉冗余）哪里取得了压缩？5.3限失真编码方法有损预测编码最优预测

预测编码一般属于有失真编码，预测编码的失真程度取决于量化器和预测器的设计方法以及它们之间的相互作用，预测器一般设计成与被预测像素最近的m个像素的线性组合，即最优预测器的条件为编码的均方预测误差降至最小：这里设计最优预测器就是求ai，使这里预测所用像素个数称为预测器的阶。若某一平稳图像，则其三阶线性预测器为：或5.3限失真编码方法最优预测4阶线性预测器