（信息与通信工程专业论文）视频编码中的优化量化研究.pdf

论文作者签名：溢盔 指导教师签名： 压堕 论文评阅人1 ： 评阅人2 ： 评阅人3 ： 评阅人4 ： 评阅人5 ： 答辩委员会主席： 委员1 ： 委员2 ： 委员3 ： 委员4 ： 委员5 ： 浙江大学研究生学位论文独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发 表或撰写过的研究成果，也不包含为获得逝姿叁堂或其他教育机构的学位或 证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文 中作了明确的说明并表示谢意。 学位论文作者签名：诸境 签字日期： 加7 律7 月7 日 学位论文版权使用授权书 本学位论文作者完全了解迸鋈盘堂有权保留并向国家有关部门或机 构送交本论文的复印件和磁盘，允许论文被查阅和借阅。本人授权逝姿盘堂 可以将学位论文的全部或部分内容编入有关数据库进行检索和传播，可以采用影 印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：漏扬 签字日期列。年7 月7 日 导师签名： 签字日期： m b 腿旯7 日 一 、 浙江大学硕士学位论文摘要 蔓- 丝瞿生羔j ! 竺生兰j 摘要 。i 随着信息时代的进步，信息的膨胀使市场对多媒体通信的要求越来越高， 新近的国际视频编码标准h 2 6 4 a v c 和国家视频编码标准a v s 都得到了较高的 压缩效率，在数字电视，多媒体通信等方面得到广泛应用。量化是图像、视频压 缩编码的重要手段，在各种图像、视频编解码标准中是必要的一环。但量化也会 引入量化误差，造成图像质量的失真。 本文对量化器的基本原理进行了阐述，介绍了几种经典的量化器和视频编 码中广泛应用的优化量化方法。这几种优化量化方法主要包括帧级的码率分配和 量化步长调整、宏块级的量化步长调整和量化舍入参数调整以及基于率失真理论 的变换系数级的优化量化值选取方法。 本文在现有技术基础上提出了一种适用于a v s 编码标准的变换系数级优化 量化方法，该方法通过为每个变换系数调整量化器的死区( d e a d z o n e ) 宽度、 舍入参数，从而达到精细的率失真优化。其中提出了一种为非归一化变换系数在 变换域直接计算编码失真的方法，提高了率失真优化的速度；提出了适用于a v s 二维可变长熵编码的单个变换系数优化量化流程和联合多个变换系数的联合优 化量化流程。本文还讨论了基于a v s 的上下文对数算术熵编码情况下的优化量 化方法。提出的方法能有效提高编码效率。 关键词：视频编码量化率失真优化变换熵编码 浙江大学硕士学位论文 a b s t r a c t 1 l h 与2 a b s t r a c t ：t h ei n t e r n a t i o n a ls t a n d a r dh 2 6 4 a v ca n dn a t i o n a la u d i ov i d e oc o d i n gs t a n d a r d ( a v s ) p r o v i d eh i g hc o m p r e s s i o ne f f i c i e n c y 1 1 1 e ya r ew i d e l ya p p l i e di nd i g i t a lt v , m u l t i m e d i ac o m m u n i c a t i o n , v i d e os u r v e i l l a n c ea n ds oo n q u a n t i z a t i o ni sak e y c o m p o n e n ti np i c t u r e v i d e oc o d i n gs c h e m e st op r o v i d ec o d i n ge f f i c i e n c y , b u ti ta l s o i n t r o d u c e s q u a n t i z a t i o n d i s t o r t i o nw h i c hc a u s e s d e g r a d a t i o n o f q u a l i t y o f r e c o n s t r u c t e dp i c t u r e v i d e o i nt h i st h e s i s ，w ef k s tr e v i e wt h eb a s i cp r i n c i p l eo fq u a n t i z a t i o na n ds o m ec l a s s i c a l q u a n t i z e r si nv i d e oc o d i n g t h e nw ei n t r o d u c es e v e r a lo p t i m i z e dq u a n t i z a t i o n a l g o r i t h m sw h i c ha r ew i d e l yu s e di nv i d e oc o d i n gs y s t e m s ：f r a m e 1 e v e lb i t r a t e a l l o c a t i o na n dq u a n t i z a t i o ns t e ps i z ea d j u s t m e n t ，m a c r o b l o c k - l e v e lq u a n t i z a t i o n s i z e a d j u s t m e n t ，s u b b a n d - l e v e lq u a n t i z a t i o n s t e p s i z e a d j u s t m e n t , a d a p t i v e q u a n t i z a t i o n a n dr e c o n s t r u c t e d l e v e l ( a d a p t i v er o u n d i n g ) a n d r a t e - d i s t o r t i o n o p t i m i z e dt r a n s f o r m - c o e f f i c i e n t l e v e la d a p t i v eq u a n t i z a t i o na n dr e c o n s t r u c t e dl e v e l ar a t e d i s t o r t i o no p t i m i z e dt r a n s f o r m c o e f f i c i e n t l e v e lq u a n t i z a t i o nt e c h n i q u e ，w h i c h i n c l u d e sac o m p u t a t i o nm e t h o do fd i s t o r t i o n sf o rn o n n o r m a l i z e dt r a n s f o r m c o e f f i c i e n t so fa v s d i r e c t l yi nt r a n s f o r m d o m a i n , i sp r o p o s e di nt h i st h e s i s b y a d j u s t i n gd e a dz o n ea n dr o u n d i n gp a r a m e t e ro fq u a n t i z e rf o re a c hc o e f f i c i e n t , t h i s t e c h n i q u ec a na c h i e v eb e t t e rp e r f o r m a n c ei nt e r m so fb o t hc o m p r e s s i o ne f f i c i e n c ya n d v i d e oq u a l i t y ；b yc a l c u l a t i n gd i s t o r t i o ni nt r a n s f o r m d o m a i n , t h i st e c h n i q u ec a nb e i m p l e m e n t e d 、析t 1 1l o w e rc o m p l e x i t y c o n s i d e r i n go ft h e2 - d i m e n t i o n a lv a r i a b l el e n g t h c o d i n gd e f i n e di na v s ，t h er a t e - d i s t o r t i o no p t i m i z a t i o no fq u a n t i z a t i o nc a nb ea p p l i e d f o ro n ec o e f f i c i e n ta tat i m eo rs e v e r a lc o e f f i c i e n t sj o i n t l y a d d i t i o n a l l y , t h i st h e s i s a l s od i s c u s s e sar a t e d i s t o r t i o n o p t i m i z e dq u a n t i z a t i o nt e c h n i q u e f o ra v s c o n t e x t - a n d - l o g a r i t h mb a s e da d v a n c e de n t r o p yc o d i n go ft r a n s f o r mc o e f f i c i e n t s k e yw o r d s ：v i d e oc o d i n g t r a n s f o r l t l q u a n t i z a t i o n r a t e d i s t o r t i o no p t i m i z a t i o n e n t r o p yc o d i n g 浙江大学硕士学位论文目录 - 1 ，：摘要。 目录 一 a b s t r a c t 目录。 i 第一章前言。l 1 1 背景概述l 1 2 量化器简介2 1 3 优化量化技术简介4 1 3 1 量化步长调整4 1 3 2 量化矩阵4 1 3 3 自适应舍入量化( a d a p t i v er o u n d i n g ) 4 1 4 率失真优化量化( r d o q ) 技术简介5 1 5 本文的研究意义及文章结构6 第二章基于h 2 6 4c a v l c 的率失真变换系数优化量化8 2 1h 2 6 4 标准概述8 2 2c a v l c 技术简介8 2 3h 2 6 4 整数d c t 变换简介9 2 4 基于c a v l c 的率失真的变换系数优化量化( r d o q ) l l 2 4 1 基于c a v l c 的r d o q 方法介绍11 2 4 2 性能比较1 5 2 5 本章小结。l8 第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 3 1 算术编码简介1 9 3 2c a b a c 技术简介1 9 3 1 1 概率模型的初始化2 l 3 1 2 二进制化2l 3 1 3 概率模型的选择和更新2 3 3 1 3 1 概率模型的选择2 3 3 1 3 2 概率模型和区间的更新2 5 3 1 4 码流的输出和重归一化2 6 3 2 基于c a b a c 的r d o - q 2 8 3 3 基于c a b a c 的r d o q 性能31 3 4 本章小结3 5 第四章基于a v s 中c 2 1 ) v l c 的变换系数优化量化研究 4 1a v s 标准简介3 6 4 2c 2 d v l c 简介3 7 4 3 基于c 2 d v l c 的率失真优化量化算法研究4 0 4 3 1 候选量化值的选取41 4 3 2 计算当前块的编码代价4 2 一一浙江大学硕士学位论文 目录 4 3 2 1 变换域计算编码失真d 4 2 4 3 2 芝计算编码比特数r 4 5 4 3 3 优化的顺序4 6 4 3 4 整体流程4 7 4 3 4 1 基于c 2 d v l c 的率失真优化量化方法流程单系数优化量化4 7 4 3 4 2 基于c 2 d - v l c 的率失真优化量化方法流程一m 个系数联合优化量化4 8 4 4 性能比较一5l 4 5 本章小结5 8 第五章基于a v s 中a e c 的率失真优化量化方法探讨5 9 5 1a e c 介绍5 9 5 1 1 二进制化5 9 5 1 2 上下文模型的选择及概率模型的更新5 9 5 1 2 1 对数域的概率模型更新6 0 5 1 2 2 概率模型的选择6 l 5 2 基于a e c 的率失真优化量化方法探讨6 3 5 2 1 计算编码比特数6 3 5 2 2 基于a e c 的率失真优化量化方法流程6 4 5 3 本章小结。6 5 第六章总结与展望。 参考文献。 致谢 在学期间所取得的科研成果 i v 6 7 7 1 7 2 浙江大学硕士学位论文 第一章前言 视频编码中的优化量化研究 第一章前言 1 1 背景概述 随着信息时代的进步，人们对通信的要求已转向集语音，图像，文字等于 一体的多媒体通信业务，信息的膨胀使市场对多媒体通信的要求越来越高，未经 处理的视频通信量极高，如何用少的通信量实现高质量的信息传输，是必须要解 决的问题。原始视频信息中存在着大量的时间冗余，空间冗余和统计冗余，视频 压缩是一种必须的手段，高效率视频数字压缩技术成为广播、视频及多媒体通信 领域中的亮点和热点。 i t u t 的视频编码专家组v c e g 和i s o i e c 的活动图像组专家m p e g 是制 定视频编码标准的两大组织。i t u t1 9 9 3 年制定第一个混合视频编码框架( 如图 卜1 ) 的标准h 2 6 1 1 1 1 。h 2 6 1 的设计很成功，之后的视频编码国际标准h 2 6 3 1 2 1 ， h 2 6 3 + 3 等都是基于h 2 6 1 的基本框架的。在i u t - t 推出h 2 6 x 系列标准的同 时，i s o i e c 主导的相应视频编码标准，也推出了m p e g x 系列标准 4 5 6 。 2 0 0 1 年，两者合作成立联合视频组( t ) ，共同制定国际标准，即2 0 0 3 年发布 的h 2 6 4 a v c 7 。而我国在2 0 0 2 年6 月起着手制定国家标准a v s ( a u d i ov i d e o c o d i n gs t a n d a r d ) 8 。 已有的视频编解码标准，大都采用传统的基于块的混合式编码框架，如图 1 1 所示，其中包括预测，空域变换，量化以及熵编码等技术。其中量化是图像、 视频压缩编码的重要手段。在各种图像、视频编解码标准中，如j p e c lm p e g 2 ， h 2 6 4 a v c ，a v s ，是必要的一环。但量化也会引入量化误差，造成图像质量的失 真。一个优秀的量化器对于编码器来说是至关重要的，也成为视频编码的一个研 究热点。 浙江大学硕士学位论文第一章前言 图1 1 混合式编码框架图 1 2 量化器简介 量化器分为矢量量化器和标量量化器。因为经过空域变换后的变换系数基 本不存在空域相关性，为了便于实现，大部分的视频编码器都使用标量量化器。 一个标量量化器由2 个部分构成：量化和重建。量化将输入信号映射为量化电平， 而重建部分根据输入的量化电平，给出一个对应的重建系数。一般图像和视频编 码标准只给出一系列的量化电平值和对应的重建系数，但不会规定前向的量化过 程，也就是输入系数和量化电平之间的映射关系，因此编码器设计者可以根据不 同的应用约束与要求，设计适当的量化器。 图像和视频编码中变换后的变换系数通常被认为符合l a p l a c i a n 分布 9 卜 1 3 ，s u l l i v a n 针对l a p l a c i a n 分布源提出了一种最优标量量化，其量化 规则为死区加一致性阈值量化( d e a d - z o n ep l u s - u n i f o r mt h r e s h o l d q u a n t i z a t i o n ，d z u t q ) ，如图1 2 所示，其重建规则接近一致重建量化器( n e a r l y u n i f o r mr e c o n s t r u c t i o nq u a n t i z e r ，n u r q ) 1 4 。设输入系数为x ，d z u t q 量 化规则为： c m “嘶胭a x ( o ，n 。r ( 粤+ l - p - z ) ) ， 浙江大学硕士学位论文第一章前言 其中s 为量化步长，p 为非零区域舍入参数，z 为量化器死区参数，符号函数 。一 。 一 一 一 s i g n ( x ) 定义为： 1 n u r q 重建规则为： r x 】= s i g n ( c x ) 枣s 木( 1 c 【x ”p ) ( 1 3 ) n u r q 这种重建规则在j p e g ，h 2 6 x 及m p e g 等图像和视频编码标准中得到了 应用。通常的，p 0 ，其中使用的比较多的一个值为p = 1 2 ，在h 2 6 1 ， m p e g - 1 ，m p e g - 2 h 2 6 2 ，h 2 6 3 ，j p e g - 2 0 0 0 以及m p e g - 4p a r t 2 中，都使用了 p = 1 2 的n u r q 重建规则。 为了便于实现，s u l l i v a n 将重建规则进一步简化为一致重建量化器 ( u n i f o r mr e c o n s t r u c t i o nq u a n t i z e r ，u r q ) 1 5 ，即p = 0 的n u r q 。在h 2 6 4 a v c 以及我国自主的视频编码标准a v s 中，都使用的这种重建规则。 - s ( 3 + p )- s ( 2 + p )- s ( 1 + p ) 0 s ( 1 + p ) s ( 2 + p )s ( 3 + p ) iiiiiiiiiiiii ii iiiii iii iil i 刊叫i + i 叫叫i 卅 i ii s z ll s z ii s ( z + p ) i s ( z + p ) i i s z ii s z ll iiiiiliiillii j l i 一- jl 一- jl 一i ji 一一l 一- j l 一 s ( 1 - z )s ( 1 一z )s ( 1 一z )s ( 1 - z )s ( 1 - z )s ( 1 一z ) ：、。 图1 2 量化器示意图 d z u r t 量化器中，死区宽度为2 s ( p + z ) ，通过调节z 可以控制量化器的死 区宽度。当p + z 1 2 时，死区宽度比其他量化区间大，这种情况在量化步长s 3 浙江大学硕士学位论文第一章前言 较大时经常出现，一般的，z 取值为1 2 z 0 ，则c t x l d x = 4 ：否则c t x l d x = m i n ( n u m t l s ，3 ) 。 在编码或者解码b i n 索引为1 到1 3 的b i n 的时候，是按照下面的规则在5 个上下文模型之中进行选择的： c t x l d x = m i n ( n u m l g t l ，5 ) 最后，对于b i n 索引大于1 3 的所有b i n ，都用等概模型进行编码或者解码， 也就是用b y p a s s 的方式进行二进制算术编码或者解码。 3 1 3 2 概率模型和区间的更新 上下文自适应算术编码的复杂度主要体现在两个方面：各个概率模型的估 计和更新，以及区间更新的乘法运算。在以往的技术中，区间更新和概率模型的 更新都需要进行乘法计算或者将乘法结果预先存入表中使用查表方法代替乘法 计算。乘法计算会引起较高的计算复杂度而用查表的方法则占用很大的存储空 间。在h 2 6 4 的c a b a c 技术中使用了查表的方法，将近似计算的乘法结果预先存 储在一个固定的表内，表的入口参数是尺和1 枷，r 表示当前区间的长度，乞表 示小概率符号出现的概率。h 2 6 4 中区间长度用8 - b i t 表示，r 的范围为 o r 1 条件的最大的i 值。这样的考虑即是根据上文 7 h o o t1 c e l l 对扩和l ，选取，将满足，p o 5 的系数都直接量化为0 ，不再需要更多的分 析。为了减少计算复杂度，预先对d ，c 这部分系数全部量化为0 的情况计 2 q 浙江大学硕士学位论文第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 算一个编码代价值k ： ：窆p b ，o ) j = i o 寻找最后一个非零量化值的位置需要从c 幻开始，循环下列步骤： 1 如果系数c f 。满足l b f l 。鲥 1 5 ，则 a ) 更新： ( 3 6 ) = k - - e r r ( c i o ，0 ) ( 3 7 ) b ) 计算气为最后一个量化值为非零的系数时，当前块的编码代价 0 ) = k + 旯1 2 j 加妇：1 6 f ：o ) ( 3 8 ) d pb i t s l a s t = l 为编码l a s t s i g n i f i c a m c o e f ff l a ge q u a l ：l 所需的 比特数，b i t s l a s t = o 为编码l a s t s i g n i f i c a m c o e f f _ f l a ge q u a l ：0 所 需的比特数。 c ) 更新乇：岛= o + 1 。 2 对a ，净b ，。，b 做如下操作： a ) 更新： = 一p h ，0 ) ( 3 9 ) b ) 计算当c ，量化为0 时，q 系数编码代价，以，c f ，o ) 。 c ) 如果，p 较之0 更加接近于1 ，计算下列2 中情况的编码代价 i ) ：o ，c ，1 ) 岛量化为1 ，并且不是最后一个量化值为非零 的系数； ii ) 无量：0 ，c i ，1 ) q 量化为1 ，并且是最后一个量化值为非零的 系数； 计算c j 是最后个量化值为非零的系数时对应的当前块编码代价 以0 ) ； 浙江大学硕士学位论文 第三章摹于h 2 6 4c a b a c 的率失真变换系数优化量化 以以) = + ：，q ，q ，1 ) j ) 更新k ，b ： 一 k = + r n i n ( j ( 1 ，q ，o ) ，：o 以，洲 i o = i o + 1 ( 3 1 0 ) ( 3 1 1 ) ( 3 1 2 ) 找到最小的j i 以) 对应的系数，作为最后一个量化值为非零的系数，即为靠。 找到缸后，对于每个c 。，f = 七，o ，计算各个候选量化值对应的编码当 前块的编码代价，选择使编码代价最小候选量化值作为当前系数的量化值。 这样一个流程与c a b a c 编码方式下的语法元素有关。如果想达到一个最优的 量化效果，应该在假定每个系数为最后一个量化为非零的系数情况下，计算每个 系数每个候选量化值对应的编码代价，找到每个系数的优化量。但是这样带来的 计算量是巨大的，无法在实际中应用。由此选择一个次优的优化量化过程。因此 最后一个量化为非零的系数之后位置上的系数都不再需要语法元素来表示，因此 最后一个量化为非零的系数的位置对整个块的编码代价影响非常大，这个是影响 编码代价的首要因素，需要首先确定。c a b a c 根据逆扫描顺序对每个非零系数的 幅度值进行编码，且在c o e f f _ a b s l e v e l m i n u s l 二进制化后前缀索引为1 到1 3 的b i n 进行概率模型选择时，需要用到之前己编码过的系数幅度值绝对值信息， 因此在找到c 。后，计算每个非零系数各个候选量化值对应的编码代价时，也需要 按照逆扫描的顺序进行。 3 3 基于c a b a c 的r d o - q 性能 2 3 在v c e g 通用测试条件下 2 5 ，对i p p p 和i b b p 序列进行了性能测试， 采用b dr a t er e d u c t i o n ( ) a n dt h eb dp s n rg a i n ( d b ) 表示性能增益。 从表3 2 来看，对于i p p p 序列，与参考软件k t as o f t w a r ev e r s i o n1 9 相比，采用了r d o - q 技术后，从码率上来看，性能提高最明显的序列减少了5 7 6 的码率，各序列平均减少了2 9 1 的码率。 3 1 浙江大学硕士学位论文第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 表3 2 基于c a b a c 的r d o q 性能比较( i p p p ) b dr a t er e d u c t i o n ( ) i p p p c a b a c f o r e m a n1 8 6 q c l fc o n t a i n e r5 7 6 s i l e n t_ 4 5 7 q c i fa v e4 0 6 f o r e m a n1 6 6 m o b i l e 0 9 5 c l f p a n s 3 3 6 t e m p e t e 0 5 0 c i fa v e一1 6 2 b i g s h i p s - 4 3 4 c i t y 一1 1 7 7 2 0 p c r e w3 5 3 n i g h t 2 0 2 s h u t t l e s t a r t5 1 9 7 2 0 pa v e 一3 2 5 a v e r a g e2 9 1 从表3 3 来看，对于i b b p 序列，与参考软件k t as o f t w a r ev e r s i o n1 9 相比，采用了r d o - q 技术后，从码率上来看，性能提高最明显的序列减少了1 0 8 4 的码率，各序列平均减少了6 5 7 的码率，i b b p 格式下，r d o - - q 对于编码性能 的提高比i p p p 帧格式下更明显。原因在2 4 2 中已做了说明，这里不再累述。 繁秽 3 2 浙江大学硕士学位论文第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 表3 3 基于c a b a c 的r d o - q 性能比较( i b b p ) i b b pb dr a t er e d u c t i o n ( ) c a b a c q c i f 一一f o r e m a n 6 8 2 c o n t a i n e r7 2 4 s i l e n t1 0 8 4 q c i fa v e8 3 0 c i f f o r e m a n一4 8 2 m o b i l e7 1 2 p a n s 9 4 9 t e m p e t e 6 9 7 c i fa v e7 1 0 7 2 0 pb i g s h i p s 4 5 1 c i t y 3 0 3 c r e w5 3 8 n i g h t 5 8 3 s h u t t l e s t a r t6 7 7 7 2 0 pa v e - 5 1 1 a v e r a g e- 6 5 7 下面图3 7 给出了c r e w ( 7 2 0 p ) 和p a r i s ( c i f ) 序列i b b p 帧格式的r d 曲线， 从图中看出，对2 种分辨率的视频序列来说，r d o - q 技术都能带来较明显的性能 提高，特别是在较高码率的情况下尤为明显。原因在2 4 2 中已做了说明，这里 不再累述。 3 3 浙江大学硕士学位论文第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 ( c r e w _ 7 2 0 p _ i b b pc a b a c ) ( p a r i s c i f _ i b b p _ c a b a c ) 图3 7 基于c a b a c 的r d o - q 性能比较 浙江大学硕士学位论文 第三章基于h 2 6 4c a b a c 的率失真变换系数优化量化 3 4 本章小结 本章介绍了h 2 6 4 中基于上下文内容的自适应二进制算术编码( c a b a c ) 的 实现方法，并对其中关键技术做了原理分析。接着本章介绍了基于c a b a c 的率失 真优化量化方法r d o - q ，阐述了其算法流程，并对算法原理进行了详细分析，并 给出了这种优化量化方法的性能。 3 5 浙江大学硕士学位论文第四章基于a v s 中c 2 d - v l c 的变换系数优化量化 第四章基于a v s 中c 2 d - v l c 的变换系数优化量化研究 4 1a v s 标准简介 a v s p 2 也沿用的传统的混合式视频编码框架，采用了一系列技术来达到高 效率的视频编码，包括帧内预测、帧间预测、变换、量化和熵编码等。帧内预测 使用空间预测模式来消除图像内的冗余，帧间预测使用基于块的运动矢量来消除 图像间的冗余；再通过对预测残差进行变换和量化消除图像内的视觉冗余，最后 运动矢量、预测模式、量化参数和变换系数用熵编码来消除统计冗余。 下图4 1 为a v s 编码的流程框图： 图4 1a v s 视频标准系统结构原理框图 帧内预测：在a v s - p 2 中，只有8 8 块帧内预测可以在帧内编码区域的亮度 和色度预测中都使用。帧内预测使用空间预测，即预测总是在空域的，并参考临 近的己被编码的像素( 没有进行去块滤波) 。 。， 可变块大小运动补偿：为了更好的去除帧间冗余，a v s p 2 支持块大小从1 6 1 6 到8 8 的多种块大小的帧间预测。 1 4 象素精度运动补偿：a v s p 2 采用了1 4 象素精度的运动补偿技术。a v s - p 2 使用一种i 4 象素精度二维可分离的插值方法一一两步四抽头插值法( t s f t ) 。 浙江大学硕士学位论文第四章基于a v s 中c 2 d - v l c 的变换系数优化量化 一变换和量化：和之前的视频编码标准类似，a v s p 2 也对预测残差进行了变 换编码，并设计了一种8 8 的整数变换一一预缩放整数变换( p i t ) 【3 0 。为了 8 x 8 变换的运算简单、同时保证去相关性的效果、a v s 设计了p i t 这种变换， 即在编码端进行预缩放，而在解码端不再进行缩放处理，大大减少了解码器的复 杂度。它可以简单的用加法和移位来实现。 熵编码：a v s 中定义了两种熵编码方法：基于上下文的二维可变长编码 c 2 d - v l c 和高级算术编码a e c 。 4 2c 2 d - v l c 简介 a v s 中对于量化后的变换系数采用了一种基于上下文的二维变长熵编码 弋2 d v l c 。采用一串( r u n ，l e v e l ) 对表示一个块的预测残差系数，其中l e v e l 表示非零的变换系数的幅度值，r u n 表示当前非零变换系数与前一个( 扫描顺序 上) 非零变换系数之间零系数的个数。在进行特定顺序的扫描之后，便得到一串 ( r u n ，l e v e l ) 对，并对( r u n ，l e v e l ) 进行二维联合编码。每一个( r u n ，l e v e l ) 对根据l e v e l 的符号和( r u n ，il e v e l | ) 二维索引查询特定的二维码表得到一个码 字编号( c o d e n u m ) ，再对码字编号进行指数哥伦布编码，其中指数哥伦布码的阶 数是根据上下文自适应改变的。 a v s 支持按帧编码，也支持按场编码，相应的也定义了如下图4 2 所示的2 种扫描顺序以适应各自的特性：a ) 为按帧编码的宏块中系数的扫描顺序，b ) 为 按场编码的宏块中系数的扫描顺序。 3 7 浙江大学硕士学位论文第四章基于a v s 中c 2 d - v l c 的变换系数优化量化 o1234567 o015 6 1 4 1 52 7 2 8 12 47 1 31 62 62 94 2 2 381 21 72 53 04 14 3 39 1 1 1 82 43 14 04 45 3 41 01 92 33 23 9 4 55 2 5 4 52 02 23 33 84 65 15 56 0 62 13 43 74 75 05 65 96 1 73 53 64 84 95 75 86 26 3 8 ) 01234567 0031 11 62 23 23 8 5 5 1161 22 02 53 34 25 7 2271 52 12 83 74 35 8 341 01 92 73 13 94 75 9 4 5 1 42 4 3 03 6 4 4 5 06 0 581 72 63 54 1 4 85 26 1 691 82 94 04 65 15 46 2 71 32 3 3 4 4 54 95 35 66 3 j b ) 图4 2 扫描顺序 a v s 的熵编码方法c 2 d - v l c 与h 2 6 4 中的c a v l c 有类似之处，两者都根据统 计各个语法元素的概率分布预先生成码表，查询码表得到码字，再通过结构码字 封装为b i t 流。但不同的是：( 1 ) a v s 的c 2 d v l c 是基于8 x 8 变换；( 2 ) a v s 的 c 2 d v l c 是将( r u n ，l e v e l ) 对最为一个事件统计概率分布，并联合编码的；( 3 ) a v s 的c 2 d - v l c 引入了基于高、低频端非零系数分布规律的预测模型；( 4 ) a v s 的c 2 d v l c 全部使用指数哥伦布码( e x p g o l o m b ) 进行封装。 3 8 r 净 浙江大学硕士学位论文 第四章基于a v s 中c 2 d - v l c 的变换系数优化量化 因为经过扫描后的( r u n ，l e v e l ) 对序列之间存在着很强的相关性，越靠前 l e v e l 绝对值越大，r u n 值越小，所以根据当前( r u n ，l e v e l ) 的不同概率分布趋 势，将( r u n ，l e v e l ) 视为一个事件统计概率并联合编码。c 2 d - v l c 的码表是预 先生成的，它通过对各种语法元素出现的情况进行大量统计后，根据概率大小进 行排序得到，概率越大，码字编号越小，概率越小，码字编号越大，所以码表基 本能反应各种状态下各元素的分布规律。a v s p 2 中，对于亮度块，建立了7 张 i n t r a 码表和7 张i n t e r 码表；对于色度块，建立了5 张码表；每个码表为2 6 x 2 7 的矩阵。 a v s 中，对所有变换系数都采用指数哥伦布码。指数哥伦布码硬件复杂度 比较低，可以根据闭合公式解析码字，不需要查表，另一方面，它可以根据编码 元素的概率分布灵活的确定阶数k ，如果k 选的恰当，编码效率可以逼近信息熵。 k 阶指数哥伦布码的比特串分为“前缀 和“后缀”两部分，如表4 1 中 所示。前缀由1 e a d i n g z e r o b i t s 个连续的0 和一个1 构成。后缀由 l e a d i n g z e r o b i t s + k 个比特构成，即表中的x ；串，x ；的值为0 或l 。a v s 每张码表都有各自的指数哥伦布阶数，选择码表的同时，也调整了指数哥伦布码 的阶数。 表4 1k 阶指数哥伦布码表 阶数码字结构c o d e n u m 取值范围 10 o1x 。1 2 k = 0 0 01x 1x o3 6 0001x 2x 1x o7 1 4 1 x o 0 1 01x lx o2 5 k = 1 001x 2x lx o6 1 3 0 001x 3 x 2x lx o1 4 2 9 1 x lx o 0 3 01x 2x lx o