CN114286093B 一种基于深度神经网络的快速视频编码方法 （杭州电子科技大学）

一种基于深度神经网络的快速视频编码方法本发明公开了一种基于深度神经网络的快式选择模块进行优化，通过轻量级HCT模型的预测结果来减少RDO计算的候选模式数量；PU模式的CU划分模块进行优化，从HCT模型获得预测结子CU块，并继续进行PU模式选择和CU块划分判21.一种基于深度神经网络的快速视频编码方法,其特征在于具体实现包括基于深度神步骤(Ⅲ)、分层卷积网络HCT由卷积模块、Enco接着特征数据x0和位置向量相加送入Encoder模块进行全局信息的提取，Encoder模块x3Thr,-⃞,对应RMD粗选后的候选列表长度变为1；如果PU块在模式选择时的最佳模式位于RMD粗选后模式选择后的最佳模式位于RMD粗选后的候选列表中的第一或第二位，则label＝0，对应RMD粗选后的候选列表长度变为2；PU块在模式选择时的最佳模式位于RMD粗选后的候选列表中的第三或第四位，则label＝1，对应RMD粗选后的候选列表长度变为4；其他情况下4[0002]视频编码联合开发组(JCT-VC)在2012年开发的最新视频编码标准—高效视频编来加速帧内模式判定过程，对帧内模式选择的优化目前主要集中在简化RMD过程或RDO计[0004]2017年Google团队提出了一种基于自注意力机制(Self-Attention)的国际会议TheInternationalConferenceonLearningRepresentations(ICLR)上发表了一篇题为“AnImageisWorth16x16Words:TransformersforImageRecognition结构引入到计算机视觉的分类任务中，并取得了比CNN模型更优的性能。ViT模型将带来更好的分类效果，这是CNN所达不到的，ViT所表现出的巨大潜力使得人们对5Transformer和注意力机制的研究[0006]本发明提出了一种基于深度神经网络的快速[0007]基于深度神经网络的CU划分模块是先利用神经网络自上而下预测各CU块的划分[0008]基于邻域相关性的PU模式选择模块，先是利用神经网络预测最佳模式在RMD粗选[0016]步骤(Ⅲ)、分层卷积网络HCT由卷积模块、Transformer编码器模块、序列池化6[0018]接着特征数据x0和位置向量(positionvector)相加送入Transformer编码器模块进行全局信息的提取，编码器模块一共有7层，每层均由一个多头自注意力层(Multi-headedSelf-attentionLayer，MSL)和前馈卷积层(Feed-forwardConvolutionLayer，[0025]outputi为i*i大小块的二分类输出向量，在这里我们将阈值λ按照块大小分成三始长度为3，如果PU块在模式选择时的最佳模式是RMD粗选后的候选列表中的第一位，则7[0028]步骤(2)、PU模式选择模块的数据集同样来自基于深度神经网络的CU划分模块中[0031]真实值向量获取规则如下：假设output＝[x,y,z]，label＝0的情况下，如果[0033](1)本发明对视频序列采用批量化预测方法，只需运行一次就可以得到CU块或PU及利用预测结果来减少PU块在RMD粗选后进入RDO计算的模式数量，并对MPM模式也进行优[0034](2)与现有技术中的CNN结构相比，HCT模型不仅可以自动提取图像块的相关局部×720)这5种不同分辨率的视频序列进行仿真，实验结果表明，平均时间效率可达70％左8[0042]图7为本发明PU模式选择模块数据集标签与RMD粗选之后的最佳模式位置对应关[0043]图8为本发明PU模式选择模块模型训练时数据集标签与真实值向量之间对应关系[0044]HEVC原始帧内编码流程如图1所示，首先64×64大小的CU块要先经过PU模式选择自动提取CU或PU块中的局部特征进行训练从而优化CU块的向下划分操作或PU模式选择的数据集训练就能达到跟大型数据集下CNN模型差不多的预测结果甚至效果更好，通过批量RDO计算的模式数量来降低帧内编码的时的通用测试条件(JCTVC-R1015)，使用HM16.9模型的全帧内编码配置文件encoder_intra_32、16×16这三种CU块对应的二分类标签(label)，label值为0(代表不划分)或1(代表划会经过卷积模块、Transformer编码器模块、序列池化(SequencePooling)层以及全连接9头自注意力层(Multi-headedSelf-attentionLayer，MSL)和前馈卷积层(Feed-forward过大，本发明将其改为两个卷积核为1x1的卷积层来优化模型参数，该模块的输入输出不[0056]卷积模块输出的特征数据x0先经过多头自注意力层，输出的数据[0057]3)序列池化层。经过Transformer编码器模块后输出的数据包含输入图像的局部[0058]4)其他层。Transformer编码器模块中的多头自注意力层和前馈卷积层均加入训练集训练后得到的模型参数再经过验证集进行模型准确率验证并考虑是否保存此次模编码器在开始编码时会先使用HCT网络模型对视频序列的待编码帧进行三种CU块的预测，准确，继而容易出现错误预测的情况。因此本发明用软分类值之间的相近度(Similar发现PU块的最佳模式在RMD粗选后的候选模式列表中的位置是不固定的，而最佳模式后面置按照标签类别也分成三类与标签值一一对应，其对应关系如图7所示，对应关系规则如[0069]②8×8和4×4大小的PU块由于初始候选列表长度为8，采用分段式区间的位置来对应标签值，如果当前PU块的最佳模式位于RMD粗选后模式列表中的第1位或第2位，则[0071]步骤(3)、模型的训练采用线性回归预测，损失函数采用Pytorch中的MSELoss函[0077]以上交换机制的目的是为了将模型预测的最大值位置频率往label值所对应的位[0078]步骤(4)、本发明对RMD粗选后的最有可能模式MPM部分也进行了优化。首先获得RMD粗选后的候选模式列表中具有最小SAD和SATD代价值的模式并将其SATD代价记为JSATDmin提是候选列表中没有该模式存在，然后继续下一个MPM的判断，以此来代替原有编码器的