CN116389725B 图像分量预测方法、编码器、解码器以及存储介质 （Oppo广东移动通信有限公司）

2023.07.04202080004757.12020.05.15本申请实施例公开了一种图像分量预测方述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值时，确定所述当前块的MIP权重矩阵、所述当前块的移位因子权重矩阵、所述移位因子和所述MIP输入采样矩2确定当前块的预测参数，其中，所述预测参数包括预测模当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值根据所述MIP权重矩阵、所述移位因子和所述MIP输入采样矩阵，确所述预测模式参数和不同的所述当前块的大小参数对应的所述移位因子为固利用预设计算模型对所述MIP输入采样矩阵、当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值根据所述MIP权重矩阵、所述移位因子和所述MIP输入采样矩阵，确所述预测模式参数和不同的所述当前块的大小参数对应的所述移位因子为固利用预设计算模型对所述MIP输入采样矩阵、3所述第一确定单元，还配置为当所述预测模式参数指示使用基于矩阵的帧内预测MIP所述第一预测单元，配置为根据所述MIP权重矩阵、所述移位因子和所所述第一确定单元，还配置为至少根据当前块的块尺寸索引值确定所述当前块的MIP所述第二确定单元，配置为当所述预测模式参数指示使用基于矩阵的帧内预测MIP模4所述第二预测单元，配置为根据所述MIP权重矩阵、所述移位因子和所所述第二确定单元，还配置为至少根据当前块的块尺寸索引值确定所述当前块的MIP15.根据权利要求13或14所述的解码器，其特征在于，所述解码器还包括第二计算单理器执行时实现如权利要求5至8中任一项所5[0002]本申请是基于申请日为2020年05月15日的PCT国际专利申请PCT/CN2020/090688号为62/872,488的题为“Matrix_BasedIntraPrediction(MIP)ShiftUnification号为62/872,830的题为“MethodsandApparatusesforMatrix_BasedIntra号为62/873,170的题为“MethodsandApparatusesforMatrix_BasedIntra[0010]在H.266/VVC中，目前已经接受了基于矩阵的帧内预测(Matrix_basedIntra6[0015]当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预[0019]当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预[0030]所述第二确定单元，配置为当所述预测模式参数指示使用基于矩阵的帧内预测7数；当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值数和所述当前块的大小参数；当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式8MIP预测时的MIP模式索引值(可以用modeId或者modeIdx表示)、当前块的高度(用nTbH表示)、当前块的宽度(用nTbW表示)以及是否需要转置的转置处理指示标志(可以用块的上块和左块都是已编码的块，MIP技术的参考像素为当前块的上一行像素和左一列像9前块的预测参数后，当预测参数中的预测模式参数指示使用MIP模式确定当前块的帧内预头信息编码及基于上下文的自适应二进制算术编码(Context_basedAdaptiveBinaryArithmaticCoding，CABAC)。针对输入的原始视频信号，通过编码树块(CodingTree素信息通过变换与量化单元101对该视频编码块进行变换，包括将残差信息从像素域变换估计单元105用于执行所接收的视频编码块相对于一或多个参考帧中的一或多个块的帧间预测编码以提供时间预测信息；由运动估计单元105执行的运动估计为产生运动向量的过预测模式和来自当前帧或图片的先前经解码块的数据而产生当前视频解码块的预测数据；运动补偿单元204是通过剖析运动向量和其他关联语法元素来确定用于视频解码块的预测反量化单元202的残差块与由帧内预测单元203或运动补偿单元204产生的对应预测性块进行求和，而形成解码的视频块；该解码的视频信号通过滤波单元205以便去除方块效应伪[0071]本申请实施例中的图像分量预测方法，主要应用在如图2A所示的帧内预测单元值对应的预测模式下的预测参数确定为所述当前模式对应的率失真代价值；然后从所得到的多个率失真代价值中选取最小率失真代价值，[0082]S302：当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值时，确定所述当前块的MIP权重矩阵、所述当前块的移位因子和所述当前块的移位因子；其中，移位因子也可以称为移位比特数、权重移位值等，可用sW、shift或者weightshift表示。即当前块的块尺寸索引值。针对不同的块尺寸索引值，参考采样的个数(每边需要boundySize个参考采样点)、矩阵乘法输入采样的个数inSize和矩阵乘法输出采样的个数024144248[0098]这样，根据表1，当BlocksizeIdx的取值为0时，boundarySize的取值可以为2，024414842478[0102]这样，根据表2，当BlocksizeIdx的取值为0时，boundarySize的取值可以为2，像素点，矩阵乘法输入采样点数量为四个，矩阵乘法输出为4×4的MIP预测块；或者，当BlocksizeIdx的取值为1时，boundarySize的取值可以为4，inSize的取值可以为8，量对应的比特深度值(用BitDepth表示)确定，而矩采样个数inSize则仅与当前块的块尺寸索引值有关，最终可以获取输入采样矩阵中第x输[0109]当BlocksizeIdx＝0或1时，pTemp中第零个位置的样值需要减去(1<<(BitDepth_的每一位置对应的采样值则需要由pTemp中对应位置的样值减去pTemp中第零个位置的值[0111]当BlocksizeIdx＝2时，输入采样矩阵中其他位置的每一位置对应的采样值均是矩阵中，列数为矩阵乘法输入采样的个数inSize，行数为矩阵乘法输出采样的个数0418041827[0128]当所述当前块的宽度和高度均等于8、或者所述当前块的宽度和高度之一等于4合MIP输入采样值的数量或者MIP预测块的大小来进一步确定出[0132]将所述移位因子设置为等于所述当前块的宽度或高度与对应于所述当前块的块应的第一预设值等于4，从而可以根据当前块的宽度或高度与对应的第一预设值之间的比[0137]将所述移位因子设置为等于所述当前块的宽度或高度与对应于所述当前块的块0516051626[0149]在所述预测模式参数指示使用MIP模式确定当前块的帧内预测值时，确定当前块[0152]需要说明的是，可以仅根据当前块的MIP模式类型索引值(用ModeCategoryIdx表051627[0158]也就是说，在得到当前块的块尺寸索引值和MIP模式索引值后，可以利用哈希根据所述块尺寸索引值以及所述MIP模式索引值，确定所述当前块的MIP模式类型索引值，[0164]将所述右移处理后的值与第三预设值进行叠加处理，得到所述当前块的MIP模式[0168]示例性地，当块尺寸索引值(blocksizeIdx)等于0时，可以对MIP模式索引值[0181]若所述MIP模式索引值大于第三门限值且所述MIP模式索引值小于或等于第四门[0184]示例性地，当块尺寸索引值(blocksizeIdx)等于0时，如果MIP模式索引值那么MIP模式类型索引值设置为6，否则MIP模式类型索引值设置为7；当块尺寸索引值[0185]IfModeIdx<＝6,ModeCategoryIdx＝5,[0187]IfModeIdx<＝8,ModeCategoryIdx＝6,[0189]IfModeIdx<＝3,ModeCategoryIdx＝5,[0190]elseifModeIdx<＝4,ModeCategoryIdx＝6,[0193]示例性地，当块尺寸索引值(blocksizeIdx)等于0时，如果MIP模式索引值那么MIP模式类型索引值设置为1，否则MIP模式类型索引值设置为2；当块尺寸索引值[0194]IfModeIdx<＝6,ModeCategoryIdx＝0,[0196]IfModeIdx<＝8,ModeCategoryIdx＝1,[0198]IfModeIdx<＝3,ModeCategoryIdx＝0,[0199]elseifModeIdx<＝4,ModeCategoryIdx＝1,MIP模式索引值(用modeIdx表示)来确定出MIP权重矩阵(用mWfO输入矩阵乘法的过程，以获得矩阵乘法输出的MIP预测块(可以用predMip[x][y]表示)，[0211]进一步地，还需要对MIP预测块中的预测采样值进行嵌位处理，以获得当前块的该MIP预测块中的预测采样值进行转置处理，将转置后的MIP预测块确定为当前块的MIP预直接将该MIP预测块确定为当前块的MIP[0214]当所述MIP预测块的尺寸与所述当前块的尺寸相同时，将所述当前块的帧内预测将MIP预测块predMip[x][y]直接作为当前块的帧预测块predSamples如果在水平方向和垂直方向上都需要进行上采样处理，那么可以先对MIP预测块进行水平示；然后对MIP预测块进行垂直方向上采样后再进行水平方向上采样，以得到第二上采样块，可以用predSamplesTemp[x][y]表示；最后将predSamples[x][y]和predSamplesTemp可以将MIP预测块直接置为当前块的帧内预测块，从而能够得到当前块内至少一个像素的数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值时，确定所述当前块的[0229]S502：当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值时，确定所述当前块的MIP权重矩阵、所述当前块的移位因子和所述当前块的移位因子；其中，移位因子也可以称为移位比特数、权重移位值等，可用sW、shift或者weightshift表示。[0238]当所述当前块的宽度和高度均等于8、或者所述当前块的宽度和高度之一等于4合MIP输入采样值的数量或者MIP预测块的大小来进一步确定出[0242]将所述移位因子设置为等于所述当前块的宽度或高度与对应于所述当前块的块应的第一预设值等于4，从而可以根据当前块的宽度或高度与对应的第一预设值之间的比[0247]将所述移位因子设置为等于所述当前块的宽度或高度与对应于所述当前块的块[0257]在所述预测模式参数指示使用MIP模式确定当前块的帧内预测值时，确定当前块[0262]根据所述预测参数，确定所述当前块对应的块尺寸索引值以及使用MIP模式预测[0264]也就是说，在得到当前块的块尺寸索引值和MIP模式索引值后，可以利用哈希根据所述块尺寸索引值以及所述MIP模式索引值，确定所述当前块的MIP模式类型索引值，[0270]将所述右移处理后的值与第三预设值进行叠加处理，得到所述当前块的MIP模式[0286]若所述MIP模式索引值大于第三门限值且所述MIP模式索引值小于或等于第四门[0290]IfModeIdx<＝6,ModeCategoryIdx＝5,[0292]IfModeIdx<＝8,ModeCategoryIdx＝6,[0294]IfModeIdx<＝3,ModeCategoryIdx＝5,[0295]elseifModeIdx<＝4,ModeCategoryIdx＝6,ModeIdx<＝6,ModeCategoryIdx＝0,[0299]IfModeIdx<＝8,ModeCategoryIdx＝1,[0301]IfModeIdx<＝3,ModeCategoryIdx＝0,[0302]elseifModeIdx<＝4,ModeCategoryIdx＝1,当所述MIP预测块的尺寸与所述当前块的尺寸相同时，将所述当前块的帧内预测块设置为测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预测值时，确定所述[0314]第一确定单元601，还配置为当所述预测模式参数指示使用基于矩阵的帧内预测前块的宽度或高度与对应于所述当前块的块尺寸索引值的第一[0321]在一些实施例中，所述第一预设值表示从所述当前块的边界获得的MIP输入采样前块的宽度或高度与对应于所述当前块的块尺寸索引值的第二[0324]在一些实施例中，所述第二预设值表示直接使用所述MIP权重矩阵计算获得的所引值与移位因子之间的对应取值；将查询到的移位因子确定为所述当前块对应的移位因记录MIP模式类型索引值与移位因子之间的对应取值；将查询到的移位因子确定为所述当引值以及使用MIP模式预测时的MIP模式索引值；以及根据所述块尺寸索引值以及所述MIP[0338]所述集成的单元如果以软件功能模块的形式实现并非作为独立的产品进行销售案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产[0345]当所述预测模式参数指示使用基于矩阵的帧内预测MIP模式确定当前块的帧内预[0347]可以理解，本申请实施例中的第一存储器802可以是易失性存储器或非易失性存读存储器(ErasablePROM，EPROM)、电可擦除可编程只读存储器(Electri连接动态随机存取存储器(SynchlinkDRAM，SLDRAM)和直接内存总线随机存取存储器[0348]而第一处理器803可能是一种集成电路芯片，具有信号的处理能力。在实现过程中，上述方法的各步骤可以通过第一处理器803中的硬件的集成逻辑电路或者软件形式的指令完成。上述的第一处理器803可以是通用处理器、数字信号处理器(DigitalSignal器等。结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，其组合来实现。对于硬件实现，处理单