CN119418175A 图像处理方法及相关方法、装置、电子设备和存储介质 （安徽聆思智能科技有限公司）

本申请公开了一种图像处理方法及相关方基于当前设备上量化工具对部署在当前设备的2提取待处理图像的图像特征表示，并基于当前设备上量化工具对部署基于所述量化工具对所述临时处理结果进行解量化，得到所述待处在所述图像处理模型的每一轮迭代中：基于所述图像处理基于所述图像处理模型中所述权重参数和所述裁剪系数在所述裁剪训练结束之后的基于按照所述第二范围裁剪之后的图像处理模型进行量化训个网络层分别初始化有用于量化输入参数/输出参数的第一缩放因子，且对于任一所述网为所述网络层初始化目标参数的统计变量，3基于所述统计变量的当前数值和所述最大绝对值进行加权，得到所以在预设数值范围内遍历所得数值作为2的指数次方，得到所述权重参数的候选缩放基于所述权重参数以及利用所述候选缩放因子对所述权重参数进行量化之后再解量基于各个所述候选缩放因子的量化偏差，选择所述候选缩放因子作9.根据权利要求2或6所述的方法，其特征提取待处理语音的语音特征表示，并基于当前设备上量化工具对部署基于所述量化工具对所述临时处理结果进行解量化，得到所述待处提取待处理语句的语句特征表示，并基于当前设备上量化工具对部署基于所述量化工具对所述临时处理结果进行解量化，得到所述待处提取量化模块，用于提取待处理图像的图像特征表示，并基于当前设备4模型处理模块，用于基于所述第一量化模型处理所述图像特征解量化模块，用于基于所述量化工具对所述临时处理结果进行解量化提取量化模块，用于提取待处理语音的语音特征表示，并基于当前设备模型处理模块，用于基于所述第二量化模型处理所述语音特征解量化模块，用于基于所述量化工具对所述临时处理结果进行解量化提取量化模块，用于提取待处理语句的语句特征表示，并基于当前设备模型处理模块，用于基于所述第三量化模型处理所述语句特征解量化模块，用于基于所述量化工具对所述临时处理结果进行解量化至少存储有程序指令，所述处理器用于执行所述程序指令以实现权利要求1至10任一项所述程序指令用于实现权利要求1至10任一项所述的图像处理方法，或权利要求11所述的语5[0004]通常情况下，浮点训练之后的神经网络模型需要通过量化技术转化为低比特模678此对图像处理模型具体所执行的图像处理任务以及网络模型结构不做限定。需要说明的实施例考虑到对某组数据进行量化时，若其满足均匀分布其量化误差往往更小，故本公开实施例期望权重参数的分布与均匀分布更加接近。若某组数据X在[_T,T]的区间内满足均此对裁剪系数的初始值不做限定。用第一范围对权重参数weight进行裁剪之后权重参数clip_weight可以表示为：clip_weight=weight.clip(min=-clip_data,max=clip_data)……（2）9入张量，return表示线性层linear的返回内容（即输出结果即按照原本权重参数self.weight以及原本偏置参数self.bias处理输入张量input:Tensor所得到结果：linear其前向推理时若经裁剪则其forward函数可以表示为：说明的是，量化训练开始时图像处理模型中权重参数是经裁剪训练结束之后的权重参数。具体来说，可以基于图像处理模型中权重参数和裁剪系数在裁剪训练结束之后的最终值，二范围裁剪之后的图像处理模型进行量化训练，得到用于部署在当前设备的图像处理模[0031]在一个具体的实施场景中，量化训练可以通过诸如基于W4A8（即权重量化为4比需要说明的是，权重参数的量化因子s_w可以根据各个网络层的权重参数weight直接初始abs_max表示统计变量更新后新的当前数值，max(Iinputl)表示输入参数的最大绝对量的更新过程可以表示为：获取图像处理模型处理校准集内样本图像时网络层目标参数的最大绝对值，如此循环往一缩放因子：集内样本图像时网络层目标参数的最大绝对值，直至校准集内各个样本图像均被处理为别初始化有用于量化权重参数第二缩放因子（如前述权重参数的量化因子s_w且对于任数值范围内遍历所得数值作为2的指数次方，得到权重参数的候选缩放因子。需要说明的前述相关描述再次对权重参数进行裁剪，并在裁剪之后参照前述相关描述进一步进行量公开实施例主要说明在语音处理的应用场景下，相较于前述图像处理的应用场景区别之处理结果，进而一方面通过对部署在当前设备的神经网络模型进行量化之后再进行运用，能够尽可能地确保神经网络模型的推理速度，另一方面神经网络模型还至少经裁剪训练，IntegratedCircuit,ASIC）、现场可编程门阵列（Field_ProgrammableGateArray,[0082]上述方案，计算机可读存储介质80实现上述任一图像处或上述任一语音处理方法实施例中的步骤，或上述任一自然语言处理方法实施例中的步单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施方式方案的目以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备可以存储程序代码的介质。[0089]若本申请技术方案涉及个