CN119495008A 一种基于图像的目标检测方法、装置 （深圳比特微电子科技有限公司）

本申请公开了一种基于图像的目标检测方化过程中使得网络层权重和网络层输出的样本2根据卷积神经网络模型量化过程中使得卷积神经网络模型中所有网络层权重和所有网络层输出的样本图像特征数据均衡化的通道拉伸尺度，对所述推理结果进行转将所述卷积神经网络模型其浮点模型中的浮点算子转换为伪量化算将样本图像数据输入至伪量化模型中进行推理，统计各网络层输出根据所统计的数据分布，通过拉伸各网络层中每个通道样本图像将均衡化的权重数据和样本图像特征数据分别使用量化所述通道拉伸尺度由用于拉伸各网络层中该通道样本图像特征数据对该网络层均衡化的权重数据采用通道级量化方式，其中，每个卷对该网络层均衡化的样本图像特征数据采用层级量化方式，其中，所统计该待量化网络层所输出样本图像特征数据分布、3将样本图像数据按照设定比例分成两部分，得到第一样本图像对于该待量化网络层所输出的每一通道样本图像在第一样本图像数据输入至伪量化模型中进行推理的情况下，使在第二样本图像数据输入至伪量化模型中进行推理的情对于第一样本图像数据、第二样本图像数据先后输入至伪量化模型中将该待量化网络层输出的每一通道的样本图像特征数据，按照该通道拉伸尺度根据对该待量化网络层所统计的样本图像根据第二截断值、第二比特位宽，确定用于对样本图像特征数根据第一量化区间的最小值和最大值，控制四舍五入后的第一比值4根据第二量化区间的最小值和最大值，控制四舍五入后的第一比值程中使得卷积神经网络模型中所有网络层权重和所有网络层输出的样本图像特征数据均对于量化模型中的各网络层输出的每一通道的样本图像将该通道的样本图像特征数据除以该通道拉伸尺度，得到该通道定点推理模块，用于利用训练至收敛的用于图像目标检测的转换模块，用于根据卷积神经网络模型量化过程中使得卷积将所述卷积神经网络模型其浮点模型中的浮点算子转换为伪量化算将样本图像数据输入至伪量化模型中进行推理，统计各网络层输出根据所统计的数据分布，通过拉伸各网络层中每个通道样本图像将均衡化的权重数据和样本图像特征数据分别使用量化所述通道拉伸尺度由用于拉伸各网络层中该通道样本图像特征数据10.一种用于图像目标检测的卷积神经网络模型的量化装置，其特征在于，该装置包算子转换模块，用于将所述卷积神经网络模型其浮点模型5模拟推理模块，用于将样本图像数据输入至伪量化模型中进行推理均衡化模块，用于根据所统计的数据分布，通过拉定点化模块，用于确定用于量化的量化参数，将均衡化的6[0007]根据卷积神经网络模型量化过程中使得卷积神经网络模型中所有网络层权重和[0012]根据所统计的数据分布，通过拉伸各网络层中每个通道[0017]所述将所述卷积神经网络模型其浮点模型中的浮点算子转换为伪量化算子，包[0020]所述将均衡化的权重数据和样本图像特征数据分别使用量化参数进行量化，包789[0068]根据所统计的数据分布，通过拉伸各网络层中每个通道量化过程中使得卷积神经网络模型中所有网络层权重和所有网络层输出的样本图像特征[0079]图2为本申请实施例获得训练至收敛的用于图像目标检测的卷积神经网络模型其[0084]图7为本申请实施例对用于图像目标检测的卷积神经网络模型进行量化的量化装[0085]图8为本申请实施例基于图像的目标检测装置或对用于图像目标检测的卷积神经[0088]参见图1所示，图1为本申请实施例基于图像的目标检测方法的一种流程示意[0091]作为另一种示例，训练后的卷积神经网络模型系指所输[0095]根据所统计的数据分布，通过拉伸各网络层中每个通道置上是否存在目标以及目标大小的信息，该信息经过解码等后处理后可得到目标检测信是，网络结构和模型参数被计算机运行时是以计算图算子以及算子参数的方式来实现的。[0103]步骤201，将训练至收敛的卷积神经网络模型其浮点模型中的浮点算子转换为伪[0112]卷积层和归一化层融合是将卷积层和归一化层这两层合[0127]硬件友好的非线性激活函数ReLU会压缩图像特征数据的取值范围，例如小于0的clip()函数表示将数组中的元素控制在一个给定范围内，小于下边界的数值取值为下边min[0134]从计算公式可见，通过round[0139]将样本图像特征数据按照设定比例分为第一样本图像数据和第二样本图像数据[0146]将激活层输出的每个通道图像特征值都按照上述两阶段者激活层输出的样本图像特征数据位于同一水平上，在使用层级量化方式下提高量化精2[0153]将第一卷积层输出的样本图像特征数据x2乘以一尺度s2，[0160]将第二卷积层输出的样本图像特征数据x3乘以一尺度s3，化的第二网络层输出的样本图像特征数据，s3x3表示被均衡化的加法层输出的样本图像特[0176]本步骤中均衡化进行尺度变换的线性操作，可以将其合b为浮点偏置，b_zb)bywwxx[0240]根据所统计的数据分布，通过拉伸各网络层中每个通道测的卷积神经网络模型进行量化的量化装置的另一示意图。该装置包括存储器和处理器，例基于图像的目标检测方法的步骤或获得训练后的用于图像目标检测的卷积神经网络模[0251]上述的处理器可以是通用处理器，包括中央处理器(CentralProce的用于图像目标检测的卷积神经网络模型其量化