CN119493949A 子流型稀疏卷积规则表的生成方法、卷积运算方法及装置 （北京算能科技有限公司）

开发区科谷一街8号院8号楼9层901(北京自贸试验区高端产业片区亦庄本申请提供一种子流型稀疏卷积规则表的较输入坐标的偏移量以及滤波器核对应的输出的一组输入坐标的偏移量和输出坐标的偏移量2基于所述滤波器核对应的序列掩膜以及掩膜筛选功能，得到所基于输入坐标的偏移量的数量，生成索引序列，所述索建立所述滤波器核对应的输出坐标的索引与输入针对各第二滤波器核，基于与所述第二滤波器核对称激活的第3将偏移量向量的转置左乘所述输入坐标对应的向量或所基于各滤波器核对应的规则表中输入坐标的索引将各滤波器核对应的激活输入矩阵与对应的滤波器核的基于各滤波器核对应的规则表，将各滤波器核对应激8.一种子流型稀疏卷积规则表的生成装置，其第二偏移量计算模块，用于计算所述输入坐标在偏移量比较模块，用于比较输入坐标的偏移量以及滤波器核对应的输出坐标的偏移4[0001]本申请涉及深度学习技术领域，尤其涉及一种子流型稀疏卷积规则表的生成方5第二偏移量计算模块，用于计算所述输入坐标在各滤波器核中对应的输出坐标，图2为本申请一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意6图5为本申请另一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意图6为本申请又一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意括较多值为0的数据，为了减少卷积计算时的通道数，仅对点云数据中非零值进行卷积计[0022]下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述7[0028]为了适应TPU的计算特性和内存访问特性，本申请实施例提供了一种基于掩膜的[0029]图2为本申请一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意8在各局部内存对应的独立计算单元中并行计算输入坐标的偏移量，具体可以通过调用INT32的矩阵乘指令，将输入坐标对应的向量左乘一个预设的向量，得到输入坐标的偏移入数据的输入坐标的偏移量，以基于非零值的输入数据的输入坐标的偏移量进行后续计[0043]输入坐标存储于TPU的多个局部内存中，可以基于各局部内存的加法计算单元并[0047]其中，所述序列掩膜中不为0的元素表示对应的一组输入坐标的偏移量和输出坐[0048]在得到各输入坐标的偏移量以及输入坐标在各滤波器核对应的输出坐标的偏移9下该非零值输入数据的输入坐标对应的输出坐标的偏移量为[5,7,9,11,16]，则以输[0057]由于子流型稀疏卷积具有对称激活的特性，对于网络中对称激活的两个滤波器[0059]在得到网络中各滤波器核对应的规则表之后，基于各规则表进行子流型卷积运[0060]本实施例提供的子流型稀疏卷积规则表的生成方法，在TPU上实现了子流型稀疏标与输出坐标的对应关系，进而基于该对应关系建立输入坐标与输出坐标索引的映射关[0061]图5为本申请另一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意[0065]其中，所述序列掩膜中不为0的元素表示对应的一组输入坐标的偏移量和输出坐则表的生成方法还可以包括基于生成的规则表进行子流型稀疏卷积运算的步骤，即步骤[0085]步骤S509，将各滤波器核对应的激活输入矩阵与对应的滤波器核的权重矩阵相波器核的激活输出数据对应同一输出坐标的索引时，将不同的滤波器的激活输出数据叠[0090]图6为本申请又一个实施例提供的子流型稀疏卷积规则表的生成方法的流程示意[0091]如图6所示，本实施例提供的子流型稀疏卷积规则表的生成方法可以包括以下步[0098]可选的，比较输入坐标的偏移量以及所述第一滤波器核对应的输出坐标的偏移[0102]可以将第一滤波器核对应的规则表中输入坐标的索引与输出坐标的索引互换的[0110]在本申请实施例提供的子流型稀疏卷积规则表的生成方法中，由于TPU全局内存的子流型稀疏卷积运算效率降低，通过基于矩阵乘的掩膜筛选替代基于访存的掩膜筛选，的激活输入矩阵；将各滤波器核对应的激活输入矩阵与对应的滤波器核的权重矩阵相乘，[0114]图7为本申请一个实施例提供的子流型稀疏卷积运算过程的示意[0116]图8为本申请一个实施例提供的子流型稀疏卷积规则表的生成装置的示意图，该比较模块830用于比较输入坐标的偏移量以及滤波器核对应的输出坐标的偏移量，得到所的偏移量和输出坐标的偏移量相同；规则表生成模块840用于基于所述滤波器核对应的序计算所述输入坐标在各滤波器核中对应的输出坐标；基于所述输出坐标的维度，[0124]本申请实施例所提供的子流型稀疏卷积规则表的生成装置可执行本申请任意实[0128]本申请一个实施例提供一种计算机可读存储介质，其上存储有者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求书来限