CN119493950A 稀疏卷积规则表的生成方法、运算方法及张量处理单元 （北京算能科技有限公司）

开发区科谷一街8号院8号楼9层901(北京自贸试验区高端产业片区亦庄本申请提供一种稀疏卷积规则表的生成方掩膜中不为0的元素表示对应的一组输入坐标的2针对第一个滤波器核，基于所述第一个滤波器核对应的第一2.根据权利要求1所述的方法，其特征在于，基于所述第一个滤波器核对应的第一掩建立第一个滤波器核对应的激活输出坐标的索引与第一个滤波器核对应的输入坐标述滤波器核对应的输出坐标的偏移量与前一滤波器核对应的激活输出坐标的偏移量的比较结果，确定输入坐标的索引与所述滤波器核对应的激活输出坐标的索引之间的映射关基于所述滤波器核对应的输出坐标的偏移量与之前的滤波器核对应的激活输出坐标对应的第四掩膜为对所述滤波器核对应的第一掩膜和第三掩膜进行3述第二掩膜中取值为1的元素对应的输出坐标为新增的激活输出坐标；所述第三掩膜中取基于所述滤波器核对应的输出坐标的偏移量与之前的滤波器核对应的激活输出坐标基于所述滤波器核对应的输出坐标的偏移量与之前的滤波器核对应的激活输出坐标所述滤波器核对应的第一掩膜与所述波器核对应的第三掩确定所述波器核对应的第二掩膜为所述滤波器核对应的第一掩膜减去所述波器核对将第一个滤波器核对应的激活输出坐标及其从全局内存中读取之前的滤波器核对应的激活输出针对各滤波器核，按照偏移量由小到大的顺序，对所基于排序前和排序后输出坐标的偏移量的位置变化，生基于所述滤波器核对应的第二掩膜矩阵，更新所述滤基于所述序号映射数组各元素的取值，更新所述滤波针对所述滤波器核对应的各输出坐标，判断所述输出坐述滤波器核对应的常量向量为补充向量减去所述滤波器核的4针对所述输出坐标的各个维度，至少两次判断所述输出大于或等于0以及小于或等于所述滤波器核对若各个维度至少两次判断的结果均为是，则所将所述输出坐标的第一中间坐标转换为浮点数并乘以所述步幅的倒数对应的浮点数，基于各滤波器核对应的规则表中输入坐标的索引将各滤波器核对应的激活输入矩阵与对应的滤波器核的基于各滤波器核对应的规则表，将各滤波器核对应激56一掩膜以及所述滤波器核对应的输出坐标的偏移量与前一滤波器核对应的激活输出坐标7括较多值为0的数据，为了减少卷积计算时的通道数，仅对点云数据中非零值进行卷积计[0021]下面以具体地实施例对本申请的技术方案以及本申请的技术方案如何解决上述8[0026]为了适应TPU的内存访问特性，本申请实施例提供了一种基于掩膜的稀疏卷积规则表的生成方法，先计算输入坐标在各滤波器核下的输出坐标并计算各输出坐标的偏移前的滤波器核对应的激活输出坐标的偏移量与之前的滤波器核对应的激活输出坐标的偏[0027]图2为本申请一个实施例提供的稀疏卷积规则表的生成方法的流程示意图，该稀[0032]输入坐标存储于TPU的多个局部内存中，可以基于各局部内存的加法计算单元并9中值为1的元素所在位置处的输出坐标满足整除判定条件。对该滤波器核对应的第一子掩704]之间，通过x坐标分别与对应的上边界和下边界的比较得到x坐标对应的2个掩膜记为x1掩膜和x2掩膜，通过y坐标分别与对应的上边界和下边界的比较得到y坐标对应的2个掩膜记为y1掩膜和掩膜y2，通过z坐标分别与上边界和下边界的比较得到z坐标对应的2个掩a2,,ak]对应的偏移量可以为j为大1小在各局部内存对应的独立计算单元中并行计算输出坐标的偏移量，具体可以通过调用INT32的矩阵乘指令，将输出坐标对应的向量左乘一个预设的向量，得到输出坐标的偏移的掩膜筛选功能，得到第一滤波器核对应的激活输出坐标的索引对应的输[0054]可以将所提取的激活输出坐标及其偏移量存入TPU的全局内存中，以便于后续访滤波器核对应的输出坐标的偏移量与前一滤波器核对应的激活输出坐标的偏移量的比较结果，确定输入坐标的索引与所述滤波器核对应的激活输出坐标的索引之间的映射关系，的输出坐标的偏移量与该激活输出坐标的偏移量，基于比较结果得到第二掩膜和第三掩掩膜则用于描述当前的滤波器核与之前的滤波器[0059]示例性的，图5为本申请一个实施例提供的第二掩膜和第三掩膜生成过程的示意[0062]由于TPU全局内存访问的性能受单次访存数据长度的影响，为了避免出现大量的坐标的第一中间坐标等于所述输出坐标对应的输入坐标加上所述滤波器核对应的常量向量，所述滤波器核对应的常量向量为补充向量减去所述滤波器核的偏移向量得到的差向是否大于或等于0以及小于或等于所述滤波器核对应的空间范围在该维度下的上边界；若[0079]图6为本申请另一个实施例提供的稀疏卷积规则表的生成方法的流程示意图，本[0087]后一激活输出坐标添加的索引可以通过前一激活输出坐标的索引加1的方式得与之前的滤波器核对应的激活输出坐标的偏移量的比较结果以及所述滤波器核对应的第应的输出坐标为新增的激活输出坐标；所述第三掩膜中取值为1的元素对应的输出坐标与基于所述滤波器核对应的输出坐标的偏移量与之前的滤波器核对应的激活输出应的第一掩膜与所述波器核对应的第三掩膜进行与运算，得到所述波器核对应的第四掩[0098]图7为本申请图6所示实施例中第三掩膜和第四掩膜计算过程的示意图，如图7所[0100]由于第三掩膜为通过比较偏移量的方式得到的，第三掩膜中1位置处的输出坐标坐标相同的输出坐标，从而第二掩膜中1位置处的输出坐标为该滤波器核新增的激活输出[0101]通过上述方式得到分别用于表征当前的滤波器核中新增的激活输出坐标以及已滤波器核相同的激活输出坐标的索引与输入坐标的索引[0109]滤波器核新增的激活输出坐标的索引与输入坐标的索引的映射关系以及滤波器所述序号映射数组各元素的取值，更新所述滤波器核对应的规则表中激活输出坐标的索[0131]输出坐标计算模块810用于计算输入坐标在各滤波器核中对应的输出坐标；第一表生成模块850用于针对后续的各滤波器核，基于所述滤波器核对应的第一掩膜以及所述滤波器核对应的输出坐标的偏移量与前一滤波器核对应的激活输出坐标的偏移量的比较结果，确定输入坐标的索引与所述滤波器核对应的激活输出坐标的索引之间的映射关系，前的滤波器核对应的激活输出坐标的偏移量的比较结果以及所述滤波器核对应的第一掩波器核新增的激活输出坐标的索引与输入坐标的索引的映射关系；已有坐标索引映射单同的激活输出坐标的索引与输入坐标的索引应的输出坐标为新增的激活输出坐标；所述第三掩膜中取值为1的元素对应的输出坐标与基于所述滤波器核对应的输出坐标的偏移量与之前的滤波器核对应的激活输出应的第一掩膜与所述波器核对应的第三掩膜进行与运算，得到所述波器核对应的第四掩所述序号映射数组各元素的取值，更新所述滤波器核对应的规则表中激活输出坐标的索所述输出坐标在该维度下的坐标值是否大于或等于0以及小于或等于所述滤波器核对应的[0143]本申请实施例所提供的稀疏卷积规则表的生成装置可执行本申请任意实施例所[0145]本申请实施例还提供一种张量处理单元，该张量处理单元用于进行稀疏卷积运[0147]本申请一个实施例提供一种计算机可读存储介质，其上存储有者适应性变化遵循本申请的一般性原理并包括本申请未公开的本技术领域中的公知常识且可以在不脱离其范围进行各种修改和改变。本申请的范围仅由所附的权利要求书来限