CN119473637A 一种计算任务规划方法、装置、存储介质及电子设备 （之江实验室）

任务数据对应计算任务所需的存储空间之间的数据对应计算任务所需的存储空间之间的差值2根据参与所述神经网络层计算的计算核的总数量，确定各计算核需对所述计算核需承担的计算任务对应的数据尺寸进行划分，得到子将所述子任务数据的数据尺寸发送给控制核，以使所述控制核若是，根据参与所述神经网络层计算的计算核的总数量，沿所若否，根据参与所述神经网络层计算的计算核的总数量，沿将所述计算核需承担的计算任务对应的数据尺寸，作为待划分数据根据所述神经网络层需要的计算精度和所述划分结果数据的数在所述计算数据包含的输入特征图数据的各张量轴和所述计算数据包含的卷积核参将所述待划分轴的轴长减半，确定所述待划分数据包含的若干个划3划分结果数据的数据尺寸，确定进行所述划分结果数据对应的计算任务所需的存储空间，根据所述划分结果数据的数据尺寸，推理进行所述划根据所述划分结果数据的数据尺寸和所述输出特征图数据的数根据所述总数据尺寸和所述存储位宽的乘积，确定进行所述划分结根据所述划分结果数据的数据尺寸，推理进行所述划分结果数根据所述划分结果数据的数据尺寸、所述输出特征图数据在所述计算数据包含的输入特征图数据的各张量轴和所述计算数据包含的卷积核参核间划分模块，根据参与所述神经网络层计算的计算核的总数量核内划分模块，对所述计算核需承担的计算任务对应的数据尺寸进应用模块，将所述子任务数据的数据尺寸发送给控制核，以使所述机程序被处理器执行时实现上述权利要求1~7任一项机程序，其特征在于，所述处理器执行所述程序时实现上述权利要求1~7任一项所述的方45述计算核的存储容量与进行所述子任务数据对应计算任务所需的存储空间之间的差值最将所述计算核需承担的计算任务对应的数据尺寸，作为待划分数据的数据尺寸，在所述计算数据包含的输入特征图数据的各张量轴和所述计算数据包含的卷积[0011]可选地，根据所述神经网络层需要的计算精度和所述划根据所述划分结果数据的数据尺寸，推理进行所述划分结果数据对应的计算任所述划分结果数据对应计算任务需要存储的总数6神经网络层计算的计算核的总数量，确定所述划分结果数据对应计算任务所需的计算时在所述计算数据包含的输入特征图数据的各张量轴和所述计算数据包含的卷积述子任务数据的数据尺寸向所述计算核进行述计算机程序被处理器执行时实现上述计算[0018]此处所说明的附图用来提供对本说明书的进一步理解，构成本说明书的一部本说明书的示意性实施例及其说明用于解释本说明书，并不构成对本说明书的不当限定。7[0020]本说明书所提供的计算任务规划方法中的所有步骤均可由任何具有计算功能的众核处理器的硬件配置，因此本方法可适用于任何一种类型的众核处理器，如图形处理器规划。8[0035]当该初始切分数据为卷积核参数时，服务器将卷积核参[0036]将卷积核参数的数据尺寸记为M*R*S*C，将各计算核的总数量记为Numore。其9[0040]输入特征图数据或卷积核参数的对应张量的高度轴和宽度轴所对应的数据范围的计算任务之间具有数据依赖，所以本步骤中沿输入特征图数据或卷积核参数的批[0051]所以，服务器可根据一个计算周期进行的计算任务对应[0059]基于上述图1提供的计算任务规划方法，获取待计算的神经网络层的计算数据的[0062]因为输入特征图数据的通道轴的轴长与卷积核参数的通输入特征图数据的通道轴或卷积核参数的通道轴中，选择一个通道轴执行划分操作即可，分优先级，确定输入特征图数据中可划分的张量轴和卷积核参数中可划分的张量轴的顺征图数据的通道轴→输入特征图数据的高度轴→输入特征图数据的宽度轴→卷积核参数的批数量轴→卷积核参数的高度轴→卷积核参数的宽据的通道轴→卷积核参数的批数量轴→输入特征图数据的高度轴→输入特征图数据的宽度轴→卷积核参数的高度轴→卷积核参数的宽据的通道轴→卷积核参数的批数量轴→输入特征图数据的高度轴→输入特征图数据的宽[0082]为了进一步的缩小计算核的存储容量与进行子任务数据对应计算任务所需的存[0097]当该划分结果数据对应计算任务所需的计算时间小于该通信周期，在指定张量明是对指定步长的具体数值不做限制，可根据计算核包含的计算单元的阵列形状进行设长一致，则进行一步增加后的子任务数据的数据尺寸变为：输入特征图数据的数据尺寸N'*H'XW'*(C'+32)、卷积核参数的数据尺寸M'*R'*S'*(C'+32)。[0111]一个卷积融合算子可包含对输入特征图数据的批归一化操作和对批归一化后的程中需要存储的各种数据的存储位置进行规划。核内划分模块204，用于对所述计算核需承担的计算任务对应的数据尺寸进行划[0122]可选地，所述核间划分模块202具体用于判断所述计算数据包含的输入特征图数[0123]可选地，所述核内划分模块204具体用于将所述计算核需承担的计算任务对应的[0124]可选地，所述核内划分模块204具体用于在所述计算数据包含的输入特征图数据[0127]可选地，所述核内划分模块204具体用于在所述计算数据包含的输入特征图数据发展，当今的很多方法流程的改进已经可以视为硬件电路结构的直接改进。设计人员几乎都通过将改进的方法流程编程到硬件电路中来得到相应的硬件电路结构。因此，不能说一个方法流程的改进就不能用硬件实体模块来实现。例如，可编程逻辑器件（ProgrammableLogicDevice,PLD例如现场可编程门阵列（FieldProgrammableGateArr就是这样一种集成电路，其逻辑功能由用户对器件编程来确定。由设计人员自行编程来把路芯片。而且，如今，取代手工地制作集成电路芯片，这种编程也多半改用“逻辑编译器之前的原始代码也得用特定的编程语言来撰写，此称之为硬件描述语言（HardwareDescriptionLanguage，HDL而HDL也并非仅有一种，而是有许多种，如ABEL（AdvancedBooleanExpressionLanguage）、AHDL（AlteraHardwareDescriptionLanguage）、Confluence、CUPL（CornellUniversityProgrammingLanguage）、HDCal、JHDL（JaDescriptionLanguage）等，目前最普遍使用的是VHDL（Very_High_SpeedIntegrated要将方法流程用上述几种硬件描述语言稍作逻辑编程并编程到集成电路中，就可以很容易得到实现该逻辑方法流程的硬件电路。读介质、逻辑门、开关、专用集成电路（ApplicationSpecificIntegratedCircuit，视为既可以是实现方法的软件模块又可以是硬件部件内的结说明书时可以把各单元的功能在同一个或多个软件和[0136]这些计算机程序指令也可存储在能引导计算机或其