CN113867799B 计算装置、集成电路芯片、板卡、电子设备和计算方法 （上海寒武纪信息科技有限公司）

本披露公开了一种计算装置、集成电路芯例如人工智能领域在内的各类数据处理领域运算的运行效率，从而降低运算的整体开销和成2一组或多组流水运算电路，其配置成根据解析计算指令后所其中所述计算指令包括描述符的标识和/或描述符的内容，所述描述符的内容包括表所述数据存储空间在N个维度方向的至少一个方向上的尺寸、所述张量数据的存储区处于N个维度方向的对角位置的至少两个顶点相对于数据基准点的位置、所述描述符空间坐标表示的描述符所指示的张量数据中的点或区域的映射位置，N为大于或等于零的其中响应于接收到所述多个运算指令，所述多级运算流水置成基于所述存储地址来执行所述多个运算指令中的所述计算装置还包括数据处理电路，所述数据处理电路包括用于执2.根据权利要求1所述的计算装置，其中所述计算指令的操作码表示由所述多级运算述控制电路还配置成根据所述描述符来确定所述操作数对应数据3.根据权利要求1所述的计算装置，其中所述描述符的内容还包括表示张量数据的地4.根据权利要求3所述的计算装置，其中所述张量数据的地址参数包括所述描述符的5.根据权利要求2所述的计算装置，其中根据多级运算流水线中逐级布置的多个运算6.根据权利要求1所述的计算装置，其中所述多级运算流水线中的各级运算电路配置7.根据权利要求1所述的计算装置，其中所述多组流水运算电路构成多条多级运算流8.根据权利要求1或7所述的计算装置，其中所述多算电路的输出端配置成根据运算指令连接到另一个级或另外多个级的运算电路的输入端，3运算电路的输出端配置成根据所述运算指令连接至所述第二条多级运算流水线的一个级18.一种使用计算装置来执行计算操作的方法，其中所述计算装置包括一组或多组流将所述一组或多组流水运算电路中的每组配置成根据解析计算指令后所获得的多个其中所述计算指令包括描述符的标识和/或描述符的内容，所述描述符的内容包括表所述数据存储空间在N个维度方向的至少一个方向上的尺寸、所述张量数据的存储区处于N个维度方向的对角位置的至少两个顶点相对于数据基准点的位置、所述描述符空间坐标表示的描述符所指示的张量数据中的点或区域的映射位置，N为大于或等于零的响应于接收到多个运算指令，将所述多级运于所述存储地址来执行所述多个运算指令中19.根据权利要求18所述的方法，其中所述计算指令的操作码表示由所述多级运算流成获取所述计算指令并对其进行解析，以获得与所述多个操作相对应的所述多个运算指420.根据权利要求18所述的方法，其中所述描述符的内容还包括表示张量数据的地址21.根据权利要求20所述的方法，其中所述张量数据的地址参数包括所述描述符的数22.根据权利要求19所述的方法，其中根据多级运算流水线中逐级布置的多个运算电路所支持的功能来预先确定所述操作码以及其所代23.根据权利要求18所述的方法，其中将所述多级运算流水线中的各级运算电路配置24.根据权利要求18所述的方法，其中所述多组流水运算电路构成多条多级运算流水25.根据权利要求18或24所述的方法，其中所述多级运算流水线中的每级运算电路具算电路的输出端配置成根据运算指令连接到另一个级或另外多个级的运算电路的输入端，27.根据权利要求24所述的方法，其中所述多条多级运算流水线包括第一条多级运算多个级的运算电路的输出端配置成根据所述运算指令连接至所述第二条多级运算流水线28.根据权利要求18所述的方法，其中每级运算电路包括以下中的一个或多个运算器29.根据权利要求18所述的方法，其中所述数据处理电路还包括用于执行数据类型转31.根据权利要求18所述的方法，其中所述数据拼接电路配置成以预定的位长对计算5[0002]在计算系统中，指令集是用于执行计算和对计算系统进行控制的一套指令的集[0003]另外，传统的处理器CPU的运算指令被设计为能够执行基本的单数据标量运算操置成基于所述存储地址来执行所述多个运算指令中的6述多级运算流水线中的至少一级运算电路配置成基于所述存储地址来执行所述多个运算[0012]通过参考附图阅读下文的详细描述，本公开示例性实施方式的上述以及其他目[0016]图3a，3b和3c是示出根据本披露实施例的数据转换电路所执行的矩阵转换示意[0018]图5是示出根据本披露实施例的使用计算装置来执行运算操作的方法的简化流程可以包括用于指示张量的形状的描述符，该描述符用于确定操作数对应数据的存储直址。7组流水运算电路104和第3组流水运算电路106，其中每组所述流水运算电路可以构成本披露上下文中的一条多级运算流水线。以构成第1条多级运算流水线的第1组流水运算电路述描述符用于确定所述操作数对应数据的存前述的多个运算指令可以由对计算装置100接收到的计算指令进行解析来获得，该计算指多级运算流水线中逐级布置的多个运算电路所支持的功能来预先确定所述操作码以及其多个级的运算电路的输出端配置成根据所述运算指令连接至所述第二条多级运算流水线1_2级流水运算可以根据运算指令将其运算结果输入至第2条多级运算流水线中的第2_3级运算指令将其运算结果输入至第3条多级运算流水线中的第3_3级流水运算。在一些场景传递，例如所示出的第2条多级运算流水线中的第2_2级流水运算和第3条多级运算流水线运算电路处接收输入的数据和输出该级运算电路操作的结果。在一条多级运算流水线内，8一个或多个级的运算电路的输出端配置成根据运算指令连接到另一个级或另外多个级的结果可以根据运算指令输入至该条运算流水线器)内部运行的微指令或控制信号，其可以包括算指令result＝conv(ina,inb))或三元运算(例如卷积计算指令result＝conv(ina,inb,可以利用第二级流水运算电路中的加法树对第一级流水运算结果“product”执行加和操作，以获得第二级流水运算结果sum。最后，利用第三级流水运算电路的非线性运算器对9述符存储空间及数据存储空间的具体位置不示的张量数据。在描述符存储空间中，可用地址ADDR0_ADDR31存储描述符的标识，地址[0048]在一种可能的实现方式中，所述基准地址可包括所述数据存储空间的起始地述存储区域在N个维度方向的至少一个方向上的尺寸和/或所述存储区域在N个维度方向的尺寸size_x以及Y轴方向上的尺寸size_y来确定数据块23的描述述符所指示的张量数据在数据存储空间中的起始数据地址PA1(x,y)可以使用下述公式(5)来据描述符的内容以及数据描述位置，确定操作数对应的数据在数据存储空间中的数据地[0084]在一个实施例中，数据处理单元204可以包括数据转换电路206和数据拼接电路为1024比特位宽)，则数据转换电路可以根据运算要求将输入数据转换为较低比特位宽的[0087]在另一些应用场景中，还可以针对执行运算后获得的数据M(例如可以是向量)执行上述的数据拼接操作。假设数据拼接电路可以将数据M偶数行的低256位先以8位比特位先偶数行后奇数行的顺序依次交替布置拆分后的32个奇数行单位数据与32个偶数行单位(2i+1)0披露的存储电路可以包括主存储模块和/或主缓存模块，其中所述主存储模块配置成存储张量运算时，存储电路210可以从利用前述的描述符所确定的存储地址来获取操作数对应[0090]图3a，3b和3c是示出根据本披露实施例的数据转换电路所执行的矩阵转换示意3c示出的水平镜像矩阵中的坐标则是第0行第0列。[0093]基于上述图3的硬件架构，本披露的计算装置可以执行包括前述预处理和后处理并且其包括可以由根据本披露的一个包括三级流水运披露的包括多条运算流水线的硬件架构可以依据计算行效率并减小计算开销。计算装置200，该计算系统还包括多个从处理电路402和用于连接计算装置200和多个从处多个微指令或控制信号)对计算装置中执行前处理操作的数据进行运算，以获得预期的运单元)发送到计算装置中的数据处理单元，以便由数据处理单元中的数据转换电路来对中间结果执行数据类型转换或者以便由数据处理单元中的数据拼接电路来对中间结果执行[0101]图5是示出根据本披露实施例的使用计算装置来执行运算操作的方法500的简化算电路构成一条多级运算流水线，并且该多级运算流水线中包括逐级布置的多个运算电括中央处理器(CentralProcessingUnit，CPU)、图形处理器(GraphicsProcessing路(ApplicationSpecificIntegratedCircuit，ASIC)、现场可编程门阵列(Field一以具体化为人工智能例如神经网络运算的相关运算装置)与外部数据和控制的接口，执行他处理装置也可以和该计算处理装置协作以在计算处理装置或其他处理装置的内部或片上存储装置中无法全部卡还包括对外接口装置706，其配置用于芯片(或芯片封装结构中的芯片)与外部设备712态进行调控。为此，在一个应用场景中，该控制器件可以包括单片机(MicroController云端设备(例如云端服务器)，而功耗小的电子信息，从云端设备的硬件资源中匹配出合适的硬件资源来模拟终端设备和/或边缘端设备间的连接关系而言，前文结合附图所讨论的连接可以是单元或组件之间的直接或间接耦述的各类装置(例如计算装置或其他处理装置)可以通过适当的硬件处理器来实现，例如存储介质(包括磁存储介质或磁光存储介质等)，其例如可以是可变电阻式存储器(ResistiveRandomAccessMemory，RRAM)、动态随机存取存储器(DynamicRandom路配置成基于所述存储地址来执行所述多个运算指令中的对符的数据基准点在所述张量数据的数据存储空[0129]所述数据存储空间在N个维度方向的至少一个方向上的尺寸、所述张量数据的存方向上的偏移量、处于N个维度方向的对角位置的至少两个顶点相对于所述数据基准点的运算电路所支持的功能来预先确定所述操作码以及其所代表级的运算电路的输出端配置成根据运算指令连接到另一个级或另外多个级的运算电路的个级的运算电路的输出端配置成根据所述运算指令连接至所述第二条多级运算流水线的类型转换操作的类型转换电路和/或用于执行数据拼接操作的数[0145]将所述一组或多组流水运算电路中的每组配置成根据解析计算指令后所获得的多个运算指令来执行多级流水运算，其中每组所述流水运算电路构成一条多级运算流水成基于所述存储地址来执行所述多个运算指令中[0152]所述数据存储空间在N个维度方向的至少一个方向上的尺寸、所述张量数据的存方向上的偏移量、处于N个维度方向的对角位置的至少两个顶点相对于所述数据基准点的算电路所支持的功能来预先确定所述操作码以及其的运算电路的输出端配置成根据运算指令连接到另一个级