CN116227566B 应用于ai芯片的计算图可视化方法、装置、设备及介质 （上海燧原科技股份有限公司）

自由贸易试验区临港新片区业盛路应用于AI芯片的计算图可视化方法、装置、本发明公开了一种应用于AI芯片的计算图取算法模型在指定AI芯片下所对应的任意深度学习框架所生成的初始计算图；获取AI芯片信2获取算法模型在指定AI芯片下所对应的任意深度学习框架所生成的初始计算图，其获取AI芯片信息，基于所述AI芯片信息构建与所述初始计算图根据所述第一双向节点图结构体获取计算图结构图、内存使用所述构建与所述初始计算图所匹配的第一双向节点图结构体，包括根据所述第二双向节点图结构体以及所述AI芯片信息获取与所述初始计算图所匹配所述根据所述第二双向节点图结构体以及所述AI芯片信息获取与所述初始计算图所确定所述AI芯片信息中所包含的硬件参数信息以及基于所述AI芯片的底层硬件算子根据所述第三双向节点图结构体、所述硬件参数信息以及所述底层将所述第二双向节点图结构体中指定类型的节点进行删除，获取所述简化后的节点，将所述第二双向节点图结构中指定形式的节点描述进行删除，获根据所述简化后的节点、所述简化后的节点描述和所述节点依赖述硬件参数信息以及所述底层硬件算子信息获取与所述初始计算图所匹配的第一双向节根据所述硬件参数信息和所述底层硬件算子信息对所述第三双向节点图结构体进行根据所述简化后的节点、所述简化后的节点描述、所述节点依赖3将各所述简化后的节点描述和所述节点运行信息，添加到所述初始根据所述节点依赖关系获取各指定节点的相邻节点，并根据所根据各节点的预估运行时间确定同一名称节点的运行时间占比，按照所述节点数量对所述计算图结构图顺次进行切分获取切分计算图结构图，其中，接收针对所述切分计算图结构图的可视化展示指令，其中，根据所述可视化展示指令将与所述指定标识匹配的切分计算图结根据所述搜索指令对所述计算图结构图进行搜索获取关键节点在所述计算图结构图初始计算图获取模块，用于获取算法模型在指定AI第一双向节点图结构体构建模块，用于获取AI芯片信息，基于所可视化展示模块，用于根据所述第一双向节点图结构体获取计算图结所述第一双向节点图结构体构建模块，用于对所述初始计算图中的根据所述第二双向节点图结构体以及所述AI芯片信息获取与所述初始计算图所匹配所述第一双向节点图结构体构建模块，还用于根据所述第二双向节点4确定所述AI芯片信息中所包含的硬件参数信息以及基于所述AI芯片的底层硬件算子根据所述第三双向节点图结构体、所述硬件参数信息以及所述底层8.一种计算机设备，包括存储器、处理器及处理器执行时实现如权利要求1_6中任一5[0002]现有的人工智能(ArtificialIntelligence，AI)芯片通常会应用于神经网络模任意深度学习框架所生成的初始计算图中包括所述算法模型6[0018]图6是本发明实施例三提供的一种应用于AI芯片的计算图可视化装置的结构示意[0022]图1为本发明实施例一提供的一种应用于AI芯片的计算图可视化方法的流程图，法模型的节点和节点描述。此时所获取的初始计算图具体可以是一种中间表达源码的形=dense<0>:tensor<1xi64>,index_vector_dim＝1:i64,offset_dims＝dense<1>:tensor<1xi64>,start_index_map＝dense<0>:tensor<1xi64>,indices_are_sorted＝false,name＝“gather.278”,o7[0030]根据硬件参数信息和底层硬件算子信息对第三双向节点图结构体进行节点遍历一双向节点图结构体时，首先对所获取的第二双向节点图结构体按照指定规则进行简化，指定规则可以是将第二双向节点图结构体中指定类型的节点以及指定形式的节点描述进节点描述和节点依赖关系构建出第三双向节8点图结构体所获取的节点运行信息构建出第一双向节而并不对内存使用峰值图中各节点的内存使用峰值的具体数9行时间占比可以构建如图4所示的节点运行时间[0046]本申请通过获取算法模型在指定AI芯片下所对应的任意深度学习框架所生成的[0048]图5为本申请实施例二提供的一种应用于AI芯片的计算图可视化方法的流程图，户从结构复杂节点众多的计算图结构图中，快速查找出根据实际需求需要重点关注的节[0058]本申请通过获取算法模型在指定AI芯片下所对应的任意深度学习框架所生成的[0060]图6为本发明实施例三提供的一种应用于AI芯片的计算图可视化装置的结构示意[0061]初始计算图获取模块310，用于获取算法模型在指定AI芯片下所对应的任意深度信息以及底层硬件算子信息获取与初始计算图所匹配[0072]将第二双向节点图结构中指定形式的节点描述进行删除，获取简化后的节点描[0083]根据可视化展示指令将与指定标识匹配的切分计算图结构以及内存使用峰值图[0085]根据搜索指令对计算图结构图进行搜索获取关键节点在计算图结构图中的目标序以及模块，如本发明实施例中的应用于AI芯片的计算图可视化方法对应的程序指令/模[0090]获取算法模型在指定AI芯片下所对应的任意深度学习框步包括相对于处理器610远程设置的存储器，这些远程存储器可以通过网络连接至计算机[0094]输入装置630可用于接收输入的数字或字符信息，以及产生与计算机设备的用户令在由计算机处理器执行时用于执行一种应用于AI芯片的[0097]获取算法模型在指定AI芯片下所对应的任意深度学习框[0100]当然，本发明实施例所提供的一种包本发明不限于这里所述