CN113419941B 评估方法及装置、电子设备和计算机可读存储介质 (阿里巴巴创新公司)_第1页
CN113419941B 评估方法及装置、电子设备和计算机可读存储介质 (阿里巴巴创新公司)_第2页
CN113419941B 评估方法及装置、电子设备和计算机可读存储介质 (阿里巴巴创新公司)_第3页
CN113419941B 评估方法及装置、电子设备和计算机可读存储介质 (阿里巴巴创新公司)_第4页
CN113419941B 评估方法及装置、电子设备和计算机可读存储介质 (阿里巴巴创新公司)_第5页
已阅读5页,还剩27页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

标算法的评分结果和运行目标算法的物理硬件据所述测试的测试数据获得所述目标算法的性法的评分结果和运行该目标算法的物理硬件信息作为输入来采用预置的负载对目标算法进行法特征的评分结果和硬件信息一并作为输入来2获取目标算法的评分结果和运行所述目标算法的物理硬件信息;采用至少一个预置的算法负载根据所述评分结果和所述物理硬件信息对所述目标算根据所述测试的测试数据获得所述目标算法的性能评估结果,其中所使用所述迭代测试的单次测试的时间、所述目标算法的神经网述目标算法的计算单元的数据来计算所述计算单元执行所述目标算所述单次测试内执行的核心函数数量、用来进行计算的核心与操作内存所述单次测试内执行所述目标算法的执行时长、所述迭代测试的总执计算每个时间分片中所述物理硬件的计算单元的计算时间作为计算每个时间分片中所述物理硬件的算力消耗作为采集模块,用于采用至少一个预置的算法负载根据所述评分结3分析模块,用于根据所述测试的测试数据获得所述目标算述性能评估结果指示目标算法的特征与物理硬件性能之间的4就会有新的人工智能芯片发布,这些新的技术发展都会对人工智能的应用带来不同的影[0007]采用至少一个预置的算法负载根据所述评分结果和所述物理硬件信息对所述目5用针对目标算法的评分结果和运行该目标算法的物理硬件信息作为输入来采用预置的负[0018]上述说明仅是本申请技术方案的概述,为了能够更清楚就会有新的人工智能芯片发布,这些新的技术发展都会对人工智能的应用带来不同的影的执行情况,能够按照时间轴分析GPU的性能瓶颈和算子的算力分析;某公司提供的面向6算任务的情况下,这样的淡出基于单个硬件的分析工具就无法给出全面性的分析和建议,现有方案都是面向设备的利用率进行分析,针对硬件设备的微架构层面的分析,计算/传结果以及反映了运行该目标算法的硬件规格的硬件信息作为本申请实施例的评估方法的7些评估结果都能够反映该分布式计算系统的计算面在图1中所示的展示部分展示给用户,另一方面还可以基于这些评估结果来计算优化建样的优化建议展示给用户。如增加内存容量这样的硬件资源调整建议并发送给运营方或硬件提供方参考或指导他们8[0043]图2为本申请提供的评估方法一个实施例的流程图,该方法的执行主体可以为具以获取到反映了目标算法本身的算法特征的评分结果以及反映了运行该目标算法的硬件[0053]图3为本申请提供的评估方法另一个实施例的流程图,该方法的执行主体可以为9具有算法评估能力的各种终端或服务器设备,也可以为集成在这些设备上的装置或芯片。照构成计算系统的集群的组网形态,可以获取服务器之间的通信带宽或者GPU之间的通信S302获取的反映了运行该目标算法的硬件规格的硬件信息作为本申请实施例的评估方法而在进行分析时可以根据采集到的测试数据来适配相应的分析模标算法的计算单元的数据来计算计算单元执行所述目标算法算力是否均衡,或者与根据分析模型确定的目标算法的算力需求的理论值的偏差是否过S308中获得的性能评估结果生成算法或硬件调整建议方案。步骤S302中获取的硬件信息以及步骤S304中使用的算法的信息来进一步分析该评估结果如增加内存容量这样的硬件资源调整建议并发送给运营方或硬件提供方参考或指导他们至少一个的计算结果来生成针对目标算法的调整方案输出给用户或算法的使用方来参考。一步根据该计算过程中迭代的哪个步骤时间过长或者是否是迭代次数过多来确定是该目[0075]由于步骤S304-S308中获得的性能评估结果可以指示目标算法的特征与物理硬件可以根据能够反映目标算法的性能情况的评估结果来根据评估的过程数据进一步生成硬[0078]图4为本申请提供的评估装置实施例的结构示意图,可用于执行如图2和图3所示[0081]获取模块41获取到上述输入就可以获取到反映了目标算法本身的算法特征的评分结果以及反映了运行该目标算法的硬件规格的硬件信息作为本申请实施例的评估方法[0082]采集模块42可以用于采用至少一个预置的算法负载根据评分结果和物理硬件信[0089]分析模块43可以进一步包括算力分析单元431,用于使用迭代测试的单次测试的[0090]本申请实施例中,算力分析单元431可以考虑采集模块42进行迭代测试的单次测[0092]效率分析单元432可以用于对单次测试按预定时间单元进行时间分片,并且计算每个时间分片中物理硬件的计算单元的计算时间作为性[0093]算力消耗分析单元423可以用于对单次测试按预定时间单元进行时间分片,计算每个时间分片中所述物理硬件的算力消耗作为性[0095]算力消耗分析单元433同样可以在进行时间分片之后,计算每个时间分片中的算[0097]由于评估模块获得的性能评估结果可以指示目标算法的特征与物理硬件性能之模块41获取的硬件信息以及采集模块42执行测试使用的算法的信息来进一步分析该评估增加内存容量这样的硬件资源调整建议并发送给运营方或硬件提供方参考或指导他们对432和算力消耗分析单元433的至少一个的计算结果来生成针对目标算法的调整方案输出者是否是迭代次数过多来确定是该目标算法中的某个算子计算效率较低还是收敛参数设分析单元432和算力消耗分析单元433生成的评估结果以及提供的建议来对算法进行调整,可以根据能够反映目标算法的性能情况的评估结果来根据评估的过程数据进一步生成硬辑门阵列(FPGA)、嵌入式神经网络处理器(NPU)或人工智能(A

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论