CN119473595A 基于混合模型的gpu资源调度优化方法、装置及介质 （广东亿迅科技有限公司）

基于混合模型的GPU资源调度优化方法、装本申请提出了一种基于混合模型的GPU资源一新任务进行GPU资源分配；实时监控任务执行2调用部署在生产环境中的CNN_LSTM混合模型，对所述目标时间序列数据进行预测学根据所述预测结果、所述各种性能指标以及所述任一新任务的目根据所述目标调度策略和所述任一新任务的目标资源需求，为所述任一新任务进行根据所述监控结果，动态调整当前使用的目标调度策略，以实现GPU资源的自适应优参考指定任务的历史运行数据，估算出所述任一新任务的资源需求，得到根据所述任一新任务的相关静态因素，预先分配所述任一新任定期从所述各种第一性能指标和所述各种第二性能指标中拉取根据所述损失值，计算所述损失函数关于所述CNN_LSTM模型架构的模型参数的梯度，并反向传播所述梯度以更新所述模型参数，同时采用所述Adam优化器调整所述模型参数，采用所述验证集对所述初始CNN_LSTM模型进行性能评估，调整所述初始CN采用所述测试集测试调整模型参数后的初始CNN_LSTM模型，根据测3若根据所述任一新任务的目标优先级确定目标优先级之间差异明显，则选若根据所述各种性能指标确定GPU之间的负载差异大，则选择负载均衡调度策略作为若根据所述预测结果确定GPU资源未来的任务负载波动大，则选择预测调度策略作为若所述目标调度策略当前为所述优先级调度策略，当根据所述监控结果确定部分GPU若所述目标调度策略当前为所述负载均衡调度策略，当根据若所述目标调度策略当前为所述预测调度策略，当根据所4[0001]本申请涉及一种数据监控与分析技术领域，尤其涉及一种基于混合模型的GPU资[0003]然而，传统的GPU资源管理系统主要依赖静态调度策略，如优先级调度和负载均[0005]第一方面，本申请实施例提供了一种基于混合模型的GPU资源调度优化方法，包[0007]获取GPU资源当前的各种性能指标，将所述各种性能指标存储为目标时间序列数5[0026]将所述训练集输入到所述CNN_LSTM模型架构中进行前向传播，输出最终预测结[0037]若根据所述各种性能指标确定GPU之间的负载差异大，则选择负载均衡调度策略[0038]若根据所述预测结果确定GPU资源未来的任务负载波动大，则选择预测调度策略6足预设场景的切换条件时，则将所述目标调度策略切换为所述预设场景对应的调度策略，[0051]本申请通过引入CNN_LSTM混合模型，可以结合深度学习[0055]图1为本申请实施例提供的一种基于混合模型的GPU资源调度优化方法的流程示[0056]图2为本申请实施例提供的一种基于混合模型的GPU资源调度优化装置的结构框7[0066]图1示出根据本申请一实施例的基于混合模型的GPU资源调度优化方法的流程[0072]作为一种示例，该历史运行数据可以包括但不限于：指定任务的历史执行时间、8[0081]在本申请实施例中，通过执行步骤S121，可以为GPU资源调度提供必要的背景数[0083]在具体实施时，可以调用DCGMExporter组件收集GPU资源当前GPU级别的各种第[0088]在具体实施时，可以调用Prometheus(是一个开源的服务监控系统和时间序列数据库)定期从NodeExporter和DCGMExporter收集的指标数据源中拉取相关性能指标，存9[0135]在上述前向传播的过程中，可以采用激活函数对任一隐藏层的输出进行线性变向传播该梯度以更新该模型参数，同时采用Adam优化器调整该模型参数，得到初始CNN_初始CNN_LSTM模型的准确率达到预设值(例如90％)以上时，将初始CNN_LSTM模型作为该他服务可以通过HTTP请求调用CNN_LSTM混合模载数据中提取出关键的变化模式)和LSTM的序列处理能力(利用这些变化模式来预测未来实施例中，CNN_LSTM混合模型可以通过CNN用于特征提取以及通过LSTM用于处理时间序列任务优先级差异明显，应选择优先级调度策略作为目标调度策略(即当前使用的调度策GPU之间的负载差异较大时，例如某些GPU处于高负载状态，而其他GPU则空闲或负载较低[0179]在具体实施时，可以通过调用监控系统实时监控任务执行情况和GPU资源使用情施例对此不作限定。比如该预设上限可以设为接近100％的98该预设下限可以设为(如关键任务)的响应时间增加了，可以判断负载均衡调度策略不再适合当前的系统状态，于混合模型的GPU资源调度优化方法(表8中简称为本申请方[0200]图2示出根据本申请一实施例的基于混合模型的GPU资源调度优化装置的结构框[0205]本申请实施例的基于混合模型的GPU资源调度优化装置中的各组成部分的功能可通信接口330可以通过总线相互连接并完成相互间的通信。该总线可以是工业标准体系结Interconnect，PCI)总线或扩展工业标准体系结构(ExtendedIndustryStandard路(ApplicationSpecificIntegratedCircuit，ASIC)、现场可编程门阵列(Field易失性和非易失性存储器两者。其中，非易失性存储器可以包括只读存储器(read_only(doubledatadateSDRAM，DDRSDRAM)、增强型同步动态随机存取存储器(enhanced