CN110489223A 一种异构集群中任务调度方法、装置及电子设备 （北京邮电大学）

本发明实施例提供了一种异构集群中任务形处理器GPU计算单元的执行速率大于该第一子任务在中央处理器CPU计算单元的执行速率，则子任务队列中各个第二子任务与GPU正在执行的2当所述子任务对应的父子任务执行完成时，将所述子任务添加到就绪子任务队列中；针对所述就绪子任务队列中的各个第一子任务，当该第一子任务在GPU计算单元的执根据所述GPU子任务队列中各个第二子任务与GPU正获取所述子任务的部分特征值，所述部分特征值包括以下几项中的部分项：CPU使用通过预先训练的神经协同过滤NCF模型，预测所述子任务的除所述部分特征值之外的3.根据权利要求2所述的方法，其特征在于确定描述所述子任务的子任务类型对应的子任务特征向量和描述待预测特征的特征将所述子任务特征向量与所述子任务隐因子矩阵相乘得到子任将所述子任务隐向量和所述度量隐向量输入所述NCF模所述针对所述就绪子任务队列中的各个第一子任务，当该第一子任务在GPU计算单元根据各个第一子任务的所述加速比的大小，将加速比最大的第一子任务添加至所述5.根据权利要求2所述的方法，其特征在子任务与GPU正在执行的子任务的干扰关系，将各个第二子任务调度至第二子任务对应的3将与所述GPU正在执行的子任务的相似性最低的第二子任计算该第二子任务的特征向量，分别与所述GPU正在执行的各个子任务的特征向量之计算各个余弦相似度的平均值，并将所述平均值的倒所述将与所述GPU正在执行的子任务的相似性最低的第二子任务调度至所述GPU，包针对各个第二子任务，通过该第二子任务的所述部分获取集群层任务队列中各个任务的任务特征信息以及异构集群中各个计算节点的节将各个任务的所述任务特征信息和各个计算节点的所述节点特征信息输入预先训练针对每个任务，将该任务调度至该任务对应的计算节点第一添加模块，用于当所述子任务对应的父子任第二添加模块，用于针对所述就绪子任务队列4第一调度模块，用于根据所述GPU子任务队列中各个务的干扰关系，将各个第二子任务调度至第二子任务对应的目标GPU，针对各个第二子任5Unit，图形处理器)计算单元组成的计算节点连接起来形成高速网络，充分利用混合CPU-[0003]如何调度多个任务以实现最佳的系统吞吐量并且提高异构集群的资源利用率成[0004]本发明实施例的目的在于提供一种异构集群中任务调度方法、[0009]针对所述就绪子任务队列中的各个第一子任务，当该第一子任务在GPU计算单元[0010]根据所述GPU子任务队列中各个第二子任务与GPU正在执行的[0013]通过预先训练的神经协同过滤NCF模型，预测所述子任务的除所述部分特征值之6[0017]确定描述所述子任务的子任务类型对应的子任务特征向量和描述待预测特征的[0021]所述针对所述就绪子任务队列中的各个第一子任务，当该第一子任务在GPU计算单元的执行速率大于该第一子任务在CPU计算单元的执行速率，则将该第一子任务添加至[0029]计算该第二子任务的特征向量，分别与所述GPU正在执行的各个子任务的特征向[0031]所述将与所述GPU正在执行的子任务的相似性最低的第二子任务调[0036]获取集群层任务队列中各个任务的任务特征信息以及异构集群中各个计算节点7[0037]将各个任务的所述任务特征信息和各个计算节点的所述节点特征信息输入预先介质内存储有计算机程序，所述计算机程序被处理器执行时实现第一方面所述的方法步率大于该第一子任务在CPU计算单元的执行速率，则将该第一子任务添加至GPU子任务队将调度至计算节点的任务划分为多个子任务，并根据子任务在GPU计算单元的执行速率于8[0058]异构集群的不确定性以及GPU上多个任务共同执行竞争资源所产生的干扰也可能9[0061]本发明实施例中利用异构集群，CPU-GPU集群处理大规模任务，当任务到达集群个任务的任务特征信息以及异构集群中各个计算节点的节点特征信息为相互独立的任务据子任务的特性以及子任务间的依赖关系，将子任务分配给计算节点上适合的计算单元。强化学习和深度协同过滤实现两阶段任务并行化调度，提高资源的利用率和系统吞吐量，[0068]S105，根据GPU子任务队列中各个第二子任务与GPU正在执行的子任务的干扰关GPU计算单元的执行速率于在CPU计算单元的执行速率，将子任务调度至合适的计算单元，流程图Ti＝G(Ni，Ei)，其中，Ni表示G的顶点集合，Ei表示G的边集合。Ni可以描述为子任务STij和子任务STik的依赖关系，每个子任务STij(STij∈Ni)可以被描述为STij=和分别表示计算节点的CPU利用率、GPU[0083]DQN(DeepQ-Network)a,)表示在状态s,中执行动作a,时预期[0088]对于状态和动作空间都是高维连续的任务来说，使用上述公式(1)来更新是不现通过计算产生动作at，将集群层任务队列中的任务调度到合适的计算节点上，执行动作at[0098]由于任务处理过程中可能会产生具有连续性的样本，如果每次得到样本就更新Qt+1)存储到回放内[0110](9)if第j+1次迭代后循环结束；更新目标神经网络的值targetj＝rj；elsej载调度实现了异构集群中大规模任务处理的并行化，可以提高异构集群中的系统吞吐量，[0121]可以根据各个子任务之间的依赖关系，根据子任务对应的父[0125]一种可选的实施例中，可以根据加速比对就绪子任务队列中的子任务进行[0127]S105，根据GPU子任务队列中各个第二子任务与GPU正在执行的子任务的干扰关子任务队列中第二子任务与GPU正在执行的子任务的之间的干扰，将第二子任务调度到对[0134]该第二子任务的特征向量可以包括该第二子任务对应的CPU使用率、主机内存使[0136]GPU正在执行的各个子任务的特征向量可以包括GPU正在执行的各个子任务对应[0138]可以将第二子任务的特征向量，以及GPU正在执行的各个子任务的特征向量简化[0146]可以在GPU和设备内存的利用率低于预设阈值是，NS将优先级最高的第二子任务GPU计算单元的执行速率于在CPU计算单元的执行速率，将子任务调度至合适的计算单元，[0148]本发明一种可选的实施例中，可以通过神经协同过滤(NeuralCollaborativeFiltering，NCF)确定GPU子任务队列中各个第二子任务与GPU正在执行的子任务的之间的和分[0154]本发明实施例中可以使用性能分析工具NVIDIAProfiler对子任务进行分析，从特征向量STij中任意选择两项获得对应的特征值，得到的这两个特征值即可以理解为部分[0157]本发明实施例中通过维护一个子任务描述矩阵(SubTaskDescriptionMatrix，[0161]A23，确定描述子任务的子任务类型对应的子任务特征向量和描述待预测特征的[0165]NCF模型的输入是子任务的子任务类型对应的子任务特征向量和描述待预测特征[0166]可以将UTxs表示为子任务隐向量us，可以将VTxm表示为度量隐向量vm，其中，veRMK和veRK分别表示子任务隐因子矩阵和度量隐因子矩阵。将子任务隐向量和度量隐向量输入到MPL以学习子任务和度量之间的相互作用，同时将隐向量映射到预测化和其目标值ysm之间的均方损失来执行训练，并且使用正则化来防止NCF模型的过拟有的缺失值之后，利用GPU子任务队列中的子任务和节点上正在执行子任务的特征向量的型结合矩阵分解的线性优势和MLP的非线性优势以将原有的NCF模型中GPU的性能度量参数的两个副本作为新NCF模型中的性能度量参数。[0189]第一调度模块305，用于根据GPU子任务队列中各个第二子任务与GPU正在执行的GPU计算单元的执行速率于在CPU计算单元的执行速率，将子任务调度至合适的计算单元，确定描述子任务的子任务类型对应的子任务特征向量和描述待预测特征的特征类型对应量特征向量与度量隐因子矩阵相乘得到度量隐向量；将子任务隐向量和度量隐向量输入在执行的子任务的相似性；将与GPU正在执行的子任务的相似性最低的第二子任务调度至GPU正在执行的各个子任务的特征向量之间的各个余弦相似度；计算各个余弦相似度的平[0201]第二获取模块401，用于获取集群层任务队列中各个任务的任务特征信息以及异[0202]第二确定模块402，用于将各个任务的任务特征信息和各个计算节点的节点特征[0204]本发明实施例提供的异构集群中任务调度装置是应用上述异构集群中任务调度GPU计算单元的执行速率于在CPU计算单元的执行速率，将子任务调度至合适的计算单元，[0209]上述电子设备提到的通信总线可以是外设部件互连标准(PeripheralComponentInterconnect，PCI)总线或扩展工业标准结构(ExtendedIndust