CN119311407B 一种基于强化学习的大数据动态分配与优化调度方法 （湖南科技学院）

一种基于强化学习的大数据动态分配与优本发明公开了一种基于强化学习的大数据化时及时对资源分配和调度进行自适应调整；渐收敛至最优策略。本发明通过强化学习的应著提高了系统的资源利用率、调度效率和适应2S1、获取大数据处理系统各计算节点的负载情S4、基于层次化强化学习模型生成最优数据分配HHHt)为高层奖励函数；LLtt)表示低层策略在全局状态St和全局任务规划目标Gt的指导下选择的L)为低层策略的局部奖励函数；和ηL分别为高层策略与低层策略的参数，θH和θL分别为高层策略与低层策略的2.根据权利要求1所述的一种基于强化学习的大数据动态分配与优化调度方法，其特3S11、实时采集大数据处理系统各计算节点的负载情况参数，所述负载情况参数包括3.根据权利要求2所述的一种基于强化学习的大数据动态分配与优化调度方法，其特S22、将标准化后的实时运行数据集D'(t)输入totalS25、利用所述奖励函数R(t)对系统进行评估，并采用近端策略优化算法进行迭代优t44.根据权利要求1所述的一种基于强化学习的大数据动态分配与优化调度方法，其特L为低层策略的折扣因子；S44、高层策略基于系统反馈调整最优全局任务分配5.根据权利要求1所述的一种基于强化学习的大数据动态分配与优化调度方法，其特L为第j个低层策略的局部奖励函数；S75、低层策略通过结合高层策略的反馈调整自身策略优化每个节点的资源分配和任56[0002]现有技术中，大数据处理系统中的资源分配与调度通常依赖于静态或预设的规[0006]本发明的一个目的在于提出一种基于强化学习的大数据动态分配与优化调度方7[0023]S21、对实时运行数据集D/t)进行数据标准化处理，将各个维度的参数进行归一8Ht)为高层奖励函数；划：L)为低层策略的局部奖励函数；[0045]S34、高层策略与低层策略通过协同优化机制共同实现全局规划与局部执行的衔和ηL分别为高层策略与低层策略的参数，θH[0048]S35、在每次任务执行后，高层策略和低层策略都会基于系统的反馈进行策略更9LL为第j个低层策略的局部奖励函数；[0064]S75、低层策略通过结合高层策略的反馈调整自身策略优化每个节点的资源分配[0071](1)本发明通过采用层次化强化学习模型，高层策略负责全局任务规划和资源分[0072](2)本发明采用多轮迭代优化机制，利用强化学习中的近端策略优化算法不断优[0073](3)本发明的层次化强化学习模型通过高层策略与低层策略的协同工作实现了全[0075]图1为本发明提出的一种基于强化学习的大数据动态分配与优化调度方法的流程[0076]图2为本发明提出的一种基于强化学习的大数据动态分配与优化调度方法中高层[0078]参考图1_2，一种基于强化学习的大数据动态分配与优化调度方法，包括如下步[0087]S11、实时采集大数据处理系统各计算节点的负载情况参数，负载情况参数包括[0094]S21、对实时运行数据集D/t)进行数据标准化处理，将各个维度的参数进行归一[0102]S25、利用奖励函数R(t)对系统进行评估，并采用近端策略优化算法进行迭代优Ht)为高层奖励函数；划：L)为低层策略的局部奖励函数；[0116]S34、高层策略与低层策略通过协同优化机制共同实现全局规划与局部执行的衔和ηL分别为高层策略与低层策略的参数，θH[0119]S35、在每次任务执行后，高层策略和低层策略都会基于系统的反馈进行策略更LL为第j个低层策略的局部奖励函数；[0135]S75、低层策略通过结合高层策略的反馈调整自身策略优化每个节点的资源分配θH与低层策略θL,j的变化用率突然从60％激增至95同时其网络延迟也从30ms上升至90ms，表现出明显的过载特间被迅速恢复至正常水平。[0155]本发明通过采用层次化强化学习模