CN119396585A 一种基于K8s的集群算力资源隔离与调度方法及系统 （方心科技股份有限公司）

区麓谷大道627号麓谷新长海中心A1一种基于K8s的集群算力资源隔离与调度方本发明公开了一种基于K8s的集群算力资源的租户，依托K8sCRD自定义资源机制对资源组进程集保证集群下全部节点上均运行一个Pod的用K8sAPI创建卡数标识的标签，以便后续资源2创建集群账户时按资源组划分：在事先准备好的Kuber结合NodeSelector定向调度实现租户集群资源隔离：在自定义控制器监听集群节点更新事件修改资源组：当集群算力资源扩容引入新的GPU算力资源节点时，则自定义资源组控制器监控集群node节点资源，调用Reflector的2.如权利要求1所述的基于K8s的集群算力资源隔离与调搭建企业场景的K8s集群，其中所述K8s集群包括数台GPU资源4卡的节点和8卡的节点以及纯CPU的三台主节点，在集群管理平台上批量给4卡的节点和8卡的节点打上相应的节3.如权利要求2所述的基于K8s的集群合NodeSelector定向调度实现租户集群资源隔K8s调度中心在预选阶段过滤掉不符合Pod创建请求基本要求后，中NodeSelector属性选择Kubernete4.如权利要求3所述的基于K8s的集群算力资采用HTTPListAPI从K8sAPIServer中获取当调用HTTPWatchAPI对node节点资源变化进行监控，并把List和Watch收到的资源通过ResourceEventHandlerFuncs的UpdateFunc回调接口分发点GPU资源监控的守护进程集使新节点添加到K8s集群内，自动部署GPU监控服务并自动上3当集群算力资源缩容移除失效的GPU算力节点且监测到节点资源删除变化后，则调用划分模块，用于创建集群账户时按资源组划分：在事先准备隔离模块，用于结合NodeSelector定向调度实现第一监听模块，用于采用自定义控制器监听集群用户绑定资第二监听模块，用于采用自定义控制器监听集群节点更新7.如权利要求6所述的基于K8s的集群算力资源隔离与调度搭建单元，用于搭建企业场景的K8s集群，其中所述K8s集群包括数台8.如权利要求7所述的基于K8s的集群算力调度单元，用于采用K8s调度中心在预选阶段过滤掉不符合Pod创建请求基本要求后，在优选阶段根据请求中NodeSelector属性选择Kubernetes集群中带这类标签的节点作为9.如权利要求8所述的基于K8s的集群算力资更改单元，用于用户端根据需求更换绑定的资源组，将之前创建的Pod都进行删除重4第一调用单元，用于调用HTTPWatchAPI对node节点资源变化进Watch收到的资源通过ResourceEventHandlerFuncs的UpdateFunc回调接口分发给自定义监测单元，用于当监测到node节点资源发生变化后，则触发自定义控第二调用单元，用于当集群算力资源缩容移除失效的GPU算力节点且监测到节点资源5[0001]本发明涉及容器安全管理技术领域，尤其公开了一种基于K8s的集群算力资源隔[0003]根据隔离的安全级别，可以将集群分为软隔离(SoftMulti_tenancy)和硬隔离型训练集无法使用8卡集群而出现无法调度的情况，所以如何针对单个集群内的资源做资[0006]本发明提供了一种基于K8s的集群算力资源隔离与调度方法及系统，旨在解决现[0007]本发明的一方面涉及一种基于K8s的集群算力资源隔离与调度方法，包括以下步户端创建的Pod按照设定的K8s调度器优选调度规则全自动完成调度，最终运行在6GPU算力资源节点时，则自定义资源组控制器监控集群node节点资源，调用Reflector的[0013]搭建企业场景的K8s集群，其中K8s集群包括数台GPU资源4卡的节点和8卡的节点以及纯CPU的三台主节点，在集群管理平台上批量给4卡的节点和8卡的节点打上相应的节请求中NodeSelector属性选择Kubernetes集群中带这类标签的节点作为候选节点进行调[0024]调用HTTPWatchAPI对node节点资源变化进行监控，并把List和Watch收到的资源通过ResourceEventHandlerFuncs的UpdateFunc回调接[0025]当监测到node节点资源发生变化后，则触发自定义控制器的处理机制更新资源[0026]当集群算力资源缩容移除失效的GPU算力节点且监测到节点资源删除变化后，则7运行在Kubernetes集群的nod群算力资源扩容引入新的GPU算力资源节点时，则自定义资源组控制器监控集群node节点执行迁移，将原来资源组下集群节点还在运行中的容器迁移到新的资源组下集群节点上，[0044]第一调用单元，用于调用HTTPWatchAPI对node节点资源变化进行监控，并把List和Watch收到的资源通过ResourceEventHandlerFuncs的UpdateFunc回调接口分发给[0046]第二调用单元，用于当集群算力资源缩容移除失效的GPU算力节点且监测到节点8[0048]本发明公开一种基于K8s的集群算力资源隔离与调度方法及系统，通过创建集群定向调度实现租户集群资源隔离：在无干预的情况下，由在用户端创建的Pod按照设定的控制器监控集群node节点资源，调用Reflector的ListAndWatch机制。本发明提供的基于[0050]资源组能有效划分当前集群内的资源，按照不同的算力行GPU(GraphicsProcessingUnit，图形处理器)脚本读取卡数并调用K8sAPI离。在调度选择阶段，利用不同资源组下节点选择器NodeSelector(节点选择器)，通过kubernetes的label_selector机制进行节点选择，由scheduler调度策略9[0067]如图1所示，本发明第一实施例提出一种基于K8s的集群算力资源隔离与调度方[0069]资源组能有效划分当前集群内的资源，按照不同的算力源如GPU时，也可能需要将Pod调度到指定节点上，可以通过给node打标签，与Pod的[0075]利用extendscheduler插件方式自定义GPU_scheduler_extender调度插件。[0080]5、如果内置的Filter策略执行成功，scheduler通过http调用Extender注册的据Pod调度请求中NodeSelector属性选择集群中带这类标签的节点作为候选节点进行调度。通过的加入到canSchedule，未通的加入到canNotSchedule，返回结果在容引入新的GPU算力资源节点时，则自定义资源组控制器监控集群node节点资源，调用Reflector的ListAndWat卡的节点以及纯CPU的三台主节点，在集群管理平台上批量给4卡的节点和8卡的节点打上集群管理平台上批量给4卡和8卡节点打上选阶段根据请求中NodeSelector属性选择Kubernetes集群中带这类标签的节点作为候选[0102]步骤S310、用户端根据需求更换绑定的资源组，将之前创建的Pod都进行删除重[0108]ListAndWatc收到的资源通过ResourceEventHandlerFuncs的UpdateFunc回调接口分发给自定义控制和Watch的收到的资源通过ResourceEventHandlerFuncs的UpdateFunc这个回调接口分发进程集使新节点添加到集群内也会自动部署GPU监控服务并自动上报算力资源卡数的信[0113]步骤S440、当集群算力资源缩容移除失效的GPU算力节点且监测到节点资源删除在事先准备好的Kubernetes集群资源上，按照分类批量给node节点打上特殊资源属性标入新的GPU算力资源节点时，则自定义资源组控制器监控集群node节点资源，调用Reflector的ListAndWatch数台GPU资源4卡的节点和8卡的节点以及纯CPU的三台主节点，在集群管理平台上批量给4时进行拦截，查询对应的资源组信息，添加NodeSelector属性，再转发创建请求给ListAPI从K8sAPIServer中获取当前的资源列表。第一调用单元，用于调用HTTPWatch第二调用单元，用于当集群算力资源缩容移除失效的GPU算力节点且监测到节点资源删除[0120]本实施例提供的基于K8s的集群算力资源隔离与调度方法及系统，同现有技术相Pod按照设定的K8s调度器优选调度规则全自动完成调度，最终运行在Kubernetes集群的施例提供的基于K8s的集群算力资源隔离与调度方法及系统，通过引入资源组的概念，对而实现单个集群内部的资源隔离所取得的有益效果[0122]资源组能有效划分当前集群内的资源，按照不同的算力