《人工智能 算力平台技术要求》(征求意见稿)核心概要_第1页
《人工智能 算力平台技术要求》(征求意见稿)核心概要_第2页
《人工智能 算力平台技术要求》(征求意见稿)核心概要_第3页
《人工智能 算力平台技术要求》(征求意见稿)核心概要_第4页
《人工智能 算力平台技术要求》(征求意见稿)核心概要_第5页
全文预览已结束

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

《人工智能算力平台通用技术要求》(征求意见稿)核心概要标准编号:T/CESAXXXX—202X(正式发布版T/CESA1394-2025)

归口:中国电子工业标准化技术协会;提出:中国电子技术标准化研究院

定位:国内首个面向通用AI算力平台团体标准,规范智算底座、算力调度、训推一体化、运维、安全、绿色低碳,适用于智算中心、行业AI算力平台、政企自建算力集群的规划、建设、验收、运维。说明:征求意见稿为2024年底公开版本,后续定稿形成正式团体标准T/CESA1394-2025,架构主体保持一致。一、标准目录(征求意见稿原版框架)1范围

2规范性引用文件

3术语和定义

4缩略语

5概述(平台参考架构)

6通用要求

7基础设施层技术要求

8算力资源层技术要求

9算力调度平台层技术要求

10AI支撑服务层技术要求

11应用服务层技术要求

12运维管理要求

13安全要求

14绿色低碳要求

附录A(资料性)典型算力平台部署拓扑二、五层参考架构(核心框架)1)基础设施层机房、供电、制冷、网络布线、动环监控供电:双路冗余供电、不间断电源、故障切换制冷:支持高密度GPU/AI加速节点散热,宜采用间接蒸发冷却、液冷网络:区分管理网、存储网、算力互联网;支持RDMA、高速无损网络动环:温度、湿度、能耗、漏水、烟感实时采集告警2)算力资源层(硬件底座)异构算力资源池:GPU、NPU、ASIC、CPU、存储集群

强制/推荐要点纳管多厂商异构AI加速器,支持统一硬件抽象存储分层:热存储(并行文件系统)、温冷存储分级算力节点硬件故障上报、硬件健康巡检支持算力资源隔离(物理隔离/虚拟化隔离)3)算力调度平台层(平台核心)算力资源统一调度、资源编排、任务管理资源管理:算力注册、计量、配额、弹性扩缩容任务调度:支持训练任务、推理任务混合调度;分布式训练调度;容错重调度资源虚拟化与切分:算力卡、显存虚拟化、多任务共享加速卡算力计量:算力时长、显存占用、网络流量统一计费指标集群联邦调度(可选):跨集群算力协同4)AI支撑服务层(MLOps基础能力)面向AI开发、训练、模型管理、推理部署环境管理:容器镜像、深度学习框架托管(PyTorch/TensorFlow等)数据管理:数据集挂载、数据缓存、数据版本模型管理:模型仓库、版本管理、模型转换、量化压缩训练服务:单机训练、分布式训练任务提交、日志可视化推理服务:模型部署、动态批处理、负载均衡、A/B测试工作流:实验流水线、任务依赖编排5)应用服务层北向开放API、租户门户、算力服务门户租户管理、权限分级北向RESTAPI/SDK,便于上层业务系统对接任务看板、账单、资源自助申请三、关键强制性与推荐技术要求6通用要求平台具备高可用,关键组件支持集群冗余;核心服务故障自动恢复支持多租户,租户间资源隔离、数据隔离提供标准化北向接口,具备可观测能力兼容国产异构算力与主流开源AI软件栈12运维管理要求全链路监控:硬件、算力任务、网络、存储、能耗指标日志集中采集、任务全生命周期追踪故障预警、自动告警、故障自愈策略算力资源利用率统计、报表输出13安全要求(重点)身份认证、访问权限最小权限原则算力任务隔离,防止租户越权访问数据传输与存储加密;模型资产保护操作审计日志,不可篡改抵御资源抢占、恶意任务攻击满足网络安全等级保护相关基线14绿色低碳要求采集PUE、算力能效比(每瓦算力输出)支持算力负载调度优化降低能耗支持定时闲时降负载、节能策略四、征求意见稿与正式版T/CESA1394-2025主要差异简述部分可选能力措辞调整,区分“应/宜”;完善异构算力适配、大模型分布式训练相关描述;细化算力计量指标、能效评价指标;优化安全章节与现行数据安全法规对齐。五、获取原文渠道官方渠道:中国电子工业标准化技术协会(CESA)官网标准公告;全

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论