GCC-4003-2026 大模型训练公共算力服务计量技术要求_第1页
GCC-4003-2026 大模型训练公共算力服务计量技术要求_第2页
GCC-4003-2026 大模型训练公共算力服务计量技术要求_第3页
GCC-4003-2026 大模型训练公共算力服务计量技术要求_第4页
GCC-4003-2026 大模型训练公共算力服务计量技术要求_第5页
已阅读5页,还剩11页未读, 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

团准Technicalrequirementsformeteringofpubliclargescalemodeltrainingcomputing全球计算联盟发布I 1本文件规定了大模型训练公共算力服务计量的算力计量指标体系、服务计量模式和计量指标测试本文件适用于大模型训练公共算力服务的服务能力评估与计量、计费浮点运算次数floating-pointoperations;每秒浮点运算次数floating-pointoperationspersec分布式并行策略distributedparall注:分布式并行策略主要包括数据并行、模型并行、流水线并行及其组4算力计量指标体系4.1概述大模型训练公共算力服务的计量指标应包含基础设施成本指标与算力执行计4.2基础设施成本指标21台23456),784.3算力执行计量指标础设施所消耗资源、运行时间的相关计量指标见表2。大模型训练公共算力服务包含的多种服务配置参数可具有专有任务复杂度度量参数。计算任务复杂度度量的相关服务参数见表表2算力基础设施所消耗资源、运行时间1卡23次456条7秒381234567895.1概述5.2服务计量模式服务计量宜按照第6章规定的测试方法,获a)按Token计量:以服务过程中处理的Token4服务执行计量确定。平均Token计算基础设施建设成本开销可通过计算集群生命大模型训练公共算力服务单位时间成本可按公——单位时间内的设备折旧成本,应由表1中所述算力服务集群中的平均计算设备数量、单价和——单位时间内的运维事件次数,应由表1中所述运维周期决定;——第次运维事件的资本支出,应由表1中所述运维时间和运维投入决定;对于大模型训练公共算力服务所具备的多种计算任务复杂度参数应独立确定算力基础设施所消耗12345计量指标测试适用于大模型训练公共算力服务上线前对第4章规定的计量指标进行测算和a)预热阶段:根据大模型训练公共算力服务包含的多种服务配置参数进行服务进程初始化,执c)结果计算:分别计算正式测试阶段的各项指标平均值作为计量指标测试结果。大模型训

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论