版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
团准Technicalrequirementsformeteringofpubliclargescalemodeltrainingcomputing全球计算联盟发布I 1本文件规定了大模型训练公共算力服务计量的算力计量指标体系、服务计量模式和计量指标测试本文件适用于大模型训练公共算力服务的服务能力评估与计量、计费浮点运算次数floating-pointoperations;每秒浮点运算次数floating-pointoperationspersec分布式并行策略distributedparall注:分布式并行策略主要包括数据并行、模型并行、流水线并行及其组4算力计量指标体系4.1概述大模型训练公共算力服务的计量指标应包含基础设施成本指标与算力执行计4.2基础设施成本指标21台23456),784.3算力执行计量指标础设施所消耗资源、运行时间的相关计量指标见表2。大模型训练公共算力服务包含的多种服务配置参数可具有专有任务复杂度度量参数。计算任务复杂度度量的相关服务参数见表表2算力基础设施所消耗资源、运行时间1卡23次456条7秒381234567895.1概述5.2服务计量模式服务计量宜按照第6章规定的测试方法,获a)按Token计量:以服务过程中处理的Token4服务执行计量确定。平均Token计算基础设施建设成本开销可通过计算集群生命大模型训练公共算力服务单位时间成本可按公——单位时间内的设备折旧成本,应由表1中所述算力服务集群中的平均计算设备数量、单价和——单位时间内的运维事件次数,应由表1中所述运维周期决定;——第次运维事件的资本支出,应由表1中所述运维时间和运维投入决定;对于大模型训练公共算力服务所具备的多种计算任务复杂度参数应独立确定算力基础设施所消耗12345计量指标测试适用于大模型训练公共算力服务上线前对第4章规定的计量指标进行测算和a)预热阶段:根据大模型训练公共算力服务包含的多种服务配置参数进行服务进程初始化,执c)结果计算:分别计算正式测试阶段的各项指标平均值作为计量指标测试结果。大模型训
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 药师资格考试综合知识模拟试题及答案
- 测量工程师职业资格考试复习指南习题集及答案
- 注册电气工程师考试电力系统运行与控制专项训练题库及答案
- 教师资格证小学音乐教学知识与能力高频考点备考习题及答案
- 临床执业医师考试康复医学模拟试卷及答案
- 2026民航安全检查员X光机操作技能专项训练题库及答案
- 2026年漏电保护安全模拟试题模拟试卷及参考答案
- 环境与生态工程师生态工程模拟试卷及答案
- 2026物业管理安全管理与风险防范模拟试卷及答案
- 2026年兽医考试模拟试卷带答案
- 医疗器械安全管理培训课件
- 城市轨道交通系统组成
- 教师工会文体活动方案
- T/CHATA 016-2021结核菌素皮肤试验-γ干扰素释放试验两步法的操作技术规范
- 孙敬水《中级计量经济学》习题与参考答案
- GB/T 45475.1-2025塑料聚苯醚(PPE)模塑和挤出材料第1部分:命名系统和分类基础
- 做账实操-律师事务所账务处理流程
- 材料成型工艺基础课件:焊接成形工艺基础
- 中职高教版(2023)语文职业模块-第五单元:走近大国工匠(一)展示国家工程-了解工匠贡献【课件】
- 地表水自动监测运维理论考核试题
- JBT 14856-2023 高温袋式除尘器 (正式版)
评论
0/150
提交评论