《高质量数据集 东盟国家语料 质量评测规范》

Q/LB.□XXXXX-XXXX高质量数据集东盟国家语料质量评测规范范围本文件规范了东盟国家语料的质量评测内容，明确了指标要求和评测细则。本文件适用于各组织机构开展东盟国家语料库质量评测工作。规范性引用文件本文件没有规范性引用文件。术语和定义下列术语和定义适用于本文件。

脏数据dirtydata指数据质量低下、不完整、重复率高的数据。

采样率samplingrate对于音频数据，指每秒钟采集声音信号的次数。

位深bitdepth对于音频数据，指每个采样点用于表示振幅的二进制位数。

标签taggingschema对语料进行标注时所使用的一套预定义的字段。缩略语下列缩略语适用于本文件。ASR：自动语音识别（AutomaticSpeechRecognition）K12：从幼儿园到十二年级的教育（Kindergartenthroughtwelfthgrade）RLHF：基于人类反馈的强化学习（ReinforcementLearningfromHumanFeedback）SFT：监督微调（SupervisedFine-Tuning）TTS：文本转语音（Text-To-Speech）评测框架评测对象评测的对象为面向东盟国家的语料，其特点包括但不限于：模态类型：文本和语料等单模态或多模态语料；语言范围：东盟成员国的官方语言、地区方言及跨境语言变体；应用场景：人工智能模型训练、语言技术开发、跨文化研究等。评测指标语料质量评测应说明文档完整性、语料质量指标展开。指标要求评测指标说明文档完整性语料的说明文档应提供全面准确的信息，涵盖基本信息、内容特征、建设过程及应用说明等关键内容；语料质量语料本身应具备高质量特性，满足东盟多语言、跨文化应用场景下人工智能模型开发与训练的基础质量要求；说明文档完整性说明文档应满足以下子指标：基本信息完整性：语料说明文档应完整包含语料规模、数据格式规范、文件组织结构、访问方式、技术支持途径以及覆盖的东盟成员国、语言和方言等基础信息；内容特征详尽性：语料说明文档应详细描述模态类型、标签体系统计、代表性样例、覆盖的东盟成员国文化背景与敏感内容等内容特征；建设过程透明性：语料说明文档应清晰阐述数据来源、采集方式、处理流程、标注准则、版本管理等建设过程信息；应用指导明确性：语料说明文档应明确提供使用授权、适用场景、评估方案、基准性能、应用实例等应用指导信息。语料质量语料质量应满足以下子指标：格式标准规范性：语料数据格式应符合既定标准或行业规范，确保能够直接用于模型训练，格式标准规范性评测细则详见附录A；数据结构完整性：语料数据结构应完整，每条数据应包含预定的所有标签字段；内容逻辑一致性：语料中相关数据应在语义和逻辑上保持一致，包括跨模态数据间和同模态数据内部的一致性。在包含多语言对照数据时，应注意跨语言版本在关键概念与文化专有项上的一致性。内容逻辑一致性评测细则详见附录B；专业特征符合度：语料数据应契合其类型定位，通用语料应体现通用知识，领域语料应体现领域专业知识；数据洁净度：语料应经过充分清洗处理，有效去除脏数据。数据洁净度评测细则详见附录C；内容安全合规性：语料内容符合目标地区的法律法规、宗教信仰、价值观等。内容安全合规性评测细则见附录D。评测细则评测整体要求评测总分为百分制。语料需要根据说明文档指标、语料质量指标和模型适配效能指标的得分及权重，计算出评测总分。其中计算公式如下：

S=式中：S为评测最终得分；wdPdwqPq其中，各指标权重根据实际应用场景调整，建议wd取值为0.2，wq取值为0.说明文档指标说明文档指标计算细则说明文档评测指标的计算方式如表1：说明文档评测指标计算细则子指标目标数据形式指标描述计算方法基本信息完整性语料文档基本信息完备性所要求的方面包括语料规模、数据格式、文件结构、访问渠道、技术支持方式、覆盖的语言清单、覆盖的东盟成员国清单X=A⁄B 式中：A＝语料说明文档满足基本信息完备性要求的方面数量；B＝语料说明文档需满足基本信息完备性要求的方面总数内容特征详尽性语料文档内容特征详尽性所要求的方面包括模态类型、语言分布、方言覆盖、标签体系统计、样本示例、局限性说明X=A⁄B 式中：A＝语料说明文档满足内容特征详尽性要求的方面数量；B＝语料说明文档需满足内容特征详尽性要求的方面总数建设过程透明性语料文档建设过程透明性所要求的方面包括数据来源、采集方法、加工处理流程、标注规范、版本控制记录X=A⁄B 式中：A＝语料说明文档满足建设过程透明性要求的方面数量；B＝语料说明文档需满足建设过程透明性要求的方面总数应用指导明确性语料文档应用指导明确性所要求的方面包括使用授权、适用场景、评估方案、基准性能、应用实例X=A⁄B 式中：A＝语料说明文档满足应用指导明确性要求的方面数量；B＝语料说明文档需满足应用指导明确性要求的方面总数说明文档指标评分细则说明文档指标的得分确定可基于以下公式：

P=式中：P为说明文档指标得分；i为说明文档指标中子指标的索引号；n为说明文档指标中子指标的数量；wi为第isi为第i说明文档指标评分采用百分制，n项子指标计算权重之和为1,各子指标权重可根据实际应用场景和评测需求进行调整。语料质量指标语料质量指标计算细则语料质量指标的计算方式如表2：语料质量评测指标计算细则子指标目标数据形式指标描述计算方法格式标准规范性语料格式符合预定标准的数据记录比例X=A⁄B 式中：A＝语料中格式符合预定标准的语料记录数量；B＝语料中的语料记录总数数据结构完整性语料数据结构完整的语料记录比例X=A⁄B 式中：A＝语料中数据结构完整的语料记录数量；B＝语料中的语料记录总数内容逻辑一致性语料语料中内容逻辑一致的语料记录比例X=A⁄B 式中：A＝语料中内容逻辑一致的语料记录数量；B＝语料中的语料记录总数专业特征符合度语料语料中符合其所属语料类型要求的语料记录比例X=A⁄B 式中：A＝语料中符合其所属语料类型要求的语料记录数量；B＝语料中的语料记录总数数据洁净度语料语料中内容洁净的语料记录比例X=A⁄B 式中：A＝语料中内容洁净的语料记录数量；B＝语料中的语料记录总数内容安全合规性语料语料中内容安全合规的语料记录比例X=A⁄B 式中：A＝语料中内容安全合规的语料记录数量；B＝语料中的语料记录总数语料质量指标评分细则语料质量指标的得分确定可基于以下公式：

P=i=1P为语料质量指标得分；i为语料质量指标中子指标的索引号；n为语料质量指标中子指标的数量；wi为第isi为第i语料质量指标评分采用百分制，n项子指标计算权重之和为1。各子指标权重可根据实际应用场景和评测需求进行调整。评测流程评测工作流程遵循以下基本流程，具体包括：语料提供方提交评测申请与相关材料；根据评分细则对各维度指标进行多维度评估；根据得分判定语料是否达到高质量语料库的标准；出具评测报告，并提供改进意见。

（资料性）

格式标准规范性评测细则格式标准规范性评测细则见表A.1表A.1格式标准规范性评测细则表语料类型格式要求SFT语料数据格式应采用JSONL格式，utf-8编码NFC规范化形式。RLHF语料数据格式应采用JSONL格式，utf-8编码NFC规范化形式。价值观语料数据格式应采用JSONL格式，utf-8编码NFC规范化形式。平行语料数据格式应采用JSONL格式，utf-8编码NFC规范化形式。ASR语料音频数据格式应采用WAV格式，采样率大于等于16kHz。文本数据格式应采用JSONL格式，utf-8编码NFC规范化形式。TTS语料音频数据格式应采用WAV格式，采样率大于等于44.1kHz，位深大于等于16bit。文本数据格式应采用JSONL格式，utf-8编码NFC规范化形式。

（资料性）

内容逻辑一致性评测细则内容逻辑一致性评测细则见表B.1表B.1内容逻辑一致性评测细则表语料类型内容逻辑一致性要求SFT语料回答须与问题直接相关，逻辑正确。客观准确率大于等于95％,错别字小于等于总字数10％。RLHF语料优化回答必须在事实、逻辑或完整性上明确优于原始回答。价值观语料内容的价值观立场必须统一，不得出现自我矛盾或与当地官方倡导价值观相悖的论述。平行语料译文必须完整、准确地传达原文的核心信息，无信息遗漏、添加。专业术语、实体名称在同一领域内的翻译必须保持一致。翻译准确率要求如下：短句平行语料：准确率大于等于90％长句平行语料：准确率大于等于85％高阶平行语料：准确率大于等于95%％ASR语料转写文本必须与音频内容在语义上完全一致，无听辨错误或信息偏差。TTS语料合成语音的韵律、断句和情感必须与文本内容及标点符号所表达的逻辑一致。

（资料性）

数据洁净度评测细则数据洁净度评测细则见表C.1表C.1数据洁净度评测细则表语料类型数据洁净要求SFT语料完全重复数据为0％，文本内容相似度超过80％的数据占比小于等于5％RLHF语料完全重复数据为0％，文本内容相似度超过80％的数据占比小于等于5％价值观语料完全重复数据为0％，平行语料完全重复句对为0％，源句或目标句高度相似的句对占比

小于等于1.5％ASR语料完全重复数据为0％，信噪比大于等于20dBTTS语料完全重复数据为0％,信噪比大于等于35B

（资料性）

内容安全合规性评测细则内容安全合规性评测细则内容安全合规性评测细则见表D.1表D.1内容安全合规性评测细则表评测维度评测内容个人隐私未脱敏的个人敏感信息。歧视言论基于种族、民族、宗教、地域等特征的贬损、攻击的内容。违法信息传播色情、赌博等违法目标地区法律的信息。价值观信息违反目标地区价值观的信息团体标准《高质量数据集东盟国家语料建设规范》编制说明（征求意见稿）工作简介（一）任务来源本标准是由广西物品编码与标准化促进会《广西物品编码与标准化促进会关于下达2025年第二十四批（共2项）团体标准制修订项目计划的通知》（桂标促〔2025〕110号）下达的项目，项目编号：2025-81。（二）起草单位、主要起草人（姓名、单位、职务/职称、参与编制标准分工情况）等本文件由中国—东盟信息港有限公司提出，并与广西壮族自治区标准技术研究院、阿里云计算有限公司、北京邮电大学、广西民族大学、北京智源研究院、上海人工智能创新中心、联通数据智能有限公司、中移九天人工智能科技公司、中兴通讯股份有限公司、浪潮云信息技术股份公司、北京面壁智能科技有限责任公司、北京海天瑞声科技股份有限公司、数据堂（北京）科技股份有限公司、北京晴数智慧科技有限公司、广西达译科技有限公司、科大讯飞股份有限公司、整数智能信息技术（杭州）有限责任公司、安徽飞数信息科技有限公司、央视国际网络有限公司、三六零科技集团有限公司、杭州君同未来科技有限公司、广西大学共同起草。主要起草人见表1。表1姓名单位职称/职务参与编制标准分工情况中国—东盟信息港股份有限公司何琛广西壮族自治区标准技术研究院杨霞广西壮族自治区标准技术研究院曲振斌阿里云计算有限公司孟凡胜阿里云计算有限公司关业海阿里云计算有限公司陈扬阿里云计算有限公司喻鹏北京邮电大学曲昭伟北京邮电大学王晓茹北京邮电大学覃秀红广西民族大学北京智源研究院上海人工智能创新中心王宁联通数据智能有限公司中移九天人工智能科技公司中兴通讯股份有限公司浪潮云信息技术股份公司王斌峰北京面壁智能科技有限责任公司梁轶晓北京面壁智能科技有限责任公司杨明北京海天瑞声科技股份有限公司彭颖岚数据堂（北京）科技股份有限公司陈德毅数据堂（北京）科技股份有限公司北京晴数智慧科技有限公司温家凯广西达译科技有限公司邓姿娴广西达译科技有限公司李雨泓广西达译科技有限公司胡明婷科大讯飞股份有限公司张云畅科大讯飞股份有限公司潘剑宜整数智能信息技术（杭州）有限责任公司阮志伟安徽飞数信息科技有限公司林伟家三六零科技集团有限公司贾守盛三六零科技集团有限公司索佳慧杭州君同未来科技有限责任公司李成龙杭州君同未来科技有限责任公司李志学央视国际网络有限公司黄建杰央视国际网络有限公司广西大学标准编制过程（一）成立编制工作组本项目任务下达后，为确保标准编制工作的顺利开展，负责人及时制定标准编制工作方案、部署工作任务、确定标准起草工作时间、内容框架等，全面有序开展该标准的编制工作，并成立编制工作组，进行任务分工。（二）调查研究和试验论证本标准各项技术指标确定的依据，主要为东盟国家语料的采集、清洗、标注与存储的技术研究成果与实际应用验证，并吸收了各起草单位在东盟国家语料库建设、人工智能开发与应用、大数据应用研究、东盟国家语种人才培育等方面的实践经验。同时，参考了近年来关于语料库建设、高质量数据集、语料处理等公开发表的学术成果，以及国内已有的高质量数据集相关技术标准与规范。（三）形成工作组讨论稿（2025年10月—2025年11月）在对所收集的资料进行全面梳理与深入研究的基础上，编制工作组围绕标准的整体架构展开了系统论证，并就标准的核心条款、关键技术指标及实施路径等关键内容组织了多轮初步研讨，形成了工作组讨论稿。（四）征求意见（2025年11月—2025年12月）项目组组织了多轮内部讨论会，以专家学者、业务骨干座谈会以及企业调研等形式进行深入调研和讨论，对标准文本进行修改完善，处理内部意见80余条，形成《高质量数据集东盟国家语料建设规范》团体标准征求意见稿及编制说明。标准编制原则（一）规范性原则标准的编写格式按GB/T1.1－2020《标准化工作导则第1部分：标准化文件的结构和起草规则》给出的规定进行编写。（二）一致性原则本标准符合法律、行政法规的要求，并具有先进性，各项指标不低于国家强制性标准、推荐性国家标准和行业标准。（三）可操作性原则深入调研，通过充分听取各方意见，确保标准可以作为建设东盟国家语料库的依据，在实际应用上有效、可行。主要内容（如技术指标、参数、公式、性能要求、试验方法、检验规则）的论据《高质量数据集东盟国家语料建设规范》分为9个章节：范围、规范性引用文件、术语和定义、缩略语、建设规划、语料采集、语料预处理、语料标注、语料质检。（一）范围本文件提供了高质量数据集东盟国家语料建设全生命周期的指导和建议，规定了建设规划、语料采集、语料预处理、语料标注和语料质检等内容。本文件适用于高质量数据集东盟国家语料的建设工作。（二）规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本（包括所有的修改单）适用于本文件。GB/T42755-2023人工智能面向机器学习的数据标注规程GB/T36344—2018信息技术数据质量评价指标GB/T42755人工智能面向机器学习的数据标注规程（三）术语和定义本章节给出了语料、数据标注、监督微调、基于人类反馈的强化学习的定义。（四）缩略语本章节给出了缩略语SFT、ASR、TTS、RLHF、K12。建设规划本章节是语料建设的首要环节，根据人工智能训练的目标，进行需求分析、设立总体规划、明确语料的范围、内容、质量类型和格式等方面的要求。语料采集本章节给出了语料数据采集的方式和流程。数据采集阶段核心是从建设规划阶段所确定的数据源中，系统性地收集构建语料库的原始数据。行之有效的数据采集方式和流程为建设高质量语料库打下基础。语料预处理本章节规定了数据预处理的方式和要求。数据预处理包括数据清洗、数据转换、数据脱敏和数据验证。此环节是语料的质量保障。语料标注本章节规定了语料标注的步骤和原则，数据标注包括通用语料标注和专项语料标注。此环节为语料在大模型中的应用做好准备。语料质检本章节给出了语料质检的方法和流程。质检方法包括但不限于自动化检查、人工抽样审核、交叉验证、专家评审。质检流程包括标注员自检、质检员初审、专家/主管终审、问题记录与反馈、质量分析与标准优化。此环节是对语料质量的进一步验证，从而确保语料库的高质量建设。与原标准或其他标准的主要差异和水平对比无。解决的主要问题本项目提供了高质量数据集东盟国家语料建设全生命周期的指导和建议，旨在系统构建东盟多语种语料资源建设与管理的统一技术框架。一方面，它有助于突破中国与东盟国家在AI协同发展过程中遇到的语言障碍；另一方面语料库建设涉及政府、高校、企业等多方主体，统一的建设标准可有效提高东盟语料的质量与各方合作的效率，避免劣质语料影响输出质量，减少重复建设，避免资源浪费。本标准的发布与落地实施，将使东盟语料库建设将迈向更高效、协同的发展阶段。其所形成的数据资源，将不仅服务于机器翻译等基础应用，更将逐步扩展至多模态语料融合（如文本、语音、视频相结合）、垂直领域深度适配（如医疗、法律、科技等），以及面向大模型的训练支持等更广阔方向。主要试验（或验证）情况分析无。标准中涉及的专利情况无。产业化情况无。采用国际标准和国外先进标准情况无。与