人工智能发展规范(2025年版)

人工智能发展规范(2025年版)第一章总则与愿景1.1制定背景人工智能已从实验室走向千行百业，算法、算力、数据三轮驱动下，模型规模每十个月翻一番，能力边界持续外推。与此同时，深度伪造、数据投毒、模型偏见、能耗激增、责任真空等问题同步放大。2025年版规范在2023试行版基础上，吸纳全球42份监管文本、国内187起行政处罚案例、以及63家龙头企业内部合规白皮书，形成“技术—伦理—产业—治理”四维一体的升级版约束体系，目标是让AI成为社会可预期的“第二基础设施”。1.2核心愿景“可控、可信、可持续”三位一体：可控——任何系统在部署前必须可验证、在运行中可干预、在异常时可刹车；可信——算法决策可被追溯、被解释、被质疑、被纠正；可持续——能耗强度年均下降8%，数据循环利用率年均提升10%，产业生态碳排总量2030年达峰。1.3适用主体凡在中华人民共和国境内开展AI研发、部署、运营、维护、进出口的自然人、法人及非法人组织，均须遵守本规范。境外主体向境内提供AI产品或服务，且年活跃用户数超过100万或年营收超过1亿元人民币的，视同境内主体管理。第二章数据治理2.1数据分级分类级别定义示例最小存储加密跨境流动可训练性D1公开已合法公开、无版权限制政府开放气象站数据无自由允许D2受限含个人标识但已脱敏匿名化后的网约车轨迹AES-256备案允许D3敏感含种族、信仰、基因、biometric人脸门禁库AES-256+SM4审批禁止D4核心影响国家安全或公共利益1:5000高精度测绘专用硬件加密机禁止禁止2.2数据质量闸门任何训练数据集在入模前必须通过“四性”检测：完整性——缺失率≤0.5%；一致性——同名字段冲突率≤0.1%；时效性——更新日期≤90天；代表性——基尼系数≤0.25，防止地域、性别、年龄单维度失衡。检测未通过的，须启动“数据补完”或“权重矫正”流程，并在模型卡中披露矫正比例。2.3数据遗忘权工程化建立“切片—索引—密钥”三级遗忘机制：切片——训练数据按128MB切片并赋予全局唯一切片ID；索引——模型参数与切片ID建立可逆倒排表；密钥——每切片使用独立对称密钥加密，密钥托管于工信部授权的“数据密钥管理中心”。用户提出删除请求时，运营者须在24小时内完成密钥粉碎，72小时内完成参数重训或差分抹除，并出具“遗忘完成报告”。第三章模型全生命周期风险管控3.1研发阶段3.1.1红队与蓝队双轨红队负责攻击，蓝队负责防守，双方独立汇报。红队须在30天内完成至少20种攻击，包括提示注入、后门触发、对抗样本、成员推理。蓝队须将攻击成功率压至5%以下方可进入下一阶段。3.1.2能力基线模型类型参数规模能力基线评估数据集通过阈值语言≥100B多步推理MMLU-Pro准确率75%视觉≥10B细粒度识别ImageNet-A错误率≤8%多模态≥50B跨模态检索COCO-FlickrmAP@5≥90未达基线的模型不得进入封闭测试，更不得对外提供API。3.2部署阶段3.2.1双重水印文本模型：在Top-K采样阶段嵌入不可见词袋水印，检测准确率≥99%，虚警率≤0.1%；视觉模型：在潜在空间叠加傅里叶高频水印，抗压缩率≥90%。水印密钥由第三方公证机构托管，任何用户可上传50MB样本在1分钟内完成溯源。3.2.2实时护栏部署时必须配套“内容安全网关”，网关内置9大类360小类风险标签，延迟≤100ms。网关日志保留180天，采用WORM存储，防篡改。3.3运营阶段3.3.1持续学习审批若模型使用用户交互数据进行在线更新，须每1000万次交互向省级监管提交“增量学习报告”，报告内容包括数据分布偏移度、奖励模型版本、KL散度变化。审批通过后方可继续更新。3.3.2重大变更再评估当模型参数量增加≥20%，或训练数据量增加≥30%，或推理精度提升≥5%，均视为重大变更，须重新走一遍“红蓝对抗—伦理审查—备案更新”流程，周期不超过45天。第四章伦理与公平4.1偏见监测建立“偏见仪表盘”，每小时刷新一次，展示性别、年龄、地域、职业四大维度输出差异。差异指标采用标准化平均差异（SMD），当|SMD|>0.2时触发黄色预警，>0.5时触发红色预警并暂停相关功能。4.2多样性配额训练数据集中，少数族裔样本比例不得低于该族裔在全网公开样本占比的80%；标注团队须覆盖至少5种学科背景、3种性别身份、3个年龄段，且弱势群体占比≥30%。4.3高敏感场景清单场景示例额外伦理审查人工复核比例医疗影像肺癌早筛医学伦理委员会100%招聘筛选简历打分人社部备案≥20%信贷风控消费贷额度央行征信中心≥30%未成年教育作业批改教育部备案100%第五章安全与鲁棒5.1对抗样本基准库国家人工智能安全靶场每年发布10万份对抗样本，覆盖黑盒、白盒、物理世界三类攻击。任何上市模型须在靶场完成“攻防积分赛”，积分低于80分的强制回炉。5.2故障可观测性采用“TraceID+SpanID+LogID”三码合一方案，全链路埋点120+指标，包括Token级延迟、GPU显存抖动、梯度爆炸次数。异常事件须在5分钟内触发PagerDuty，30分钟内形成“事故单”，24小时内提交根因报告。5.3冗余与熔断核心在线服务须具备“两地三中心”冗余，同城双活延迟≤5ms，异地≤50ms。当单模型QPS下降≥40%或错误率上升≥3倍时，自动熔断并降级到规则引擎，熔断阈值动态基于上周同期数据3σ区间计算。第六章能源与碳排6.1能效准入新建智算中心PUE≤1.15，WUE≤0.5L/kWh；单卡FP16算力能效比≥15TOPS/W，低于该标准的GPU不得采购。6.2碳排披露模型规模训练碳排（tCO2e）推理年均碳排（tCO2e）披露粒度第三方核查≥100B强制强制服务器级必须10B–100B强制鼓励集群级鼓励<10B鼓励自愿自愿无6.3绿色调度鼓励采用“碳感知调度器”，实时读取电网碳排因子，优先在可再生电力占比≥60%的时段训练；完成绿色调度的企业可获得0.05元/度电价补贴，上限1000万元/年。第七章知识产权与开源7.1训练数据版权采用“白名单+溯源码”机制：白名单——国家版权局定期发布已授权作品目录；溯源码——每份数据文件须嵌入256位哈希，模型输出时同步返回溯源码，用户可反向查询版权状态。7.2开源模型许可证国产开源模型须采用“AIL2.0”许可证，核心条款：禁止将模型用于大规模杀伤性武器开发；衍生模型须在同一许可证下发布；若模型月活用户≥1000万，须向原始作者支付营收的1%作为版权基金。7.3专利池鼓励加入“国家AI专利池”，入池专利可获50%年费减免；专利池对外许可费率上限0.5%，用于降低中小企业创新门槛。第八章责任与保险8.1分级赔偿风险等级单次事故赔偿下限年度累计赔偿下限强制保险R1低风险50万元500万元鼓励R2中风险200万元2000万元必须R3高风险1000万元1亿元必须R3场景包括：自动驾驶L4以上、医疗AI三类器械、智能电网调度。8.2技术审计保险承保前须通过“算法审计”，审计机构由银保监会与白名单实验室联合认定；审计报告有效期12个月，逾期须重新评估。8.3赔偿加速通道对事实清楚、损失明确的案件，开通7日快赔，保险公司在收到完整材料后3个工作日内支付50%预付赔款，剩余部分30日内结清。第九章供应链安全9.1硬件溯源AI加速卡须具备“硅指纹”——芯片制造时写入不可改256位ROM码，操作系统驱动读取后上报国家平台；发现“山寨卡”即刻列入黑名单，禁止其参与政府采购及享受退税。9.2软件物料清单SBOM所有预装软件须生成SPDX格式SBOM，包含组件名称、版本号、哈希、许可证、漏洞编号；镜像仓库每6小时与CVE数据库同步，高危漏洞24小时内完成补丁。9.3断供应急建立“3+1”备份库：3家国产框架（MindSpore、Paddle、OneFlow）+1家开源国际框架（PyTorch社区版）；当任一框架停更≥90天，自动启动迁移流水线，目标30天内完成模型重编译与精度验证，精度下降≤1%。第十章跨境流动与主权10.1数据出境评估采用“风险分值”模型：风险分值=数据敏感度×3+接收方法治指数×2+传输量×1；分值≥80禁止出境，60–80须签订标准合同，<60自由流动。10.2模型出境参数规模≥10B的模型出境须提交“模型出境安全报告”，内容包括：训练数据来源及比例、红队测试结果、偏见指标、能耗数据；监管在30个工作日内完成评估，必要时可要求现场运行验证。10.3主权沙箱在海南、横琴设立“主权AI沙箱”，允许境外模型以容器方式远程运行，计算结果可出境但模型权重不得落地；沙箱内所有操作录屏保存3年，供监管部门飞行检查。第十一章人才与伦理教育11.1职业伦理考试AI从业人员须通过“伦理准入考试”，题库2000道，涵盖隐私、偏见、安全、知识产权；考试有效期24个月，未通过不得参与高风险项目。11.2红队人才库建立“国家AI红队人才库”，入库需具备CVE编号≥5或CTF国家级奖项；入库人才可承接政府订单，单人日费率上限3万元。11.3青少年科普义务教育阶段每学期不少于2课时AI伦理课程；课程内容包括深度伪造识别、隐私保护、网络文明，采用情景剧、VR体验方式教学。第十二章监督与问责12.1三色名单名单类型列入标准公示期惩戒措施黑名单重大事故主责3年禁止融资、禁止投标灰名单未按期整改1年限制补贴、限制上市红名单连续3年零事故1年优先采购、绿色通道12.2算法巡视员制度设立“算法巡视员”岗位，隶属国家网信部门，有权随时进入企业调阅源代码、日志、参数；企业拒绝或阻碍巡视的，按上年度营收1%罚款，情节严重者责令停业整顿。12.3公益诉讼对造成大范围权益损害的AI行为，检察机关可提起民事公益诉讼，索赔金额不设上限；赔偿金纳入“国家AI治理基金”，用于受害者救