中国人工智能安全全景报告（2025）中文

i作者确认如何引用本报告 1执行摘要国内治理2•中国强调人工智能安全和全球人工智能能力建设是其国际人工智能外交的关键主题。在专家对人工智能安全和治理的看法34导言和范围55报告范围6国内治理关键要点关键要点14自716202189282934她39规定c中国社会科学院牵头起草CUPL主导的草案对具有某些高风险特征的“安全治理”研究或设备的税收抵免对超过一定（未指定）尺寸的基础模型进行保护举报人45个部分，江苏省对注册模特进行了红色组队，在上海，一些重新激活被禁功能的公司面临正式调查和法律处罚。50MOSTAI道德规范f 其中2001200620212022202320242025（1月至5 1313249强制性0000001 676870TC260h风险相应标准现状（2025年5月）人工智能支持的网络攻击草75网络安全大模型构建指南（GuidelinesforBuildingCybersecurityFoundationModels）两用产品中的滥用边缘/设备上基础模型网络安全指南（端部大模型网络安全指南）网络安全大模型构建指南（GuidelinesforBuildingCybersecurityFoundationModels）未来失去控制其他发布了77MIIT我JK人员重叠。该关键要点关键要点87在2.2中国在联合国的行动 101美国），）：该全理心月全月栏会心至134任常心k团通信中人工智能的看员员该事件重点内容联大WAIC在上海合作。成一致。联合国能力建设“之友小组”第一次会议中国和赞比亚在联合国成立“人工智能能力建设之友小组”。牛”风险。事件重点内容二〇二五年四月联合国能力建设“之友小组”第二次会议技术安全研究关键要点关键要点一0月月月月 161业业640名名C3.4显著的研究贡献166180专家对人工智能安全和治理的看法关键要点关键要点4.1顶级AI会议上的话语趋势BF193H199j会议AI论坛数量AI安全和治理论坛选择安全和治理论坛WAIC2023205•大模型时代人工通用智能产业的发展机遇•人工智能创新与治理论坛WIC202320620N/A70N/AWAIC2024208•2024年世界人工智能大会全球人工智能治理高层会议开幕式•类人机器人的法治与伦理WIC202420942发应用论坛）0N/A4.2关键人工智能安全主题的话语趋势211212223231232235关键要点关键要点的“安全即服务”行业。公司模型发布日arXiv技术模型卡安全性内容安全性评价01.AI专门的安全/校准部分介绍了“RAISE”（负责任的人工智能安全引擎）滤，奖励工程SFT/RLHF，输入和输出过滤器。没有提到。奇虎360360智脑据清理（色情/暴力过滤器，个人身份信息）。没有提到。阿里巴巴Qwen3没有提到。二五月没有提到。号在网站上发布的简短技术报告。据清理。没有提到。没有提到。公司模型发布日arXiv技术报告安全性内容安全性评价V3法AI奖励他们的奖励模没有提到。二〇二五年没有MiniMax安全标记提示，AI。节未披露。人工智能没有提到。二〇二五年价值观保持一致的必要性没有提到。6二〇二五年没有没有腾讯二〇二四年十一月“符合人类价值观”。没有提到。公司模型发布日arXiv技术报告安全性内容安全性评价腾讯没有专门的安全部分，但在整个过程中多次详细提及“安全”是13个包含了“无害”原则。没有提到。豸浦据过滤，红色分组&无害标准。AutoGLM二〇二月非常简短地提到了“自主基金会代理人的潜在利益和风险没有提到。它C篇280283结果 287他在2025年4月的一次会议上说：“许多人认为，随着大型模型变得越来越强大，它们自然会变得更加安全和可控。我不同F 结论缩略词AIChinaElectronicInformationIndustry最会注意到7《习近平敦促促进人工智能健康有序发展》，中华人民共和国政府，2025年4月28日，2025年7月2日访问治局第二十次集体学习时强调：坚持自力更生突出应用引领推动人工智能健康有序发展《中华人民共和国政府》，），31《关于我们（院简介）》，中国现代国际关系研究院（中国现代国际关系研究院2025年7月17日访问，/new/想为人工智能高质量发展和高水平安全提供法治保障（深入学习习近平新时代中国特色社会主义思想《人民45国家互联网信息办公室关于发布生成式人工智能服务已备案信息的公告，2024年4月2日，2025年7月2日访问，56《人工智能安全与超级对位北京市重点实验室成立》，中国互联网信息中心，2025年3月31日，2025年7月2日访问，），66《工业和信息化部成立人工智能标准化技术委员会》，工业和信息化部，2024年12月30日，2025年7月13日访问，/ab90《李强出席2024世界人工智能大会开幕式并致辞》，中华人民共和国外交部，2024年7月4日，2025年7月9日访问，），113“首届中国-新加坡数字政策对话机制第一次会议在北京举行”，国家数），），arXiv：2505.16146[cs]，http2503.07660[cs]，http:2502.04675[cs]，/abs/250arXiv：2505.16831[cs]，httparXiv：2411.16736[cs]，http）：自强突出应用导向推动人工智能健康有序发展”中华人民共和国政府，2025年4月26日，2025年7月2日访问，），.2024年7月194《2023世界人工智能大会（WAIC）开幕式亮点：六大关键问.），