中国人工智能安全全景报告（2026）中文机翻

i作者确认如何引用本报告1执行摘要国内治理•第十五个五年计划（2026-2030年）将“AI+”（推动人工智能在各个领域的扩散以刺激经济增长）作为中国的首要人工智能政策，同时继续优先2一3标准组成部分，但对该主题的专门研究仍然很少。专家意见45导言和范围63本报告范围78国内治理•第十五个五年计划（2026-2030年）将“人工智能+”作为中国到2030年的总体人工智能政策，同时将加强安全和风险管理作为持续的优先事项。它侧重于利用人工智能来刺激各部门的•自主AI代理的安全性和安全性已成为顶级治理优先事项。在2026年初开源人工智能代理•新法规针对拟人人工智能服务中儿童的情感依赖和风险。具有约束力的规则现在围绕自杀干•尽管具体要求仍然有限，但前沿风险正在慢慢地在治理层中变得可见。包括习近平主席在内95在人工智能发展方面，中国的政策继续优先考虑人工智能技术在各部门，以刺激“人工智李11人民银行（PBOC）指导下运作的行业自律机构，建议行业机构不要在业务终端上部署151723），一1.3.2新标准涵盖人工智能生成的内容检测、紧急响应、风险管理和社会影响评47）：了三个层面的影响-个人和群体（健康，行为，价值观，社会关系），组织和行业（价值观变化，结构，运营，角色重新分配）以及社会经济系统（政治，经济，社会，文化和生态影响，例如AI对就业的影响）-并提出了六种测量方法，从模型输出的正向质疑和反向分析，[531.3.3正在进行的标准起草重点关注代理安全、拟人化人工智能、道德审查、人委员会文件内容截至2026年6月的状况SAC/TC2602026年3月出版。54委员会文件内容截至2026年6月的状况2026年3月出版。55草。56求起草于2026年4在2026年5月的工作组会议上讨论。57SAC/TC28/SC42ment“工业和信息化部/技术中心159---委员会文件内容截至2026年6月的状况--2025年11月公布-起草，并于2026年2月的工作组会议威胁（第3.2节）对策（第3.5节）威胁1代理劫持威胁2数据泄露、篡改中毒威胁4身份欺骗权限升级威胁6多代理级联幻觉，死锁过载威胁7方案风险威胁（第3.2节）对策（第3.5节）威胁9人为监督可追溯性失败威胁10记忆幻觉操纵威胁11工具滥用经授权的操作。委员会标准截至2026年6月的状况TC26073委员会标准截至2026年6月的状况TC260公司简介工信部/技术中心12025年11月宣布84委员会标准截至2026年6月的状况TC260MIIT/TC1WG891929399颜色键：人工智能技术固有的安全风险人工智能应用中的安全风险人工智能应用中的安全风险险AI应用的次要2026•中国公开支持联合国在全球人工智能治理中发挥核心作用在中国的大力支持下，联合国正任命为IISP-AI。105111）：a）：117120）：习近126），138139政府140142152157158162172173名称c拟院f名称月心心名称心理室全军控协会kNH4CRl技术安全研究•中国前沿人工智能安全研究产出大幅增长，自2025年6月以来，月产出增长约60%•智能体安全已成为中国人工智能安全研究中最活跃的领域它现在占新论文的近27%-高于代理人勾结。•CBRN风险似乎是中国主要人工智能安全框架的标准组成部分，但对该主题的专门研究仍然很少，每年只有几篇论文主要关注CBRN滥用风险。187 ），193），215）：220专家对人工智能安全和治理的看法•中国专家倾向于支持开源人工智能，并普遍对可能扼杀创新的提案持怀疑态度。然而，一•在网络领域，中国专家经常将人工智能视为一把“双刃剑”，既可以降低攻击门槛，又可以•几位中国专家发表了关于先进人工智能的生物安全风险的专家们分析了生命科学中人工智能一223229230[231]东南237239），4.4AI对网络安全的影响e2025年8254257261•一个领先的人工智能行业联盟创建了新的自愿安全承诺，重点关注代理人，尽管已发布的实•自愿安全测试首次扩展到前沿风险AIIA和中国信息通信技术研究院（CAICT）的测试项目于•公司对新型号的安全披露仍然有限且不一致。在过去的一年里，十个领先的基础•自2025年初以来，行业技术安全研究产出几乎翻了一番，但仍高度集中在大型科技公司。自一269B它公司模型专门的安全部门？安全性评价阿里巴巴Qwen3-Max289没有没有Qwen3.5没有没有百度ERNIE4.5月没有ERNIE5.0292没有(Dec（2025年）身份”。294没有没有（2025年8月）295没有AIR-Bench深度搜寻“风险审查提示”的完整披露DeepSeek-R1。”简单的安全性测试-QA偏倚基准测试-AnthropicRedTeam公司模型专门的安全部门？安全性评价DeepSeek-V3.2(Dec（2025年）没有（Apr2026）298没有美团（Sep2025）299没有完整的部分，但在整个过年）MiniMaxMiniMax-M1月没有没有MiniMax-M2（2025年10月）302没有没有（Feb2026）303没有没有（Apr2026）304没有没有Moonshot人工智能KimiK2.5没有没有公司模型专门的安全部门？安全性评价KimiK2.6307没有腾讯（Aug2025）308没有Hy3-preview（Apr2026）309没有没有小米（2026年1月）310没有MiMo-V2.5-(Apr2026）311没有Z.AI/ZhipuGLM-4.5月）312的一个维度GLM-5313没有没有321326结论注意到第二十次集体学习时强调：坚持自立自强突出应用导向推动人工智能健康有序发展），问），），），），立：众创伦理基石，赋能创新发展--深入解读《人工智能科技伦理审查与服务办法（试行）》https：工业和信息化部人工智能标准化技术委员会安全治理工作组（WG8）2025年第2次工作组会成功召开理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.建道德规范、标准赋能新范式（http：//、微信公众号平台）理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.建道德规范、标准赋能新范式（http：//、微信公众号平台）理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.理治理专题研究会暨全国标兵人工智能分会场长三角区域工作组会议通知），https：//mp.weixin.），），），），），），问），《人工智能安全研究报告--技术视角下的安全风险写，《人工智能赋能科学研究：人工智能学科体系》正式出版，安源AI参与“AI+生命科学“章节），