2026面向人工智能系统的体系化安全检测与风险评估方法研究报告

面向人工智能系统的体系化安全检测与风险评估方法研究安全研究所钮艳中国工业互联网研究院chinaAcademyofIndustrial

Internet一、研究背景与总体思路二、主要研究内容三、主要研究成果中国工业互联网研究院chinaAcademyofIndustrial

Internet前沿模型被紧急叫停2026年6月

，Anthropic发布的旗舰模型Fable

5和Mythos

5上线仅三日

，就因存在严重安全隐患

，被美商务部以国家安全为由实施紧急出口管制

，最终被迫全面暂停相关服务。Skill安全缺陷突出Skill（技能）是人工智能执行特定任务的

模

块

化

单

元

，

在

OpenClaw

、

Hermes等智能体中广泛应用。经测评，

54.7%存在安全缺陷

，可能引发网络攻击、数据泄露和系统瘫痪。人工智能加速落地

，安全风险日益凸显

，

已成为制约产业健康发展的突出短板曾爆火的OpenClaw

(“龙虾”)智能体，因存在提示词注入、远程代码执行、恶意插件投毒等严重安全隐患

，工信部、国家互联网应急中心等部门发布安全提醒

，部分企业明令禁用。1.1研究背景及意义“龙虾”存在安全隐患中国工业互联网研究院chinaAcademyofIndustrial

Internet亚洲中国：

《新一代AI发展规划》

《政府工作报告》“人工智能+”日本：

《人工智能战略》韩国：

《人工智能国家战略》

《人工智能发展与信任基础构建基本法》新加坡：

《国家人工智能战略》全球主要经济体强化人工智能领域政策部署

，纷纷将人工智能上升为国家战略，抢占科技竞争和未来发展制高点北美美国：

《促进先进人工智能创新与安全》

《赢得竞赛：美国AI行动计划》

《国家人工智能政策框架》

《关键与新兴技术国家战略》

《出口管制条例》

《芯片与科学法案》加拿大：

《泛加拿大人工智能战略》...

...欧洲欧盟：

《人工智能法案》

《人工智能协调计划》法国：

《国家人工智能战略》德国：

《人工智能行动计划》英国：

《人工智能路线图》

《国防人工智能战略》...

...人工智能安全已从1.1研究背景及意义中国工业互联网研究院chinaAcademyofIndustrial

Internet...

...4研究体系化安全检测与风险评估方法，实现从检测到评估、

再到修复量化决策的全链条能力逐层查多层级安全检测7层漏洞分类体系跨层级安全量化解决

跨层传导

·防御成本效益分析全局看多环节风险评估解决

全生命周期

·风险量化定级打造人工智能系统的1.2主要研究内容中国工业互联网研究院chinaAcademyofIndustrial

Internet精准防5目

录一、研究背景与总体思路二、主要研究内容三、主要研究成果中国工业互联网研究院chinaAcademyofIndustrial

Internet多层级安全检测

多环节安全风险评估跨层级安全量化精准防全局看中国工业互联网研究院chinaAcademyofIndustrial

Internet形成可归类、可治理的体系框架支撑风险排查、能力建设和治理闭环硬件网络通信基础架构数据模型算法智能交互应用覆盖AI系统从底层硬件到上层应用的关键环节建成覆盖硬件到应用的

层

类风险的系统化漏洞分类体系2.1.1人工智能安全缺陷及漏洞分类体系中国工业互联网研究院chinaAcademyofIndustrial

Internet84.推理链攻击利用

<think>标签引导模型自行思考限制逻辑6.ROT13编码攻击利用ROT13等编码方式绕过内容安全检测机制5.策略傀儡攻击以XML、

INI或JSON等策略文件格式攻击2.权限提升攻击任命AI为“无限制助手”并发起提权请求8.上下文长度攻击利用冗长无关内容稀释和掩盖恶意指令7.指令遗忘攻击通过新指令覆盖让模型忽略原有安全约束3.假设场景攻击以“研究员”身份询问如何绕过安全机制1.直接绕过攻击直接发送危险指令基于研究提出的大模型安全风险评测架构

,

自研2.1.2人工智能安全漏洞风险检测工具中国工业互联网研究院chinaAcademyofIndustrial

Internet9n

提示词注入居人工智能安全风险首位n

技术门槛低、

危害性大

：

攻击者仅需输入精心设计的自然语言即可绕过安全防护

，

导致越权访问、

敏感信息泄露、

恶意内容生成等严重后果。n

产业界高度重视：

OpenAI、谷歌、

Anthropic等头部厂商均将提示词注入防御列为安全建设的核心。攻击检测技术体系OWASP权威认定在Al多层级安全体系中

,智能交互层的最为突出

,成为研究重点2.1.2人工智能安全漏洞风险检测工具中国工业互联网研究院chinaAcademyofIndustrial

Internet10部分模型面临极高攻击成功率即使表现最好的模型

,

也未能完全抵御攻击

,

行业安全水位整体偏低。提示词注入等攻击普遍有效2.1.2人工智能安全漏洞风险检测工具Token重复条件限定内容分割语言切换多样本攻击角色伪装少样本攻击编码攻击场景假设提示词注入GCG后缀指令忽略DAN越狱混淆攻击中国工业互联网研究院chinaAcademyofIndustrial

Internet全球Al

智能体skill

超75万个、

日增

2

-

3%我院实测

3.4万个

,

内容安全风险安全能力缺陷

：大量Skills面临提示词注入、代码安

全等安全风险

，

暴露出当前Skills生态整体安全基线较

低的问题。底层代码漏洞

：Skills底层代码漏洞频发

，

高危漏洞

突出

，易造成后门植入、

网络攻击等安全威胁。提示词注入隐患

：伪造系统规则、

冒充管理权限等

恶意指令大多隐藏在常用文档中不易发现

，可造成越权

操控AI、

窃取系统敏感信息和文件越界访问等问题

，威

胁用户系统安全。供应链安全风险供应链投毒攻击：恶意Skills通过伪装成常用工具

，

且能绕过安全检测

，形成隐蔽且广泛的供应链投毒攻击。依赖管理机制缺失：根据测试情况看29.7%的Skills

存在第三方或外部工具等间接依赖

，

甚至通过外部网络

链接、

开源代码库下载执行未经安全审核的代码

，极易

引入安全漏洞诱发安全事件。准入审查机制不足：

官方Skills市场缺少严格身份

核验机制和Skills前置审计

，

单账号即可批量投递数百

个恶意包实施

“供应链投毒”权限过度配置过多权限申请

：多数Skills会申请过多权限

，

使得Skills能够以最高权限实施持久化控制

，

对用户构成凭

证窃取、

系统破坏风险。过度授权和信任模型缺陷

：部分Skills框架未遵守

最小授权原则

，

Skills脚本默认拥有当前用户全部系统

权限

，可进行本地文件读写、

系统命令执行及全网访问；同时

，该框架

“一次授权、持续生效”的信任模型存在

安全隐患。构建全链条Skill安全治理体系

，筑牢智能体安全防线明文暴露API密钥动态执行、

命令调用等高危风险路径穿越漏洞324371515611763,17117,

5%50%2.1.3工业智能体Skills安全测评中国工业互联网研究院chinaAcademyofIndustrial

Internet代码安全风险提示词注入风险漏洞类型12从

"发现风险"

走向"验证风险",支撑人工智能安全治理闭环2102个收录AI相关漏洞10094个Ollama端点实测65.2%中高危漏洞占比2.1.4人工智能安全漏洞库与验证能力中国工业互联网研究院chinaAcademyofIndustrial

Internet13多层级安全检测

多环节安全风险评估跨层级安全量化精准防逐层查中国工业互联网研究院chinaAcademyofIndustrial

Internet行业标准《电信和互联网人工智能数据安全评估方法

》（在研）《信息通信行业人工智能算法安全评估指南

》（在研）《电信网和互联网大规模预训练模型安全评测指标和方法》（在研）《电信网和互联网安全大模型测评指标及方法

网络安全领域》（在研）《生成式人工智能网络安全产品应用技术要求和评估方法》（在研）……政策规范《生成式人工智能服务管理暂行办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》《新一代人工智能伦理规范》《科技伦理审查办法（试行）》……系统梳理政策规范、

国标、

行标、

团标共余项

,为评估提供权威依据国家标准《人工智能风险管理能力评估》《人工智能安全治理系统风险管理能力要求

》（在研）《网络安全技术人工智能计算平台安全框架》《网络安全技术人工智能生成合成内容标识方法》《网络安全技术生成式人工智能服务安全基本要求》……2.2.1人工智能系统多环节安全风险评估框架团体标准《人工智能通用大模型合规管理体系指南》《生成式人工智能数据应用合规指南》《生成式人工智能个人信息保护技术要求》《生成式人工智能模型训练合规技术规范》……可追溯可行性科学性智能化全面性动态性中国工业互联网研究院chinaAcademyofIndustrial

Internet15评估视图:

2.2.2人工智能系统多环节安全风险评估框架应用模型数据基础设施安全编码与模型训练阶段：安全编码审查

依赖扫描数据清洗投毒检测鲁棒性训练上线后持续运

营阶段：数据安全销毁

模型下线访问权限回收合规审计归档安全活动起点：威胁建模安全需求定义数据治理策略AI系统集成到

生产环境：安全配置检查

渗透测试访问控制验证对AI系统从设计到运维全生命周期进行拆分

，评估各阶段安全风险。对AI系统技术体系架构进行拆解

，评估不同技术领域安全风险。软件和基础设施安全风险主要风险：供应链攻击

、代码漏洞、配置缺陷数据机密性

、

完整性和可用性风险主要风险：数据投毒

、

隐私泄露、数据偏见AI交互安全风险主要风险：提示注入

、输出处理漏洞

、

过度代理

、深度伪造滥用模型完整性

、

鲁棒性和保密性风险主要风险：对抗样本

、模型窃取、后门攻击、模型幻觉设计

开发部署运维中国工业互联网研究院chinaAcademyofIndustrial

Internet1.范围定义2.风险识别3风险评级4.处置验证5.持续监控用标准流程把评估做成可复制、

可审计、

可落地的方法2.2.3人工智能系统多环节安全风险评估框架中国工业互联网研究院chinaAcademyofIndustrial

Internet17一

级

指

标基础架构安全数据安全模型算法安全应用安全软件供应链安全计

算

平

台

安

全网

络

环

境

安

全访

问

管

理安

全

运

维

监

控数

据

来

源

与

合

规

性数

据

加

密

与

存

储隐

私

保

护数

据

访

问

控

制数

据

完

整

性

与

防

篡

改对

抗

样

本

攻

击

防

御后

门

与

模

型

污

染

防

御模

型

窃

取

与

逆

向

防

御模

型

输

出

的

公

平

与

合

规模

型

完

整

性

与

可

追

溯接

口

安

全输

入

与

输

出

安

全用

户

认

证

与

授

权服

务

可

用

性

保

障安

全

日

志

与

应

急

响

应>

一级指标:宏观安全维度

，包括基础架构安全、

数据安全、

模型算法安全、

应用安全

>

二级指标:对一级指标具体化

，对应具体的安全风险2.2.4人工智能系统多环节安全风险评估框架中国工业互联网研究院chinaAcademyofIndustrial

InternetAPI18风险指数等级建议处置处置要点80-100极高立即停用重大隐患消除后再恢复运行60-79高优先修复先修关键弱点

，

防止风险扩大30-59中完善改进完善控制措施并定期复查0-29低持续监控保持防护

，确保风险可控将风险指数映射为,

并给出相应处置策略建议。2.2.5人工智能系统多环节安全风险评估框架中国工业互联网研究院chinaAcademyofIndustrial

Internet19多层级安全检测多环节安全风险评估跨层级安全量化全局看逐层查中国工业互联网研究院chinaAcademyofIndustrial

Internet例

2：

自下而上应用层：

影响应用决策数据层：

数据与模型文件受控硬件/系统层：

硬件/容器漏洞Al系统七层技术体系架构

,为

提供框架基础2.3.1人工智能系统跨层级动态安全量化模型模型算法层：

生成恶意代码硬件层：

触发底层系统漏洞例

1：

自上而下中国工业互联网研究院chinaAcademyofIndustrial

Internet应用层：

提示词注入21问题与挑战应用层模型层数据层架构层通信层硬件层单一评估失效，风险破坏力难以量化

痛点

：风险跨层耦合

，传播路径复杂

挑战

：缺乏统一量化标准

，引发资源配置低效技术路径效果实现防御措施容器工具包补丁升级数据存储加密+访问审计模型签名与完整性校验影响层级基础软件层数据层

模型算法层C(成本，15

40

30万元)Wj(层级权0.80

0.90

0.95

重)Rij(原始风0.970

0.807

0.803

险)Ej,k(风险0.98

0.90

0.95

削减率)μj,k(成本0.052

0.018

0.024

效益比)

目标

：精准评估跨层风险

价值：

为安全资源优化配置提供量化依据实现从到2.3.1人工智能系统跨层级动态安全量化模型构建多维联动量化评估体系中国工业互联网研究院china