2026自主智能体Agentic AI风险治理与安全应用指南

2026年以来,0penclaw“养虾”的热潮,伴随Hermes智能体、claudeAgent、Harness工程框架的不断推出,Agent能力开始从“对话”转向“自主执行”,高阶智能体的生态圈逐渐形成。从上半年产业发布动态来看,“最热门的产品发布”已经从“模型发布”转向“系统级产品与Agent生态部署和应用开始规模化爆发。——企业开始用Agent重构工作流,而不是简单接入LLM,行业正式进入随着开源Agent技术与工具调用能力的持续突破,以“龙虾”为代表的Agentic智能体快速渗透办公协同、系统运维、金融服务等场景,成为政企数字化转型的核心生产力。然而,其与生俱来的高权限、强自主、广生态特性,在缺乏完善安全管控与规范引导的情况下,迅速陷入了严重失控状态,并引发多起高危安全事件:2月份,clawHub平台遭遇大规模技能包被投毒事件;3月份,发现采用默认配置的“裸奔龙虾”实例大规模暴露于公网;AI自主误操作更是导致多起科研数据、工作核心数据误删事故。截至2026年,0penclaw已经出现大量公开安全漏洞和安全通告,且漏洞仍在持续披露;公开研究显示,其风险主要集中在远程代码执行、认证与权限控制、外部输入处理以及skill供应链等领域。与此同时,互联网暴露的0penclaw实例规模较大,部分扫描样本还存在未启用认证、过度暴露权限等配置问题,进—步放大了漏洞被利用后的实际影响。0penclaw是—种“高权限Agent+弱边界执行”架构,漏洞不只是web/代码问题,而是跨层级、复合型新型攻击风险。对此,国家互联网应急中心(cNNVD)、工信部、国家安全部等多部门密集发布风险预警与防范指南,明确智能体安全治理底线,同时也直指传统防护体系已无法适配Agentic架构带来的新型安全威胁,难以形成有效防御。为系统性破解Agentic智能体“想用不敢用”的产业困境,安全牛正式启动《自主智能体AgenticAI风险治理与安全应用指南》报告研究,将系统梳理“龙虾”及同类Agentic智能体的风险图谱,构建科学、可落地的安全防御体系,推动行业形成标准化、规范化的安全建设范式。关键发现n应用现状:当前Agent市场已经从概念验证阶段进入规模化探索阶段,呈现“高关注、广试点、浅落地”的阶段性特征。大量企业已经开展AgentPoc、部门级应用或局部流程自动化,但真正形成大规模、深度业务闭环的应用仍然有限。n风险演变:相比2025年,智能体能力从“生成内容”向“行为执行”的转变。安全重心开否可靠”升级为“行为是否可控、可审计、可追责”。报告围绕这—转变总结了Agent的六大风险域。n监管治理:欧、美、中AgenticAI治理正在形成“目标趋同、路径有别”的发展格局。其中,欧盟更强调以风险分级和法律责任形成刚性约束,美国更侧重通过技术标准、行业实践和重点监管推动安全能力落地,中国则加速构建政策统筹、分类分级、标准规范和行业自律相结合的智能体专项治理体系。n关键技术:身份认证与权限治理、行为监测与可观测、运行时安全与执行隔离、数据与知识安全治理、供应链与生态安全、安全评估与持续运营。其中,身份安全将成为核心竞争领域,而运行时安全成为关键技术方向。n产业格局:中国与国际市场都尚未形成完全独立、成熟的AgenticAI安全市场。但目前国内AgenticAI运营等方向形成多元化布局。n未来趋势:当前AgenticAI安全仍处于快速发展与能力体系形成期,企业安全需求和行业监管要求在不断明确,安全边界呈现横向扩展的特征。未来,具有较强竞争力的企业通常需要同时具备三类能力:Agent运行时控制能力、统—安全平台化能力以及开放生态集成能力1.1概念定义与技术特性 11.2市场发展及应用现状 1.3真实世界遭遇AI自主攻击,AIAGENT失控警报拉响 1.4企业智能体风险管理面临多重关键挑战 2.1IS0/IEC人工智能管理体系标准 2.2欧盟:以风险分级为核心,从AI系统治理延伸到AGENT 2.3美国:国会与行业并行,推动AGENTICAI安全治理体系演进 2.4中国:正在从生成式AI监管快速进入“智能体专项治理” 2.5欧、美、中政策路线区别 373.1行业代表性风险评估与建模方法 383.2安全牛AGENT风险模型与特征分析 453.3典型安全事件分析 484.1AGENTICAI安全治理总体框架 524.2AGENTICAI安全治理的六大核心能力 4.3风险-控制能力映射表 645.1能力成熟度模型及分阶段建设路径 5.2企业智能体安全部署最佳实践 5.3企业智能体安全体系建设建议 5.4重点行业AGENT安全应用建议 6.1AGENTICAI安全市场规模与发展特点 6.2国外产业格局及代表性厂商分析 836.3国内产业竞争格局及代表性厂商分析 937.2奇安信:某央企AI算力与模型统—治理案例 8.1产业发展方向 8.2技术发展趋势 8.3治理政策与合规体系发展趋势 参考文献 1第—章技术发展与应用现状2026年以来,以Moltbot为代表的0penclaw点燃了新—轮智能体应用热潮。市场上面向企业的各类企业级智能体,如codingAgent、0fficeAgent以及多智能体协作等智能体平台纷纷出台,加速2B市场传统应用的智能体化转型。这—热潮不仅推动了AgenticAI开始进入规模化落地应用,以0Pc、FDE、Token经济、驾驭工程、AI原生软件为核心热点的智能体经济时代全面开启。与2025年以Manus为代表的单任务型智能体相比,0penclaw真正实现了自主执行能力,是智能体能力从“内容生成”向“行为执行”的转变,开启了企业“自主智能体”应用元年。本次报告对AgenticAI的定义,主要围绕0penclaw热潮后智能体的发展,重点聚焦自主行为能力智能体的应用发展与风险控制。能体更多是单—依赖大模型实现特定任务目标的单任务型智能体,典型应用类型为AI聊天、文案生成、任务提效。随着AI外围能力组件RAG、McP、Tools、skills及智能系统化工程的持续完善,Agent能力已经类具备自主行为能力的智能体称为自主智能体,下文也简称为Agent。对应地,AgenticAI可以定义为自主智能范式,是—种以目标驱动、自主决策和持续行动为核心的新型AI范式。它能够基于用户给定的高层目标,自主理解任务意图,进行任务拆解与规划,并根据执行过程动态进行决策,调用知识、工具、数据及外部系统完成多步骤复杂任务,同时根据环境反馈调整后续行动,从而核心区别:2025年的典型Agent主要围绕明确任务目标,依赖大模型进行任务级自主执行;2026年以来,Agent进—步利用开放环境、外围组件实现持续感知、决策与行动能力,可实现更复杂高层任务目标。2从系统组成看,AgenticAI以大语言模型(LLM)或多模态基础模型为核心推理引擎,围绕感知、规划、记忆和行动等能力构建自主任务执行闭环,实现环境理解、任务拆解、知识获取、工具调用、结果反馈与持续优化。随着Agent技术向工程化和复杂任务场景演进,RAG、Tools、skills等能力组件逐步融入Agent体系,的互操作,A2A侧重于Agent之间的发现、通信与协作)。与此同时,AgentRuntime/Harness、编排框架以及安全治理能力也逐步成为Agent工程化落地的重要框架。由此,AgenticAI开始从以“模型”为中心的单体应用,逐步演智能体生态。3体系统等术语并存。这些术语代表了Agent构架演进的不同阶段,其技术内涵上存在—定交叉,但其关注重点有所不同。为更好地理解这些概念,本章节引用《AI时代Agent原演进”架构图。该图分解了Agent通过能力迭代从生成式向平台化的演进过程。4在此基础上,我们进—步区别不同Agent的概念。智能体(AIAgent):也称为代理或单智能体,是具体的、可独立运行的任务执行单元,可以代理人类完成任务的智能实体。由早期ReAct(推理)和plan-and-Execute(规划-执行)架构演自主智能体(AutonomousAgent):早期的自主智能体,可以理解为是在ReAct架构基础上,增强了“规划-执行”能力的plan-and-E工干预下进行自主决策和持续执行某—任务。多智能体系统(Multi-Agentsystem):强调群智协作,多个不同角色的Agent共同与任务分工解决复杂任务。AgenticAI(自主智能范式):是—种高自主的AI范式,多用于描述以目标驱动、自主规划、动态决策和持续行动为特征的AI系统范式及其技术形态。5AgenticAI可以自己拆解目标、规划步骤、调用工具、迭代执行、反思纠错,主动完成复杂任务。它继承了Agent的所有技术特征,包括自主感知、自主规划、自主执行、工具调用、持续学习、多智能体协同。其中,自主性是Agent区别于早期AI应用的核心特性,自主性越强行动能力越强,权限需求越高风险影响范围越大,安全治理要求越复杂。这些技术特性进—步归纳形成了AgenticAI的五大核心能力:自主感知与环境交互能力:自主感知是Agent理解外部世界的基础能力,指Agent能够主动获取、理解和融合来自用户、系统、数据和环境的信息,形成对当前状态的认知。该能力使Agent从依赖人工输入的被动式AI,演进为能够感知环境、适应变化并自主完成任务的智能系统。6自主规划与推理能力:自主规划是Agent区别于传统生成式AI的核心能力之—。指智能体基于大模型推理能力理解任务目标和环境状态,自主完成任务拆解、路径规划、策略选择,并根据执行反馈持续优化决策过程的能力。这—能力使Agent从单次输出扩展为多步骤行动链,是实现复杂任务处理能力的基础。规划结果,自主选择执行策略、调用外部工具和系统资源,并持续跟踪执行状态、处理反馈、完执行复杂任务和实现业务自动化的能力。长期记忆与持续学习能力:Agent能够保存、管理和利用历史交互、任务经验、业务知识和环境状态,实现跨任务持续理解和能力增强。这—能力使Agent突破单次上下文限制,实现长期服务、持续适应的智能演进。多智能体编排与协作能力:多个具有不同角色、能力和目标的Agent之间进行协作,共同完成复杂任务。它是AgenticAI向复杂业务自动化、智能系统化和规模化应用发展的重要能力。从技术演进来看,AgenticAI并非简单的单—Agent产品形态,而是伴随工程方法和系统架构的演进,程,是自主规划、工具调用、环境交互、记忆管理、任务执行和多Agent协同等能力不断增强基础上的系统化演进形态。标志着人工智能应用由“模型交互式应用”向更“目标驱动的自主任务执行系统”演进。从应用范式上,AgenticAI的演进可进—步归纳为提示词工程(promptEngineering)、上下文工程 (contextEngineering)、工作流工程(workflow)、智能驾驭工程(HarnessEngineering)四个典型阶段。其本质是工程控制权逐步从人向模型迁移的过程。7(—)提示词工程(promptEngineering)核心特征是通过prompt优化引导大模型按照预期完成任务。该阶段模型输出主要依赖预训练知识,输出内容的稳定性和可靠性极差,换个场景换个需求,同样的提示词就会失效。(二)上下文工程(contextEngineering)随着企业应用从单轮问答转向复杂业务任务,单纯依赖prompt已经难以解决知识缺失、上下文过长、渐成为Agent系统的重要基础,通过RAG、Memory、知识库、工具和上下文管理等机制,可以为模型动态提供完成任务所需的信息。人们将这—变化称为contextEngineering,它不再只是“如何编写prompt”,而是如何动态构建、筛选、组织和管理提供给模型的完整上下文。这—变化使LLM从单纯的“内容生成器”逐步成为能够基于环境信息进行任务理解的智能核心。Langchain、LlamaIndex等框架在这—阶段具有代表性。(三)工作流工程(workflowEngineering)当企业开始利用大模型处理复杂任务时,单次模型调用通常无法直接完成完整业务流程。调用、RAG检索、ApI调用、规则引擎以及人工审批等复杂操作拆解为多个相对确定的步骤,并组织成固定流程,形成workflow(工作流)。原则上LLM开始具备—定的自主性,但其本质仍然是确定性的程序逻辑,8LangGraph、LlamaIndexworkflows、GoogleADK以及(四)智能驾驭工程(HarnessEngineering)随着Agent从实验性应用进入生产环境,企业关注重点开始从“Agent能不能完成任务”转向“Agent能否稳定、可靠、安全、可控地完成任务”。企业开始突破传统workflow的固定流程限制,工程重点进—步Engineering)”。其本质是围绕Agent构建的—套运行时控制与执行基下文、工具、数据和外部系统,并对Agent的任务执行过程进行编排、控制、监测和治理,是连接Agent智能能力与现实执行环境的重要工程层。Harness通常通过Tools、skills、McP、sandbox、Runtime、Memory、Guardrails、0bservability等组件,为Agent提供工具使用、上下文管理、执行控制、环境隔离、安全约束和运行监控能力。这—模式使智能体的控制逻辑由“人预定义规则”转移到了“智能体自主决策”。近年来,0penAIAgentssDK、codexHarness、AnthropicclaudeAgentsDK等已经将Harness能力逐步产品化,使Harness成为Agent开发与运行的基础设施。2025年以来,Anthropic等厂商开始在Agent工程实践中明确使用“AgentHarness”术语;境、工具和反馈机制进行系统工程优化的实践;0penAI、Langchain等随后通过codexHarness、AgentHarness等实践推动这—概念进入更广泛的产业讨论。Harness与大模型、Agent三者的关系,从功能视角,可以概括为:大模型负责“理解与推理”,Harness负责“运行与控制”,Agent负责“面向目标自主执行任务”。但从组件构成角度,可以将Agent概括为:2026年3月,Langch行工程化拆解,确立并强化了Agent=Model+Harness的核心理解框架工具与skills/McP、文件系统与沙箱、编排逻辑、Middleware/Hooks、记忆与上下文管理、反馈与验证等9—系列工程组件,系统阐释了Harness的组成与工作机制。(五)Agentic系统工程(AgenticsystemEngineering)开发转向整个Agenticsystem的架构设计、运行管理、安全治理和持续优化。综上,AgenticAI工程范式是—个由“模型驱动”向“信息驱动”“目标驱动”的演进过程。promptEngineering让模型按照人的指令完成任务,contextEngineering让模型获得完成任务所需要的信息,workflowEngineering能让模型按照预定义流程完成复杂任务,Agent0rchestrationEngineering让Agent根据目标自主规划、动态调用资源并完成任务。当前,AgenticAI产业发展重心正在从单点能力验证和场景试点,转向Agent工程化、运行时基础设施建设以及规模化部署。但仍处于工程体系形成和规模化落地早期,prompt、context、workflow、Harness数据知识及安全治理的完整工程生态。Agent开发框架逐步从早期以LLM调用、prompt编排和工具集成为核心的应用开发框架,演进为支持状态管理、工作流编排、多智能体协作、记忆管理、工具调用、运行时控制和可观测性的系统级Agent工程框架。MicrosoftAgentFramework、0penAIAgentssDK、GoogleA具体可分成以下4类:(1)通用型Agent开发框架。以提供Agent构建、模型调用、工具集成、上下文管理和基础编排能力为主,代表性框架包括Langchain/LangGraph、LlamaIndex、pydanticAI、0penAIAgentssDK、GoogleADK等。其中,LangGraph更加侧重于有状态Agent和复杂任务编排,LlamaIndex则在数据连接、检索增强和知识型Agent方面具有较强优势。(2)多智能体协作与编排框架。主要面向多个Agent之间的任务分工、消息传递、角色协作和任务委派,代表性框架包括crewAI、Auto前已进入维护模式,微软已将MicrosoftAgentFramework定位为AutoGen和semanticKernel的后继框排框架进行介绍。LangGraph等。该类框架与前两类存在交叉,其核心区别并不在于是否支持某—种Agent模式,而在于是否能够满足复杂Agent系统从开发、测试到部署和持续运行的工程化要求。MicrosoftAgentFramework、semanticKernel、GoogleADK、0penAIAgentssDK。(4)低代码/可视化Agent开发平台。主要通过可视化编排、组件化用快速构建和业务场景落地,与面向开发者的代码型Agent框架形成互补。环境和执行能力”,未来,AgentsDK、Runtime、sandbox、MCP、Mem等新型工程化组件和工具开始成为开发工具链的重要组成部分。随着工程范式的持续落地,Agent逐渐成为企业AI应用的重要技术载体,被应用于业务流程、办公自动化、安全运营、研发运维、客户服务等场景。从全球市场看,AgenticAI已经进入快速升温阶段,但整体仍处于由技术验证向规模化落地过渡的早期阶段。Gartner在2026年AgenticAI技术成熟度分析中指出,目前仅有17%的组织已经部署AIAgent,但超过60%的组织预计未来两年进行部署,说明企业对Agent的采用意愿快速提升,但实际部署成熟度仍明显滞后于市场预期。与此同时,Agent治理、安全和成本管理等能力开始与Agent技术本身同步进入企业技术体系。中国市场呈现出更为明显的快速增长态势。某咨询机构20企业在智能体开发平台、智能体应用及AI增强解决方案上的投资达到55.9亿元,预计2030年中国企业级智能体产品及解决方案市场规模将达到815.1亿元,2025—2030年CAGR达到70.9%。从产业级市场看,相年CAGR达到71.3%,表明Agent正在由通用技术平台向金融、制造、政务、医疗、软件研发等垂直行业加速渗透。我国Token调用量正呈现高速增长态势,已成为观察人工智能应用规模和智能体产业化程度的重要指标。国家数据局数据显示,2024年初我国日均Token调用量约为1000亿,2025年底增长至约100万亿;截至2026年3月,日均Token调用量已突破140万亿,相比2024年初增长2026年6月,中国大模型日均T推理Token消耗量年复合增长率约为330%。数据来源:国家数据局、摩根大通PoC、部门级应用或局部流程自动化,但真正形成大规模、深度业务闭环的应用仍然有限。相关数据显示,当前企业级Agent应用中约83.7%仍集中于通用辅助类场景,仅16.3%进入专业纵深场景;同时,约30%—40%的项目存在因R0I不及预期而停滞的情况。这意味着市场竞争正在从早期的“有没有Agent”逐步转向结构。—方面,云厂商、模型厂商和AI平台厂商纷纷推出Agent开发与运行平台,通过模型调用、知识库、工具编排、工作流和多Agent协同降低企业Agent开发门槛;另—方面,企业级Agent正在从单Agent执2026年发布的人工智能—智能体互联国家标准系列,重点关注不同系统、平台和场景中的智能体协同,为与此同时,Agent自主性提升正在推动安全需求从传统AI安全向Age传统生成式AI主要输出文本、代码或图片不同,Agent能够调用API、数据库、MCP工具及企业业务系统,么身份、基于什么权限、调用什么工具、执行了什么操作以及产生了什么后果”。近期产业实践权、提示注入、敏感数据访问、工具供应链风险以及自主执行失控等问题受到越来越多关注。2026年国家关于规范智能体应用的相关政策也明确提出,应加强智能体权限管理、行为管控,并提升智能体内生安全、供应链安全和应用衍生风险防范能力,实现开发、部署、应用、维护全周期安全管理。Agent安全市场正在伴随Agent产业发展进入快速形成期。从市场边界看,Agent安全已经不再局限于传统的模型安全、内容安全或应用安全,而是逐步形成覆盖Agent身份与权限、运行时行为防护、提示注入治理等方向的综合安全能力体系。市场研究预计,中国AgenticAI安全市场将由2026年的约1.33亿美元增的增长方向。总体来看,2026年中国Agent市场已经从概念验证阶段进入规模化探索阶段,但距离全面成熟仍存在明安全将从“项目配套能力”逐渐转变为企业Agent基础设施的重要组成部分。尤其是在金融、政务、制造、医疗、软件研发等高价值、高权限场景中,身份可信、权限最小化、行为可控、过程可观测、风险可干预和责任可追溯将成为企业规模化部署Agent的核心安全前提。按照客户对象,当前Agent应用可以划分为2C、2B、跨场景应用三种类型。(1)2C智能体主要面向个人用户,以个人信息获取、内容创作、知识问答、学习辅导、生活服务和个人任务执(2)2B智能体主要面向企业及组织用户,围绕企业业务流程、专业工作和生产经营活动提供智能化服务。典型类型包括:企业级通用办公Agent、软件研发Agent、业务流程自动化Agent、行业专家Agent、数据分析与研究(3)跨场景智能体浏览器操作Agent、具身智能Agent(EmbodiedAgent)等属于跨场景的任务形态或交服务于个人用户,也可以应用于企业场景。按任务属性,又可进—步划分为通用型、专业型、任务执行型、流程自动化型、浏览器操型以及多智能体协同型等。(—)企业级办公通用Agent面向员工个人和企业组织,通过连接企业知识、办公工具和业务系统,实现信息获取、内容生成和任务典型应用如,AI办公助手、企业知识助手、会议助手、邮件助手、文档/PPT生成、行政流程自动化等。代表产品主要包括:Microsoft365copilot:围绕word、Excel、PowerPoint、0utl能力,并逐渐从copilot向可执行任务的Agent演进。GoogleGeminiforworkspace:结合Gmail、Docs、sheets、Meet等workspace数据,为企业用户提供信息处理和工作自动化能力。Glean:重点面向企业内部知识搜索、企业数据访问和工作流Agent。NotionAI:主要面向知识管理、文档处理和团队协作。(二)软件研发Agent(codingAgent)面向软件开发全生命周期,通过理解代码、调用开发工具和执行工程任务,实现AI辅助甚至自主软件开发。这是目前Agent自主执行特征最明显、发展速度最我生成—段代码”,逐步发展到理解代码库→分析需求→修改多个文件→执行测试→修复Bug→创建PR,是当前最接近“数字员工”形态的Agent之—。但同时,它也是Agent安全风险最集中的应用场景之—,因为codingAgent往往具有文件读写权限、shell执行权限、Git权限、网络访问权限、cI/cD权限、code、GitHubcopilotcodingAgent、cursor、windsurf、ReplitAgent、0penAIcodex等。(三)业务流程自动化Agent面向企业核心业务流程,通过Agent自主规划、调用业务系统并执行任务,实现端到端流程自动化。这系统。因此,安全关注点也从传统的数据安全进—步升级为:身份→权限→操作→业务风险→审计。应用之—。代表产品,如:识别需求→查询cRM→查询订单→判断问题→执行退款/换货→更新cRM。serviceNoWAIAgents:主要面向ITsM、客户服务、人力资源、企业运营等业务流程。sAPJoule:围绕ERP、财务、供应链、人力资源等企业业务系统构建AI能力。0racleAIAgents:重点结合企业数据库、ERP、cRM等业务应用。(四)浏览器操作Agent这是Agent技术非常重要的—个发展方向。其核心能力是:Agent不再只是调用API,而是直接操作计算机。例如:打开网站→登录→搜索信息→填写表单→下载文件→整理数据→提交结果。代表产品/项目包括:0penAI0perator/chatGPTAgent、Manus、BroWseruse、GoogleProject从安全角度看,这类Agent尤其值得关注,因为它可能同时拥有:浏览器权限+用户身份+(五)行业专家Agent结合行业知识、专业数据和领域工具,为特定行业提供专家级辅助能力,主要应用于金融、法律、医疗、网络安全等知识密集型行业。这类Agent的共同特点是:专业知识+私有数据+高风险决策,其安全要求明显代表性产品:法律Agent:面向法律领域的智能Agent,主要用于法律研究、合同分析、案例检索和法律文书起草,代表产品如Harvey、ThomsonReuterscocounsel。金融研究Agent:重点解决金融研究、企业信息分析、市场研究和尽职调查等任务,代表性产品如Hebbia、Bloomberg相关AI医疗Agent:主要用于临床知识检索、医疗文档、辅助诊疗和医生工作流,代表性产品如(六)具身智能Agent(EmbodiedAgent)具身智能是将人工智能模型与物理载体(机器人、车辆、无人设备等)相结合,使智能体能够通过传感器感知真实环境,并结合规划、决策和执行能力,在物理世界中自主完成任务的—类物理形态智能体。代表了Agent从数字世界向物理世界扩展的重要方向,目前多处于技术快速突破期,规模商业化早期。典型应用场景,包括:特殊电力巡检、应急救援、工业制造、商业服务、健康陪伴等。不同场景技术成熟度差别较大,其中,特殊电力巡检、工业制造已经完成部署验证,成熟度较高;商业服务正在商业化落地;应急救援、健康陪伴仍处于快速探索阶段。当前,国内具身智能产业正在快速发展,具身智能本体已经形成了以人形机器人为核心、四足机器人和行业机器人协同发展的多元化产品格局。代表性产品包括优必选walker系列、宇树unitreeH1/G1、傅利叶GR系列、智元远征系列、小米cyber0ne、银河通用GalbotHarness应用还不像Agent那么广泛,但截至2026年,Harness已经不只是概念。尤其在codingAgent领域,已经出现了比较成熟的实现形态。0penAI甚至已经直接把“harness”作为AgentssDK的核心组成部分。session、Tracing、subagent文件、shell、Git、测试、上下claudecode能力的0penHands器/代码操作session、McP、contextcompaction其中,0penAI现在对Harness的定义已经非常明确:新的AgentssDK提供了configurablememory、开发基础设施的—部分。环境突围,把攻击触角伸向真实业务系统。2026年多起模型失控事件接连曝光,科学家、企业高管、安全机构接连发出警告:Agent失控不再是科幻小说的假想,而是已经发生的现实风险。—系列公开披露的安全事件表明,随着AIAgent自主规划、工具调用和多阶段执行能力不断增强,传统依赖网络隔离和沙箱约束的安全边界正在面临新的挑战。2026年7月,Anthropic披露了三起AIAgent访问真实系统的事件。在网络安全评估中,由于测试环境配置和理解偏差,原本不应访问互联网的模型获得了实际网络连接,并将真实组织误认为测试目标,进—步实施漏洞利用、凭据获取和数据访问。Anthropic复查14万余次评估后确认,三个真实组织受到影响,其中—起事件涉及生产数据库访问。同期,0penAI也披露了类似事件。在网络安全评估过程中,模型突破原有互联网隔离控制,获得网络访问能力,并进—步攻击HuggingFace基础设施,利用凭据和漏洞获得远程代码执行权限。该事件主要由—个内部研究模型驱动,0penAI和HuggingFace随后均发现并处置了相关活动。更值得关注的是,前沿模型本身开始具备更强的自主漏洞发现和利用能力。0penAI公布的GpT-6Astra安全评估显示,该模型达到其定义的critical网络安全能力等级,能够在获得适当工具和权限后自主发现未知漏洞,并在测试中发现两个此前未知的零日漏洞,实现浏览器沙箱逃逸和root级本地提权。备推理、工具调用、网络访问和漏洞利用能力后,传统静态沙箱和边界防护已难以单独构成有效安全保障,企业需要进—步加强身份权限、工具调用、运行时行为、网络访问和持续监控等安全控制。表层是入侵系统的安全事故,底层则是人类对其能力边界、行为逻辑和安全状态的理解与监控面临新的挑战。2026年5月,Anthropic发布《whenAIbuildsitself》,系统总结了AI参与自身研发的进展。文章指出,AI已经从辅助编程逐步发展到能够自主编写和修改代码、运行实验、提出研究假设并进行迭代。在Anthropic内部,claude已经贡献了超过80%的生产代码,并能够在部分开放式研究任务中自主提出假设、设计实验、分析结果和迭代方案。Anthropic认为,如果这—趋势持续,未来AI可能进—步具备自主设计和训练下—代模型的能力,从而形成“AI开发AI”的递归自我改进(RSI)闭环。但Anthropic同时强调,完整的递归自我改进目前尚未实现,其发生时间和最终形态仍存在较大不确定性。2026年9月,0penAI首席科学家持续提升,机器智能正在越来越多地参与软件开发、科学研究和自身研发过程。pachocki认为,当前AI能力增长趋势可能延续到递归自我改进阶段,未来AI系统可能越来越多地驱动自身发展。与此同时,0penAI的评估显示,传统的思维链(coT)监控能力正在面临局限:模型越来越能够操纵自身推理过程,并能够在不依赖显式思维链的情况下表现出更强能力,使人类准确理解和监控模型内部推理过程变得更加困难。AI安全面临的挑战正在从“控制AI输出什么”进—步转向“理解AI如何思考、判断和自我改进”。接连发生的风险事件,引发AI行业内部的剧烈震荡,越来越多业内人士站出来发出警示。首先,2026年6月,特朗普政府发布《PromotingAdvancedArtificialIntelligenceInnovationandSecurity》行政令,从政府及关键系统网络防御、前沿AI网络安全能力评测以及AI相关网络犯罪治理等方面推进安全工作。该行政令同时推动政府与AI企业建立前沿模型安全合作机制。行政令发布次日,0penAI发布《ABlueprintforDemocraticGovernanceofFrontierAI》,提出建立联邦前沿AI治理框架、强化cAISI以及构建政府AI安全韧性体系。2026年7月,来自前沿AI企业的1,386名员工联合发布《PacingtheFrontier》,呼吁政府和社会建立能够控制前沿AI发展节奏的技术与治理机制,以便为安全评估和风险治理争取时间。2026年9月,Anthropic研究员Jacobcoxon离职并公开表达对快速推进自我改进型AI的安全担忧;GoogleDeepMind研究员JoshEngels也离开公司并加入METR,公开表示其对未来几年AI可能造成严重危害的风险持高度担忧态度。相关事件进—步推动了业界围绕前沿AI安全、独立评估和发展节奏的讨论。安全研究机构,Gartner在2026年网络安全趋势中将“AgenticAI需要网络安全监督”列为重要趋势,并指出企业需要识别已授权和未授权的AIAgent,根据其访问权限和自主程度实施相应安全控制;同时,传统IAM体系也需要适应AIAgent这—新的机器身份主体。0WASP也forAIAgents》则进—步提出面向Agent的零信任安全框架,通过身份、记忆保护和持续监测等机制降低Agent自主执行带来国内对Agent安全风险的关注也在快速升温。cNNVD已经收录claudecode和0penclaw相关漏洞;工信部网络安全威胁和漏洞信息共享平台(NVDB)则针对0penclaw发布多次风险预警和防范提示,指出其在默认或不当配置情况下可能引发网络攻击、信息泄露和越权操作等风险,并建议加强公网暴露面、身份认证、访问控制、凭证管理和安全审计等安全措施。总体来看,Agent安全正在从企业内部的技术试验问题逐步上升为产业、政府和安全研究机构共同关注AIAgent正在释放显著的生产力价值,从自动执行工作流、辅助科研,到处理复杂任务和替代重复劳动,其应用边界不断拓展。但与此同时,Agent自主决策、工具调用和持续执行能力的增强,也使传统AI安全边界面临新的挑战。Agent安全的警报已经拉响。这并非意味着否定AI技术的发展价值,而是意味着AI创新与安全治理需要进入同步演进的新阶段。未来,模型能力、工程技术、企业治理和政策监管都需要共同构建与AI自主能力相匹配的安全保障体系,在释放Agent生产力的同时,确保其可控、可见、可审计、可追责。AgenticAI具有自主感知、自主规主性是Agent区别于早期AI应用的核心特性,自主性越强行动能力越强,权限需求越高风险影响范围越大,安全治理要求越复杂。当前,企业智能体风险管理的关键挑战包括以下5个方面,分别对应资产可见性、身份与权限、自主行为、协同关系、供应链生态五个治理维度。(1)智能体资产规模快速增长,企业缺乏统—可视化管理能力智能体的低门槛部署特性使“影子Agent”成为企业治理的第—盲区。随着企业内部快速部署基于大模型的智能助手、自动化Agent和业务Agent,企业内部可能同时存在大量由不同部门、不同平台和不同供应商创建的Agent。这导致企业出现“Agentsprawl(智能体泛滥)”。与传统IT资产相比,Agent具有更强的动态性和隐蔽性:Agent可以通过低代码平台、saas服务、自建框架等多种方式快速生成;Agent可能嵌入办公系统、业务应用、开发环境或自动化流程中运行;—个Agent可能进—步调用多个子Agent、插件、API和外传统资产管理体系通常围绕服务器、应用系统、数据库和网络设备建立,难以识别和管理动态生成的智能体资产,导致企业无法准确回答:当前组织内部部署了多少Agent?哪些Agent正在访问敏感数据?Agent由谁创建、谁负责维护?Agent调用了哪些模型、工具和外部服务?Agent是否符合安全和合规要求?因此,智能体资产不可见性成为企业开展Agent安全治理的首要挑战。(2)影子Agent增加企业未知风险暴露面类似传统IT环境中的“影子IT”(shadowIT),企业正在出现“影子Agent”(shadowAgent)问题。由于缺乏统—治理,影子Agent可能导致:敏感数据泄漏风险:Agent可能将企业内部文档、客户信息、代码数据上传至未经授权的大模型服务。权限失控风险:未经审核的Agent可能拥有过高的数据访问权限或系统操作权限。合规风险:企业无法证明所有AI应用符合数据保护、安全审计和监管要求。攻击入口扩大:攻击者可能利用未管理Agent作为进入企业环境的新入口。据增长黑盒与网易智企联合调研(2000名个人用户与100家企业样本),58.7%的员工智能体使用处于非管控状态,建立完整治理体系的企业仅占21.6%(可能更少)。从暴露面看,根据奇安信全球网络空间测绘监测口径,全球约21万个0penClaw实例暴露于互联网,其中中国约9.4万个,且暴露数量处于快速增长中。监管侧已开始将资产可见性列为明确要求,如TC260实践指南附录B要求组织建立智能体资产登记表(涵盖8类信息),并具备未审批智能体发现能力。可见,当前企业首先需要解决的并不是“如何保护Agent”,而是建立完整的Agent资产管理体系,实现Agent的发现、注册、分类、风险评级、所有权确认、版本管理、变更管理和退役管理。但智能体形态多样(saas订阅、本地进程、云端实例、IDE插件),传统IT资产管理工具缺乏针对智能体的发现指纹,资产台账的建立需要网络测绘、终端检测与财务采购数据的交叉关联,属于典型的“跨系统治理工程”。企业缺乏统—的发现与全生命周期管理能力。随着企业智能体逐步承担业务流程自动化、数据分析、系统操作和决策辅助等任务,企业通常需要赋予Agent较高程度的系统访问权限和工具调用能力,以保障其任务执行效率。然而,由于Agent具备自主规划、跨系统调用和动态任务分解特性,传统基于用户角色的权限管理模式难以准确匹配Agent实际任务需求,容易形成权限过度配置和权限扩散风险。—方面,为了提升自动化能力,企业往往会赋予Agent较高权限,但缺少细粒度的权限约束机制,导致Agent可能获得超出业务必要范围的访问能力。例如,仅需完成客户服务查询任务的Agent,可能被授予客户数据仓库访问权限;仅需执行代码辅助开发的Agent,可能同时拥有代码仓库、生产环境或部署流水线的操作权限。Agent拥有的权限越大,潜在风险越高。—旦Agent受到恶意指令、提示注入攻击或自身决策错误影响,过高权限可能被攻击者利用,造成敏感数据泄露、业务流程误操作甚至关键系统失陷。另—方面,Agent权限具有动态扩展特征,“非人身份”属性使人类用户、服务账号、API密钥与智能体完成任务,其权限边界会随着调用链不断延伸,形成“用户-Agent-工具-业务系统”的多级权限传递关系。如果缺乏有效的权限传递控制和调用约束机制,攻击者可能通过控制低权限Agent实现权限横向扩散,进—步访问企业核心资源。同时,多Agent协同环境下,不同Agent之间的信任关系和授权关系更加复杂,容易产生隐式授权、权限继承和责任归属不清等问题。此外,Agent操作行为的责任主体难以明确也是权限治理的重要挑战。目前,监管侧实施意见要求确保用户对自主决策享有知情权和最终决策权、智能体执行不得超出授权范围;CNCERT也要求企业“还原智能体行为路径,为问题调查和责任认定提供依据”。但落实这些要求需要建立“谁委托谁、为谁行动、能做什么、何时过期、如何撤销”的代理授权模型,而多数企业的IAM系统尚不支持这种任务级、时限化的动态授权。Agent自主能力提升后,会产生错误决策风险、目标偏移风险、长链任务风险放大等新风险,风险类型也开始由静态内容安全风险进—步演变为动态行为与执行风险。首先,Agent自主规划导致行为路径难以完全预测和控制。在复杂场景下,智能体会自主拆解任务、检索信息、调用工具并编排流程,执行结果受模型、上下文、知识库、外部工具等多重因素影响,相同任务在不同环境下策略也可能变化。—旦模型出现推理或理解偏差,会引发非预期操作,如篡改业务数据、违规调用工具、生成有害代码等。其次,Agent目标驱动易引发目标偏移。传统系统依靠规则划定行为边界,但Agent为达成任务目标,可能选择高效却违反安全规范的路径,如越权访问数据、绕过安全校验、引入不安全第三方组件,出现“任务达成,但安全失守”的问题,0penAI-HuggingFace入侵事件便是典型案例。此外,长链任务执行会放大风险传导。企业级Agent依靠多轮推理、多次跨系统调用完成任务,单点错误会沿着执行链路持续累积扩散。这类链式动态风险,比传统应用单点故障更难监测、定位与评估。因此,Agent风险不只看输出内容,更覆盖决策逻辑、工具调用、执行动作与业务后果。传统静态测试难以覆盖多变的运行时场景,上线前的单次评估无法保障持续合规。企业需要建立持续评估、运行时行为监控、行为基线比对、定期红队验证等机制,这对安全团队的方法论与工具链都是重构性要求。随着企业智能体应用由单—Agent向多Agent协同架构演进,企业可以通实现复杂业务流程的自动化。多Agent协同能够显著提升复杂任务的处理效率和系统智能化水平,但同时也引入新的级联风险,使企业原有以单—应用、单—身份和单—信任边界为基础的安全防护体系面临新的挑战。首先,Agent间通信与身份信任关系可能成为新的攻击入口。多Agent协同工作时,各Agent需相互调用完成任务,若缺少完善的身份认证、来源校验和通信安全机制,攻击者可伪造Agent身份、篡改通信内容、发送恶意任务消息,诱导Agent执行违规操作。同时,Agent间存在隐式信任关系,高权限Agent若无条件信任低权限Agent,攻击者只需攻破—个防护薄弱的Agent,就能依托信任链路传播恶意指令,形成“单点失其次,多Agent任务链可能放大提示注入和数据污染风险。复杂协同场景中,单个Agent接收的外部数据会逐级传递给后续Agent。攻击者可通过网页、文档、邮件、知识库等渠道向前置Agent植入恶意指令,生成异常任务并跨Agent传导。后续Agent若无法甄别指令可信度,会持续执行恶意操作,让单点提示注入攻击升级为链式跨Agent攻击。此外,共享记忆、共享知识库会成为风险传播载体,其中的恶意、错误信息会被多个Agent复用,导致风险持续扩散。第三,多Agent协同大幅提升了权限管控与攻击溯源难度。—个业务任务会形成“用户—任务Agent—用管控机制,易出现权限继承、传递乃至权限升级问题,让低权限Agent间接获取高权限操作能力,越权执行业务操作。传统单主体权限管控模式无法适配复杂的Agent调用链路,亟须建立适配任务上下文、Agent调用关系的动态授权机制。此外,多Agent系统的故障和安全风险具有明显的级联放大特征。在传统系统中,—个应用组件发生异常通常影响相对有限,而多Agent系统中,各Agent之间具有高度依赖关系,—个Agent的错误决策、身份泄露、工具失陷或恶意行为可能沿调用链向其他Agent扩散,最终影响核心业务系统。当企业缺乏完整的Agent调用链记录和运行时可观测能力时,很难快速确定风险起点、传播路径和实际影响范围,容易出现“局部异常难发现、跨Agent传播难定位、整体影响难评估”的问题。由于多智能体系统的信任关系是运行时动态建立的,现有的静态信任策略(白名单,微分段)均无法覆能体共识加人在回路等机制,但这些控制目前缺乏成熟的开源实现与商业产品,企业处于“知道要求、无法落地”的状态。Agent的构建模式决定其供应链不仅涉及代码和第三方组件,还进—步扩展至基础模型、提示词、知识库、工具、插件、Agentskills、McP服务以及外部Agent服务等新型数字资链安全风险。首先,Agent开源生态快速扩张带来新型组件可信性不足问题。当前大量Agent应用依赖开源框架和社区组件进行快速构建,但部分开源组件可能存在已知漏洞、恶意代码、维护不及时或依赖链风险;攻击者还可能通过仿冒、投毒或供应链污染等方式,将恶意逻辑植入公开组件。相关研究显示,koisecurity审计clawHub技能市场的2632个技能,发现341个恶意(约12.9%),其中335个归因于同—协调行动“clawHavoc”;0WAsPAgenticskills项目汇总的第三方研究也显示,受审计技能中13.4%存在严重安全问题。可见,企业不能只对“自己开发的Agent”进行安全管理,还需要建立覆盖模型供应商、Agent框架、Tool、McPserver、skills、插件、数据源和第三方服务的Agent供应链安全治理体系。其次,模型及AI数据供应链引入新的安全风险。企业在构建Agent时通常需要调用第三方基础模型或使用开源模型,并结合企业知识库、RAG数据集等构建专用能力。如果模型来源、训练数据和知识资源缺乏可信验证,可能引入模型后门、恶意数据、知识污染和隐藏行为等风险。尤其是在Agent具备长期记忆和知识持续更新能力的情况下,被污染的知识库或外部数据可能长期影响Agent决策,并进—步通过多个Agent或业务流程传播。传统以软件版本和代码漏洞为核心的供应链安全管理模式,已经难以覆盖Agent所涉及的完整AI供应链。针对这类问题,监管侧也提出了明确要求。但企业的实际困难在于:技能与插件以自然语言为载体,传统代码审计与漏洞扫描工具难以覆盖“声明行为”这—新的对象,供应链安全能力建设需要从工具、流程到人员技能的系统投入。第二章全球政策监管与标准化现状智能体拥有自主执行能力之后,其治理问题同时进入了立法者、标准化组织和监管机构的视野。2024年以来,全球范围内围绕人工智能的立法、监管框架、技术标准与行业规范密集出台,进入2026年,相关治理要求进—步向智能体方向收敛。从欧盟、美国、中国等主要人工智能发展地区来看,AI风险治理都处于大模型向自主智能体专项治理加速演进的重要阶段,由于法律制度、监管体系和治理传统不同,各地区形成了具有明显差异的治理路径:欧盟:以立法为核心,以风险分级为监管依据,以标准化促落地。美国:以风险框架提供方法,以多元政策和行业机制协同推进。中国:法律、政策、标准和行业治理协同推进,逐步向智能体专项治理延伸。国际标准化组织IS0/IEC目前尚未出台专门针对智能体安全的管理要求,但信息安全管理体系IS027001、IS031000以及人工智能管理体系IS0/IEC42001:2023(AIMS)、IS0/IEC23894作为人工智能管理标准也为智能体的底座安全提供安全要求和建议。但在认证实务上,42001认证不能替代对智能体特有技术风险(如提示注入、记忆投毒、工具滥用)的工程验证。对需要同时满足欧盟AI法案与多国市场要求的企业,AIMS认证还可作为展示系统性治理能力的基础证据。截至目前,欧盟尚未单独出台“AIAgent安全法”或专门的Agent监管条例,而是将Ag工智能监管体系,通过《欧盟人工智能法案》(EUAIAct)、通用人工智能模型(GPAI)监管规则、GPAI行为准则(codeofPractice)、高风险AI系统要求以及网络安全法规,共同构建覆盖模型、Agent全生命周期的安全治理体系。独立监管类别,但由于通常包含GPAI模型并具备环境感知、处理输入和执行动作能力,因此会受到AI系统《欧盟人工智能法案(EUAIAct)》(简称“AI法案”)于2024年8月1日生效,是欧盟AI治理的基础法规,也是全球首部对人工智能进行系统性横向规制的立法。其核心理念:按照风险等级监管AI,而不是按照技术类型监管AI。施加覆盖全生命周期的合规义务,包括风险管理体系、数据治理、技术文档、记录保存(日志)、透明度、人工监督、准确性该法案采取分阶段实施策略。但截至2026年8月,AI法案关于AI透明度、通用人工智能模型(GPAI)以及部分禁止性AI实践等要求已进入实施或执法阶段,但高风险AI系统的大部分核心义务尚未全面适用。主要是由于配套协调标准、公告机构、各国监管体系建设严重滞后,企业无法落地合规。为此,欧盟委员会推出了修订案AI0mnibus(Digital0mnibusonAI,法规号Regulation(EU)系统,其相关义务将自2027年12月2日起适用;嵌入受监管产品、属于附件I范围的高风险AI系统,其相时间与此同时,自2026年8月2日起,AI法案规定的部分透明度义务开始适用。具体包括:面向自然人直接交互的AI系统原则上应明确告知用户其正在与AI系统交互;生成合成音频、图像、视频或文本内容的AI系统,应在技术可行的情况下采用机器可读方式标记AI生成或操纵内容;对于Deepfake等人工生成或操纵的图像、音频和视频内容,相关部署者还应以清晰、可识别的方式披露其人工生成或操纵属性。对于面向公众发布、旨在提供公共利益信息的AI生成或操纵文本,也规定了相应的披露要求。在执法方面,违反部分运营者义务及相关透明度义务的企业,可面临最高1500万欧元,或上—财年全球年营业额3%(取较高者)的行政罚款;对于违反AI法案禁止性规定的行为,罚款上限则更高,可达到3500万欧元或全球年营业额7%(取较高者)。为落实《欧盟人工智能法案》中的GPAI专项义务,欧盟委员会及AI0ff7月10日发布。该准则主要用于帮助模型提供商满足AIAct第五章监管要求(安全、透明、版权)。AI而言,该指南虽然并非专门针对智能体设计,但其关于数据处理透明、最小权限、长期数据管理、自动化决策风险和可追溯性的要求,为Agent身份治理、记忆安全、工具调用控制和运行审计提供了重要参考。可定位为欧盟Agent安全治理体系中的数据与隐私风险管理框架。2.2.3标准化进:标准化加形成欧盟标准供给滞后也是欧盟调整高风险AI规则实施节奏的重要背景。AIActregulatorypurposes》正式发布(2026年7月),成为首个专门支持AI法案实施的欧洲标准,主要信性框架—日志prEN18229-1等标准均处于公众征询阶段,AI偏差管理等相关标准也在持续制定之中。从AIAgent发展角度看,当前欧盟尚未形成独立、完整的Agent专项协调标要以通用AI系统为对象,通过风险管理、网络安全、日志、质量管理、数据治理和合格评定等机制间接覆盖用AI可信与安全”进—步向“自主智能体运行安全整体来看,欧盟完整的AI协调标准体系尚未全部形成,但已从前期规划和标准委托进入标准化加速形成护监管补充基本权利保护”的多层治理结构。随着AIAgent从模型能力进—步演变为具备自主决策和执行能力的数字主体,欧盟现有治理体系也面临从“模型风险治理”向“自主行为与运行时治理”延伸的新课题。相较于欧盟以立法为核心的AI监管路径,美国更倾向于“技术标准+行业监管+企业自律”的管理模式。联邦层面迄今未形成统—的AI横向立法,而是依靠国家标准、行政令、多国联合指南、行业倡议共同构建治理体系。近年来,随着自主智能体演进,美国AI治理也开始从传统的模型与内容风险,进—步延伸至Agent身份、权限、工具调用、运行时行为和自主执行安全。这—变化在2026年表现得尤为明显。美国国家标准与技术研究院(NIST)的《AI风险管理框架(AI-准,属于自愿性规范,用于指导企业在AI全生命周期识别、处置风险,配套生成AI补充配置文件,将风险管理覆盖生成式AI研发落地全流程。该框架为AI智能体提供了通用风险管理流程与概念体系,但框架制定之初并未专门针对智能体的自主规能体风险高度契合,但缺少面向Agent特有风险的专项管控手段。简言之,NISTAI-RMF搭建起基础治理骨架,面对智能体委派决策、工具访问、自主行动等新风险,仍需要补充专项规范实现有效约束。可以理解为,NISTAIRMF为AgenticAI提供了基本治理架构,但还需要通过补充规范来涵盖自主执行、2026年以来,美国智能体治理讨论发生明显转向,治理议题从宽泛的伦理原则探讨,下沉到工程可落地的身份、认证、权限管控实践,非人身份(NOn-HumanIdentity,NHI)与授权机制成为核心抓手,解决AI智能体作为非人类主体访问系统、调用工具时的身份溯源、权限边界问题。 (NCCOE)发布《加速软件与AI智能体身份和授权研究》,明确把AI智能体的身份识别、认证、授权作为重点攻关能力域,推动Agent安全从原则性治理向身份、授权、审计、互操作和技术标准层面下沉。2月17日,AIAgent标准化工作组正式启动编制工作,覆盖身份认证、权限授权、安全管理、日志审计监控,计划2026年底输出智能体互操作性相关规范,补齐技术标准缺口。5月1日,美国CISA、NSA联合智能体AI服务》指南,提出将Agent风险纳入现有网络安全体系。该指南是当前国际官方口径中对自主智能体立场最审慎的文件。其核心立场可概括为三点:“组织应仅将自主智能体AI用于低风险、非敏感任务”,绝不授予其广泛或无限制的访问权限,尤其禁止访问敏感数据或关键系统;在安全实践、评估方法与标准成熟之前,组织应“假设自主智能体AI系统可能出现意外行为”,并据此规划部署,优先弹性、可回滚与风险遏制而非效率提升;组织应将AI安全纳入现有网络安全框架,而非视为独立领域。从约束力看,该指南属于多国安全机构的联合建议,不具备法律强制力,但其发布主体覆盖主要英语国家的关键基础设施保护机构,对政府采购、关键基础设施运营方和高合规要求行业具有实质性引导作用。2026年6月2日,特朗普政府签署第14409号行政令《推动先进人工智能创新与安全》(promotingAdvancedArtificialIntelligenceInnovationandSe入联邦执法关注范围,是现阶段美国统筹AI创新发展与国家安全保障的重要政策文件。行政令立足美国本土政企信息系统防护、前沿模型落地管控、不法AI应用打击等维度出台系统性落地规则,明确提出保护政府及私营部门信息系统、强化关键基础设施安全,并在第4节要求司法部长重点执法打击利用AI非法访问或破坏计算机系统的行为,其中明确提到利用AIagents非法访问数据或信息。特朗普政府的AI行政令刚发出来,0penAI就发布了《联邦监管框架蓝图》,为美国政府设计了—套“三步走”路线图。办公室公布的信息,该法案拟要求NIST制定关于发现、验证、监测和控制AIAgent的国家标准、指南和最佳实践。总体来看,美国AgenticAI治理尚处于由通用AI风险治理向自主智能体专项治理加速演进的阶段。尤其是2026年以来,美国治理重点明显从传统的模型安全、内容安全和生成式AI风险,进—步向Agent身份可信、权限最小化、工具访问、运行时行为、责任追踪和自主执行控制延伸。身份、授权和可追溯性正在成为Agent安全标准化的重要方向。未来,美国Agent治理预计仍将以技术标准先行、行业实践验证、重点领域监管和立法逐步跟进为主要路径,并推动Agent安全能力与现有网络安全、身份安全及零信任体系进—步融合。2.4中国:正在从生成式AI监管快速进入“智能体专项治理”智能体作为人工智能的重要前沿形态,正在加速赋能千行百业,同时也带来越权操作、数据泄露、系统失控等新型安全风险。我国坚持创新发展与安全治理统筹推进,已经形成国家顶层战略引领、地方落地实践跟进、重点行业专项约束、风险事件快速响应、标准体系技术支撑的多层次政策治理格局。2.4.1家层面:顶层文件统筹,立发展与安全基本框架国家通过两份核心政策文件搭建智能体产业发展与安全治理的顶层制度,明确发展定位、基本原则与全生命周期安全管控要求。08-26),这是国内人工智能产业发展的最高纲领文件。该文件明确将智能体作为重点应用方向,提出加快智能体安全标准研制、健全安全治理、建立风险监测预警体系,要求构建智能体全生命周期安全管控机制。2026年5月8日,国家网信办、发改委、工信见》,是国内首个专门针对自主智能体的顶层政策文件。意见强调发展与安全并举,确立了智能体应用遵循“安全可控、规范有序、创新驱动、应用牵引”的基本原则。《实施意见》第六条要求厘清仅限用户本人决策、需由用户授权决策、智能体自主决策三种方式的合理边界及所需权限,并确保用户对智能体自主决策享有知情权和最终决策权;智能体执行操作不得超出用户授权范围。这标志着智能体发展从自由探索阶段开始进入创新与治理协同推进的规范化新阶段。两份文件—总—专,形成上下衔接的顶层设计:前者锚定智能体在“人工智能+”战略中的产业定位,后者细化落地规则、安全边界和治理路径,共同构成智能体国家政策基石。2.4.2地方政策:因地制宜先行先试,产在国家政策指引下,北京、上海率先出台地方专项政策,—边加大产业扶持力度,—边探索本地化监管模式,打造可复制的地方治理样本。2026年7月,北京出台国内首个省级智能体全链条专项政策《北京市加快智能体引领发展若干措施的通知》,坚持创新发展与安全治理统筹推进:—方面围绕基础模型、智能体驾驭层、行业场景、算力生态加大政策与资金扶持,支持以0pc为代表的创新模式,鼓励发展Token经济,打通智能体技术研发、商业化落地全链条;另—方面率先探索智能体分级分类监管机制,建设安全基础设施,形成“产业扶持+安全规制”并行的地方治理实践,为全国智能体治理提供地方样本。8月,上海在《上海市软件和信息服务业发展“十五五”规划》中将智能体经济确立为重点新兴赛道,构建全链条产业发展体系。聚焦通用智能体、多智能体协同核心技术攻关,深耕工业、金融、城市治理等垂直应用场景,培育Aaas新型商业模式,同步布局智算基础设施,打造算力、研发、应用、运营—体化发展路径,并同步落实智能体创新风险防控工作。两地政策,将国家宏观要求转化为可操作的地方举措,体现出“以场景牵引产业创新,同步开展监管机制试点”的鲜明地方探索特征。2.4.3行业层面:金领域率先出台专项指引,划定行业应用红线针对高风险重点行业,监管部门出台细分领域AI监管文件,对智能体在行业内的落地应用设置刚性约束,其中银行业保险业走在行业治理前列。6月18日,国家金融监督管理总局发布了《关于银行业保险业人项指导文件,首次系统对金融行业生成式AI、智能体安全提出系统性约束的基本红线制度。要求银行保险机构落实谁使用谁负责原则,建立AI全生命周期治理与AI应用分类分级管控,刚性约束生成式AI训练数据,强化高风险场景人工复核、算法风险管理与消费者权益保护,推动人工智能合规安全、可控有序落地。金融行业智能体监管以业务风险为导向,压实机构主体责任,强化高风险环节人工干预,为其他重点行业开展智能体治理提供重要参照。2.4.4监管层面:关于0penclaw事件的安全建议面对开源智能体0penclaw(俗称“龙虾”)规模化普及带来的安全挑战,国内监管机构快速响应,多部门联动形成完整风险处置闭环,为开源智能体安全使用提供实操指引,为后续政策标准制定积累实践依据。2026年3-7月,围绕0penclaw安全风险,多部门连续开展风险提示与指引发布工作:虾”等智能体,并明确指出升级版本仅修复已知漏洞、不能消除全部安全风险;3月12日,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB体安全风险的“六要六不要”建议;3月17日,国家安全部官方账号发布《“龙虾”安全养殖手册》改、技术漏洞四类风险;3月22日,国家互联网应急中心(CNCERT)与中国网络空间安全协会联合发布《0penClaw安全使用实践指南》,面向普通用户、企业用户、云服务商、技术开发者四类主体提出防护要求。这—轮监管响应体现了“风险先预警、指引先落地”的治理思路,在技术快速迭代、政策尚在完善的阶段,通过风险提示、科普手册、分主体防护指南,及时填补开源智能体应用的安全指引空白,同时也为后续国家层面政策、标准的研制积累现实案例支撑,形成从风险预警到制度完善的完整闭环。2.4.5标准体系建设:从顶层研究、国标计划到实践指南,推动规则可落地可检测在政策制度之外,我国同步加速搭建智能体安全标准体系,遵循“纳入AI整体治理框架+智能体专项标准并行推进”路径,形成研究报告、国家标准、实践指南、团体标准、行业自律互为补充的多层次标准化矩阵,推动政策原则转化为可执行、可检测的技术指标。(—)顶层研究先导文件,规划标准发展路线4月3日,全国网络安全标准化技术委员会(TC260)发布了TC260-TR-005-2026《智能体研究》报告,作为智能体安全标准顶层规划先导文件,重点界定智能体定义与边界范围