2026年AI智能体风险与行动报告（中文机翻）

AI智能体风险企业并购、创新与新兴风险格局执行摘要主要研究发现AI成熟度曲线长尾问题复合人工智能系统人工智能已在企业内部跨越了一个结构性门槛。最初仅作为独响深远的变革：人工智能现已深度融入各类业务流程，与核心本报告基于Nightfall客户群中来自科技、金融应用程序。这些数据提供了对人工智能在真实企业环境中实际如何被采用和应用的时点视角——揭示了传统安全防护手段间的每一次集成、每一个连接至内部系统的智能体，以及诸如MCP等新兴协议，都为敏感数据的流动开辟了新的路径。这传统数据丢失防护（DLP）技术并非为当前这种应用场景而设计。这些技术是为电子邮件和文件传输的早期时代打造人工智能如今已成为企业运营体系的组成部分；风险管理的发展轨迹亦与此相似。在下一阶段取得成功的企业，不会是那些阻碍技术应用的企业，而将是那些构建相应管控机制以支持技术应用的企业。在人工智能驱动的时代，保护数据——而不仅仅是保护工具——是唯一能够实01Nightfall发现其客户群中共有超过35,000款不同的应用程序在使02中等规模的组织运行着182个应用程序和11个AI工具；而规模最03近半数组织（49%）正在积极采用或探索使用AI代理——这类0304MCP服务器在过去16个月内增长了100倍——从发布时的约100台增至10,850台以上，每台服务器都代表一条通往企业级数据的新0581%的通用人工智能（GenAI）工具使用情况发生在非前三大供应商之外，这意味着大部分风险集中于长尾——即知名度较低的工具中。05第5页第5页代理工具同时采用两种方式的组织人工智能已达到一个临界点——它已从实验性应用阶段转向日常运营阶段。企业不再仅使用单同时采用两种方式的组织采用通用人工智能（GenAI）的组织采用AI代理的组织•将AI管理提升为核心安全优先事项，而非单纯作为IT政策的延伸。鉴于风险敞口之大，需在项目层面落实主体责任。•维持持续的AI资产清单——明确当前使用了哪些工具、由谁使用这些工具，以及这些工具可访问哪些数据。•立即开始扫描——实时监控敏感数据的流动路径及其是否流向未经授权的AI工具。无需再等待分类项目启动。•梳理人工智能工具与核心业务系统之间的连接关系。AI相关风险并非源于工具本身—这关乎他们能够触及的范围。AI成熟度曲线AIAI工具—中型企业AI工具——大型企业人工智能的应用部署情况并不均衡。各组织可分为不同的成熟度层级，每个层级均具有不同的风段落AI工具%描述团队规模（中位数）跨团队采用；新兴工作流；sanctioned与non-ssanctioned工具的混合使用。快速实验验证；多种模型与智能体；将人工智能深度融入日常工作。AI原生型领导者（P95–P99）深度工作流集成；定制化自动化与智能代理；AI即基础设•评估您的组织在该曲线上的所处位置。您的安全控制措施应与您实际的成熟度等级相匹配，•团队规模扩张阶段：重点关注影子AI检测。这一阶段是未经授权工具使用传播速度最快的时人工智能的规模与组织复杂度成正比人工智能的采用程度与整体应用生态规模密切相关。采用更多SaaS工具的组织往往也会采用更多AI工具、开展更广泛的实验并实现更深层次的集成。按应用足迹划分的平均AI工具应用程序总占用空间平均AI工具平均代理数应用程序总占用空间平均AI工具平均代理数拥有1,000个以上应用程序的组织所使用的AI工具数量是拥有少于50个应用程序的组织的40倍。智能客服代理的采用情况遵循相同的趋势，但进展相对滞后：规模最大的组织平均部署了近9个智能客服代理，而规模较小的组织则刚刚开始进行试点部署。•将您的SaaS基础设施视为您的AI风险暴露面。应用程序泛滥是衡量AI风险暴露度的领先指标。•将AI集成项添加到您的应用入驻检查清单中。每一款新的SaaS工具都可能是潜在的AI集成点。•部署可弹性扩展的基于API的数据保护方案。单个应用程序的配置难以跟上业务部署的步伐。•若您属于拥有1,000款以上应用程序的企业级用户，持续监控已成必选项。您面临的AI工具暴露风险是普通用户的40倍。第11页第11页通用人工智能vs.人工智能智能体：人工智使用或实验人工智能智能体AI智能体基于提示驱动工作流驱动用户主动触发系统集成执行任务收养智能体并非取代通用人工智能（GenAI而是构建在通用人工智能之上的。在采用通用人工智能的组织第12页第12页主流生成式AI工具（占企业总数的百分比）曼努斯主流AI代理工具（占组织总数的百分比）第14页第14页长尾问题尽管少数几款人工智能工具频频登上头条，但真正的复杂性却隐藏在人工智能市场正呈现两极分化态势：通用人工智能（GenAI）领域正在趋于整合——三家供应商（OpenAI、Anthropic和Google）已覆盖绝大多数企业，并正逐步成为标准化的基础设施；而人工智能智能体领域则仍处于碎片化状态——目前尚无任何单一平台的市场渗透率超过18%，且根据我们数据集中的103款不同智能体工具来看，该市场尚处于早期阶段且处于探索性发展期。然而，尽管行业顶端呈现集中化趋势，但长尾市场却呈现出截然不同的景象：•我们在客户群体中共观测到519款不同的GenAI516款其他通用人工智能工具516款其他通用人工智能工具对于安全团队所知的每一项OpenAI或Anthropic的部署，还有数十款专业AI工具——包括翻译、内容生成、代码辅助、设计及研究等——在缺乏有效监控的情况下运行。平均而言，每家组织使用10款通用AI工具，但根据我们的数据集统计，实际使用此类工具的组织数量达519家。绝大多数此类工具仅由少数组织使用，这使得它们更难被检测、评估和管Top25GenAI工具#工具123456789Top25AI代理工具#工具123456789试试Sparrow牙胶环Top25GenAI工具（续）#工具深海探索希格斯场餐巾纸中段旅程Top25AI代理工具（续）#工具代理技能采用率以采用人工智能的组织所占百分比的•优先执行针对数据而非工具的策略。以数据为中心的管控模型适用于任何目的地——包括上周还不存在的•假设您的库存信息不完整。长尾业务变化过快，难以通过人工方式进行追踪；因此，持续的自动化发现机制应作为基准做法。•部署浏览器及终端级检测机制，在敏感数据流向未经审核的工具之前，及时发现隐性AI使用情况。•当您发现某个长尾工具时，询问该工具最初涉及哪些数据。将驱动器使用情况隐藏起来。了解数据曝光情况有助于做出更明智的决策。人工智能已不再是一个独立的终点，而是深度融入了企业当前使用的各类工具之中：这引发了一种新的风险场景——“隐形AI数据泄露”：敏感数据在受信任的系统中由AI进行处理，用户可能并未意识到AI的参与，而传统的管控措施也失去了对这一过程的监控能力。第17页•对您主要的SaaS平台进行审计，检查其中是否嵌入了AI功能。假设这些功能默认处于启用状态，除非另有明确禁用设置。•审核针对您高风险平台的AI数据处理相关术语。了解经AI处理后的数据流向及其保留时•检测敏感数据在SaaS平台内的流动，而不仅限于数据离开您的网络边界。•让员工直观了解嵌入式人工智能的运行情况。员工无法察觉到系统中运行着的未知程序。AI风险已不再局限于AI工具本身，而是关乎与这些工具相连的整在使用人工智能技术的组织中，98.7%的组织还采用了BusinessSaaS或核心系统应用程序——这些系统正是敏感数据所存储的地方。我们数据集中的典型组织运作方式为：类别每组织平均应用数组织使用情况核心系统开发工具AI智能体5人工智能与企业数据之间的交互路径日益增多。任何连接到人工您的AI风险态势图是由您的数据层定义的——而非由您的AI•从您的数据出发，而非人工智能工具。首先识别出您最敏感的系统，随后映射出哪些人工智能系统可访问这些系统。•掌握“这款AI可以触碰什么？”的答案。对于任何AI工具或智能体，您都应能够追溯其已访问或可访问的数据。•分级管理AI连接权限。定义哪些数据系统在AI进行连接前需获得人工审批。•将连通性集成到事件响应流程中。当发生与人工智能相关的事件时，首要问题是“哪些数据可访问？”第21页第21页人工智能连接基础设施的崛起模型上下文协议（MCP）的出现，标志着人工智能系统访问企业数据的方式发生了结构性转变。现代人工智能系统不再孤立运行，而是越来越多地通过标准化接口与外部工具、API以及内部系统进行连接。自2024年底推出以来，MCP生态系统实现了飞速增长——从上线 112024年11月Apr20252025年6月2025第22页第22页时间范围MCP服务器里程碑控制代理集成层通过MCP连接的智能代理在AI工具与企业系统之间构建了一个全新的集成层——这一层面是传统数据丢失防护员工手动迁移数据。数据以机器级速度自动跨系实时监控这些工作流的每个环节既复杂又存在大量干扰因素。更有效的管控点在于将数据共享给AI工具及其所连接的系统。保障这一层面的安全性，需要对所连接的MCP服务器、这些服务器所暴露的SaaS应用及系统，以AI连接基础设施的扩展速度已超过AI技术本身的普及速度。•对代理发起的流量与人工发起的流量实施相同的数据策略。其风险•控制MCP网关。阻断未经授权的MCP连接是任何采用ActiveAgent方案的组织均可实施第24页第24页复合人工智能系统企业不再孤立地应用人工智能，而是构建复合型人工嵌入式人工智能以及互联互通的业务系统所组成的系统，这些组件•建模应针对多步威胁•建模应针对多步威胁，而非单次事件。您的威胁模型需涵盖数据在人工智能工具、代理及业务系•需进行安全审查，适用于包含多个AI系统的流程链——尤其是当代理基于通用AI的输出执行操作•对您的事件响应流程进行压力测试。您的团队能否在不到一小时内重建一条横跨三个AI系统和两各行业人工智能应用现状在我们的数据集中，各行业对人工智能的采用程度均较高，但其技术人工智能应用关键图案监管风险敞口：尽管合规工作复杂，但所有组织均已部署人工智能技术。数据敏感性：尽管存在对HIPAA和PHI的担忧，该技术按公司业务板块划分：第27页第27页段落人工智能应用如今的关键问题已不再是某个行业是否采用了人工智能，而是人工智能是如何被应用的——以及它涉及哪些数据。Nightfall的客户中近半数来自医疗保健和金融服务行业——这两个领域是全球监管最为严格的数据应用场•将您的AI数据政策与高风险数据类型挂钩。识别出其中风险等级最高、受监管或业务影响最大的两到三种数据类型。•金融服务：确保与人工智能相关的业务流程处于PCI认证范围之内，并将其纳入下一次合规性审计范围。•医疗保健：确认BAA保障范围涵盖所有可能处理PHI的AI供应商——包括集成在SaaS平台中的嵌入式AI。•技术措施：将基于人工智能的凭证及源代码泄露事件视为一级风险。单次API密钥泄露事件的影响可能远超典型的数据泄露事件。夜幕AI风险指数为帮助各类组织追踪其人工智能风险随时间演变的情况，我们推出了“NightfallAI风险指数”——这一综合指标是基于本报告中的各项衡量指标构建而成的：测量内容基准AI工具应用公司范围内广泛使用的主动式人工智能工具长尾指数除OpenAI、Anthropic、Google和Microsoft之外的AI工具所占比例AI智能体部署与应用公司内部广泛部署的主动式人工智能智能体5测量内容基准MCP集成公司范围内部署的ActiveMCP服务器在这些维度上得分较高的组织所面临的AI风险程度最高——这并非因为人工智能本身具有危险性，而是因人工智能的采用已不再是核心议题——几乎所有组织都已部署了人工智能技术。真正需要探讨的问题在我们数据集中的这些组织并非在开展实验，而是正在大规模部署人工智能——其中中位数为10款通用人工智能（GenAI）工具，近半数组织已采用智能体，且几乎所有组织的业务系统均与人工智能系统相连。本报告的核心论点：人工智能正从一种工具转变为一种基础设施；风险管理亦遵循着相同的演进路径。那些将人工智能相关风险视为数据连接性问题——而非人工智能工具本身的问题——的组织，方能在成功支持创新的同时保持对风险的掌控。传统DLP技术依赖于针对已知通信通道实施的静态规则与模式匹配——这种方法无法充分考虑上下文信息，容易导致警报过载，且无法应对ShadowAI或AI代理在系统间自主传输数据的情况。保护当今的数字化环境需要采用AI原生检测技术，该技术需覆盖数据流动的每一个环节——包括上个季度尚未出现的各类数据传输场景。Nightfall如何为您提供帮助NightfallAI是自2018年以来唯一一款专为人