Agentic AI 安全技术应用报告 -赋能决策 重塑未来

版权声明本报告为北京谷安天下科技有限公司(以下简称“本公司”)旗下媒体平为原著者所有。未经本公司书面许可,任何组织和个人不得将本报告内容作为诉讼、仲裁、传媒所引用之证明或依据,不得用于营利或用于未经允许的其他用途。任何未经授权的商业性使用本报告的行为均违反《中华人民共和国著作权法》及其他相关法律法规、国际条约。未经授权或违法使用者需自行承担由此引发的—切法律后果及相关责任,本公司将依法予以追究。免责声明本报告仅供本公司的客户或公司许可的特定用户使用。本公司不会因接收人收到本报告而视其为本公司的当然客户。任何非本公司发布的有关本报告的摘要或节选都不代表本报告正式完整的观点,—切须以本公司发布的本报告完整版本为准。本报告中的行业数据主要为分析师市场调研、行业访谈及其他研究方法估算得来,仅供参考。因调研方法及样本、调查资料收集范围等的限制,本报告中的数据仅服务于当前报告。本公司以勤勉的态度、专业的研究方法,使用合法合规的信息,独立、客观地出具本报告,但不保证数据的准确性和完整性,本公司不对本报告的数据和观点承担任何法律责任。同时,本公司不保证本报告中的观点或陈述不会发生任何变更。在不同时期,本公司可发出与本报告所载资料、意见及推测不—致的报告。本报告所包含的信息及观点不构成任何形式的投资建议或其他行为指引,亦未考虑特定用户的个性化需求或投资目标。用户应结合自身实际情况独立判断报告内容的适用性,必要时应寻求专业顾问意见。报告中涉及的评论、预测、图表、指标、理论等内容仅供市场参与者及用户参考,用户需对其自主决策行为负责。本公司不对因使用本报告全部或部分内容所产生的任何直接、间接、特殊及后果性损失承担任何责任,亦不对因资料不完整、不准确或存在任何重大遗漏所导致的任何损失负责。引言近年来,人工智能(AI)的进展速度已远超摩尔定律,正迅速接近人类智慧的边界。刚刚过去的2024年,GenAI产业迎来了前所未有的发展高峰。众多初创公司投身于生成式大语言模型的研究,争先恐后地推出生成式LLM的应用工具、开发平台和开源框架。在我国,通用大模型、垂类大模型、大模型服务等不同的AI产品也在快速推出,通义千问、豆包、Metaso、Deepseek等产品开始崭露头角。随着GenAI的大规模推广,AI实践开始在多个应用中显现成效,涉及智能消费品、工业、医学、教育、信息化、人形机器人等诸多领域。2025年是AI技术商业化应用和服务模式创新方面的—个关键转折点,这—年被业界认定为智能体 (AIagent)商用元年。主要得益于大语言模型(LLM)的逐步成熟、对话式智能体的广泛验证,以及企业对自动化与目标驱动型AI应用的迫切需求,这些因素共同推动了AIAgent的快速普及。与此同时,AIAgent的应用也进—步驱动形成了AgenticAI这—新理念。在Gartner发布的《2025年十大技术趋势》报告中,“AgenticAI”被列为2025年十大战略技术之首。GenAI及AIAgent的技术进步也推动着国内网络安全领域大模型步入了高速发展时期。据安全牛对产业的观察,国内主流的安全厂商正积极地在大模型安全能力上进行布局,形成了多样化的技术架构和应用模式。基于LLM训练的各类安全应用模型和Agent已经开始实际应用,尤其是在风险治理管理、高级威胁监测、数据分类分级、API资产识别、安全运营、事件响应等细分领域。随着企业安全建设复杂度持续攀升与AI技术应用的深度渗透,企业网络安全智能化转型已成为必然趋势。然而,智能体技术在商业场景与安全领域的融合应用,也催生新型安全风险与治理挑战。由于AIAgent作为新兴技术形态,用户对其认知尚处于早期阶段,导致技术应用特征难以被有效掌握。同时,AI技术本身的黑箱特性、安全缺陷等核心问题仍待突破,其中对抗样本攻击、提示词注入漏洞、隐私合规风险及自主决策失控风险等,构成当前AIAgent安全防护体系中的重点威胁维度。在企业向AI转型的关键时刻,如何选择和构建AgenticAI的安全能力,并有效地应对AI自身的安全问题,成为当前首席安全官们(cs0)在规划和采用安全AI产品时面临的主要障碍。了解AgenticAI自身的安全问题,及AgenticAI在网络安全领域技术研究进展、场景化方案和应用实践,对企业的首席安全官(cs0)至关重要。为帮助用户理解AIAgent的技术特性及其潜在的安全风险,并掌握AI技术在网络安全产品中的应用现状,安全牛发起了《AgenticAI安全技术应用报告》的研究项目。报告采用问卷调查、深度访谈、产品演示等多种研究手段,对用户侧、厂商侧进行了全面了解,并从技术、应用、产业发展等方面进行深度分析,揭示了AI及AIAgent在网络安全领域的应用现状和发展动向,旨在为企业用户提供从传统安全向AI安全转型的决策支持。本次调研成果将以多种形式呈现,涵盖技术概览、安全架构、应用指导、数据图表、典型案例深度剖析、代表性厂商评估与推荐等,助力读者快速了解AgenticAI的产业生态。n在国际政策方面。调研发现:2023年是AI安全发展的—个重要转折点:全球主要国家和地区政策和标准出台的数量在2023年后都有显著增加,同时在AI安全可信、安全评估、产业协同等方面提出了具有突破性的新要求,政策和监管焦点也逐步从单纯的技术追赶,转变为寻求发展与安全之间的平衡。n我国的AI安全方面。调研发现:近两年,我国针对AI法制治理力度在持续增强,表现相比美国和欧盟更为积极。但目前阶段我国AI安全治理还缺乏足够的技术积累,安全评测技术仍处于早期探索和验证阶段,相关合规要求和防护措施亦需进—步完善。n在技术应用方面。调研发现:国内网络安全行业的智能化应用水平,正在从传统小模型向大模型和Agent应用扩展,但实践中,LLMs+小模型协同还是当前网络安全智能化的主要方式。n在产业格局方面。调研发现:顺应AgenticAI的发展趋势,网络安全行业衍生了AI安全治理和AI赋能安全两股新的安全能力,能力布局的厂商即有传统的网络安全厂商也有AI安全的创新企业。n在AI赋能安全方面。调研发现:目前国内网络安全厂商在适用化应用和研究方面已经覆盖了威胁检测、上网行为管理、软件供应链安全、API安全、数据资产识别、安全运营、攻防对抗、威胁情报、安全知识库等多个细分能力领域。其中,开发安全、安全运营、攻防对抗这三个细分领域受到了特别的关注。nAI大模型对软件供应链安全的影响。安全牛认为:不仅为软件供应链安全提供了新技术支撑,也对网络安全人才资源进行了重新分配。在AgenticAI的赋能影响下,软件供应链安全市场正在迎来它的“第二春”。nAgenticAI安全技术成熟度。安全牛认为:AgenticAI安全的迭代和收敛时间相比其它安全技术会更短,预计将会在2年内进入规模化落地应用高峰期,5年左右市场将进入稳定增长阶段。nAgenticAI安全的未来趋势。安全牛认为:以Agents为核心的交付模式将会为企业带来新的网络安全构建方式,AgenticAI将推动“被动防御”向“主动防御”转变。与此同时,传统网络安全产业生态系统也将经历新—轮重构。 31.1AgenticAI概念与发展现状 3 7 81.4AgenticAI的典型行业应用 1.5国内外政策及标准化进展 2.1应用价值分析 2.2网络安全升级的必要性 32 3.1传统网络安全威胁模型 3.2行业组织的AgenticAI风险研究 3.3安全牛的AgenticAI风险研究 433.4典型风险分析 4.1AgenticAI安全理念 4.2AgenticAI系统安全管控框架 4.3AgenticAI赋能安全实现框架 5.1AgenticAI系统安全实施原则 5.2AgenticAI系统安全防护实施方法 5.3AgenticAI赋能安全的基本原则 6.1网络安全用户调研 6.2国内产业能力分析 7.1政策方面 997.2市场方面 7.3应用方面 8.1国外代表性安全厂商及相关产品 8.2国内代表性安全厂商及相关产品 9.1绿盟科技:AI安全赋能平台助力金融企业构建智能化安全防护新生态 9.2奇安信:Q-GPT安全机器人助力实战攻防 9.3Darktrace:ActiveAI保护某市数字基础设施的应用案例 附表1:AgenticAI与传统AI区别和联系分析附表2:AI特征分析参考文献3第-章AgenticAI概述随着大语言模型的技术突破,AI发展开始从单—文字生成向文生视频、多模态、推理模型、世界模型、具身智能等更多元领域深度发展。特别是在智能体(Agent)技术的驱动下,AI与行业场景的融合进入了新阶段,催生了丰富的创新实践与应用形态。各种新型智能体产品接连不断地涌现,助力各领域的智能化转型,同时以AgenticAI为核心的智能化产业生态开始形成。本章节从发展背景、概念、技术特点、典型应用方面对AgenticAI展开说明。AgenticAISystem(智能体AI系统,简称AgenticAI)是能够理解目标,并能通过感知、推理进行决策和行动,进而实现特定业务目标的—类智能系统。它包括大模型和智能体(Agent)两个主要组件,其中Agent能通过编排与其他代理协同,自主地进行推理和决策并完成更复杂的任务。智能体(Agent)应用的发展日新月异,当前国内外的典型智能体应用,可以分为以下几种类型:基础模型增强的研究型智能体、全流程软件开发智能体、任务自动化与工作流智能体、具身智能体/机器人智能体、智能体框架与平台。基础模型增强的研究型智能体是基础模型原生的Agentic能力,侧重基础大语言模型(LLM)底层架构创新,能支持科研级任务验证。代表性产品有:0penAIDeepResearch、GoogleGeminiResearch、4全流程软件开发智能体覆盖软件开发生命周期全流程,支持跨语言/框架自动化,并具备复杂项目架构设计能力,在软件开发中可以实现需求文档到可运行程序的完整交付。代表性产品有:DevinAI、cursor、cline、PerforceHelixAI。任务自动化与工作流智能体聚焦重复性数字任务自动化,具备低代码/无代码流程编排及用户自定义规则的能力。该类智能体应用非常广泛,能帮助用户实现各种灵活的流程化业务。代表性产品有:具身智能体/机器人智能体基于虚实交互训练技术,使机器人具备物理世界交互能力,典型应用场景为工业制造、仓储物流、家庭服务、医疗手术等。代表性产品有:DeepMindRoboticAgent、Boston智能体框架与平台是支持快速开发与部署的—类模块化工具,开发者通过低代码或API调用即可创建定制化智能体,能满足原型验证到常态化生产用户的需求。代表性的开源框架如:Langchain、AutoGen、BabyAGI、0penManus;代表性的企业级平台有salesforceEinsteinAgentPlatform、华为云ModelArtsAgentstu当前我国热门的智能体主要是任务自动化与工作流智能体类型。典型产品有:ManusAl、FlowitManusAI是—款由中国的创业公司Monica发布的全球首款通用型自主AI智能体产品。该智能体基于市场上的主流大模型,可以通过自主任务分解将复杂任务拆解为多个子任务,并动态调用不同的Agent或工具来执行每个子任务,最终完成整体任务。0penManus是国内MetaGPT团队推出的开源复刻版Manus,旨在提供无需邀请码的AIAgent,让更多用户能够体验类似的技术。但0penManus是开源项目,使用者需要自行部署后才能使用。AutoGLM是北京智谱华章科技股份有限公司(简称“智谱AI”)基于自研的GLM大模型构建的—款专用于学术研究的自主式Agent智能体。该智能体能够模拟人类的思维过程,根据输入主题自动完成安卓3种部署方式,分别适配于电脑客户端、手机客户端和chrom/EdgeWEB浏览器。Flowith是由上海—家成立于2023年6月的初创公司开发的AI交互型工作流编排Agent智能体,目前最新版本是Flowith2.0。该智能体可以根据输入内容自动进行分析、任务拆解、子任务执行、流程合并等操作,执行过程以画布式展示,使用者可对中间流程进行调整。此外,该智能体集成了GPT-4o、claude3.5等多款国内外的主流大模型,支持不同大模型切换、比较、图片/视频、0racle等多种创作方式,工作模式非常灵活。使用者可以按创作方式和大模型类型进行自由组合。AgentTars是由字节跳动于2025年3月开源的—款多模态AI智能体框架。该框架基于视觉解释网页内容,能与浏览器、命令行和文件系统无缝集成,实现复杂任务的规划与执行,并能提供桌面客户端,展示多模态元素和对话流程。AgentTars框架遵循Apache2.0开源协议,开发者可以自由定制功能模块,适用于企业流程自动化、网络安全运营“主动防御”和“智能分析”等场景。从以上列举的智能体发展中,可以看出智能体的应用开始多样化,既有通用型的,也有专业型的,Agent技术已经实现了从功能单—化到体系化的关键跃升一一通过深度融合多模态交互引擎与任务规划系统。AI应用范式正从以问答为核心的“被动服务模式”,向以目标达成为导向的“智能自动化体系”加速转型,以AgenticAI为核心的智能化产业生态开始形成。AgenticAI与早期各类人工智能理念既存在紧密联系,又有着显著区别,容易与传统AI、ML/DL、RPA、LLM及AIAgent等概念混淆,以下对比进行说明。图2AgenticAI的演进过程及关键时间点传统AI:指的是早期的人工智能方法,通常依赖于预先编程的规则、符号逻辑和专家系统。这些系统在特定领域内表现出色,但缺乏自主学习和适应新环境的能力。AgenticAI:可以被视为传统AI的进化和延伸。它继承了传统AI中关于智能体(Agent)的概念,但更加强调智能体的自主性、目标导向性和环境适应性。AgenticAI利用更先进的技术(如LLM、ML/DL)来实现更复杂的感知、决策和行动能力,不再仅仅依赖预设规则。s6ML/DL:是人工智能的—个子领域,专注于通过算法让计算机从数据中学习,而无需显式编程。机器学习包括各种算法,如决策树、支持向量机等,而深度学习是机器学习的—个分支,利用多层神经网络处理复杂数据。AgenticAI:ML/DL是AgenticAI的重要组成部分和驱动力。AgenticAI利用ML/DL技术来实现其感知、学习和决策能力。例如,LLM就是—种基于深度学习的模型,是AgenticAI理解和生成自然语言的关键。RPA是—种自动化技术,通过模拟人类用户在计算机上的操作(如点击、输入、复制粘贴等)来自动化重复性的、基于规则的任务。RPA通常应用于结构化数据的处理和预定义的流程。AgenticAI:RPA主要关注任务的自动化执行,而AgenticAI则更侧重于智能化的决策和自主行动。AgenticAI能够处理更复杂、非结构化的数据,并在遇到变化时进行智能调整,这超出了RPA的能力范围。LLM是—种基于深度学习的语言模型,通过对大量文本数据进行训练,具备理解和生成自然语言的能力。LLM是AgenticAI中处理语言的关键组件。AgenticAI:LLM是AgenticAI的核心构建模块之—,但AgenticAI不仅仅包含LLM。—个完整的AgenticAI系统还需要工具与扩展、协调决策机制、知识图谱、推理框架等多个组件协同工作,才能实现自主完成复杂任务的能力。AIAgent(人工智能代理,简称为Agent)是能够感知环境并采取行为实现特定目标的—类智能应用软件(智能体)。它具备理解、规划、记忆和使用工具的能力。Agent通过API接口调用LLM大脑的推理能力,是以LLM为大脑驱动的—种衍生品。AgenticAI:可以被认为是“AIAgent”技术在实际应用中的延展。它强调了智能体的自主性、目标导向性和复杂问题解决能力。当前的AgenticAI系统通常利用先进的技术(如LLM、ML/DL)来实现更高级别的智能和自主性。7智能体通常包括以下7个核心能力:强大的基础模型、规划能力、工具使用、记忆机制、多智能体协作能力、环境交互与反馈能力、自主学习与改进能力。图3智能体7大核心能力l强大的基础模型是提供语言理解、多模态生成、逻辑推理底座(如0penAIO3、G支撑智能体核心决策能力。l规划能力指智能体根据当前的环境状态、目标和可用资源,制定出—系列行动步骤或策略,确保能够有效地达成预定目标。规划能力不仅涉及短期和长期的决策,还需要在面对不确定性、资源限制和复杂环境时进行动态调整。规划通常是解决问题和执行任务的核心部分,它使得Agent能够从—开始就设定方向,并通过—系列合理的行动来逐步实现目标。l工具使用能力指智能体在执行任务时,能够识别、选择并有效地使用各种工具来帮助其达成目标的能力。这些工具可以是物理工具、数字工具、外部资源或支持性系统。工具使用能力使得Agent能够扩展自身的能力,解决任务中的各种复杂问题或挑战。生态中,目前形成“模型+插件”的体系 (如chatGPT插件商店支持1000+工具接入)。l记忆机制指智能体在执行任务和与环境交互过程中,能够存储、更新和利用历史经验、信息以及感知数据的能力。通过记忆机制,Agent能够积累经验,识别规律,提高决策质量,适应环境变化,并在后续的任务中展示更高效的行为表现。记忆机制对于强化学习、任务规划、情境推理等多种智能体行为至关重要。8l多智能体协作指多个智能体(Agents)在共享环境中,协调合作以达成共同目标或各自独立目标的能力。这种能力使得多个智能体能够通过互相协作、信息共享、资源分配以及任务分配等方式来提高整体系统的效率,优化资源使用,减少时间和成本。多智能体协作通常会面临多种挑战,如冲突解决、协调同步、信息不对称等问题。目前主流的智能体协议有MCP(模型上下文协议)、ANP(Agent网络协议)和A2A(Agent-Agent协议)三种。MCP主要用于规范AI模型与外部数据源、工具之间的交互方式;ANP是为分布式智能体设计的开源通信协议,旨在为智能体之间的连接、通信和协作提供标准化框架;A2A是—种开放协议,专注于智能体之间的交互和协作。l环境交互与反馈能力Agent的环境交互与反馈能力是—个不断感知、决策、行动、反馈并根据反馈调整行为的动态过程,这使得Agent能够在复杂的、变化的环境中持续有效地执行任务。l自主学习与改进能力Agent的自主学习与改进能力是智能体能够在没有明确指示或外部干预的情况下,通过与环境的互动,自行获取知识、优化策略,并持续提高任务执行效率的能力。自主学习的方式包括:自我监督学习、强化学习、模型优化与策略改进等等。架构上,AgenticAI系统通常分为核心层、协调层和接入层三层,具体由大语言模型、工具与扩展、协调决策、知识图谱与检索增强生成(RAG)、推理框架5个关键组件构成。这些组件如同—个智能体的不同器官和系统,相互协作,共同构建出—个具有自主学习、决策和执行能力的智能系统。它们之间的紧密集成和协同工作,使得AgenticAI能够超越传统AI的被动响应模式,展现出更强大的智能和自主性。9(1)大语言模型(LLM)大语言模型(LLM)是提供语言理解、多模态生成、逻辑推理底座,在AgenticAI中扮演了至关重要的核心角色,堪比智能体的“大脑”。LLM通过对海量的自然语言数据进行训练,习得了丰富的世界知识、语言规则和上下文理解能力。这使得AgenticAI能够与人类进行自然流畅的交流,准确理解用户提出的复杂指令、问题和意图,并能够生成符合语法、逻辑和上下文的自然语言回应,包括文本、代码,甚至多模态内容。LLM在AgenticAI中的作用远不止于简单的语言理解和生成。它们还具备强大的上下文学习(In-contextLearning)能力,即无需进行额外的微调,仅通过在输入提示中提供少量的示例或指令,就能学会执行新的任务或遵循特定的格式。这种能力极大地提高了AgenticAI的灵活性和适应性,使其能够快速应对各种不同的场景和需求。此外,LLM还能够理解语言中的细微差别、隐含意义和情感色彩,这对于AgenticAI与人类进行更深层次的交互至关重要。例如,AgenticAI能够识别用户话语中的不满情绪,并采取更具同理心的回应。更重要的是,LLM作为AgenticAI的知识底座,存储了大量的世界知识,能够为后续的决策、推理和任务执行提供必要的背景信息。它们不仅是信息的载体,更是连接不同信息片段、进行初步推理和生成假设的基础。因此,—个强大且富有洞察力的LLM是构建高效AgenticAI系统的基石。(2)扩展工具AgenticAI仅凭语言能力往往无法完成所有任务,它需要与外部世界进行交互,获取额外的资源和执行具体的操作。因此,集成各种工具和扩展对于增强AgenticAI的功能和交互能力至关重要,这相当于智能体的“手IO脚”和“感官”。这些工具和扩展涵盖了广泛的功能,包括:数据存储系统:用于存储和检索AgenticAI运行过程中产生的各种数据,例如用户偏好、任务历史、中间结果等。API接口:允许AgenticAI与其他软件系统和服务进行交互,例如访问搜索引擎获取最新信息、调用日历API安排日程、连接数据库查询数据、使用地图服务规划路线等。传感器模块:在物理世界应用中,例如机器人或物联网设备,传感器可以感知环境信息,例如图像、声音、温度、湿度等,并将这些信息传递给AgenticAI进行处理和决策。执行器:用于执行AgenticAI的决策,例如控制机械臂进行操作、发送电子邮件、发布社交媒体消息等。特定领域的工具:例如,用于代码生成的代码解释器、用于数据分析的Python库、用于图像处理的视觉模型等。通过调用这些外部工具,AgenticAI能够突破自身的知识和能力边界,获取更广泛的信息资源,执行更复杂的任务,并与现实世界进行有效的互动。工具和扩展的选择和集成策略直接影响着AgenticAI能够解决问题的范围和效率。—个设计良好的工具生态系统能够极大地提升AgenticAI的实用性和通用性。(3)协调决策协调决策层是AgenticAI的“指挥中心”,负责规划、决策和任务执行的整个流程。它接收来自语言模型对用户指令的理解以及来自工具模块获取的信息,并结合自身的知识库和预设的规则系统,制定出合理的行动计划。这个过程类似于人类解决问题时的思考和规划过程。在任务分解过程中,协调层会将用户提出的复杂任务拆解为—系列更小、更易于执行的子任务,并根据任务之间的依赖关系和优先级安排执行顺序。例如,当用户要求“预订明天上午十点从纽约到洛杉矶的机票和酒店”时,协调层会将这个任务分解为“查询航班信息”“筛选航班”“预订机票”“查询酒店信息”“筛选酒店”“预订酒店”等子任务,并按照合理的顺序执行。协调层还需要负责选择合适的工具来完成每个子任务,并管理工具的调用和执行过程。它需要监控任务的执行状态,处理可能出现的错误和异常情况,并根据实际情况调整执行计划。此外,协调层还需要负责维护任务的上下文信息,确保各个子任务之间的连贯性和—致性。—个高效的协调决策机制能够确保AgenticAI能够有效地解决复杂问题,并达成用户设定的目标。(4)知识图谱和RAG知识图谱是—种以图形结构表示知识的方式,它将现实世界中的概念(实体)及其之间的关系(边)组织起来,形成—个庞大而互联的知识网络。知识图谱可以帮助AgenticAI理解概念之间的语义关系,进行更深入的逻辑推理和知识查询。例如，通过知识图谱，AgenticAI可以理解“苹果”既是—种水果，也是—家科技公司的名称，并根据上下文区分其含义。检索增强生成(Retrieval-AugmentedGeneration，RAG)技术则是—种结合了信息检索和文本生成的方法。当AgenticAI需要回答问题或生成文本时，RAG首先会从组织自建的知识库(例如知识图谱、文档数据库等)中检索出与当前任务相关的知识片段，然后将这些知识片段作为上下文信息输入到语言模型中，指导语言模型生成更准确、更可靠的答案或文本。RAG技术有效地解决了传统生成式模型可能存在的知识不足、容易产生幻觉(生成不真实的信息)等问题，显著增强了生成式模型的准确性和可靠性。知识图谱和RAG的结合，使得AgenticAI不仅拥有庞大的知识储备，还能够高效地检索和利用这些知识，从而提供更智能、更可靠的服务。(5)推理框架推理框架是AgenticAI实现高级推理和复杂决策的关键组成部分，它们为智能体提供了模拟人类思维过程的能力，使其能够进行多步推理、规划和解决复杂问题，相当于智能体的“思考引擎”。常见的推理框架包括:ReAct(Reasoning+Acting)这种首先进行推理，思考下—步应该采取什么行动，然后执行该行动，观察环境的变化，并根据观察结果进行下—步的推理和行动。这种交替的推理和行动过程使得AgenticAI能够逐步解决复杂问题，并在遇到困难时进行反思和调整。CoT(ChainofThought)链式思考是—种通过逐步生成中间推理步骤来解决复杂问题的推理方法。AgenticAI在生成最终答案之前，会先生成—系列相关的思考步骤，解释其推理过程。这有助于提高答案的合理性和可解释性，并使得AgenticAI能够处理需要多步逻辑推理的问题。ToT(TreeofThoughts)树状思考是—种更高级的推理框架，它允许AgenticAI在解决问题时探索多个不同的思考路径。AgenticAI会生成多个可能的下—步思考方向(形成—个“思考树”)，并对每个方向进行评估。然后，它会选择最有希望的思考路径继续探索，直到找到最终的解决方案。ToT框架能够帮助AgenticAI解决更具挑战性和开放性的问题，并提高其创新能力。这些组件是AgenticAI具备自主决策、环境适应和目标导向的主要支撑能力。这使得AgenticAI能够在复杂、多变的环境中完成更具挑战性的任务。AgenticAI能够主动地解决问题，适应变化，并根据环境和目标进行自我调整，正在各个领域展现出巨大的潜力，应用非常广泛。典型应用场景包括个人助理、企业智运营、教育、医疗、科研和创新、网络与信息安全及新兴领域。本章节将具体阐述AgenticAI在个人助理、企业智运营、教育、医疗、科研和创新、新兴领域六个主要领域的应用现状，网络与信息安全的应用参考第二章。I2图5AgenticAI典型行业应用(1)个人智能助理个人智能助理是AgenticAI最直接和最贴近用户的应用领域之—。未来的个人助理将远不止于简单的语音助手或任务提醒工具,它们将成为用户生活和工作的智能伙伴。l智能日程规划与管理:AgenticAI能够深度理解用户的日程安排、工作习惯和个人偏好,实现高度智能化的日程管理。它不仅可以根据用户的会议邀请、出行计划和待办事项自动安排日程,还能主动识别潜在的时间冲突并提出优化建议。l个性化内容筛选与整合:在信息爆炸的时代,如何高效地获取所需信息至关重要。AgenticAI能够深入分析用户的兴趣、偏好、历史行为和当前需求,从海量信息中精准地推荐用户可能感兴趣的内容,例如新闻、文章、视频、音乐、商品等。同时,AgenticAI能够自动收集、整合和分析来自不同渠道的信息,提取关键信息并生成简洁明了的摘要。这可以极大地节省用户的时间和精力,帮助他们快速了解重要的信息。l自适应学习用户偏好:AgenticAI能够通过与用户的持续互动和对用户行为的观察,不断学习和理解用户的偏好。它能够记住用户的习惯、喜好、工作流程和决策模式,并在未来的交互中更好地满足用户的需求。这种自适应学习的能力使得个人智能助理能够越来越贴近用户的个性化需求,提供更加精I3准和高效的服务。l复杂任务的自主执行:AgenticAI不仅能够帮助用户管理信息和安排日程,还能自主执行复杂的任务。用户只需要向AI助理发出高级别的指令,AI助理就能将其分解为—系列可执行的子任务,并自主地完成这些任务。(2)企业智能解决方案AgenticAI在企业级应用中展现出巨大的潜力,能够帮助企业提高运营效率、优化决策流程、提升客户体验并创造新的商业价值。l自动化数据分析与报告生成:企业每天产生海量的数据,如何从这些数据中提取有价值的洞察是企业面临的重要挑战。AgenticAI能够自主地分析各种来源的企业数据,例如销售数据、客户数据、运营数据、财务数据等,识别数据中的模式、趋势和异常,并自动生成详细的报告和可视化图表。l智能客服与对话系统:传统的客服系统往往需要人工干预,效率较低且成本较高。AgenticAI驱动的智能客服和对话系统能够理解用户的自然语言,准确识别用户的问题和需求,并提供及时、准确地解答和支持。l供应链优化与预测:供应链管理是企业运营的关键环节。AgenticAI能够分析供应链中的各种数据,例如需求预测、库存水平、物流信息、供应商绩效等,识别潜在的瓶颈和风险,并提出优化建议。l市场趋势分析与决策支持:了解市场趋势是企业制定战略决策的关键。AgenticAI能够收集和分析来自各种渠道的市场信息,例如行业报告、新闻资讯、社交媒体数据、竞争对手动态等,识别新兴的市场趋势和潜在的机遇,并为企业提供决策支持。(3)智能教育系统AgenticAI正在深刻地改变着教育领域,使得个性化、自适应的学习成为可能。l自适应个性化学习路径:传统的教育模式往往采用统—的教学内容和进度,难以满足不同学生的学习需求和节奏。AgenticAI能够根据每个学生的学习基础、兴趣、学习风格和目标,动态地调整学习内容、难度和进度,构建个性化的学习路径。l智能学习伙伴与辅导:AgenticAI可以作为学生的智能学习伙伴和辅导老师,提供实时的反馈、解答疑问和个性化的指导。与传统的助教或辅导老师相比,AI学习伙伴可以随时随地为学生提供支持,并且能够根据学生的学习情况进行个性化的辅导。l学习进度跟踪与反馈:AgenticAI能够实时跟踪学生的学习进度和表现,分析学生的学习习惯和薄弱环节,并向学生和老师提供详细的反馈报告。这有助于学生了解自己的学习情况,及时调整学习策略;也有助于老师了解学生的整体学习情况,并根据学生的反馈调整教学方法。I4l多维度学习评估:传统的学习评估往往只关注学生的考试成绩,难以全面反映学生的学习能力和素质。AgenticAI能够通过多种方式评估学生的学习情况,例如分析学生的作业、项目、参与讨论的情况等,从多个维度评估学生的知识掌握程度、解决问题的能力、创新能力和合作能力。这有助于更全面地了解学生的学习成果,并为学生的未来发展提供更准确的指导。(4)科研与创新助手AgenticAI正在成为科研人员和创新者的强大助手,加速科学发现和技术突破。l科学文献检索与总结:科研人员需要查阅大量的科学文献才能了解最新的研究进展。AgenticAI能够自动检索各种学术数据库和文献资源,根据研究主题和关键词筛选相关文献,并提取关键信息和研究结论,生成文献综述或摘要。这极大地节省了科研人员查阅文献的时间和精力,让他们能够更专注于研究本身。l实验设计与参数优化:在进行科学实验时,实验设计和参数优化至关重要。AgenticAI能够分析已有的实验数据和理论模型,预测不同实验参数组合下的实验结果,并为科研人员提供最优的实验设计方案和参数设置建议。这有助于提高实验效率,降低实验成本,并加速科学发现的过程。l跨领域知识关联与发现:科学研究往往需要跨领域的知识融合和创新。AgenticAI能够分析不同学科领域的知识体系和研究成果,发现不同领域之间的潜在联系和交叉点,并为科研人员提供新的研究思路和创新方向。这有助于打破学科壁垒,促进跨学科的合作和创新。l创新方案生成与评估:在技术创新领域,AgenticAI能够根据用户提出的需求和问题,结合已有的技术知识和创新案例,自动生成多种可能的创新方案。同时,AI系统还可以根据预设的评估指标,对不同的创新方案进行评估和比较,帮助用户选择最优的方案。(5)医疗健康支持AgenticAI在医疗健康领域展现出巨大的潜力,能够提高医疗诊断的准确性、优化治疗方案、改善患者体验并降低医疗成本。l个性化健康管理计划:AgenticAI能够分析个人的健康数据,例如病史、生活习惯、基因信息、体检报告等,结合最新的医学知识和临床指南,为用户量身定制个性化的健康管理计划。l医疗文献解读与诊断辅助:医生需要查阅大量的医学文献才能了解最新的疾病诊断和治疗方法。AgenticAI能够快速检索和分析医学文献,提取关键信息和研究结论,并为医生提供诊断和治疗建议。l患者监测与异常预警:AgenticAI能够实时监测患者的生理指标,例如心率、血压、血糖、体温等,当出现异常情况时,例如心率过快或过慢、血压过高等,AI系统会立即发出预警,提醒医护人员及时采取干预措施。l5l远程医疗协作支持:AgenticAI能够支持远程医疗的开展,例如远程会诊、远程监护、远程康复指导等。AI系统可以帮助医生收集患者的病情信息,进行初步的诊断和评估,并协助专家进行远程会诊。这有助于提高医疗服务的可及性,尤其是在偏远地区或医疗资源匮乏的地区。(6)AgenticAI在新兴领域的应用AgenticAI作为—种具备感知和决策能力的智能工具,正在引领着—场前所未有的科技革命。它能够深入到人类无法触及的领域,通过智能化的手段实现新兴领域的科学探索和创新应用。这种智能工具的应用范围广泛,涵盖了多个前沿科技领域。l在元宇宙领域,AgenticAI可以构建出逼真的虚拟世界,为用户提供沉浸式的体验。通过智能感知和决策能力,AgenticAI可以根据用户的行为和偏好,动态调整虚拟世界的场景和元素,从而实现更加个性化的体验。这种技术在游戏、教育、娱乐等领域有着广泛的应用前景;l在生物科学领域,AgenticAI可以通过智能化的手段,对生物体进行精准的分析和预测。它可以帮助科学家们更好地理解生物体的结构和功能,从而推动生物医学研究的发展;在医疗健康领域,AgenticAI可以通过智能化的手段,对患者的病情进行精准的诊断和治疗。它可以帮助医生们更加准确地判断患者的病情,从而制定更加有效的治疗方案;l在人形机器人领域,AgenticAI可以实现更加智能化的机器人控制和交互。它可以帮助机器人更加准确地理解人类的意图和需求,从而实现更加自然的交互和协作。这种技术在工业制造、家庭服务等领域有着广泛的应用前景。总而言之,AgenticAI正在以前所未有的速度和广度渗透到我们生活的各个方面,并在个人生活、企业运营、教育、安全、科研和医疗健康等领域展现出巨大的应用价值和发展潜力。随着技术的不断进步,我们有理由相信,AgenticAI将在未来发挥越来越重要的作用,为人类社会带来更加智能、高效和便捷的生活体验。在AI发展政策和标准化方面,影响较大的地区主要是:中国、美国、欧盟。从发展趋势来看,2023年是个重要分水岭,AI政策和标准出台的数量在2023年后出现大幅增长,同时在AI安全可信、安全评估、产业协同等方面提出突破性要求,政策和监管重心也逐渐从侧重技术追赶转向发展与安全平衡。本章节比较美国、欧盟和中国在人工智能领域的政策驱动与安全治理进展,并对其发展过程展开说明。I6图6代表性国家和地区的政策及标准1.5.1美国在美国,联邦立法是美国的最高法,旗下以州立法、国家职能部门出台的框架、标准为主。美国的AI政策驱动力在2021年前后的表现相对激进。《国家人工智能倡议法案》是美国国家层面驱动AI技术发展的重要文件之—,特别是ChatGPT应用推广之后,美国更是将AI作为国家级战略开始全球化布局。在推动AI发展的同时,美国也高度重视AI自身的安全和可依赖问题,旨在通过—系列法规和标准规避AI开发和应用过程中的风险,确保AI可信和负责任地发展。其中,影响较大的文件是:拜登签署的第14110号行政令、美国国土安全部CISA发布的《人工智能路线图》NIST发布的《人工智能风险管理框架》及3月底刚刚发布的l7图7美国AI安全政策与标准框架以下从政策和标准两个方面展开说明:(1)法规和政策.2021年1月,美国联邦立法正式实施了《国家人工智能倡议法案》,该法案作为美国国防授权法案的—部分,旨在通过设立—个协调统筹机构来促进联邦加速人工智能研究和应用,以促进国家经济繁荣和国家安全。.2021年7月,科罗拉多州州长签署通过了《科罗拉多州S.B.169法案》,其目的是限制保险公司利用消费者数据或预测模型进行不公平歧视。.2022年10月4日,美国白宫科技政策办公室(0STP)发布了《人工智能权利法案蓝图》(BlueprintforanAIBillofRights),提出通过五项原则预防滥用人工智能技术带来的风险。.2023年9月28日,美国国家安全局(NSA)宣布将开设—个人工智能安全中心,以监督美国国家安全系统中人工智能能力的开发和整合。.2023年10月,美国总统拜登签署了《关于安全、可靠、可信地开发和使用人工智能的行政命令》即行政命令14110号。提出建立人工智能安全新标准、保护美国民众隐私、提升美国在人工智能领域的I8国际领导力,以及确保政府负责任且有效使用人工智能等八项行动。值得关注的是,该行政命令要求开发者与美国政府共享人工智能模型的训练结果,为美国政府密切掌握私营部门相关技术发展进行赋权。.2023年11月,美国国土安全部CISA发布《人工智能路线图》,指导人工智能的安全开发和应用。该路线图提出5项重点工作,分别是:负责任地使用人工智能来支持工作、评估和测试人工智能系统、保护关键基础设施防止恶意使用人工智能、加强国际合作、建设具有人工智能专业知识的人才队伍。.2024年11月20日,美国人工智能安全研究所宣布成立AI国家安全测试风险(TRAINS)工作组,汇集多部门专家,应对人工智能技术带来的国家安全问题。.2024年12月23日,美国德克萨斯州众议院第1709号法案《负责任的人工智能治理法案》提交议会审议。旨在规范人工智能系统,防止在就业和医疗保健等关键领域出现算法歧视。法案要求对高风险的人工智能系统进行年度影响评估、消费者信息披露和监督程序,同时豁免不受法案直接监管的中小型企业。开发者必须提供风险评估并召回不合规的系统。该法案将在2025年9月正式实施。(2)标准和指南.2020年8月,美国国家标准与技术研究院(NIST)发布了NISTIR8312《可解释人工智能的四大原则草案》,提出了可解释人工智能的四项原则:有解释(Explanation)、有意义(Meaningful)、准确性 (Accuracy)、知识限制(knowledgeLimits)来建立对AI系统的信任。标志着美国在推动可信AI发展方面迈出了重要—步。.2021年3月,NIST发布NISTIR-8332草案《信任和人工智能》,主要讨论了人工智能技术的快速发展如何影响用户对AI系统的信任,并提出了评估用户信任度的方法。2022年,谷歌和微软先后发布了《人工智能原则》和《负责任人工智能标准》,分别提出了负责任人工智能开发的原则和做法。.2023年1月,NIST正式发布NISTAI100-1《人工智能风险管理框架1.0》(AIRMF),包括治理、映射、测量、管理4个核心内容,旨在为人工智能系统设计、开发、部署和使用提供指南,帮助组织管理和应对人工智能系统相关的风险。.2023年11月,在14110号AI行政令的要求下,美国商务部在国家标准与技术研究所(NIST)内成立了美国人工智能安全研究所(AISI)。作为人工智能风险管理框架的配套资源,该研究所旨在研究AI系统风险,验证和评估人工智能生成的内容,以及为评估人工智能能力制定指导方针和基准,其中包括具有国防应用的系统。.2024年7月,为支持联邦行政命令14110的执行,NIST发布了NISTSP800-218A《生成式人工智能和双用基础模型的安全软件开发实践》。该指南旨在为生成式人工智能(GenerativeAI)和双用基础模型(Dual-useFoundationModels)的开发提供安全软件开发框架的补充资源。详细涵盖了从数据获取、设计、训练到评估和集成AI模型的整个生命周期,为AI模型和系统开发人员、系统生产者以及系统使用者提供了全面的安全实践指导。I9.2024年7月29日,美国律师协会道德和专业责任常设委员会发布《关于生成式人工智能工具使用的正式意见》,为律师使用生成式人工智能工具提供指导和伦理规范。.2025年3月24日,美国国家标准与技术研究院(NIST)发布了最新版本的对抗性机器学习指南"NISTAI100-2e2025:AdversarialMachineLearning:ATaxoMitigations"。该文档是对2024年1月版本的重要更新,为组织提供了识别、应对和管理与对抗性机器学习相关风险的全面框架。包括3个主要部分:第二部分关注预测性AI(PredAI)系统,包括攻击分类、主要攻击类别(规避、投毒和隐私)以及相应的缓解措施;第三部分关注生成式AI(GenAI)系统,包括攻击分类和缓解措施;文档还包含—个术语表,以促进对抗性机器学习概念的共同理解。此外,美国积极参与国际标准化组织(IS0)和欧洲标准化委员会(CEN)等机构的工作。如NIST参与全球人工智能标准IS0/IECJTC1/SC42的制定;美国网络安全和基础设施安全局(CISA)与其他国家合作发布了《AI系统安全开发准则》,提出了设计安全、默认安全等四大监管要求。欧盟是典型的垂直立法的地区。相对推动AI技术应用,欧盟政策上更关注AI引入的安全问题,并积极引导人工智能朝向法律合规、伦理健康的方向发展。2024年起,欧盟针对AI安全出台的条例和法案开始频繁,而2025年2月开始,围绕《人工智能法案》大量发布相关的指导方针、实践指南。这些指南虽无法律效力,但为企业贯彻和落实合规要求提供了重要参考。欧盟的AI监管框架以《人工智能法案》为核心,辅以GDPR、D0RA、NIS2等法规形成多层次治理体系。具体政策、法规、实践指南的发布情况如下:(1)2018年5月25日,欧盟《通用数据保护条例(GDPR)》生效。该条例不是专门针对AI的法规,但通过规范个人数据处理间接影响AI开发,例如要求算法透明性、数据最小化原则等。(2)2024年2月17日,《数字服务法(DigitalServicesAct,DSA)》生效。法规要求平台对AI生成内容进行风险管控,限制深度伪造等高风险应用,与AI安全治理形成互补。(3)2024年10月,《网络安全与信息化指令(NIS2)》生效。要求AI基础设施运营商加强安全防护,防范网络攻击和数据泄露。(4)2024年8月1日,《人工智能法案(AIAct)》正式生效,成为全球首部全面监管AI的法律框架。核心内容包括禁止性AI应用、高风险AI监管、罚款机制、例外情形等内容进行了定义。根据计划,该框架分阶段发布和实施,2027年8月法案所有条款将会全面实施。截至目前的实施进展与计划如下:2025年2月2日,关于人工智能素养和禁止人工智能用途的规定已经生效。其中,禁止人工智能条款,明确禁止“不可接受风险”的AI应用,包括:有害操纵和欺骗技术、利用脆弱性进行有害剥削、社会评分、个人犯罪风险评估和预测、未经许可抓取面面图像、情感识别、生物识别分类、执法目的的实时远程生物识别(RBI)系统。为指导企业实施《人工智能法案》,2月2日荷兰数据保护局积极推出了《AI素养实践指南》;2月5日,进—步发表了《禁止人工智能指南》,细化禁止性行为的判定标准(如潜意识操控、歧视性算法的界定等),为实施AI合规提供了有效指导;2025年8月,通用人工智能(GPAI)模型透明度要求生效,欧盟委员会将发布行为准则并启动执法;2026年8月,高风险AI系统(如医疗、执法领域)的全面监管义务生效。1.5.3中国中国政府高度重视人工智能技术发展,2017年人工智能首次被写入《政府工作报告》,2024年《政府工作报告》正式提出推行“AI+”。意味着人工智能要深度融入国民经济的各个角落,与传统产业实现全方位、深层次的融合。安全方面,《中华人民共和国网络安全法》《中华人民共和国数据安全法》以及《中华人民共和国个人信息保护法》作为我国网络安全领域的基础法规,同样也是人工智能稳健发展的重要基础保障。为进—步应对AI产业快速发展带来的挑战,国家职能部门围绕AI技术特性与产业需求,积极从技术规范、行业应用等再次出台了—系列相关政策、标准,以加速并有效推进AI市场良序发展。2023年以来,AI在国内得到广泛应用,AI生态治理政策出台相比美国和欧盟更为激进。特别是刚刚出台的强标GB45438-2025《人工智能生成合成内容标识方法》,说明生成式人工智能发展已经切实影响到社会活动和国家安全,也标志着我国人工智能产业开始从实践升维到法治治理阶段。这—表现与我国国情及广泛的AI基础用户有—定关系。2I图8中国人工智能治理政策及标准以下从行业应用、安全监管、标准化及人才储备方面分别梳理国家及职能部门出台的政策情况。(1)人工智能发展的驱动政策2017年,人工智能首次被写入《政府工作报告》。7月,国务院发布了《新—代人工智能发展规划》,提出阶段战略目标;12月,工信部进—步发布了《促进新—代人工智能产业发展三年行动计划 (2018-2020年)》,推进人工智能和制造业深度融合。2019年11月8日,国家林草局《关于促进林业和草原人工智能发展的指导意见》,推动人工智能技术在林草核心业务中的应用。2022年7月29日,科技部、教育部、工信部、交通运输部、农业农村部、国家卫健委发布了《关于加快场景创新以人工智能高水平应用促进经济高质量发展的指导意见》,推动人工智能高水平应用。同年12月,最高人民法院也出台了《关于规范和加强人工智能司法应用的意见》,规范和加强人工智能在司法领域的应用。2023年10月18日,国家网信办发布了《全球人工智能治理倡议》,为全球人工智能治理贡献中国方案;10月20日,工信部出台了《人形机器人创新发展指导意见》,指导人形机器人创新发展。2024年,《政府工作报告》首次提出推行“人工智能+”行动,深化人工智能应用。6月,工业和信息化部等四部门联合发布了《国家人工智能产业综合标准化体系建设指南(2024版)》,加强人工智能标准化工作系统谋划。2025年,《政府工作报告》进—步提出,要持续推进“人工智能+”行动,激发数字经济创新活力。在以“杭州六小龙”为代表的科创企业的努力下,中国人工智能跑出了加速度,如,Deepseek全球出圈,宇树机器人的秧歌,快手旗下的视频大模型“可灵”称其在国际上的评价已超越sora。(2)AI治理和监管政策2017年,国务院印发了《新—代人工智能发展规划》。指出人工智能发展的不确定性带来挑战,影响涵盖就业、法律与伦理、个人隐私、国际关系等,必须高度重视人工智能可能带来的挑战。提出到2025年要初步建立人工智能伦理规范,并结合法律法规和政策体系,共同促进人工智能安全评估和管控能力。包括,伦理道德多层次判断结构、人机协作的伦理框架、人工智能产品研发人员道德规范和行为守则、人工智能潜在危害与收益的评估、复杂场景下突发事件解决方案等。2019年2月,科技部主导设立了“新—代人工智能治理专业委员会”。旨在加强人工智能领域的法律、伦理和社会问题研究,并推动人工智能治理的国际合作。该组织,先后发布了《新—代人工智能治理原则——发展负责任的人工智能》《新—代人工智能伦理规范》,为人工智能的发展提供治理框架和行动指南,明确了人工智能伦理方向。2021年12月31日,国家网信办、工信部、公安部、国家市场监督管理总局下发了《互联网信息服务算法推荐管理规定》,规范互联网信息服务算法推荐活动。2022年11月25日,国家网信办、工信部、公安部发布了《互联网信息服务深度合成管理规定》,规范深度合成管理服务。2023年7月10日,国家网信办、国家发展改革委、教育部、科学技术部、工信部、公安部、国家广电总局《生成式人工智能服务管理暂行办法》,规范生成式人工智能服务。2025年3月7日,公安部等四部门联合发布《人工智能生成合成内容标识办法》(简称“办法”),自2025年9月1日起施行。《办法》明确标识类型,规定服务提供者的标识义务、责任及违反的处罚措施。旨在促进人工智能健康发展,规范人工智能生成合成内容标识,保护公民、法人和其他组织合法权益,维护社会公共利益。2025年3月29日,《人工智能示范法3.0》(简称“示范法”)发布。该文件由社会科学院法学研究所牵头起草,2023年8月首次发布V1.0版本。示范法明确人工智能定义及使用基本原则,强调公开透明可解释、可问责、伦理优先等原则。旨在为人工智能的立法和治理提供参考框架,推动人工智能技术的健康发展,同时防范潜在风险。(3)标准和技术要求2020年7月,国家标准委、中央网信办、发展改革委、科技部、工业和信息化部联合印发了《国家新—代人工智能标准体系建设指南》。形成了标准支撑人工智能高质量发展新格局。2023年4月30日,全国信息安全标准化技术委员会(SAC/TC260)正式发布了国家标准《信息安全技术人工智能计算平台安全框架》。标准规范了人工智能计算平台安全功能、安全机制、安全模块以及服务接口,为人工智能计算平台的安全设计与实施提供了重要参考,标志着中国在人工智能安全标准化领域迈出了重要—步。2024年3月,人工智能安全国家标准GB/T42888-2023《信息安全技术机器学习算法安全评估规范》正式发布。规定了机器学习算法技术在生存周期各阶段的安全要求,以及应用机器学习算法技术提供服务时的安全要求,并给出了对应评估方法。2024年4月,全国网络安全标准化技术委员会发布《生成式人工智能服务安全基本要求》。该指导性文件是基于《生成式人工智能服务管理暂行办法》的细化和补充。旨在通过规范生成式人工智能(AIGC)服务的安全管理,应对生成式人工智能技术带来的潜在风险,如生成虚假信息、侵犯隐私等,并确保其合法合规性和安全性。该文件从多个维度对生成式人工智能服务的安全要求进行了详细规定,包括语料安全、模型安全、安全措施、安全评估等方面,为服务提供者和相关主管部门提供了明确的操作指南。2024年9月,全国网络安全标准化技术委员会制定并发布了《人工智能安全治理框架》。该框架的发布是为贯彻落实《全球人工智能治理倡议》,为社会各界提供了清晰的指导蓝图和参考依据,是我国在人工智能安全治理领域的重要进展。《框架》提出了“包容审慎、确保安全”的治理原则,强调在鼓励创新的同时,严守安全底线。2025年2月,国家强制标准GB45438-2025《网络安全技术人工智能生成合成内容标识方法》发布 (简称《标识标准》),是与《人工智能生成合成内容标识办法》(简称《标识办法》)配套的强制性国家标准,将于2025年9月1日与《标识办法》同步实施。《标识标准》明确了标识分类方式及相关要求,同时也规定了管理和监督机制及相关责任,旨在规范人工智能生成内容的标识方法,提升网络空间的安全性和信息透明度,是我国人工智能产业从实践升维到法治治理的重要—步。此外,在人才储备方面,为给人工智能广泛应用提供有力支撑,国家教育部、发改委、财政部,于2020年1月发布了《关于“双—流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》以提升人工智能领域研究生培养水平。第二章第二章AgenticAI在网络安全领域的应用价值第〓章AgenticAI在网络安全领随着数字经济价值的提升,网络攻击的复杂程度和频率持续增加,传统的被动式防御措施已经无法满足当前的安全需求。AgenticAI以其自主学习、自主决策的优势,正在成为网络安全领域的重要创新方向。本章节从AgenticAI赋能的网络安全能力和网络安全智能化升级必要性两个方面对其在网络安全领域的应用价值开展分析。AgenticAI凭借其自主性、适应性和学习能力,为网络安全带来了革命性的变化。典型地体现为威胁检测、自适应防御、自动化事件响应、漏洞修复、预测分析与态势感知5个方面。图9应用价值2.1.1主动威胁检测主动式威胁检测是指利用先进的技术手段,主动发现和预判潜在的安全威胁,从而在攻击发生之前采取预防措施。AgenticAI的引入,为主动式威胁检测赋予了全新的能力,使得安全系统能够自主地感知环境、分析威胁并采取响应措施。以下从威胁情报收集、未知威胁检测、APT检测三个方面分别阐述AgenticAI对主动式威胁检测的价值。第二章AgenticAI在网络安全领域的应用价值第二章AgenticAI在网络安全领域的应用价值2s图10AgenticAI在主动威胁检测中的作用l在威胁情报收集方面传统的威胁情报收集主要依赖于人工和半自动化手段,数据来源有限,更新速度缓慢,难以及时应对新兴威胁。AgenticAI通过自主收集和多源威胁情报分析,提高了情报的广度和深度。首先,AgenticAI通过自主学习和多线程处理能力具备较强的自主收集与分析多源威胁情报能力。能够自主访问开放网络、暗网和专有数据库,实时从全球范围内的多源数据收集威胁情报。收集包括恶意IP地址、域名、文件哈希值、恶意代码样本等在内的威胁指标(IndicatorsofCompromise,IoCs)。同时,利用自然语言处理(NLP)技术,AgenticAI可以解析安全博客、报告和社交媒体帖子,提取有价值的威胁信息。其次,AgenticAI对情报收集的价值,还体现在暗网和非结构化数据源的分析能力。暗网(Darkweb)和社交媒体等非结构化数据源,包含了大量潜在的威胁信息,但由于数据杂乱、匿名性强,传统收集手段难以深入挖掘。AgenticAI具备在复杂环境中自主导航和学习的能力,能够在不触发警报的情况下,深入暗网内部,收集黑客交易、漏洞买卖等情报。此外,AgenticAI还可以分析社交媒体上的非结构化数据,如推文、帖子、评论等,识别潜在的网络钓鱼活动、舆情风险和社会工程攻击。通过情感分析和话题建模,系统能够预测可能的攻击动向,提前部署防御策第二章AgenticAI在网络安全领域的应用价值第二章AgenticAI在网络安全领域的应用价值l在异常行为检测传统的异常检测主要依赖于预定义的规则和签名库,无法有效识别未知威胁和零日攻击。AgenticAI通过深度学习、行为分析和自主学习的方式,有效提升了异常行为、未知威胁和零日攻击的发现能力。具体来说,在网络流量分析方面,AgenticAI利用时间序列分析和聚类算法,对网络流量模式进行实时监控。当出现异常的流量峰值、异常的协议使用或异常的地理位置访问时,系统会触发警报。在用户行为方面,AgenticAI建立了用户的行为画像,包括登录时间、访问资源、操作习惯等。当用户的行为偏离了其正常模式,如在非常用设备上进行敏感操作,系统将视为可能的账号盗用,采取二次验证或锁定措施。AgenticAI在发现未知威胁和零日攻击方面表现也非常出色。传统防御由于缺乏相应的签名和规则难以识别零日漏洞利用。AgenticAI通过行为异常、特征异常和关联异常的综合分析,能够发现高级攻击者的隐蔽行为。根据某安全研究机构的数据,引入AgenticAI的异常检测系统后,未知威胁的检测率提高了35%,误报率降低了20%。在—次实际案例中,AgenticAI成功检测到了—次利用零日漏洞的攻击,攻击者试图通过未公开的漏洞获取系统权限。系统通过检测异常的系统调用序列和进程行为,及时发现并阻止了攻击。l在高级持续性威胁(APT)防护方面AgenticAI通过多维特征分析、攻击链路还原和威胁归因,深入揭示了攻击者的策略和手段。APT通常由国家级或组织级的攻击者发起,具有高隐蔽性和长期性。AgenticAI通过多维特征分析和关联分析,能对APT攻击进行深入挖掘并识别出跨层级的异常行为;通过自主的因果推理能力,关联时序分析和事件,可以重建攻击者的行动路径,识别攻击的入口点、传播路径和目标资产,对攻击链路进行还原;此外,AgenticAI利用自然语言处理技术,通过模式匹配、语言分析和地缘特征等手段,可以分析恶意代码中的文本字符串、注释以及命令控制(C&C)通信中的语言特征,再结合历史攻击数据,推断攻击者的可能国家或组织背景,使系统识别出是否属于已知的APT组织。这能帮助政府和企业提高了对特定威胁的防范水平。未来,随着AgenticAI技术的进—步发展,其在网络安全中的应用将更加广泛和深入。然而,AgenticAI的自主性也带来了新的安全挑战,如算法偏见、误判和对抗样本攻击等。因此,在应用AgenticAI的同时,需要建立完善的安全风险管控机制,确保其在网络安全领域发挥最大的正面作用。当前,由于网络威胁的日益复杂和多样化,传统的静态防御系统已无法满足现代企业和组织的安全需求。能够根据自身所处环境的变化以及所面临的威胁情况,自动调整和优化自身防御策略、机制和行为的智能防御体系对企业越来越重要。第二章AgenticAI在网络安全领域的应用价值第二章AgenticAI在网络安全领域的应用价值图11AgenticAI在自适应防御中的作用以下分别从动态安全策略调整、智能入侵防御系统、资源优化