中国人工智能产业发展联盟AI智能体应用法律治理研究报告

版权声明编写委员会（（（排名不分先后）目 录一、概述 .-1-（一）1（二）2-3-（一）3（二）6（三）7-10-（一）10-（二）19-20-（一）20（二）.......................................-24--30-（一）...........-31-（二）.......-31-（三）...........-32-（四）...........-32-一、概述（一）概念定义与应用特征1。AI智能（AI态主要表现为能够感知环境并自主执行任务的计算机系统。从经典理论看，迈克尔·伍尔德里奇（MichaelWooldridge）和尼古拉斯（NicholasR.从智能体的基本自主性31国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》，。2MichaelWooldridgeandNicholasR.Jennings,“IntelligentAgents:TheoryandPractice,”TheKnowledgeEngineeringReview,10,No.2,1995,pp.115–152,atp.3经典智能体理论通常对自主性（autonomy）与主动性（pro-activeness）作出区分：自主性主要强调智能体能够在不依赖人类或者其他主体直接干预的情况下运行，并对自身行为和内部状态保持一定控制；主动性主要强调智能体不仅被动响应环境，还能够通过主动、目标导向的行为推进任务。考虑到主动性在当前智能体应用中通常体现为自主决策和持续行动的具体方式，本文在自主性项下一并讨论。调整后续行动，避免因响应滞后导致任务中断、目标偏差或者风险扩大。对于依赖实时性的系统与动态性强的环境，反应性是智能体稳定运行的重要基础。交互性4使智能体能够与人类、其他智能体或系统进行信息交换和任务协作。智能体可以通过语音、文字等自然语言方式理解用户需求、反馈执行状态，也可以通过接口调用等方式调用能力。此外，多智能体系统还可以通过任务拆解与角色分工，提升复杂任务的处理能力和执行效率。适应性是指智能体能够根据学习与经验积累调整自身的行为，逐渐优化自身的决策和行动策略，以适应不同的环境和任务。智能体可以结合实时环境反馈与历史交互数据，动态调整任务执行方式，从而既能应对稳定环境下的常规任务，也能对任务条件或外部环境变化作出相应调整。（二）性质定位与关系界分并能够在动态环境中主动调整行为以达成预设目标。人工智能大模型与智能体的关系类似于人的“大脑”（LLM）虽拥有强大的语言理解和同样可作为4经典智能体理论使用“社会性”或者“社会交互能力”（socialability）描述智能体与其他智能体以及人类进行交互的能力。结合当前智能体的技术和应用语境，并与我国政策文件中有关“交互能力”的表述相衔接，本文使用“交互性”这一表述。AI执行比价、选择、下单。付。这标志着以智能体为代表的人机关系已经实质性地从“工具使用”进入“任务委托”阶段。二、智能体关键技术、应用场景与产业格局（一）关键技术智能体通过感知模块获取环境信为规划、工具编排等能力，并设置贯穿各环节的安全护栏。行提供基础。感知模块关键技术以自然语言处理（NLP）抽取等技术，捕捉用户以自然语言为载体的需求与数字环境中的文本类信息变化；同时，感知模块可整合计算机视觉、语音识别等技术功能，实现对图像、音频、视频等多模态数据的感知与解析。感知模块的核心价值是将分散的、非结构化的外部信息，转化为智能体可识别、可处理的数据，打通智能体与外部环境的交互链路。智能体LLM驱动，关键技术包括思维链（CoT）、（ReAct）务，适配各行业的专业场景需求。智能体行动模（Function等机行或条件分支的执行流程；三是代码动态生成与解释运行，在安全环境中执行自动生成的脚本，完成数据处理或系统操口的交互体系。从部署形态看，智能体可以采取云端部署、据处理、隐私保护和实时响应等场景中发挥作用。在端侧应用场景中，模型轻量化是支撑智能体在用户终端设备中高效运行的重要技术。为适配端侧硬件资源，模型正通过量化、稀疏化、低秩分解等技术压缩参数规模、降低计算量，同时结合知识蒸馏、参数共享、硬件加速等手段保留核心能力，形成适配用户终端设备的轻量模型。端云协同是兼顾云端能力和端侧优势的重要技术路线。该模式下，云端可部署能力较强的通用大模型，适配深度用户意图理解、内容创作、跨设备协同等场景；端侧可搭载轻量化模型，覆盖简单意图理解、翻译等轻量化任务，以及本地搜索、敏感个人信息的预处理等本地化场景，通过合理分配云端和端侧任务，兼顾智能体应用的能力、体验、效率与安全。（二）应用场景整。向患者，智能体可担任个性化健康顾问，提供症状预问诊、用药提醒、康复计划跟踪、心理疏导等服务，缓解医疗资源紧张问题。在药物研发中，智能体能够分析海量文献数据，加速靶点发现与临床试验设计。在金融领域能投顾、量化交易、反欺诈监测及客户服务等场景。例如，智能体可实时分析用户交易行为与市场舆情，动态评估信用在制造业中优化生产排程与质量检测；在教育领域充当个性化辅导员，在供应链管理中完成需求预在营销与招聘场景中智能体平台（三）产业格局我国智能体产业已形成较为完备的产业链生态中游技术开发层是推动智能体能力标准化输出和规模化落地的催化剂。OpenClaw为代表的开源智入、部署服务、通信适配和技能扩展等方面开展生态建设，下游场景应用层是智能体产业价值最终体现的环节C）、企业B）以及政府机构G），提供场景化的智能体产品与解决方案。参与主体一定程度的重叠交叉。当前国内智能体产业正处于发展初期，各参与主体之间呈现出合作竞争并存，协同伴随博弈的格局。协作层面，一价值的双赢。二是产业链生态协同。上游算力、模型厂商，智能体被认为是下一代互联网的核心流量入口，互联网厂商、另一方面是数据智能体的迭代优化高度依赖场景数与知识产权归属问题，各方在数据共享的边界、数据权益的分配、知识产权的归属上存在分歧。三、智能体法律政策框架与应用风险分析（一）国内外相关法律政策梳理持续整合和优化相关规定和条款以更贴合人工智能发展实细化与执法实践。欧盟监管呈现合规减负趋势2025（Digital2027年底，相应地，内嵌AI系统和透二是整合现有AI+GDPRAI模型训练有望被认定AI系统中基于检测和纠偏而处理敏感建立单一AI产业竞争力之间寻求新的平衡。28/20245（）能模型的匿名性应由数据保护主管机关进行逐案评估。EDPB5EDPB,Opinion28/2024oncertaindataprotectionaspectsrelatedtotheprocessingofpersonaldatainthecontextofAImodels,athttps://www.edpb.europa.eu/our-work-tools/our-documents/opinion-board-art-64/opinion-282024-certain-data-protection-aspects_en的评估，并根据控制者的评估结果来判断合法性。EDPBGDPR的评估，并根据控制者的评估结果来判断合法性。通用人工智能大模型和智能体系统提出相关要求。TheFutureSociety以及智能体系统6构1025FLOPs6AheadoftheCurve:GoverningAIAgentsUndertheEUAIAct,at/wp-content/uploads/2023/04/Report-Ahead-of-the-Curve-Governing-AI-Agents-Under-the-EU-AI-Act-4-June-2025.pdf?utm_source=分的网络安全防护等措施。为推进《人工智能法》实施，欧盟于2025年7月发布了《通用人工智能行为准则》（），为欧盟委员会“人工智能高级别专家组”（AIHLEG）曾2019AI（robust）AI使用的所有阶段，为企业开展人工智能自律治理提供了指南。美国采取场景化灵活保护路径与欧盟不同，美国采取了分行业、分场景的治理策略，美国从联邦政府层面为人工智能创新发展进行松绑。202310号行政（202310号行政（企业无需再履行相关报告义务，直接降低人工智能企业的合2025123《消除美国人工智能领导障碍行政命令》7（第14179号行政命令主要目标是“消除美国人工智能领导障碍”命令不仅弱化了此前拜登行政令中8关于数据安全和隐私保调通过构建新的政策框架促进技术创新和减轻企业合规负7RemovingBarrierstoAmericanLeadershipinArtificialIntelligence，https:///presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artificial-intelligence/82023（14110号行政命令）AIAI（包括端侧模型）数据隐私，并遵循美国国家标准与技术研究院（NIST）的《人工智能风险管理框架》，在涉及国家安全、经济安全或公共健康的高风险模型训练前向政府报备，并共享安全测试结果。然而，该行政命令的执行面临特朗普2.0政府挑战。AI变化，即从强调风险防范转向鼓励创新发展。202611日生效的《得州设立监管沙盒项36AI系统AI2024创造性地设定了AI披露义务”，按照不同场景和风险等级确定人工AI身份。该法案还允许企业通过24个月在特定真实AI产品的特定法律责任豁免（如行医范围法等加州202492025929日重新签署了该法案从监管思路上实现了从“责任追究”向“透明度引导”的转向，以开发者自行制订透明度报告来取代严苛的事前审核义务。美国相关技术标准提出了人工智能时代数据保护要求。《人工智能风险管理框架》，AI系统处理个人信息提供了“自愿性指南”AIAIAIAI（特有的隐私挑战提供了更全面的方法。NIST还和国际标准化组织（ISO）合作推动全球AI标准的互认，《ISO/IEC42001:2023要求人工智能模型在《AIAIAI《隐私机器学习标准》针对边缘计算环境提出了具体的安全要求。中国在现有法律框架下开展实践探索健康有序发展。现有法规为智能体应用划定安全底线。《网络安全法》理活动的安全管理，《生成式人工智能服务管理暂行办法》出现的司法执法实践也为智能体相关治理提供了一定的参考和指导。（简称《条例》分项选择同意。《智能体规范应用与创新发展实施意见（）是我国首部针对智能体的专项指导文件。《意见》对智能体概念进行了界定，明确其是“具备自主感知、记忆、决策、交互与执行能力的智能系统”。《意见》围绕“安全可控、规范有序、创新驱动、应用牵引”四大原则，推动智能体技术合规创新、场景落地与产业生态完善，重点从四个维度系统部署：一是夯实发展基础，完善技术底座与标准协议，突破核心关键技术。二是守牢安全底线，明确产品伦理与决策三是19四是一是可对现行法规进行针完善智三是构建对可能影响用户人身和财产重大权益的四是强立法引技术迭代。（二）智能体应用的现存挑战一是任务执行复杂性与目标理解偏差。智能体在执行任务过程中，可能会涉及跨端侧操作、云端处理及第三方工具调用等多个环节完成任务。每个环节的服务和数据控制者、服务能力、技术环境、数据处理要求及敏感程度均不同。算法逻辑与神经网络架构的“黑箱”特性、对用户目标的表层化理解，可能导致任务执行结果与用户预期不一致。在多智能体协作或链式调用场景中，这种偏差可能被连锁性放大，从而产生不可预测的操作结果或异常行为。任务环节复杂性不仅增加技术落地难度，也给法律责任认定带来不确定性。二是数据处理活动的分类分级与跨场景使用问题。智能体在任务执行中会处理来自不同应用、服务及第三方工具的多源数据，但目前缺乏科学合理、统一权威的告知-同意和数据流通标准。数据跨场景聚合、长期访问或超权限使用可能违反《个人信息保护法》规定的最小必要和目的限定原则，存在潜在合规风险。但过度、过频或过于严苛的授权机制又会破坏用户体验，削弱智能体自动化功能的实际应用价值，授权不足则可能导致执行偏差而引发法律争议。智能体在执行任务时需权限设计不合理或管理不当可能导致敏感信息被越权访问、理措施对于保证任务执行的可控性及符合相关法律规范具有重要意义。工智能研发和商业化推进中的决策信心。四、智能体法律治理路径困境与探索（一）侵权责任再平衡1.智能体服务的法律定性2024工智能研发和商业化推进中的决策信心。四、智能体法律治理路径困境与探索（一）侵权责任再平衡1.智能体服务的法律定性2024即能够根据预设逻辑自动订立或者履行合同的软件系9“电子代理人”概念源自于美国1999年《统一计算机信息交易法》和《统一电子交易法》，是指为某人智能体在执行委托任务时未尽勤勉和忠实义务（可类比代理制度进行解释），则在相应范围内承担责任。涉智能体侵权的责任主体认定智能体侵权责任链条复杂，智能体自身集合多类主体的技术能力，其“行为”可能涉及多个主体，侵权责任主体的认定在技术和法律层面存在诸多困难。技术层面，大语言模型驱动智能体正从单一任务执行工具演变为具备自主规划、记忆与协作能力的“劳动力”，智能体能够在没有人类干预用来代表该人对电子讯息或对方的行为采取行动或做出反应，且在做出此种行动或反应之时无须该人对该电子讯息或对方的行为进行审查或做出反应的计算机程序、电子手段或其他自动化手段。的情况下持续积累技能并完成开放性目标。在技术实现上，这些智能体通过大语言模型的推理能力实现任务分解与规API调用与环境交互，并能与其他智能体或服务提供者进行自然语言通信以完成复杂协作任务。在法律层面，由于智能体行为涉及开发者、果之间的因果关系，并按照归责原则进行认定和责任分担，收益失衡，催生更多防御性和消极性设计而抑制技术创新。涉智能体侵权的归责原则认定智能体具有自主化、持续性和隐蔽性等特点，相关侵权认定较为复杂，目前法律和司法层面并未就涉智能体的侵权归责原则做出专门规定。学界对于侵权责任存在过错责任、过错推定责任、无过错责任等主张，其中过错责任原则作为一般侵权归责原则，适用合理性最受关注。过错责任原则的核心是“谁过错、谁担责”，在法律无特殊规定的前提下，作为《民法典》确立的一般侵权责任归责原则适用于各类侵权情形。过错原则的优势在于稳定预期，既能兼顾技术创新的发展空间，避免过度归责抑制技术进步，也能通过明确过（严格责任涉智能体侵权的救济与平衡务提供者的法定义务和行为界限来合理界定其过错责任边发挥三是行业自治层面，着力于标准自律是平衡新技术应用创新与风险的重要机制。行业组织、联盟等可加快推进智能体安全和治理相关团体标准与实践指南，为企业提供具体操作指引。企业作为技术的研发者、控合规体系，注重智能体全生命周期治理，防范潜在风险。（二）个人信息与隐私保护实践路径智能体面临的个人信息保护困境智能体的发展一方面对于人工智能技术和产业的发展关规定的适用面临一定困境。第一，“告知—同意”原则难以发挥实效。《个人信息保护法》规定，个人信息处理者应当取得个人的同意，方可愿、明确作出。同意作为控制的手段，是数据保护的核心。频繁交互过程中如何同步做到单独同意？如果智能体与用户交流时不断弹窗单独提示并要求其授权同意，势必影响到下一步的行动。而智能体的涌现性特征和自主行动的特征，让信息处理者难以从一开始就明确判断信息收集处理的最终目的，这从对个人信息保护中的目的限制原则构成挑战。的“最小必要”也无法保障。在保障信息主体在知悉和了解该属性和基本原理的前提下，智能体根据指令和诉求开展连续自动化决策，用户接收并使用是否可以等同于同意自动化决策和自主行动可能带来的实际影响？若然如此，信息主体的拒绝权还有无必要，是否还有实现的空间？10第四，用户权利保障的实现障碍。《个人信息保护法》24在保障信息主体在知悉和了解该属性和基本原理的前提下，智能体根据指令和诉求开展连续自动化决策，用户接收并使用是否可以等同于同意自动化决策和自主行动可能带来的实际影响？若然如此，信息主体的拒绝权还有无必要，是否还有实现的空间？10第四，用户权利保障的实现障碍。《个人信息保护法》据使用情况。其二，权利行使在技术可行性方面受到限制。10王苑：《具身智能体的隐私风险及法律应对——以“人形机器人”为例的展开》，载《东方法学》2024年第3期。在很大困难。55条确立了个人信息保护中的信息安全评智能体法律治理的完善路径个人同意制度要求同意应当由个人在充分知情的前提下自务的场景提供了绝佳的创新解决知情同意困境的理论可行指引和行为边界。其次，结合智能体应用场景、服务合同、技术保护措施等要素，优化“最小必要”原则的内涵。随着智能体等应用场景的不断扩展，应当避免将最小必要原则认定标准狭义地限缩为数量层面的最小化和目的层面的直接相关性，而更应当考虑究竟如何在实践层面实现“保护个人信息”和“促进个人信息合理利用”这两项立法目标。具体来说，在判断何为“最小必要”时，一是应由“单一场景”下的“个人信息收集、处理数量最小”转变为与“执行特定任务直接相关”的“最小范围”和“对