AI正处历史拐点生态外部性与路径依赖风险挑战治理体系

AI正处历史拐点，生态外部性与路径依赖风险挑战治理体系薛澜2026-06-25引言：从技术跃升走向治理深化近年来，随着人工智能（AI）技术的快速发展，人工智能的治理问题越来越受到社会各界的广泛关注。人们逐渐意识到，人工智能不仅是一项前沿科技，更是一种深刻影响社会结构、经济体系和全球治理格局的系统性力量。因此，如何在推动人工智能技术创新的同时建立起科学有效的治理机制，已成为当前技术政策研究与实践的核心议题。2025年4月25日，习近平总书记在主持中共中央政治局集体学习时指出，人工智能带来前所未有发展机遇，也带来前所未遇风险挑战。他强调，要把握人工智能发展趋势和规律，加紧制定完善相关法律法规、政策制度、应用规范、伦理准则，构建技术监测、风险预警、应急响应体系，确保人工智能安全、可靠、可控。习近平总书记的重要指示为我们完善人工智能治理提供了重要的努力方向。然而，在现实语境中，对于人工智能治理仍存在一定程度的认知误区。一种较为典型的观点认为，人工智能的发展和应用仍在初始阶段，此时提出治理问题可能会过早地对技从本质上说，这样的看法一方面低估了人工智能技术可能给社会带来的风险和危害，另一方面也低估了治理机制在引导和塑造技术发展过程中的关键能动作用。事实上，治理并非创新的对立面，而是实现人工智能健康、有序、可持续发展过程中不可或缺的制度性此外，人工智能的发展也无法脱离国际环境而孤立前行。在全球化语境中，中国在人工智能领域虽然取得了显著成效，但在技术创新与治理模式的权衡上仍面临诸多挑战。当前国际治理体系高度碎片化，不同国家与地区在治理理念、制度安排与政策节奏上存在显著差异，协调难度不断上升。在此背景下，如何为中国人工智能的发展探索出一条契合自身国情且具有全球适应力的发展路径，已成为亟待解决的重要现实问题。在展开对治理问题的讨论之前，我们有必要先回顾和理解人工智能技术正在经历的深刻变革。这场变革不仅关乎技术层面的更新迭代，更关乎整个人工智能生态系统的重构与人工智能技术生态系统的演进与变革当前人工智能技术生态系统的核心特征，正在发生由“工具集成”向“平台统摄”的在早期，人工智能主要以特定应用程序或算法模型的形式存在，具有高度专业化、碎片化的特征。而近年来，伴随大模型（FoundationModels）与多模态架构的发展，人工智能逐渐形成以平台为中心的生态格局。OpenAI、谷歌、深度求索、字节跳动、百度、阿里巴巴等企业开发的平台型人工智能体系，不仅整合了算法模型、数据资源和计算能力，还通过API（应用程序编程接口）、插件机制和多边生态合作，逐渐形成集研发、部署、服务、用户交互和治理于一体的完整系这种生态结构的重构，使得人工智能不再是单一的技术工具，而成为一个能够持续学习、适应与演化的系统性存在。平台化带来了生态外部性与路径依赖的风险，也对治理提2025年可以被视为人工智能体（AIAgent）发展的关键节点。年初，OpenAI推出了名为“Operator”的智能体系统，这标志着人工智能从“被动响应式模型”向“主动任务执行系统”的加速转型。这类系统不仅能够执行复杂任务，还具备调度其他模型、记忆上下文信息并与用户持续交互的能力，拥有了一定的“类自主性”。与此同时，国内企业也在积极布局。例如，智谱在智能体技术路径上持续探索，推出了能够完成多轮交互、任务拆解与执行的自主智能体，形成从通用模型到垂直智能体的初步生态链。这一趋势表明，智能体不仅是技术演进的自然延伸，更是平台间竞争的新赛大模型之间的竞争态势也在不断变化。自2022年以来，针对通用大模型能力的评估框架迅速发展，包括MMLU（MassiveMultitaskLanguageUnderstanding，大规模多任务语言理解）、HellaSwag、GSM8K和GAOKAO-Bench等在内的多项基准测试被广泛使不同测试标准常导致模型表现排名的变动，但总体来看，OpenAI的GPT系列、Anthropic（美国一家人工智能公司）的Claude大语言模型以及谷歌旗下DeepMind的Gemini系列（多模态大型语言模型）在综合性能上依然领先，国内大模型如GLM、通义千问、百度文心、深度求索等则在特定场景（如中文处理、文档问答）中表现优异。值得关注的是，人工智能在人类认知领域的进展速度令人惊叹。在数学奥林匹克竞赛题目测试中，人工智能模型已逐步具备解决复杂题目的能力，部分模型在解题准确率上甚至超越了人类参与者的平均水平。这种技术的跃升，不仅增强了人们对通用人工智能（AGI）可行性的预期，也加剧了社会各界在应对人工智能发展时加强治理的紧迫感。人工智能治理的内涵与理论框架人工智能治理是一个多维度、多工具、多主体参与的动态系统性过程。其目的不仅在于防范潜在风险，更在于塑造人工智能的发展方向与应用边界，使技术的进步与社会价值治理既包括伦理与原则的制定，也包括政策激励与市场规制，还涉及标准建设与国际协调。可以说，人工智能治理是规范、引导、协调人工智能发展的制度总和。目前较为通行的人工智能治理框架，可以分为三个层次。第一，伦理与价值维度。该维度关注的是人工智能系统在开发与应用中应当遵循的基安全性与可控性：确保系统在设计上能避免失控风险；透明性与可解释性：保障用户了解人工智能系统的运作机制与决策过程；公平性与非歧视性：防止人工智能在算法训练或部署过程中加剧社会不公；责任可追溯性：明确人工智能决策背后的责任归属。在这方面，我国国家新一代人工智能治理专业委员会于2019年提出了“发展负责任的人工智能”的八项治理原则。欧盟、OECD（经合组织）、IEEE（电气电子工程师学会）等国际组织也相继发布了多套人工智能伦理框架。例如，OECD于2019年发布的《人工智能推荐原则》明确提出了五项以价值为基础的指导原则，以促进“可信人工智能”的发展与第二，政策支持与市场激励维度。治理不仅是限制，更是塑造和激励。政府可以通过财政投入、研发资助、基础设施建设、人才政策与公共采购等方式，为人工智能创新提供制度土壤。同时，也需要通过反垄断政策、数据共享机制、中小企业扶持等手段，维护技术创新生态的多样性与可持续性。例如，我国于2017年发布的《新一代人工智能发展规划》提出以“三步走”战略推动人工智能产业发展，强调国家主导与企业协同的创新路径。这是一种典型的政策驱动型治理结构，具有较强的系统组织能力与资源整合能力。第三，规制与标准维度。规制是治理的重要组成部分，但不应被狭义地等同于“限法律法规：如《数据安全法》《个人信息保护法》《互联网信息服务算法推荐管理规定》等，为人工智能治理提供法理依据与监管框架；技术标准：包括模型训练规范、数据处理接口标准、安全评估机制；责任机制：界定平台方、开发者、使用者等多方责任边界；合规评估：建设风险识别、分级管理、动态评估与退出机制。欧盟的《人工智能法案》（AIAct）将人工智能系统分为“禁止类”“高风险类”“有限风险类”“最低风险类”，并据此提出差异化的监管要求，成为人工智能规制分级如上所述，人工智能治理既具有多元的目标导向，也依赖多样化的治理工具，涵盖传统行政法规，以及大量政策措施、自律机制和技术手段。多元工具的协同应用，有助于在技术发展快速变化的环境中实现敏捷治理。人工智能治理的三重功能：风险防控—社会建构—市场塑造（一）人工智能的风险防控现有的人工智能技术系统由于其复杂性和不可解释性，内生性地带来一些潜在的技术失灵风险。一旦被滥用或用于恶意目的，其危害可能超出技术范畴，在关键领域引发局部性损害，甚至演变为系统性风险。因此，理解人工智能风险治理的必要性与紧迫性，需对其潜在风险进行系统分类、剖析成因，并找到相应的解决办法。人工智能风险的分类有很多种，图灵奖得主约书亚·本吉奥（YoshuaBengio）于2025年牵头发布的《国际人工智能安全报告》，将人工智能带来的各种风险划分为三大类恶意使用风险（malicioususerisks）：指人为使用人工智能系统进行伤害、操控、欺技术失灵风险（malfunctionrisks人工智能系统在正常使用情况下由于故障或技系统性风险（systemicrisks）：指人工智能被大规模应用后可能引发广泛的负面社会人工智能恶意使用的风险目前已经比较常见。2023年，英国某知名公司遭遇一起令人震惊的深度伪造（Deepfake）诈骗案件。该公司一位在中国香港的员工应“上级”邀请参加视频会议，并根据对方指令将约2亿港元汇入多个账户。事后调查发现，除该员工本人外，所有“参会者”皆为由生成式人工智能合成的虚拟影像，通过深度伪造技术模拟真实这一事件突显了生成式人工智能在欺诈应用中的巨大风险，传统的语音、视频验证机制在此类情况下几乎失效。从治理角度看，如何在制度层面防范生成式人工智能被恶意利用，亟须得到更高优先级的回应。人工智能技术失灵比较典型的情况就是所谓“幻觉”（hallucination）的产生，即模型生成与客观事实不符，甚至是完全虚构的信息内容。这在很多对准确性要求较高的应用例如，近年来不少律师事务所尝试将GPT等模型用于法律案件的梳理与检索，但结果并不理想。最著名的案例之一，是2023年美国某律师在提交的诉状中引用了数个根本不存在的“判例”，经查这些判例均由人工智能编造，导致法院当庭指责该律师事务所严重失职。目前包括美国律师协会在内的多个行业协会已发出预警，要求在法律实践中使用人工智能辅助时必须设立严格的验证机制。人工智能带来的系统性风险包括对就业、知识产权、社会认知等方面的影响。当前最受关注的风险之一是，生成式人工智能与现有版权保护机制之间日益突显的冲突。2023年底，《纽约时报》起诉OpenAI和微软，指控其在未经授权的情况下将大量新闻内容用于大模型训练。这一案件触及人工智能治理中极为复杂的议题，包括训练数据的知识产权归属问题、“合理使用”边界如何在训练场景中界定，以及模型生成结果是否构成“衍生作品”等。尽管该案件尚未审结，但已经促使多国监管机构重新审视人工智能与在上述三类风险中，人类社会面临的最大潜在风险就是技术失灵中的失控情况，即当人工智能发展到通用人工智能或超级人工智能（ASI）阶段，人类丧失对其控制权。早在1950年，人工智能奠基人图灵就在其经典论文中提出“儿童机器”（child-machine）的构想，预见了人工智能可能具备自我学习与自主演化的能力（Turing，1950）。机器通过实验学习不断优化自身，其行为结果并不完全由人类预设。今天，图灵的这一预测似乎正一步步成为现实。随着人工智能系统拥有代码生成、自我优化甚至模拟人类行为的能力，其“不可预测性”日益显现。牛津大学的博斯特罗姆（Bostrom，2014）提出“价值锁定”（valuelock-in）风险，即早期设计的不完美目标函数可能在通用人工智能中被永久嵌入，带来不可逆的灾难性后果。因此，可控性问题已成为人工智能风险治理领域的核心问题之一。由此引发的一个根本性治理问题是：当人工智能技术发展到某一阶段，是否应该有“暂停”的选项？在生命科学领域，伦理底线的标准已较为成熟，例如，人类胚胎编辑、克隆等研究方向的标准已在国际上形成广泛共识，不少国家设立了明确禁区。人工智能是近年来，该问题的紧迫性与争议性显著上升。2023年，超过1000位人工智能专家与科技领袖联合签署《暂停大型人工智能研究》公开信，呼吁对超过GPT-4级别的人工智能系统实施“自愿性开发暂停”，以等待社会共识与治理机制的建立。这一行动虽颇具争议且在现实中难以实施，但突显出科技界内部对于“不可控风险”的现实焦虑。人工智能治理的目的不仅是“应对风险”，更重要的是塑造人工智能的社会—技术系统（socio-technicalsystems）、支撑相应制度架构的协同演化，并最终形成一个兼具创新性、安全性与公平性的社会应用生态。正如哈佛大学肯尼迪政府学院科学技术学教授希拉·亚桑诺夫（SheilaJasanoff）指出的，技术并非价值中立的工具，它始终承载着规范、制度与权力结构，并在社会实践中不断被再生产与重塑（Jasanoff，2004）。因此，人工智能治理的意义绝不仅仅是划出“禁区”，更在于铺设“通道”和“轨道”。技术从来不是“拿来即用”的工具。任何人工智能系统的成功部署，必然依赖其与社会制度、法律规制、基础设施和文化环境的深度耦合。这就是“社会技术共构”的基本一个典型的例子是公路交通系统。从汽车技术的诞生到广泛普及，人类社会配套建设了道路网络、交通信号及交规体系、驾照制度、保险机制、加油与维修网络等一系列技术及社会运行机制，使汽车真正成为社会生产与生活系统的组成部分。长远来看，人工智能的发展同样需要经历一场复杂的“社会适配”过程。无论是医疗、教育，还是政务领域的人工智能应用，其有效落地都依赖于数据治理、伦理审查、接口标准、责任认定等制度要素的协同支撑。这些制度性安排本身，即构成人工智能治理不可或缺的一部分。以医疗场景为例，即使人工智能系统的诊断准确率优于医生，其应用仍需满足如下治理条件：明确的数据隐私合规机制、医疗责任归属的法律认定、医患之间的信息透明、医虽然在底层算法与模型结构上，人工智能已取得显著进展，但其“落地”往往滞后于技术本身，根本原因之一是缺乏“场景级治理配套”。如果缺乏这些制度安排，人工智能就算再先进也难以获得信任和合法性。因此，治理不仅是防范风险的“保护性屏障”，更构成推动人工智能融入现实社会的“适应性基础设施”。（三）人工智能的市场塑造除了风险防控和社会建构，治理还担负着人工智能产业市场塑造的功能。人工智能治理深刻影响市场的形成与演化路径，具备“产业塑造”与“竞争调控”的重要作用。首先，准入门槛的设定直接决定了哪些企业有机会参与人工智能产业的发展。例如，如果高风险的人工智能系统必须满足严格的测试认证要求，那么中小企业可能因合规成本过高而被排除在市场之外；反之，则可能引发“劣币驱逐良币”式的无序竞争。其次，人工智能在发展中也面临典型的“路径依赖”风险。一旦特定的模型架构、数据资源或工具链取得先发优势，就可能在非最优技术路线上造成事实性的“平台锁定”。因此，有效的治理手段可以通过技术标准开放、公共算力共享、基础模型开源等，避免路在当前人工智能治理实践中，开源常被视为实现“普惠化人工智能”的重要途径，然而也伴随潜在的安全风险与责任不清等问题。相较之下，闭源虽然有利于系统控制与风险管理，但也可能加剧能力垄断与模型路径依赖。因此，一种可能的治理思路是在制度设计上区分不同风险等级与具体应用场景。对于一般性用途，可鼓励开源共享，而对于军事、信息操纵与金融系统等高风险应用领域，则应设定更严格的开源门槛与责任机制。实现人工智能治理的三重功能，即风险防控、社会建构与市场塑造，离不开政府、企业与社会多元主体的协同共治。政府不仅是监管者，更是市场塑造者，企业不仅是人工智能技术创新的领先者，也是人工智能治理的前沿实践者，而社会各界既是人工智能技术的使用者，也是推动其治理理政府、企业和社会只有摆脱传统的“猫鼠博弈思维”，转向协同治理和敏捷治理的思路，方能在推动技术广泛应用的同时不断优化治理体系，在制度演进中实现技术创新与社全球人工智能治理的困境与未来人工智能治理不仅是国内问题，更是全球性的重大挑战。人工智能的跨境传播特性、影响范围以及所蕴含的系统性风险，决定了人工智能治理不能局限于国家层面。正如气候变化、传染病防控一样，人工智能也正在成为全球治理体系中的“新型全球公共事务”。然而，现实中人工智能的全球治理推进面临诸多挑战，表现为治理机制碎片化、节奏不一致、路径分歧与地缘政治化倾向等多个维度的结构性困境。（一）技术路径不同引发的治理差异化各国在人工智能技术发展路径方面的差异，不仅表现在技术选择和应用重点上，也体现在对“何种风险应被治理”的认识上存在本质分歧。例如，2024年初，国产大模型DeepSeek引起业界广泛关注，其在搜索增强、中文语义建构与推理能力方面突破显著。这一新路径的发展也带来治理工具如何适配的现实问题：是否要对具备高能力的国产大模型施加与国外头部模型相当的评估要求？是否要对中关于这些问题的回答，在不同国家的政策中并无统一方案。这说明，全球治理机制之间需要互相学习，互相借鉴，也需要在“原则一致”与“路径多元”之间实现合理平衡，避免将一种技术范式凌驾于他国实践之上。（二）治理节奏与技术发展的错配人工智能技术的发展呈现指数级演进，而治理体系的演进则普遍存在滞后与碎片化现象，导致典型的技术发展与技术治理之间的步调不一致。监管政策的制定、立法程序、标准建设等过程均具有特定的周期性与协商性特征，很难与技术迭代的速度实现同步对接。例如，OpenAI发布GPT-4不到半年，国内外即有多款对标模型上线，但多数国家对大模型的法律分类、数据使用边界、能力管控机制仍未落地。在此背景下，“边创新边治理”、“沙盒实验”与“敏捷治理”成为现实可行的治理方式。OECD提出的“灵活监管”（agileregulation）理念就强调，应以适应性制度嵌入快速演进的技术环境，建立“监测—评估—调试—再立法”的周期型治理流程。（三）全球人工智能治理机制复合体面临的治理困境当前，全球范围内已形成多个围绕人工智能治理的倡议与机制，但这些机制之间缺乏层级关系与协调机制，形成所谓的“机制复合体”（regimecomplex）:联合国教科文组织（UNESCO）发布了《人工智能伦理问题建议书》；OECD制定了人工智能推荐原则，并推动成员国采纳；欧盟制定了《人工智能法案》，试图构建最系统的人工智能监管立法；世界经济论坛（WEF）设有人工智能治理的多利益攸关方平台；全球人工智能合作伙伴关系（GPAI）试图在技术层面达成国际共识。然而，这些机制在目标设定、治理工具、成员构成与规则设计等方面存在不同程度的重叠乃至冲突。例如，OECD的“自愿性软法”机制与欧盟“强制立法”机制之间的协调性虽然“机制复合体”的现实在一定程度上反映了全球治理的多元协商逻辑，但也带来了一系列难题，如1）治理效能低：重复设立规则，标准不统一2）话语权失衡：部分机制被大国主导，发展中国家缺乏影响力3）合规困境：企业面临不同国家制度之因此，全球治理需要建立跨机制协调平台或规则对接机制，推动在基本原则层面一致性的前提下，允许在细则上保持多样性。（四）地缘政治与对立化趋势当前最为严峻的全球治理障碍，是地缘政治冲突对人工智能合作形成的壁垒。原本可以在技术、伦理、标准等层面展开广泛合作的人工智能治理议题，越来越多地被纳入战略例如，从技术与成本角度看，通用人工智能的开发可以效仿国际热核聚变实验堆（ITER）项目的方式，由全球主要国家共建联合实验室，在统一的伦理与安全机制下推进，既可以分摊成本，也可以更好地管控风险。然而，现实是通用人工智能的研发逐渐演变为少数由国家主导、大型科技企业牵头的“竞赛型项目”，而全球协同开发与风险共担的路径，在当前地缘紧张的格局下几