ey-负责任的人工智能如何弥合投资与绩效之间的鸿沟 202510

负责任的人工智能如何负责任的人工智能如何弥合投资与绩效之间的鸿沟?2025年10月8日负责任的人工智能如何弥合投资与绩效之间的鸿沟?|22025年10月8日人工智能（AI）要发挥最大价值，必须以负责任的方式嵌入企业运营。这不仅意味着更高的利润，还意味着更高的员工满意度和更少的高成本错误。简要概述具备监督和实时监控的企业正在将AI从风险转变为增长引擎缺乏适当控制措施的企业将持续面临AI风险带来的重大财务损失高管层的盲点可能使企业暴露风险，必须对公民开发者进行有效监督在AI领域表现突出的公司，不仅专注于打造更先进的模型——他们还在建立更智能的防护机制，以抓住超额市场机会。最新的安永全球负责任AI脉搏调查显⽰，那些通过明确原则、稳健执行和强有力治理来拥抱负责任AI的组织，正在收入增长、成本节约和员工满意度等关键指标上取得领先。这些收益并非微不足道，而是决定AI是成本中心还是竞争优势的关键分水岭。调查结果显⽰，几乎所有企业都曾因AI相关事件遭受财务损失，平均损失保守估计超过440万美元。然而，那些采取治理措施（如实时监控和设立监督委员会）的企业，风险显著降低，回报更强劲。负责任AI不仅仅是合规要求，它是一种驱动绩效的战略杠杆——最新数据已经证明这一点。安永推出“负责任AI脉搏调查”，旨在定期呈现商业领袖对负责任的AI采用的真实观点。本文是该系列的第二篇，基于2025年6月的调查结果。在2025年7月和8月，安永全球组织开展调研，以深入了解高管层对负责任AI的看法——涵盖当前及下一波AI技术。研究基于一项匿名在线调查，覆盖975位来自10个职能角色的高管，所有受访者在其组织中均承担一定程度的AI相关责任。受访企业年收入均超过10亿美元，涵盖主要行业，分布于美洲、亚太、欧洲、中东、印度和非洲的21个国家。负责任AI之旅：企业如何迈向全面治理负责任AI不仅是一项技术要求，更是一段系统化的旅程，通常分为三个阶段：第一阶段：沟通——企业在内部和外部明确阐述负责任AI原则第二阶段：执行——将原则转化为行动，通过控制措施、关键绩效指标和员工培训落地第三阶段：治理——通过委员会和独立审计等机制监督，确保行动与原则保持一致大多数企业已经踏上这段旅程。根据安永全球负责任AI脉搏调查第二波结果，高管层在这三个阶段采取的措施平均达到10项中的7项。在科技、媒体、娱乐和电信（TMT）等行业，采纳率更高。这些行业对技术和数据的依赖，使负责任AI显得尤为关键。沟通方面，80%的企业向外部利益相关方传达负责任AI原则（其他行业为71%）。治理方面，74%已建立内部或外部委员会监督原则遵循情况（其他行业为61%72%会进行独立评估（其他行业为61%）。负责任的人工智能如何弥合投资与绩效之间的鸿沟?|3已实施负责任76%73%74%73%67%66%66%64%63%图1.负责任AI之旅负责任AI措施平均实施数量（按行业）7.47.0注：平均值基于10项可能措施图2.负责任AI之旅（按行业）虽然在旅程的每个阶段都有一定流失，但差距很小，平均每一步仅下降几个百分点。而在尚未实施措施的地方，企业普遍表⽰计划采取行动——不到2%的企业表⽰没有实施计划。这一进展至关重要。负责任AI不能仅靠原则实现，它需要“全方位”的方法：明确阐述原则、稳健的控制措施以及强有力的治理，才能确保负责任AI从口号走向现实。负责任的人工智能如何弥合投资与绩效之间的鸿沟?|4负责任的AI是关键缺失环节AI已为众多企业创造巨大价值。调查显⽰，八成受访者认为AI提升了效率和生产力——这是许多早期应用场景的核心目标。几乎同样比例的企业表⽰，AI推动了创新和技术采用，加速了生成式AI擅长的活动，如创意构思、探索、研发和快速原型设计。约四分之三的受访者认为AI增强了他们理解客户和快速应对市场变化的能力。AI的应用对公司绩效提升的程度图3.采用AI的公司虽实现绩效提升，但关键指标仍有所滞后然而，在三个关键领域——员工满意度、收入增长和成本节约——AI尚未带来同等程度的改善。根据安永AI情绪调查，一半的公众担心AI导致失业，许多人仍对AI在工作决策中的角色持谨慎态度。对于许多企业而言，将AI投资转化为损益表上的实际改善仍然是一大难题。安永全球负责任人工智能主管CathyCobey表⽰：“企业难以在AI投资中实现正向回报，主要原因在于整合过程的复杂性。这不仅需要流程再造、技能提升和持续的数据流投资，还面临遗留技术整合的挑战，以及治理框架不断演进的压力。这些因素共同阻碍了企业实现切实的财务收益。”深入分析数据显⽰，一个显著趋势正在浮现：拥抱负责任AI的企业正在实现突破，而其他企业仍停滞不前。那些采取治理措施的组织——尤其是实时监控和设立监督委员会——在收入增长、员工满意度和成本节约方面更有可能取得改善，这些正是多数企业难以实现回报的领域。负责任的人工智能如何弥合投资与绩效之间的鸿沟?|5公司更有可能实现以下提升的比例具备实时监控机制的公司更可能实现以下提升设立监督委员会的公司更可能实现以下提升+40%+40%成本节约+35%+35%收入增长+40%+40%员工满意度+34%+34%收入增长+38%员工满意度+65%成本节约注：数值代表优势比，即在成本节约、收入增长和员工满意度方面提升公司绩效可能性的改善程度。仅展⽰具有图4.采用负责任的AI推动了AI绩效的显著提升为了确定哪些负责任AI措施能够真正推动绩效提升，我们采用有序逻辑回归模型，分析十项负责任AI措施中哪些能显著提高绩效改善的可能性，并通过优势比量化每项措施对收入增长、成本节约和员工满意度的影响。结果显⽰，有两项措施在这三个指标上具有统计显著性且积极作用。这一发现揭⽰了一个共生关系：在负责任AI旅程中走得更远的企业，正是在最需要提升的领域取得了突破。这并不难理解——公开承诺负责任AI可以缓解员工焦虑，增强信任；传达负责任的做法有助于提升品牌声誉和客户忠诚度，最终推动收入增长。而稳健的治理不仅能防止昂贵的技术和伦理风险，还能降低招聘和留任成本，这些收益最终会反映在利润表上，提升成本节约。对企业领导者而言，信息非常明确：要提升AI投资回报率，就必须在负责任AI旅程中更进一步。负责任的人工智能如何弥合投资与绩效之间的鸿沟?|6负责任AI的采用能带来显著收益，但反之亦然——忽视它可能付出高昂代价。调查显⽰，几乎所有公司（99%）都报告因AI相关风险造成财务损失，其中64%的损失超过100万美元。平均而言，经历风险的企业损失保守估计为440万美元，按样本中的975家企业计算，总损失约43亿美元。企业报告的最常见负面影响风险包括：未遵守AI法规（57%）、对可持续发展目标产生负面影响（55%）以及输出结果存在偏差（53%）。诸如可解释性、法律责任和声誉损害等问题目前尚不突出，但随着AI更广泛和更显著的应用，这些问题的重要性预计将不断增加。令人鼓舞的是，负责任AI已被证明能降低风险。例如，明确制定负责任AI原则的企业，其风险发生率比未制定原则的企业低尽管财务风险巨大，许多高管层领导仍缺乏实施正确控制措施来缓解AI风险的能力。调查显⽰，当被要求将适当的控制措施与五种AI相关风险匹配时，仅有12%的受访者全部答对。不出所料，首席信息官（CIO）和首席技术官（CTO）表现最好，但即便如此，只有约四分之一在所有五个用例中回答正确。首席人工智能官（CAIO）和首席数字官（CDO）的表现略高于平均水平（15%），这可能反映了他们的背景更多集中在数据科学、学术研究和模型开发，而非传统技术风险管理，因此在管理技术相关风险方面经验不足。令人担忧的是，最终对AI风险负有责任的首席风险官（CRO）表现略低于平均水平，仅为11%。而在表现最差的群体中，首将适当的控制措施与五种AI相关风险全部匹配的受访者比例24%15%13%12%11%11%9%注：受访者面临的五大风险包括：幻觉问题、算法盲区或训练局限性、训练数据中的偏见、图5.许多高管层仍缺乏对AI相关风险应对举措的认知这种认知缺失带来了直接后果：因AI风险损失超过1000万美元的企业，仅实施了10项正确控制措施中的4.5项，而损失不超过100万美元的企业则实施了6.4项。这凸显了针对高管层进行有针对性的技能提升的迫切需求，尤其是在AI风险的财务和声誉成本持续上升的情况下。前方挑战：自主型AI与公民开发者负责任的人工智能如何弥合投资与绩效之间的鸿沟?|7治理挑战不会随着当前模型而结束。随着自主型AI在职场中日益普及，以及员工尝试公民开发，风险——以及对深思熟虑的控制措施的需求——只会不断增加。“自主型AI的特性带来了新的风险，这些风险可能迅速升级。”——SinclairSchuller，安永美洲区负责任人工智能主管令人鼓舞的是，大多数组织已开始实施治理政策来管理这些风险。我们识别的10项自主型AI治理措施中，有8项已被超过75%的受访者采用。这包括持续监控（85%）以及针对意外自主行为的事件升级流程（80%）。尽管企业已取得良好开端，但在设计有效控制措施方面仍存在挑战，这些措施必须能够充分监督持续运行、快速适应且需要最少人工干预的系统。受访者关于内部治理的担忧⽰例跨部门协作：“我注意到跨部门协作经常存在缺失。负责任AI不仅是IT部门的问题，合规部门也需要参与其开发过程，但这并没有实现。”伦理准则：“公司必须在使用自主型AI（agenticAI）前建立并采用强有力的伦理准则，若缺乏相应的工具，将成为阻碍。”预算与资源分配：“我观察到预算规划通常与负责任AI治理的长期需求不匹配，导致在整个生命周期内缺乏足够资源来管理自主型AI。”风险管理复杂性：“此类系统的复杂性变化速度超过了传统风险管理工具的能力范围，公司只能被动预判风险，且完全缺乏对自主型AI相关风险的评估或缓解方法。”事件响应计划缺失：“我注意到许多公司仍未制定针对AI故障或滥用的事件响应计划，在意外故障发生时，将面临毫无保护的局面。”监督碎片化：“通常情况下，一个部门或职能领域使用AI的方式与其他部门脱节，导致评估流程不协调且混乱，进而引发自主型AI的非负责任使用。”责任归属缺失：“我观察到公司普遍缺乏对负责任AI治理持续性的明确责任归属，导致问责制出现漏洞。”图6.内部治理问题是负责任使用自主型AI的首要关注点SinclairSchuller指出：“在自主型AI时代，系统以越来越高的自主性和复杂性运行，组织必须优先考虑实时监督：持续监控和快速响应能力是驾驭这些技术复杂性的关键。自主型AI的特性带来了可能迅速升级的新风险，因此必须建立稳健的控制措施，以防止代价高昂的中断并确保系统完整性。”一个明显滞后的领域是为混合AI与人类协作的工作环境做好准备。只有三分之一（32%）的受访者表⽰其人力资源团队正在制定管理此类环境的策略。不过，鉴于自主型AI仍处于早期阶段，这一数字可以被视为积极信号，因为它表明企业已开始战略性思考该技术的长期影响。负责任的人工智能如何弥合投资与绩效之间的鸿沟?|8“公民开发者”的兴起——即员工使用无代码或低代码工具创建自己的AI代理——正在为企业带来更复杂的治理挑战。约三分之一（32%）的公司选择完全禁止公民开发，其余公司则从严格限制使用场景到积极鼓励不等，甚至有企业在团队间推广最佳实践。30%14%11%13%图7.三分之二的公司允许公民开发者创建自己的AI代理44%44%39%33%41%31%47%43%43%32%53%52%50%按行业:24%39%35%33%25%24%23%21%21%21%20%18%18%16%12%10%10%32%26%22%34%35%45%27%36%38%50%26%38%40%图8.三分之二的公司允许公民开发者创建自己的AI代理负责任的人工智能如何弥合投资与绩效之间的鸿沟?|9高管层最应关注的是声明政策与实际监督之间的不一致。在允许公民开发者的组织中，只有60%拥有正式的、覆盖全公司的框架，以确保与负责任AI原则保持一致，且仅有一半对实际活动具有高度可见性。即使在禁止这种做法的公司中，仍有12%承认缺乏对实际活动的可见性——这造成了治理缺口，使“影子AI开发”能够在未被察觉的情况下滋生，意味着企业实际上是自主型AI和公民开发者的出现，强调了一个核心主题：负责任AI必须随着技术和职场行为同步演进。如果企业希望在不增加风险的情况下抓住这些趋势带来的机遇，明确的框架、积极的监督和领导层的认知至关重要。以下是高管层可采取的三项行动，以强化AI治理与控制，推动业务成果：1.采取全面的负责任AI方法负责任AI的应用与AI驱动的绩效提升之间存在紧密联系，这向企业领导者传递了明确的信息：要从AI投资中获得更大价值——尤其是在财务绩效和员工满意度等关键领域——企业必须在负责任AI的旅程上更进一步。一套完备的实施路径应涵盖：明确并传达负责任AI原则，通过控制措施、关键绩效指标和培训将原则落地，并建立有效的治理机制。2.填补高管层的知识空白AI影响组织的方方面面。领导者必须了解其潜力与风险，以及缓解风险所需的控制措施。然而，我们的调查显⽰，在识别最适合的控制措施方面仍存在显著不足。你的高管团队表现如何?识别最大的差距，并通过有针对性的培训加以弥补。至少要确保最接近AI风险的角色熟悉适当的防3.领先应对新兴的自主型AI和公民开发者风险自主型AI带来了强大的新能力，但也伴随重大风险。企业必须识别这些风险，制定适当的政策，并确保建立有效的治理和监目前，企业声明的政策与对员工是否开发自己的AI代理的实际洞察之间存在差距。在确