人工智能服务失败的后果与应对：归因理论视角

/人工智能服务失败的后果与应对：归因理论视角【摘要】人工智能服务失败会破坏用户的服务体验、损害企业声誉，如何理解人工智能服务失败的后果与应对策略越来越受到研究者的重视。文章从归因理论视角梳理了人工智能服务失败后用户的归因判断、消极情绪、服务期望和行为倾向，提出企业可以通过前置设计和后置补救缓冲和补救负面后果。未来研究可进一步探究人工智能实用型补救、人工智能图式、用户反应具体指向和用户共创补救的前因变量等，以期促进人工智能设计与服务管理的优化。

研究要点 1.明确应对AI服务失败的首要任务是预测和理解不同的用户反应。 2.基于归因理论构建了AI服务失败后果与应对的系统框架。 3.展望了明确用户反应指向对象、AI图式等未来研究方向。 1引言 人工智能(artificialintelligence，AI)服务失败是指AI在提供服务过程中引发的低于用户期望，甚至威胁到用户利益的事件(Sparks&Fredline，2007；Yametal.，2021)，涉及响应速度缓慢、指令识别不当、返回错误结果等多种情况。AI服务失败屡见不鲜，例如，软银集团的AI服务员“Pepper”在遭遇围观时无法完成引导和上菜工作，日本五星酒店HennnaHotel的客房AI“Churi”错将住客的鼾声识别为指令而在夜间反复吵醒客人，OpenAI公司的生成式AI“ChatGPT”编造事实以回答用户问题等。企业在面对AI服务失败时或是直接舍弃高效无缝的AI服务，或是无视用户的转人工诉求，缺乏有效应对AI服务失败的知识和策略(Choietal.，2021)。 为促进企业优化AI服务版块下的失败管理，学界分析了各种AI服务失败情境下的用户反应及其过程机制。例如，Belanche等(2020)基于餐厅机器人服务失败的研究发现，用户基于机器人的智能水平推断其失败的稳定性，智能水平越高用户认为其后续失败的可能越低；Huang和Dootson(2022)关于AI客服失败的研究显示，用户将AI服务失败视作压力源而产生愤怒和沮丧的情绪；在Huang和Philp(2021)关于AI旅行助手失败的研究中，用户会出于印象管理的考虑避免传播AI服务的负面口碑。Liu等(2023)归纳了已有研究中机器人服务失败的概念与特征，从实践的角度总结了机器人服务失败的后果和机制，但其框架缺乏理论体系支撑，限制了企业应对措施的有效性和实践价值。 为此，本文基于归因理论视角串联起AI服务失败下用户产生的认知、情感和行为反应，厘清用户“归因判断—消极情绪与服务期望—行为倾向”的归因过程，针对性地梳理出企业在服务前置设计与失败后置补救两个环节的应对措施。通过本研究，希望更多学者和管理人员关注AI服务失败背景下的用户反应机制，助推AI服务的持续改进与发展。 2AI服务失败的归因过程 为了有效应对AI服务失败，首要任务是预测和理解不同的用户反应。归因理论为梳理用户对AI服务失败的复杂反应及其相互关系提供了一个良好的理论框架。Heider(1958)提出归因理论，分析了人们将事件归因于特定原因的前提条件。Weiner(2000b)通过在归因分析中融入动机观点进一步发展了归因理论，将寻求理解的归因过程视为行为的主要驱动力，据此全面地分析了归因通过其对预期及情感反应的影响而成为后续行为动因的序列关系。Weiner(2000a)总结到消费者会就失败的产品体验进行归因，而归因判断又会影响他们随后的购买、口碑和投诉等行为。这一分析激发了消费领域研究对该理论的运用，也启发了AI服务领域的大量实证研究分析提升用户满意度、持续使用意愿等后果变量的归因机制。因此，本文采用该理论视角系统地梳理了AI服务失败后用户的归因过程，涵盖用户对AI服务失败的归因判断、归因判断引发的消极情绪和期望调整以及这些归因结果影响的行为倾向。 2.1AI服务失败归因 尽管在客观上AI服务失败的确切原因归属很难被观察、判定，但用户仍然会在主观上基于先前经验和服务接触中的感知进行归因判断(Jones-Jang&Park，2022；Shin&Park，2019)。用户的归因判断分为控制点、可控性和稳定性三个维度，控制点(locus)维度关注失败原因是来源于用户自身还是来源于他人，可控性(controllability)维度关注失败原因在多大程度上受某一主体控制，稳定性(stability)维度则关注失败在多大程度上会再次发生(Weiner，2000a)。 2.1.1归因的控制点 AI服务供应链上参与者众多，涉及用户、AI、AI服务提供企业、AI的开发者和政府监管机构等责任主体(Belancheetal.，2020；Leo&Huh，2020；赵雷等，2019)。遭遇AI服务失败的用户首先进行失败原因来源的判断，即进行内部归因或外部归因。在具有自助服务性质的AI服务中，用户操作是否符合输入规则对AI服务质量有重要影响(Fanetal.，2020)。当用户考虑到自己在服务接触中可能没有起到应有的作用(如认为自己没有掌握正确使用AI的方法)时，倾向于对AI服务失败作出内部归因(Castilloetal.，2021)。AI服务失败外部归因的对象集中在AI和服务提供企业二者上。Castillo等(2021)关于AI客服的研究显示，有些用户将服务失败归因于AI客服本身能力不足，而有些用户则将失败归因于企业没有对AI客服进行足够的训练。人——机器——企业的三方博弈视角为当前归因理论提出了新的挑战，对于不同对象的归因不再是非此即彼的选择，而存在共存的可能。当用户作出内部归因时，可能同时考虑到AI系统的不完善导致了服务失败；当用户判断失败原因来源于AI时，向前追溯则考虑到企业不愿花费人力资源导致自己遭遇AI服务失败(Castilloetal.，2021)。 2.1.2归因的可控性与责任分配 用户倾向于把计算机(包括物理设备和应用程序)看作一个社会行动者，按照人际互动规则与计算机进行互动(Nassetal.，1994)。AI拥有自我训练和自主决策的能力，相较于传统的计算机技术和产品更符合社会行动者的定位，能够在认知层面上作为归责主体(刘新生，褚建勋，2023)。但在不同服务主体(人类或AI)失败的比较中，用户对AI的归因仍显著低于对人类服务者的归因(Belancheetal.，2020；Pavoneetal.，2023)，这种差异发生于用户在可控性维度的归因。 具体而言，当事件结果可以由行为者控制和改变时，那么该行为者就被视作对此结果负有责任(Weiner，2000a)。研究显示，用户认为AI在控制能力(Jones-Jang&Park，2022；侯如靖，2021)、意向性(T.W.Kim&Duhachek，2020；Pavoneetal.，2023)、能动性(K.Gray&Wegner，2012)和自由意志(许丽颖等，2022)等与可控性相关的特征上不如人类，不该对服务失败负主要责任。而AI服务提供企业作为人类群体对结果的可控性相对较高，有责任保证服务质量或告知用户AI的局限性，因此用户更多地将失败归咎于AI服务提供企业(Castilloetal.，2021；H.M.Grayetal.，2007；Leo&Huh，2020；Sandsetal.，2022)。例如，Leo和Huh(2020)基于配药师配药失误的情境比较不同服务主体失败下的责任归因。在实验中，参与者被随机分配到配药师为人类或AI两种条件中的一种，AI组感知到配药师对任务的可控性低于人类组，更少将配药错误的失败归咎于配药师；同时，AI组对配药房的责任归因显著高于人类组，体现了用户将AI服务提供企业作为责任归因主要对象的倾向。用户对AI的内隐和外显态度处于动态发展变化中，随着AI智能水平的提升，用户的AI可控性感知会提升(M.H.Huang&Rust，2018；Leo&Huh，2020)；同时，用户在服务接触中AI熟悉度和使用经验的增加也会影响其AI可控性感知(Jones-Jang&Park，2022)，基于可控性的责任分配将呈现出更为复杂的结果。 2.1.3归因的稳定性与服务预期 稳定性维度的归因影响用户对未来服务的成败预期。由于AI通常被认为是预先编程和高度一致的，遭遇AI服务失败的用户会预期在未来的AI服务中很可能再次经历失败(Belancheetal.，2020；Sundar&Kim，2019)。此外，算法厌恶(algorithmicaversion)会引发用户非理性的预期调整，即无论AI的表现是否优于人类，用户都预期AI服务不如人类服务(Dietvorstetal.，2015)。 AI服务失败引发的预期下降不仅针对导致服务失败的特定AI，还会扩散到与本次服务失败无关的其他AI上，这种泛化现象被称为算法转移(algorithmictransference)。用户通常认为AI群体是外群体，具有较高的同质性，因而倾向于将特定AI服务失败的体验转移到对其他AI服务的预期和信念中(Longonietal.，2023)。Longoni等(2023)关于公共服务AI的研究显示，参与者观察到某地域公共服务中的AI算法计算错误后，倾向于判断其他地域的AI算法也会发生类似的错误。 服务预期的降低意味着用户未来会避免选择AI服务，不利于AI服务的发展与推广。但是服务预期的降低也代表着用户接受AI并非完美的现实，有利于企业通过及时有效的服务补救恢复用户的满意度(QianTingetal.，2021)。 2.2消极情绪 用户的归因影响其对失败责任的推断并引发特定的消极情绪体验(Bigmanetal.，2022；Weiner，2000a)。内部归因引发自我指向的情绪，当用户感知到自己对AI服务互动失去控制时会感到焦虑和不安(Castilloetal.，2021)。而在外部归因中，用户会对失败归因对象产生愤怒的情绪，用户感知该对象对服务失败的可控性越高，产生的愤怒情绪越强烈(Pavoneetal.，2023；Sandsetal.，2022)。从具体的归因指向来说，服务AI重复犯错或过高的AI服务预期会使用户在服务失败时对AI产生厌恶感(王海忠等，2021)；若用户认为AI的自主性或可控性较低，他们则将失败更多地归咎于人机互动中的第三方(如AI服务提供企业、AI开发者等)，这些对象在AI服务情境下的不可控性使用户滋生沮丧情绪(Pavoneetal.，2023)。 随着用户服务中的AI逐渐具备更复杂的思考、计划和行动能力(M.H.Huang&Rust，2018)，AI可控性感知的提高可能会导致用户在AI服务失败下产生的消极情绪强度逐渐接近人类服务失败下的情绪强度(Lee，2018)，用户的消极情绪将成为企业施行AI服务时需要加强关注的问题。 2.3行为倾向 用户对AI服务失败的归因导致消极情绪与预期调整，而这种归因后果又驱动着后续的行为。较低的服务预期导致回避性行为，用户会在未来尽量避免使用AI服务或从其他渠道寻求人类服务者的帮助(Dietvorstetal.，2015；Leo&Huh，2020；Xingetal.，2022)。若服务提供商提供了多个AI代理，用户也可能尝试更换当前失败的AI。回避性行为倾向在AI客服的应用实践中非常普遍，例如，Li等(2023)关于电话营销的研究显示，当用户知道客服不是人类而是AI时倾向于拒接电话，即使选择接听也会更快地挂断电话。稳定性归因导致的算法厌恶和算法转移引发了用户流失和人工繁忙的局面，使企业服务效率的提升遭遇瓶颈。 对企业或AI的归责引发愤怒等高确定性的情绪，驱使用户做出对抗性行为(Gelbrich，2010；Pavoneetal.，2023)。为了报复未尽到商家责任的AI服务提供企业，用户会选择终止服务、投诉、转向使用竞争对手的服务甚至传播负面口碑(Castilloetal.，2021；Lvetal.，2021；Sandsetal.，2022；Sparks&Fredline，2007)。此外，用户也可能与AI本身进行对抗，表现出对AI的物理或言语攻击行为倾向，例如当AI无法回答提问时嘲笑或辱骂AI(Y.S.Huang&Dootson，2022)。 在AI服务中，用户并非始终处于被动地位，而是会通过体验参与、积极反馈和帮助支持等行为主动参与到服务价值共创中。因此，遭遇AI服务失败的用户也可能展现合作性行为，例如配合进行企业的服务补救、愿意持续使用AI服务和向服务提供企业反馈(Huoetal.，2022；Leo&Huh，2020；Lvetal.，2021)等。从归因判断方面来看，相较于对AI服务失败进行外部归因的用户，进行内部归因的用户产生的不满较少(Fanetal.，2020)，更可能在企业的服务补救中展现出较高的合作意愿和行为。从用户情绪方面来看，富有创意与乐趣的服务过程有助于恢复信任、增强创新感知，提升用户的持续使用意愿(吕兴洋等，2021)。 AI服务中的人机互动与人际互动不同，作出自我归因的用户较少对服务提供者(AI)产生愤怒、厌恶等他人指向的情绪，而更多地产生焦虑、羞愧等自我指向的情绪(Castilloetal.，2021)。认为AI服务质量与自己有紧密联系的用户会出于羞愧而掩饰自己AI服务失败的经历(B.Huang&Philp，2021)，但用户是否以及何时会表现合作性行为仍未可知。从AI服务的各互动主体考虑，用户对企业认同或其对AI服务的控制感可能引发用户改善AI产品及服务的意图，进而展现出合作性的行为(Dietvorstetal.，2018)。 3AI服务失败的应对措施 在归因理论的视角下，AI服务失败作为事件起点经由用户的归因判断引发消极情绪和预期调整，这种归因结果影响用户对下一次服务的选择，成为后继行为的动因。因此，企业需要重塑用户的归因过程，通过管理归因与管理情绪两项策略减少用户后续的消极行为。在具体服务流程中，企业可以在服务接触前和服务失败后两个环节践行上述策略。服务接触前，企业通过预防性的前置设计优化服务接触中将呈现的线索；服务失败后，企业需要提供补偿性的后置补救以改善用户的消极看法和感受。通过不断调整AI服务及其失败补救，企业能够加深关于AI服务失败下的用户归因过程的理解，在服务结束后更好地进行总结提升。 3.1对服务接触的前置设计 用户会将服务接触中呈现的信息作为归因判断的线索，企业可以通过前置设计丰富服务接触中呈现的相关信息，从而帮助用户识别AI服务失败的控制点、可控性和稳定性等因素。在前置设计中提升AI透明度(transparency)是帮助用户正确归因的有效措施。透明度是指AI系统决策过程及其基本原理能够被用户观察、理解和解释的程度(Burrell，2016；Shin&Park，2019)。在服务接触过程中，透明的AI使用户了解AI技术如何工作并助力用户决策(许为，2019)，有益于用户理解AI服务供应链上各参与者对服务的可控范围，也为用户自主解决服务故障提供可能。例如，高透明度的AI旅行计划系统使用户了解AI基于用户历史数据定制旅行计划，当计划不尽如人意时，用户就能够判别AI开发者和管理者对结果的不可控性(B.Huang&Philp，2021)。当AI指令识别机制的信息能被观察和理解时，输入方式不符合识别规则的用户理解自己对服务的影响，对服务失败更加宽容(Shin&Park，2019；Suen&Hung，2023)。 除了提升AI系统本身的透明度外，企业还可以额外向用户呈现提示、引导信息以增进用户对AI服务的理解(Shin&Park，2019)。例如，提前告知用户AI可能出现失误的预警措施能降低用户对AI过高的期望，减少用户对AI服务质量的负面判断(曹忠鹏等，2023)。此外，向用户提示AI的自主性特征、学习能力等也能够为用户的归因判断提供信息支持(T.W.Kim&Duhachek，2020；Lee，2018)。 AI的特征会在服务接触过程中影响用户情绪，企业可以通过优化AI特征的设计来缓冲AI服务失败引发的消极情绪。AI拟人化(anthropomorphism)是指将人类特征、心智、动机、思维、情感以及行为等赋予AI(许丽颖等，2017)，能够提升用户对AI的情感性感知(Yametal.，2021)、依恋(Wangetal.，2023)和情绪共情(蒋玉石等，2023)，削弱服务失败带来的消极影响。值得注意的是，单一的形式拟人化(如拟人的命名、外观)或行为拟人化(如拟人的声音、沟通风格)设计无法起到理想的缓冲效果，甚至会激化用户的负面反应(Wangetal.，2023)。尤其是当服务失败类型为过程失败时，用户能清楚观察到AI拟人化的不一致(如类人外观与机械行动的不一致)，单一拟人化设计反而会加剧用户的负面情绪与评价(Choietal.，2021)。因此，企业需要注意服务AI在形式拟人化与行为拟人化上的一致性，基于人与人交互的特点与潜在心理机制从整体上把握拟人化设计(徐昊骙等，2024)。例如，为外观类人的AI配备社交导向的沟通风格能更好地缓和服务失败引发的用户消极情绪(王海忠等，2021)。 在AI的视觉外观、语言风格和行为表现等方面设计可爱(cuteness)的元素也有助于管理用户的情绪。Lv等(2021)关于酒店AI客房服务的研究显示，声音可爱度高的AI助手能够激发用户的柔情(tenderness)、降低服务预期，使用户在服务失败发生后更加宽容。可爱设计可以分为婴儿图式型可爱和古灵精怪型可爱，婴儿图式型设计更适合技术焦虑低的用户及女性用户，古灵精怪型设计则相反(Zhangetal.，2022)。需要注意的是，前置设计只能在AI服务失败严重性较低、时间压力小的情况下舒缓用户负面反应；若用户遭遇严重的AI服务失败(如医疗AI误诊、自动驾驶AI失灵等)，企业需要进一步补偿用户的经济、心理损失，给出人性化的服务补救方案。 3.2对服务失败的后置补救 服务补救是指服务提供方在服务失败时采取的响应措施，分为象征型(symbolic；如道歉、共情、解释等)和实用型(utilitarian；如赔款、折扣、发放优惠券等)补救(Jung&Seock，2017；Smithetal.，1999)。研究显示，无论用户将AI服务失败归因于内部(用户自身)还是外部(企业)，企业参与服务补救情况下的用户信任度都高于用户自行解决服务故障的情况(Chenetal.，2022)。因此，前置设计的完善并不意味着“一劳永逸”，企业仍需要基于修正归因偏差与安抚用户情绪的思路制定服务失败后的补救方案。 发生AI服务失败后，由AI直接进行服务补救具有较高的成本效益，同时也能保持服务过程的流畅性。已有研究中AI主要通过文本回复或语音回复形式实施象征型补救措施，包含道歉、解释、共情、幽默回复和承诺等(见表1)。 AI道歉是一种成本效益高且易于实施的补救措施，受到大量研究关注。类似于人类服务者所提供的道歉，AI道歉的有效性主要源于其能传达对用户遭遇的关心，安抚用户的负面情绪(Choietal.，2021；Shen&Wang，2022)。此时，拟人化可以作为传递温暖的情感线索，增强用户对AI道歉的情绪共情(蒋玉石等，2023)、促进AI道歉缓解用户的消极体验(Xuetal.，2023)。AI在服务失败发生后立即提供清晰的解释能够补充和更新用于归因的信息，避免用户的错误归因，减少其负面反应(Choietal.，2021；T.Kim&Hinds，2006；VanVaerenberghetal.，2014)。AI也可以通过表现共情直接安抚用户情绪。AI共情是指AI理解并回应用户的想法、感受和行为(Lvetal.，2022)。Lv等(2022)指出，AI共情能够通过拉近心理距离并增进信任的机制提升用户的持续使用意愿，并提出采用多感觉刺激(文本与声音)的共情回复来加强补救效果。企业还可以部署AI幽默回复的补救措施以缓解用户的负面情绪。AI幽默回复能触发用户的幽默欣赏和感知AI真诚，使用户对AI的评价更积极(Yangetal.，2022)。借鉴人类服务者在补救时的常见做法，企业可以将多种补救措施同时配置到AI服务补救程序中(Huetal.，2021；Smithetal.，1999)，例如在AI自动驾驶系统失灵时采用道歉、解释和承诺的回复补救组合(Xuetal.，2023)。 选择由AI提供服务补救固然可以节省人力成本，但企业在制定服务补救预案时需要充分考虑到不同用户群体的偏好与服务失败情境的特征。从用户特征方面考虑，AI服务补救在面临高人际互动需求(Ashfaqetal.，2020；Huetal.，2021)、内隐人格类型为实体论型(王海忠等，2021；蒋玉石等，2023)、高权力感(Shen&Wang，2022)的用户时难以传达同理心和诚意，此时需要人类服务者及时介入以有效减少用户的负面反应。此外，用户的文化背景也会影响AI服务补救的效果。相较西方文化下的用户，中国文化下的用户在AI服务失败时会对AI做出更严格的责任判断(闫霄等，2024)，仅采取温和的AI象征型补救措施可能不足以满足中国用户的期望，需要AI补充实用型补救措施或由人类服务者干预补救。从服务失败情境考虑，服务失败类型、服务失败严重性与时间压力是企业制定服务补救方案时需要考虑的因素。Xing等(2022)对在线购物消费者的问卷调查显示，消费者在AI服务中遭遇功能性障碍(如未能正确回答问题)时可以接受AI补救，但在遭遇非功能性障碍(如回答风格死板)时更偏好人工干预。在AI服务失败严重或时间压力大的情况下，智能水平或授权程度不足的AI无法应对用户较高的物质和心理补偿期望，由人类服务者出面干预服务失败是更好的策略(Lvetal.，2021；Zhangetal.，2022)。因此，为了重塑用户的归因过程，企业在进行预防性的前置设计和补偿性的后置补救时需要