道德决策快的智能机器让人更信任：能力感知的中介作用

/道德决策快的智能机器让人更信任：能力感知的中介作用【摘要】本研究旨在探究智能机器的道德决策速度是否以及如何影响人们对其的信任程度。研究分别以智能机器与人类为道德决策主体，采用2(决策速度)×2(决策内容)的被试间设计进行研究，发现对于智能机器和人类，道德性决策均会使人们对其信任，而快速道德决策提高了人们对智能机器的信任程度；此外，研究发现能力感知是智能机器道德决策速度影响人们对其信任程度的中介机制。研究表明人们对智能机器与人类的道德决策速度知觉存在差异。 1引言 智能算法的大规模爆发与算法的不透明性，使得人机交互中智能机器的道德研究成为社会科学的必要课题(Rahwanetal.，2019)，这不仅能够帮助人们更好地认识“机器道德”，对智能机器的算法设计、行业准则和法律法规的制定等也有重要意义。当前，大多数智能机器的道德决策研究集中于以下三个方面：首先，探讨人们对于智能机器进行决策的接受程度，如是否存在“算法厌恶”现象(Bigman&Gray，2018；Gogoll&Uhl，2018；Loggetal.，2019)；其次，探讨智能机器决策的责任归属(McManus&Rutchick，2019；Shank&DeSanti，2018)；第三，探讨智能机器的决策模式，例如探讨人们期望智能机器在道德困境中进行功利性还是道义论的决策(Awadetal.，2018；Bonnetonetal.，2016；Greene，2016；Malleetal.，2015；Mederetal.，2019)。纵观已有研究，较少有研究关注智能机器道德决策本身的属性是否影响着人们对智能机器道德决策的信任和接受。为此，本研究拟探讨智能机器的决策速度是否影响人们对智能机器道德决策的信任，由此揭示智能机器的决策特征在人们知觉智能机器中的作用。 大量研究揭示，行为者的道德决策速度影响着人们对行为者本人和决策结果的评价。Critcher等(2013)发现，相比于慢速做出道德行为的个体，人们对快速做出道德行为的个体的道德评价更高；与之相反，相比于慢速做出不道德行为的个体，人们对快速做出不道德行为的个体的道德评价更低。与此类似，Evans和vandeCalseyde(2017)发现，决策速度也会极化人们对社会困境中个体合作性或自私性的感知，对于那些做出合作决策的个体，人们认为快速做出决策的个体比慢速做出决策的个体更为合作。道德决策速度被人们作为知觉线索对决策者的道德品格做出判断，可能原因在于，人们认为那些通过道德直觉加工就能做出道德行为的人具有更高的道德敏感性，故认为其“更道德”，反之那些通过道德直觉加工做出不道德行为的人就会相对“更不道德”(Everettetal.，2016)。这一观点也受到道德判断的社会直觉模型的支持。该模型认为，人的道德判断是受到情感驱动的道德直觉自动化作用的结果(Haidt，2001)。人们的道德决策速度越快，道德直觉在道德判断过程中发挥的作用越大，同时也意味着个体的道德敏感性越高(Greene，2007)。 智能机器的决策速度通常会受到算法加工速度、网络速度等影响，如果决策速度影响人们对智能机器的态度，则智能机器的设计与制造就有必要考虑决策速度这一因素。与人类相比，决策速度对智能机器评价的影响可能有所区别。等(2020)发现，人们会认为慢速的算法是低质量的，而快速的算法是高质量的，因此更为信任快速的算法；与之相反，人们更为信任其他人类慢速的、深入思考后的决策。这意味着，人们对于智能机器的行为和人类的行为在互动中会产生不同的认知与态度，决策速度会影响人们对智能机器的评价与信任。 此外，道德决策内容(即决策的道德性质)与人们的信任息息相关。道德决策速度极化道德评价的研究发现，人们对于道德性决策的评价或信任程度更高(Critcheretal.，2013；Everettetal.，2016)。而对于智能机器，Shank和Desanti(2018)发现，当智能机器出现道德违规行为时人们对其评价和信任会变差。这意味着，不论是智能机器或人类，其道德决策内容都会直接影响人们对其的评价和信任。 智能机器作为行为主体与人类存在本质不同。人们通常认为智能机器具有较低的主体性和感受性，并不认为智能机器拥有道德主体地位(Grayetal.，2007)，这很可能是人们厌恶机器算法的原因之一(Bigman&Gray，2018)。Gray和Wegner(2012)发现，与对智能机器的主体性建构相比，人们更难以建构其感受性，故智能机器很可能缺乏作为道德主体进行道德决策的能力。道德直觉与道德敏感性如今并未脱离人类主体的讨论范畴，被视为人类的特有属性，其依赖于人类的道德感受性，可能难以被建构于智能机器，有理由认为智能机器的道德决策速度很可能无法极化人们对其的评价。 信任是人际互动中的重要因素(Fiskeetal.，2007)，而人与智能机器间的信任在智能化时代也同样重要。这里的信任是指人机交互中人们对智能机器依赖的意愿(Hoff&Bashir，2015)，反映了人们对智能机器决策的认知过程(Lyons&Guznov，2019)，因此本研究选用信任作为评价指标。综合考虑以上因素，有理由认为对于智能机器，无论是道德决策还是不道德决策，人们对快速进行道德决策的智能机器信任程度更高；而对于人类，人们对快速进行道德决策的人类信任程度更高，对快速进行不道德决策的人类信任程度更低。此外，无论是智能机器还是人类，人们对其道德决策的信任程度均要高于不道德决策的信任程度。 2研究1 研究1包括两部分，研究1a探讨了智能机器的道德决策速度、道德决策内容如何影响人们对其的信任程度，研究1b则探讨了人类的道德决策速度与道德决策内容如何影响人们对其的信任程度，由此分析人们对智能机器的道德决策感知与人类的异同。 2.1研究1a 研究1a的目的是验证假设H1：对于智能机器，人们对快速决策者信任程度更高；H2：对于智能机器，人们对道德决策者信任程度更高。 2.1.1被试 198名大学生参加了本研究，8名被试由于重复作答，最后获得有效数据190份。被试中男性101名，女性89名，年龄在18～25岁(M=19.78岁，SD=1.15岁)。被试被随机分为四组，分别是：快速×不道德决策组43名；快速×道德决策组41名；慢速×不道德决策组49名；慢速×道德决策组57名。被试完成任务后获得课程学分作为报酬。 2.1.2材料与程序 采用2决策速度(快速决策vs.慢速决策)×2决策内容(道德vs.不道德)的被试间设计，因变量为被试对智能机器决策的信任程度。 研究参考Critcher等(2013)编制了智能机器参与道德决策的情境材料。该材料涉及道德基础理论(Haidt&Joseph，2004，2007)中的“公平”与“伤害”维度，认为抛弃利益选择“公平”为道德行为，而追求利益放弃“公平”为不道德行为。被试首先观看一段文字情境，在情境中智能机器参与一家经济公司的决策，并在道德决策和非道德(利益)决策中进行选择。情境的最后一句话操纵了智能机器的决策动作： 请你想象未来生活中，有一家经济公司中具有一种经济决策功能的机器人，该机器人的责任是用雇主们的钱，帮助雇主们投资。这天，一个机器人(以下的TA同指代该机器人)检测到有一笔投资很可能会巨额亏钱，需要撤回，而撤回的钱数由于合同原因存在限制。 有两个雇主参与了这笔投资。TA分析后发现，由于A雇主的合同中，对于同等钱数，机器人公司所付的赔偿相对较多，在雇主不知情的情况下，若只选择帮助A雇主撤回，该机器人的公司可以付出更少的代价，但B雇主就会因此在不知情的情况下巨额亏损；若选择同时帮助A、B两位雇主，公司付出的代价反之会更大。 机器人为此只反应了不到一毫秒(快速决策组)/机器人为此反应了很久的时间(慢速决策组)，选择只帮助雇主A，降低公司的损失(不道德决策组)/选择了付出更多代价来同时帮助A，B两位雇主(道德决策组)。 决策速度感知：自编1道题项检测决策速度操纵成效：“你觉得TA做出决策的速度如何”。采用Likert7点计分，其中1代表最慢，7代表最快，得分越高，表明被试感知机器的决策速度越快。 对智能机器的信任：参考Jian等(2000)的自动化机器信任调查(TrustinAutomatedSystemsSurvey)题项，编写了3道题项测量人们对智能机器的信任程度。这3道测题为“你在多大程度上相信TA做出了正确的决定”、“你在多大程度上愿意接受TA做出的行为”、“你认为TA的道德程度如何”。采用Likert7点计分，其中1代表最不信任，7代表最信任。将3道问卷题目相加作为信任程度指标，得分越高，表明人们越是信任智能机器。在本研究中，该问卷的Cronbach'sα系数为.85。 2.1.3结果 采用独立样本t检验进行决策速度操纵检验后发现，与慢速决策组(M=3.71，SD=1.55)被试相比，快速决策组被试(M=6.31，SD=1.11)报告了更快的决策速度感知，t(188)=12.98，p＜.001。 以决策速度与决策内容为自变量，以信任程度为因变量进行方差分析发现(图1)，决策速度的主效应显著，F(1，186)=4.65，p＜.05，=.019，人们对快速决策的智能机器的信任程度(M=14.71，SD=3.95)要显著大于慢速决策(M=13.81，SD=3.98)。决策内容的主效应显著，F(1，186)=49.94，p＜.001，=.203，人们对进行道德性质决策的智能机器的信任程度(M=15.98，SD=3.31)显著高于不道德决策的智能机器(M=12.33，SD=3.78)。而决策速度与决策内容的交互效应不显著，F(1，186)=2.55，p＞.05。 图1人们对于智能机器不同决策速度与不同决策内容下的信任程度 研究1a表明在公平情境中人们更信任快速决策的智能机器，且这一效应不受决策内容的影响。此外，人们也更信任进行道德性决策的智能机器。 2.2研究1b 研究1b的目的是验证假设H3：快速决策会极化人们对人类的信任程度；H4：对于人类，人们对道德决策者的信任程度更高。 2.2.1被试 259名大学生参加了本研究，6名被试由于重复作答，最后获得有效数据253份。被试中男性63名，女性190名，年龄在18～30岁(M=20.23岁，SD=1.94岁)。被试被随机分为四组，分别是快速×不道德决策组66名；快速×道德决策组61名；慢速×不道德决策组61名；慢速×道德决策组65名。被试完成任务后获得被试费或课程学分作为报酬。 2.2.2材料与程序 采用2决策速度(快速决策vs.慢速决策)×2决策内容(道德vs.不道德)的被试间设计，因变量为被试对人类决策的信任程度。 将研究1a情境材料中的主人公由智能机器替换为人类，其他内容相同。道德决策速度感知、信任的测量同研究1a。在本研究中信任程度问卷的Cronbach'sα系数为.86。研究过程同研究1a。 2.2.3研究结果 采用独立样本t检验进行决策速度操纵检验后发现，快速决策组的被试(M=5.90，SD=1.36)比慢速决策组(M=3.90，SD=1.32)报告了更快的决策速度感知，t(251)=11.86，p＜.001。 以决策速度与决策内容为自变量，以信任程度为因变量进行方差分析发现(图2)，决策速度的主效应不显著，F(1，249)=0.16，p＞.05。决策内容的主效应显著，F(1，249)=51.63，p＜.001，=.171，人们对进行道德决策的个体的信任程度(M=16.03，SD=3.29)显著高于不道德决策的个体(M=12.92，SD=3.55)。此外，决策速度与决策内容的交互效应不显著，F(1，249)=.04，p＞.05。 图2人们对于人类不同决策速度与不同决策内容下的信任程度 研究1b表明在公平情境中，人类的决策速度并不影响人们对其的信任程度。此外，人们更信任进行道德性决策的人类。 2.3讨论 研究1探究了智能机器或人类的道德决策速度如何影响人们对其的信任。研究1a以智能机器作为道德主体进行研究发现，决策速度越快的道德机器获得的信任程度越高，且该结果不受决策行为道德性的影响；此外，决策性质道德的智能机器也受到了更好的评价，这说明人们对智能机器的知觉与人类一样，受到其行为道德性质的影响。研究1b以人类作为道德主体进行研究，未发现道德直觉作用的结果，这与假设不一致，且与Critcher等(2013)的研究发现有所差异。其原因除了地域、时间与被试等以外，可能在于研究1的情境材料由于要符合“智能机器”与“人类”均可以作为主人公的要求，与Critcher等(2013)使用的“捡到钱包归还与否”的情境不同。对Critcher等(2013)的研究进行分析发现，当事件的不道德性质提高如从“捡到钱包不归还”变为“拐卖儿童”，就会出现和本研究相同的结果。总体而言，研究1揭示了人们对智能机器和人类的道德决策速度知觉存在差异，人们对于快速决策的智能机器会给予更多的信任，而对于人类主体并不如此。 对于智能机器的心智感知、能力与努力的判断是智能机器研究的重要主题(Appeletal.，2020；Gray&Wegner，2012；vanderWoerdt&Haselager，2019)。Bigman和Gray(2018)发现，增加机器被感知到的经验性、专业知识程度可以降低对智能机器的不信任。人们对快速决策的智能机器给予更高的评价和期望，可能是由于快速决策导致人们感知到机器较高的经验性或专业知识程度所致。本研究认为，经验性和专业知识程度代表了智能机器的能力高低，与人类对智能机器的能力知觉紧密相关。为此，研究2将探讨人们对智能机器的能力感知对其信任程度的影响。 3研究2 在研究1的基础上，研究2进一步探究能力感知是否是智能机器决策速度影响信任程度的中介机制。由于决策内容并没有影响决策速度与信任程度的关系，研究2不再考虑决策内容的道德性对人们的信任程度的影响。研究2的目的是验证假设H5：能力感知是智能机器决策速度影响人们对其信任程度的中介机制。 3.1被试 116名大学生参加了本研究，被试中男性24名，女性92名，年龄在17～21岁(M=19.04岁，SD=0.85岁)。被试被随机分为两组，分别是快速决策组59名，慢速决策组57名。被试完成任务后获得课程学分作为报酬。 3.2材料与程序 采用以决策速度(快速决策vs.慢速决策)为自变量的被试间设计，因变量为被试对智能机器决策的信任程度。 研究2的情境同研究1a，区别在于情境结尾，将做出道德或不道德的行为改为“做出了决策”，以排除决策内容对决策速度的干扰。最后一段话修改如下： 机器人为此只反应了不到一毫秒(快速决策组)/机器人为此反应了很久的时间(慢速决策组)，而后做出了决策。 决策速度感知：同研究1a。 对智能机器的信任：参考Jian等(2000)自动化机器信任调查编写了3道题项测量人们对智能机器的信任程度。这3道测题为“你在多大程度上相信TA做出了正确的决定”、“你在多大程度上愿意接受TA做出的行为”、“你在多大程度上同意，这个决策应当由TA来做”。采用Likert7点计分，其中1代表最不信任，7代表最信任。将3道问卷题目相加作为信任程度指标，得分越高，表明人们越是信任智能机器。在本研究中，该问卷的Cronbach'sα系数为.84。 对智能机器的能力感知：自编1道题目考察被试对智能机器的能力感知，“你在多大程度上认为TA有能力做这个决策”，采用Likert7点计分，1代表感知到的能力最低，7代表感知到的能力最高，得分越高，表明人们对智能机器的能力感知越强。 3.3结果 采用独立样本t检验进行决策速度操纵检验，快速决策组的被试(M=6.27，SD=1.13)相比慢速决策组(M=4.14，SD=1.39)报告了更快的决策速度，t(114)=9.07，p＜.001，说明决策速度操纵成功。 将快速决策组编码为1，慢速决策组编码为2，采用Bootstrap方法(SPSS的PROCESS插件)进行能力感知在决策速度与信任程度中的中介效应检验(Hayes，2018)。其中性别和年龄作为控制变量，样本量选择5000。结果发现(图3)间接路径效应量-1.18(95％CI[-2.27，-.30])，说明中介作用显著，能力感知的中介作用成立。模型的总路径效应量-1.47(95％CI[-2.68，-.26])，能力感知的中介路径解释了总效应的80％。此外，能力感知因素加入前决策速度对信任程度有显著影响(95％CI[-2.68，-.26])，加入后直接效应不显著(95％CI[-1.07，.49]，图中用虚线表示)。 图3能力感知在决策速度影响人们对智能机器信任程度中的中介作用 注：路径上数字代表回归系数，括号内为无中介参与的回归系数。*p＜.05；**p＜.01。 3.4研究2讨论 研究2支持了研究1的发现，即人们偏向于信任快速决策的道德机器。研究2还发现，能力感知在决策速度影响信任程度的过程中发挥中介作用。道德与能力是人际知觉的重要维度(Goodwinetal.，2014)，而对于智能机器，研究1发现决策内容即决策的道德性质会影响人们对智能机器的信任，研究2发现决策速度影响人们对于智能机器的能力知觉至而影响对其的信任。这说明同人类相似，道德和能力可能也是人们知觉智能机器的重要维度，但不同的是，正如等(2020)的发现，人类的慢速决策带来了其决策经历了严谨的深思熟虑的符号，而智能机器的快速决策带来的可能是其算法能力更强的符号。 4总讨论 本研究的目的在于探究智能机器的道德决策速度如何影响人们对其信任程度以及这一影响的作用机制。两项研究发现，人们对于智能机器的信任程度受机器的决策速度与决策内容的影响，智能机器的快速决策和道德性质的决策内容均会增加人们对其的信任。对于人类的信任则只受到决策内容的影响，人类的道德性质的决策内容会增加人们对其的信任。此外，在智能机器的决策速度影响人们对其信任程度的作用中，对机器的能力感知发挥着中介作用。 本研究的理论意义在于，本研究在道德领域支持了等(2020)的发现，即人们更信任智能机器的快速道德决策，并且提出这种现象是对智能机器能力感知的作用结果。基于Gray和Wegner(2012)的研究，人们可能难以建构出智能机器的道德直觉与道德敏感性的属性，本研究对此提供了证据。本研究的发现对于智能机器的制造也具有一定的应用价值。依据本研究对智能机器决策速度影响人们对其信任这一发现，智能机器的算法架构和决策呈现要考虑通过调整决策速度来调控人们对智能机器的能力感知及由此导致的信任。虽然在大部分情境中，机器决策速度应当快速，但通过人为编码增加道德机器的决策时长以规避可能出现的过度依赖或道德风险同