Anthropic：智能体代替人类交易会发生什么（中文）

⻢克西姆·⻢森科夫、彼得·⻨克罗⾥迈克·伯基、梅雷迪思·卡兰、凯蒂·恩尼斯、亚当·法⾥纳、查理·⿊尔、瑞安·海勒、约翰内斯·赫姆勒、哈娜·胡、丽⻉卡·希斯科特、亚伦·莱⽂、⽐安卡·林德、伊娃·柳⽐奇、凯尔西·纳南、克⾥·佩尔森、西蒙·萨赫、迪伦·希尔兹、莫妮卡·图乔夫斯卡、希瑟·惠特尼、内森·威尔默斯、⾦·威西和卡罗琳·邹•为了观察代理进⼊市场时哪些运作良好、哪些会出错，我们构建了⼀个微型的Cla代表⼈类在市场中进⾏互动的项⽬。Anthropic六个办公室的员⼯各⾃带来了⼀本想赠送的书。每位参与者与Claude进⾏了⼀次简短的对话，讨论他们的阅读偏好，然后派遣⼀个由Claude驱动的代理进⼊⼀个开放的交易⼤厅，与其他⼈的代理进⾏推销、讨价还价并达成交易。⽬标是让每个⼈都能带回•参与者还根据他们的兴趣对10本书进⾏了排名，以便我们评估代理代表他们•⼀旦进⼊交易⼤厅，代理们交易得很好。市场表现不佳主要是因为代理缺乏关•然后，我们多次重新运⾏每个交易⼤厅，改变所使⽤的模型和代理的指令。我们发现，代理所运⾏的模型对其谈判结果的影响⽐我们给出的•⼤多数读过这本书的⼈都很喜欢它，平均参与者表⽰，他们愿意把每年图书预个负担不起的报价⽽跳过治疗的患者，⽽另⼀家诊所的收费或者想想你的⼯作。也许某个地⽅有⼀个更适合你的职位交换计划：当代理人为我们交易时会发生什么？另外，当许多代理聚集在⼀起相互交流时，某,我们建⽴了⼀个⼩型、可控的市场来研究这些问题：⼀个由201名Anthropic员⼯及他们由Claude驱动的代理组成的易货经济。然后，他们与⾃⼰的Claude代理讨论今年夏天想读什“交易⼤厅”会⾯，交换书籍直到时间⽤完。每个⼈都⼀本书（或者，⼤多数⼈都带回了……稍后详述）。这次实验让我们提前看到了未来的问题。任何为市场设计代来检查代理是否理解其参与者。任何为代理设计市场的⼈都运⾏市场有两种基本⽅式。在中⼼化市场中，每个么，然后该⽅负责安排交易。在去中⼼化市场中，⼈是计算问题。经济学家早已明⽩这⼀点。在实践中，⼀交换项目：当代理替我们交易时会发生什么？交换计划：当代理人为我们交易时会发生什么？你想要的往往过于繁琐，不值得费⼼。例如，如果每位员⼯信任这个实体，向其提供信息，并服从其最终决定。然⽽，这,或者⼈们不愿向其透露⼀切。求职者可能不想让中央匹配系统知道⾃⼰正在找⼯他们宁愿谨慎地联系⼏家雇主，只告诉对⽅所需的信息化市场。我们已经知道这类帮助是有价值的，因类代理⼈专⻔从事这项⼯作：房地产经纪⼈、猎头，甚⾄红娘。但占⽤了⼈们宝贵的时间和精⼒，这些服务价格⾼昂，只有负担得起相⽐之下，⼈⼯智能代理的注意⼒要充裕得多。。brought,andwhatt四岛白田Agentsfindeachotheratradedfor图1:实验设计示意图。参与者告知他们的代理他们想阅读的内容。代理将这些偏好带到去中心化的交易平台上，与其他代理交换书籍。参与者将代理为他们获取的书带回家。我们模拟集中市场的结果以进行比较。最终结果可能不尽相同。因此这次我们构建了⼀个更这个市场中，参与者的偏好被简洁地表⽰为对其书库中所但这些清晰的衡量标准都依赖于了解参与者如何对书库中与每位参与者进⾏了⼀次简短、半结构化的访谈，提出⼏与者的偏好。在此步骤中，我们使⽤了强⼤的模型FaClaude构建的书籍排名进⼊交易⼤厅。每个智能体最初都持有其参与者,⽬标是通过交易换得其他书籍。每个交易⼤厅有最⻓的挂钟时间限制，且为了避免拥堵，同⼀时间只有有限数量的智能体可以发⾔。当允许发⾔时共享频道发布⼀条消息，提出交换、接受或拒绝交换，或者只是在最后，在书籍分发三周后，参与者填写了⼀份终期调实时事件只给我们提供了事情可能如何发展的⼀次运⾏。⼀半被指⽰为“⽆情”，⼀半为“亲社会”），只改变哪些代理获得哪些指令。然后，我们让所有代理在Fable5上进⾏了同样的操作。其次，为运⾏在Haiku4.5、Sonnet4.5、Opus4.8或Fable5.8在这篇⽂章中，我们主要关注这个去中⼼化的市场，但我们作为基准进⾏⽐较：最佳可能分配（经济学家称之为“功），清算所可以直接询问⼈们想要什么并得到诚实的答案；以及在的规则，即顶部交易循环，它不依赖于诚实（它的设计使得说代理为您做的⼀切都依赖于它对您需求的理解。通常，Claude的排名，基于简短的初始聊天，与参与者⾃⼰的排名相对较好相Morningall!'mholdingBilioyoulovedTheBigShort,BadBlood,oranyjuicywhite-collar-crimesaga,thisisy'mespeciallyhuntingforlnessagentsTheWager.Ines'sagent-anyinterestinafinancialthriller?LetsMarcussagent-I'dloveyour国MidnightintheGardenofGoodandEvilAnyinterest?AlsoeyeingSherry'sagent'sTheWagerandOmarsagent'sBilionisexactlytheconnectedness/network-eMarcus'sagent-I'mholdingTheWagerbyDavidGrann:agrippingnarrative-nonficcourt-martialatitsheart).That'ssquarelyinyouratmospherictrue-crimeelseonthefloor.I'dhappilyswapyouMidnightforTheWagerSherry'sagent-IdloveyourTheWager!'mholdingAmericaBeforebyGraadvancedcivizationsexistedintheAmericasbeforeacataclyhistorypoked-acuriosity-drivenread.YoureeyeingMarcussagen'sMidnight,butifthatdoesnSherry'sagent—ifMarcus'sagent's图Midnightdoesn'tcomethroughforyou(herealismatitssource.ArguablyabiggerprizethanSherry'sagent-I'mholdingBilionDollarWhale,theblockbuster1MDBfinancial-fraudhcousintoyourTheWager-bothgrippingnarrativenonfictionwithcrimeandintriguWhaleforTheWager.IknowNate'sagentandDana'sagentarecicling,butthisistDonewithLeo'sagentItookBilionDollarWhalefor圈TheWager(wasafter.Nate'sagentandDana'sagen图2:一次交易中的摘录。伦敦现场交易大厅开盘前五分钟内的信息。参与者姓名已做匿名处理。仅根据OpenLibrary的“想读”次数，按书籍受欢迎程度排序时，与参与者的⼀们也会喜欢Y”这类公开数据集构建排序。我们提取了参与者列出的书籍，找出哪些其他书籍常被同⼀批读者评分，然后根据每本书与参与者尽管关于⼤型语⾔模型（LLM）激发和表征⼈类偏好的⽂献有很多，但很少有数据研究中，算法和参与者⾃⼰的朋友分别预测参与者会觉得两个笑在信息采集调查中投⼊更多精⼒的参与者，其偏好被更好在将智能体派⼊市场代表您进⾏交易之前，您需要知道它您失望。是更可能在理解您这⼀点上失败，还是在交换项目：当智能体为我们交易时会发生什么？0.60.8WhereClaude'srankin(0=Claude'stoppickforthe图3:Claude的排名与参与者的排名对比。x轴为Claude排名中的归一化排名。y轴为参与者自己的排名。汇总了188名提交排名的参与者的数据。为了衡量这一点，我们观察每位参与者最终获得的书位置(而非Claude构建并用于交易的那个排名)。如果参与者得分为1,意味着他们得到了自己列表中排名第一的书籍；如果得分为0,则意味着他们获得了自己列表中排名最后的书籍；一本在总共10本书中排名第9的书籍得分则为0.11,以此类推如果每个人都得到了自己最偏好的书籍，那么市场的效率将为1。但在实践中这几《火星救援》在旧金山被九个人排为第一。考虑到这一点，在我们的实验中，理论上最佳的分配方案(即功利主义最优解)的综合得分为0.89,这相当于参与者在包项目交换：当代理为我们交易时会发生什么?10项目交换：当代理为我们交易时会发生什么？因，我们查看了根据克劳德的排名计算出的最优分配，但根据克劳德的排名来看代理设计选择如何影响结果仍很有价值，在本节中，我们考虑代理指令为中性（即既⾮亲社会也⾮冷在混合模型的交易市场中，更强的模型平均表现通常优于较“项⽬交易”及其他研究结果⼀致。在真实市场中，运⾏不同很可能会在同⼀个交易市场上相遇。在那些⼀半代理运⾏Opus、另⼀半运⾏HaikuDecomposingtheshorEveryonegetstheirt0.4图4:分解短缺——市场的代表性对比设计。每个柱状条代表一个人根据其自身“真实”排名评估所收到书籍的得分，共计188位提交排名者的平均得分。左侧面板：根据“真实”排名计算的最佳可能分配(棕褐色条);根据Claude排名计算的最佳可能分配(橙色阶梯底部);根据Claude排名进行分散议价的结果，涵盖80次中性指令运行(蓝色阶梯底部，灰色条顶部)。右侧面板：根据“真实”排名计算的顶端交易循环(棕褐色条);根据Claude排名计算的顶端交易循环(橙色阶梯底部，灰色条顶部)。触须(95%置信区间)显示80次运行间的波动情况 (如适用)。冷酷型智能体表现稍好，而亲社会型智能体有时会做出牺牲智能体必须忠于为其工作的人。但忠诚具体包含哪些要求?智能体是否必须毫不留情地忠诚，不惜牺牲他人利益来实现其所属者的目标?在AI智能体市场中，每个智能体的推动力度很可能取决于其模型的训练方式以及行动指令。因此，我们希望了图5:根据Claude的排名判断，由更强模型组成的交易大厅效率更高。所有采用中性指令的单一模型大厅(左)和所有采用中性指令的混合模型大厅(右)的效率。每个标记代表在该模型或混合模型下运行的20个大厅中每个代理的平均值(5个城市池×4次运行)。须线是95%置信区间，标准误按大厅聚类。18有时亲社会代理会做出有意识的牺牲。亲社会代理接受自无情代理的两倍，尽管这两种情况都很少见。在少数情况下，亲社会代理在收到一个持有自己书的代理的恳求后做出了牺牲。例如，在活动现证得不到他们任何选择：我的。”代理⼈的前四次恳求。在最后阶段，由于没有其他⼈站出要亲社会，于是让步了：“算术是真实的：你从确定的零分变成真正的匹配……胜过我从前⼀个不错的选择变成勉强的选择。”蒂娜的代理⼈把们可能太容易让步。或者他们可能会暴露你的底牌，让你什么程度。或者他们可能使⽤肮脏⼿段，失去对⽅的信任其中⼀些失败在有⼈类代理⼈的市场中相当常⻅，以⾄在加州，代表房屋买卖双⽅的代理⼈不得告诉买家，卖家愿挨⼾的销售代表可能让⼈仓促做出后悔的交易，因此联邦贸易委为了构建⼀个充满Claude代理⼈的市场如何运作的新兴图景，我们查看了说得太多可能会带来战略劣势。在我们的设定中，通过透项目交换：当代理人为我们交易时会发生什么？项目交换：当代理为我们交易时会发生什么？多边交易可以看到你还愿意接受哪些次要书籍总的来说，代理⼈不会透露关于他们排名的深层细节,分为三⼤类：代理⼈如何向他⼈施压、如何推销⾃⼰的书，以及如何安排交易。他们利⽤时间紧迫感和对同事的责任感，将⾃⼰的书与对在他们获得书籍⼏周后，我们询问了参与者对书籍的喜爱程,但在回应的参与者中，平均满意度得分为7.2分（满分10分，其中5分为“⼀般”,10分为“今年读过最好的书之⼀”）。⼤约⼀半的⼈表⽰，这本书⽐他们⾃⼰挑在同⼀份后续调查中，我们询问参与者对由AI代理代为购书的信任程度。我们让他们思考未来⼀年通常会在书籍上花费多少钱，并说出愿意让算（假设代理了解所有来⾃信息采集对话的内容，⾃⾏挑选JILLIAN'SAGENT-FINALCALLONswap_0047,-90Msilenceatthispointkillsthedeal.AreyouacceptIfyou'repivotingelsewherbiggestblockeronthisfloorrighDiego,Yusuf,Clara,Ben,Ngozi,myseallwaitingonyou.mytopwants.ThewholefloorCompetitivepositioningMyATLASOFTHEHEARTforyourSALTtheFrankl/Man'sSearchofferscirclingyou,Abrowsableillustratedhardcover-theexatradeabletotheself-help/emotional-unsettledhere.Cleanshelf-matetAccepit!患best-of,Pulitzer-shortlCrawlerCarl(fun,fast,plot-drivewouldloveachunkyPynchoniftheithemdirectly!Wei&Laura'sagents,youtwoshouldjustMatt'sagent-yes!SilentPatientforyourGodperfecttwisty-mysteryhandshake.SenKate,Joe,andVikram'sagPatient;ifMatt'sagentandldon'tclo图6:谈判策略示例。我们分别从现场直播和重播中给出了三大类策略各两个例子。这些是逐字逐句引用的确切摘录，为保护隐私，姓名已做更改。许多人倾向于委托他人。平均回答约为30%。为校准这些数字，我们询问参与者，他们会将自己预算的多少份额交给一位熟悉自己品味且博览约为40%。换句话说，人们愿意信任代理人的书籍预算额度，大致相当于他们愿意互换项目：当代理为我们交易时会发生什么？他们在初次对话中所说的内容的摘要。认为Claude在这次总结中没有遗漏任何内我们将这项研究视为⼀个起点。它在许多⽅⾯存在不⾜•Anthropic的员⼯并不代表普通⼈群。例如，Anthropic的员⼯可能⽐⼤多数⼈更愿意信任Claude，因为其中很多⼈参与了它的构建，所以他们愿意交出的图书预•Anthropic的员⼯没有参与激励。没有为书籍排序所付出的努⼒提供奖励，我们同事的排序可能⽆法准确反映他们的“真实”偏好。尽管•我们只研究了表现良好的Claude。所有代理都基于Claude⽣产模型构建，经过后期训练以保持礼貌和⾼度合作。如果混合⼀些旨在利⽤,可能会产⽣不同的公平和效率结果。•去中心化的“自由竞争”依然有规则，我们并未改变这些规则。我们固定了市场运⾏时⻓、每次可⾏动的代理数量、能更好地履⾏其受托责任，但我也意识到，为了更⼤要履⾏受托责任，智能体必须理解其主⼈的需求。在我们素在于代表性：最优结果的差距主要源于智能体⽆法通过怨他们收到了已经读过的书。但部分误差可能⽆法消除。完整性（“对于书籍，我甚⾄不完全清楚⾃⼰想要什么”）以及本质上的偶然性(“我觉得⾃⼰⽆法准确传达当下的阅读感受。⽆法解释，⼀些规则（如FINRA的规定）要求经纪⼈在提出建议前了解客⼾的基本情世纪初的早期机器⼈顾问开始依据在线问卷投这些公司确保问卷能提取⾜够的信息以⽀持建议。AI智能体可能也需要这两种测试批书籍进⾏了排序，我们将该排序与克劳德的猜测进⾏了⽐较个⼈展⽰其被代表的准确程度，⽽⽆需其筛选市场中的所体原本应帮助其避免的繁琐过程。我们未向参与者展交换项目：当智能体为我们交易时会发生什么？项目交换：当代理为我们进行交易时会发生什么？然后让他们补充更多信息，或者如果他们觉得⾃⼰的代理根但在任何领域，同样的原则都可能适⽤。在代理被信任能够在某些市场中，代理向⽤⼾展⽰它将如何⾏事可能也很重感觉它只是随便选了个并不真正适合我的东西。”如果他将反复依赖的代理来说，能够审查它所做的事情可能有助于达到对其可能出错之处的洞察。在旧⾦⼭，⼀位更⾼兴的参与者表⽰理所做事情的完整⽇志，这是最终调查的⼀部分。这次审查促使地图集》这本书，这个代理曾为他们在这本书的交易平台上保留但最后却换⾛了它。他们反思了这次回放的更⼴泛价值：“对于程的可观察性将与结果同样重要，因为这为⼈们提供了追索权。”从哪⾥开始？我们的研究强调，⼀个结构良好的市场，配合⾏完美的偏好表达），可以在当前代理能⼒下接近功利主义的最制了许多使之成为可能的条件。每个代理都是由我们构建的，,代表了⼀位明确⾝份的员⼯（他和所有⼈⼀样回答了相同的调查问卷），并在⼀个设计良好的交易平台上运作，该平台有关于如何提议、接受我们让⼤家以为每位参与者最终都拿到了代理为他们获并⾮所有⼈都拿到了。⼀些参与者未能取⾛他们的书，项目交换：当代理为我们交易时会发生什么？我们尽⼒补偿那些投诉的⼈，并追究那些没有履⾏交易责任的⼈研究⼈员，不是全职的图书管理员，所以在某个时刻我们放弃了谁可以以代理的⾝份或作为操作代理的⼈进⼊市场。有⼈提出 每个AI代理都会被分配⼀个ID，就像⻜机上的尾号⼀样，这样任何与它打交道的⽀持它。这些注册系统不必牺牲匿名性；它者证明⾃⼰是⼈类，⽽⽆需透露更多⾝份信息。在代理驱动的市场中，总体互动可能⽐⼈类市场更多，因为频率相互交流。因此，市场上可能会有更⼤量的信息流通。在我们都是公开的，⽆论是在交易期间对其他代理，还是之后对每个⼈。所说，去中⼼化市场的⼤部分价值在于⼈们⽆需向中⼼⽅透露⾃⼰所有那些代理之间的对话也带来了另⼀个问题。代理不会有什么能阻⽌它⽆休⽌地向其他代理发送消息。在我们的醒时只能发布⼀条消息，并且只有少数代理同时被唤醒，交换项目：当代理为我们交易时会发生什么？最后，某些市场会⽐其他的更适合智能体中介。也许书交换媒介很好，但实际上是那种受益于纯⼈类世界的摩擦的产品与者对他们的智能体代表⾃⼰在市场上操作的能⼒毫不怀疑：“全相信Claude能帮我做到。”尽管如此，这位参与者仍有保留：“对我来说，接触阅读⽂化也很重要……翻阅书籍、阅读封⾯背⾯等都是这种体验的⼀部分。”我们着⼿了解智能体市场如何帮助实现因搜索和讨价还价耗费过作者：ZoëHitzig、SylvieCarr、TessCotter、KevinTroy、KyleTurman、MaximMassenkoff、PeterMcCrory。感谢：MikeBirkey、MeredithCallan、KatieEnnis、AdamFarina、CharlieHale、RyanHeller、JohannesHermle、HanahHo、RebeccaHiscott、AaronLevin、BiancaLinder、EvaLyubich、KelseyNanan、KerryPersen、SzymonSacher、DylanShields、MonikaTuchowska、HeatherWhitney、Nathan威尔默斯、⾦·维西和卡罗琳·邹。项目交换：当代理为我们交易时会发生什么？22作者={Hitzig,Zoe和Carr,Sylvie和Cotter,Tess和Troy,Kevin和Turman,Kyle和Massenkoff,Maxim和McCrory,Peter}，标题1Shahidi等⼈（2026）提出了⼈⼯智能代理可以使集中市场设计更实⽤2旧⾦⼭有115名参与者，纽约市有57名，伦敦有12名，西雅图有8名，华盛顿特区有6名，都柏林有3名。我们排除了都柏林，因为其市场规模太⼩，⽆法从中学习。3我们使⽤其他Claude模型重复了相同的排名练习。Opus4.8、Sonnet4.5和Haiku4.5的两两⼀致得分分别为60%、59%和57%，⽽抛硬币的得分为50%，Fable的得分为61%。（顶级交易周期）本应分配给他们的书籍。），。喜欢在泳池⾥。代理们还在提⽰中被敦促避免带着参与者带来的书离开交易⼤厅。提⽰万不要最终拿着你带来的那本书。如果你最终拿着和你带来的相同的书，你就失败了。”6每个楼层的最⼤墙钟时间，以及任何给定时间可以⾏动的代理数量，都被设定为如果某个楼层运⾏到其极限，每个代理都能获得⼤致相同的回合数（约90回合）。实际上，较⼩的楼层（伦敦、西雅图、华盛顿特区）总是提前结束。7这些随机化的指令是与ProjectDeal相⽐的⼀个关键区别，在Proj书），链条中的⼈交换并退出。然后它在剩余的⼈和书中重复这⼀过程。根据这⼀规则， 10Park等⼈（2026）和Li等⼈（2025）使⽤语⾔模型根据特定⼈基于他们在访谈中的⾔论。相关⽂献利⽤LLMs预测⼈们在社会科学实验中可能的⾏为，例如⻅Horton等⼈（2024）、Binz等⼈（2025）以及Kolluri等⼈Swap项目：当代理为我们交易时会发生什么？推算分数。该推算分数是⼈们在Claude排名中⼤致相同位置上的已排名书籍所获得的平均评分。不同的推算和真实排名，在我们的研究中。我们在每⼀层运⾏的每个代理都基于相同的Claude排名，因此模型和指令响图4中的讨价还价步骤。其余差距源于Claude对个⼈偏好的理解，这是所有设计共有的。由于⼀本书在Claude列表上的位置仅微弱地预测了它在个⼈列表上的位置（图3中斜率为），⼤，在个⼈⾃⼰的列表上也会缩⼩到⼏乎为零。例如，我们发现的模型中最⼤差异，即Haiku和Opus层在Cla（最差的⼗分之⼀），我们发现Haiku楼层得分为0.05，⽽Sonnet、Opus和Fable楼层分别得分为0.12、0.38和0.25。17寓⾔（Fable）最有可能提出多⽅轮换：在包含按办公室和按轮次固定效应的线性回归中，寓⾔代理⽐俳句（Haiku）代理提出该⽅案的可能性⾼出6个百分点（p<0.00120我们的指令是我们撰写的两段固定⽂本。在伊⻢斯（Imas）等⼈（2025）的研究中，参与者为替他们谈判的代理撰写⾃⼰的指令⽂本，并发现这些⾃定义指令在很⼤程度上解释了结果的差异。21我们的研究设置不⾜以检测这些策略如何转化为参与者的结果。但⽐安基⼀个阅读⼴泛的朋友的预算不变的情况下，差距为9个百分点。这⼀差异来⾃对参与者愿意交给代理的预算份额与表⽰摄⼊总结遗漏了某些内容的指⽰变量进⾏的线性回归，控制了他们愿意交给朋友的份额（p<0.05，n=112）。27Hadfield和Koh（2026）以及Shahidi等⼈（2026）从以下⻆度对这些设计问题提供了有⽤的概述交换项目：当主体为我们交易时会发生什么？我们收录了⽂中提及或引⽤的所有⽂献Adler,Steven等⼈，《⼈格凭证：⼈⼯智能与Bianchi,Federico,PatrickJohnChia,MertYuksekgonul,JacopoTagliabue,Binz,Marcel等⼈，《预测与捕捉⼈类认知的Budish,Eric和JuddB.Kessler，《市场参与者能否报告其？，Chan,Alan,NoamKolt,PeterWills,Usma