（计算机应用技术专业论文）多agent系统中的信任模型研究.pdf

多a g e n t 系统中的信任模型研究 多a g e n t 系统中的信任模型研究 学科专业：计算机应用技术 指导教师：张自力教授 摘要 研究方向：入工智能 研究生：王平( 2 0 0 2 4 9 1 ) 随着i n t e r n e t 技术的发展，电子商务( e - c o m m e r c e ) 的蓬勃兴起为传统商务 的发展带来了新的机遇与挑战。a g e n t 系统由于其自身的特点：在动态的、不可 预测的、开放的环境中具有自主行为，在电子商务中扮演了重要角色。然而，在 a g e n t 技术广泛应用于电子商务的同时，也带来大量有待进一步解决的问题。信 任便是其中之一。在基于a g e n t 的电子商务系统中，为了某一任务的完成，a g e n t 问一般通过协议的方式进行交互。然而，在实际交互中，由于能力的缺乏或环境 的变化，a g e n t 并不能保证完全履行其承诺，a g e n t 不得不在不确定的环境下进 行决策。因此，如何收集必要的信息确定信任关系，动态的管理、维护信任关系， 监控和重估已有的信任关系就成为基予a g e n t 的电子商务系统中促进a g e n t 间合 作，减低合作中的风险和开销的关键问题。 信任在电子商务中具有举足轻重的作用，在基于a g e n t 的电子商务中也同样 如此。在这一领域，虽然人们提出了大量信任模型，但仍未能有效地解决多a g e n t 系统中的信任问题。本文首先介绍了多a g e n t 系统中信任及信任管理的基本概 念、研究现状和存在的问题，对目前典型的信任管理模型：信任的学习模型，信 任的信誉模型，以及信任的认知模型进行了分析和研究。然后，针对“如何收集 必要的信任信息来确定和维护信任关系”这一问题在r a m c h u r n 的信心一信誉 ( c o n f i d e n c e r e p u t a t i o n ) 模型基础之上，提出了一个用于多a g e n t 系统的具有 欺诈检测机制的信5 , - 信誉模型。并且详细介绍7 模型的设计思想，总体框架及 应用实例。最后，将本模型和r a m c h u r n 的信任模型，在合作的稳定性和信任的 精确性方面进行了分析和比较。 用于多a g e n t 系统的具有欺诈检测机制的信心信誉模型不同予现有的信任 模型，它的主要区别在于： 多a f e n t 系统中的信任模塑研究 ( 1 )信息收集过程中，同时考虑了a g e n t 的直接和间接交互历史，并且 在使用推荐信息估价a g e n t 的信誉时，考虑了推荐信息本身的可靠 性； ( 2 ) 为了防止恶意a g e n t 的欺诈，在信心一信誉模型中引入了以加权多 数算法( w e i g h e dm a j o r i qa l g o r i t h m ( 1 j l ，m a ) ) 为基础的欺诈检测机 制，使得a g e n t 间的合作更稳定； ( 3 )在确定信任关系过程中，引入了信任的本体性概念：即信任并不是 单一撼象的撅念，面是一个组合概念，信任是由众多因素组合考虑 的结果。本体性概念的引入，充分考虑了多a g e n t 系统中信任的特 点，保证了信任的准确性。 模拟实验数据表明：本模型在a g e n t 的长期交互中信任更精确，合作更稳定 关键词多a g e n t 系统，电子商务。信心，信誉，信任管理 2 多a g e n t 系统中的信任模型研究 a b s t r a c t e - c o l n m e r c er e p r e s e n t st h ef u t u r eo fc o m i n o l c e rh a sc r e a t e dn e wc h a n n e l sa n d o p p o r t u n i t i e sf u rb u s i n e s s a g e n ta sas p e c i a lc o m p u t e rs y s t e mc a p a b l eo ff l e x i b l e a u t o n o m o u sa c t i o ni na d y n a m i c ，u n p r e d i c t a b l ea n do p e ne n v i r o n m e n th a sp l a y e da l l i m p o r t a n tr o l ei ne c 们珈n e r h o w e v e r , a g e n t - m e d i a t e de - e o m m e r c ea l s og e n e r a t e sa s e r i e so fi s s n e st h a tr e m a i nu n s o l v e d o n eo ft h e mi si r u s t a g e n t si n t e r a c tw i t ho n e a n o t h e rt y p i c a l l yb ym a k i n gc o m m i t m e n t st oo 鹏a n o t h e rt oc a r r yo u tp a r t i c u l a rt a s k s ( t r a n s a c t i o n s ) i na g e n t - m e d i a t e de - c o m m e n c cs y s t e m s h o w e v e r , i nm o s tr e a l i s t i c e n v i r o n m e n t s t h e r ei sn og u a r a n t e et h a tac o n t r e c t e da g e n tw i l la c t u a l l ye 阻c ti t s c o m m i t m e n t s t h i s 啪h a p p e nb e c a u s ea r ta g e n tm a yd e f e c tt og a i nh i g h e ru t i l i t yo r b 勰t h e r ei su n c e r t a i n t ya b o u tw h e t h e rt h et a s k 锄a c t u a l l yb ea c h i e v e d a g e n t s a r et h e r e f o r eu n a v o i d a b l yf a c e dw i t hs i g n i f i c a n td e g r e e so fu n c e r t a i n t yi nm a k i n g d e c i s i o n s i ns u c hs i t u a t i o n s , a g e n t sh a v et ot r u s te a c ho t h e ri no r d e rt om i n i m i z et h e u n c e r t a i n t ya s s o c i a t e dw i t hi n t e r a c t i o n si no p e nm u l t i - a g e n ts y s t e m s 。 t r u s tp l a y sa ni m p o r t a n tr o l ei nt h e 嗣x 麟o fe - c o m l n e l c e d i f f e r e n ta p p r o a c h e s f o rt r u s tm a n a g e m e n th a v eb e e np m p u s e da n ds t u d i e di nd i f f e r e n td o m a i n s , b u tn o o r t eh a sb e e np r o v e de f f i c l e n ta n de f f e c t i v ef o ra g e n t - m e d i a t e de - c o m m e l 譬e i nt h i s p a p e rw ep r o p o s eac o m p u t a t i o n a lt r u s tm o d e lw i t ht r u s tn e t w o r ks ot h a ta g e n t sc a r t a u t o n o m o u s l yd e a lw i t hd e c e p t i o na n di d e n t i f yt r u s t w o r t h yp a r t i e si nm u l t i - a g e n t s y s t e m s f i r s t l y , t h i sp a p e ri n t r o d u c e st h eb a s i cc o n c e p to f u u s t , t h es t a t u sa n dt r e n d mt r u s tm a n a g e m e n t ；a n a l y z et h ea r t - t y p i c a lt r u s tm o d e l si nm u l t i - a g e n ts y s t e m s t h e n i tp u t sf o r w a r dt h ec o m p u t a t i o n a lt r u s tm o d e lw i t ht r u s tn e t w o r kb a s e do nr a m c h u m s u u s tm o d e lw i t hc o n f i d e n c ea n dr e p u t a t i o n , a n ds p e c i f i e st h ed e s i g ni d e o l o g y a tl a s t , i tc o m p a r e st h em o d e la n dd r a w sac o n c l u s i o n n 埭c o m p u t a t i o n a lt r u s tm o d e lw i t ht r u s tn e t w o r ka d v a n c e st h es t a t eo f t h ea r ti nt h e f o l l o w i n gw a y s f i r s t , w h e ne v a l u a t i n gt h et r u s t w o r t h i n e s so ft h et a r g e ta g e n t , o u r a p p r o a c hn o to n l yc o n s i d e r st h ec o n f i d e n c ei n f o r m a t i o n ( b a s e do nd i r e c tp r i o r i n t e r a c t i o n sw i t ht h et a r g e ta g e n t ) a n dt h er e p u t a t i o ni n f o r m a t i o nf m mt r u s tn e t w o r k , b u ta l s oc o m i d e r st h er e l i a b i l i t yo ft h ew i t n e s s e s s e c o n d ，w eu s et h ew e i g h t e d m a j o r i t ya l g o r i t h m ，m a ) t od e a lw i t hd e c e p t i o ni nm u l t i a g e n ts y s t e m s f i n a l l y ， o u rm o d e lc o n s i d e r st h eo n t o l o g i c a lp r o p e r t yo ft r u s t , w h i c hc o m b i n e st r u s to n d i f f e r e n ta s p e c t st oc a l c u l a t eam o l ec o m p l e xo n e i nt h ee n d ，ac a s es t u d yo f t r a v e la g e n c yi sp r o v i d e dt os h o wt h ee f f e c t i v e n e s so f t h e p r o p o s e dm o d e l k e y w o r d s m u l t i a g e n ts y s t e m s ，e - c o m m e r c e ，c o n f i d e n c e , r e p u t a t i o n , t r u s t m a n a g e m e n t 多a g e n t 系统中的信任模型研究 第一章引言 随着计算机和i n t e r n e t 技术的飞速发展，电子商务现已广泛地应用于人们 的日常生活。代表传统商务未来的电子商务，为传统商务的发展带来了新的机遇 与挑战。智能a g e n t 是处在某个环境中的计算机系统。该系统有能力在这个环境 中自主行动以实现其设计目标 1 。它具有反应性，预动性和社会行为能力：为了 满足设计目标，a g e n t 可以计算出需要做什么，而不需要在某个时刻明确的告诉 它做什么。多a g e n t 系统( m a s ) 即由多个a g e n t 构成的系统，可泛指所有由多 个自治或半自治模块组成的系统。a g e n t 系统由于其自身的特点：在动态的、不 可预测的、开放的环境中具有自主行为，在电子商务中扮演了重要角色 2 。然 而，在a g e n t 技术广泛地应用于电子商务的同时，也带来大量有待进一步解决的 问题，信任便是其中之一 3 。 1 1 信任及信任管理的基本概念 信任是一复杂的概念，它涉及到对事物的诚实、真理、能力、依赖性等诸多 方面的信念 4 。虽然很多科学家认识到信任的重要性，给出了各自对信任的理 解。但这些都是根据信任的某一方面给出的定义，而没有一个完整准确的定义。 k i n i 和c h o o b i n c h 集中从人类对电子商务的信任出发，参考人类学家、社会学 家、经济学家以及社会心理学家对信任的描述，认为系统中的信任是一种信念 5 ，该信念受个体对某关键性系统特征的影响。欧洲代理联合研究中心( t h e e u r o p e a nc o m m i s s i o nj o i n tr e s e a r c hc e n t e r ) 从商务管理特征方面出发，认 为信任是商务关系特征，比如对商务合作者的依耐性关系等 6 。牛津词典中对 信任的定义则为“信任是对某一实体能力的可靠性或真实性的强信念”。本文中 信任被定义为信任者和被信任者之间的关系，信任使得被信任的a g e n t 能够使用 或操作信任a g e n t 所拥有的资源或者影响信任a g e n t 是否使用被信任a g e n t 提供 的服务。 信任和安全有很多相似性，但信任不能被仅仅理解为安全。后者能防止a g e n t 受未知a g e n t 的侵扰，识别合作a g e n t 以及验证信息的来源。而信任是一个比安 全更复杂的概念，它要求a g e n t 在并非1 0 0 安全的情况下采取适当的行为，也 4 多a g e n t 系统中的信任模型研究 就是说a g e n t 必须在冒险的情况下依赖他人做出决策 7 。 信任管理一词最早是由b l a z e 提出的，在文章 8 中，b l a z e 等针对多a g e n t 系统中如何管理公钥授权问题，给出了信任管理最早的定义：信任管理是规范和 解释安全规则、信任状、关系的一种统一方法，允许对关键性安全问题进行直接 授权。这是上世纪9 0 年代中期以来占主导地位的观点，然而，从定义本身和后 来的研究实现表明，该定义主要针对如何管理公钥授权问题，而忽略了( 1 ) 信 任关系的分析；( 2 ) 决策过程中，冒险、经验等辅助因素的作用；( 3 ) 信任的动 态性：信任会随着时间而发生变化 9 。 本文中信任管理定义为；收集，编码，分析和表示证据的活动，而这些证据 与网络应用中进行信任关系评估决策的能力、诚信、安全和依赖性相关。这些证 据可以是证书识别号，质量信任状，冒险假设，或是使用的经验以及推荐信息等。 综上所述，多a g e n t 系统中的信任管理就是收集需要的信息进行信任关系决策， 估价与信任关系相关的因素，以及监控和重估已有的信任关系。 1 2 多a g e n t 系统中信任的重要性 k e e n 指出：信任是电子商务中生死存亡的关键 1 0 ，信任在基于a g e n t 的 电子商务系统中同样具有举足轻重的作用 1 1 。 基于i n t e r n e t 的电子商务服务现已广泛地应用于人们的生活：人们在享受 这些服务带来的便捷的同时，有一个重要的问题值得关注，那就是这些服务的信 任度问题，而现在还没有可接受的技术或工具来规范和管理这些服务的信任。 从集中式系统到多a g e n t 系统应用的迁移，意味着交易已经跨越了不同的领 域和组织，而对这些领域和组织的信任并不一定是相同的，信任关系的不一致使 得对信任管理系统的需要变得更加迫切 1 2 。 此外，在电子商务交易过程中，正确估价交易双方的信任值是交易成功的关 键。购买者在某一时间购买某一产品，交易中需要考虑的因素有价格、质量以及 交付的日期等。买方选择卖方，如果卖方愿意同买方合作，就向买方发出提议， 而后买方考虑是否接受卖方的提议，如果买方接受卖方的提议，就执行交易。值 得注意的是，实际的交易结果并不一定和买卖双方达成的协议相同：一个带有诈 骗意图的卖者有可能提高价格，降低质量或者推迟交付日期；另一方面，购买者 多a g e n t 系统中的信任模型研究 可能不交付足够的货款甚至不交付货款。因此，在交易过程中买方和卖方必须在 交易之前估价出对方的信任度，以决定其正确的策略。 一般情况下，多a g e n t 系统中的a g e n t 往往代表具有不同目标和动机的用户 进行工作，为了成功的交互，这些a g e n t 需要与其他a g e n t 相互合作、协调和协 商以实现其目标，这就如同我们在日常生活中一样。在基于a g e n t 的电子商务系 统中，为了某一任务的完成，a g e n t 间通常通过协议的方式进行交互。然而在实 际交互中，由于能力的缺乏或环境的变化，为了使自身效用最大化a g e n t 并不能 保证完全履行其承诺 1 3 】。 此外，多a g e n t 系统具有开放性，一个开放系统的结构会动态的变化，这类 系统的特征是其组成部分的预先不可知性，随着时间的变化，可能包含由不同人、 在不同时间、用不同软件工具和技术实现的不同种类的实体。例如，i n t e r n e t 就是一个高度开放的信息环境的典型例子，可以把i n t e r n e t 看成一个庞大、分 布的信息资源，网络上的节点是由不同组织和个人设计实现的。在开放的环境中， 信息资源、通信链路和实体都可能无法预测的出现和消失。 然而，系统和a g e n t 有限的计算和存储能力限制了a g e n t 的交互能力；而且 有限的通讯带宽和速度也限制了a g e n t 在实际应用环境中对外界的感知能力。使 得在实际应用中获得完全的环境信息、交互方的特性、兴趣等详细信息是不现实 的。因此，在电子商务这种不确定的环境中进行决策时，如何收集必要的信息确 定信任关系，动态的管理、维护信任关系，以及监控和重估已有的信任关系，促 进多a g e n t 系统中的a g e n t 合作，减低合作中的风险和开销，就成为多a g e n t 系 统中信任管理的关键问题。 1 3 多a g e n t 系统中信任管理的研究现状 针对多a g e n t 系统中的信任管理，研究者们作了大量的研究，总的来说多 a g e n t 系统中的信任管理的研究主要集中在基于个体层的信任模型的研究和基于 系统层的信任协议的研究 1 4 。信任模型主要研究a g e n t 信息的收集和推理能 力，而基于系统层的信任研究则主要集中在多a g e n t 系统中交互协议和策略的研 究，两者之间相互补充。 针对多a g e n t 系统中a g e n t 的信息收集和推理能力，人们提出了大量信任模 6 多a g e n t 系统中的信任模型研究 型：a m d r e a sb i r k 采用遗传算法中的学习策略来进化a g e n t 间的合作与信任 1 5 ， b i r k 以博弈理论为工具从a g e n t 的直接交互结果出发，研究了诸如a g e n t 合作 和信任的产生等a g e n t 间复杂关系的进化问题。a g e n t 由于其具有社会交互的能 力，a g e n t 不仅能从与客观世界的交互中获取信息，同时具有其他的信息来源 1 6 ：g i o r g o sz a c h a r i a 和p a t t i em a e s 1 7 将社会网分析融入信誉模型； r a m c h u r n 1 8 在综合直接和间接交互历史的基础上，使用模糊集的方法来估价目 标a g e n t 的信任值。虽然m a e s 和r a m h u r n 的信任模型引入了a g e n t 社会对目标 a g e n t 的信誉来进行信任决策，但都没有考虑这些信誉本身是否可靠，即没有考 虑见证者( 即a g e n t 社会中与目标a g e n t 有直接交互的a g e n t ) 的信任度。 c a s t e l f r a n e h i 和f a l c o n e 1 9 从交互方的主观愿望出发，通过分析主体的信念 一愿望一意图来推断潜在交互方是否值得信任。c a s t e l f r a n c h i 等人提出的信任的 认知模型在信任的建模过程中主要强调了a g e n t 的主观性，而缺乏在信任的学习 和信誉模型中针对a g e n t 的理性分析。 1 4 存在的问题 虽然研究者们对信任管理中的关键问题提出了一系列解决方案，但依然有些 问题有待进一步解决。现有的多a g e n t 系统的信任管理模型或机制中，普遍存在 的现象是在交互之初就定义了一种静态形式的信任：b i r k 采取随机选择标签的 方法来建立信任e1 5 ，而选择的标签在a g e n t 交互之初便已经定义。然而信任具 有动态性，可随时间的变化而变化；a g e n t 的交互环境完全开放，信任是在系统 错综复杂的交互环境中形成的，不能完全事先定义。并且b i r k 仅从a g e n t 间的 直接交互结果中分析得到信任值并不可靠：基于a g e n t 的电子商务系统中，a g e n t 间的交互历史有限，从有限的交互中并不能判断其信任度。此外，在信任的决策 过程中，即使在信任者和被信任者之间已存在一定的关系， 然而，被信任者有 可能不完全履行先前达成的协议。因此，在信任的决策过程中有进行协商的必要， 现有的模型并没有考虑信任决策中的协商问题。由于在电子商务交易中，参与交 互的每一方都想获得更多的利益，z a c h a r i a 1 7 和r a m c h u r n 1 8 等虽然将a g e n t 的社会性引入信任模型，但并没有考虑这些推荐信息是否可靠，是否存在恶意 a g e n t 的欺诈。 7 多a g e t t t 系统中的信任模型研究 综上所述，多a g e n t 系统的信任管理中尚待解决的关键问题有： 1 ) 如何收集必要的信任信息来确定和维护信任关系： 2 ) 如何在信任决策过程中进行协商； 3 ) 如何监控a g e n t 的行为。防止恶意a g e n t 的欺诈； 1 5 论文研究的内容和意义 从上面的分析可看出，针对基于a g e n t 的电子商务中多a g e n t 系统的信任管 理问题，虽然人们提出了大量的解决方案，但依然有一系列问题有待进一步解决， 特别是信任信息的收集和维护问题为此，针对“如何收集必要的信任信息来确 定和维护信任关系”这一问题，在p m m c h u r n 的信心一信誉 ( c o n f i d e n c e r e p u t a t i o n ) 模型基础之上，提出一个用于多a g e n t 系统的具有欺 诈检测机割的信心一信誉模型。 用于多a g e n t 系统的具有欺诈检测机制信, b - 信誉模型不同于现有的信任模 型，与现有模型相比。本模型在以下几方面做了改进： 1 ) 在估价a g e n t 的信任值过程中，现有的模型要么是只考虑a g e n t 的直接 交互历史或只考虑其他a g e n t 的推荐信息，要么是简单的将两者进行组 合。仅考虑a g e n t 的直接交互历史或仅考虑其他a g e n t 的推荐信息只是 在一些极端的情况下适用。简单的将直接和间接交互信息进行组合，所 得的信任也并不一定可靠。 t m c h u r n 的信任模型在考虑a g e n t 的直接交 互的同时考虑了a g e n t 的间接受互历史，但模型只是简单的将两者进行 组合并没有详细酶讨论如何获得a g e n t 社会的信誉以及a g e n t 社会给 出的评价本身是否可靠为此，本模型在收集信息的过程中，在考虑 a g e n t 的直接交互的同时。详细讨论了信誉信息的获得，并且在收集推 荐信息的过程中考虑了见证者推荐信息的可靠性。 2 ) 为了防止恶意a g e n t 的欺诈，引入了以加权多数算法( w c i g l dm 哂。哪 a l g o r i t h mo v m a ) ) 为基础的欺诈检测机制 2 0 。在一定程度上防止了怒意 a g e n t 为了自身利益最大化丽进行的欺诈，使得a g e n t 问的合作更稳定。 3 ) 在确定信任关系过程中，我们引入了信任的本体性概念：叩信任并不是 单一抽象的概念，而是一个组合概念，信任是由众多因素组合考虑的绪 果。本体性概念的引入，充分考虑了多a g e n t 系统中信任的特点，保证 了信任的准确性和精确性。 模拟实验数据表明：多a g e n t 系统的具有欺诈检测机制的信心一信誉模型在 a g e n t 的长期交互中合作更稳定，信任更可靠 1 6 论文的结构安排 在对a g e n t 、信任及信任管理的基本概念及其重要性有基本了解后，在第二 章介绍信任管理中现有的典型信任模型机制；第三章详细介绍r a m c h u r n 的信心 一信誉模型；针对“如何收集必要的信任信息来确定和维护信任关系”这一问题， 在r a m c h u r n 的信心一信誉模型基础之上提出了一个用于多a g e n t 系统的具有欺诈 检测机制的信心一信誉模型，第四章对此模型进行详细阐述；第五章是实验设计 和结果分析；论文的最后是小结和展望。 9 第二章多a g e n t 系统中典型的信任模型，机制 针对多a g e n t 系统中的信任管理。研究者们作了大量的研究，总的来说针对 多a g e n t 系统中的信任管理的研究主要有两大研究方法：首先是多a g e n t 系统中 信任模型的研究：多a g e n t 系统中的a g e n t 往往代表具有不同目标和动机的用户 进行工作，为了成功的交互，这些a g e n t 需要与其他a g e n t 相互合作、协调和协 商以实现其目标这就要求多 辨n t 系统中的a g e n t 在交互中能对交互方豹信任、 诚实度进行推理，而a g e n t 的推理能力可以通过信任模型获得。在信任模型中， 为了能够指导a g e n t 的决策，需要a g e n t 在初始化时能够收集有关交互a g e n t 的 特征信息。a g e n t 社会中主要通过以下两种方法来收集a g e n t 的特征信息：一是 利用与目标a g e n t 的直接交互信息l 二是利用其他a g e n t 对目标a g e n t 的推荐信 息。对于直接交互信息，需要考虑a g e n t 问的学习进化l 而对于间接信息，则需 要研究a g e n t 如何收集和分析推荐信息 1 4 信任模型主要研究a g e n t 信息的收集和推理的能力，而另一研究方法则主要 集中在多a g e n t 系统中交互协议和策略的研究。在多a g e n t 系统的信任管理中， 信任模型和信任协议相互补充：虽然协议能够保证a g e n t 在系统层的信任，但有 时a g e n t 不得不以丧失效率为代价，而在这种情况下信任模型则在指导a g e n t 进 行决策时具有举足轻重的作用；相反，基于个体层的信任模型无法有效地处理环 境的不确定性，而系统层的信任协议则可以通过机制设计来限制一些交互从而减 少环境的不确定性。 综上所述，多a g e n t 系统中信任管理的研究主要分为： 个体层的信任( h i d i v i d l l a l 1 e v e l t h a t ) , 即多a g e n t 系统中信任模型的研究； 系统层的信任( s y s t e m d e v e i 劬鳓；即多a g e n t 系统中系统协议机制的研 究。 2 1 多a g e n t 系统中的信任模型 在开放的多a g e n t 系统中，a g e n t 为了实现其目标需要从大量潜在的a g e n t 中选择最可靠的a g e n t 进行交互。从上可知在对a g e n t 的信任度进行推理的过 程中有很多方法：a g e n t 可与其他a g e n t 进行直接交互从大量直接的交互结果 l o 多a 2 e n t 系统中的信任模型研究 中学习a g e n t 的行为 1 5 。显然在大量直接交互后，a g e n t 通过分析交互后的结 果，能够从潜在的a g e n t 中选择最可信赖的a g e n t 进行交互。此外，a g e n t 具有 社会交互的能力，可以向其他a g e n t 询问有关潜在交互a g e n t 的信息 1 7 2 1 2 2 。如果能够获得有效的信息并且这些信息是可靠的，那么a g e n t 就 能够选择可信赖的交互方。最后，a g e n t 也可以通过分析a g e n t 的信念从中推断 出潜在交互方是否值得信任 1 9 。 综上所述，基于个体层的信任模型可以分为：信任的学习进化模型，信誉模 型以及信任的认知模型。 2 1 1 信任韵学习进化模型 为了更好的理解多a g e n t 系统中信任的学习进化，首先来了解囚徒两难问题 2 3 。人们经常使用囚徒两难问题来研究a g e n t 社会的合作性问题。标准的囚徒 两难问题是两个人被共同起诉一项罪名，被关押在隔离的牢房里，他们彼此之闯 不能相互通信，也没办法达成一致。这两人被告知： 1 ) 如果其中一人承认有罪而另一人没有承认，承认者将被释放，另一个人 将被关押3 年； 2 ) 如果两人都承认有罪。则每人被关押2 年：两个囚犯都否认有罪，则每 人被关押1 年。 当该场景反复进行时，我们称之为迭代囚徒两难问题( i t e r a t i v ep r i s o n e r d i l e m m a ( i p d ) ) ，这时相互欺骗不再是唯一的解决方法，但会碰到理性选择的问 题。这种思想现已应用于多a g e n t 系统中信任管理的研究 2 4 。一方面，交互双 方彼此信任可以促进合作从而避免相互欺诈所造成的损失；同时，只有参与者彼 此反复交互才能建立彼此的信任。此外，社会奖惩的影响远大于个人奖惩，信任 机制有利于理性合作的维护。 a m d r e a sb i r k 在文献 1 5 中采用遗传算法的学习策略来进化a g e n t 间的合 作与信任。学习模型中，信任的建立以a g e n t 的信任度为基础，其中，a g e n t 的 信任度是其他a g e n t 是否愿意与该a g e n t 进行交互的客观标准，诸如外部特征等 主观因素在该算法信任的建立中具有重要的作用b i r k 以博弈理论为工具研究 了a g e n t 合作和信任的产生等a g e n t 问复杂关系的进化问题。虽然基于随机选择 标签的方式来建立信任的确在某些情况下进化了a g e n t 间的合作与信任，但这 多a g e n t 系统中的信任模型研究 样的合作与信任并不稳定，而且a g e n t 间的合作受a g e n t 社会参与交互的a g e n t 的数量等条件的限制。 2 1 2 信任的信誉模型 a g e n t 由于具有社会交互的能力，不仅能从与客观世界的直接交互中获取信 息，而且具有其他的信息来源。在人类社会中，信任值的获取是通过广泛的计算 而得到的：人们收集信任状态，然后反复使用组合信任因素以得到信任值，最终 将聚集合计得到的信任值和状态共享。这就是信誉的特征，基于社会关系网的研 究表明：人与人之间的联系是信息收集与分发的重要途径 2 5 ，信誉在进行有效 的信任决策时具有重要作用。因此。信誉机制现已被广泛的应用于多a g e n t 系统 中信任的获取。 y u 和s i n g h 使用推荐链的方法建立社会网 2 6 2 7 ，然后通过社会网计算 出潜在交互方的信任值。y u 在模型中使用d e m p s t e r - s h a f e 证据理论来建模收集 到的信息。d e m p s t e r - s h a f e r 证据理论被认为是多元不确定性信息的有效组合方 法，其原理是对各自独立的理论通过组合得出一致性结果。在论文的第四章，我 们将使用d e m p s t e r s h a f e 证据理论来计算信誉，为此，我们先简单的介绍 d e m p s t e r s h a f e r 证据理论 2 8 ： 定义1 ，令0 为识别框架，函数m 满足2 4 寸【o ，l 】。且满足 r e “( d ) = ) o ：1 ( 1 ) 1 。( 4 ) = 1 w 假设0 = t ，一丁) ，其中t 表示a g e n t 认为另一a g e n t 是值得信任的，根据 d e m p s t e r s h a f e r 证据理论则有： m ( 丁 ) + 拼( _ 1 丁 ) + m ( r ，1 r ) = 1 ( 2 ) 虽然在文献 2 6 2 7 中，作者论证了推荐链及d e m p s t e r s h a f e r 证据理论在 信誉建模过程中的有效性，但是并没有考虑这些证据本身是否可信，即忽略了潜 在交互方与见证者之间是否存在利益关系。 2 1 3 信任的认知模型 基于个体层的信任的学习进化模型、信誉模型都是根据a g e n t 间的交互结果 来进行信任的估价，面信任的认知模型则是从交互方的主观愿望出发，通过分析 多a g e n t 系统中的信任模型研究 交互方的主观愿望来判断其是否值得信任。a g e n t 的信念是对环境和自身的了解， 通过分析a g e n t 的信念一愿望一意图来获得其信任值在信任的估价过程中同样具 有重要的作用 2 9 3 0 。 c a s t e l f r a n c h i 和f a l c o n e 在 1 9 3 1 中主要强调了a g e n t 的主观性( 特 别是a g e n t 的信念一愿望一意图结构) ：在任务授权过程中，假设a g e n ta 分配一 项任务给a g e n tb ，这时a g e n ta 通过分析有关a g e n t6 动机的各种信念来估价 a g e n tb 是否值得信任。c a s t e l f r a n c h i 等认为在估价a g e n t 的信任值过程中必 需考虑以下信念： 能力( c o m p e t e n c eb e li e f ) ：即a g e n ta 通过估价认为a g e n tb 有能力 完成a g e n ta 分配的任务； 意愿( w i l l i n g n e s sb e l i e f ) ：即a g e n t8 认为a g e n t6 已经决定并打算 去完成a g e n t8 分配的任务； 持续性( p e r s i s t e n c eb e l i e f ) ；即a g e n ta 认为a g e n t6 对其去完成 a g e n ta 分配的任务这一意图具有连贯性； 动机( m o t i v a t i o nb e l i e f ) ：即a g e n ta 认为a g e n t6 的帮助有一定动 机，并且在冲突的情况下这些帮助a g e n ta 的动机要强于对a g e n ta 不 利的动机。 上述信念以不同的方式影响a g e n t 的信任，但是c a s t e l f r a n c h i 等人提出的 信任的认知模型在信任的建模过程中主要强调了a g e n t 的主观性，而缺乏在信任 的学习和信誉模型中针对a g e n t 的理性分析。 2 2 多a g e n t 系统中的信任机制 在开放的多a g e n t 系统中，多a g e n t 系统中的协议机制能够有效地处理环境 的不确定性。典型的实例有：p o l i c y m a k e r 3 2 ，k e y n o t e 3 3 以及r e f e r e e 3 4 。 本文主要针对信任模型的研究，有关信任机制协议的研究参考 3 5 。 2 3 现有典型信任模型中有待进一步解决的问题 针对多a g e n t 系统中的信任管理问题，人们提出了大量的信任模型。然而， 在现有的信任管理模型中，无论采用学习的方法进化信任，还是信任的信誉模型 1 3 多a g e n t 系统中的信任模型研究 以及信任的认知模型，都未能彻底的解决基于a g e n t 的电子商务中多a g e n t 系统 的信任管理问题。下面我们对信任管理中尚待解决的关键问题进行讨论 在现有的多a g e n t 系统的信任管理模型中，普遍存在的现象是在估价交互方 的信任值过程中没有考虑到a g e n t 的特性，同时忽视了a g e n t 所在环境对a g e n t 间交互的影响。比如，在文献e 1 5 中，b i r k 给出的方法在交互之初就定义了一 种静态形式的信任。然而，信任具有动态性，可随时间的变化而变化。a g e n t 的 交互环境是完全开放的，信任是在系统错综复杂的交互环境中形成的，不能完全 事先定义。此外，在开放的多a g e n t 系统中，一个自主的a g e n t 如果从来没有和 其他a g e n t 有过交互历史，而仅采用直接交互历史来估价其他a g e n t 的信任值将 非常困难。为此，为了获得交互方更可靠的信任信息，a g e n t 可以向其他a g e n t 询问有关交互方的信任度，如y u 和s i n g h 的信誉模型 2 1 。然而，在信誉模型 中，所有的证据都被认为是完全值得信任的。并没有考虑a g e n t 社会提供的推荐 信息是否完整可靠：在实际交互中，一个a g e n t 为了获得更大的利益有可能向其 他a g e n t 传递虚假甚至错误的信息虽然c a s t e l f r a n c h i 1 9 提出的信任的认 知模型从交互方的主观愿望来估价其信任值，但过度强调了a g e n t 的主观性而忽 视了a g e n t 的理性分析。 仅考虑a g e n t 的直接交互历史或仅考虑其他a g e n t 的推荐信息只是在一些极 端的情况下适用。在电子商务中，一个a g e n t 有可能第一次进入多a g e n t 系统进 行交易，这时由于没有直接交互历史，a g e n t 只能依靠其他a g e n t 的推荐信息来 进行判断；而且即使多a g e n t 系统中的a g e n t 有直接交互历史，但当交互的次数 较少时，从有限的交互中也并不能判断a g e n t 是否可信虽然r a m c h u r n 提出的 信心一信誉模型 1 8 在考虑a g e n t 的直接交互的同时考虑了a g e n t 的间接交互历 史，但模型只是将见证者提供的信心进行简单的组合以获取目标a g e n t 的信誉 而并没有考虑这些与被估价a g e n t 有交互历史的a g e n t 提供的信息是否可靠。此 外，信任并不是一个单一抽象的概念而是一个组合概念。 为此，本文针对多a g e n t 系统中“如何收集必要的信任信息来确定和维护信 任关系”这一问题，在r a m e h u r n 的信心一信誉模型基础上。提出一个用于多a g e n t 系统的具有欺诈检测机制的信心一信誉模型用于多a g e n t 系统的具有欺诈检测 机制的信心一信誉模型不同于现有的信任模型，它的主要区别在于： 多a g e n t 系统中的信任模型研究 1 ) 收集信息过程中，引入信任网来考虑a g e n t 的直接和间接交互历史，在 使用推荐信息来计算信心一信誉的信誉时，考虑了推荐信息本身的可靠 性； 2 ) 为了防止恶意a g e n t 的欺诈，模型中引入了以加权多数算法( w e i g h t e d m a j o