人工基础智能及逻辑 1

第7章偏好逻辑7.1偏好与决策7.2基于原因的偏好7.3偏好的性质7.4不确定性与偏好7.5偏好、原因与推荐：实例分析7.6结语学习目标理解偏好的基本概念及其类型掌握基于原因的偏好形式化方法理解偏好关系的逻辑性质学习不确定性下的偏好推理了解偏好逻辑在推荐系统中的应用7.1偏好与决策引言我们每天都在做选择、做决策：网上挑选商品购房、买车决策餐厅、娱乐选择核心问题：我们更偏好哪一个选项？为什么？偏好的影响因素客观因素价格、品牌、外观社会因素他人意见、过往经验情感因素一时情绪偏好的两种类型外在偏好(ExtrinsicPreference)由于在某些外在方面p比q更好而被偏好例子：偏好红葡萄酒甚于白葡萄酒，因为医生说红葡萄酒对健康更好内在偏好(IntrinsicPreference)不存在外在原因，仅仅是偏好本身例子：偏好红葡萄酒甚于白葡萄酒，仅仅因为更喜欢红葡萄酒的味道本章重点：外在偏好（基于原因的偏好）偏好与可解释性为什么关注外在偏好？与人工智能的可解释性(Explainability)目标一致行为→偏好观察到选择行为时，识别背后的偏好结构，说明偏好如何基于外在理由形成偏好→行为已知偏好结构时，据此预测特定情境中的行为选择目标：借助理性的理论框架对个体的偏好及其行为加以解释决策案例例19.小丽的冰箱购买决策考虑因素（重要性递减）价格品质配送速度优先序：价格≫品质≫配送速度判断标准价格：是否在预算之内（好/不好）品质：是否满足质量要求（好/不好）配送：是否满足时间要求（好/不好）决策依据：依次满足这些因素形式语言语言成分用一阶逻辑语言表示：逻辑常项：$$d_0,d_1,\cdots$$（表示具体对象）变元：$$x_0,x_1,\cdots$$（表示变量）谓词：$$P,Q,P_0,P_1,\cdots$$（表示性质）实际考虑的简化情形有穷论域一元谓词简单公式（通常无量词，甚至无自由变元）7.2基于原因的偏好基本思想偏好的原因是主体考虑的一些因素，这些因素形成一个排序，按照重要性排列价格比品质更重要品质比配送速度更重要优先序的定义定义48.优先序优先序是一个有穷的多个公式（优先项）的排序：$$C_1\ggC_2\gg\cdots\ggC_n\quad(n\in\mathbb{N})$$约束条件每个$$C_m$$$$(1\leqslantm\leqslantn)$$是语言中的公式恰有一个自由变量$$x$$为每个$$C_m$$所共有理解$$\gg$$表示"比...更重要"排在前面的项比后面的项更重要优先序的直观理解偏好的比较规则基于优先序，可以比较不同对象：$$C_1\wedge\negC_2\wedge\cdots\wedge\negC_m$$比$$\negC_1\wedgeC_2\wedge\cdots\wedgeC_m$$更被偏好$$C_1\wedgeC_2\wedgeC_3\wedge\negC_4\wedge\negC_5$$比$$C_1\wedgeC_2\wedge\negC_3\wedgeC_4\wedgeC_5$$更被偏好核心思想：优先满足重要性更高的因素偏好关系的形式定义定义49.偏好关系给定长度为$$n$$的优先序，$$x$$比$$y$$更被偏好，记作$$\mathrm{Pref}(x,y)$$：$$Pref_1(x,y):=C_1(x)\wedge\negC_1(y)$$$$Pref_{k+1}(x,y):=\operatorname{Pref}_k(x,y)\vee\left(\operatorname{Eq}_k(x,y)\wedgeC_{k+1}(x)\wedge\negC_{k+1}(y)\right),\quadk<n$$$$Pref(x,y):=\operatorname{Pref}_n(x,y)$$辅助定义：$$\operatorname{Eq}_k(x,y)$$表示$$(C_1(x)\leftrightarrowC_1(y))\land\cdots\land(C_k(x)\leftrightarrowC_k(y))$$偏好定义的解读递归构造过程第一步如果$$x$$满足$$C_1$$而$$y$$不满足，则$$x$$优于$$y$$第k+1步要么前$$k$$步已确定$$x$$优于$$y$$要么前$$k$$个因素上$$x$$和$$y$$相等，但第$$k+1$$个因素上$$x$$满足而$$y$$不满足逻辑：按重要性顺序依次比较，直到找到差异示例：小丽的偏好优先序：$$C(x)\ggQ(x)\ggD(x)$$谓词含义$$C(x)$$：$$x$$具有更低的价格$$Q(x)$$：$$x$$质量好$$D(x)$$：$$x$$配送速度快两个商品的性质商品$$d_1$$：$$C(d_1),\negQ(d_1),D(d_1)$$商品$$d_2$$：$$C(d_2),\negQ(d_2),\negD(d_2)$$结论：$$\mathrm{Pref}(d_1,d_2)$$（小丽偏好$$d_1$$）其他偏好定义方式最好-显现序(Best-outOrdering)——来源：Coste-Marquisetal.(2004)$$\mathrm{Pref}(x,y)\text{当且仅当}\existsC_j\in\mathfrak{C}\left(\forallC_i\ggC_j((C_i(x)\wedgeC_i(y))\wedge(C_j(x)\wedge\negC_j(y)))\right)$$特点仅当接收到正面信息时，才沿着优先序继续考虑后面的项示例中的差异在例19中，$$d_1$$和$$d_2$$在$$Q$$上都是负面（$$\negQ(d_1),\negQ(d_2)$$）因此不再考虑$$D$$，得出$$d_1$$和$$d_2$$同样受偏好7.3偏好的性质偏好关系的符号约定$$\mathrm{Pref}$$严格偏好（$$x$$严格优于$$y$$）$$\underline{\mathrm{Pref}}$$非严格偏好（$$x$$至少和$$y$$一样好）$$\mathrm{Eq}$$偏好相等（$$x$$和$$y$$就偏好而言相等，对应$$\sim$$）偏好关系的基本性质非严格偏好关系的三大性质(a)自反性(Reflexivity)$$\underline{\mathrm{Pref}}(x,x)$$任何对象至少和自己一样好(b)连通性(Connectedness)$$\underline{\mathrm{Pref}}(x,y)\vee\underline{\mathrm{Pref}}(y,x)$$任意两个对象都可比较(c)传递性(Transitivity)$$\underline{\mathrm{Pref}}(x,y)\land\underline{\mathrm{Pref}}(y,z)\rightarrow\underline{\mathrm{Pref}}(x,z)$$偏好关系可以传递准线性序偏好关系的数学特征性质(a)、(b)、(c)使得二元偏好关系$$\underline{\mathrm{Pref}}$$构成一个准线性关系(Quasi-linearOrder)等价关系的要求等价关系要求对称性：$$x\simy\Rightarrowy\simx$$准线性序的特点准线性序不具备对称性意义：这三种性质是许多偏好逻辑中关于偏好关系的基本预设归约的偏好逻辑语言定义50.归约的偏好逻辑语言令$$Γ$$是命题变元的集合，$$D$$是个体对象的域：$$\varphi:=p\mid\neg\varphi\mid\varphi\wedge\psi\mid\underline{\operatorname{Pref}}(d_i,d_j)$$其中，$$p,d_i$$分别表示$$Γ$$和$$D$$中的元素特点包含命题演算扩展语言：带变元和谓词的语言归约语言：核心部分公理系统P在归约语言中的公理(a)自反性公理$$\underline{\mathrm{Pref}}(d_i,d_i)$$(b)连通性公理$$\underline{\mathrm{Pref}}(d_i,d_j)\vee\underline{\mathrm{Pref}}(d_j,d_i)$$(c)传递性公理$$\underline{\operatorname{Pref}}(d_i,d_j)\wedge\underline{\operatorname{Pref}}(d_j,d_k)\to\underline{\operatorname{Pref}}(d_i,d_k)$$将这个公理系统称为$$\mathbf{P}$$表示定理定理31(表示定理)$$\vdash_{\mathbf{P}}\varphi\text{当且仅当}\varphi\text{在所有从优先序得到的模型中都有效}$$定理的意义从优先序构造偏好关系的方式，不会影响我们对偏好关系的一般性推理换言之：不会改变关于偏好的逻辑结构表示定理的证明思路证明核心思想如果在某个模型中偏好关系以某种形式出现，我们总可以设想这一偏好关系是由某个优先序导出的构造方法假设$$\nvdash_{\mathbf{P}}\varphi(d_1,d_2,\cdots,d_n,p_1,p_2,\cdots,p_k)$$存在准线序$$d_1,d_2,\cdots,d_n$$和赋值使得$$\varphi$$不成立引入一元谓词$$P_1,P_2,\cdots,P_n$$构造优先序$$P_1\ggP_2\gg\cdots\ggP_n$$令$$P_i$$仅作用于$$d_i$$得到相同的偏好顺序表示定理的应用更广泛的应用这种方法可以刻画其他与决策相关的概念：欲望(Desire)根据事件的重要性表达主体的欲望等级义务(Obligation)通过优先序表达义务的轻重应用场景分析情境中的行为冲突提供系统性的解决思路相关文献XieandYan(2024)vanBenthemetal.(2014)7.4不确定性与偏好引入问题到目前为止，尚未讨论不确定性(Uncertainty)典型情境"我相信今天会下雨，所以我带了雨伞"——词语"相信"表明：偏好依赖于信念核心观点信念成为偏好形成的又一个可能原因不同的信念可能导致不同的偏好认知因素开始在偏好中发挥作用偏好的认知维度偏好变化的认知因素当考虑偏好的变化时，应纳入认知因素的影响：若偏好建立在某种信念之上一旦信念发生变化相应的偏好也可能随之改变决策论的传统Savage(1954)Jeffrey(1965)基于不确定性构建模型，依赖对效益与不确定性的量化刻画量化与质化模型量化模型用概率分布表示对效益的估计通过计算效益期望值做出决策不确定性和效益分别视为信念和偏好的定量表示本章的质化模型引入信念算子$$B\varphi$$侧重于对信念与偏好关系的定性分析信念谓词逻辑语言的简化片段推荐阅读：Fu(2020)扩展语言语言扩展在原有语言基础上添加：信念算子$$B\varphi$$（"相信$$\varphi$$"）信念的逻辑系统采用经典的KD45系统优先序的定义保持不变优先项$$C_i$$用语言中的公式表示这些公式不包含信念算子多种偏好定义方式扩展语言中的重要发现在面对不完全信息时，个体在形成偏好时可能有不同的推理过程定义51决定性偏好定义52保守性偏好定义53慎思的偏好选择依据取决于主体的类型取决于他们对待不确定性的态度决定性偏好定义51(决定性偏好)给定长度为$$n$$的优先序和两个对象$$x,y$$：$$\operatorname{Pref}_1(x,y):=BC_1(x)\wedge\negBC_1(y)$$$$\operatorname{Pref}_{k+1}(x,y):=\operatorname{Pref}_k(x,y)\vee(\operatorname{Eq}_k(x,y)\wedgeBC_{k+1}(x)\wedge\negBC_{k+1}(y)),\quadk<n$$$$\operatorname{Pref}(x,y):=\operatorname{Pref}_n(x,y)$$其中，$$\operatorname{Eq}_k(x,y)$$表示$$(BC_1(x)\leftrightarrowBC_1(y))\land\cdots\land(BC_k(x)\leftrightarrowBC_k(y))$$特点：基于主体相信对象具有某些性质来确定偏好保守性偏好定义52(保守性偏好)给定长度为$$n$$的优先序和两个对象$$x,y$$：$$\operatorname{Pref}_1(x,y):=BC_1(x)\wedgeB\negC_1(y)$$$$\operatorname{Pref}_{k+1}(x,y):=\operatorname{Pref}_k(x,y)\vee(\operatorname{Eq}_k(x,y)\wedgeBC_{k+1}(x)\wedgeB\negC_{k+1}(y)),\quadk<n$$$$\operatorname{Pref}(x,y):=\operatorname{Pref}_n(x,y)$$其中，$$\operatorname{Eq}_k(x,y)$$表示$$(BC_1(x)\leftrightarrowBC_1(y))\land(B\negC_1(x)\leftrightarrowB\negC_1(y))\land\cdots\land(BC_k(x)\leftrightarrowBC_k(y))\land(B\negC_k(x)\leftrightarrowB\negC_k(y))$$否定的位置重要区别$$\negBC(x)\neqB\negC(x)$$$$\negBC(x)$$主体不相信$$C(x)$$成立$$B\negC(x)$$主体相信$$C(x)$$不成立保守性偏好的特点要求更强的证据需要明确相信某性质不成立，而非仅仅不相信其成立慎思的偏好定义53(慎思的偏好)首先定义辅助关系$$\operatorname{Supe}$$：$$\operatorname{Supe}_1(x,y):=C_1(x)\wedge\negC_1(y)$$$$\operatorname{Supe}_{k+1}(x,y):=\operatorname{Supe}_k(x,y)\vee(\operatorname{Eq}_k(x,y)\wedgeC_{k+1}(x)\wedge\negC_{k+1}(y)),\quadk<n$$$$\operatorname{Supe}(x,y):=\operatorname{Supe}_n(x,y)$$然后定义偏好：$$\operatorname{Pref}(x,y):=B(\operatorname{Supe}(x,y))$$其中，$$\operatorname{Eq}_k(x,y)$$表示$$(C_1(x)\leftrightarrowC_1(y))\land\cdots\land(C_k(x)\leftrightarrowC_k(y))$$三种偏好定义的对比案例回顾例19小丽的优先序：$$C(x)>>Q(x)>>D(x)$$谓词含义$$C(x)$$：$$x$$具有更低的价格$$Q(x)$$：$$x$$质量好$$D(x)$$：$$x$$配送速度快已知信息$$C(d_1)$$（$$d_1$$价格低）缺乏关于$$d_2$$价格的信息$$\negQ(d_1),\negQ(d_2)$$（品质都不好）$$D(d_1),\negD(d_2)$$（$$d_1$$配送快）小丽：决定性偏好(定义51)推理过程检查掌握的信息发现$$BC(d_1)$$（相信$$d_1$$价格低）$$\negBC(d_2)$$（不相信$$d_2$$价格低）基于当前信息，$$\mathrm{Pref}(d_1,d_2)$$特点基于有限信息迅速做出判断无论获知什么其他信息，选择保持不变决断型主体小伟：保守性偏好(定义52)推理过程获得与小丽相同的信息$$BC(d_1)$$（相信$$d_1$$价格低）但不相信$$d_2$$价格不低（即$$\negB\negC(d_2)$$）无法形成明确偏好特点选择等待更多关键信息缺乏明确证据时不做判断即使获取品质或配送信息也无济于事谨慎型主体小芳：慎思的偏好(定义53)推理过程初始信息有限，暂时无法做出选择愿意将所有可获得的信息纳入考虑如果听说$$Q(d_1)\wedge\negQ(d_2)$$（$$d_1$$品质更好）或$$D(d_1)\wedge\negD(d_2)$$（$$d_1$$配送更快）则认定$$d_1$$在任何情况下都更优因此$$B(\operatorname{Supe}(d_1,d_2))$$，即$$\mathrm{Pref}(d_1,d_2)$$特点整合所有现有信息在不完全信息下做出合理决策综合型主体三种主体类型总结决策风格对比主体偏好定义决策特点信息要求小丽决定性偏好基于有限信息快速判断低小伟保守性偏好等待关键明确证据高小芳慎思的偏好综合所有可用信息中等意义：反映不同类型主体在面对不确定性时的认知模式，体现不同的决策风格三种定义的形式性质事实14连通性在定义51（决定性偏好）下成立在定义52和定义53下不成立强度关系定义52（保守性偏好）是最强的如果根据定义52，$$\mathrm{Pref}(x,y)$$成立那么根据定义51和定义53，$$\mathrm{Pref}(x,y)$$也成立Pref与$$\underline{\mathrm{Pref}}$$的关系注意事项在定义53中，如果把$$\underline{\mathrm{Pref}}(x,y)$$看作$$B(\underline{\mathrm{Supe}}(x,y))$$：$$\mathrm{Pref}$$和$$\underline{\mathrm{Pref}}$$的正常相互定义关系不再存在$$\mathrm{Pref}$$不再能定义$$\underline{\mathrm{Pref}}$$$$\underline{\mathrm{Pref}}$$不再能被$$\mathrm{Pref}$$和$$\mathrm{Eq}$$定义但是：对于所有三个定义，下面的定理仍然成立偏好的自省性定理32$$\mathrm{Pref}(x,y)\rightarrowB\mathrm{Pref}(x,y)$$含义：如果主体偏好$$x$$胜于$$y$$，那么主体相信自己偏好$$x$$胜于$$y$$事实15$$\neg\mathrm{Pref}(x,y)\rightarrowB\neg\mathrm{Pref}(x,y)$$含义：如果主体不偏好$$x$$胜于$$y$$，那么主体相信自己不偏好$$x$$胜于$$y$$偏好作为精神状态理论依据偏好与信念类似，都是一种精神状态(MentalState)自我认知我们相信我们所信之事我们也相信我们所偏好之物意义这种对偏好的自我认知使得我们能够在逻辑层面对其加以刻画为偏好的形式化分析提供基础简化语言后续讨论的语言基础以定义51（决定性偏好）为基础简化语言的构成建立在经典命题字母之上包含标准的逻辑联结词偏好关系符号$$\mathrm{Pref}(d_i,d_j)$$信念算子$$B$$信念算子的逻辑采用KD45系统的标准原则KD45-P系统的公理定理33.公理化有效原则偏好公理(a)$$\underline{\mathrm{Pref}}(d_i,d_i)$$(b)$$\underline{\mathrm{Pref}}(d_i,d_j)\vee\underline{\mathrm{Pref}}(d_j,d_i)$$(c)$$\underline{\operatorname{Pref}}(d_i,d_j)\wedge\underline{\operatorname{Pref}}(d_j,d_k)\to\underline{\operatorname{Pref}}(d_i,d_k)$$信念公理(1)$$\negB\bot$$（一致性）(2)$$B\varphi\toBB\varphi$$（正自省）(3)$$\negB\varphi\toB\negB\varphi$$（负自省）混合公理(4)$$\underline{\mathrm{Pref}}(d_i,d_j)\toB\underline{\mathrm{Pref}}(d_i,d_j)$$KD45-P系统的推理规则推理规则分离规则(ModusPonens,MP)$$\frac{\varphi,\\varphi\to\psi}{\psi}$$必然化规则(Necessitation)$$\frac{\varphi}{B\varphi}$$系统名称：KD45-P系统KD45-P模型定义54.KD45-P模型KD45-P模型是一个五元组$$<W,D,R,{\preceq_w}_{w\inW},V>$$：$$W$$可能世界的集合$$D$$常项的集合$$R$$$$W$$上的可及关系，满足：欧几里得性(Euclidean)、传递性(Transitive)、持续性(Serial)$$\{\preceq_w\}_{w\inW}$$对于每个$$w$$，$$\preceq_w$$是$$D$$上的准线性序；对于每个欧几里得性类，这一关系都是一样的$$V$$赋值函数完全性与有穷模型性定理34.完全性逻辑系统KD45-P相对于KD45-P模型是完全的含义语法可证$$\Leftrightarrow$$语义有效$$\vdash_{\text{KD45-P}}\varphi\Leftrightarrow\models_{\text{KD45-P}}\varphi$$定理35.有穷模型性逻辑系统KD45-P具有有穷模型性(FiniteModelProperty)含义若公式可满足，则存在有穷模型使其可满足为可判定性提供基础不确定性下的表示定理定理36(表示定理)$$\vdash_{\mathrm{KD45-P}}\varphi\text{当且仅当}\varphi\text{在由优先序获得的所有模型中都是有效的}$$定理的意义这是对先前结果在不确定情形下的扩展即便偏好是基于信念形成的也不会影响我们对偏好的逻辑推理个体信念提供的偏好理由在认知上重要，但在逻辑上不干扰对偏好关系本身的推理表示定理的证明思路证明核心假设$$\nvdash_{\text{KD45-P}}\varphi(d_1,d_2,\cdots,d_n,p_1,p_2,\cdots,p_m)$$由完全性（定理34），存在模型和世界$$w$$使得$$\varphi$$不可满足限制模型在$$w$$所在的欧几里得性类在整个欧几里得性类中，常项的排序一样定义谓词$$P_1,P_2,\cdots,P_n$$采用定理31的方法构造优先序得到相同的偏好关系结论：对于任何偏好推理，总可以在背后找到相应的信念作为支撑7.5偏好、原因与推荐：实例分析应用场景基于偏好逻辑的推荐系统框架系统功能通过主体的行为推断其偏好关系识别偏好背后的原因生成更精准的推荐结果情境描述主体：小敏观察到的行为：过去几个月频繁购买瑜伽垫认知线索搜索关键词："腰酸""减压"候选产品$$d_1$$：瑜伽垫$$d_2$$：冥想类App$$d_3$$：按摩仪$$d_4$$：工作间歇提醒设备$$d_5$$：蛋白粉形式化表示逻辑语言元素$$\mathrm{Pref}(d_i,d_j)$$主体偏好$$d_i$$优于$$d_j$$$$B\varphi$$主体相信命题$$\varphi$$$$R(d_i)$$物品$$d_i$$有放松、缓解压力等功能小敏的偏好与信念偏好关系$$\foralld_j\neqd_1,\quad\operatorname{Pref}(d_1,d_j)$$小敏偏好瑜伽垫$$d_1$$信念基础$$BR(d_1)$$小敏相信瑜伽垫有放松功能推荐生成系统发现$$BR(d_3)\quad\text{且}\quadBR(d_4)\tag{