人工基础智能及逻辑 7

第12章因果推理12.1因果推理与条件概率因果性的基本问题辛普森悖论条件概率的局限性12.2因果贝叶斯网因果贝叶斯网的概念强行干预的计算辛普森悖论的解决12.3因果结构与反事实条件反事实条件句结构因果模型反事实推理的语义12.4结语因果推理的应用与其他逻辑系统的联系12.1因果推理与条件概率因果性：从哲学到人工智能自亚里士多德起，因果性一直是哲学领域的传统问题。从中世纪哲学家到近代的康德、休谟，哲学领域关于因果性不断涌现出新的理解和阐释。现代发展因果推理不仅是哲学问题，也是扎根于实践的技术问题人工智能领域的需求推动了因果性形式理论的发展研究横跨数理逻辑、认知科学等多个领域历史脉络亚里士多德因果性的哲学起源休谟、康德近代哲学的因果性理论现代人工智能因果性的形式化理论因果性的哲学争议与实践价值哲学争议关于事物间的因果影响是否在物理世界客观存在，一直存在争议：一些研究者认为因果性与概率一样，都是人思维中的概念而非外在世界固有的客观存在实践价值无论因果影响是否为独立于人意识的客观存在，不可否认的一点是：通过运用因果影响的概念人们能够以非常直观的方式解释所观察到的现象这在实践中能得到映证因果推理的实际应用示例图12-1肝癌的因果影响酗酒与肝癌的例子因果解释酗酒和其他不良生活习惯都是共同导致肝癌的因素已知一个人酗酒的情况下，这个人有更大可能性患有肝癌实践指导这种因果关系的认识能指导实践中的选择例如从健康角度考虑，一个人不应该选择酗酒条件概率与因果推理的关系在第11章中，我们学习了如何从条件概率的角度研究变量之间的关系。如何获得因果关系的知识？条件概率固然是研究因果关系的重要基础之一，但需要注意：重要警示不能仅靠条件概率判断事物之间具有怎样的因果影响，将两者混淆会产生悖论。辛普森悖论：问题的提出假设医学研究人员想要测试一种治疗方法（A疗法）对患者痊愈的作用。表12-1全部患者治愈情况全部患者痊愈/例未痊愈/例痊愈率用A疗法20200.5不用A疗法16240.4初步结论用A疗法的患者被治愈的比例更高（0.5>0.4），似乎暗示着A疗法对治愈具有积极作用。辛普森悖论：悖论的出现当研究者分别按性别分类统计患者的治愈率时，却发现：男性患者中使用A疗法的治愈率低于不用A疗法，女性患者中使用A疗法的治愈率也低于不用A疗法。表12-2男性患者治愈情况男性患者痊愈/例未痊愈/例痊愈率用A疗法18120.6不用A疗法730.7表12-3女性患者治愈情况女性患者痊愈/例未痊愈/例痊愈率用A疗法280.2不用A疗法9210.3辛普森悖论：矛盾的结论推理(1)：整体患者"如果一位患者用了A疗法，那么他痊愈"的概率高于"如果一位患者未用A疗法，那么他痊愈"的概率→A疗法对于治愈患者具有积极作用推理(2)：男性患者"如果一位男性患者用了A疗法，那么他痊愈"的概率低于"如果一位男性患者未用A疗法，那么他痊愈"的概率→A疗法对于治愈男性患者具有负面作用推理(3)：女性患者"如果一位女性患者用了A疗法，那么她痊愈"的概率低于"如果一位女性患者未用A疗法，那么她痊愈"的概率→A疗法对于治愈女性患者具有负面作用核心矛盾同种药物对不同群体皆具有负面作用，但对整个群体却有正面作用？从直觉上来说，因果关系显然不可能以这种矛盾的方式作用于事物的不同部分。问题分析：推理的漏洞第一个推理的问题比较了"如果一位患者用了A疗法，那么他痊愈"的概率与"如果一位患者未用A疗法，那么他痊愈"的概率，由此得出"A疗法对于治愈患者具有积极作用"的结论。看似合理如果患者选择A疗法比不选择A疗法痊愈率更高，难道不能说明A疗法有利于痊愈吗？实际结论实际上不能草率地得出这样的结论。相关性不等于因果性高级白酒与高收入的例子统计现象假如统计：年收入50万元以上的人在常饮高级白酒的人群中的比例年收入50万元以上的人在不常饮高级白酒的人群中的比例很可能发现前者显著地高于后者正确理解$$P(x年收入超50万|x常饮高级白酒)>P(x年收入超50万|x不常饮高级白酒)$$这仅意味着当我们观察到$$x$$常饮高级白酒时，$$x$$有更大的可能性是一个高收入者，但这不能解读为：主动进行喝白酒的行为能够提高一个人的收入。结论只能佐证消费高级白酒与高收入之间存在着相关性，但并不能论证消费高级白酒与获得高收入存在因果关系。"如果...那么..."的两种理解"如果$$x$$常饮高级白酒，那么$$x$$获得50万以上的年收入的可能性更大"存在两种不同理解：理解1：观察性条件如果观察到"$$x$$常饮高级白酒"那么"$$x$$获得50万以上的年收入"将更有可能为真体现为：$$P(x年收入超50万|x常饮高级白酒)>P(x年收入超50万|x不常饮高级白酒)$$在这种意义上它是正确的，但不意味着因果影响理解2：干预性条件如果有意让"$$x$$常饮高级白酒"这件事发生（例如强行让$$x$$喝高级白酒）那么"$$x$$获得50万以上的年收入"将更有可能为真在这种意义上它确实意味着因果影响只可惜在这种意义上它并不成立辛普森悖论的解释"如果$$x$$用了A疗法，那么$$x$$痊愈的概率就更高"也存在着模糊性：理解1：观察性条件如果观察到"$$x$$选择A疗法"，那么"$$x$$痊愈"将更有可能为真。理解2：干预性条件如果强行让"$$x$$选择A疗法"，那么"$$x$$痊愈"将更有可能为真。条件概率的含义$$P(x痊愈|x选择了A疗法)>P(x痊愈|x未选择A疗法)$$仅意味着：如果观察到$$x$$选择了A疗法，那么比起观察到$$x$$未选择A疗法而言，我们更有理由相信$$x$$痊愈了。观察性条件的合理性分析为什么观察到选择A疗法会提高痊愈的可能性？从该角度看，这样的推断确实是合理的：步骤一男性患者当中有更高比例的人选择了A疗法步骤二当我们观察到$$x$$选择了A疗法时，$$x$$更有可能是一位男性患者步骤三男性患者治愈率本来就比女性患者的治愈率高步骤四因此我们更倾向于认为$$x$$被治愈了关键前提以上讨论都建立在"观察到$$x$$选择了A疗法"这一前提之下。干预性条件的不同逻辑强行干预的情况如果讨论的是"无视$$x$$本身的偏好强行让患者选择A疗法"前提下的治愈率：上述推理就不适用毕竟强行让"$$x$$选择A疗法"并不会真地让$$x$$变成一个男性计算干预概率的需要为了计算"若无视$$x$$本身的偏好强行让患者选择A疗法时$$x$$被治愈"的概率，一些计算机科学家以及逻辑学家提出了因果贝叶斯网的概念。12.2因果贝叶斯网强行干预概率的计算前提首先，想要知道"强行让$$A$$发生时$$B$$发生的概率"，必须借助$$A$$与$$B$$概率分布以外的知识。第11章的例子"$$A$$与$$B$$要么相伴发生，要么都不发生"仅凭$$A$$与$$B$$的概率分布，我们无从知晓到底是$$A$$决定了$$B$$还是$$B$$决定了$$A$$。因果方向的重要性两种不同情况下的干预概率如果是$$A$$决定了$$B$$："强行让$$A$$发生时$$B$$发生的概率"应该为1如果是$$B$$决定了$$A$$："强行让$$A$$发生时$$B$$发生的概率"应该等同于"$$B$$发生的概率"辛普森悖论中的应用不能指望仅凭"性别""是否采用A疗法""是否治愈"这三个变量的概率分布就计算出"强行让$$x$$采用A疗法时$$x$$被治愈的概率"。额外假设的必要性必须依据的额外假设例如：是性别影响了疗法的选择，而不是疗法改变了患者的性别合理且基本的假设在这个例子中，显然默认A疗法不会改变患者的性别这是一个合理且基本的假设而这样的假设对于计算"强行让$$x$$采用A疗法时$$x$$被治愈的概率"是不可或缺的因果贝叶斯网的定义因果贝叶斯网的作用因果贝叶斯网能够便捷地表征像"是性别影响了疗法的选择而不是疗法改变了患者的性别"这样的假设。与贝叶斯网的差别作为一个有向无循环图：因果贝叶斯网中的箭头不仅表征变量间概率相关性还断定了变量间影响的方向辛普森悖论的因果贝叶斯网图12-2"辛普森悖论"的因果贝叶斯网$$G$$从箭头读出的因果关系是患者的性别影响了疗法的选择，而不是反过来性别与疗法共同影响了治愈率符号约定用$$V_性别=1$$表示患者为男性用$$V_性别=0$$表示患者为女性强行干预下的因果结构图12-3"强行选A疗法"时的因果贝叶斯网$$G'$$研究目标计算"在强行让患者选择A疗法的情况下，患者被治愈的概率"，记作$$P_强行A(V_治愈=1)$$强行干预的影响若患者无论如何都不得不选择A疗法：性别对于疗法的选择便不再具有任何因果影响其他因果影响应当保持不变强行干预后的概率分布把原本的概率分布叫作$$P$$，把"强行让患者选择A疗法"后的概率分布叫作$$P_强行A$$。概率分布的性质1由于强行让患者选择了A疗法，此时$$V_疗法=1$$的概率必定是1：$$P_强行A(V_疗法=1)=1$$概率分布的性质2由于疗法的选择不会改变性别，因此：$$P_强行A(V_性别=1)=P(V_性别=1)$$条件概率的不变性概率分布的性质3由于性别和疗法对治愈的因果影响不变，因此：$$P_强行A(V_治愈=1|V_性别=1,V_疗法=1)=P(V_治愈=1|V_性别=1,V_疗法=1)=0.6$$$$P_强行A(V_治愈=1|V_性别=0,V_疗法=1)=P(V_治愈=0|V_性别=1,V_疗法=1)=0.3$$强行干预下治愈概率的计算计算步骤$$P_强行A(V_治愈=1)=P_强行A(V_性别=1,V_治愈=1)+P_强行A(V_性别=0,V_治愈=1)$$$$=P_强行A(V_性别=1,V_疗法=1,V_治愈=1)+P_强行A(V_性别=0,V_疗法=1,V_治愈=1)$$利用因果贝叶斯网$$G'$$由于$$G'$$表征了$$P_强行A$$，因此可按照11.4节的方式转化。最终计算结果展开计算$$P_强行A(V_性别=1)×P_强行A(V_疗法=1)×P_强行A(V_痊愈=1|V_性别=1,V_疗法=1)$$$$+P_强行A(V_性别=0)×P_强行A(V_疗法=1)×P_强行A(V_痊愈=1|V_性别=0,V_疗法=1)$$$$=P(V_性别=1)×1×P(V_痊愈=1|V_性别=1,V_疗法=1)+P(V_性别=0)×1×P(V_痊愈=1|V_性别=0,V_疗法=1)$$$$=0.5×1×0.6+0.5×1×0.3=0.45$$辛普森悖论的解决借助因果贝叶斯网，可以计算出：干预性概率"在强行让患者选择A疗法的情况下，患者被治愈的概率"为0.45即$$P_强行A(V_治愈=1)=0.45$$观察性概率"观察到患者选择A疗法的情况下，患者被治愈的概率"为0.5即$$P(V_治愈=1|V_疗法=1)=0.5$$进一步计算"在强行让患者不选择A疗法的情况下，患者被治愈的概率"为0.5结论总体而言，选择A疗法会降低痊愈的概率（0.45<0.5）。因果贝叶斯网的意义明确区分两类概率通过因果贝叶斯网，能够明确地区分："在强行让患者选择A疗法的情况下患者被治愈的概率"（干预性）"观察到患者选择A疗法的情况下患者被治愈的概率"（观察性）解决辛普森悖论悖论的根源在于混淆了观察性条件和干预性条件因果贝叶斯网通过明确因果方向解决了这一问题12.3因果结构与反事实条件三类因果推理问题在前两节中，已经讨论了如何计算以下两类概率：第一类：观察性概率给定任意一位患者，假如观察到该患者采用了A疗法，则该患者最终被治愈的概率第二类：干预性概率给定任意一位患者，假如强行让该患者采用A疗法，则该患者最终被治愈的概率第三类：反事实概率给定任意一位患者，若已知该患者采用了A疗法但最终未被治愈，那么若当初该患者选择不采用A疗法的话被治愈的概率反事实条件的重要性第三类问题的特点对于因果关系的认识具有重要的作用但同时这类问题的答案又是最难被知晓的患者X采用了A疗法但最终未被治愈，然而要是当初该患者不采用A疗法的话一定会痊愈。（*）论断(*)的重要性根据(*)几乎可以立即断定：没有被治愈的原因正是采用A疗法。反事实条件的验证困难验证的困难要确认(*)本身是否正确却极为困难：因为事实上目前该患者已经采用了A疗法不可能让时间倒退回患者还没有被治疗的时候并强迫患者改变其选择从而验证上述论断是否正确反事实条件的真值即便像(*)这类论断几乎无法被直接验证，一般也承认：它具有真值或者为真的概率断定(*)为真的概率是60%，似乎与断定"今天地面湿"的概率是60%没有本质区别差别仅在于像"今天的地面湿"这类命题仅和当前事实相关，其真假可以被直接验证事实性命题与反事实条件句事实性命题"今天地面湿""患者X采用了A疗法但最终未被治愈"仅和当前事实相关反事实条件句"要是当初该患者不采用A疗法的话一定会被治愈"关乎不同于当前事实的情况反事实命题(*)这样包含反事实条件的命题由事实性命题与反事实条件句共同构成反事实命题的逻辑结构从谓词逻辑的角度论断(*)实际上是一个合取式：由"患者X采用了A疗法但最终未被治愈"以及"要是当初该患者不采用A疗法的话一定会被治愈"这两个合取肢组成中间用合取联结词"然而"连接进一步分解"患者X采用了A疗法但最终未被治愈"也是一个合取式：由"患者X采用了A疗法"以及"患者X未被治愈"这两个合取肢组成因果推理的形式语言定义反事实条件句之前的准备在定义反事实条件句的概率之前，必须先定义反事实条件句的意义。形式语言的必要性和谓词逻辑中一样，要描述语句的意义意味着需要通过一系列的语义定义描述反事实条件句为真的条件语义定义最好是基于某种形式语言而不是自然语言因此我们先介绍关于反事实条件句的形式语言（常被称为因果推理的形式语言）形式语言的符号约定变量表示和第11章中一样，用大写英文字母表示变量：用$$V_疗法$$表示患者是否采用A疗法用$$V_痊愈$$表示患者是否痊愈默认用1表示"是"、用0表示"否"事实命题的表示$$V_疗法=1$$表示"患者采用了A疗法"$$V_痊愈=0$$表示"患者没有痊愈"逻辑联结词用$$∧$$表示"且"例如：$$V_疗法=1∧V_痊愈=0$$表示"患者采用了A疗法但未痊愈"反事实条件句的形式表示带方括号的式子这套语言用带有方括号的式子表示反事实条件句。例子："要是当初该患者不采用A疗法的话一定会痊愈"可以表示为：$$[V_疗法=0]V_痊愈=1$$前件与后件$$[V_疗法=0]$$（"该患者不采用A疗法"）被称为前件$$V_痊愈=1$$是后件复杂前件的简化表示前件可以是合取式一个反事实条件句前件也可以是一个合取式：例如$$X_1=x_1∧X_2=x_2∧X_3=x_3$$，可以简写为$$X_1=x_1,X_2=x_2,X_3=x_3$$向量表示法为了简化表达，常常用$$X=x$$来表示：$$X_1=x_1,X_2=x_2,...,X_n=x_n$$或者$$X_1=x_1∧X_2=x_2∧...∧X_n=x_n$$例子$$[X_1=x_1,X_2=x_2,X_3=x_3]Y_1=y_1∧Y_2=y_2$$可简写为$$[X=x]Y=y$$结构因果模型的引入语义规则的基础定义因果推理的形式语言后，我们将定义该形式语言中语句为真的条件。基于结构因果模型因果推理形式语言的语义规则将基于结构因果模型来定义。注意为了避免过多的技术细节，这里没有给出完整的定义，但至少已经大致了解因果推理形式语言中的语句大概长什么样子了。定义78：结构因果模型一个基于结构方程的因果模型是一个三元组$$⟨S,F,A⟩$$。字符集$$S=(U,V,R)$$$$U$$是外部变量的集合$$V$$是内部变量的集合对于每个$$X∈U∪V$$，$$R(X)$$是$$X$$这个变量的取值范围$$F$$是结构方程的集合对任意内部变量$$X$$，$$F$$包含了一个结构方程$$f_X$$：$$f_X$$是从对$$X$$外所有变量的所有可能的赋值到$$R(X)$$的映射预设$$F$$中的结构方程具有唯一解$$A$$是一个对$$S$$中所有变量的完整赋值且满足如下性质：对于每个$$X∈V$$，$$A(X)=f_X((A)^{-X})$$其中$$(A)^{-X}$$表示$$A$$中关于$$U∪V\{X}$$这部分变量的子赋值结构因果模型的直观含义结构因果模型表征了三件事情：①当前场景下有哪些变量包括它们分别有怎样的取值范围②这些变量具体是怎样相互影响的通过结构方程集$$F$$描述变量间的因果影响机制③当前情况下这些变量事实上具有怎样的值通过赋值$$A$$描述每个变量的实际状态外部变量与内部变量字符集$$S$$的作用明确当前场景下有哪些变量，并把所有的变量分成两类：外部变量（集合$$U$$）不受其他变量影响的变量内部变量（集合$$V$$）受其他变量影响的变量结构方程的作用集合$$F$$每一个结构方程$$f_X$$分别描述了内部变量$$X$$是如何受其他变量影响的外部变量不受其他变量影响，所以没有相应的结构方程结构方程$$f_X$$的功能当输入变量$$X$$以外所有其他变量的数值时$$f_X$$将输出$$X$$在因果影响下所应该具有的值赋值$$A$$的含义$$A$$是对所有变量的赋值意味着$$A$$事无巨细地描述了每一个变量的实际状态。符合因果律的要求$$A(X)=f_X((A)^{-X})$$意味着：在$$A$$这种状况下输入$$X$$以外的变量数值后$$X$$的数值确实如同$$f_X$$所预测的那样也就是说$$X$$没有违反因果规律为什么需要这个要求如果每一个内部变量$$X$$都是如此，那就意味着$$A$$这种状况完全符合因果律，而$$A$$作为实际情况的描述确实应当完全符合因果律。例子：暖气与水管结冰可以用结构因果模型$$⟨S,F,A⟩$$来刻画暖气与水管结冰之间的因果影响。变量设定$$U$$：决定暖气是否开着的外部因素$$H$$：暖气是否打开$$F$$：水管是否结冰变量分类$$U$$是外部变量$$H$$与$$F$$是内部变量因此$$F$$中包含$$f_H$$与$$f_F$$这样两个结构方程水管结冰例子的结构方程表12-4水管结冰例子中的结构方程$$f_H$$：UF输出000101010111$$f_F$$：UH输出001101010110水管结冰例子的实际状况实际情况的赋值假设在实际情况下暖气并没有开而水管结冰了，因此：$$A(U)=0$$$$A(H)=0$$$$A(F)=1$$验证符合因果律不难验证：$$A(H)=f_H(U=0,F=1)=0$$✓$$A(F)=f_F(U=0,H=0)=1$$✓因此，$$⟨A,F,S⟩$$确实符合结构因果模型的定义。水管结冰例子的因果结构图图12-4水管结冰例子的因果结构直观理解⟨S,F,A⟩刻画了这样一种情况：H直接受U影响，影响方式是H的值总是和U保持一致F直接受H影响，影响方式是F的值总是和H的值相反实际情况是$$U=0,H=0,F=1$$反事实条件句的真假判别需要考虑的问题如何判断一个反事实条件句相对于这样一种情况的真假？例子："要是暖气开着，那么水管不会结冰"，用形式语言表达即$$[H=1]F=0$$，从直观上说该语句相对于上面的情况为真。两个步骤判断反事实条件句的真假时，需要遵循：根据反事实条件句的前件改变当前的情况使得该情况符合前件在改变后的那种情况下衡量后件的真假定义79：语义规则（第一部分）定义79.令$$⟨S,F,A⟩$$为一个结构因果模型，因果推理的形式语言的语句相对于结构因果模型为真的条件递归地定义为：事实性命题如果$$φ$$是一个形如$$X=x$$的语句，那么$$⟨S,F,A⟩⊨X=x$$当且仅当$$A(X)=x$$合取式如果$$φ$$是一个形如$$φ∧ψ$$的语句，那么$$⟨S,F,A⟩⊨φ∧ψ$$当且仅当$$⟨S,F,A⟩⊨φ$$并且$$⟨S,F,A⟩⊨ψ$$定义79：语义规则（第二部分）反事实条件句如果$$φ$$是一个形如$$[X=x]Y=y$$的语句：那么$$⟨S,F,A⟩⊨[X=x]Y=y$$当且仅当$$⟨S,F_X=x,A_X=x⟩⊨Y=y$$关键概念其中，$$⟨S,F_X=x,A_X=x⟩$$表示：对一个结构因果模型$$⟨S,F,A⟩$$进行把$$X$$的值变为$$x$$这样的干预后所得的结果。定义80：干预操作（第一部分）定义80.令$$X=x$$是一个形如$$X_1=x_1,X_2=x_2,...,X_n=x_n$$的序列（其中$$X_1,X_2,...,X_n$$都是$$V$$中的变量）。对一个结构因果模型$$⟨S,F,A⟩$$进行把$$X$$的值变为$$x$$这样的干预后所得的结果记作$$⟨S,F_$$X=x$$$$,A_$$X=x$$^F⟩$$。新的结构因果方程集$$F_$$X=x$$={f_V'|V∈V}$$由以下结构因果函数构成：(i)不在$$X$$中的内部变量$$V$$$$f_V'$$与先前的$$f_V$$完全一样(ii)在$$X$$中的变量$$V$$（不妨假设$$V$$就是$$X$$中的某个$$X_i$$而$$X=x$$中有$$X_i=x_i$$这样一个等式）$$f_$$X_i$$'$$将会是一个常函数：无论$$f_$$X_i$$'$$的输入是什么，$$f_$$X_i$$'$$的输出都将是$$x_i$$定义80：干预操作（第二部分）$$A_X=x$$的定义是在对外部变量赋值与$$A$$一样的情况下同时满足$$F_X=x$$的那个赋值（这个赋值是唯一的）。严格地说，$$A_X=x(Y)$$是（唯一）满足下述条件的那个赋值：其中$$(A)^{-X}$$表示$$A$$中关于$$(U∪V)\setminus\{X\}$$那部分变量的赋值。水管结冰例子的干预原结构因果模型假设$$⟨S,F,A⟩$$是之前在水管结冰的例子中所建立的结构因果模型（即图12-4中的模型）。干预操作经过"把$$H$$的值变为1"这样的干预后所得的结果是$$⟨S,F_H=1,A_H=1^F⟩$$。干预后的结构方程$$F_H=1={f_H',f_F}$$如表12-5所示：原本的$$f_H$$被替换为了一个令$$H$$的值始终为1的常函数$$f_H'$$。干预后的结构方程表与赋值计算表12-5干预后的结构方程$$f_H'$$（常函数）：UF输出001101011111$$f_F$$（保持不变）：UH输出001101010110干预后的赋值计算干预后的赋值$$A_H=1^F$$是同时满足$$F_H=1$$中所有的结构方程以及$$U=0$$的唯一解。计算结果：$$A_H=1^F(U)=0$$（外部变量保持不变）$$A_H=1^F(H)=1$$（被干预为1）$$A_H=1^F(F)=0$$（根据$$f_F$$计算）图12-5干预后的因果结构变化说明$$U$$到$$H$$的箭头被切断$$H$$的值被固定为1其他因果关系保持不变基于结构因果模型的逻辑系统基于因果结构模型的逻辑研究在学术界已有较为成熟的结果。Halpern(2000)建立了基于结构因果模型的逻辑，其公理系统如表12-6所示。表12-6基于结构因果模型的逻辑系统公理内