决策问题的分类与决策原则.doc

17 / 18第四章 贝叶斯分析Bayesean Analysis4.0引言一、决策问题的表格表示损失矩阵 对无观察(No-data)问题 a= 可用表格(损失矩阵)替代决策树来描述决策问题的后果(损失): ()()()或 ()()()损失矩阵直观、运算方便 二、决策原则 通常，要根据某种原则来选择决策规则，使结果最优(或满意)，这种原则就叫决策原则，贝叶斯分析的决策原则是使期望效用极大。本章在介绍贝叶斯分析以前先介绍芙他决策原则。三、决策问题的分类：1.不确定型(非确定型) 自然状态不确定,且各种状态的概率无法估计.2.风险型 自然状态不确定,但各种状态的概率可以估计.四、按状态优于： I, 且至少对某个i严格不等式成立, 则称行动按状态优于4.1 不确定型决策问题一、极小化极大(wald)原则(法则、准则) l ( , ) 或 例:1087941921316121469810 各行动最大损失: 13 16 12 14 其中损失最小的损失对应于行动. 采用该原则者极端保守, 是悲观主义者, 认为老天总跟自己作对.二、极小化极小 l ( , ) 或 例:1087941921316121469810 各行动最小损失: 4 1 7 2 其中损失最小的是行动. 采用该原则者极端冒险，是乐观主义者，认为总能撞大运。三、Hurwitz准则上两法的折衷，取乐观系数入 l ( , )（1 l ( , )例如 =0.5时 : 2 0.5 3.5 1 （1: 6.5 8 6 7 两者之和： 8.5 8.5 9.5 8其中损失最小的是：行动四、等概率准则(Laplace) 用 来评价行动 的优劣 选 上例： : 33 34 36 35 其中行动 的损失最小五、后梅值极小化极大准则(svage-Niehans)定义后梅值 =- 其中为自然状态为 时采取不同行动时的最小损失.构成后梅值(机会成本)矩阵 S= ,使后梅值极小化极大,即: 例:损失矩阵同上, 后梅值矩阵为: 3 1 0 2 3 0 8 1 1 4 0 2 0 3 2 4各种行动的最大后梅值为: 3 4 8 4 其中行动a1 的最大后梅值最小,所以按后梅值极小化极大准则应采取行动1.六、Krelle准则：使损失是效用的负数(后果的效用化),再用等概率(Laplace)准则.七、莫尔诺(Molnor)对理想决策准则的要求 (1954) 1.能把方案或行动排居完全序； 2.优劣次序与行动及状态的编号无关； 3.若行动 按状态优于，则应有 优于 ； 4.无关方案独立性：已经考虑过的若干行动的优劣不因增加新的行动而改变； 5.在损失矩阵的任一行中各元素加同一常数时，各行动间的优劣次序不变； 6.在损失矩阵中添加一行，这一行与原矩阵中的某行相同，则各行动的优劣次序不变。4.2 风险型决策问题的决策原则一、最大可能值准则 令 ()=max() 选 使 l(,)=l(,)例：()0.276.560.53450.3410 () 概率最大, 各行动损失为 3 4 5 应选行动二、贝叶斯原则使期望损失极小： l( , ) () 上例中,各行动的期望损失分别为 4.1 3.6 3.7, 对应于的期望损失3.6最小应选.三、贝努利原则损失函数取后果效用的负值,再用Bayes原则求最优行动.四、EV(均值方差)准则 若 且 则优于通常不存在这样的 上例中: E 4.1 3.6 3.7 V() 2.29 3.79 5.967不存在符合EV准则的行动, 这时可采用f(,)的值来判断(为效益型后果的期望) - f( ，)= - -(+) f越大越优.五、不完全信息情况下的决策原则(Hodges-Lehmann原则) 状态概率分布不可靠时, 可采用: ()= + i=1,2, ,m j=1,2,n 越大越优.4.3贝叶斯定理一、条件概率1.A、B为随机试验E中的两个事件 P(AB)=P(AB)/P(B)由全概率公式: j=1,2,n 是样本空间的一个划分, P(B)=P(B|)P()得Bayes公式 P(|B)=P(B|)P()/P(B) = P(B|)P()/P(B|)P()2. 对,两个随机变量条件概率密度 f(| x)=f(x |)f()/f(x) 在主观概率论中 (| x)=f(x |)()/m(x)其中：()是的先验概率密度函数 f(x)是出现时，x的条件概率密度,又称似然函数. m(x)是x的边缘密度, 或称预测密度. m(x)= f(x |)() d 或 p(x|)() (x)是观察值为x的后验概率密度。例：A 坛中白球30%黑球70% B 坛中白球70%黑球30%两坛外形相同，从中任取一坛，作放回摸球12次,其中白球4次，黑球8次，求所取为A坛的概率.解：设观察值4白8黑事件为x，记取A坛为 , 取B坛为 在未作观察时，先验概率p()=p()=0.5 则在作观察后，后验概率 P(|x)=p(x|)p()p(x|)p()+p(x|)p() =0.5(0.5+0.5) =() =0.24010.2482 =0.967 显然, 通过试验、观察、可修正先验分布.4.4 贝叶斯分析的正规型与扩展型一、正规型分析由Baysean原则：先验分布为()时，最优的决策规则是贝叶斯规则,使贝叶斯风险 r(, )= r(,(x)其中：r(,(x)= R(,(x) = l(,(x) = l(,(x) f(x |)dx() d (1) 据(1)式，选使r(，)达到极小，这就是正规型的贝叶斯分析。 在解实际问题时，求使(1)式极小的(x)往往十分困难，尤其在状态和观察值比较复杂时，集中的策略数目很大，穷举所有的(x)有困难，且计算量颇大。实际上可用下法：二、扩展型贝叶斯分析(Extensive Form Analysis)在(1)式中因l(,)-，f(x)，()均为有限值。由Fubini定理，积分次序可换即r(,(x)= l(,(x) f(x |)dx() d = l(,(x) f(x |)() ddx (2)显然，要使(2)式达到极小，应当对每个xX，选择，使 l(,(x) f(x |)() d （2）为极小(x)=a 若对给定的x,选a，使 l(,(x) f(x |)() d 为极小亦即，使 l(,a) f(x |)() d =l(,a) (|x) d 或 l(,a)p(|x) (3) 达极小，即可使(1)式为极小.结论： 对每个x，选择行动a，使之对给定x时的后验分布(x)的期望损失为极小，即可求得贝叶斯规则。 这种方法叫贝叶斯分析的扩展型，由此确定的贝叶斯规则叫formal Bayesean Rule Raiffa Sehlaifer,1961年提出。Note使(3)式达极小的行动可能不只一个，即可能有多个贝叶斯规则；扩展型比正规型更直观，也容易计算，故更常用；许多分析人员只承认扩型，理由是： i，(x)描述了试验后的的分布，比()更客观，因此，只要损失函数是由效用理论导出的(即考虑了DMer的价值判断、风险偏好)，在评价行动a的优劣时就应当用后验期望损失。 ii, r(，)是根据()求出的，而用先验分布()来确定行动a并不一定适当。 从根本上讲，这种观点是正确的。无论从何种观点来进行贝叶斯分析，从理论上讲，结果是一样的，所以采用何种方法可视具体问题，据计算方便而定。已经证明，形式贝叶斯分析对一类非随机性决策规则是成立的，也可以证明它对随机性决策规则同样成立。使所有x上后验期望损失极小的贝叶斯规则也是随机性规则集*中的Bayes规则，因此，总可以找到一验期望损失极小的非随机性规则。三、例(先看无观察问题)农民选择作物问题，设某地旱年占60%，正常年景占40%; 种植耐旱作物种不耐旱作物，后果矩阵为: 20 0 60 100决策人的效用函数 u(y)=(1-)解：i令：l(y)=1-u(y) ii,作决策树：iii, 在无观察时, R=l, r= l(,a)() r(, )=l(,)()+l(,)() =0.62 0.6+0.19 0.4 =0.448 r(, )= l(,)()+l(,)() =1.0 0.6+0 0.4 =0.6风险r小者优, =，是贝叶斯规则, 即贝叶斯行动.即应选择耐旱作物。四、例(续上)设气象预报的准确性是0.8，即p(|)=0.8 p(|)=0.8其中，预报干旱 预报正常年景则 m()=p(|)()+p(|)() =0.8 0.6+0.2 0.4=0.56 m()=0.44 (|)=p(|)()m() =0.8 0.60.56=0.86 (|)=p(|)()m() =0.2 0.60.44=0.27 (|)=0.14 (|)=0.731. 正规型分析策略: = () =()r(, )=l (,()p(|)()4-7 = l (,)p(|)()+l (,)p(|)() + l (,)p(|)()+l (,)p(|)() =0.620.80.6+1.0 0.20.6+0.19 0.20.4+0.0 0.80.4 =0.4328策略: =() =() r(, )=l (, ()p(|)() = l (,)p(|)()+l (,)p(|)() + l (,)p(|)()+l (,)p(|)() = 0.620.20.6+1.00.80.6+0.190.8 0.4+0.00.8 0.4 =0.6152策略: = () =() r(, )=0.45策略： =（） =（） r(, )=0.6r(, ) r(, ) r(, ) r(, ) fff 是贝叶斯行动。 482.扩展型之一：据(2) : l(,(x) f(x |)() d 记作r给定(预报干旱):采用 r=l (,)p(|)() = l (,)p(|)() + l (,)p(|)() = 0.620.80.6+0.19 0.20.4 =0.3128采用 r= l (,)p(|)() + l (,)p(|)() =0.48 风险小者优 给定应选给定(预报天气正常) 采用 r= l (,)p(|)() + l (,)p(|)() =0.620.20.6 + 0.19 0.8 0.4 =0.135 采用 r= l (,)p(|)() + l (,)p(|)() =1.00.20.6 + 0 =0.12 给定应选由此得形式Bayes规则 : = () =() 3.扩展型之二：据(3)式 即l(,a) (|x) d 或 l(,a)(|x)(记作r”)给定, 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =0.62 0.86 + 0.19 0.14 =0.56 采用 r”= l(,)(|) + l(,)(|) = 1.0 0.86 + 0 0.14 =0.86给定，应选行动.给定 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =0.62 0.27 + 0.19 0.73 = 0.3061 采用 r”= l(,)(|) = l(,)(|) + l(,)(|) =1.0 0.27 + 0 0.73 =0.27给定 应选择行动.形式Bayes规则: = () =()4.5 非正常先验与广义贝叶斯规则一、非正常先验(Improper Prior)概率测度的三个条件：i,规范性：P()=1ii,非负性：0P(A)1iii,可列可加性在设定先验分布时，若不满足规范性，则称为非正常先验.二、广义贝叶斯规则(General Bayesean Rule)1.定义：决策问题的损失函数为l(,a)，()为非正常先验分布，对给定的，使i, l(,(x) f(x |)() d 为极小，或者ii, 0m(x)时,使 l(,a) (|x) d 为极小的策略(行动)，构成广义贝叶斯规则.2.Nole：在许多重要场合，所有允许的都是GBR 在无法得到正常先验时，除此别无良策； GBR不一定是最好的决策规则4.6 一种具有部分先验信息的贝叶斯分析法一、概述1.思路：在部分先验信息难以唯一地确定()时，抛开唯一性要求，转而确定与已知先验信息相符的先验分布的集。2.符号i, 和A为有限集：=, A=, 损失矩阵L= =l (,)ii,根据贝叶斯分析的扩展型 给定x，应从集合A中选一行动 ，使 q(a)= l (,a) p(|)() 为极小,亦即 = arg q(a) 或 q()q() j=1,2,m (4) 则 为贝叶斯行动.记p(|)为(x) , () 为L=, =,则 l (,a) p(|)()=Ldiag(x) (4)式可表示成 Ldiag(x)Ldiag(x) i=1,2, ,n (5) j=1,2, ,m(5)式即 (L-1 L) diag(x) 0 (5)记 (L-1 L) diag(x) 为D(x), 式(5)可表示为: D(x) 0 (5”)3. (5”)式的含义(1)给定x，先验分布为时，应选 使5(即5, 亦即5”)式成立。(2) 对给定的x，要使 成为贝叶斯行动,应满足 5(即5, 亦即5”)式. 由(2)可以定义 (x)= | D(x) 0 ;, 0 式中, 是先验分布的所有可能的集, (x) 是的一个子集，它能i,使 对给定x为Bayes行动 ii,满足规范性和非负性二、分析步骤1. 确定(x)2. 确定先验信息对先验分布()的约束： Q= | A0, , 0 式中, A0是先验信息对先验分布()的约束.3.结论：当 (x) 与Q有非空交集时，为Bayes行动.三、例已知：i, Q= | 0.5, , , ii,由已往的统计资料，三种病患者的白血球计数： f(x| )= N( 3000, 1000 ) f(x