贝叶斯应用试题与详细解答

贝叶斯应用试题与详细解答考试时间：______分钟总分：______分姓名：______一、设事件A和B满足P(A)=0.7,P(B)=0.5,P(A∪B)=0.8。求P(A|B)和P(B|A)。二、已知某城市居民中吸烟者的比例为30%。吸烟者患肺病的概率为1%，非吸烟者患肺病的概率为0.5%。现随机抽取一名居民，发现其患有肺病。求该居民是吸烟者的后验概率。三、设X服从伯努利分布B(θ)，其中0<θ<1，θ未知。X的取值为1表示成功，取值为0表示失败。现获得样本X1,X2,...,Xn，样本容量为n。试用共轭先验分布方法，求参数θ的贝叶斯估计量（在Beta(1,1)先验下）。四、在一个二项分布的贝叶斯分析中，成功概率p未知。假设p的先验分布为Beta(α,β)。进行n次试验，观察到k次成功。写出p的后验分布的表达式。五、某人进行一项实验，可能的结果为A、B、C，对应的条件概率已知如下：P(Y|A)=0.2,P(Y|B)=0.5,P(Y|C)=0.8且P(A)=0.4,P(B)=0.3,P(C)=0.3。若观察到结果Y，求实验最初结果为A的后验概率P(A|Y)。六、设随机变量X服从正态分布N(μ,σ^2)，其中μ未知，σ^2已知为4。X的先验分布为正态分布N(μ_0,τ^2)，其中μ_0=0,τ^2=1。获得样本X1,X2,...,Xn，样本均值记为∑(i=1ton)Xi/n。求μ的贝叶斯估计量（在平方损失下）。七、在一个决策问题中，状态空间Ω={ω1,ω2}，行动空间A={a1,a2}。对应的损失矩阵为：||ω1|ω2|||--|--||a1|5|10||a2|1|8|假设状态ω1和ω2出现的概率分别为P(ω1)=0.6,P(ω2)=0.4。若采取行动a1，观察到结果为ω1的概率为P(a1|ω1)=0.8，观察到结果为ω2的概率为P(a1|ω2)=0.3。若采取行动a2，观察到结果为ω1的概率为P(a2|ω1)=0.7，观察到结果为ω2的概率为P(a2|ω2)=0.6。求采取行动a1和a2的期望损失。八、设事件D表示“病人患有某种疾病”，事件T表示“检测结果为阳性”。已知P(D)=0.01,P(T|D)=0.99,P(T|¬D)=0.05。现对一名随机选取的居民进行检测，结果为阳性。求该居民确实患有该疾病的概率P(D|T)。九、已知一个罐子中装有红、蓝、绿球若干个。红球比例p未知。假设p的先验分布为Beta(2,2)。现进行不放回抽样，抽取3次，观察到的结果为红、红、蓝。求p的后验分布的均值和方差。十、解释贝叶斯决策理论中，后验期望损失（PosteriorExpectedLoss,PEL）的含义。给定后验概率分布P(θ|D)和损失函数L(θ,a)，PEL的计算公式是什么？试卷答案一、P(A|B)=P(A∩B)/P(B)=[P(B|A)*P(A)]/P(B)/P(B)=[P(B|A)*P(A)]/P(B)P(B|A)=P(B∩A)/P(A)=[P(A|B)*P(B)]/P(A)首先计算P(A∩B)=P(A∪B)-P(B)=0.8-0.5=0.3然后计算P(A|B)=P(A∩B)/P(B)=0.3/0.5=0.6接着计算P(B|A)=P(A∩B)/P(A)=0.3/0.7=3/7≈0.4286二、设A表示“吸烟者”，D表示“患肺病”。求P(A|D)。P(A|D)=[P(D|A)*P(A)]/P(D)P(D)=P(D|A)P(A)+P(D|¬A)P(¬A)=0.01*0.3+0.5*0.7=0.003+0.35=0.353P(A|D)=[0.01*0.3]/0.353=0.003/0.353≈0.0085三、X服从B(θ)，先验分布为Beta(α,β)。似然函数L(θ)=θ^k*(1-θ)^(n-k)后验分布P(θ|X1,...,Xn)∝L(θ)*P(θ)∝θ^k*(1-θ)^(n-k)*θ^(α-1)*(1-θ)^(β-1)=θ^(k+α-1)*(1-θ)^(n-k+β-1)这恰好是Beta(k+α,n-k+β)的密度函数。所以参数θ的后验分布为Beta(k+α,n-k+β)。贝叶斯估计量通常取后验分布的均值。E(θ|X1,...,Xn)=(k+α)/(k+α+n-k+β)=(k+α)/(n+α+β)四、先验分布P(θ)∝Beta(α,β)。似然函数L(θ)=θ^k*(1-θ)^(n-k)后验分布P(θ|X1,...,Xn)∝L(θ)*P(θ)∝θ^k*(1-θ)^(n-k)*θ^(α-1)*(1-θ)^(β-1)∝θ^(k+α-1)*(1-θ)^(n-k+β-1)这是一个Beta分布，参数为k+α和n-k+β。即P(θ|X1,...,Xn)~Beta(k+α,n-k+β)。五、P(A|Y)=[P(Y|A)*P(A)]/P(Y)P(Y)=P(Y|A)P(A)+P(Y|B)P(B)+P(Y|C)P(C)=0.2*0.4+0.5*0.3+0.8*0.3=0.08+0.15+0.24=0.47P(A|Y)=[0.2*0.4]/0.47=0.08/0.47≈0.1702六、X~N(μ,4)，先验分布为N(0,1)。似然函数L(μ)∝(1/(2π*2^2))*exp(-(∑(i=1ton)(Xi-μ)^2)/(2*4))=(1/(16π))*exp(-∑(i=1ton)(Xi^2-2Xiμ+μ^2)/8)=(1/(16π))*exp(-∑Xi^2/8+μ∑Xi/4-nμ^2/8)令∑Xi=nμ̄，则L(μ)∝exp(-nμ^2/8+nμ̄μ/4-∑Xi^2/8)∝exp(-n/8*[μ^2-2μ*(μ̄/n)+(μ̄/n)^2-(μ̄/n)^2]-∑Xi^2/8)∝exp(-n/8*[μ-μ̄]^2/n-∑Xi^2/8)∝exp(-[μ-μ̄]^2/8-∑Xi^2/8)后验分布密度函数p(μ|X)∝L(μ)*p(μ)∝exp(-[μ-μ̄]^2/8)*exp(-(μ^2/2))∝exp(-(μ^2/2-μ̄μ/4))=exp(-(μ^2/2-μ̄μ/4+(μ̄^2/8)-(μ̄^2/8)))=exp(-[(μ-μ̄/2)^2-(μ̄^2/8)])=exp(-(μ-μ̄/2)^2/(2*(1/n)))*exp(-μ̄^2/8)这是一个正态分布N(μ̄/2,2/n)。贝叶斯估计量（平方损失）为后验均值。E(μ|X)=μ̄/2七、计算采取行动a1的期望损失E[L|a1]：E[L|a1]=5*P(ω1|a1)+10*P(ω2|a1)=5*0.8+10*0.3=4+3=7计算采取行动a2的期望损失E[L|a2]：E[L|a2]=1*P(ω1|a2)+8*P(ω2|a2)=1*0.7+8*0.6=0.7+4.8=5.5比较E[L|a1]和E[L|a2]，E[L|a2]<E[L|a1]，故采取行动a2更优。期望损失分别为7和5.5。八、设A表示“吸烟者”，D表示“患肺病”，T表示“检测结果阳性”。求P(D|T)。P(D|T)=[P(T|D)*P(D)]/P(T)P(T)=P(T|D)P(D)+P(T|¬D)P(¬D)=0.99*0.01+0.05*0.99=0.0099+0.0495=0.0594P(D|T)=[0.99*0.01]/0.0594=0.0099/0.0594≈0.1667九、先验分布P(p)∝Beta(α,β)=Beta(2,2)。似然函数L(p)=p^k*(1-p)^(n-k)=p^1*(1-p)^2=p*(1-p)^2(k=1,n=3,抽到红红蓝，成功1次)。后验分布P(p|X)∝L(p)*P(p)∝p*(1-p)^2*p^(2-1)*(1-p)^(2-1)∝p^2*(1-p)^3这是一个Beta(2+1,2+1)=Beta(3,3)的分布。Beta(α,β)分布的均值为α/(α+β)，方差为αβ/[(α+β)^2*(α+β+1)]。所以后验分布的均值为3/(3+3)=3/6=1/2。方差为3*3/[(3+3)^2*(3+3+1)]=9/[36*7]=1/28。十、