2025年大学《应用统计学》专业题库- 贝叶斯统计与参数估计

2025年大学《应用统计学》专业题库——贝叶斯统计与参数估计考试时间：______分钟总分：______分姓名：______一、简述贝叶斯统计的基本观点，并说明它与经典统计推断的主要区别。二、设总体X服从均匀分布U(θ,θ+2)，其中θ未知，假设关于θ的先验分布为U(0,10)，现获得样本观测值x1,x2,...,xn，样本独立同分布。写出θ的后验分布的表达式。三、已知总体X的密度函数为f(x|θ)=θx^(θ-1),0<x<1,θ>0。假设θ的先验分布为Gamma分布Ga(α,β)，即f(θ)=θ^(α-1)*(β/Γ(α))*exp(-βθ),θ>0。求θ的后验分布。四、在习题三中，假设观测到样本x1=0.3,x2=0.7,x3=0.4(n=3)。若取先验分布参数α=2,β=1，计算θ的后验均值（贝叶斯估计量的一种）。五、设总体X~N(μ,σ^2)，σ^2已知。假设μ的先验分布为N(0,τ^2)，即f(μ)=(1/sqrt(2πτ^2))*exp(-μ^2/(2τ^2))。获得样本x1,x2,...,xn，样本独立同分布。求μ的后验分布。六、在习题五中，若σ^2=4，n=25，样本均值为bar{x}，先验参数τ=2。写出μ的后验分布的表达式，并求出μ的无偏贝叶斯估计量（后验均值）。七、解释什么是共轭先验分布。举例说明在什么情况下正态分布参数（均值未知，方差已知）的似然函数与先验分布的共轭是什么分布。八、设总体X~Poisson(λ)，其中λ未知。假设λ的先验分布为Gamma分布Ga(a,b)，即f(λ)=λ^(a-1)*(b^a/Γ(a))*exp(-bλ),λ>0。获得样本x1,x2,...,xn，样本独立同分布。证明λ的后验分布仍然是Gamma分布，并写出其参数。九、某项研究表明，某种疾病的患病率θ可能较低。研究者假设θ的先验分布为Beta分布B(1,20)，即f(θ)=θ^0*(1-θ)^(20-1),0<θ<1。后来进行了调查，发现随机抽取的100人中有3人患病。根据此样本信息，求θ的后验均值。十、解释贝叶斯风险R(θ,δ贝叶斯)的定义。在比较贝叶斯估计量与矩估计量（如最大似然估计量）的优劣时，通常考虑哪个贝叶斯统计量？为什么？试卷答案一、贝叶斯统计认为参数是未知的随机变量，并存在一个先验分布来描述对其状态的信念。统计推断的目标是更新这种信念，得到后验分布。贝叶斯推断直接结合先验信息和样本信息得出后验分布，从而做出推断。经典统计推断（频率派）通常假设参数是固定的未知常数，推断基于样本频率性质，关注点在于估计量或检验的长期行为（如一致性、渐近分布），而不直接赋予参数概率分布。二、由贝叶斯定理，后验分布正比于似然函数乘以先验分布。似然函数L(θ|x1,...,xn)=Πf(x_i|θ)=θ^(n*θ-1)*(Πx_i)^(θ-1)=θ^(n*θ-1)*(Πx_i)^(θ-1)。先验分布f(θ)=(1/10)θ^1*exp(-θ/10)。后验分布f(θ|X)∝L(θ|x1,...,xn)*f(θ)=θ^(n*θ-1)*(Πx_i)^(θ-1)*θ^1*exp(-θ/10)=θ^(n*θ)*(Πx_i)^(θ-1)*exp(-θ/10)。令c=(Πx_i)^(θ-1)，则f(θ|X)∝θ^(n*θ)*exp(-θ/10)。这是形如Γ(α,β)的密度函数，其中α=n+1，β=1/10。所以θ|X~Gamma(n+1,1/10)。三、同样应用贝叶斯定理，后验分布正比于似然函数乘以先验分布。似然函数L(θ|x1,...,xn)=Πθ*(x_i)^(θ-1)=θ^(n*θ)*(Πx_i)^(n*θ-1)。先验分布f(θ)=θ^(α-1)*(β/Γ(α))*exp(-βθ)。后验分布f(θ|X)∝L(θ|x1,...,xn)*f(θ)=θ^(n*θ)*(Πx_i)^(n*θ-1)*θ^(α-1)*(β/Γ(α))*exp(-βθ)=θ^(n*θ+α-1)*(β/Γ(α))*(Πx_i)^(n*θ-1)*exp(-βθ)。令c=(β/Γ(α))*(Πx_i)^(n*θ-1)，则f(θ|X)∝θ^(n*θ+α-1)*exp(-βθ)。这是形如Gamma(α+n,β)的密度函数。所以θ|X~Gamma(α+n,β)。四、由习题三知，θ|X~Gamma(α+n,β)。贝叶斯估计量通常取后验均值。后验均值E[θ|X]=(α+n)/β。将α=2,β=1,n=3代入，E[θ|X]=(2+3)/1=5。五、由贝叶斯定理，后验分布正比于似然函数乘以先验分布。似然函数L(μ|X)∝Π(1/sqrt(2πσ^2))*exp(-(x_i-μ)^2/(2σ^2))=(1/(sqrt(2πσ^2))^n)*exp(-1/(2σ^2)*Σ(x_i-μ)^2)。先验分布f(μ)=(1/sqrt(2πτ^2))*exp(-μ^2/(2τ^2))。后验分布f(μ|X)∝L(μ|X)*f(μ)=exp(-1/(2σ^2)*Σ(x_i-μ)^2)*exp(-μ^2/(2τ^2))=exp(-1/(2σ^2)*[Σx_i^2-2μΣx_i+nμ^2])*exp(-1/(2τ^2)*μ^2)。合并指数项：=exp(-[1/(2σ^2)*Σx_i^2-2μ(Σx_i)/n+nμ^2/(2σ^2)+μ^2/(2τ^2)])=exp(-[1/(2σ^2)*Σx_i^2-(μ^2*[n/(2σ^2)+1/(2τ^2)])+μ*(2(Σx_i)/n)])。令A=Σx_i^2/n，B=Σx_i/n，C=n/(2σ^2)+1/(2τ^2)。则后验分布f(μ|X)∝exp(-[A+μ^2*C-2μB])。这是形如N(μ后,τ后^2)的密度函数，其中μ后=-(-2B)/(2C)=B/C=(Σx_i/n)/[n/(2σ^2)+1/(2τ^2)]=(2σ^2*bar{x})/(nσ^2+τ^2)，τ后^2=1/C=1/[n/(2σ^2)+1/(2τ^2)]=(2σ^2τ^2)/(nσ^2+τ^2)。所以μ|X~N((2σ^2*bar{x})/(nσ^2+τ^2),(2σ^2τ^2)/(nσ^2+τ^2))。六、由习题五的结果，已知μ|X~N((2*4*bar{x})/(25*4+4),(2*4*2^2)/(25*4+4))，即μ|X~N((8bar{x})/(100+4),(16*4)/(100+4))，μ|X~N((8bar{x})/104,64/104)，μ|X~N((2bar{x})/26,16/26)。贝叶斯估计量通常取后验均值。后验均值E[μ|X]=(2bar{x})/26。七、共轭先验分布是指选择一个先验分布，使得在给定似然函数的条件下，后验分布与先验分布属于同一概率分布族。例如，在正态分布参数μ的估计问题中，若总体X~N(μ,σ^2)，σ^2已知，似然函数是正态分布密度函数。如果选择μ的先验分布为正态分布，即μ~N(μ0,τ^2)，那么根据贝叶斯定理推导（类似于习题五的过程），可以证明μ的后验分布仍然是正态分布N(μ贝,τ后^2)，其中μ贝和τ后^2由先验参数μ0,τ^2和样本信息（样本均值bar{x}）决定。因此，正态分布的先验与正态似然函数构成共轭，其共轭先验是正态分布。八、由习题三知，Poisson分布的似然函数形式为θ^(n*θ)*(Πx_i)^(-n*θ)。先验分布为Gamma(a,b)。后验分布f(θ|X)∝L(θ|x1,...,xn)*f(θ)=θ^(n*θ)*(Πx_i)^(-n*θ)*θ^(a-1)*(b^a/Γ(a))*exp(-bθ)=θ^(n*θ+a-1)*(b^a/Γ(a))*(Πx_i)^(-n*θ)*exp(-bθ)。令c=(b^a/Γ(a))*(Πx_i)^(-n*θ)，则f(θ|X)∝θ^(n*θ+a-1)*exp(-bθ)。令α'=n*α+n，β'=b。则f(θ|X)∝θ^(α'θ-1)*exp(-β'θ)。这是形如Gamma(α',β')的密度函数。所以θ|X~Gamma(α'+n,β')=Gamma(nα+n,b)。九、θ的先验分布为Beta(1,20)。样本信息：n=100,观测到的患病人数k=3。这相当于从Beta分布中抽取了一个样本，样本量为n=100，其中成功次数k=3。根据Beta分布的再生性质，如果X1,...,Xn是来自Beta(a,b)分布的独立同分布样本，那么ΣX_i~Beta(na,nb)。因此，θ的后验分布为Beta(na+k,nb+n-k)。代入a=1,b=20,n=100,k=3，后验分布为Beta(1*100+3,20*100+100-3)=Beta(103,1977)。后验均值E[θ|X]=α'/(α'+β')=na+k/(na+k+nb+n-k)=(nα+k)/(nα+nβ+n)。代入数值：E[θ|X]=(100*1+3)/(100*1+100*20+100)=103/(100+2000+100)=103/2200。计算结果：103/2200=0.036818...。十、贝叶斯风险R(θ,δ贝叶斯)是指对于给定的参数真值θ和贝叶斯估计量δ贝叶斯，损失函数L(θ,δ贝叶斯)的期望值，即R(θ,δ贝叶斯)=E_θ[L(θ,δ贝叶斯)]。它衡量了贝叶斯估计量在所有可能的参数值θ下的平均损失。在比较贝叶斯估计量（如后验均值）与矩估计量（如MLE）或经典估计