概率论与数理统计

, 设有一个总体X总体的分布函数为F其中为未知参数可以是向量从该总体抽取容量为n的样本X1X2要依据该样本对参数作出估计，或估计g(). x1x2xn ˆ(X1X2Xn)称为的估计量不引 的情况下,二者统称为的估简记E(X)

E( Xnni

Xi X是参数的估计量现检查了150只纱锭在某一时间段内断头的次数01239425161x

xk1.133

x是参数的估计值

设(X1X2Xn)是来自于总体X则X1X2Xn相互独立同分布

1

X nin

Xi

E(X X1,X2,…,

1 1nAk n

E(Xk)kE(Xk),k1,2,,k n用Ak Xn

去估计 X1X2Xn)是来自总体X的样本求的矩估计EX2

解得2EX以X代EX得参数的矩估计为

2

Xinnin 设总体X~B(m,p),其中m已知,p(0p1)未知,(X1,X2,,Xn)是来自总体X的样本,求p的矩估计量.EXmp,解得pEXm以X代EX得参数p的矩估计量为ˆXm例2（续）p每次从中10X1,X2Xn独立同X~B(10pp的矩估计. E(X)=10p，解得pE(X).以X代EX

得参数p的矩估计为ˆ X若给定n次抽样观测的数据x1x2则p的矩估计值为ˆ x10 设总体X的概率密度f(x) 其他

1X1X2Xn)是来自总体X的样本求的矩估计1解EX)

xf(x)dx

x(1)x1 1

1解得2EX11E(X以X代EX

得的矩估计为2X11<>例4X在(a,b)上服从均匀分布其中ab未知X1X2,Xn是来自总体X的样本,求a,b的矩估计量. aE(X) (b

ab2E(X)D(X)[E(X)]

2 2以X来代EX),以A2来代EX2 设总体分布含有m个122E(X)(,,,2 mm m ,i 得到ˆ(A,A,, ),i i,i=12 设总体X的均值和方差2都存在,且 0,但和2均为未知,又设 ,X,,X X的一个样本求和2的矩估计量 E(X)E(X2)D(X)[E(XE(X

2

E(X2)E(X)2以

X来代EX

以A2来代EX2得参数和2的矩估计分别为

2AA 1 1 1

1

X2nX2

(XX)2nn nn 例如X~N(,22未知ˆX是的矩估计量 1 ( X ni

是的矩估计量

X~U(ab),其中ab未知求ab

计量

E(X)

ab D(X)

,ab2EX12D(X3D(X12D(X3D(X aE(X) 3D(X),即 bE(X) 3D(X).n以n

X

ni

Xi来代EX1 12以

nin

(X

X)来代DXnˆX

3ni1n3n3(iX)i1

X)2ˆX

设(X1X2Xn)X的一个容量为n(x1,x2,…,xn)是相应的样本值. PXx)px;),为待估参数其中是(x1x2…xnn{X1x1X2x2Xnxn}nP(X1=x1,X2=x2,…,Xn=xn)P(Xixi i

（Likelihood

max这样得到的与样本值x1x2xn)有关常记为x2,xn称为参数相应的统计量ˆ(X1X2,Xn称为参数的最大似然估计量 X

P(Xx)px(1p)1x,x

nnP(Xixiinn

nnnn

(1p)1xipi

(1

i lnL(p) xlnp

nxln(1

i i(X1X2Xn)X(x1x2xnlnL(p) xlnp

nxln(1p).

id

n

nndplnL(p)i i 1pˆ1

xi

ˆ

nXi X设总体X~fx;为待估参数设(X1X2Xn)Xnn(x1x2xn是相应的样本值.(X1,X2,…,Xn)的联合密度为n“(X1X2Xn在(x1x2xn附近取值 设X~fx;为待估参数,n称L(Lx1x2xn;fxi;ni 设X~f(x;) 其他 exi,x ~f(x;)

i1,2,,

nn

f(xi;)

nn

xi(X1X2Xn)X(x1x2xn

nn关于求导，并令其等于dlnLn

1

1是最大似然估计量X

xii若再求g(1的最大似然估计 则X是g(的最大似然估计量

X~f(x;)0,未知.求的最大似然估计

n解似然函数

f(xi;)

i

i

i i

i

i

ln 解得的最大似然估计为

nlnni(X1X2Xn)X(x1x2xn样本的似然函数Lx1x2,xn常常可以从方程dL(中解得又因为L()与lnL()在同一处取到极值因此 的最大似然估计也可从方dlnL()

未知参数的情况.此时只需令L i1,2,,k. lnL

i1,2,,k.解出由k个方程组成的方程组即可得各未知 参数(i1,2,k)的最大似然估计值 0),试用最似然估计法分别求出的估计 X~f(x;,

nn f(x

( ( exp i1

i n(x

exp

i n(x 2exp i (x)2 2exp

i

2

nln(2)2

n(xi)2 . . lnL

(x)n n

nn

2

1

n

xi

2

ni1

x)2设的函数u具有单值的反函数假设是的概率分布中的参数ˆ是的最大似然估计如，上例中，X~N方差的最大似然估计为 111nni(xi

(xini1

x)2

设总体X~U[0,其中(0)未知X1X2.Xn)是来自总体X的样本x1x2xn)是相应的样本值

求的最大似然估计

X~f(x;)

,0x解 1

似然函数L(fxi

n lnL()nlndlnL()

Xi~U[0,

,0x

0其它n

i1,2,,i

样本值x1x2xnn,0xi,i1,2,, 其它

,a,ax X~f(x;a,b)b nn

,axib,i1,2,,nn

n

lnL(a,b)

ba

nln(ba).lnL(a,b) blnL(a,b)

bL(a,b)

,axib,i1,2,,nn

样本值x1x2xnˆˆ 2X是的矩估计量设总体X~F(x),为未知参数X1X2Xn是来自总体X的简单随机样本ˆX1X2Xn)是的一个估计量当样本(X1Xn)有观测值(x1xn)ˆ(x1x2xn而当样本(X1Xn)有观测值(y1yn)的估计值为ˆy1y2yn若估计量ˆˆ(X1X2Xn)的数学期望在则称ˆ的无偏估计量 设总体X的均值和方差20均为未知设X1X2,XnX X2

nin1

Xi是总体均值的无偏估计量

(Xinin

X是总体方差的无偏估计量(1)EX(2)E(S2) 并判断是否是无偏估计量.

ni

Xi X是的最大似然估计量 1 2 2 XX)是的最大似然估计量 ni(ˆEX

n n

设总体X的k阶矩kE(Xk)(k1)存在X1X2XnX的一个样本试证不论总体服从什么分布样本k阶矩k证明因为X1X2Xn相互独立,且与X同分布kiEXki

E(Xk

i1,2,,1 k 1E(Ak)E Xi

E(Xk)ni

ikniik故样本k阶矩Ak是总体k阶矩k的无偏估计量设X1X2X3是来自总体X的样本，且1X3X1X

) 1X3X1X

和都是的无偏估计量 1如果在样本容量n相同的情况下ˆ的观察值12在真值的附近较ˆ更密集则认为2 ,X,,X ,X,,X