参数估计方法

第八章参数估计方法研究工作的目的在于了解总体特征的有关信息，因而用样本统计数估计相应总体参数，并由之进行统计推断。总体特征的各种参数，在前几章主要涉及平均数、标准差等，并只从直观上介绍其定义和公式，未就其历，即参数估计(parameterestimation)的方法作讨论。本章将简要介绍几种常用参数估计方法，即矩法、最小二乘法、极大似然法。第五章述及参数的点估计(pointestimation)和区间估计(intervalestimation)，本章讨论点估计方法。区间估计是在点估计的基础上结合统计数的抽样分布而进一步作出的推论，有关内容将散见在其它各章。第一节农业科学中的主要参数及其估计量的评选标准一、农业科学中的主要参数农业科学研究中需要估计的参数是多种多样的，主要包括总体数量特征值参数，例如，用平均数来估计品种的产量，用平均数差数来估计施肥等处理的效应；用百分数(或比例)来估计遗传分离比例、群体基因或基因型频率、2个连锁主基因间的重组率；通过变异来源的剖分，用方差来估计环境方差、遗传方差和表型方差，在此基础上以估计性状的遗传力等遗传参数用标准误来估计有关统计数的抽样误差，如重组率的标准误、遗传抽样误差、遗传多样性误差、频率误差等。在揭示变数间的相互关系方面，用相关系数来描述2个变数间的线性关系；用回归系数、偏回归系数等来描述原因变数变化所引起的结果变数的平均变化的数量，用通径系数来描述成分性状对目标性状的贡献程度等。有关数量关系和数量变化方面的内容将在第9至11章介绍。二、参数估计量的评选标准讨论参数估计方法前需要了解数学期望(expectation)的概念和评价估计方法优劣的标准。(一)数学期望在抽样分布中，已经讲述了从总体中抽出所有可能样本的样本平均数的平均数等于总体平均数，这里，样本平均数的平均数就是一种数学期望。例如，一个大豆品种的含油量为20%，测定一次可能是大于20%，再测定可能小于20%，大量反复测定后平均结果为20%，这时20%便可看作为该大豆品种含油量的数学期望，而每单独测定一次所获的值只是1个随机变量。抽象地，随机变量的数字特征是指随机变量的数学期望值，本书以前各章常见的数学期望有平均数和方差等。求数学期望往往是求总体的特征参数表达式。对于离散型(间断性)随机变量y的分布列为：P{y=y.}=p.,其中，i=l,2,…，那么随机变量y的数学期望E(y)为： 11E(y)=£yp (8•1)ii=1这样可以求得总体平均值。对于连续型随机变数y的数学期望E(y)为：E(y)=J+8yf(y)dy (8•2)其中f(y)为随机变量y的概率密度函数，这样可以求得总体均值。方差在前面已有大量应用，这里用D(y)表示，有D(y)=E[y-E(y)]2 (8・3)这就是随机变量函数的数学期望。同理，离散型随机变量方差的数学期望为：D(y)=£^y-E(y)1p (8•4)iii=1连续型随机变量方差的数学期望为：D(y)=J+8b-E(y)1f(y)dy (8•5)—8数学期望有这样一些常用的性质：(1)常数的数学期望为常数本身；(2)随机变量与常数的乘积的数学期望是常数与随机变量的数学期望的乘积；(3)多个随机变量分别与常数的乘积的求和函数的数学期望是常数与多个随机变量的数学期望的乘积的和；(4)多个相互独立的随机变量的乘积的数学期望是多个随机变量的数学期望的乘积。(二)参数估计量的评选标准参数估计可用不同的方法，后文将介绍矩法、最小二乘法和极大似然法等，使用不同的方法会得到不同的参数估计量(parameterestimator),各种估计量均有其优点，评价估计量优劣的标准主要有无偏性、有效性、相合性等。无偏性参数估计量的期望值与参数真值是相等的，这种性质称为无偏性，具有无偏性的估计量称为无偏估计量。例如，在抽样分布中已经介绍了离均差平方和除以自由度得到的均方的平均数等于总体方差，即该均方的数学期望等于相应总体参数方差，这就是说该均方估计量是无偏的。估计量的数学期望值在样本容量趋近于无穷大时与参数的真值相等的性质称为渐进无偏性，具有渐进无偏性的估计量称为渐进无偏估计量。有效性无偏性表示估计值是在真值周围波动的一个数值，即无偏性表示估计值与真值间平均差异为0，近似可以用估计值作为真值的一个代表。同一个参数可以有许多无偏估计量，但不同估计量的期望方差不同，也就是估计量在真值周围的波动大小不同。估计量的期望方差越大说明用其估计值代表相应真值的有效性越差；否则越好，越有效。不同的估计量具有不同的方差，方差最小说明最有效。如果一个无偏估计量相对与其它所有可能无偏估计量，其期望方差最小，那么称这种估计量为一致最小方差无偏估计量。相合性用估计量估计参数涉及一个样本容量大小问题，如果样本容量越大估计值越接近真值，那么这种估计量是相合估计量。除以上三方面标准外，还有充分性与完备性也是常考虑的。充分性指估计量应充分利用样本中每一变量的信息；完备性指该估计量是充分的唯一的无偏估计量。前几章介绍了平均数与方差的计算公式，实际上估计总体平均数与方差有多种统计数或公式，如平均数有算术平均数、中数、众数等，方差有以(n-1)或n为除数的方法等。经比较算术平均数与由自由度n-1计算的方差最符合上述各项标准的综合要求，因而得到广泛的应用。

第二节矩法一、矩的概念矩(moment)分为原点矩和中心矩两种。对于样本y,y，…，y，各观测值的k次方的平12n1均值，称为样本的k阶原点矩，记为yk，有yk=£yk，例如，算术平均数就是一阶原点矩;ni=1 ' 用观测值减去平均数得到的离均差的k次方的平均数称为样本的k阶中心矩，记为(y-y)k或Q，有(y-y)k=丄£(y-y)k，例如，样本方差丄£(y-y)2就是二阶中心矩。k ni=1i ni=1'对于总体y，y，…，y，各观测值的k次方的平均值，称为总体的k阶原点矩，记为12NE(yk)，有E(yk)=丄Nyk；用观测值减去平均数得到的离均差的k次方的平均数称为总体的Ni=1ik阶中心矩，记为E[(y-卩)k]或卩，有E[(y-p)k]= £(y-p)k。k Ni=1i二、矩法及矩估计量所谓矩法就是利用样本各阶原点矩来估计总体相应各阶原点矩的方法，即—1yk=£yk—E(yk) (8•6)ni=1i并且也可以用样本各阶原点矩的函数来估计总体各阶原点矩同一函数，即若Q=f(E(y)，E(y2),•••,E(yk))则 _ _/Xq=f(y，2,…,,)由此得到的估计量称为矩估计量。[例&1] 现获得正态分布N(P，Q2)的随机样本y，y，…，y，要求正态分布1 2nN(p,Q2)参数卩和q2的矩估计量。首先，求正态分布总体的1阶原点矩和2阶中心矩：e(y)=J+8yf(y)dy=J+8y1-^^exp神2兀1-^^exp神2兀Q(y-卩)22q2(此处exP-丁表示自然对数底数e的丁[的指数式，即丄才])EE[(y-n)]2=J+8(y-n)2f(y)dy=J+8(y-n)2•丄exp-8 -8 v2kq(y-A)2 ,一_£2_dy=Q22q2然后求样本的1阶原点矩和2阶中心矩，为八 1 1 . /卩=y= £y，卩=s2= £(y-y)2ni=1i2 ni=1i最后，利用矩法，获得总体平均数和方差的矩估计n=y」£y，Q2=s2=丄£(y-y)2ni ni

故总体平均数和方差的矩估计值分别为样本平均数和样本方差，方差的分母为n。单峰分布曲线还有二个特征数，即偏度(skewness)与峰度(kurtosis),可分别用三阶中心矩卩和四阶中心矩卩来度量。但卩和卩是有单位的，为转化成相对数以便不同分布之间的比3434较，可分别用偏度系数和峰度系数作测度。偏度系数(coefficientofskewness)是指3阶中心矩与标准差的3次方之比；峰度系数(coefficientofkurtosis)是指4阶中心矩与标准差的4次方之比。当偏度为正值时，分布向大于平均数方向偏斜；偏度为负值时则向小于平均数方向偏斜当偏度的绝对值大于2时，分布的偏斜程度严重。当峰度大于3时，分布比较陡峭，峰态明显，即总体变数的分布比较集中。由样本计算的偏度系数cs=n迫由样本计算的偏度系数cs=n迫3二丄£(y—y)33 ni=l'峰度系数ck=n「64二丄£(y—y)44 ni=i'-£(y-y)2ni=1 ，£(y-y)2ni=i'(8・7)(8・8)[例8.2]计算表3.4数据资料(-40行水稻产量)所属分布曲线的偏度和峰度。首先，计算样本的2、3、4阶中心矩n， ，以及标准差估计值:234n=-£(y—y)2=1303.735ni=1 'n=-£(y—y)3=3953.891ni=1 'n=-£(y—y)4=4.67729X106ni=l' 6二示二J-£(y—y)2=36.1072 'n1i然后，根据矩法原理，该分布的偏度与峰度估计值分别为：cs=n/63=0.08493ck=n/64=2.7523因此，说明资料比较集中在平均数左右，分布曲线并不是特别陡峭。[例&3]例6.9为研究籼粳稻杂交F5代系间单株干草重的遗传变异，随机抽取76个系进行试验，每系随机取2个样品测定干草重(g/株)。按单向分组方差分析进行分析，结果见表6.9。此处用来说明由矩法估计误差62、遗传方差62和干草的遗传力h2。T因为76个系是随机抽取的，因而为随机模型。方差结果说明系间差异显著，因而系间效应存在。根据矩法，首先应求出系间和误差变异来源的样本均方和总体期望均方(表6.9)。然后，利用矩估计原理，令样本的均方与总体相应变异的期望均方相等，从而求出62和62的T矩估计值。此处E(MS系统间)=E[Tt-E(Tt)]2，(Tt为各个系统的总和数)=62+n62TE(MS)=E@),(e为误差)误差=62因而&2=17.7762+262=72.79T

c?2=(72.79-17.77)/2=27.51T27.5127.51+17.77=60.76%C27.5127.51+17.77=60.76%h2=g=g=t C2c2+C2c2+C2pgeT第三节最小二乘法从总体中抽出的样本观察值与总体平均数是有差异的，这种差异属于抽样误差。因而，在总体平均数估计时要尽可能地降低这种误差，使总体平均数估计值尽可能好。参数估计的最小二乘法就是基于这种考虑提出的。其基本思想是使误差平方和最小，达到在误差之间建立一种平衡，以防止某一极端误差对决定参数的估计值起支配地位。这有助于揭示更接近真实的状况。具体方法是为使误差平方和Q为最小，可通过求Q对待估参数的偏导数，并令其等于0,以求得参数估计量。[例&4]用最小二乘法求总体平均数卩的估计量。若从平均数为卩的总体中抽得样本为y「y2、y3、…、yn，则观察值可剖分为总体平均数卩与误差ei之和，iy=^+eii总体平均数卩的最小二乘估计量就是使丁‘与卩间的误差平方和为最小，即Q=Ze2=£(y-“)2iii=1为最小。为获得其最小值，求Q对卩的导数，并令导数等于0,可得：=-2£(y-R)=0即 i=1'即总体平均数的估计量为：1n

i?=-£y.ni=1i因此，算术平均数为总体平均数的最小二乘估计。这与矩法估计是一致的。此处顺便介绍估计离均差平方和Q'=£(y-y)2的数学期望：iEQ')=E[£(y—y)2]=E[£(y—?—y+?)2]ii=E[£(y—?)2-2£(y—?)(y—?)+£(y—?)2]ii=E[£(y—?)2-£(y—卩)2]=nc2—nc2/ni=(n-1)c2因而，c2估计为：c2=Q'..(n—1)=£(y—刃2/(n—1)i与矩法所得不同，而与常规以自由度为除数法一致。[例8.5]求例6.13的两向分组方差分析资料缺1个小区(表8.1)的最小二乘估计量和估计值。从第6章可知，这种资料模式的线性模型为：y=?+t+p+£。该模型的约束条件ij ijiji=1j=1为：£t=0，£0i=1j=1Q=££€2二工工(y-^-T—卩)2为最小时可以求出效应和缺失小区y的估计量，即ijijijei=1j=1TOC\o"1-5"\h\z=££2(y..—A—t—卩)(—1)=0

i=1j=1 ” 1 7=£2(y..—卩—T.—卩)(—1)=0

.=1 .1.-=£2(y..—卩—T.一卩)(—1)=0

i=1 " 1 .=££2(y..—y—T.—0)=0

i=1j=1 ” 1 .从而，最小二乘估计量分别为：卩=y=丄££y..ari=1j=1ijT=y.—y=-£y..—丄££y..i i rj=1ijari=1j=1ij卩.=y.—y=£y..— ££y..jj ai=1ijari=i.=1ijTOC\o"1-5"\h\z1r1 a1 a ry=n+T.+p.=-£y.+-£y.—丄££y..i.r.=1 .a .=1 .ar .=1 .=1 .表8.1生长素处理豌豆的试验结果处理(A)-组(B)总和Ti平均yiIIIIIIIV对照(CK)6062616024360.8赤霉素656568ye198+ye动力精6361616024561.3吲哚乙酸6467636125563.8硫酸腺嘌吟6265626425363.3马来酸6162626525062.5总和T..——375382377310+儿T=1444+y”TOC\o"1-5"\h\z因而表8.1中，缺失小区的估计值可由下式求出：198+y310+y144+4yy= e+ e e4 6 4x6解上述方程，最小二乘估计值为：y=65.6。丿e缺区估计是根据线性模型，以及最小二乘法的原理得到的。不过，试验中尽可能不要缺区，因为缺区估计尽管可以估计缺区的值，但是误差的自由度将减少，本试验的误差自由度将减少1。一般地，若m个自变数X］、x2、x3、…、xm与依变数y存在统计模型关系y=f(x,x，…,x；0,0，…,0)+£ (8•9)TOC\o"1-5"\h\z1 2m1 2k其中，0，0，…，0为待估参数。通过n次观测(n>k)得到n组含有1 2 kX，x，…，x，y(i=1，2..”n)的数据以估计0，0，…，0。其最小二乘估计值为使1i 2i mii 1 2k

Q=£€2=£[y-f(x,x，…，x；0,0，…，0)]2 (8•10)i 1i 2i mi12ki=1 i=1为最小的0，0，…，0。这种估计方法称为参数估计的最小二乘法(leastsquares)，或最小平12k方法。第9章将应用最小二乘法估计线性回归中有关参数的估计量，此处不再赘述。第四节极大似然法极大似然法(maximumlikelihoodmethod)是参数估计的重要方法。首先，通过举例来说明其思路。例如，有1个射手射击3次，命中0次。试问该射手的命中概率最有可能为3个命中概率：1/5、8/15和4/5中的哪一个？回答该问题可以从两方面来看，一方面，该射手的命中率为0，与此最接近的命中概率为1/5，即1/5最有可能；另一方面，分别假定该射手的命中率为1/5、8/15和4/5，根据二项分布原理分别计算出该射手射击3次命中0次的概率分别为：C0（-）0（1-C0（-）0（1--）335517283375C。（-^。仃-—）33-5 -5343337544C0（）。（1——）335 5273375因此，选择使事件发生概率最大的可能命中概率为-/5，从而认为该射手的命中概率最有可能为-/5。这种参数估计方法称为极大似然法。极大似然法，包括二个步骤：首先建立包括有该参数估计量的似然函数(likelihoodfunction)，然后根据实验数据求出似然函数达极值时的参数估计量或估计值。上面根据二项分布计算概率，因而包含有待估概率的二项分布便是似然函数，它是关于待估参数的函数。由于试验结果是由总体参数决定的，那么参数估计值就应该使参数真值与试验结果尽可能一致，似然函数正是沟通参数与试验结果一致性的函数。一、似然函数对于离散型随机变量，似然函数是多个独立事件的概率函数的乘积，该乘积是概率函数值，它是关于总体参数的函数。例如，一只大口袋里有红、白、黑3种球，采用复置抽样50次，得到红、白、黑3种球的个数分别为-2，24，-4，那么根据多项式的理论，可以建立似然函数为：其中P1，p2,P3分别为口袋中红、白、黑3种球的概率(p3=1-pi-p2)，它们是需要估计的。50!12!24!14!50!12!24!14!（p1）12（p2）24（p3）14对于连续型随机变量，似然函数是每个独立随机观测值的概率密度函数的乘积，则似然函数为：L（0）=L（y，y，…，y；0）=f（y；0）f（y；0）•••f（y；0） （8•11）12n12n若y1服从正态分布N（p,Q2）,则0=（卩，q），上式可变为：（y—W）2 （y——卜I）2 1L（p, Q）= 「e— 2。2 … 「e— 2。2 =（ 「）ne—2。2[（y1-W）2+…+（y”—W）2] （8•12）2兀Q 2兀。 2兀。

二、极大似然估计所谓极大似然估计就是指使似然函数为最大以获得总体参数估计的方法。其中，所获得的估计总体参数的表达式称为极大似然估计量，由该估计量获得的总体参数的估计值称为总体参数的极大似然估计值。为了计算上的方便，一般将似然函数取对数，称为对数似然函数，因为取对数后似然函数由乘积变为加式，其表达式为：InL(0)=InL(y,y,…，y；0)=£Inf(y,0) (8•13)12nii=1通过对数似然函数和似然函数的极大化以估计总体参数的结果是一致的，一般说来，前者在计算上要容易处理些。因此，往往利用对数似然函数极大化的方法来获得极大似然估计。求=£詁(y「=£詁(y「；0「i=1k由此获得总体参数的极大似然估计量。［例&6］设y,y，…，yN(p,Q2)参数的极大似然估计量。y1，0=(0，0，…，0)，有12lQlnL（y,y，…,y；0,0，…,0）Q0 1 2 n 1 2 lk0，…,0)=0(k=1, l) (8・14)2l是正态总体Ng,Q2)的随机样本，求正态分布似然函数为：Lg,Q2）=n^^exp[—（yi 池]=[-^-}2exp[—-—£（y—卩）2]i=]丁2兀o 2q2 12兀Q2丿 2q2曰z取对数，得：lnL（卩,lnL（卩,°2）=—:ln（2K）—:ln°2—12°2£（y.-卩）2ii=1那么似然方程组为：Q 1——lnL（y,°2）=——£（y一卩）=0即 °2.i<1Q n1 lnL@,°2）= + £（y一卩）2=02 2°2 2°41z解得：1-n卩=一£y.=yni=1z°2=丄£（y—A）2n.=1 z因此，正态分布总体平均数的极大似然估计量为：d=1£y=y。当总体平均值为未知ni=1i时，方差估计量为°2=丄£(y—y)2；当总体平均值为已知时，方差估计量为ni=1i°2=丄£(y—d)2。ni=1i［例&7］求红、白、黑球事例中p,p,p的极大似然估计值。

50！由12!24；14!（pi）12（p2）24（p3）14可获得对数似然函数InL（p,p,p）=C+12Inp+24Inp+14Inp1 2 3 1 2 3=C+12Inp+24Inp+14ln（1一p—p）1212其中，C为常数。分别求InL（pjp2，1-pi—p2）对P],p2的偏导数，并令为0,得似然方程组:lnL（p，p，1—p—p）=—^ — （—1）=0dp 1 2 1 2p1—p—p<11 1 2d 24 14 lnL（p，p，1—p—p）=—+ （—1）=0dp 1 2 1 2p1—p—p2212联立求解，得:p=6/2冷,=12/2历=7/251 2 3显然，极大似然估计值p，p，p等于其观测频率。123[例&8]两个亲本的基因型分别为AABB和aabb，这两个亲本杂交后F2出现了4种基因型，分别为A_B_、A_bb、aaB_和aabb，得到四种基因型的个数分别为c、d、e、f已知AA和BB两对基因间存在连锁关系，现欲估计重组率？设重组率为r,根据遗传学推导，可以得到4种基因型的概率见表&2。表8.2F2群体基因型的分离情况基因型 2^.ABAbbaaBaabb总数观察得到基因型个数c(289)d(26)e(29)f(76)n(420)概率2+(1—r)241-(1-r)241—(1—r)24(1—r)241首先，通过表&3介绍由两对连锁主基因控制的F2群体16种基因型的概率计算出4种表现型的概率（表8.2）。表8.3只2群体的基因型及其概率配子及概率ABr2 2^-Ab(1—r)2aB(1—r)2abri2AB r.，''‘2AABBr2/4AABbr(1—r)/4AaBBr(1—r)/4AaBbr2・：4Ab(1—r)/2AABbr(1—r)・4AAbb(1—r)24AaBb(1—r)2/4Aabbr(1—r)・4aB(1—r)2AaBBr(1—r)4AaBb(1—r)2/4aaBB(1—r)2/4aaBbr(1—r)・4abrl2AaBbr2/4Aabbr(1—r”4aaBbr(1—r)/4aabbr2J4按多项式分布，可以根据概率函数得到似然函数为:(8・15)(8・16)(8・17)n! J2+(1—r)21cf1—(1—r)2 J1—(1—r)2(8・15)(8・16)(8・17)c!d!e!f!I4II4II4II4I若以0=（1-r）2代入上式，则似然函数和对数似然函数分别为：L咲chf!I竽｝C拧｝d｛字｝e佇｝f2 I0 1一0 0lnL（0）=k+cln[- ]+（d+e）ln[- ]+fln[]（k是常数项）4 4 4对上式求导数，并令导数为0，可得方程：

TOC\o"1-5"\h\zc d+e f 八\o"CurrentDocument"-+=0

2+o I-。 e上式化解为一元二次方程ne2-(c-2d—2e+f)-2f=0入(c-2d-2e-f)±、：'(c-2d-2e-f)2+8fn z 、e= (8・18)2n在e的两个解中取一个符合遗传规律的解，那么，重组率的解为：r=1-扁\对于本例，有 e(289-2X26-2x29+76)±<(289-2x26-2x29+76)2+8x76x420—2x420=0.1226±0.6140取正根，e=0.7366，由此，r—1-J0.7366=0.142。统计理论已证明：重组率方差估计量为：(1-e统计理论已证明：重组率方差估计量为：(1-e)(2+0)2n(1+26)(8・⑼对于本例，有—0.019sG)=JD?)=](1-0.7366)(2+0.7366)

S厂_丫? 2x420x(1+2x—0.019三、关于三种估计方法的讨论通过上述3种参数估计方法已获得总体平均数、方差的估计量。对于总体平均数的估计量，3种估计方法都具有无偏性、有效性和相合性；对于总体方差的估计量，由离均差平方和期望值所得的是无偏的，但由矩法和极大似然法所得两种估计量是有偏的，但都是相合的；最小二乘法无直接的总体方差估计量。本章介绍了点估计的3种常用方法，但其要求不同。极大似然法要求已知总体的分布，才能获得估计量，另外两种方法对分布没有严格的要求。一般地，极大似然法估计结果大多具有无偏性、有效性和相合性等优良的估计量性质，因此被广泛采用，但也并不是该法估计的结果就一定最好，例如极大似然方法估计平均数尽管是无偏估计，但其估计的方差是有偏