参数的最大似然估计.ppt

8.2最大似然估计,其中是待估参数,当一次抽样得观测值,得此观测值的概率为:,其分布为,设X是,取值为的概率,与有关,与参数有关,时,记为,为待估参数的函数,称为似然函数.,若,在处达到最大值,则称为参数的,最大,似然估计值.,相应的估计量,称为,的最大似然估计量.,统称为的,最大似然估计.,离散型随机变量,其中是待估参数,设其密度函数为,当是,记,为待估参数的函数,称为似然函数.,它的大小反映了,落在,附近的概率的大小.,若,在处达到最大值,则称为参数的,最大,似然估计值.,相应的估计量,称为,的最大似然估计量.,统称为的,最大似然估计.,连续型随机变量时,由于是,的最大值点,一般应满足条件:,从而满足条件,是离散型随机变量,是连续型随机变量,离散型,连续型,求最大似然估计量,1.写出似然函数,X是离散型随机变量,X是连续型随机变量,当只有一个待估参数时，,2.写出似然方程,或,3.求解似然方程,得到驻点，,并判断驻点是否为,最大值点.,的步骤:,几种常见分布的,最大似然估计量,1.01分布,设总体,为待估参数.,可统一表示为,设一抽样得观测值为,为似然函数.,似然估计值,为的最大似然,为的最大,为似然函数.,估计量.,2.泊松分布,设总体,即,为待估参数,设样本观测值为,为似然函数.,为似然函数.,为的最大似然估计值.,为的最大似然估计量.,3.指数分布,设总体服从指数分布,为待估参数.,求参数的最大似然估计.,设样本观测值为,解,可以认为,为似然函数.,为似然函数.,为的最大似然估计值.,为的最大似然估计量.,或两个以上,未知参数,时，,似然函数为,当有两个,（离散型）,或,（连续型）,或两个以上,未知参数,时，,似然函数为,若此似然函数在,达到最大，,则称,为,的最大似然估计值，,称为i的,最大似然估计量.,估计量,相应的,此时，,一般应满足条件:,或,当有两个,求最大似然,1.写出似然函数,X是离散型随机变量,X是连续型随机变量,当有两个或两个以上待估参数时，,2.写出似然方程组,3.求解似然方程组，,得到驻点，,并判断驻点是否,为最大值点.,估计量的步骤:,4.正态分布,设总体,令,和为待估参数,求参数和,服从正态分布,的最大似然估计.,求参数和的最大似然估计.,设样本观测值为,解,似然函数为：,令,求参数和的最大似然估计.,似然函数为,为的最大似然估计值.,似然函数为,为的最大似然估计值.,为的最大似然估计值.,为的最大似然估计值.,为的最大似然估计值.,的最大似然估计量为,的最大似然估计量为,最大似然估计量,不一定是无偏估计量,令,随机变量的矩,1.原点矩,则称,对于自然数,如果,为随机变量,的阶原点矩.,设X是随机变量，,存在，,1阶原点矩就是,当时,2阶原点矩是,当时,2.中心矩,称,对于自然数,如果,为随机变量,的阶中心矩.,设X是随机变量，,则,存在，,也存在.,当时,2阶中心矩,样本k阶原点矩,样本k阶中心矩,设总体X，,是来自的一个样本.,矩估计的基本思想是：,用相应的样本矩,去估计总体矩；,用相应的样本矩的函数,去估计总体矩的函数.,例,已知总体X,有密度函数,其它,其中是未知参数，,是来自X的一个,样本.,求的矩估计量,解,总体一阶原点矩,用样本一阶原点矩,估计总体一阶原点矩，,令,解得,是的矩估计量.,例,总体X的分布未知，,但已知总体的期望,方差,都存在，,与是,两个未知参数，,求,与,的矩估计量.,解,再用样本的一阶、,二阶原点矩,估计总体一阶、,二阶,原点矩：,解得,分别为,与,的矩估计量.,例,已知总体X,服从区间,上的均匀分布,是未知参数，,求,与,的矩估计量.,解,因为有两个未知参数，,故将总体的一阶、,表示为未知参数的函数：,二阶原点矩,再用样本的一阶原点矩、,二阶中心矩,估计总体一阶,原点矩、二阶中心矩：,例,已知总体X,服从区间,上的均匀分布,是未知参数，,求,与,的矩估计量.,解,解得,分别为,与,的矩估计量.,例,已知总体X,服从二项分布,其中m已知,p未知，,(1)求p的矩估计量；,(2)求,的矩估计量.,解,总体一阶原点矩,用样本一阶原点矩,估计总体一阶原点矩，,令,解得,是p的矩估计量.,是的矩估计量.,8.3区间估计,点估计,估计,当一次抽样实现后,代入估计量后,用这个数值,点估计没有反映这个估计值的,估计值,参数真值(未知),例如:,使用起来,区间估计,未知参数.,得到样本观测值,得到一个具体的数值,作为的估计值.,误差范围,把握不大.,是用一个统计量,可以弥补点估计的这个缺陷.,设总体的分布中,为了估计,所谓区间估计,以它们为端点得到区间,一旦抽样实现后,就得到一个具体的区间,是一个随机区间.,对这个随机区间有两个要求:,要求有很大的可能,即要求,尽可能大.,估计的精度要尽可能高,的长度,尽可能小.,如果重新抽样,有一个未知参数,从总体中抽取样本,就是构造两个统计量,即,就得到另一,即,被包含在这个区间内.,区间,1.,2.,定义,设是一个要估计的参数,若由样本,满足,则称区间,是的,称,称为置信水平,统计量,对给定的小,正数,确定的两个,置信区间.,分别为置信下限,和置信上限.,也称置信度,或置信概率.,当一次抽样实现后,得到样本观测值,即可得到一个具体的区间，,称为置信区间,的,一个实现，,也称为置信区间.,和,求置信区间的步骤:,1.明确问题,2.寻找待估参数的,3.寻找一个待估参数,其分布为已知.,4.对于给定的置信水平,根据的分布,确定常数,作等价变形,则区间,是求什么参数的置信区间?,置信度是多少?,即,一个良好的点估计T.,和其估计量T的函数,使得,5.对,得到如下形式:,是的,置信区间.,已知分布,三、正态总体均值的区间估计,设总体,是来自的样本.,已知,求的置信区间,估计,（1）,的点估计,对于给定的置信度,由,求出,记,1.已知,求的置信区间,由,求出,记,置信区间.,是的,从某厂生产的一种钢球中,例,随机抽取7个,测得,它们的直径为,(单位:mm),若钢球直径,求一区,使它有95%的把握,保证包含,的真值.,解,置信区间为,的1-,为的95%置信区间.,间,设总体,是来自的样本.,未知,求的置信区间,估计,（2）,的点估计,对于给定的置信度,查表得,2.未知,求的置信区间,置信区间.,是的,例,某校高三女生的身高,从中随机,测得身高如下:,求高三女生平均身高,的0.95,抽查10人,置信区间.,解,置信区间为,的,例,从中随机抽查10人,测得身高:,求,的0.95,置信区间.,解,为的0.95置信区间.,三、正态总体方差,设总体,其中,均未知,估计,是来自的样本.,的区间估计,和,1.,取,的一个良好的点估计，,可取,2.,3.对于给定的,1.,取,的一个良好的点估计,2.,选取,使得,但这样的,不唯一.,进一步要求,4.对,作等价变形,3.对于给定的,1.,取,的一个良好的点估计,2.,4.,置信区间.,是的,置信区间.,是的,置信区间.,是的,为,设零件长度,例,从自动机床加工的同类零件中,抽取16件,测得长度值,(单位:),的点估计.,求:(1)方差,解(1),是的无偏估计量.,是的,点估计.,为,设零件长度,例,从自动机床加工的同类零件中,抽取16件,测得长度值,(单位:),求方差,解,的0.95置信区间.