（应用数学专业论文）errorsinvariables线性模型的估计.pdf

独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他人已经发表或撰写过的研究成果，也不包含为获得西北大学或其他教育机 构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献 均已在论文中作了明确的说明并表示谢意。 学位论文作者签名：签字日期：年月日 e r r o r s i 卜v a r i a b l e s 线性模型的估计 张海 ( 西北大学数学系西安7 1 0 0 6 9 ) 摘要 本文对一般线性模型进行了讨论，给出了线性e v 模型的 参数估计研究了在有重复观察时的线性e v 模型的参数估 计问题在一定的条件下证明了估计的强弱相合性，研究 了e v 多项式模型的参数估计，对于非线性e v 模型进行了研究 给出了模型参数的计算机的数值解法，并证明了参数估计的 渐近正态性 关键字：e v 模型 非线性模型渐近正态分布 e s t i m a t l 0 no fl i n e a re r r o r s i n v a r i a b l e sm o d e l s z h f 心gh a i ( d e p a r t m e n to fm a t h e m t i c s ， n o r t h w e s tu n i v e r s i ty ，x i a n ，7 1 0 0 6 9 ) a b s t r a c t i nt h i sp a p e ro ne s t i 眦t i o no f1 i n e a r e vm o d e l s ，f i r s tt h e1 i n e a r s t a t i s t i c a lr e l a t i o n s h i ph a sb e e nd i s c u s s e d t h e nt h ee s t i n l a t i o no ft h e c o e f f i c i e n t so fl i n e a re vm o d e l sb e i n gs t u d i e d o ns o m ec o n d i t i o n 鲁，t h e s t r o n ga n dw e a kc o n s i s t e n te s t i 明t i o nb e i n gg i v e na n db e i n gp r o v e d a t l a s t ，w ed e v e l o pac o m d u t a t i o n a la l g o r i t h mf o rt h en o n l i n e a rm o d e l st h a t i sa p p r o p r i a t ef o rl a r g es 锄p l e s 沁yw o r d s ：e v o d e l sn o n l i n e a r d e l s a s y m p t o t i c a l l yn o r 髓l l y d i s t r i b u t e d 2 前言 在现实世界中，经常要和各种变量打交道，有些变量存在于一个 共同其中，人们就需要研究这些变量间的关系，通过对观察数据的 处理来研究具有相互关系的变量的统计规律即我们常做的回归分 析，在通常的回归分析中，总是认为自变量是固定的且可观测，但 是在现实生活中有大量的问题其中自变量也是带有随机误差的 关于自变量带有误差的回归模型的研究已经有了很长时间，但其 中仍然有很多工作有待研究，特别是在大样本方面，随着计算机的 发展，处理大样本成为可能 本文在第一章首先介绍了e v 模型的定义，然后在第二章对一维线 性e v 模型作了讨论再在第三章中对多项式e v 模型的参数估计问题 进行了研究，最后，对非线性问题给出了计算机的数值解法 第一章线性模型的综述 有一类在应用上很重要的统计问题，它们的理论模型有一种在下面要加以 精确定义的线性结构在统计文献中，习惯上常把它们归之于“线性模型” 的名称下 设( 墨，五j ) 是k 维相互独立的随机变量口是误差 】r = ，( 墨，以) + e 当，是线性时，且 f y = 五a + 五尼+ 以展+ e e = o i 对相某种假设 上面这种结构一般称为线性模型在一般统计意义上：自变量x 不认为是随机 的，而因变量y 则认为是随机的，在实际问题中自变量x 也是随机变量的情况 并不少 本文就是对这一类问题进行讨论以下我们研究的p ( p 2 ) 为向量这些数据 可以是测量数据，物理实验数据可观察向量k 可表示为： 屹= + 以口= 1 ，2 一 ( 1 1 ) 其中乙是不可知的是随机误差乞是我们所关心的我们总是希望得到 的值乙限制在一个m 维低维空间内，即m p 虬具有下列性质 砒= 0 ，砒以= 掣 ( 1 2 ) 假设鸬，肫一是相互独立且和气，乞乙相互独立 通常，处理上述模型有两种途径： i 向量气，乞毛是参数是非随机的 i i 向量五，乇乙是随机向量 k e n d a l l 和s t u a r t ( 1 9 7 9 ) 把i 称为f u n c t i o n a l 把i i 称为s t r u c t u r a l 两种 不同的分法也就有两种处理问题的方法 对于i i 这种情况，一般处理方法是采用大样本并且需要五，乞乙的分布 信息 4 当p = 2 ，- 1 时成线性关系即满足一个线性方程岛气+ 6 2 乞。= 6 0 观 察值( 毛。，屯。) 是点( 气，乞。) 由于误差( “。，心。) 而有偏差的一个点，直线方 程改写为参数方程形式： z l 。= 五+ h z 。= 五五+ 肫可通过估计参数岛，6 2 ，氏或 以，“，以来解决问题 一般的，乞的m 维空间可被定义为q ( q ：p m ) 维方程组： 睨= 6 ( 1 3 ) 其中b 是q p 的参数矩阵，r a n k ( q ) p b 是具有q 元的一列向量上式 的每一行定义一个超平面，维空间可看为q 个超平面的交对于参数形式有： 乙= 蜕+ ( 1 4 ) 其中a 是一个p m 矩阵，r a n k ( a ) p 五是一m 元的列向量，是一个p 元的列向量，当正在m 维空间变动时，乙随之变动，现在中心化正，对于i ， 要求五= o 对于i i 要求矾= o 由( 1 4 ) 式可知，乙是a 的列的线性组合 加上向量口 将( 1 4 ) 式代入( 1 3 ) 式，得：， 钇= 四蜕+ 印= 6 ( 1 5 ) 要使( 1 i5 ) 可解，需要： 曰a = o 曰= 6( 1 6 ) 对于( 1 3 ) 式，左乘任意非奇异矩阵a 得： 口 彳曰，6 4 6( 1 7 ) ( 1 4 ) 式右乘任意非奇异矩阵c 得： 人寸一c ，五号c “五 ( 1 8 ) 蜕不变为了求解( b ，b ) 或( 人，五) 需要再加条件例如：假定b 可分成两部 分( 且，岛) ，其中且是方阵且非奇异因为r a n k ( b ) = q ，可设置为q 维的，左乘耳 得： 曰= ( ，耳1 垦) = ( ，厦) ( 1 ，9 ) 对于参数形式a = ( ，a ：) ，人：是旷m 行，人：是m 行，a ：是非奇异方阵a 右乘 a ：1 得： 由( 1 6 ) 知： 得： r = f 心 o = 占+ a + = ( i 。，霹) = a ：+ 鹾 噬= 一a ： 设乏= ( 掣，z ? ) ，其中刀是q 元的， 为： x 。= z 。+ u 。 = 盼心 ( 1 1 2 ) 2 7 是m 元的设6 = 并1 6 ，于是( 1 ，3 ) 变 ( 1 1 3 ) 3 【6 一巧j + 心 = ( 牡阶以 m 毛= ( ：= + ( ： + 儿 c - - 5 ， 其中 = ( ”，2 ) ，将( 1 1 2 ) 代入( 1 _ 1 4 ) 得： 毛= ( ) c 坪一拿2 ，+ ( ；o ：旁2 + 以 e t ，e ， 其中 - 1 2 】t 去耋，且严是非随机的，当是随机的，则 毛= ( ：卜卿p f 习卜m 即( 1 3 ) 和( 1 4 ) 等价模型( 1 1 ) ( 1 3 ) 常称为e v 模型 6 第二章一维线性e v 模型的参数估计 第一节简述 对于简单的一元线性回归方程 r = 属+ 届薯+ q r = l ，2 ，刀，( 1 1 ) 其中( 五，屯，) 为观察值，q ( o ，仃0 ) 可以得到参数的l s 估计为： 夕= f 窆( 葺一硝r l 窆( 一烈z 一乃 ，- i ，- l 为的最小方差无偏估计这是传统回归模型，对于自变量有误差的模型，我们 设：薯不能直接观测，我们可观测五， x t = x t + 地 其中h 是均值为零，方差是0 0 的随机变量 ( 1 2 ) 在模型( 1 1 ) 和( 1 2 ) 下，我们假设为均值是零，方差为。二的正态分布 观察值为：( r ，墨) ，则有： 以( y ，z ) = ( 以，# 0 ) = ( 层+ 层以，以) ( 1 3 ) 且协方差矩阵为： 设 届( 1 4 ) o 耳o 单1 ( 1 5 ) 由正态分布的性质。有 e 虫，) = 碟= 属( + ) 一1 ( 1 6 ) 假设 k = ( 吒+ ) “吒 通常称之为可信系数若k 已知，我们可给出口的估计： 矗= 硭丸 ( 1 7 ) 7 麓 辟 因为( r ，墨) 是二元正态分布，则有 e 虫，l x ) = m y 魄l 棚；匹 一尉r 一舅) ( 1 9 ) 式的无偏估计为： 其中 ( 1 8 ) ( l 9 矿 幺，| x ) _ 【( 置一j ) 2 r 1 砰 ( 1 ! o ) ， 孑= o 一2 r 1 嘭一r 一免c 墨一j 两， ，_ i 由于有或，的条件无偏性，我们可得到a 的条件无偏估计为 矿 磊l 彳) = 碌【杰( 五一j ) ：r - # ，- l 因为矗为x 函数，所以属的估计为： 其中 危= 磊十矿一磊一层谤 ( 1 ，1 1 ) 口 矿z 旷1 一q = q 一鸬届- ， ，- l l l l l 盯w a ) 嗍 第二节参数估计 对于可信系数未知时，我们把模型写为 南。毛+ ，嘞2 只+ 白2 口+ 成+ 白， ( 2 1 ) _ ，= l ，2 ，一，扣1 ，2 ，】 ， 假定满足下列条件： ( a ) ( 岛，勺) ，( ，= l 2 ，万。，f = l 2 ，) 为谢，j 瓶。= 如。= o ，o 点罐= 仃? o o ， o 瞒= 盯； m ，扛， 中有无穷多个大于1 这里( 岛，) 是可观测的，而而，工：，彳，司以及口，卢都是未知的，后者是我们主 要感兴趣的对象，注意到此处并未假定磊。与岛。独立，其协方差a 和相关系数 p 也是未知的 我们约定：毒：窆白，n 。类似的有仇，4 ，b ，机：壹吩，彳：壹吩仇以，类似的 不五蚕约定：勺：圭窆勺，c j ：窆q 注意到孑，s 以及孝，7 ，都依赖于k f l i ，l lm 、l 砰，霹和协方差五的估计 为估计卉用 井= 嗨一点) 2 ，( 机一七) ( 2 1 1 ) 注意到上式中那些玎= l 的嗨1 _ 啊) 在和式中不起作用，所以当讨论 砰的相合时，不失一般性，可假设对所有的f 有吩2 因此七( m 一七) 茎1 引理1 1 1 设 五 ：。是一串i i d 序列且e l i o 使得v f ，册q 肘，那么瓦! ：斗风。 9 证： 事实上只要验证瓯咿i i 印可， 设n = t k m | 岫+ 曲擎茕a 。| a 2 气| m 2 嘲f m k 。 故 s u p ) 七s ( 驯m + l t 引理( 1 2 ) ”1设为 矗 零均值的独立随机变量序列如果 个且e 1 p 簖 m 对某个p 成立，1 p 2 ，令s 。= 葺，则 扫if - l 有： s 。沁。璺b o 定理1 1 ： 若嘛，白) ，( _ ，= 1 ，2 ，珥，皓l ，2 ，一) 为龆，陋，= 如。= o ，o 酬 砰 o o ， o 点写= 露 m ，k 中有无穷多个大于1 则拜是砰的强相合估计 证：可从( 2 1 1 ) 得到 钟= ( 岛一4 ) 2 ( m 一七) 2 筹一妻簇器 因为 2 ， 故 1 2 1 一万- 1 1 由推论( 1 1 ) ，有 ( 1 一坶( 以一七) l 研， ( 2 1 3 ) f 毒耋氏磊) 2 = 矿石c 耋瓯磊，2 = 2 矿耋酲爵： 2 2 ( 1 一町1 ) 矸2 一( 2 1 4 ) 再由( 2 1 4 ) 式、引理1 1 和坝i t ) s l ，有 1 0 争土争二互e 盟! ! 加 急n t 急n k k 定理成立。 假设砰= ( 一吼) 2 ，( m 一七) 互= ( 岛一毒) ( ，勖一哺) ，( m 一七) 定理1 2 ： 若( 岛，) ，( ，= 1 ，2 ， ，f _ l ，2 ，一为澍，e 区。= e 毛。= o ，o e 稚= 盯? ， o o a j t p 爵 定理2 1 ： 若蛾，白) ，( _ ，= 1 2 ，啊，i = l 2 ，) 为涮，磁，2 如- 2 o o e 醒2 订 。， o e 露： o 则夕是，的强 相合估计 证由( 2 2 1 ) 式有 矽一声； 觑 拜一( 磊一两2 ) 一( 葺一碱+ ( 岛一易嘞 g = m 一从+ 触 ( 2 - 2 l o ) 由( 2 2 6 ) 和( 2 2 8 ) 式，有 l i m z ：o 口工 ( 2 2 1 1 ) t 岬 另由( 2 2 5 ) 和引理2 1 ，有 熙以= o 姒( 2 _ 2 1 2 ) 最后，证明以竺：o o 即可，有引理2 1 有 ( 薯一刁q 卢- o ， 因为z 卸，再注意到( 2 2 2 ) 式，有 焉一张岛一劢，s 。_ 仉 1 2 因此有 ( 旬一易毛s = 孚+ 华山o ( 2 2 1 3 ) 即 工与0 ， 由( 2 2 1 0 ) ( 2 2 1 1 ) ( 2 2 1 2 ) 式有 b 竺b 9 j 定理证毕 当五未知时，夕不再是相合估计对夕作进一步的修正得到： 8 = ；b 一k 丸| q o ( 2 2 1 4 ) 这里 旯= ( 岛一毒) ( 嘞一哺) “m 一七) 因为 以一坐；y ! i 盟一丝 i q i- q iq k ：掣+ 熊坠姿塑：监( 2 2 1 5 ) 。q幺 由( 2 2 5 ) 和( 2 2 9 ) 式。 僻一确婊_ o 再由( 2 2 6 ) 式以及互的强相合性，得到： 型圣堕二挚：翌二盟2 ，o y ( 2 2 1 6 ) 8 坠_ 8 由此有： 定理2 2 ： 若嗡，勺) ，u = 1 ，2 ，行。，f = l ，2 ，”为谢，砸。= 如。= o ，o e 碚= 砰 o ，满足k r 页 i 有 恶爱k l ，矿”生呻o 2 3 1 ) 证由e k l ，得 ，如p i “7 ) 因此。对于任意的占，有 ，( 1 而l 靠”) 书= ，( q 雪他i 跏j ) = ，( u i 薯l 靠”7 uu i 薯l 跏“ ) ，li+i s 杰讹p 础) + 兰嘛p 绷1 2 帅p 硝”) + 嘶p 删”) 由k r o ，有 ，( q 懋m 廊l ，7 ) _ 。 证毕 定理2 - 6 若条件a 成立，且磊，与i 相互独立，磊i 是对称的，舰i n f 剐坼 o 且满足 ( 1 ) j ， o e 陋i r + 7 ( ， ( 2 ) 当七斗时有腆啊t 斗o 嬲吩( 薯一刁2 ，s o l “ ” i n ( 3 ) l i m i i l f 。七 1 ， 刚 三l ( o ，1 ) 证记 备一b = w l | q k 其中 睨，肫拜一哆一秽) 一砭 一鹕+ 皤一魏 q 一嗨一夯一以拜 设 = ( m 砰一( 岛一西2 一应( 葺一碱 一a ( 磊一易嘞 因为有 嗨一秽一峨一万+ 2 “一碱+ 鼠 由k 0 1 g o r o v 大数定理和引理2 1 和引理2 3 ，得道： ( 旬一易2 “以砰+ $ g ：- 1 ( 2 3 2 ) 又由 警阮一刁2 学阿一歹+ 一j l s 2 警阿| + 臁帆一别 条件( 1 ) ，( 2 ) 和引理2 4 知 ， 1 6 呼防一司彳+ 回_ o ， 3 ，动 由( 2 3 2 ) 和( 2 3 3 ) 可得： n 垮阮一纠柝川砰+ s ) 与o ( 2 3 4 ) 设4 l 曰表示为给定b 时a 的分布则由磊。，气。相互独立，“是对称的，( 2 3 2 ) 和 ( 2 3 4 ) 和中心极限定理，可得下式以概率l 成立： 当七一o o 时有 热l 与删) ( 2 3 5 ) 现在来看由的定义可表示为： m k 。8 i l f t + n 3 1 、 其中， 瓦= 以群一霹) 一 一碱 2 南劈一惫孵一吣一硝 2 瓦与( 劈一砰) 一衰( 珥砰一司) 一吩( 而一刃谚 ( 2 3 6 ) 设 圪2 瓦与( 劈一砰) 一( 啊酽一彳) 一吩( 薯一硝 e 圪= o 设 瑶瓦勺2 珥( 砩一可) + ( 丙竺_ ) 2 【( e 配一3 可) 一+ 2 可】 吲葺研c r f 一器( 碱硼 研= 磁= 锷高岛硎砷 + 帮一懈 ( 2 s 7 ) 7 由引理2 3 和晦t r ，经过简单的摧理可得； 踟硼1 2 + ，2 s 吖“， ( 2 3 8 ) l ，- il i 衍一砰r s c ( 2 3 g ) e i 珥( 薯一习4 r 7 2sc 【q ( 而一习2 】l + 7 “ ( 2 3 1 0 ) 由条件( 3 ) 知： 忐柏c - x 惫咧m 则 i 1 2 ”“o ( ( 矿7 “+ 【珥( 而一习2 】l + ，“) ) ( 2 3 1 1 ) 由条件( 2 ) ，式( 2 3 1 1 ) 和姆i n f 剐以 o 得。 方e 时“2 = d ( 1 ) ( 2 3 1 2 ) 因为瓦= 吃，由式( 2 4 7 ) 、( 2 4 1 2 ) 和中心极限定理，得到： 卺当( o ，1 ) ( 2 3 1 3 ) 因为固v ：扩最= 砰，e o ，和上式得： 裔屿( o ，1 ) ( 2 3 1 4 ) 综上所述，可得下式以概率l 成立：当七一m 时有， 条件分布苁赫l 岛 趋于墨+ 五的分布其中墨，五独立，且满足 一i 旺霹【( 以彳蹶执】；。o ，1 ) 因此 7 了= _ 头! 篇卫乙哼( o 1 ) ( 2 3 1 5 ) ( 札砰+ s ) 司+ 2 研 ”7”“ 由 a 一；b = w l | q 。瓢舭s | n l q 可得： 而獭山( 0 ，1 )( 以砰+ 研司+ 研 。 定理成立 定理2 7 若条件a 成立，且4 i ，乓i 相互独鲻i 是对弦的，炊缸f 影坼o ，且满足 ( 1 ) ，o ，陋i r 1 ， 则 s ( 在一口) i 妒砰司+ ( 夕2 砰+ 砰) ( 蹰2 + 静+ 2 尹i 萄罢寿 机喜吩一一七2 x e 咒一3 一) + 号等冬一1 ) l 胆址呻( o 1 ) ( 2 3 1 6 ) 第三章线性多项式模型的研究 考虑e r r o r s i n v a r i a b l e s 多项式模型：假定x 和y 的真实值之间满足 ) ，= 艺届一， b m x 和y 不能直接观测，只能观测到限功，并满足 孳= x + 6 ，玎= y + s ， 其中艿，占是测量误差 在普通的多项式回归模型中，x 是没有测量误差的。对模型y = 届一+ 占作变 换可化作多元线性回归模型y ：圭届而+ 占，因此多项式的情形本质上是线性的 情形，但对上述模型却并非如此。因为当， l 时z 。的测量误差依赖于x 和j ，该 模型将不能转化为一般的线性模型，即使p = l 且( 万，占) 的联合分布为正态分布时， 在没有对万和占作进一步假设的情况下局是不可估计的 模型可写为： p m = 风+ 局工；，嘞= y 。+ 白，乞= + 磊，= l ，2 ，f = 1 ，2 ，i ， ( 3 1 ) f 1 1 以下恒定条件( a ) 满足： 主要任务是估计系数风和，这里声= ( 届，晟，岛) 7 记磊：妻白一，类 似的有聃，最，岛，m ：壹啊，彳：壹一研，m ，类似的有孑我们约定： i i ll l 勺；杰窆c 口，c l ：圭印v ( 1 ) 表示向量v 的第1 分量，a ( 1 ，m ) 表示矩阵a ，- i i lj - l 粤坚二m j 霍枣翌予对称矩阵a 和b ，若a - b 是( 半) 正定的，记为( a b ) a b ，一 个向量或矩阵序列是o ( 1 ) 或o ( 1 ) 。 第一节风和的估计 假定矩“，= e 懿，s = 1 ，2 ，2 p 均已知( = 1 ) 。定义m 多项式k ( x ) 如下 k ( 曲2 口“一，- 1 ，2 ，2 p ， 这里妇。：j = o ，1 ，2 ，耐以下线性方程递归给出： 口。= 1 ， 砉0 卜一岍m 勘，o 对于由上式决定的) ，有： e k 嗨，= 嘻彰= 委妻e 卜耳= 萎喜 。肌# = 彳 e _ ( 岛) = e 彰= i ：k 耳= 卜p 。肌# = 彳 m 4 k 4 记 国删= 响) 一x ? ， 则由上式有 e 国。“= o 。 记 x ，= ( x ，x ；，x ? ) 7 ，= ( 国l f ，国：f ，缈硝) 7 ，日f = ( 啊( 白) ，( 岛) ，k ( 岛”7 ， 可以把模型( 3 1 ) 写成 咒= 风+ 置，= 咒+ 白，吼= 五十，_ ，= l ，2 ，吩，k 1 ，2 ，七，( 3 2 ) ( ，= 1 ，2 ，行，f = 1 ，2 ，| 为独立但不同分布的随机向量，的协方差阵依赖 不可观测的量k ) ，因此( 3 2 ) 是不同于通常的带有独立误差的多元线性e v 模 型但由它的线性形式作下文的估计方法： 以q 口记c o v ( ) ，这里 n p ( f ，小) = e 9 叫= 驰( 乞) k ( 白) 一+ 。，l ，脚s p 令q 。= m 。1 o f ，下式定义的对称方阵绞可作为q 的估计： 幺( ，珊) = 圻1 岛虢溉嗡) 一k 1 i l 。皤) ， 2 t 1 ，册p ( 3 3 ) 记霄= m 1 仇五；( 夏驴墨：) ，一，夏力) 7 ，霄= 峨；( j ；：，瓦，瓦) 7 ， 定义矩阵以及列向量墨为 m 。= 坼1 ( 一蜀( 一历7 ， 心= m 1 ( 一历( 协一劢 利用以上统计量，提出风的估计反和声的估计夕= ( a ，众，夕。) 7 为 夕= ( m 。一绞) 一1 疋， 每。= 奇一嚣t 鑫 注意到夕和巍都依赖于k 然而通常p ，= e 醅o = 1 ，2 p ) 是未知的，这意味着式中定义的口。，不是统计 量， 因而见( 岛) 也不是统计量这样定义的声和众已不能用作估计了解决这 个问题的方法是对以作估计，并用其估计p ，o ；o 1 ，2 p ) 取代式中的从首先 有 稍加峨= 瓷孚 对以( j 3 ) ，用递归的方式定义 令 = l 一町1 ，k = 听1 ， 当l s m ，m ，则： e 一磊) 。= e ( k 瓦) 7 2 艺屹所+ 一g ( 段，鸬，m 2 ：) 。町1 c ，( 吩) 朋+ 町。9 0 2 ，地，朋一2 ：一) ， 这里c ，( _ ) = 疗i h 一1 ) 【( 啊一1 ) “+ ( 一1 ) 】，而g 是关于卢2 ，乜，h 的某一多项 式翁见存在常数c o ，使得g 的所有的系数落在区闻( 一哦，哦) 中。献而有 m 露嘛一或) = q 盹编+ g ( 鲍，硒，鲰：氇) # i 由予岛一磊= 或一填，这样辩子3 f 2 热若巍，叠h 黪售计戳选律麓，秘， 豹售谤，则硒艇售计霹以取先 弘l2 用其估计愈0 = o ，l ，2 p ) 取代式中的鼓，锝劐磊和声的估计，分别记 为屏和+ = ( 群，厦，砬) 7 计算时，先用扁。代替。， 解方狡，将簿记秀： a 槲：，= o ，l ，拼，m = l ，2 p 令 蠢= 懿善7 ，麟= l ，2 ，雄 在依次计算 我虢辨) = 孵骞嗨) 蠢嗨) 一何藤。晚) 1 厶小兰a 岛= 蕊嗡) 意嗨，蠢嗨) ) 7 ，蚕= 霹岛；( 覆，毒，麓) 7 ， 囊。= n 媾。一荟酒；一舞耳。 鱼= m 1 ( 岛一詹嘞一豹， 及最终估计卢。和磊为： 罗。m 溅一众) - l 囊， 醵= 霹一a 18 1 多蠢斌都依赖子k 。 第二节众o = o 1 ，2 p ) 的强相合性 下面要证明在一般条件下估计户和儡的强相合性证明分两步：首先证明 丘，0 = o ，1 ，2 p ) 的强相合性，其次利用此结果来证明，和属的强相合性 引理3 1 川：设k ：d 为零均值的独立随机变量序列，有有限p 2 阶绝对矩 则 i l h 纠t f s c “叫| ，这里c ，是某一常数 1j ilj i l 引理3 2 【1 2 1 ：设b ，也。为零均值的独立随机变量序列，最：窆毛若存在常 i j 数序列口1 、。，使得喜e k 多磊 m 对某_ 础p s 2 ，则墨屈。一与。 引理3 3 ：若对某正整数r 有e 协j ；2 ， ，则 【( 磊- 4 ) e ( 磊- 最) 】m = “1 ) a s 定理3 1 ：若( 毛，白) 为i i d 序列，嬲。= 。= o j 与乜j 独立，且 e 矗 0 ，使得g 的所有系数在区间 ( 嘲，哪) 中，再结合归纳假设，得到 札s 【g ：，岛，p 。：啊) 一g o ：，心，肌：吩) 】m ：d ( 1 ) a s 定理证毕 第三节和历的强相合性 条件( b ) ：令瓯= m 1 吩( x ，一氟置一两7 ，假设 z ) 有界且存在对称的常 矩阵写，疋，使得对充分大的k ，o 正茎墨s 瓦即 瓯= 0 ( 1 ) ，筇1 = o ( 1 ) 引理3 3 【1 5 】：设和。 为零均值有有限方差的独立随机变量序列，伍 是常值 列向量序列令 兄：疗一- 窆五，鼠= 窆( 置一置) 伐一元) 。 若l i m s ，= o ，则 n 船钾善瞄一豆弦，= o a 点 引理3 4 ：若( a ) ( 磊，白) 为i i d 序列，e 磊。= e 毛。= o 概 与j 独立， 且e a o ，e 慨。1 4 ， m ，h ) 中有无限多个大于2 ( b ) ：令 & = m 1 珥( 五一氟置一两7 ，假设 z ) 有界且存在对称的常矩阵五，瓦，使得 对充分大的k ，o 正瓯疋则当七啼时，有 每_ b ，n 3 社1 8 l n s 证明：我们分四步证明 首先，由引理2 和条件( a ) ( b ) 易知，若 是一零均值有有限方差的独立 随机序列，则当| j 啼0 。时，有 坼r 勺_ o & s f l ，2 ，2 p 其次，由喜陆如= m 山厶，o 有 ，、 l ：p 肝，肼一。夏，) = 墨 因此有 ，1 0j - 0 、o 瓦一夏帕= m 1 k 响) 一( 螂 = 材妻芸嚷菇一善妻e 卜肌f ， = 材【菇一l 卜肌f 】 扣ij l ，o 扣m 扣m 。 = 喜妻( 。f 妻喜心l 肌w = d ( 1 ) ，口j 这样，对于1 f ，m p ，有 m 。( ，肘) 一么u ，m ) = m 1 【啊嗡) 一面】嗨) 一瓦】 一【m 1 啊( 白) k 喻) 一m + 。( 白) 】 = 瓦，一焉瓦 因 z 是有界的，所以 m t ( ，m ) 一q ；u ，开) 一【夏“。) 一而) 夏。) 】= d ( 1 ) a s 故 m i 一姨一s i = d ( 1 ) a s 因为墨= o ( 1 ) ，1 = o ( 1 ) 有 易得 舰筇1 ( 心一绞) = a s 最= m 1 ( 一历( z 一两7 + 坼1 ( 一鳅白一刃 i 厶t 夕+ 厶i i 虻1 乏：k ( 岛) f 一墨“。) = d ( 1 ) ，口j 1 ，小p m 1 ( 白= d ( 1 ) a s 由所有上式 厶t u ，m ) 一【夏，+ 。) 一夏，) i 。) 】 = f 【岛( 岛) 一再】【f 一最。) 】一【置“) 一置) 夏。) 】 = 岛( 旬弦? 一最，。) + 【夏，) 一五】墨。，= d ( 1 ) 雌 ：。( 历) = m 1 九( 岛场一瓦孑= d ( 1 ) 舢 故 厶i 一毋= d ( 1 ) a s 三2 t = d ( 1 ) a s 因此 r s 卢= d ( 1 ) a s 由上式及 瓯= o ( 1 ) ，s ；1 = o ( 1 ) 有 熙1 凡= a s 最后由 q ) 姚，般硭似t 一幺) = a s 及上式 夕一= 【1 ( m 。一绞) 】_ l 筇1 墨一= d ( 1 ) a s 因阮 有界，有 庇一= j 7 ( 一向+ ( 夏一霄) 7 声+ 享：d ( 1 ) a s 证毕 定理3 2 ：若( a ) ( 岛，白) 为i i d 序列，硒，= 明。= o ，镜j 与h j 独立，且e 矗 a o ，啦。r o ，存在磊 0 满 足：对于所有的薯e 满足汐? 矿i 毒， q 一( ) = 矿1 善氍( # 一毛) n 1 ( 才一= ，) ， 冬 ( 4 卫1 3 ) 设口= 够0 。 z ：z 。) ，设鳓真值是矿= 够”z ? ，z o ) ，设百是在满足约束条件 厂( 刁；) 2 0 下的( 乙一乞) 。1 ( 乙一乏) 的极小化问题的口的估计则有： r “2 ( 占一口o ) i 斗( o ；锄 当r 一时 其中 伽( 宅乏 ， = 【砣r l q 。是印印的块矩阵，p p 的块有形式： ( 4 2 1 4 ) ( 4 2 1 5 ) = 篓端羔一 q m 是_ i ，昝，自q 块矩阵，形式是： q 朋= 一矗q 印。， 其中： = 兄。e ，。= 。= 。e ， 纠警，警，学， 巴= 学，警，华 证明：设 只( ) ；行。荟精( z 一毛) 。1 ( 秽一五) 因为只( 刃在矽处取极小值，所以 只( 夕) 只( 矿) 刀。1 晶：晶= 焉 又因为： ( 刁一毛) 。1 ( 刃一弓) s 2 【( 乙一弓) 。( 乙一毛) + 岛= ：露】 所以有： q ( 夕) 2 【只( 夕) + 民】4 b = o ，( r 1 ) 有条件( 4 2 1 3 ) ，q ( 夕) 收敛于零可知道触敛于矿，且是一致估计 因为有： 芝( z 一五) 。1 ( 才一刁) = 打q ( 夕) ， 在点( z ，o ) 展开厂( 幺，夕) ： ( z 一弓) 。1 ( z 一弓) + 嘶，( 刁，历 后一项可写为： q 坼( 彳，p ) ( 声一声。) + 正( 彳，) ( 三，一才) 】 其中是拉格朗日乘子有( 4 2 1 0 ) 知 声一。= 1 石( i ，) ( a 0 ) 。厶( i ，卢+ ) 】一 【乃( i ，卢) ( d 0 ) 。z ( z ，卢) ( z j z ) 】， 皇一才= 晶一( 。) 一1 岛( i ，声) + 厶( i ，卢x 夕一矿) 】z ( 彳，+ ) 。 其中a 0 = 正( 彳，夕) 。乃( 彳，声) 现在因为否是一致估计，所以： 【( i ，) z ( i ，+ ) ，a 0 】_ ，q 。】 由此可得到： 声一声：- 窆口未】主仃品+ d ，( r “：) ， 三，一# = 毛一吒k + ( 夕一矿) 】。+ ( ，。”) 其中= 艺晶且。= 兄。 由岛的正态性可得结论成立 参考文献 1k e n d a l lmgs t u a r ta t h ea d v a n c e dt h e o r yo fs t a t i s t i c s ，v o l2 n e w y o r k ：c h a r l e sg r i f f i n ， 1 9 7 9 。 2k e n d a l lmgs t u a r ta t h ea d v a n c e dt h e o r yo fs t a t i s t i c s ，v o l1 n e w y o r k ：c h a r l e sg r i f f i n ， 1 9 7 7 。 3k e n d a l lmg( 1 9 5 1 ) ，r e g r e s s i