（概率论与数理统计专业论文）混合整数线性模型的相合性与未知参数的bayes估计.pdf

摘要 本文所研究的混合整数线性模型来源于g p s 定位技术的数据处 理，而其中整周模糊度的估计是g p s 高精度定位中的一个关键。其模 型为： y = 似+ 召秒+ e ，e n ( 0 ，g ) 其中y 表示观测量；x 表示未知基线向量，各分量取实数；口表示整 周模糊度，各分量取整数；彳和b 为列满秩设计矩阵。由于存在对秒的 这个限制，不仅使得模型的参数估计变得复杂起来，更重要的是它使 得对各参数估计量的概率性质的讨论也变得比较难。 本文作者注意到，对混合整数线性模型虽然已有许多估计其参数 的方法，但对其估计量的相合性的讨论至今仍无人涉及。本文作者在 研究了各种对参数进行估计的方法的基础上，证明了在一定条件下这 些参数的估计量的相合性，并举例进行了模拟验证。 上述对参数工和秒进行估计的方法都是在假设方差分量仃2 已知 的情况下进行的。当盯2 未知时，就无法利用这些方法来估计参数x 和 秒，因此对方差分量的估计也是一个非常重要的问题。对此，本文基 于b a y e s 方法，对仃2 服从无信息先验分布和逆g a m m a 先验分布这两 种情况，研究了其后验分布，给出了这两种情况下仃2 的极大似然估 计的公式。 此外，本文作者对整周模糊度秒的基于b a y e s 理论的极大似然估 计也提出了自己的改进。已有的对目的b a y e s 估计是将目看成是无先 验信息的，本文将在这种情况下求得的秒的后验分布作为它的先验信 息，提出了有信息先验的目的b a y e s 估计，从而进一步完善了秒的估 计方法。 关键词混合整数线性模型，整周模糊度，相合性，b a y e s 估计 a bs t r a c t t h em i x e d i n t e g e rl i n e a rm o d e lr i s e sf r o mt h ed a t ap r o c e s s i n go f g p st e c h n o l o g y , a n dt h es o l u t i o no ft h ei n t e g e ra m b i g u i t yi so n eo ft h e k e yi s s u e si np r e c i s ep o s i t i o n i n g t h em o d e l c a nu s u a l l yb ee x p r e s s e da s y = 似+ b o + e ，e n ( o ，q 。) w h e r eyi st h ev e c t o ro fo b s e r v a t i o n xi st h ev e c t o ro fu n k n o w b a s e l i n ew i t hr e a lv a l u e ，0i si n t e g e ra m b i g u i t yw i t hi n t e g e rv a l u e ，a a n dbi sd e s i g nm a t r i x t h ev e r yr e s t r i c t i o nt h a toi si n t e g e rn o to n l y c a u s et r o u b l ei nt h ee s t i m a t i o no ft h ep a r a m e t e r sb u tm o r ei m p o r t a n t l y m a k e st h es t u d yo ft h ee s t i m a t o r s s t a s t i s t i c a lp r o p e r t i e sv e r yd i f f i c u l t a l t h o u g hm a n yw a y so fe s t i m a t i n g t h ep a r a m e t e r sh a v eb e e n d e v e l o p e d b u tn os t u d ya b o u tt h ec o n s i s t e n c yo ft h e s ee s t i m a t o r si sd o n e y e t w t hat h o r o u g hs t u d ya b o u ts o l u t i n go ft h e s ee s t i m a t o r s ，t h ea u t h o r p r o v e dt h ec o n s i s t e n c yo ft h e s ee s t i m a t o r s a n df u r t h e r v e r i f i di tb y c o u m p u t e rs i m u l a t i o n t h ea b o v em e n t i o n e de s t i m a t i o no fp a r a m e t e rxa n d0a 1 1w a s c a r d e dw i t ha s s u p t i o nt h a tv a r i a n c ec o m p o n e n to r 2i sk n o w h o w e v e r , w h e nt h ev a l u eo f 仃2i su n k n o w , t h ee s t i m a t i o no fp a r a m e t e rc a nn o tb e d e r i v e d s oi ti sv e r yi m p o r t a n tt oe s t i m a t et h ev a r i a n c ec o m p o n e n t b a s e d o n b a y e sp r i n c i p l e ，t h e a u t h o rd e r i v e dt h em a x i m u ml i k e l i h o o d e s t i m a t i o nr e s p e c t i v e l yf o rt h ec o n d i t i o nt h a t 盯2h a sn o ni n f o r m a t i v e p r i o ra n d 仃2h a si n v e r t e dg a m m ap r i o r i na d d i t i o nt ot h a t ，a u t h o ri m p r o v e dt h eb a y e se s t i m a t i o no fi n t e g e r a m b i g u i t y 秒t h en o we x i s t e db a y e se s t i m a t i o no f 目c o n s i d e r i tw i t h n o ni n f o r m a t i v ep r i o ra n dt h e nd e r i v e dt h ep o s t e r i o rd i s t r i b u t i o n t h e a u t h o ru s e dt h i sp o s t e r i o rd i s t r i b u t i o na sap r i o ri n f o r m a t i o no f0 ， p r o p o s e d an e we s t i m a t i o no f0a n df u r t h e rp e r f e c t e dt h eb a y e s e s t i m a t i o no f0 k e yw o r d s m i x e d - i n t e g e rl i n e a rm o d e l ，i n t e g e ra m b i g u i t y , c o n s i s t e n c y ， b a y e se s t i m a t i o n i i 原创性声明 本人声明，所呈交的学位论文是本人在导师指导下进行的研究 工作及取得的研究成果。尽我所知，除了论文中特别加以标注和致谢 的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不 包含为获得中南大学或其他单位的学位或证书而使用过的材料。与我 共同工作的同志对本研究所作的贡献均已在论文中作了明确的说明。 作者签名錾至壁芝日期：垃年卫月芩日 学位论文版权使用授权书 本人了解中南大学有关保留、使用学位论文的规定，即：学校 有权保留学位论文并根据国家或湖南省有关部门规定送交学位论文， 允许学位论文被查阅和借阅；学校可以公布学位论文的全部或部分内 容，可以采用复印、缩印或其它手段保存学位论文。同时授权中国科 学技术信息研究所将本学位论文收录到中国学位论文全文数据库， 并通过网络向社会公众提供信息服务。 作者签名建互堕茎导师签名乏左虫 日期：垒竺生年生月丝日作者签名了重互堕堇导师签名乏左曼 日期：垒竺生年生月丝日 硕士学位论文第一章绪论 第一章绪论 1 1 混合整数线性模型的来源及其实际背景 随着科学技术的飞速发展，g p s 技术被广泛应用于生产和生活的各个领域。 在测绘领域，g p s 定位技术已用于建立高精度的大地测量控制网、测定地球动 念参数，建立陆地及海洋大地测量基准、进行高精度海陆联测及海洋测绘等； 在工程方面已成为建立城市与工程控制网的主要手段，尤其在精密工程的变形 监测方面发挥着极其重要的作用；同时g p s 定位技术也用于测定航天航空器的 位置、对飞机和汽车等运动目标进行精确导航。 本文所讨论的混合整数线性模型正是来源于g p s 的高精度定位中的数据 处理方面。利用g p s 系统进行定位的方式主要分为两种。一种是利用伪距法进 行定位，其主要优点为定位速度快且无多值性问题，但由于该方法所使用的c a 码波长一般较长，因此精确度不够( 误差约为2 0 到3 0 米之间) ，无法满足一些 高精度应用的要求。另一种方法则是载波相位测量定位法。由于载波波长一般 很短，因此测量精度可以得到大大的改善。但这也带来了许多额外的计算，主 要原因在于载波是一种周期性的j 下弦信号，而相位测量法只能确定其不足整周 的部分，故而存在整周数不确定的问题。为了克服这些不利因素的影响，实际 应用中往往得对所观察到的数据进行处理，其中就包括双差( d o u b l ed i f f e r e n t ) 模型，其相应的误差方程为： y = 肛+ b 口+ 8 ，e n ( 0 ，a y ) ( 1 一1 ) 其中y 表示观测量；x 表示未知基线向量，各分量取实数；口表示整周模糊 度，各分量取整数；么和b 为列满秩设计矩阵。 从( 1 1 ) 式中可以看出，当取消对秒各分量只能取整数的限制时，该模型 即为一般线性模型。正是因为存在对秒的这个限制，使得模型的处理方法变得更 为复杂，各参数估计量的概率性质的讨论变得难度更大。特别是，到目前为止， 整周模糊度秒估计量的密度函数仍无法给出准确的表达形式，从而影响到诸如无 偏性、相合性等统计推断的进行，相关方面的假设检验更是处于起步阶段，这 些都影响到模型有效性的研究。但在现实生活中，该模型应用广泛，地位极其 重要。除在g p s 中诸数据处理时被广泛引用外，在g n s s 中也有众多模型都最 终可归纳到上述模型，因此本文选择该模型作为研究对象。在行文中，为了区 别以往一般线性模型，本文以下改称( 1 1 ) 为混合整数线性模型。 硕士学何论文第一章绪论 1 2 国内外研究现状 到目前为止，国内外有许多文献对此模型进行了深入研究，概括起来，大 致情况可归纳如下： ( 1 ) 基于经典最小二乘理论的方法 此类方法主要基于经典最小二乘理论，再引入整数最小二乘方法f 见 t e u n i s s e n ( 1 9 9 3 ) m 1 ) ，将( 1 1 ) 中参数估计x 、秒的求解过程分为两步：即求浮 点解( f l o a ts o l u t i o n ) ；求固定解( f i x e ds o l u t i o n ) 。其求解流程可用图表示如下： m 一 模型( 1 1 )= 毋到兄秒二j 求得乡二_ - 得到x 即先去掉模型( 1 1 ) 中对乡各分量只能取整数这一约束条件，此时，该模型即 相当于一般线性模型，因此可采用经典最小二乘方法求得x 、目的估计( 即浮点 解) ，记为x , o ，然后再在此基础上找出满足 m ，i n 。( o 一口) 7 绣1 ( 0 一口)( 1 2 ) 的p 作为参数0 的估计，最后再用残差0 0 对x 进行调整，并得出x 的调整后的 估计叉= 舅眵。 由于整数向量的取值具有离散性，这给( 1 2 ) 中0 的查找带来许多额外的麻 烦。而0 的求解在模型( 1 1 ) 的全部参数的求解中具有核心地位，因此，到目 前为止，国内外大量文献的研究内容都主要集中在如何求解整周模糊度0 的估计 这部分。 在实际处理中，得到臼最快捷的方法当数四舍五入法( r o u n d i n g ) ，即将口的 每一个分量都采用四舍五入法取到最近的整数，得到新估计 否= ( 【q 】，【幺】，【包】) 2 ( 【】表示取整) 。该方法虽简单但却也存在一极大的缺陷， t e u n i s s e n ( 1 9 9 3 ) 1 6 】指出，在0 各分量问存在相关性时，四舍五入法所得到的0 可 能并不满足( 1 2 ) 式的要求。考虑到a 各分量间的这种相关性，t e u n i s s e n ( 1 9 9 3 ) 1 1 6 】 第一次提出了最小二乘降相关调整法( l a m b d a ) 。该方法将( 1 2 ) 中0 的求解 分两步进行：第一步为推导阶段，即引入z 变换：z = z 0 ，其中z 特点是，整 数向量0 经过该变换后，得到的z 仍然是整数向量；此时相应的协方差阵变为 q = z q z ”，相较于q ，q 更接近于对角矩阵。这也就是说，通过这个变换 能有效降低原有向量中各分量问的相关性，同时又不破坏该向量的整数性。值 得一提的是，除了上述z 变换外，还有许多文献提出了另外的降相关方法。 h a s s i b i ( 1 9 9 8 ) 4 6 】首次将l l l 算法引入了混合整数线性模型中，r i j 志平- ( 2 0 0 7 ) t 3 8 】 详细分析了l l l 算法，并对该算法存在的缺陷，提出了整数高斯算法并对两者 2 硕士学位论文 第一章绪论 进行了模拟比较；a g r o l l ( 2 0 0 2 ) 4 4 1 同x u ( 2 0 0 1 ) t 4 8 】贝0 分别提出了单元模糊度降相关 法和逆整数c h o l e s h y 降相关法。第二步为查找阶段，在这一阶段，为了提高搜 索效率，先得缩小搜索范围。一般做法是找出一个适当边界值z 2 ，并令 ( 乡一口) r 鳞1 ( 口一目) z 2 来缩小搜索范围。在j o n g e 、t i b e r i u s ( 1 9 9 6 ) i s 4 中提出了如 何确定z 2 的详细算法。 上述文献主要都是针对模型( 1 1 ) 提出的一些算法，几乎没有涉及各参数估 计量的统计性质的研究。t e u n i s s e n ( 1 9 9 9 a ) t r 7 】给出了三类用矽求出相应的9 的方法， 即四舍五入法( r o u n d i n g ) 、整数自助法( i n t e g e rb o o t s t r a p p i n g ) 及整数最d - - 乘法 ( i n t e g e rl e a s t s q u a r e ) 。并给出了估计量0 的密度函数 p ( o = z ) = i 。乞( x 渺 ( 1 3 ) 虬) z t e u n i s s e n ( 1 9 9 9 b ) 1 8 】在t e u n i s s e n ( 1 9 9 9 a ) 1 7 】的基础上第一次提出可容许整数 的估计的概念，并指出了各整数估计从本质上讲，其实是一个从实向量空间到 同维整向量空间的在上映射s ( 臼) = 9 。最后还证明了就最大化取到正确整向量的 概率而言，整数最d - 乘具有最优性。t e u n i s s e n ( 2 0 0 2 ) 了7 】系统的研究了所有参数 估计量x 、口、x 、秒及残差e = 0 一臼的概率性质，并给了在e 服从正态分布的 情况下各个估计量的分布及它们的联合分布函数。但需要指出的是，这些分布 函数都依赖一个量s ，即积分区域。而s ，一般很难求出，即使能准确计算得到， 仍然无法精确计算出积分( 1 3 ) 式。s a n d r a v e r h a g e n ( 2 0 0 4 ) 1 4 】给出了一种近似估计 ( 1 - 3 ) 的有效方法。t e u n i s s e n ( 2 0 0 7 ) 3 1 】推广最小均方误差预测的概念，并提出 了混合整数线性模型的预测问题。 ( 2 ) 基于b a y e s 理论的方法 b e t t i b ( 1 9 9 3 ) t ”】最先将b a y e s 理论的方法引入对混合整数线性模型参数估计 的研究，该文将p 只能取整数的性质视为口的先验分布，给出了x 和秒的b a y e s 估计及相应的协方差矩阵。但由于b e t t i b ( 1 9 9 3 ) 3 9 】中将目的估计取为后验均值， 而后验均值仍然无法直接求出。j z h u ( 2 0 0 1 ) 2 0 】在b e t t i b ( 1 9 9 3 ) t 3 9 1 的基础上进行了 深入研究，并提出了x 和口在无信息先验条件下的极大似然估计。其结果表明， 无信息先验情况下的极大似然最后可以转化到t e u n i s s e n ( 1 9 9 3 ) 1 6 】中所提的方法 上去。在b a y e s 置信区间方面，b g u n d l i s h ( 2 0 0 2 ) t 4 7 】提出了目的极大后验区间估 计，并做了大量的模拟工作。最后m c d el a c y ( 2 0 0 2 ) 4 2 】首次将b a y e s 方法应用于 整周模糊度的随机模拟解中，并提出了一整套查找合适整数值的算法。 本文作者注意到，对混合整数线性模型虽然已有许多研究其参数的方法和 概率性质，但对其估计量的相合性的讨论至今仍无人涉及。因此本文在第三章 重点给出了z 、9 弱相合性的证明，并通过一三维例子对其进行了模拟验证。 3 硕+ 学位论文第一章绪论 此外，本文第四章在首次给出了有信息先验下整周模糊度0 的极大似然估计，最 后本文还给出了方差分量的b a y e s 估计。 1 3 本文内容安排 本文内容安排如下： 第一章是绪论，介绍本文的研究背景以及国内外的研究状况。 第二章对混合整数线性模型中各参数估计的方法综述。 第三章作为本文的主要内容之一，在已知各参数分布的情况下，研究各参 数估计的概率性质，并证明其参数估计的无偏性和相合性，并通过实例对相合 性进行了验证。 第四章是本文另一个内容，导出有信息先验情况下0 的极大似然估计及方差 分量盯2 的b a y e s 估计。 4 硕士学位论文第二章混合整数线件模型的最小二乘估计 2 1 引言 第二章混合整数线性模型的最小二乘估计 x 、0 的各种估计叉、否。 本文所研究的混合整数线性模型可表示为： 其中y r ”为观测向量，x r p 为未知基向量，0 z “为整周模糊度， a 心川b 如。分别为已知的列满秩设计矩阵，e r “且p n ( 0 ，g ) 为误差向 由统计学原理可知，在无系统误差的情况下，使均方误差最小的估计就是 其方差最小无偏估计( m v u e ) ，如果进一步知道】，服从j 下态分布的话，此估计还是 未知参数的极大似然估计( m l e ) 。 又在( 2 1 ) 中，由e n ( o ，q 。) ，可推出y 的似然函数为： 小i l1 一 l f r ( y ) = ( 2 乃) 一zi q yi - je x p 一专( 】，一4 r 一召矽) 7 所1 ( y 一彳x b o ) 在j ，固定的情况下，要使乃( y ) 达到最大，只须求解 揪m i n ( 】，一似- b o ) 2 研1 ( 】，一a x - b o ) ( 2 2 ) 从而得到x 、0 的估计值膏、否。 事实上( 2 2 ) 式中的二次型目标函数 ( y 一似一艿p ) 7 9 1 ( y 一似一b 秒) 可做如下分解 何一邶砺k 卜一础) _ ( 笨x l o 雾荔- ix0 1 3 ， 一x ) 。q 。、i x ) 其中殳、谷表示将( 2 1 ) 中去掉秒z 一的约束条件后，x 、0 的最小二乘估计。伤 是与务相应的协方差阵，三：y 一彳舅一召a 表示残差，殳眵表示臼给定的情况下对x 的估计值，q v i o 为相应的协方差阵。由( 2 3 ) 易知，当取到相应的0 z ”时， 戈= 舅i 否r 尸 ，此时在( 2 - 3 )中 ( 舅i 否一x ) r 钙：( 殳i 否一x ) = o ， ( 秒一p ) 7q = - 1 ( 秒一秒) = m i n 。( o 一9 ) 7q ：1 ( 口一秒) ，进一步有： 0目二7 ”一 ( 】，一彳膏一b 否) 2 9 1 ( y 一彳趸一占舀) = ( a 一否) 7 9 1 ( 谷一? ) +( 2 4 ) ( 】，一么舅一b a ) 2 劣1y 一彳舅一b 多) 5 硕士学位论文 第二章混合整数线性模型的最小二乘估计 ( 2 4 ) 式表明模型( 2 - 1 ) 中x 、0 的估计实际上可以分成两步走： ( 1 ) 先去掉9 z ”的约束条件，用g u a s s m a r k o v 法求出其估计值殳、务，即求 出浮点解： ( 2 ) 再求出满足( 1 3 ) 式限制的估计值舀，并用a 一0 。的值对殳进行调整，得到 -a b ，此即为求固定解。 ， ， ， o p - - 2 图2 - 1 x 2 图2 - 1 表示( 2 4 ) 式在二维情况下的几何意义图，历表示用向量墨和置对】， 的浮点估计，瓦表示在置系数只能取整数时的固定估计，则此时有萌、一c a 分 别表示两种估计的残差舍、。e ，历表示( a 一舀) 7 9 1 ( b - b ) 。则显然有( 2 4 ) 式 成立。 a 2 2 求浮点解x 、秒 又由 要求浮点解，只须将( 2 - 2 ) 式中的乡z ”的约束条件改为目r “，令 f ( x ，o ) - - ( r a x b 口) 7 9 1 ( y a x b o ) ， 从而得到， 又， = - 2 a r 饼1 ( y - b o ) + 2 a7 研1 a x = 0 = - 2 b r 9 1 ( y 一似) + 2 b ，所1 b 乡= 0 缨北0 ) -曰，研1 b 八 6 矽瓦矽历 l-i l、，一 y y 研所 么曰 ，。一 彳彳 g g 彳口 ，。l 硕士学位论文第二章混合整数线性模型的最小二乘估计 (彳r研：么：篓：b=。彳(i么abtq；a b b t q ；厂g ，彳) 一羔 l 1 曰7 鳞1j 【1 彳( 么7 1 9 1 彳) 厶厂 f ，彳r 劣1 a 。0 、1 l o 曰r q y i b - ( b ，g t 彳) ( 彳r g t 彳) - 1a t q ；- b j k 彳厂玎 其中l 、l 分别表示与a r 9 1 a 、b r 9 1 b 同阶的单位阵。从而得到， ix = ( 彳1 研1 彳) - 1 彳。9 1 y 【务= ( b7 1 研1 召) 。1 b ，9 1 ( 】，一么x a ) 其中a = 黠彳、礤= l - b ( b r 9 1 b ) 一b7 9 1 。又有， v a r m 象曹 又y n ( a x + b 秒，q y ) ，易知x 、0 分别为y 的线性函数，故而有： x n ( x ，绋) ，绋= ( 彳。研1 彳) 。1 0 一n ( o ，g ) ，锡= ( 曰1 9 1 曰) 。 其中b = 片b 、片= l - a ( a r 9 1 彳) 一a r 9 1 。 2 3 求固定解秒、x 实际上要求否就是要找出全部满足条件 m i n 。( 0 一目) 1q ：0 1 ( 秒一秒) o e z ” ( 2 5 ) ( 2 - 6 ) ( 2 - 7 ) ( 2 - 8 ) ( 2 - 9 ) 的臼，其中痧为2 2 节中的浮点解痧。目前实用中的方法主要有以下三种。 2 3 1 三种整数估计量秒 ( 1 ) 四舍五入法估计量o r ( r o u n d i n g ) o r = i 【q 】，【幺】，【包】) ( 2 一l o ) 1、r 这种估计方式是最简单也是最快捷的估计方式，只需将0 = i b ，岛，幺) 中 的各分量谚分别近似到最近的整数【谚】处即可。但值得指出的是这样得到的反只 在鳞1 为对角型矩阵时才满足条件( 2 9 ) ，原因很简单，当 绞1 = d i a g c r 叫( 1 ，1 ) ，仃- 1 ( 2 ，2 ) ，仃1 ( ，2 ，z ) ) 成立时，( 2 9 ) 式可化为 7 硕士学位论文第二章混合整数线性模型的最 b - 乘估计 ( 否一秒) r 绣- ( 否一秒) ：窆( 谚一幺) ：肛( f ，f ) 很显然此时易得 喜( 谚一盼似驴卿( 痧删7 绣1 ( 参棚 其二元情况的例子如下( 图2 - 2 ) 、( 图2 - 3 ) 所示： r o u n d i n g 妨 一： 一蘩 再一 一? i 仁 |_e 一、 ，p ：一 0 1 。业 。 ： 身一 。 奄： ： 力 ；彳! ， 。形 - 老必 。i ：j斧 ：。 弋蔓一 ： 缮 审 j 名 一；。 ，螺 ； 身二 一一 哆 岛。= q 】 晓：= 幺i 。】【晓一亩吒1 ( 反一吃。) 】 吃。= 晓i 】= o “n 一丢n - i 飞岛，：( 岛，一吃，) 】 其中i = l ，2 ，( i - 1 ) ) ，n = l ，2 ，q 1 ) ) 然后令 晓= ( 瓦p 瓦，晓。) 2 如果令d = ( 鼠，岛”，吃i ) ，n = 1 ，2 ，0 1 ) ) ，则有 ( 0 - 0 ) = ( d - o ) 且包= l d l r ( 2 1 3 ) 0 9 8 7 6 5 4 3 2 1 0 8 6 4 2 硕+ 学位论文第一二章混合整数线件模型的最小二乘估计 其中 l = l 岛。吲 “吒k d = 仃二0 q o 。 o o 0 ： 1 0 i 0 6 t n 事实上，正如t e u n i s s e n ( 1 9 9 3 ) 1 6 】中所指出的那样，( 2 一1 3 ) 式相当于对口一p 进 行一次z 一变换，降低痧各分量间的相关性，但必须满足一些条件。针对 z 一变换的具体细节与算法，可参考d ej o n g e ( 1 9 9 6 ) 5 4 1 。 ( 3 ) 整数最小二乘估计量岛( i n t e g e rl e a s ts q u a r e ) 岛2p z ”快m i z l n ( 谷一秒) 7 锈1 ( 秒一目) 2 3 2 可容许性整数估计 从2 3 1 节中的三种整数估计量大致可以看出，经由痧的值估计p 的问题， 实际上相当于构造一个从r ”到z ”空间的映射，即s ：r ”_ z ”。 j s ：一 l x 2 z l ： ： ： ：； i - ：二；叫：。l 卞一一z 2 ： u 7 u r x l：x i i ： 图2 - 4 图2 - 4 为一二维情况的例子，整数估计实际上相当于构造一个左边平面中的区 域s ，到右边平面中整数格点z 的映射。 由z ”的离散性可知，s ：r ”一z ”是一个在上满映射，下面定义r ”的子集& 为 是= x r ”l z = s ( x ) ，v z z ”) ( 2 1 4 ) 这样是即为z z ”在尺”中原象的全体，因此有臼= z 营秒墨成立，若定义是的 9 硕十学位论文第二章 混合整数线性模型的最小二乘估计 不性函数为 弘) = 篙曼 1 5 ) 则一般情况下的整数估计量可定义如下 否= z e z nz 屯( 莎) ( 2 1 6 ) 定义2 2 ( 可容许性整数估计量) ：整数估计否= ：z t ( 台) 是可容许估计 当且仅当集合品满足如下条件： ( 1 )us z = r ” z z “ ( 2 ) 1n ：a v z l ，z 2 z 一且z 1 z 2 ( 3 ) s z = z + 瓯 v z z “ 定义2 2 中s z 的示性函数为i s z ( x ) 满足如下两条性质： 性质( 1 ) ：对任意固定的x r ”，有 j 釜 ) o 比z ” ( 2 - 1 7 ) l 磁。k ( x ) = 1 归一7 性质( 2 ) ：对任意固定的z z ”，有 冬 ) 0 艇彤( 2 - 1 8 ) 、产 i s 。( x ) d x = 1 2 3 3 三类可容许整数估计 对于2 3 1 节中提到的三种整数估计量，在给定z z ”的情况下，可以分别 定义出其相应的原象集，它们是： ( 1 ) s 胁= x 6r ni i x , 一z i ) vz z ” ( 2 ) s 肌= n x 6 r n 眵f 1 ( x - z ) i l ， n + p ( 3 - 2 3 ) ie ( w ) = 0 ， m j 以+ p 7 证明：依分块求逆公式可得 班匕”t i - i ( ( 口_ 联擘) 一- 口_ k 诹) 1 ( 3 - 2 4 ， 这里口- - em ：，利用投。) = 仫册) + 气肌) ，其中以。) = ( 咒，奶，) r ， 气所) = ( q ，豸，) 7 ，从而得到 ( m ) = + 1 a ) 气。) ( 3 2 5 ) 1 6 硕十学位论文第三章混合整数线性模犁最小二乘估计的相合性 再由( 3 1 4 ) 、( 3 - 1 5 ) 得 f 瓠。：届+ 羔f i = li t 群( 巩一口一1 k 磁) z a k 二h ：k m a 又因为 群( 垦二! ：i 垒群厂一0 一口。1 群何i 坠膨吣j 1 峨碟) _ ( 口一群t 仃。- 1 k m ) ( 3 - 2 6 ) ：签签! ( 口一峨1 蚝) 由( 3 - 1 6 ) 得 分( 吣，2 层+ 善( 鸠- 一磁钣1 z ) q ( 口一k t 。- 1 k ) ( 3 2 7 ) = ( 口一麟t 仃。- 1 k m ) 再由 善( m 扩群t 仃m - - 1 z ) 22 蔷m ：一2 善钣1 m z + 联钣1 善z z7 玩心( 3 2 8 ) = n k ：l h ：k 。 将( 3 2 8 ) 式代入( 3 2 7 ) 式即得( 3 - 2 0 ) 式，此外，由( 3 - 2 8 ) 式及( 3 - 2 4 ) 式可得 l ( 1 ，1 ) = ( 善( m ，一联t 仃。- 1 z ) 2 ) - l = ( 善磅) 一 c 3 2 9 ， 此处1 ( f ，) 表示1 的第i 行第列上的元素。 现证( 3 2 2 ) 、( 3 2 3 ) 式，由的定义有 2u 刖一u 一1 ：m 。l 联吃- 乙) 一m ( 群玩tk m t _ 。钣! 。) z q 3 3 0 注意到k m = k m l + 乙m 刚，巩= h m l + 乙露得 联一，钣! 。一钣1 = 一。钣! 。一版1 以一。钣! 。 = ( 群一m 刚巧一联+ 联钣1 r 。t ) 钣! 。 = 一k 。巧钣! 。 将其代入( 3 3 0 ) 式即得( 3 2 2 ) 式，又 = h m m e m + ( 磁一。钣! 。一磁t 仃埘- 1 ) 编 一醚h i l t 、e j 1 7 m ，斟 = 嘶 时 p +玎 一 ，f m 当 硕士学位论文 第三章混合整数线性模型最小二乘估计的相合性 c 。v ( ，“，) ：仃：1 ( m 。一砰何- 霉) 2 互r ( 钣! 。k _ i _ 钣1 k ) ：仃：f圭属r一群何圭乃巧1(仃川-im k m r 钣- k m ) = 仃2l n 彳一群何1 乃巧i ( 仃川1 _ 钣1 ) i = lj = l = 仃2 ( 群一群) ( 坼! 。k , n 一。一场1 k m ) = 0 当m ， n + p 时，有 c o v ( w 小，心) = c o v ( w ，u f ) 一c o v ( w m ，u i 1 ) = 0 于是得到( 3 2 3 ) 式。又( 3 2 1 ) 式只与 m ，) 有关，而和 q ) 的具体分布无关，故 可假定c o v ( e ；) = 1 ，则有 v a r ( u m ) = v a r ( u 。一1 ) + v a r ( w ) ( 3 3 1 ) 其中 v a r ( u 。- - - 五三，v a r ( u 州) = 矗o ， i = 1i = i ，删一l、 v a r ( w o ) = 礁辨il + t ，r - t _ 。l 互r h m 一。t mi i = l = 磁。( 1 + 巧钣! 。乙) 将上三式代入( 3 3 1 ) 式即得( 3 2 1 ) 。引理证毕。 引理3 3 设 q 独立同分布( 其中c 0 v ( q ，乞，) 7 ) = 盯2 l ) ，则对任给 1 k 刀+ p ，有级。1 。是反的弱相合估计的充要条件是 。l i m 1 ( 尼，尼) = 0 ( 3 3 2 ) 证明：先证充分性。在上述 岛 的假设条件下，( 。) ，。为反的无偏估计，且 v a r ( 分( 以。) = 盯2 1 ( 七，后) ( 3 3 3 ) 由( 3 3 3 ) 式可知，在条件( 3 3 2 ) 之下有瓣v a r ( 分( 埘) ， ) = 0 ，因而有分( 乩。为反的 均方相合估计，故其一定为弱相合估计。 必要性的证明我们采用反证法。即假设当反，) 。为反的弱相合估计时，存在 i k 刀+ p 满足l i 理西1 ( 后，k ) 0 。 不妨设k = i ，井c m = 1 ( 1 ，i ) ，注意到 瓯= s + 蟛( 1 + t 7 1 环：互) ( 3 3 4 ) i = t + l 其中，对任意f h 1 有霉r h 三霉0 ，可知1 非减，故非增。故存在c o 使 得l 啦气= c 。由( 3 2 8 ) 式及( 3 2 4 ) 式及，的定义可得 = i 砖，1 1 8 硕士学位论文第三章混合整数线性模型最t j 、- - 乘估计的相合性 又m o o ，故 由( 3 - 2 0 ) 可得到 m 礁个c 。1 s f ，巧、巩、k m 总有 其中取g = 圾1 k m 得 令 下证 注意到 罂，2 4 , i = 1 ，2 ( 3 - 3 7 ) 的定义，根据最小二乘法知对任何t 一1 维向量g ， z 4 ( m 扩铂) 2 窆 i = li = l ( m rt ，r 圻1 k s ) 2 磁，瑶 i = l 扛i 乃2 ( 。，) ，- 一屈= c m ， e ( z ，一c 喜哆q ) 2 = e ( c _ 善b e iz ，一c l = e h ，= l f = l 取，矗使得 再取岛 6 0 使得 + 仃2 彳 扛i + m i f 3 e l b i = i f - l + 唧 h 2 m ， 五时，有 3 e ( ，缸矿c 私) 2 五时，有 e lz j c d ，qi 0 ，且当 v a r l d f ii = 0 2 砰 o ，= l i = 1 时，c d ，q 不以概率为1 等于0 。从而推得万( 。) ，不是属的弱相合估计，与假设 i = l 矛盾。引理得证。 引理3 4令以、k 是一随机变量，若以与c l ，e 与乞( q 、c 2 为一 常向量) 则 a x + 6 e 与口q + b c 2 引理3 5 设 以) 为一尼维随机变量序列，x 为一尼维随机变量，则 鼍 依 概率收敛于x 当且仅当对任意c r 有 c 7 以) 依概率收敛于，x 。 定理3 5 设e ( 气。) ) = o ，c o v ( 气。) ) = g 。) 已知，若有 熙c 。v ( 分( 。) ) = 小l i m 。s ：, 1 雠) g 。) m 朋) 1 = 0 则有对任给1 k n + p ，有磊，) ，。是反的弱相合估计。 证明：对】 。) = m 。) + 气。) ，。) 一( m 。) ，g 。) ) ，由于g 。) 为正定矩阵，在上 式两边同时乘以醋得 - 1 , ，2y ，。) = 酬2 吆。) + ， ) - 。1 j 2 e ( 所) 令埔j ：吲 ) - 。1 j 2 - - 【。) ，m 揣= 1 - 。1 ) 2 - h a t ( 。) ，品= 睹气。) ，则上式可化为 瑞 = 叫名+ 冒名 然后我们利用引理3 3 的结论就可知定理3 5 成立。 定理3 6 对模型( 2 1 ) 中定义的s o 满足目是品的内点。 证明：实际上模型( 2 - 1 ) 中，可表示为 硕士学位论文第三章混合整数线性模型最d , - - 乘估计的相合性 s o = h r ”l ( 一目) r 9 1 ( 一秒) ( i l 0 1 ) r 锈1 ( j l q ) ，v q z k e , o ( 3 4 1 ) 显然，当h = 秒时， 0 = ( 一功，绣1 ( 一 o ，要证p ( 怜。) 一乡| i 件2 ， arrpb)叫lra州rpyb p bbp y 则4 _ 2 ) 可化 7 ji ，j ”一。 以以彳b ，f。i = 以幺 匕 一y i i 圪皖 8+ 玎 x4 | i 匕 设 为 硕士学位论文 第四章未知参数的b a y e s 估计 p ( y ，x ，秒，盯) ：_ ；喜一 ( 2 万) 2 盯埘 e x p 一井心+ 瞄心7 a r 刚p a 矧瞄 将上式关于x 进行积分，求得边缘似然函数 则删2 抟唧恃c 咖) 叫一万1 ( x 口- 一琐砌a r p as ：咫p b j 怦t , o - k o 、1 ) j b 2 石譬= 唧 一刍( 弘包) r ( 矿咫一刚( 刚) 彳r 咫( 秒一包) ) 唧 _ 击c 圪r p 圪，) 唧 _ 吉舭，卜 = 弦鼍) + a p a ) a r p b ( o 一包) r ( 删陋瓦) + ( 剧一+ f f p b ( o 一包) 令c = i x e x p 一驴1 矽( x ) 卜，则有 p ( y 以) 2 萧p 2 c e x p 一专( 秒一吃) r ( b7 朋一曰r 剐( 彳7 刚) 一彳r 朋) ( 9 一见) ) 由于0 z ”，故对上式关于0 求和，就可得观测向量y 的边缘似然函数： p ( y l c r ) = 纰。p ( 】，0 ，仃) ( 4 3 ) 假设盯是随机变量，且具有先验分布p ( c r ) ，则由b a y e s 公式可得到后验分布 p ( c r 】，) 芘p ( r 盯) p ( c r ) 后验分布综合了先验信息和样本信息，因此可以作为b a y e s 统计推断的基础，在 无信息先验条件下，即p p ) = 一a 芘一1 ，有： oo p ( 叫】，) 芘=