（概率论与数理统计专业论文）双指数分布位置参数的经验bayes估计和检验问题.pdf

摘要 经验b a y e s ( e b ) 方法应用在多次独立的面对具有相同结构的b a y e s 决策序列 时的统计推断问题，这一方法在文献中有很多讨论，本文第一章对此作了简单的 回顾本篇硕士论文研究与双指数分布位置参数有关的经验b a y e s 估计和检验问 题 本文第二章在平方损失下，导出了双指数分布位置参数的b a y e s 估计，利用 核估计方法构造了它的经验b a y e s 估计在较一般的条件下，证明了e b 估计的 渐近最优性，并获得了其收敛速度；结果表明在适当的条件下e b 估计的收敛速 度的阶可以任意接近o ( n 一 ) 本文第三章导出了双指数分布位置参数的b a y e s 检验函数，构造了相应的位 置参数的经验b a y e s ( e b ) 检验函数在较一般的条件下，证明了e b 检验函数的 渐近最优性，并获得了其收敛速度；在适当的条件下，收敛速度的阶可任意接近 o m 一 ) 。 最后，在论文的第四章，给出了一个例子说明适合定理条件的先验分布是存 在的 a b s t r a c t t h ee m p i r i c a lb a y e s ( e b ) a p p r o a c hi sa p p l i c a b l et os t a t i s t i c a li n f e r e n c ep r o b l e m s w h e no n ei se x p e r i e n c e dw i t ha ni n d e p e n d e n ts e q u e n c eo fb a y e s d e c i s i o np r o b l e m se a c h h a i n gs i m i l a rs t r u c t u r e ，t h i sm e t h o d h a sb e e nw i d e l yd i s c u s s e di nag r e a to fl i t e r a t u r e ， i ti si n t r o d u c e di nc h a p t e ro n e i nt h i st h e s i s ，w es t u d ym a i n l yt h ee be s t i m a t i o n p r o b l e m s a n de bt e s tp r o b l e m sa b o u tt h el o c a t i o np a r a m e t e rf o rt h ed o u b l ee x p o n e n t i a l d i s t r i b u t i o n i nt h es e c o n dc h a p t e r ，u n d e rt h es q u a r e d - e r r o rt o s sf u n c t i o n ，t h eb a y e se s t i m a t o r o ft h el o c a t i o np a r a m e t e rf o rt h ed o u b l ee x p o n e n t i a ld i s t r i b u t i o ni sd e r i v e d ，a n dt h e e m p i r i c a lb a y e se s t i m a t o r sa r ec o n s t r u c t e db yt h ek e r n e le s t i m a t i o nm e t h o d i ti s s h o w nt h a tt h ee be s t i m a t o r sa r ea s y m p t o t i c a l l yo p t i m a la n dt h ec o n v e r g e n c er a t e so f t h e ma r ee s t a t ) l i s h e d u n d e rs u i t a b l ec o n d i t i o n ，t h eo r d e ro ft h ec o n v e r g e n c er a t e si s ”b i t r a r i l yc l o s et oo ( n 一 1 i nt h et h i r dc h a p t e r ，a b o u tt h ee bt e s tp r o b l e mf o rt h ed o u b l ee x p o n e n t i a ld i s t r i b u t i o n ，t h eb a y e sd e c i s i o nr u l ei sd e r i v e da n d t h ee bt e s tr u l e sh a v eb e e nc o n s t r u c t e d t h ea s y m p t o t i co p t i m a l i t ya n dc o n v e r g e n c er a t e so fe bt e s tr u l e sa r eo b t a i n e d i ti s s h o w nt h a tt h eo r d e ro fc o n v e r g e n c er a t e si sa r b i t r a r i l yc l o s et oo ( n ) f i n a l l y , i nc h a p t e rf o u r ，a ne x a m p l ec o n c e r n i n gt h em a i nr e s u l t si sg i v e n 第一章引言 与指数分布等常见分布族一样，双指数分布也是一类应用非常广泛的分布。 在保险与精算领域，双指数分布常常用于建立各种经济模型e p s t e i n 【1 】指出有 缺陷的材料之强度服从双指数分布e a s t e r l i n g 【2 】基于指数反馈及双指数测量误 差的假定，建立了一个关于蒸汽发生器的监测模型h s u 3 】在讨论如何使用重尾 分布来解决航海中位置误差问题对，建议采用双指数分布。d a d i 和m a r k s 4 】讨 论了在双指数型噪声下监测器的相对效率b a i n 和e n g e l h a r d t 5 j 利用两个相互 独立的双指数变量之差产生双指数分布这一事实，分析了水文站的洪水资料，总 的说来，双指数分布在各种领域都有着相当频繁的使用本篇硕士论文将研究双 指数分布位置参数的经验b a y e s ( e b ) 估计和检验问题 b a y e s 分析是现代统计推断的一个重要方法，它渗透到了统计研究的几乎所 有重要领域b a y e s 分析与经典统计方法的主要不同之处是在于进行统计推断时 除了利用样本提供的信息外，还要利用参数的先验信息，传统的b a y e s 方法的一 个重要问题是如何确定先验分布当参数的先验信息积累不是足够多时，若对先 验分布作了与实际情况不相符的人为假定时，所得到的b a y e s 解的性质会很差。 经验b a y e s ( e m p i r i c a lb a y e s ，简称为e b ) 方法就是针对这一问题而提出的它 的实质是利用历史样本对先验分布或其重要特征作出估计 e b 方法最早是由r o b b i n s 7 提出来的，按m o r r i si s ，e b 方法可分为两 大类：参数型经验b a y e s ( p e b ) 和非参数型经验b a y e s ( n p e b ) 前者是在一定的 损失函数下b a y e s 估计可表为超参数( 先验分布中的参数称为超参数) 的函数， 将其中的超参数用历史样本作出估计，从而获得p e b 估计后者是在一定损失 函数下，b a y e s 估计往往可表为概率密度函数及其导数( 或分布函数) 的函数 用非参数方法通过历史样本对密度函数及其偏导数( 或分布函数等) 作出估计， 从而获得n p e b 估计。本文将用n p b 方法研究双指数分布参数的e b 估计和检 验问题 自从r o b b i n s 提出e b 方法以来，e b 估计和检验问题在各种文献中研究的 已相当多了，尤其是关于指数族的l i n 吼s i n g h 1 0 】讨论了连续型单参数指数 族e b 估计问题。陈希孺 1 1 研究了一维离散型单参数指数族e b 估计的渐近最 优性，赵林城【1 2 】讨论了一类离散分布参数的e b 估计的收敛速度问题。s i n g h a n dw e i 【1 3 】讨论了刻度指数族的e b 估计问题韦来生【1 4 1 1 5 】研究了连续型多 参数指数族的e b 估计问题，y a n g a n dw e if 1 6 】 1 7 】讨论了离散型多参数指数族的 e b 估计问题 关于单参数指数族中参数的e b 检验问题，最早是由j o h n sa n dv a nr y z i n 1 s 1 ( 1 。 提出来的，他们分别讨论了离散型和连续型单参数指数族中的下列检验：h o ： 口口o 凰：口 日o ，并研究了其大样本性质v a nh o w e l i n g e nf 2 0 j ，l i a n g 2 l j ， k a r u n a m u n ia n dy a n g 2 2 】研究了上述分布族中单调的e b 检验问题w e if 23 2 q 考虑了上述离散型和连续型单参数指数族的下列双侧的e b 检验问题：凰：p ， 0 茎日2 h i ：0 日2 ，s i n g ha n dw e i 2 5 】讨论了刻度指数族双侧的e b 检验问题。z h a n g 【2 6 】【2 7 】讨论了连续型单参数指数族中变量带误差( e v ) 情形时 的e b 估计问题，k a x u n a m u n ia n dz h a n g 2 s 】讨论了同一分布族的e v 情形下的 e b 检验问题。 对于位置参数，韦来生f ，b a l a k r i s h n a na n dm a ( 3 0 j 讨论了g a m m a 分布位 置参数的e b 估计和检验问题本文将e b 方法用于双参数指数族的估计和检验 问题 本文第二章将讨论双指数族e b 估计的构造方法，并研究其渐近最优f a n ) 性和收敛速度问题第三章将讨论双指数族参数e b 检验的构造，并研究其a 0 性和收敛速度问题第四章将给出一个例子，说明适合定理条件的先验分布是存 在的 2 第二章位置参数的b a y e s 估计与经验b a y e s 估计问题 双指数分布可以表示为 m 汜班菇1 唧( 一掣) 其中0 和口分别是位置参数和刻度参数，且一。 0 ，则0 的b a y e s 估计为o b = z + c s ( x ) ，其中 矧。) ：f + o o e z _ t d f ( t 而) _ f z _ e t _ z d f ( t ) 一z x 髂， 9 ( z ) ：，佃d f ( t ) 一_ 。d f ( t ) e x - t d f ( t e t - x d f ( t ( 2 6 ) 夕( z ) = 一 ( 2 - 6 ) 证明：根据( 2 6 ) 式，有 g ( 。) ：，+ 。e z 一d f ( ) 一 。e 一z d f ( t ) ：9 1 ( z ) 一9 2 ( 。) ， ( 2 7 ) 其中 “z ) = f z + 。e z - t d f ( 牡f x + 。e z - t 仁。l e - t - o l d g j jo o 出 一 = 厂f 。；e z - t e o - t d a ( 州抖f 0 。厂l e z - t e t - o d g 出 = g ( 。) + 9 1 2 ( x ) ， ( 2 8 ) i 比外 近“l e z + o e - 2 t d g ( 响 珂。丘e z + o e - 2 t d g ( 州t + 珂0 。z 。x t e x + o e - 2 t d g 出 = ；e 础出 d g ( ”；f 0 。 f o c o e - 2 t 出 d g ( = ；丘x c , - 2 d 即) + z 。l e z - o d g = 扣， ( 2 。) 蚰= i 。，f 。+ ”+ o ee x - t e t - 口d g 拈i 1 川f e z - t e t - o d t 旧) = ；，f 。+ o oe z - 口d g ( 口) 一；z x x + 。e x - 8 d a ( 口) ， ( 2 ，o ) 其中( 2 9 ) 和( 2 1 0 ) 式倒数第二行的推导是利用f u b i n i 定理，交换积分次序而得 的。 类似于( 2 8 ) 式，可得 9 2 ( z ) ：。e t 一。d f ( t ) ：- 。e t - x + o o ；e l t 一日i d g ( o ) d t j 一。 j o 。j 一 = 丘。t - x 。o - t d g ( o ) d t + ，悃互1 e t - x c t - o 蚓- 伽t 4 类似于( 2 9 ) 和( 2 1 0 ) 式的推导，有 蚰( 。) ：一：i 。oo e e - x d g ( ”；o e e - x d 卵) 蚴( z ) = ；m ) 将( 2 8 ) 到( 21 3 ) 式代入( 2 7 ) 式得 故得到 9 ( 。) = 9 1 l ( z ) + , q 1 2 ( x ) 一9 2 1 ( z ) 一9 2 2 ( z ) ：1 一r 8ex-8rig(e)+!。oe。-zdg(o)2 2 厶 j o o ， 一；f 。矿恤一：一o e a - z d g ( ：酩( z ) ，( 。) 一z f ( z ) ， 哳) = 器+ z = 似卅z ( 2 1 2 ) ( 2 1 3 ) ( 2 1 4 ) ( 2 1 5 ) 引理证毕 酩( 。) 的b a y e s 风险为 r g = m i n 咒( 仍g ) = r ( b ，g ) = 臣x ，口) ( ；0 一口) 2 ( 2 1 6 ) v 若g ( p ) 是已知的，当( p = 珏时，r o 是可以精确达到的但由于g ( 口) 是 未知的，故酩也是未知的，因此无实用价值从而导致我们采用经验b a y e s ( e b ) 方法构造其风险可任意接近r g 的e b 估计 2 2 位置参数经验b a y e s 估计的构造 在经验b a y e s 估计问题的结构中，令( x 1 ，目1 ) ，( 蜀，) ，( x ，口) 是i i d 的随 机向量。x ，x 。和x 是可观察的，p h ，靠和0 是不可观察的，假定o i ( i = 1 ，2 ，n ) 及0 具有共同的先验分布g ( p ) 易见x 1 ，x n 和x 有共同的边缘 分布( 2 2 ) 通常x ”，称为历史样本，而x 称为当前样本我们用 晶( z ) = i x 印 ， ( 2 1 7 ) 。i = 1 作为f ( z ) 的估计，其中j a 】表示事件a 的示性函数9 ( 。) 的估计量定义如下 ( z ) ：，“) 一，2 ( ! t - - x a f t ( t ) g ne z - t d f n ( t ( ! t - - x a f ( t( 筇) = ) 一 异 2 i 薹8 ”噩舷】一：蚤i “地 l 为任意确定的自然数，选取核函数 k ( ) ( 是b o r e l 可测的实值函数) 满足： ( i ) k ( g ) = 0 ，当疟( 0 ，1 ) ， ( i i ) i k ( g ) l m ，x - - 切口，m 为正常数， 。i i ，”。k c ”，a ”= 。1 耋：；，。，。一。 c z ，。， 则用 ，n ( z ) = 而1 苫nk ( t z t - 2 3 ) ， ( 2 ) 来作为，( 。) 的估计，这里0 0 ，则 称民关于先验分布族尸的e b 估计的收敛速度为q 本文中c ，c l ，c 2 ，表示常数，它们在不同的地方可以取不同的值，即使是在 同一个表达式里也是如此 6 2 3e b 估计的渐近最优性 本节讨论由( 2 2 2 ) 式定义的e b 估计，即瓦= 氟( z ) + 。= 躺+ z ，我们将 研究其渐近最优性 引理2 2 若r g 。，则对任何e b 估计爵的风险有 r r g = 及( 瓦一b ) 2 证明：见s i n g hp o 引理2 1 引理2 3 对0 r 2 ，有 e , d g 。( 。) g ( x ) l c 1 n 一 证明：由定义( 2 1 8 ) 式， r 十。r z g n ( 。) = e x - t d f 。( t ) 一 e t - x d f 。( t ) = e ”咒i x r 一i x 内】 n ，一 n ，一1 = ：p 儿i x 】一e 溉一i x i z 】 垒：砭， 其中k = e x - x l i z 。列一e x i - x i x ； 。】，y l ，k 为i i d 的 易( ；委m ) = e m = f x + 。e x - t d f ( 旷丘扩d f ( 刮。， 即 e 1 9 n ( 。) = 9 ( x ) ， g n ( z ) 为g ( z ) 的无偏估计。故由( 2 2 6 ) 式可知 j l 鼽( 。) 一g ( x ) l = e n ( g n ( x ) 一9 扛) ) 2 is y n r ( 9 。( z ) ) = 1 v a r ( y 1 ) j ( 1 。e 砰) 5 _ c 1 n - i 最后一个不等式成立是因为 e 坪= e ( e ”扎1 m 圹8 托1 剑) 2 = e ( e 2 扛一x i x 。叫+ e 2 x 1 一。1 x 。】) ：+ o o e 2 扣一t ) d f ( t ) + 。e 2 ( t z ) d f ( t ) ：，佃e - 2 卜t i d f ( t ) 1 7 ( 2 2 5 ) ( 2 2 6 ) 引理2 4 若对6 1 ，富1 0 1 6 d g ( o ) o 。，则有 e + 1 b ( z ) 1 6 。，e + l 。1 6 。，e 。1 毋日( 。) 6 。o 证明：由凸函数的j e n s e n 不等式可知 及l b ( 。) 1 6 ：+ 。i b ( 。) 1 6 ，( z ) d x ：厂+ 。l 四( 目i 。) ( 口) 1 6 ，( z ) 如 j o 。j 一。 r + o o?r o or 十， ( e ( o l 。) 1 0 1 6 ) f ( x ) d x = ：( x l o ) d g ( o ) d x j o 。 j 一j 一。o r 十o o 一 1 0 1 6 d g ( o ) o 。，( 2 2 7 ) 由于 e , i x b 一= 协 0 1 6 f ( x o ) d g ( o ) d x = e e 卜0 1 6 - e x l 小卜印删出 = e ( e 6 l e - i y l d y ) 删 ：，+ 。0 ( + 0 。v d e 一”d y ) d g ( o ) j 一j 0 ，十。o = r ( 6 + 1 ) d g ( o ) = r ( d + 1 ) 。， 故有 b 州2 ( 日j 。一o j 6 + e i o j 6 ) 。o ( 2 2 8 ) 根据引理2 1 ，有如( 。) = b ( z ) 一z 成立，再利用g 不等式 e + i c b ( x ) 1 6 2 4 1 e + l b ( z ) 1 6 + e + i 。门 0 ( 3 ( 2 2 9 ) 由( 2 2 7 ) 式，( 2 2 8 ) 式和( 2 2 9 ) 式可知引理得证 引理2 5 俐若f ( z ) 满足l i p s c h i t z 条件，0 r 2 ，则当取h 。= n 一，0 p 时，有 晶 厶x ) 一，( 。) f 7 sc 吆， 俐若，【5 ) ( z ) 存在且有界，0 1 为自然数，则当取h 。：n 一南时有 玩l ，n ( 。) 一fc x ) 1 7 c n 一螽 8 证明：首先证明( 1 ) ，由c - r 不等式可得 e 。i ，。( z ) 一f ( x ) l s2 1 k ( 。) 一e k ( z ) i + l e a ( 。) 一，( 。) i 2 ( v a r f n ( x ) ) ；+ i e f n ( x ) 一，( z ) 门 垒2 1 1 】+ 列，( 23 0 ) 首先考虑j 1 ，由( 2 2 0 ) 式 胁，= 去娄胁( k c 等，) = 去( kc 等，) 去e k ( 等) 2 喉厶f x + h ”k 2 ( 等刚” 令等= u ，故y = 。”+ z ，则由核函数性质( 2 1 9 ) ( i i ) 可知，当取h 。= n 0 1 时有 哳舯) s 熹：1 k 2 池) f ( x + h n u ) d u c ( 毗) 一茎c 2 ( 2 3 1 ) 故有 1 1 = y n r ( z ) 】；c ( 2 3 2 ) 考虑如，易见+ e n a ( 。) = 1k ( u ) f ( z + h n u ) d “， 利用( 2 1 9 ) 式中核函数性质( i i i ) ，可知 ，j e n n ( x ) 一，扛) = j r ( u ) ，扛+ h n u ) 一f ( x ) l d u j 0 因为f ( z ) 满足l i p s c h i t z 条件，故有 i e a ( z ) 一f ( x ) l c 0 1i k ( u ) | | 。u l 砒c 。， 从而有 ，2 = f e h a 0 ) 一，( z ) f 7 c 二 ( 2 3 3 ) 将( 2 3 2 ) 与( 2 3 3 ) 式代入( 2 3 0 ) 式中，引理2 5 ( 1 ) 得证 下面讨论( 2 ) 的证明，其中i x 的证明与( 1 ) 类似，由( 2 3 1 ) 式可知 。 1 1 = v a r ( 。) i c ( n h 。) 一 f 2 3 4 ) 9 考虑如，首先对，( z + 。u ) 作t a y l o r 展开 m 偏归m ) + 掣咖+ + 盟学避咖s 其中0 f 1 。再利用( 2 1 8 ) 式中核函数性质( j i i ) 有 e 。 扛) = ，( 。) + 百h ： f l u s k ( “) ，( s ( x + h n u f ) 砒， 由于i 耳( “) i 茎m 对一切u 成立以及l ，( 5 ) ( “) l 的有界性，可知 ， l 玩，n ( z ) 一，( z ) i c 3 k ， 故有 1 2 = l 晶 ( 。) 一，( z ) sc h s r ( 2 3 5 ) 将( 2 3 4 ) 和( 2 3 5 ) 式代入( 2 3 6 ) 式，从而证明了引理2 5 ( 2 ) 定理2 1 设r g 兄。分别由偿1 6 ) 和俾2 4 ) 式定义，瓦( z ) 由俾2 1 ) 式定义，其中 h n = n 一，0 ，若 ( i ) 虑阡d a ( o ) o 。， ( i i ) ，( 。) 满足l i p s c h i t z 条件， 则当h 。= o ( “) 时，有 ，熙2 兄g ， 即瓦为0 的渐近最优e b 估计。 证明：由引理2 4 ，r g = e ( x ，口) ( 珐一p ) 2 2 ( e + ( 醒) + e + ( 口2 ) ) 2 ，有j 2 1 墨1 当，( z ) 6 n 时，由怒s 1 ，可知 耻玩”器) 2 锄水酬) 螂( 坝水酬) 一水仁a - ， 则显然对一切n ，有屯2s4 故当n 2 时，由( 2 3 9 ) ( 2 4 1 ) 式可知 风( 斧肛坯s ， 可知，jn = m a x ( n 1 ，2 ) ，当n n 时，有 e 。( 矗( z ) 一曲口( 。) ) 2 c o + 1 0 咖刍( 。) 由引理2 3 可知 e ( x ，e ) ( c o + l o 刍( x ) ) c o + l o e ( x ，口) 西刍( x ) 。， 这即证明了( a ) 又由( 2 3 8 ) 、( 2 4 0 ) 及( 2 4 1 ) 式，可知对任意固定的t ，0 0 s 。l 。i r a 。玩( 矗扛) 一b ( z ) ) 2 骢 j l + 2 曲口( 。) ( 如l + 如2 ) 。1 + i r a 。 c 螃2 ：+ 2 b ( z ) ( c 6 i 2 。2 + 4 p ( ，o ) 0 ，对0 r 2 有 e j 等一号 。1 7 。l ，j 一 ej y 一， 7 + ( i 苦l + l ) r e l y 证明：见赵林城 1 2 j 引理2 7 若 。i o l “, “- , ”d e ( o ) 0 为任意小常数，则对；r 1 ，有 ( ，( 。) ) 。7 d x 。 1 2 ( 2 4 2 ) 证明：因为 f ：( ，( 训。7 如= 丘阻( ，( z ) ) l - r d x + 无l ，。( ，忙) ) l _ r d x z 、j 1 + 如， 由于，( 。) 有界，显然有j 1 = 。l 0 为任意小常数 显然j 2 1 根据( 2 4 2 ) 式与引理2 4 ( 因为；r 1 ) ， 则， 坯( 如川警m 皿) 1 - - r ( 踯l 噼) 1 。7 o 。， 故如 1 为任意确定的自然数， r 0 为任意小常数，若 ( ) 善川“d a ( o ) o 。， 其中m = m a x f 2 ，啦! - r 、 ， ( i i ) ，( z ) 的s 阶导数，( 3 ) ( z ) 存在且有界， 则有 础g = 。( n 1 ) ，g = 嘉 证明：由引理2 4 ，r g = 甄x ，8 ) ( b 目) 2 2 ( b ( 强) + e 。( 口2 ) ) o 。，故引理2 2 的条件成立，故知 品，一r g = e 。 配( x ) 一殄( x ) j 2 = e * t c n ( x ) 一占( x ) j 2 令a n = x 佗：i 口( z ) l ；扎” b n = 冗一a 。 当。a 。时， l 西。( z ) 一如( z ) i 2 n p ，由引理2 3 ，引理2 5 ( 2 ) 和引理2 6 可知 晶f 矗( 。) 一如( z ) f 2 = e n 矗( z ) 一如( z ) z r l 矗( 。) 一加( 。) 一 p r _ 旦 ，岫仃助 = 一 = 如 ( 拼一晶胁川出峨玎磊1 糕一器u o n ”( 2 一) ( ，( z ) ) 一 c 1 1 9 。睁) 一9 ( 。) i + c 2 r t ”7 e = i a ( z ) 一f ( x ) l ) s c ( 2 一r ( m ) ) _ r c l n 一；+ c 2 n 一衍s r ) c n - ( 南。2 ”( 他) ) ， ( 2 4 3 ) 由9 1 理2 7 和( 2 4 3 ) 式可知 上。玩( 矗( 旷蚓圳2 m ) 出 当。b 。 ( 磊( z ) 一c b ( 。) ) 2 2 矗( z ) 2 + 2 刍( 。) 2 n 2 v + 2 西刍( z ) l o 刍( z ) 故由h o l d e r 不等式，m o r k o v 不等式及引理2 4 可知 厶。晶( 磊( z ) 一如( 。) ) 2 ，( 。) 如l o 五。碍( z ) ，( 。) 如 = 1 0 及 癌( z ) i 协( 圳= 叫 1 0 e 。( 如( x ) 2 r s ) 去障1 ( 酬 。，j 苇1 1 0 陋( 如( x ) 2 r s ) r2 2 r s n - 2 r s u 鼠( 如( x ) ) 2 r s 簪- c 4 r t - u ( 2 2 1 ( 2 4 5 ) 令万s 干t r 一2 u = 2 ( s i + 1 ) ，即p = 研1 ，则综合( 2 4 4 ) 式和( 2 4 5 ) 式有 兄n 一只g 。上。风( 五o ) 一如( 。) ) 2 ，( 。) 如+ b 。晶( 磊扛) 一庐b ( 。) ) 2 ，( z ) 如j a 。j 。 、 ：d 一丽r s - i ) 1 4 “ 如 叫 旧 f， 知 舻 抒 ； n 跏 岛 o 。】一( o o o ) i o _ o o f ( x t o ) d g ( o ) ，+ o or 十。 = o f ( x l o ) d g ( o ) 一o o f ( x l o ) d a ( o ) j 0 0，一0 0 由引理2 1 ，可知 ，十。 o f ( x l o ) d a ( o ) = 9 ( 。) + 。，( z ) j 一 1 5 ( 35 ) ( 3 6 ) 因此有 o ( z ) = g ( x ) + 。，( z ) 一o o f ( 。) = g ( x ) + ( 。一0 0 ) ，( 。) ， ( 3 7 ) 其中g ( z ) = 口。e x - t d f ( t ) 一。8 t - - x d f ( t ) 在( 2 6 ) 式中给出 由( 3 4 ) 式可知b a y e s 检验函数为 非，= 裂碧 s ， 其b a y e s 风险为 r a = i n f r ( d , g ) = r ( 如，g ) = b d p ) 配扫) 如+ ( 冶( 3 9 ) 若a ( o ) 是已知的，当6 = 5 a ( z ) 时，r g 是可以精确达到的但由于a ( o ) 是未 知的，故5 a ( x ) 也是未知的，因此无实用价值从而导致我们采用经验b a y e s ( e b ) 方法构造其风险可任意接近r g 的e b 估计 在e b 问题的结构中，令( x 1 ，0 1 ) ，( x 。，o n ) ，( x ，0 ) 是i i d 的随机向量 x ，x 。和x 是可观察的，0 h 0 。和0 是不可观察的，假定巩( i = 1 ，2 ，n ) 及0 具有共同的先验分布a ( o ) 易见x l ，j h 和x 有共同的边缘分布( 2 2 ) 式。通常x 1 ) ，x 。称为历史样本，而x 称为当前样本 令f n ( z ) 如( 2 1 7 ) 式所示，取g ( x ) 的估计量如( 2 1 8 ) 式所示，即 ，十o 。，z g n ( z ) = e x - t d f n ( t ) 一e t - x d f n ( t ) = ：挚“国，一：耋妒札刊 ( 3 l o ) f ( z ) 的核估计量如( 2 2 0 ) 式所示，即 胁，= 去砉k ( 等) ， 慨川 这里0 h 。_ o ( 当n 斗。) 。n ( 。) 的估计定义为 n n ( 。) = g n ( x ) 4 - ( 。一日) ，n ( z ) ，( 3 1 2 ) 故检验问题的e b 检验函数为 狮，= 嬲兰 c 。 如( 。) 的全面b a y e s 风险为 r 。 兄。= r ( 6 。，g ) = b a 。( x ) e n 1 , a ( x ) d x + c a ( 3 1 4 ) j o 。 关于e b 检验函数的渐近最优性和收敛速度的定义与52 2 中的定义相同 3 2e b 检验函数的渐近最优性 为了证明e b 检验的a o 性，需要下列引理： 引理3 1 设r a 和日；分别由p 圳和p 4 ，给出，则 0 r 。一兄g 茎b o ( z ) 陋“口。( z ) 一口( z ) j j o ( z ) j ) 如 证明：见j o h n s ，v a nr y z i n 1 9 】引理1 引理3 2 若嚣l o i d c ( o ) o 。，则有 i 口( 。) i d x o 。 证明：由a ( z ) 的定义( 3 , 7 ) 式，可知 ，十。r + 。o l n ( x ) i d z = 1 9 ( z ) + 扛一o o ) f ( x ) l d x j 。 j 一。 r 十0 0r + 。 l g ( ) + 。，( z ) i d z + o o ( x ) d z j 一。j 一。 = i o b ( x ) l f ( x ) d z 十c = e o b ( x ) i + c ， j o 。 而由引理2 2 可知，在虑i o i d a ( o ) 0 0 的条件下，有e i b ( x ) i 。成立，故 得到 ，+ 。 l a ( z ) i d x o 。 j o 。 定理3 1 设r g 和由p 圳式，p 1 4 ) 式定义，其中h 。= n ，0 p 若 ( i ) 虑 o i d g ( o ) 0 0 ， ( i i ) ，( z ) 满足l i p s c h i t z 条件， 则有 概( 勘一r a ) = 0 ， 即晶为渐近最优向d j 的e b 检验函数 1 7 证明：由引理3 1 ，得到 ，+ 0 r 。一r gsb j q ( 茁) 加( j n 。( z ) 一o ( z ) j2j a ( z ) i ) d z ， j o 。 因为i a ( z ) l p ( i o 。( z ) a ( z ) i i o ( 。) i ) l a ( z ) i ，且由引理3 1 可知，鬈l a ( z ) i 出 o o ，故由控制收敛定理和m a r k o v 不等式，得到 ，+ 0 墨撬( r g ) 6 上。l i r a ) l p ( i 。n ( 。) 一a ( 。) i i 。( z ) 1 ) d x r + o o s b 0 孽巴五j f a n ( z ) 一o ( 。) f ( 3 1 5 ) j 一。n _ 。、 由( 3 7 ) 式，( 3 1 2 ) 式和j e n s e n 不等式 j n n ) 一o b ) i = 日；1 9 n 睁) 一9 ( z ) + 扛如) ( 厶( z ) 一，( z ) ) j 酚1 9 n ( z ) 一9 ( z ) j + p 一0 0 l e 。l ( 。) 一，( z ) 由引理2 3 和引理2 5 ( 1 ) 可知对任意给定的。，有 。1 i m 。e n a n ( z ) 一o ( 。) i = 0 ( 3 1 6 ) 将( 3 1 6 ) 式代入( 3 1 5 ) 式可得。l - + i m 。( 一r e ) = 0 ，定理得证 3 3e b 检验函数的收敛速度 为获得e b 检验函数的收敛速度，需如下几个引理 引理3 3 若 。吲峰d g ( 口) 0 为任意小常数，则对 sr 1 ，有 ，+ f ( o ) ，( 。) f 1 - - r i = 1 d x 。o 证明：由( 2 5 ) 式珏( 。) 的定义，可知 仁0。献批”-rf帕i=0。izi2叭堋ioo o o删广如 j j li = t 叫e 州印聊，r 如+ 如圳e 州印脚，| l - r 如 垒a 1 + a 2 ( 3 1 7 ) 1 8 ，r ，十。1 一 a 1 搁i x l 7 【_ 。1 9 l y ( 。归) d g ( 8 ) j 如 s 出；。e 川m 删如r c l 忙川删 1 - r o 。， ( 3 1 8 ) 而由h s l d e r 不等式及c r 不等式( 因为 sr 1 ) ，可知 ，ir 十1 1 7 a 2 2 k 1 i x l 7i _ 。m 1 9 ) a g ( 9 ) l 如 = 如蚓叩删时辔e 忡i f ( 删r 出 川川叫仉。蚓辔e 俐m 蜊如r s 也h 警e 吲m 删出r c 2 眨川( e 辔m 协出) 删广 记n = 牛，利用 r 十o or 十。 j z l 。f ( x o ) d x c ( i 。一0 1 。+ 1 e l 。) e l 。一9 i d x 冬c l + c 2 1 0 1 。 j o oj o o ，十 a 2 s j p i ( c l + c 2 1 0 1 。) d g ( 8 ) = c 1 e f o l + a 2 e i o i o + 1 ，一0 0 = c l e i o i + c 2 即l