一类隐马尔可夫模型的若干极限性质

1、江 苏学 报 ( 自 然 科 学 版 ) Journal of J iangsu University(Natural Science Edition)第 27卷 第 5期2006年 9月 Vol. 27 No. 5Sep. 2006一类隐马尔可夫模型的若干极限性质杨卫国, 吴小 豹(江苏 理学院, 江苏 镇江 212013)摘要 : 假定隐藏的马尔可夫链为非齐次 ,研究隐非齐次马尔可夫模型的一些强极限定理. 首先在引理中得出了隐非齐次马尔可夫模型的一些性质 ,从而导出了隐非齐次马尔可夫模型的三元函数一类平均值的强极限定理. 作为定理的推论 ,得到了隐非齐次马尔可夫模型状态出现频率的一类强极限

2、定理. 隐马尔可夫模型可应用于弱相依随与生物遗传等方面的工具.量的建模上 ,也可用作研究发音过程、神经生理学关键词 : 隐马尔可夫模型; 隐非齐次马尔可夫模型; 马氏链; 强极限定理; 频率 中图分类号 : O211. 6 文献标识码 : A 文章编号 : 1671 - 7775 ( 2006) 05 - 0467 - 04Som e lim it properties of a cla ss ofh idden nonhom ogeneous Markov modelsYAN G W ei2guo, WU X iao2G B ao( Faculty of Science, J iangsu

3、University, Zhenjiang, J iangsu 212013, China)Abstract: The strong lim it theorem of hidden nonhomogeneousM arkov model is studied when the hiddenchaare nonhomogeneous Markov cha. A t first som e p roperties on nonhomogeneou s Markov modelsare obtained in the lemm a, then a lim it theorem fo r the a

4、verage of the three variables function of hidden nonhomogeneou s Markov model is given. A s co ro llaries, several strong lim it theorem s about occurred fre2 quency of states fo r hidden nonhomogeneous Markov model are obtained. H idden Markov models have been widely used fo r modeling sequences of

5、 weakly dependent random variables, with app lications in as such as speech p rocessing, neurophysio logy and bio logy.Key words:如果 Xn , n 0 为一非齐次马尔可夫链 , 取值于有限集 S = 1, 2, , N , 其初始分布为 ( q ( 1) ,q ( 2) , , q (N ) ) , 转移矩阵为 Pn = ( an ( i, j) ) N N ,P ( X0 = x0 , Y0 = y0 , , Xn =xn , Yn = yn ) = q( x0

6、) bx y a1 ( x0 , x1 ) an ( xn - 1 , xn ) bx0 0nyn()1 1 i, j S, n 1, 此处的 a ( i, j) = P ( X= j | X=则称 ( X , Y , n 0) 为一个隐马尔可夫模型. 由 nnn - 1nn称 Xn , n 0 为状态链. 假定 Xn , n 0 是不i) ,于隐藏的马尔可夫链是非齐次的 , 文中不妨称之为隐非齐次马尔可夫模型.隐马尔可夫模型在近几十年广泛应用于弱相依能被观测到的 , 而能观测到的是另一个取值于有限集 T = 1, 2, , M 的随量序列 Yn , n 0 , 称 ( bil ) N M Y

7、n , n 0 为观察链. 如果存在矩阵 B( i S, l T) 满足 =随量的建模上 , 被用作研究发音过程、神经生理学与生物遗传等方面问题的工具 , 在理论方面 收 稿 日 期 : 2005 - 12 - 07基金项目 : 国家自然科学基金资助项目 ( 10571076)作者简介 : 杨卫国 ( 1957 - ) , 男 , 辽宁海城人 , 教授 , 博士生导师 (wgyang ujs. edu. cn) ,主要从事概率极限的理论研究.吴小太 ( 1982 - ) , 男, 安徽安庆人, 硕士研究生 ( aawxt163. com) , 主要从事马氏链的理论研究.江 苏学 报 ( 自 然

8、 科 学 版 )468第 27 卷Le roox2 与 B ickel and Ra tof3 分别给出了隐马尔可夫模型在大数定律与中心极限定理方面的一些性质. 在实际应用中经常遇到马尔可夫链为非齐次的 证明P ( Xk - 1y0 , , Xk =由式 ( 1) 有 = xk - 1 , Xk = xk , Yk = yk | X0 = x0 , Y0 =xk - 1 , Ykyk - 1 )=情形 4 5 , P ( X= x , Y = y , , X= x , Y = y )所以研究隐非齐次马尔可夫模型的性质 0000kkkk=具有十分重要的意义 6 - 9 .作者研究了非齐次马尔可夫

9、模型 ( Xn , Yn , n 0) 的一些强极限定理. 首先给出隐非齐次马尔可夫模型的三元函数一类平均值的极限定理. 作为推论 , 得到了隐非齐次马尔可夫模型 ( Xn , Yn , n 0) 状态出现频率的一类强极限定理.证明主要结论前先给出三个引理.yk - 1 )P ( X0 = x0 , Y0 = y0 , , Xk - 1ak ( xk - 1 , xk ) bx yk k由引理 1有 =xk - 1 , Yk - 1=( 7 )P ( Xk - 1xk - 1 )= x k - 1 , Xk= x k, Y= y k| X=kk - 1 P ( Xk - 1 = xk - 1

10、, Xk = x k, Y =k y )kP ( X= xk )= x, Xk - 1k - 1k P ( Xk - 1 = xk - 1 , Xk = xk )ak ( xk - 1 , xk ) bx y=引 理 1要条件为 隐马尔可夫模型的条件 ( 1) 成立的充P ( X= x)k kk - 1k - 1( 8 )P ( Yn= l |Xn = i, Yn - 1 =yn - 1 , Xn - 1= xn - 1 , ,再由式 ( 7) , 式 ( 8) 有 E f ( Xk - 1 , Xk , Yk ) |Y0 = y0 , X0 = x0 ) = P ( Yn = l | Xn

11、= i) = bil( 2 )Fk - 1 =f ( xk - 1 , xk , yk ) P ( Xk = xk , Yk = yk | X0 ,6 6P ( Xn +1= j | Xn = i, Yn =yn , Xn - 1= xn - 1 , ,xkykY0 = y0 , X0 = x0 ) =P ( Xn +1= i) = j | XnY0 , , Xk - 1 , Yk - 1 ) | x= Xk - 1k - 1an +1 ( i, j) , i, j S, l T(3 )6 6f ( x, x , y) P ( X= x ,k - 1kkkk证明充分性显然.xkykYk = y

12、k |Xk - 1 )| xk - 1 = X k - 1=必要性 , 仅对式 ( 2) 给出证明 , 式 ( 3) 可以同样进行 , 由式 ( 1) 易得 E f ( Xk - 1 , Xk , Yk ) |( 9 )Xk - 1 定理P ( Yn = l | Xn = i, Yn - 1 =yn - 1 , Xn - 1=设 ( Xn , Yn , n 0) 是如上定义的隐非齐xn - 1 , , Y0故只要证 P ( Yn= x0 )= y0 , X0=bil次马尔可夫模型 , f ( x, y, z) 为定义在 S S T上的实值函数 , an , n 1 是趋向于无穷的一个增序列 ,

13、 如果 = i) =( 4 )= l | Xnbil下面仅对最简单的情况给出证明.- 22a Ef ( X)( 10)6, X , Y + )P (Y1 = y | X1 = x1=nn - 1nnn = 1P ( Y1 = y, X1 = x1 , Y0= k)6 6= h, X0则hT kSnlim 16 6P ( X1 = x1 , Y0 = h, X0 = k) f ( Xk - 1 , Xk , Yk ) -6an k = 1hT kSn( 5 )E f ( X证明) = 0a. s.( 11), X , Y| Xk - 1kkk - 1由初等代数中分式的性质与式 ( 1) 、式 (

14、 5) 即有令P ( Y1 = y1 | X1 = x1 ) =同理可得式 ( 4).bx1y1Z= f ( X), X , Y-kk - 1kkE f ( X, X , Y| X, k 1)( 12)k - 1kkk - 1引理 2(参见文献 6 ) 设 Xn , n N 是鞅差假定 Fn如引理 3的定义 , 下证 Z k, k 1 是一个鞅 差序列 , 因为 E f ( Xk - 1 , Xk , Yk ) | Xk - 1 为 Fk - 1 可测的 , 故 序列 , 若 a , n N 为递增趋向于无穷的数列 , 又 nna EX , 则 lim 1- 22X = 0a. s.66nni

15、ann = 1n i = 1E E fk ( Xk - 1 , Xk , Yk ) | Xk - 1 |Fk - 1 =引 理 3设 ( Xn , Yn , n 0) 是如上定义的隐非E fk ( Xk - 1 , Xk , Yk ) |Xk - 1 a. s.( 13)齐次马尔可夫模型 , f ( x, y, z) 为定义在 S ST上的实值函数 , 令 Fn = ( Xm , Ym , 0 m n) , 则有 由式 ( 6) , 式 ( 12) 与式 ( 13) , 有E f ( Xk - 1 , Xk , Yk )E f ( Xk - 1 , Xk , Yk )= 0,a. s.k 1(

16、 14)|Fk - 1 =E Zk |Fk - 1 Xk - 1 , k 1a. s.( 6 )故序列 Zk , k 1 是一个鞅差序列.第 5 期杨卫国等:一类隐马尔可夫模型的若干极限性质 469推 论 2易知 E f 2 (Xk - 1 , Xk , Yk ) =E ( E f 2 ( Xk - 1 , Xk , Yk ) |设 ( Xn , Yn , n 0) 是如上定义的隐非齐次马尔可夫模型 , j S, l T, 并令 Sn( j, l,) 为序偶序列 ( X0 , Y0 ) , , ( X 1n,- Y 1 )n中- 序偶 ( j, l) 的 个数 , 即nXk - 1 )a.s.

17、( 15)由条件期望的 Jensen不等式 , 有E ( E f ( X, X , Y| X ) 2 )k - 1kkk - 1S ( j, l,)= 6 ( X) ( Y)( 23)njk - 1lk - 12E ( E f ( Xk - 1 , Xk , Yk )E f 2 (Xk - 1 , Xk , Yk ) 故由式 ( 10) 与式 ( 16) 有- 2|Xk - 1 )=k = 1则 ( 16)n 1nlimSn ( j, l,)= 0a.s.ak (Xk - 1 , j) bjl-6( 1 +)/ 2nk =1a E ( E f ( X) 26, X, Y| X( 24)在推论

18、1中令 f ( x, y, z) =j ( y)l ( z) ,nn - 1nnn - 1n = 16证明a E f ( 2X- 2) ( 17), X , Yx, y S, z T, 有 nnn - 1nnn = 1由式 ( 10) , 式 ( 12) 与式 ( 17) , 有 f ( X, X , Y-)6k - 1kkk = 1N- 226an EZn + ( 18)Mf ( Xk - 1 , u, v) ak ( Xk - 1 , u) buv =n = 16 6由式 ( 18) 与引理 2, 有nu = 1 v = 1n 1 limj ( Xk )l ( Yk ) -M6Zk = 0

19、a. s.( 19)6an k = 1nk = 1N由式 ( 12) 与式 ( 19) , 即得式 ( 11). ( (u)v) a ( X, u) b =66jlkk - 1uvNMu = 1 v = 1注意到 E f ( Xk - 1 , Xk , Yk ) | Xk - 1 =6 6Sn ( j, l,) +j ( Xn )l ( Yn ) - j ( X0 )l ( Y0 ) -nj = 1 l = 1f ( Xk - 1 , j, l) ak ( Xk - 1 , j) bjl ,则式 ( 11) 也可以表示为n6ak ( Xk - 1 , j) b jl( 25) 1k = 1li

20、mn f ( Xk - 1 , Xk , Yk ) -6由推论 1与式 ( 25) , 即得式 ( 24).推论 3设 ( Xn , Yn , n 0) 是如上定义的隐非齐次马尔可夫模型 , l T, 并令 Tn ( l,) 为序列Y0 () , Y1 () , , Yn - 1 () 中 l出现的个数 , 即 nan k = 1NMf ( Xk - 1 , j, l) ak ( Xk - 1 , j) bjl = 0a. s.6 6j = 1 l = 1( 20)设 ( Xn , Yn , n 0) 是如上定义的隐非推 论 1Tn ( l,)( 26)= 6 ( Y() )k - 1l齐次马

21、尔可夫模型 , f ( x, y, z) 为定义在 S 的实值函数 , 则 nS T 上k = 1则nN 1lim= 0 a. s. 1Tn( l,)ak (Xk - 1 , j) b-6 6k =1 j =1limn(1 +)/ 2 f ( Xk - 1 , X k, Y k ) -jl6n n( 1 +)/ 2nk = 1( 27)1中令 f ( x, y, z) =l ( z) , x, y NMf ( Xk - 1 , j, l) ak ( Xk - 1 , j) bjl = 0a.s.证明S, z T, 有n6 6在推论j = 1 l = 1( 21)证明因为 f ( Xk - 1

22、, Xk , Yk ) -6k = 1Nmaxi jS lTf 2 ( i,Ef 2 ( X, X , Y)j, l) , k 1k - 1kkMf ( Xk - 1 , j, v) ak ( Xk - 1 , j) bjv =66Ef 2 ( X), X , Y6n - 1nnj = 1nv = 1故有n1 +NMn = 16l ( Yk )=-6 ( v) a6k ( Xk - 1 , j) bjv 1lk = 16 n1 +j = 1v = 1maxf 2 ( i, j, l) T ( l,) + ( Y)- ( Y-)i j S l Tn = 1nlnl0nN由定理 1与式 ( 20)

23、 , 即得式 ( 21).ak ( Xk - 1 ,j) bjl( 28)66对 i S, 令 (. ) 为 Kronecke r函数k = 1 j = 1i由推论 1与式 ( 28) , 即得式 ( 27).1,0,j = ij i ( j) =( 22)i推 论 4设 ( Xn, Y n, n 0) 是如上定义的隐非 江 苏学 报 ( 自 然 科 学 版 )470第 27 卷齐次马尔可夫模型 , i, j S,l T, 并令 Sn ( i, j, l,)norm ality of the maxim um 2likelihood estim ato r fo r gene2ral hidd

24、en Markov models J . The Annals of S tatistics, 1998, 26 ( 4) : 1614 - 1635.Lacruz B, Lasala P, Lekuona A. Dynam ic graphicalmo2 dels and nonhomogeneous hidden Markov models J . S tat Proba Letts, 2000, 49: 377 - 385.Bates B C, Charles S P, Hughes J P. Stochastic down2 scaling of num erical clim ate

25、 model sim ulations J . Envi2 ronm ental M odelling & Sof tware, 1998, 13: 325 - 331.是序列 ( X0 , X1 , Y1 ) , ,l) 的个数 , 即 n( Xn - 1 , Xn , Yn ) 中出现 ( i, j, 4 Sn ( i, j, l,)( 29)=6( Xk - 1( Xk( Ykijlk = 1则 5 n 1limn ( i,j, l,) () a ( i, j) b jl =( 1 +)/ 2 S-6Xik - 1kn nk = 10a. s.证 明( 30)= 6 f ( x, y,

26、z)在 推 论 1中 令i ( x)j ( y)l ( z) , x, y S, z T, 有n 7 刘 文 ,杨卫国. 关于非齐次马氏信源的渐近分割性 J . 应用概率统计 , 1997, 13 ( 4) : 359 - 366.L IU W en, YAN G W ei2guo. A symp totic equipartition p roperty fo r nonhomogeneous Markov info rm ation source J . Applied Probability and S tatistics, 1997, 13 ( 4) : 359- 366. ( in Chinese)杨卫国 ,李 芳 ,王小胜. 一类非齐次马氏链的收敛速6 f ( Xk - 1 , Xk , Yk ) -k = 1NMf ( Xk - 1 , u, v) ak ( Xk - 1 , u) buv =6 6u = 1 v = 1ni ( Xk - 1 )j ( Xk )l ( Yk )6- 8 k = 1NM度 J . 江 苏( 2) : 13