（应用数学专业论文）一类隐非齐次马尔可夫模型的若干强极限定律.pdf

江苏大学硕士学位论文 摘要 隐马尔可夫模型在近几十年来被广泛应用于弱相依随机变量的建模上，被用 作研究发音过程，神经生理学与生物遗传等方面问题的工具。虽然隐马尔可夫模 型在今天已经得到了广泛的应用，但它的理论基础并不完善，并且如在动态的图 象处理、气象预测等的一些实际应用中，人们需要建立隐非齐次马尔可夫模型来 进行研究。但由于隐非齐次马尔可夫模型难以处理，所以对于隐非齐次马尔可夫 模型的理论研究基本上还是空白。隐非齐次马尔可夫模型的理论方面的研究具有 很大的研究意义。 本文目的是研究一类隐非齐次马尔可夫模型的强大数定律。首先得出了隐马 尔可夫模型的等价定义。并由等价定义得到了隐马尔可夫模型的一些性质定理， 研究了一类隐非齐次马尔可夫模型阮，k ，珂0 ) 的三元函数的强极限定理。其 次，假定s 与r 为两个有限集时，得到了隐非齐次马尔可夫模型状态出现频率的 一类强极限定理，以及隐非齐次马尔可夫模型的强大数定律与相对熵密度定理。 并且得到了观测链慨，胛0 j 的强大数定律与相对熵密度定理。最后，在假定s 与 丁为两个可列集时，得到了隐非齐次马尔可夫模型x o ，珂0 ) 的强极限定理 与强大数定律。并且给出了可列情况下的观察链舷，胛0 的强大数定律与相对 熵密度定理。 关键词：马氏链，隐马尔可夫模型，隐非齐次马尔可夫模型，状态出现频率，强 极限定理，相对熵密度定理，强大数定律 江苏大学硕士学位论文 a b s t r a c t h i d d e nm a r k o vm o d e l sh a v ed u r i n gt h el a s t 鼬c a d eb e c o m ew i d e s p r e a df o r m o d e l i n gs e q u e n c e so f w e a k l yd e p e n d e n tr a n d o mv a r i a b l e s ，谢t l la p p l i c a t i o n si n a r e a ss u c ha ss p e e c hp r o c e s s i n g ，n e u r o p h y s i o l o g ya n db i o l o g y h i d d e nm a r k o vm o d e l sa r ew i d e l ya p p l i e d ，b u ti t st h e o r e mf o u n d a t i o na r en o t p e r f e c t ，a n dw es h o u l ds e tu ph i d d e nm a r k o vm o d e l si nt h ep r a c t i c e da p p l i c a t i o ns u c h a sd y n a m i cg r a p h i c a lm o d e l s ，c l i m a t ef o r e c a s t b e c a u s eh i d d e nm a r k o vm o d e l sa r e d i f f i c u l tt om a n a g e ，t h e o r yr e s e a r c ho fh i d d e nn o n h o m o g e n e o u sm a r k o vm o d e l sa r e b a s i c a l l yb l a n k n e s s i ti si m p o r t a n tm e a n i n gt os t u d yt h eh i d d e nn o n h o m o g e n e o u s m a r k o vm o d e l s t h ep u r p o s eo f t h i si st os t u d yt h es t r o n gl i m i tt h e o r e mo f h i d d e nn o n h o m o g e n e 一 0 u sm a r k o vm o d e l s i nt h i sp a p e r , f i r s t l y , t h ea u t h o rg i v ee q u i v a l e n td e f i n i t i o no f h i d d e nn o r t h o m o g e n e o u sm a r k o vm o d e l s ，a n df r o mt h ee q u i v a l e n td e f i n i t i o ng e t s o m ep r o p e r t i e s ，r e s e a r c ht h es t r o n gl i m i tt h e o r e mf o rt h ea v e r a g e so ft h ef u n c t i o n so f t h r e ev a r i a b l e so nac l a s so fh i d d e nn o n h o m o g e n e o u sm a r k o vm o d e l s s e c o n d l y ，l e t sa n dtt ob ef i n i t es e t s ，w h e nt h eo r i g i n a ld i s t r i b u t i o no f 讧。，z 0 ) a n dt r a n s i t i o nm a t r i c e s p ，a n db 。a r eg i v e n ，g e ts e v e r a ls t r o n gl i m i tt h e o r e m sa b o u t o c c u r r e df r e q u e n c yo fs t a t e sf o rh i d d e nn o n h o m o g e n e o u sm a r k o vm o d e l s ，al i m i t t h e o r e mo fr e l a t i v ee n t r o p yd e n s r i e s ，t h es t r o n gl a w so fl a r g en u m b e r so fh i d d e n n o n h o m o g e n e o u sm a r k o vm o d e l s ，a n dt h et h e o r e mo fr e l a t i v ee n t r o p yd e n s i t i e so f h i d d e nn o n h o m o g e n e o u sm a r k o vm o d e l s i na d d i t i o n ，g e tt h es t r o n gt a w so fl a r g e n u m b e r s ，t h e o r e mo fr e l a t i v ee n t r o p yd e n s i t i e so f t h eo b s e r v a t i o nc h a i n s a s c o r o l l a r i e s ，g i v es t r o n gl i m i tt h e o r e m ，s t r o n gl a w so fl a r g en u m b e r s ，t h e o r e m o f r e l a t i v ee n t r o p yd e n s i t i e so fn o n h o m o g e n e o u sm a r k o vm o d e l s i nt h ee n d ，l e t sa n d t t ob ec o u n t a b l es e t s ，w h e nt h eo r i g i n a ld i s t r i b u t i o no f 留n ，甩o a n dt r a n s i t i o n m a t r i c e sp ，a n db n a r eg i v e n ，g e tt h es t r o n gl i m i tt h e o r e m s ，s t r o n gl a w so fl a r g e i i 江苏大学硕士学位论文 n u m b e r so fh i d d e nn o n h o m o g e n e o u sm a r k o vm o d e l s ，a n dg i v et h es t r o n gl a w so f l a r g en u m b e r s ，t h e o r e mo f r e l a t i v ee n t r o p yd e n s i t i e so f t h eo b s e r v a t i o nc h a i n s k e yw o r d s ：m a r k o vc h a i n s ，h i d d e nm a r k o vm o d e l s ，h i d d e nn o n h o m o g - e n e o u sm a r k o vm o d e l s ，o c c u r r e d 矗e q u e n c yo fs t a t e s ，s t r o n gl i m i tt h e o r e m ，t h e o r e m o f r e l a t i v ee n t r o p yd e n s i t i e s ，t h es t r o n gl a w so f l a r g en u m b e r s i i i 学位论文版权使用授权书 本学位论文作者完全了解学校有关保留、使用学位论文的规定，同 意学校保留并向国家有关部门或机构送交论文的复印件和电子版，允许 论文被查阅和借阅。本人授权江苏大学可以将本学位论文的全部内容或 部分内容编入有关数据库进行检索，可以采用影印、缩印或扫描等复制 手段保存和汇编本学位论文。 本学位论文属于 保密口，在年解密后适用本授权书。 不保密曰。 学位论文作者签名：昊、】、太 知o l ，年刍月1 2 - , b 指导教师签名： 渤日 j o 二年月，五日 江苏大学硕士学位论文 第一章绪论 1 1隐马尔可夫模型的简单定义 马尔可夫过程是随机过程中历史最悠久且充满活力的类随机过程。这一类 随机过程的特点是，当过程在时刻t 。所处的状态已知，则过程在“以后所处状态 与过程在“以前所处状态无关，这个特性叫无后效性，也叫做马尔可夫性。通俗 地说，就是“已知现在，将来和过去无关”。若马尔可夫过程 x ( o ，t t ) 的状态 空间s 为月中的可列集，则称 x ( ，) ，f t ) 为马尔可夫链。若丁为可列离散集，则 称 x ( 0 ，f t ) 为离散参数马尔可夫链；若丁为连续的，则称 x ( 0 ，t t ) 为连续 参数马尔可夫链。本文研究的内容中涉及到的马尔可夫链主要是指离散参数马尔 可夫链。 自1 9 0 7 年苏联数学家a a m a p k o b 引出马尔可夫链概念以来，人们对马尔可 夫链的基础及应用的研究盛久不衰。隐马尔可夫模型是马尔可夫链的拓展，与马 尔可夫链不同的是，客观存在观测到的信号不是模型状态的本身，而是状态的概 率函数。真正的模型的状态变迁我们是看不到的。我们只能看到每个时刻状态所 发射的观测信号，通过这些观测的信号，去推断内在的状态的变迁。这也正是模 型名称中“隐”字的含义。 o 书 乌尔百r 夫链 隐马尔可夫模型 隐马尔可夫模型的特点是马尔可夫链讧。，胛o 是隐藏的，它不能被直接观 察到，而能观察到的是纸，竹o 链，且在给定 瓦，甩o ) 情况下，隐藏链舷，胛0 是条件独立的，而且 l 在给定 五，七行) 的情况下的条件概率只与( 以) 有关。 6 江苏大学硕士学位论文 我们记马尔可夫链 一，行0 的初始分布为，转移矩阵为一。由马尔可夫链 扛。，行o ) 到慨，栉o 链的转移矩阵为b 。 隐马尔可夫模型的基本假定是：参数向量，参数矩阵爿与曰都是未知的， 赴f 将它们合记为参数组a = ( 从爿，b ) 。丑完全确定了状态链与观测链的联合统计规 律。所以，我们通常用旯表示一个隐马尔可夫模型，有时我们也称之为隐马尔可 夫模型旯。在上面介绍的隐马尔可夫模型中如果假定隐藏链为非齐次马尔可夫 链，则称此时的隐马尔可夫模型为隐非齐次马尔可夫模型。在实际应用中经常到 隐藏链阮， o 是非齐次马尔可夫链的情形。如在动态图像处理。3 、气候预测“1 中，这时就不能再搬用隐齐次马尔可夫链的理论，而需要建立隐非齐次马尔可夫 模型来进行研究。本文研究的重点就是一类隐非齐次马尔可夫链的大数定律。 1 2 在应用中研究隐马尔可夫模型的主要方向 在应用中研究隐马尔可夫模型主要有如下三个方向： ( 1 ) 从一段观测序列敝，0 七行) 及已知模型 = ，4 ，曰) 出发，估计以的 最佳值，称为解码问题。这是状态估计问题。可用于推知内在的状态的变迁。在 实际应用的领域中，我们往往只能观测到外在的信号，本方向是要利用算法使我 们由外在的观测到的信号计算出内在的状态变迁序列。隐马尔可夫模型也正是在 这一点上的功能而被广泛应用于文本信息抽取领域。 ( 2 ) 从一段观测序列慨，0 七n 出发，估计模型参数组旯= ( ，4 ，b ) ，称 为学习问题。这是参数估计问题。这是三个方向中最困难的一个，目前尚无解决 这个问题的解析方法。实际上，给定作任何有限观测序列作为训练数据，没有一 种最佳方法能估计模型参数，但是可以利用迭代方法或利用梯度技术来选定五， 使观测序列慨，七栉) 概率在模型五达到局部最大。 ( 3 ) 对于个特定的观测链慨，0 j i ，已知它可能是由已经学习好的若 干模型之一所得的观测，要决定此观测究竟是得自其中哪一个模型，这称为识别 问题。就是分类问题。常常用来在多个隐马尔可夫模型中选优。选择的标准是选 2 江苏大学硕士学位论文 取产生观测序列 k ，0 k 聍 概率最大的模型。这种技术在语音识别领域应用很 多，人们将声音的信号看作观测序列，通过计算来选择声音信号所对应的字或词。 实际问题中，这三个问题有时并不完全能分开，有时也并不需要解全三个问 题。例如，在语音识别或手写体汉字或数字的脱机识别中，我们只需要要作( 2 ) 与( 3 ) ，这相当于将一个“标准的”语音音素或一个“标准的”手写体汉字“学 习成”一个隐马尔可夫模型相对应起来，以便把该模型作为这个音素或手写字的 代表模板，这是学习相位；而在进一步用这些模板中的最合适者，作为对于一个 需要识别的音素或手写字的分类归属，这是运转相位。至于归属哪个模板最合适， 就要用合理的距离，或准距离，在此意义的下优化。 1 3 隐马尔可夫模型的优点 隐马尔可夫模型具有如下优点【1 】： ( 1 ) 隐马尔可夫模型是一种简单的数学模型。它的包容性很大，内涵性很广， 在应用中的弹性相当大，可以很好地利用我们对于被建模的对象所了解的先验知 识，因而有很广的适应性。 ( 2 ) 隐马尔可夫模型是一种不完全数据的统计模型，它之所以被广泛采用， 在于这种模型既能反映对象的随机性，又能反映对象的潜在结构，便于利用对象 的结构与局部联系性质等方面的知识，以及对研究对象的直观的与先验的了解。 ( 3 ) 隐马尔可夫模型是很少的几个既能从物理模型出发，又与数据拟合直接 联系的算法之一。 ( 4 ) 隐马尔可夫虽然也具有某些黑箱的特点，但是与纯黑箱操作的人工神经 网络等算法相比，有明显的的优点。它的参数常常有较为实质的含义，而线性模 型、时间序列模型中的参数般只是作为被拟合了的参数而出现的，缺少较为真 实含义。 ( 5 ) 隐马尔可夫模型有快速而有效的学习方法。 以上诸点使隐马尔可夫模型成为随机建模与拟合基石，在应用中有其普适性。 江苏大学硕士学位论文 1 4 隐马尔可夫模型的实现 在具体应用隐马尔可夫模型建模时，首先要先设定马尔可夫链的状态集及其 规模，即总状态数三，这有相当大的弹性，然后，确定相应的观测过程。为了使 得观测链与隐马尔可夫链之间有隐马尔可夫关系，常常需要对实际提供的观测链 加以改造。例如，一个脱机手写体汉字是一张黑白像素图( 一个取值0 或者1 矩 阵) ，它和刻画笔道的a m a r k o v 场之间的依赖关系并不能满足隐马尔可夫关系 的要求。需要对它进行预加工，也就要先进行“特征提取”。以尽量简化使得隐 马尔可夫关系能成立。 在确定了模型规模以后，对于隐马尔可夫模型处理，又可分为两个不同的相 位：学习相位与运转相位。学习相位是由给定的观测过和的一组样本出发，去估 计隐马尔夫模型的参数五= ( ，a ，b ) ，从而完全确定模型；而运转相位则是用学 习相位所确定的模型参数，对给定的某个观测过程的样本，来估计相应隐马尔可 夫模型的状态，或计算出它在各个隐马尔可夫模型下出现的概率。 语音识别各脱机手写汉字最终需要知道的是，给定的语音或脱机手写体汉字 样本应出自哪个模型，这是一个识别过程，通常可以按照b a y e s 方法去决定模型， 去决定模型，即选取使得给样本出现的概率最大的模型作为它的分类归属，这就 是识别的结果。而在d n a 碱基序列的排序问题中，考虑的方法则与之不同。在 在d n a 碱基序列的排序问题中，需要知道的是如何排列，也就是需要知道给定 的某个观测过程的样本所对就对应的隐马尔可夫链的状态。 在学习相位中，面临的是一个不完全数据的参数估计问题。除了运用算法以 外，还可以进行交错估计。即可先设置一组初值参数，由此出发配全观测列按 b a y e s 方法去估计马尔可夫链的状态列，再用此状态列配合观测列用最大似然估 计去重新估计模型参数，交替地不断重复此两个步骤，以达到比较稳定的结果。 也可以从设置马尔可夫链的一个状态列作为开始，去估计参数组，再由此参数组 对应的模型去估计状态，如此交替进行。 1 5 隐马尔可夫模型的理论研究进展 在隐马尔可夫模型在近几十年广泛作为弱相依随机变量的研究工具的同时 江苏大学硕士学位论文 在理论方面也取得了很大的进展。l e r o u x 。1 给出了隐马尔可夫模型的大数定 律，m a x w a l l ”1 与b i c k e l 等人“7 1 给出了隐马尔可夫模型在中心极限定理方面的一 些性质。虽然隐非齐次马尔可夫模型应用比较广泛，但对于隐非齐次马尔可夫模 型的理论研究甚少。本文做的主要工作是：1 ，给出了隐马尔可夫模型的等价定 义以及它的一些性质定理，研究了一类隐非齐次马尔可夫模型伍。，k ，胛0 ) 的三 元函数的强极限定理。2 ，假定s 与r 为两个有限集时，得出了隐非齐次马尔可夫 模型状态出现频率的一类强极限定理，并由此导出了隐非齐次马尔可夫模型 伍。，匕，即0 ) 与观察链也，”0 ) 的强大数定律。同时给出了隐非齐次马尔可夫 模型观察链傲，”0 ) 的相对熵密度定理。3 ，假定s 与t 为两个可列集时，给出 了隐非齐次马尔可夫模型相对熵密度定理，并且得到了观察链慨，n 0 的相对 熵密度定理。 江苏大学硕士学位论文 第二章预备知识 在给出本文的主要内容之前，我们先给出一些预备知识。本章节中给出了马 氏链与隐马尔可夫模型的定义，并且给出了后面几章节内容中涉及到的相关定义 与定理。 2 1 马氏链的定义 相对于一随机试验，设q 是所有样本点 构成的样本空间，f 是q 上的 所有随机事件构成的事件集合称为盯一代数，尸是定义在f 上的概率测度。称定 义在概率空间( q ，p ) 上的随机变量族x = 置( ) ，t t 为一随机过程，其中r 为一参数集。若r 是一个含有可列多个元素的无限集，例如 x 。( 缈) ，肝= 0 1 ，) 称 为离散参数的随机过程。一个随机过程所有可能取值的集合称为该过程的状态空 间，记作s ，如果s 是可列集或有限集，则称此过程为链。在这些知识的基础上， 我们给出马氏链的定义： 定义2 1 1 设x = x 。，一= 0 , 1 ， 是定义在概率空间( q ，f ，p ) 上离散参数 的随机过程，状态空间s 为可列集或有限集，如果x 具有由下式定义的马尔可夫 性( 简称马氏性) ：即对任意的非负整数”及任意的状态i 。，i l j ”，i 。s ，只要 p ( y o = i 0 , x l = i 1 i 一，以= f 。) 0 ，总有 p ( 五+ 1 = + ll x o = i 0 , x l = ，x 。= i n ) = p ( x = + 1f 瓦= i 。) ( 2 1 1 ) 成立，则称z 为离散参数的马尔可夫链。简称为马氏链。若s 为可列集或有限集， 则称x 分别为可列状态的马尔可夫链与有限状态的马尔可夫链。 2 2 隐马尔可夫模型的定义 定义2 2 1 设s = 1 ，2 ，) ，t = 1 ，2 ，) 为两个可列集，留。，n o 与 y o ，挖0 是概率空间 q ，f ，q 上分别取值于s 与t 的随机变量序列。 以，以o 是马氏链， 假定它的初始分布为厂o = ( g ( 1 ) ，g ( 2 ) ，) ，我们记p ( x 。= ji 五，一。= i ) = c l n ( f ，j ) ，则 江苏大学硕士学位论文 马氏链膪。，”o 的转移矩阵列为只= 0 。( f ) ) ，f ，s ，胛1 ，慨，玎o 被称为隐 藏链，它不能被直接观测到，而能观测到的是慨，? o 链，称也，2 o ) 为观察链 如果满足对v i ，s ，t ，0 t ”有 p ( y o = ，o ，i = ，1 ，一，e = ，。l x o = 乇，石1 = i 1 ，x 。= i 。) = p ( g = l oi x 。= i o ) p ( 墨= ，ii x 。= i ，) ，一p ( l = i 彳。= i 。)( 2 2 1 ) 则( ，艺，月0 ) 为隐马尔可夫模型。 我们记尸( e = ，1 瓦= f ) = b n ( f ，) ，则隐藏链到观察链的转移矩阵列为 玩= 0 。( ，) ) ，( ，s ，f r ) 。若对f ，s ，r ，口。( f ，) ，“( ，) 与肝无关，则此时 的隐马尔可夫模型是一个稳齐次马尔可夫模型，否则称为隐非齐次马尔可夫模 型。 接下来我们类似的给出有限状态下的隐马尔可夫模型的定义： 定义2 2 2 设s = 1 ，2 ， ，t = 1 ，2 ，m 为两个有限集， 以，胛0 与 戤，”o 是概率空间 q ，f ，p ) 上取值于s 与t 的随机变量序列( z 。，艺，n 0 ) 为隐马尔可夫模型。则暖。，押0 ) 为有限状态下的隐马尔可夫模型 易知在如上定义的有限状态下的隐马尔可夫模型中，马氏链 ，n 0 的初 始分布为( g ( 1 ) ，g ( 2 ) ，g ( ) ) ，转移矩阵列为只= ( 口。( f ，脚。，f ，s ， 1 ，隐 藏链到观察链的转移矩阵列为只= ( 6 。( ，) ) 。es ，e 丁。 2 3 相关定义与性质 定义2 3 1 设k r o n e c k e r 函数t ( ) ，即对v f ，_ ，s 或f ，t 鼢器器鬻 眨，t ， 设隐非齐次马尔可夫模型( 。，e ，行0 ) 、非齐次马尔可夫链 以， 0 ) 以及 江苏大学硕士学位论文 观察链蹶，疗0 ) 的联合分布分别为 e ( x o = x o ，= y o ，一，z = x 。，e = j ，。) = p ( x o ，y 。，一，x 。，y 。) ( 2 3 2 ) p ( x 。= ，x 。= x n ) = p ( x o - ，) p ( k = y 。，匕= 儿) = p 饥，儿) ( 2 3 3 ) ( 2 3 4 ) 定义2 3 2 记 1 工( ) = 一二i n p ( x 。，以，k ) ( 2 3 5 ) ” 五( ) ：一l l n p ( x 。，x 。)( 2 3 6 ) n ( c o ) = 一二l n p ( y o ，i ，e )( 2 _ 3 7 ) 称工( 缈) ，五( ) ，( 奶分别为隐马尔可夫模型佤，z ，胛2 0 ) 、非齐次马尔可夫链 忸。，z 0 ) 以及观察链戳，聆o ) 的相对熵密度。 定义2 3 3 设爿= ( d 。) 是聊n 阶实数矩阵，m 和即可以是无穷大，定义爿 的范数如下： = s u p h 1 i = l 由上式可知如果厂= ( ；， ，工，) 是一列无穷维行向量，则有厂的范数 如果g = ( g 。，9 2 ，9 3 ，) 7 是一无穷维列向量，则有g 的范数 l i g l i = s u p l g 。 f 易知这样定义的范数满足范数三个公理，并且还有以下性质： 性质2 3 1 对任何矩阵彳与b 有 0 4 8 0 1 1 4 i b 0 由此可以得出： 性质2 3 2 对任何矩阵a ，任何行向量厂及任何列向量g 有 江苏大学硕士学位论文 恻i - l l i ，j i - 8 a 1 1 | | g | 磨l l - l j l l 恻i 性质2 3 3 若p 为随机矩阵，则有 = 1 另外，我们从范数意义上给出马氏链各种遍历性的定义，在给出各种遍历性 定义之前，先给出一些预备知识。 设q 是一随机矩阵，若q 的各行均相同，则称q 为常数随机矩阵。 设 以，疗0 ) 是定义在s = 0 ，1 ，2 ，) 上的非齐次马氏链，其转移矩阵列为 只= ( p 。( f ，肋，n 1 ) ，其中 p 。( f ，) = p ( x 。= ，i 以一1 = i )f ，je s ，月1 记 p “”= 圪+ 。只+ 2 只 若马氏链是齐次的，则 只，n 1 ) 简记为p ，p “”“简记为p ”。 下面给出马氏链各种遍历性的定义： 定义2 3 4 称马氏链 只，n 1 是弱遍历的，如果对每个m ，存在一常数随 机矩阵序列 如，m = 1 , 2 ，) 有 l i m p i “k = o 定义2 3 5 称马氏链 只，月1 ) 关于常数随机矩阵q 是强遍历的，如果对任 何正整数所有 !im忉”-oil=0ii i 定义2 3 6 称马氏链 只，竹1 ) 关于常数随机矩阵q 是绝对平均强遍历的， 如果对任何正整数m 有 ! 骢i 1 犁n p m , m + k _ q | l = o 定义2 3 7 称马氏链 只，2 1 ) 关于常数随机矩阵g 是c e s a r o 平均收敛 9 江苏大学硕士学位论文 的，又称c 一强遍历的，如果对任何正整数m 有 ：鳃瞻t q l = 0 注由上述定义可知，若一马氏链 只，胛1 ) 关于常数随机矩阵q 是强遍历 的，则必定关于常数随机矩阵q 是绝对平均强遍历的；若一马氏链 只，即1 ) 关 于常数随机矩阵q 是绝对平均强遍历的，则必定关于常数随机矩阵q 是c e s a r o 平均收敛的。 下面给出周期强遍历的定义： 由文献“”知，一个不可约周期为d 的随机矩阵p 可将状态空间s 分解为d 个 互不相交的状态子集c 。，c 1 ，c 。，并且p 4 派生出d 个随机矩阵瓦，五，乃+ 其中每个正定义在q 上，如果p 是有限的，则每个互必是强遍历的；但如果p 是 可列无限的，则诸正不一定是强遍历的。若p 4 派生出的每个乃都是强遍历的， 则称这样的随机矩阵p 是周期强遍历的。 2 4 相关引理 引理2 4 1 2 5 1 设厂g ) 是定义在区间上的有界的函数，k ，k 1 是区间， 中的序列。如果 一l i m 。l 窆l 一口1 = o(241)rt女：1 且，g ) 在点a 连续，则 l i m l 。面妻 f ( a t ) 一f ( 4 1 = 。 ( 2 蚴 引理2 4 2 “2 3 ( j e n s e n 不等式) 设g 是r 上连续凸函数，亭是概率空间 ( q ，f ，p ) 上的可测函数使得对于f 的子盯域1 9 ，e ( 孝it 9 ) 和e ( g ( f ) f1 9 ) 均有定义， 则 g ( e ( 毒t 9 ) ) f 【g ( f ) i j 】a , s 江苏大学硕士学位论文 引理2 4 3 。”( 1 e v i 引理) 若以l x ，且对某个，k 可积，则 l i m e e = e xa s 引理2 4 4 口5 1 设慨，”o 是取值于s = 1 ，2 ，) 的马氏链，其初始分布 为( g ( 1 ) ，g ( 2 ) ，g ( ) ) ，转移矩阵列为只= ( 。( f ，朋。，f ，s ，n 1 。若有不可 约转移矩阵p = ( p q ，) ) ，设( 曩，万：，x n ) 是由p 决定的惟一的平稳分布。并令 s 。( f ，) 是序列蜀0 l z ，0 ) ，以一。0 ) 中f 的个数，即 ( f ，彩) = 4 伍。( 国) ) ， 如果 h m - ：毫ei p k ( “) - p ( f ，j ) l _ 0 ，v “s 则 1 i 理鱼趔：曩a s n 引理2 4 5 设 以，胛2 0 ) 是一列随机变量序列，正( z ) 是可测函数， e = 盯( x o ，以) r f _ 。= q ， ，斤1 ，慨， 0 ) 是趋向无穷的一个增序列，设 ( 石) ，n o ) 是一列实非负的偶函数，当l x n 时，有 掣个掣山 l x l， 如果 兰垒【堡! ! 苎2 塑 o 。 ”1 纯( 6 n ) 则对每个m 1 有 ! 现毒砉 厂( 五) - e f ( g ) i f t 一) = 。黜 注：参照引理( 2 4 5 ) 的证明，易知当 e ，n 0 ) 是一般的盯域流时也成立。 江苏大学硕士学位论文 下面给出两个关于马氏链的周期强遍历矩阵的性质定理 1 9 引理2 4 6 设 以，h 0 是一个非齐次马氏链，其转移矩阵列为 只，胛1 ) 设p 是一周期强遍历的随机矩阵，周期为d ，丌= ( 厅。，玎：，) 是户的左特征向量， 并且是方程驴= 石和万，= 1 的唯一解，设q 是一常定矩阵，其中q 的各行均为 万。如果 ! 鳃去割最一尸| | = o 则对任何正整数聊及任何的v 有 1 “ l i m 土芝i p ”。”“”一p ”忙0 n = l 引理2 4 7 设p 是一个周期强遍历的矩阵，周期为d ，万= ( 7 。，万：，) 是p 的 左特征向量，并且是方程舻= 石和万，= 1 的唯一解，则 l i m ( 1 量p 一q l i ：o 江苏大学硕士学位论文 第三章隐马尔可夫模型的等价定义与性质定理 隐马尔可夫模型在近年来被广泛应用于弱相依随机变量的建模上，被用作研 究发音过程，神经生理学与生物遗传等方面问题的工具。隐马尔可夫模型的定义 也很多，本节给出这些不同的定义的等价性的证明，并且系统的给出了一些隐马 尔可夫模型的性质定理。 3 1 隐马尔可夫模型的等价定义 。f 面给出隐马尔可夫链的等价定义： 定理3 1 1 设忸。，聆o ) 与溉，甩o ) 是概率空间 q ，f ，p ) 上分别取值于可 列集s 与丁的随机变量序列，则下列叙述相互等价： ( i ) 。，匕，胛0 ) 是如2 2 i 定义的隐马尔可夫模型 ( i i ) 对v s ，t ，0 r ，l ，有 p ( 蜀= i o , y o = f o ，以= i nk = 厶) = p ( x o = i o ) p ( x l = 1 x o = i o ) p ( k = l ol x o = i o ) p ( x 。= i 爿j 一。= l n - i ) p ( = 厶f x 。= f 。)( 3 1 1 ) ( i i i ) 对v s ，t ，0 t s n ，有 p ( x 。= f l 瓦= i n , k = ，x 。= f 。，k = 1 0x o = i o ) = p 伍。= i 。 z 。= f 。) ，( 3 1 2 ) p ( k = l 咒= ，e 一。= 厶一，瓦一，= 乇一。，一，k = 1 0x o = ) = p 瓴= 1 瓦= i n ) ，( 3 1 3 ) 证( i ) ( i i ) ：由 p ( 凰= i o , k = l o ，以= ，k = ) 2 p ( y o = ，o ，k = z l ，一，l = | x o = i 0x 1 = i l ，x 。= j 。) 江苏大学硕士学位论文 p ( x o = i o ，x i = i 1 ，x 。= ) 由慨，行o 为马氏链，则有 p ( x o = i o , 墨= ，以= ) ( 3 1 4 ) = p ( j o = i o ) p ( x l = i ll x o = i o ) p ( 以= l x = i )( 3 1 5 ) 由( 2 2 1 ) ，( 3 1 4 ) ，( 3 1 5 ) ，即得( 3 1 1 ) 。 ( i i ) 号( i i i ) ：因为 p ( k = i 爿j = ，e 一，= 一，爿j 一。= 一。，一，y o = l o , x o = f o ) ：警旁堑堑丛掣 (316)x 尸( o = i o , r o = z o ，瓦= ) ” 由( 3 1 1 ) 有 p ( x o = 0y o = f 0 ，瓦= ) = x p ( x o = o , k = f o ，t 一，鼍= ，e = 厶) = z ，p ( x o = i o ) p ( y o = ，of o = i o ) p ( x 。= i 。i 彳= f ) p ( e = ，。i z 。= f 。) = p ( x o = i o ) p ( v o = l oi x o = i o ) p ( x 。= i 。 以一l = i n 一。)( 3 1 7 ) 由( 3 1 6 ) 与( 3 1 7 ) ，即得( 3 1 3 ) 。同理可得( 3 1 2 ) 。 ( i i i ) 专( i ) ：由( 3 1 2 ) 可得 尸c l 。= i 。l x 。= ，以一。= f ，j o = i o ) = 。p 阢+ ，= f 。，k = l ，k = ol 以= ，以一。= f 。，甄= i 。) ，” = i o ， ! 鲣生三! 盟! 墨= ，瓦= f 。，k 一。= j 。，k = 1 0 , x 。= i 。) 尸( k = ，。，瓦= i n , 置一。= i 。，= 1 0 。= i o ) 驾= ，瓦= i n 以一1 = 。，k = l o ，x 。= i 。) p ( x 。= i 。，瓦一1 = i n _ l ，x o = i o ) = p 阢+ 。= i 。i 瓦= )( 3 1 8 ) 由定义2 1 1 与( 3 1 8 ) 知 k ，以o 为马氏链，下证( 2 2 1 ) ，因为 1 4 江苏大学硕士学位论文 p ( y o2 l o ，r l2 ，l ，2 i x o 。1 0 ，爿12 ，一，五。2z 。) = 塑荒x o 未i o 掣 ， p (= ，五= ) 、。 由( i i i ) 得 p ( 五= i o , = 毛，瓦= i nk = ) = p ( 五= f o ) 尸( 写= f oj 局= i o ) p ( e = ，l 以= ，r ，k = y o ，x o = ) = p ( x o = i o ) p ( k = l ol x o = i o ) 尸( 。瓦= l z 。一。= f 。一。) p ( e = z 。1 k = ) ( 3 1 1 0 ) 由马氏链的性质与( 3 1 9 ) ，( 3 1 1 0 ) ，即得( 2 2 1 ) 。 3 2 相对熵密度的等价形式 由上面的等价定义可以得到相对熵密度的等价形式 设阢，e ，n 0 ) 为非齐次隐马尔可夫模型，由( 3 1 1 ) 其有限维分布满足 p ( x o ，- ，y 。) = q ( x o ) b 。x o , y 。) 直唧x k - t , x k ) 以( “) ( 3 2 1 ) 由( 3 2 1 ) 与( 2 3 5 ) ，则有 ：( c o ) = 一二 1 n q ( x o ) b o ( x 。，k ) + l n a t ( x k l ，x 女) b k ( 爿j ，乓) 】 ( 3 2 2 ) h k = l 当观测链值恰好为隐藏链的值时，也即在隐非齐次马尔可夫模型中取 l = x 。，订0 时，此时b 为单位矩阵，则隐非齐次马尔可夫模型伍。，k ，n o ) 退化 为非齐次马尔可夫链 工。， 2o ，则由( 3 2 2 ) - t ：5 ( 2 3 6 ) 可得非齐次马尔可夫链 x 。，胛o 的相对熵密度为 五( ) 一1 n i n q ( x o ) + k 量= l l n 吼( 以+ 五) 】 ( 3 硼 ，z 另外假定每次的观测值匕是相互独立的，则有 p 0 。，y 。) ：卉p ( y 。) 由( 2 3 7 ) 知，观测链化，胛0 ) 的相对熵密度为 1n 一( ) 一言善i n p ( k ) ( 3 刎 江苏大学硕士学位论文 3 3 隐马尔可夫模型的性质 由上面的隐马尔可夫模型的等价定义可以得到如下性质： 定理3 3 1 设伍。，匕，”0 ) 是如2 2 1 定义的隐马尔可夫模型 ( 1 ) 对v 0 s o s 。 s 。+ 1 s n + m , 0 t o ，。 t 州 l a s ( 3 3 3 ) 其中f 。= q ，妨，丑。为常数，力1 。 证( 1 ) ：先证下式成立 p ( 墨+ - 2 0 + - i _ 。l ，2 t ，气2 屯，民2 屯) p x k n 2 s 。“i xs 。2 t s ) ，t n 量s n 由于 p ( k + ，2 + ti _ 2 l ，墨2 t ，一，2 l , o ，o2 乞) 一r r p ( x ”12 f ”1 ，l2 ，置，2 i “，k 。，o ，x o2 i o ) z 2 。z p ( = z “，x h = f ，k = f 0 ，五= f 0 ) ! ! 曼三生：墨三生：墨三鱼：墨三! ! p ( _ 2 l ，矗2 t ，= o ，k = i s u ) 1 6 江苏大学硕士学位论文 = p ( 五+ t = t + ，l k = p ( 五川= 川l x s = 0 。) 其中上式中的 ( 3 3 4 ) = l ，0 v 最，且v t k ，v o k 胛 ， = 屯，0 材r ，且“s k ， f r o k 行 同理可得 p ( + ，2 _ “l 墨+ 2 t ”气2 t ，k2 。，气2 t ，k2 屯) 尸( + i2 ，叫 x 洲= i 叫) ( 3 3 5 ) 不妨设t n + 。晶+ 。，类似可证+ 。s n + ，的情况，由( 3 3 4 ) 与( 3 3 5 ) 可得 p ( _ 。2 l k 。2 。，_ 。l 。，z 。2 0 。j _ 2 l ，k2 t ，气。屯，氐。) = z z p ( x ，川2 0 一+ t2 _ 一，_ 。l 。，五。t 。i 2 l ，k2 t ，k2 f f 0 ，五2 屯) = z z p ( y , 2 ，“1 z f 。2 i h ) 尸( 2 一i x 一，2 i t s + = - i ) p ( x ”t2 t “i 2 i ) = z z p ( y , 2 0 + i x + = f + ，j 】；一z2 l + ，十，z 。2 0 ) p ( 置= i + 。i x t 一i = t + 一l ，r 一i = ，“。一t ，一，x 如= i 如) p ( x s + l = i 如+ li x 如= i 如) = z e p ( y , = ，。x + ，= f k ，f 川2z ”i ，”12 i + l 限。= i “) = p ( r 。= l + 。，x s 。= 。，一，。= 。，工。= i s 。l x s = ) 其中上式中的 = l ，最+ 1 v t n + 。，且v t k ，v n k 疗+ m 十= 屯，瓯+ 1 “+ 。，且甜& ，