GMM的推导.doc_第1页
GMM的推导.doc_第2页
GMM的推导.doc_第3页
GMM的推导.doc_第4页
免费预览已结束，剩余1页可下载查看

下载本文档

版权说明：本文档由用户提供并上传，收益归属内容提供方，若内容存在侵权，请进行举报或认领

文档简介

GMM的推导由独立同分布样本集合，应用EM算法估计高斯混合模型(GMM)的参数。I EM基本算法观测数据，“隐”数据。E步，计算在当前参数和观测数据的条件下，似然函数对的数学期望：(1)M步，计算参数的最大值，作为迭代结果： 或寻找，使得：II E步定义混合密度模型：(2)其中参数，并且。引入“隐”数据，其中，表示样本是由第个混合分量“产生”的，则：对数似然函数可以表示为：(3)令现在已知一个的“猜想”值，根据Bayes公式，有：(4)而：(5)其中：，代入公式(1)有： (6)其中：。因，所以(6)式中最内层大括号的内容可以简化为：(乘法的分配率)(7)将(7)代入(6)：(8)(8)式即为E步的结果。III M步由(8)式可以看出，参数与不相关，可以分别进行优化。先对进行优化，因有限定条件，引入Lagrange乘数，构造目标函数：所以：(9)等式两边对求和：因此：，代入(9)，则有混合系数的迭代公式：(10)其中可由(4)式计算。(10)式对任何的混合密度模型均成立。下面针对特定的高斯混合模型GMM计算参数的递推公式，此时，分别为高斯分布的均值矢量和协方差矩阵：代入到(8)式的后半部分，构造目标函数： 首先对求导数：等式两边左乘，则有：因此有均值的迭代公式：(11)因与存在一一对应关系，因此对求极值可以转化为对求极值，首先将目标函数写成：(参见“Gauss分布参数估计”)然后目标函数对求导： 因此有的迭代公式：(12)IV 总
人人文库> 全部分类> 生活休闲 > 科普知识

温馨提示

  • 1. 本站所有资源如无特殊说明，都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等，如果需要附件，请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸，网页内容里面会有图纸预览，若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间，仅对用户上传内容的表现方式做保护处理，对用户上传分享的文档内容本身不做任何修改或编辑，并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容，请与我们联系，我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

最新文档

评论

0/150

提交评论