（信号与信息处理专业论文）诱发电位信号提取新方法的研究.pdf

摘要 诱发电位( e v o k e dp o t e n t i a l s ，e p ) 是中枢神经系统在感受外界或内在刺激 过程中所产生的生物电活动。通常情况下，e p 信号淹没在很强的背景噪声中， 信噪比通常在一l o d b 左右，甚至更低，所以噪声中诱发电位的检测技术一直是 神经科学领域的重要课题。 本文对提取e p 信号的新方法作了简要的概述，并引出了独立分量分析 ( i c a ) 这一新兴的信号处理技术。i c a 起源于上世纪九十年代，现有算法大体 上可以分为两类，一类是基于非高斯性测度的算法，另一类是基于信息论的算法。 本文对这两类算法中的比较有代表性的算法进行了详细的研究，并通过仿真实验 将各算法应用子e p 信号的提取，取得了比较满意的效果。 基于信息论的i c a 算法主要有三种算法：信息极大( i n f o m a x ) 算法、最大 似然算法和互信息最小化算法。这三种准则函数都可以表示为k l 散度的形式。 而k l 散度对于可逆变换的不变性，使得这三种基本算法是等价的。本文在理 论上验证了这三种基本算法的等价性。 i c a 的两类基本算法各有所长。基于非高斯性测度的算法收敛快，但不能在 线学习。基于信息论的算法可以在线学习。但收敛较慢。本文把这两类算法的优 点结合起来，提出了一种加快在线学习算法收敛速度的新算法f a s t i n f o m a ) 【 算法。该算法利用f a s t i c a 算法通过少量数据获得一个接近最优解的权矩阵，然 后对该权矩阵进行线性变换，将变换后的矩阵作为i n f o m a x 算法的初始权值，进 行在线学习。其中，f a s t l c a 算法是基于非高斯性测度的算法中最具代表性的， 可以说该算法是现有的收敛最快的i c a 算法。将f a s t i n f o m a x 算法应用于e p 信 号的提取，可以有效地去除嗓声，得到比较纯净的e p 信号。与i n f o m a x 算法相 比，f a s t i n f o m a x 算法的收敛速度大为提高。 关键词：e p 倍号；独立分量分析；非高斯性；信息论；f a s t i c a 算法；i n f o m a x 算法；f a s t i n f o m a x 算法 a b s t r a c t e v o k e d p o t e 娟a l ( e p ) i s a ne l e c t r i cs i g n a lg e n e r a t e d b y t h ec e n t r a ln e u r a ls y s t e m , w h i c hi sar e s p o n s eo fv a r i o u ss t i m u l i ，1 i k es o u n d ，l i g h ta n de l e c t r i c a li m p u l s e e p r e f l e c t s 也es t a t u sa n dc h a n g e so f t h en e u r a ls y s t e m i ti so f t e ns e r i o u s l yc o n t a m i n a t e d b yo n g o i n ge e ga n do t h e rn o i s e s a tp r e s e n t , m a n ys i g n a lp r o c e s s i n gt e c h n i q u e s ， s u c h 船i n d e p e n d e n ta n a l y s i so c a ) ，w a v e l e ta n a l y s i s ，h i g h - o r d e rc u m u l a n t sc t c ，h a v e b e e ni n t r o d u c e dt oe x t r a c t 也ee p s i g n a l i c ai st h ee m p h a s i so f t h i st h e s i s i c ai san e wt o o lf o rb l i n ds o u r c es e p a r a t i o nm s s ) i ti so r i g i n a l l yd e v e l o p e dt o d e a lw i t ht h ec o c k t a i l - p a r t ) rp r o b l e m i th a sc a u g h tt h es i g h to fal o to fr e s e a r c h e r s n 地p r e s e n ta l g o r i t h m sc a nb er o u g h l yd i v i d e di n t ot o wc a t e g o r i e s - - - t h ea l g o r i t h m s b a s e do nt h em e a s u r e so fn o n g a u s s i a n i t ya n dt h eo n e sb a s e do ni n f o r m a t i o nt h e o r y 1 1 l i st h e s i sr e v i e w ss e v e r a lm a i na l g o r i t h m si nd e t a i la n da p p l i e dt h e mt ot h e e x t r a c t i o no fe p s i g n a l t h er e s u l to f t h ec o m p u t e rs i m u l a t i o ns h o w s i nt h es e p a r a t i o n o f t h ee pa n dt h en o i s e s a m o n g t h ea l g o r i t h m sb a s e do ni n f o r m a t i o nt h e o r y , t h em a x i m u ml i k e l i h o o d ， t h ei n f o m a xa n dt h em u t u a li n f o r m a t i o nf i r et h r e eb a s i cc r i t e r i a ，a n dt h e ya r e e q u i v a l e n t a 1 1t h et h r e ec r i t e r i a c a r , b er e l a t e dw i t ht h ek u l i b a c k - l e i b l e r ( k l ) d i v e r g e n c e w h i c hi so n eo f t h eb a s i cc o n c e p t so fi n f o r m a t i o nt h e o r y n ei n v a r i a b i l i t y f o ri n v e r t i b l et r a n s f o r mo fk ld i v e r g e n c ei s 也ek e yo ft h ee q u i v a l e n c e t l l i st h e s i s p r o v e s t h ee q u i v a l e n c e t h e o r e t i c a l l y c o m b i n i n gt h ea d v a n t a g e so ft h e t w oc a t e g o r i e so fa l g o r i t h m s ，t h i st h e s i s p r o p o s e sa n e wa l g o r i t h mn a m e da sf a s t i n f o m a xf o rt h eb l i n ds o u r c es e p a r a t i o n t h e f a s t l n f o m a xa l g o r i t h mc o m p r i s e so f t w o s t e p s f i r s t ，u t i l i z i n gt h er l c aa l g o f i t h m t oo b t a i n t h ei n i t i a lw e i g h t s ；s e c o n d ，e x e c u t i n gt h eo n l i n el e a r n i n gt h r o u g ht h ei n f o m a xa l g o r i t h m t h e c o m p u t e rs i m u l a t i o n s h o w st h a tt h ef a s t i n f o m a xa l g o r i t h mc a l l s p e e du p t h e c o n v e r g e n c e s i g n i f i c a n t l y k e y w o r d s ：e ps i g n a i ：l n d e p e n d e n c ec o m p o n e n ta n a i y s is ；n o n g a u s s i a n l t y i n f o r m a t i o nt h e o r y ：f a s t i c aa i g o r i t h m ：i n f o m a xa i g o r i t h m ； f a s t l n f o m a xa i g o r i t h m 诱发电位信号提取新方法的研究 1 绪论 诱发电位( e v o k e dp o t e n t i a l ，简称e p ) 是中枢神经系统在感受外界或内在刺激过程 中所产生的生物电活动。诱发电位信号检测与分析技术是临床医学诊断神经系统损伤及 病变的重要手段之一。诱发电位诊断技术是基于这种由生理病变而导致的信号变化来诊 断和分析神经系统的损伤和疾病的。国际上对于诱发电位的研究及临床应用始于上世纪 七十年代。近年来，越来越多的信号处理研究人员把研究的目标放在诱发电位信号的分 析处理上，试图从诱发电位信号中提取更多的信息，并建立起e p 信号变化与神经系统病 变及损伤之间的直接联系。 1 1 e p 信号的临床意义及应用 e p 信号是中枢神经系统( c e n t r a ln e r v o u ss y s t e m jc n s ) 所产生的生物电信号，是 神经系统对外部声、光和电脉冲等刺激的有特定规律的响应。临床检测中常见的诱发电 位有听觉诱发电位( a u d i t o r ye v o k e dp o t e n t i a l s ，a e p ) 、视觉诱发电位( v i s u a le v o k e d p o t e n t i a l s ，v e p ) 和体感诱发电位( s o m a t o s e n s o r ye v o k e d p o t e n t i a l s ，s e p ) 等。 在正常情况下，诱发电位信号是相对稳定的准周期信号。当神经系统出现某种生理 病变时，其诱发电位信号将产生相应的变化，通过检测诱发电位信号就可以诊断和分析 神经系统的损伤和疾病。e p 信号的潜伏期( l a t e n c y ) 定义为由外部刺激时刻开始到某个 选定的e p 峰值之间的时间间隔。e p 信号中包含了丰富的有关神经系统传导通路上各个 部位的信息，特别是潜伏期及其变化表示了神经系统的传导及其延迟，从而反映了神经 系统的状态和变化。例如比较常用的脑干听觉诱发电位经由分析e p 信号各潜伏期及峰 之间的峰值和波形，可以判断人体或其他生命体听觉神经传导通路各部位的功能是否正 常。如果听觉神经通路中任一部位出现损伤或病变，其诱发电位信号必将出现相应的变 化。e p 波形的特点由各个子波决定，这些子波的幅度和潜伏期可以出于诊断目的而进行 分析。例如：由于低含氧量空气的吸入而引发的大脑缺氧症会降低体感诱发电位的幅度， 如果含氧量及时回到正常水平，s b p 的幅度将恢复。由于潜伏期表征沿着传递躯体刺激 和反应的神经通路的实际延迟，所以潜伏期的变化可以是对任何神经系统变化的更恰当 的检测手段。 除了神经系统的诊断之外，诱发电位还有许多其它应用，例如帮助医生确定视力障 碍、脊髓病变、眩晕症患者的病变位置，为法医鉴定提供客观指标等等。 总之，e p 信号的提取在l i 笛床上具有非常广泛的应用。通过对e p 信号提取的新方法 的研究，从而精确、有效地提取e p 信号，不仅可以为医生的临床诊断提供客观的依据， 也可以使其在病理学、生理学乃至认知科学领域发挥更大的作用。 1 2 国内外研究概况 国际上对于e p 信号的研究及临床应用始于上世纪七十年代。近年来，越来越多的 诱发电位信号提取新方法的研究 信号处理研究者把研究的目标放在诱发电位信号的分析处理上，试图从诱发电位信号中 提取更多的信息，并建立起e p 信号变化与神经系统病变及损伤之间的联系。 通常e p 信号与自发脑电( e e g ) 信号是同时记录到的，在e p 信号的处理中。我们关 心的是e p 信号，而把e e g 信号看作噪声。由于e p 信号淹没在很强的背景噪声中，信噪 比( s n r ) 通常在一1 0 d b 左右，甚至更低，所以噪声中诱发电位的检测技术一直是神经 科学领域的重要课题。 早期的提取e p 信号的方法是累加平均法，这种方法也是目前临床上使用最为广泛 的方法。累加平均法是从强背景噪声中提取微弱周期信号的有效方法。用累加平均法提 取e p 信号，基于以下假设； ( 1 ) e p 信号是周期信号，即每次刺激后所获得的诱发电位波形是一致或近似一致 的： ( 2 ) e e g 信号与其他背景噪声与刺激无关，且为零均值的随机过程； ( 3 ) e p 信号与噪声相互独立，且为加性关系。 采用累加平均法的主要优点是：方法简单，易于实现。但后来的研究者们证实，上 述假设与实际情况不完全相符。实际上e p 信号是时变的、非平稳的。累加平均的结果 往往使e p 信号的高频信息，即信号波形的细节信息被滤除掉了，而这些细节信息则很 可能是有意义的。另外，累加平均法需要对受试者进行重复刺激，这容易使受试者疲劳， 从而给检测结果带来进一步的误差。此外，研究者们还提出了一系列的方法，如加权平 均、匹配滤波、参数模型等。 近年来，e p 信号的少次提取甚至单次提取已经成为脑电信号处理的一项前沿课题， 大批的国内外研究者致力于此。经过少次甚至单次试验提取e p 信号，可以跟踪e p 信号 的瞬态变化，为临床诊断提供更多的依据，并可以减轻多次重复试验给病人带来的痛苦。 e p 信号的少次提取甚至单次提取的新方法包括；小波变换【“3 1 、神经网络【4 8 】、离阶统计 量1 9 、独立分量分析( i c a ) 2 2 , 2 3 】等。本章下节将对这几种方法作一简要介绍。 e p 信号的提取技术经过几十年的发展，已经取得了巨大的进步。可以确信，e p 信 号的少次提取甚至单次提取仍将是未来几年内研究者们关注的焦点随着现代信号处理 技术的发展，e p 信号的提取将由单一方法发展为各种方法的有效结合，发展为时域、频 域、空域技术的有效结合。 1 3 提取e p 信号的新方法 近年来，许多研究者将信号处理的新方法应用于e p 信号的提取，这些新方法主要有： 小波变换、神经网络、高阶累积量和独立分量分析( i c a ) 。其中独立分量分析是本文的 重点。 1 3 1 小波变换方法 e p 信号通常淹没在很强的背景噪声中，提取微弱信号正是小波变换的一个重要应 用。小波变换的基本思想是用一族函数去表示或逼近某一信号或函数，这一族函数称为 小波函数系。它是通过一个函数( 母小波) 的平移和伸缩构成的，用其变换系数即可描 诱发电位信号提取新方法的研究 述原来的信号。小波变换具有以下特点： ( 1 ) 多分辨率，即多尺度； ( 2 ) 品质因数，即相对带宽( 中心频率与带宽之比) 恒定； ( 3 ) 适当地选择母小波，可使小波在时域、频域都具有表征信号局部特征的能力。 由特点( 3 ) 可见，小波变换适用于像e p 信号这样的非平稳信号。在实际应用中， 常采用m a l l a t 快速算法计算小波变换。m a l l a t 快速算法是基于函数多分辨率空间分解 的概念，将二进小波与多分辨率分析联系起来，其在小波分析中的地位相当于f f t 在经 典傅里叶变换中的地位。 文献对带噪e p 信号进行小波变换，利用小波变换的时频定位功能，剔除噪声项， 保留与信号有关的项，然后对其进行重构，这相当于对原始信号进行时频滤波。小波变 换方法从理论上说滤除了噪声项，保留的只是信号成分，比传统的累加平均法更能改善 信噪比。但实际上这种改善也是有限度的，为进一步改善信噪比，引入了“平均”的概 念。文献1 1 1 中把1 0 个扫描的经小波变换处理后的波形进行累加平均的结果与利用1 0 0 0 个扫描的原始测量波形进行传统的累加平均处理后所得的结果进行了比较，前者波形清 晰，较好地反映了信号的瞬态特性，信噪比大为提高。文献【2 】出于计算量的考虑，在对 e p 信号进行小波分析之前，先进行平均。平均、小波分解、去噪、重构都是线性运算， 调换顺序并不会影响最终结果，但先进行平均可以缩短信号的处理时间。 在小波理论应用时，通常只是将小波变换用来对被分析的函数或信号进行展开，这 往往是不够的，还应考虑变换前的预处理和变换后的后续处理，考虑与其他方面的结合。 文献【3 j 把小波变换和聚类分析方法结合起来。先用模糊聚类方法把观测数据分成2 类， 对成员数多的一类( 主要含有e p 信号) 用累加平均法进行平均，再用h a a r 小波对平均 的结果进行分解、去噪、重构，从而实现e p 信号的提取。 小波变换是提取诱发电位的一个有效工具，尽管它在理论上和实践上都有很多尚未 解决的问题，但我们完全可以相信，它将带给我们一个广阔的应用前景。 1 3 2 神经网络方法 由于神经网络具有很强的处理非线性问题的能力，近年来，它已经成为提取e p 信 号的一种主要方法。b p 网络、h o p f i e l d 网络、径向基函数网络( r b f n n ) 和模拟退火神 经网络等都曾被用于e p 信号的提取。 f u n g 等人【4 j 提出了一种用r b f n n 提取e p 信号的方法。这种方法采用r b f n n ，用有限 数量的其中心沿时间均匀分布的径向基函数对e p 信号建模。r b f n n 是一种多层前馈神经 网络，包括源节点输入层、一个具有非线性处理单元的隐层和具有线性权的输出层。在 此，假设信号与噪声为加性关系，选用高斯径向基函数，用l m s 算法对权值进行调整。 仿真结果表明，用足够数量的径向基函数就能很好地建立e p 信号的模型。但同时也应注 意到，隐层节点数的选择要在估计误差和收敛速度之间做出折衷。 文献【5 】中把r b f n n 与自适应信号增强器( a d a p t i v es i g n a le n h a n c e r ，a s e ) 结合起 来，用r b f n n 对原始数据进行预滤波，然后将预滤波的结果作为自适应信号增强器的参 考输入。已经证明，在用a s e 对信号进行估计时，对s n r 的改善与a s e 的参考输入的s n r 成正比。因此用a s e 跟踪信号的变化，参考输入和基本输入应具有很强的相关性，问题 诱发电位信号提取新方法的研究 的关键在于参考信号的选择。用r b f n n 作预滤波可以有效地提高参考输入的s n r 。 r b f n n + a s e 的原理框图如图1 3 1 所示 图1 3 1r b f n n + a s e 的原理框图 f i g u r e1 3 1 t h e p r i n c i p l ed i a g r a mo f r b f n n + a s e 文献【6 j 中曾经分别用滑动平均( m a ) 方法和累加平均( e a ) 方法对原始数据进行预 滤波来建立 s e 的参考输入。文献【5 】在不同信噪比下进行仿真实验，比较了以上四种方法 ( r b f n n ，r b f n n + a s e ，m a + a s e ，e a + a s e ) 的性能，并给出了均方误差( m s e ) 曲线及滤波 后的输出信号与无噪信号的相关系数的曲线。从相关系数曲线可以看出当信噪比大于 一2 0 d b 时，r b f n n 和a s e + r b f 都可以得到很好的效果，相关系数在0 9 以上。而a s e + r b f f n n 又比r b f n n 的性能略好。 文献【7 1 采用传统模式识别与神经网络相结合的方法。设计了一个新的分类系统。在 此系统中，用误差反向传播( b p ) 算法和模拟退火( s a ) 算法的组合算法设计神经网络 分类器，既避免了b p 算法易于陷入局部极小值的可能性，又节省了s a 算法的搜索时间。 把这种分类系统用于脑干听觉诱发电位的提取，取得了较好的结果。 l a s k a r i s 等人i 跚通过聚类分析方法来增强滑动平均法的鲁棒性。这是通过h o p f i e l d 网络来实现的。设滑动窗的长度为l ，用h o p f i e l d 网络对这l 个样本进行聚类分析，从 而去除受噪声影响较严重的样本，把相关性强的试验样本合成一个聚类。设聚类中的样 本数量为k ，对这k 个样本求平均，得到聚类中心。以聚类中心作为瞬时e p 信号的估计。 从思路上来讲，这种方法与文献f 3 j 提到的方法有异瞳同工之妙，都是先对原始信号进行 分类，然后再进行处理。用v l s i 来实现这种算法，收敛速度可以达到纳秒级。 1 3 3 高阶累积量方法 高斯过程的高阶累积量恒等于零这一事实使得用高阶累积量作数学工具在理论上 可以完全抑制高斯噪声的影响。高阶累积量的性质可以参见2 3 节。 g h a r i e b 等人【9 l 提出了一种基于三阶相关( t o c ) 的滤波技术来恢复e p 信号的方法。 由于对称分布的非高斯过程( 白的或有色的) 的三阶累积嚣恒等于零，这使得这种方法 既能有效抑制高斯噪声，又能有效抑制对称分布的非高斯噪声。 三阶相关方法的基本思想源于匹配滤波器的思想。即把带噪e p 信号通过一个f i r 诱发电位信号提取新方法的研究 滤波器，而滤波器的脉冲响应与无噪e p 信号相匹配。假设e p 信号为s ( n ) 。观测信号为 x ( n ) ，背景噪声为v ( n ) ，s ( n ) 与v ( n ) 相互独立，且为加性关系，如( 1 3 i ) 式所示 x ( n ) = s c n ) + v ( n ) ( 1 _ 3 i ) 为获得e p 信号的瞬态性质，文中用一组阻尼正弦信号之和对e p 信号进行建模。即 f s ( 哟= 吼e 凡，0 - n t k ( 2 i 2 ) 再把对应的特征向量( 经过标准正交化的) 也重新排序，得到矩阵q ， q = ，q 2 ，q ，q m l ( 2 1 3 ) 其中，劬为乃对应的特征向量。最后估计源信号 童= q r x ( 2 1 4 ) p c a 也被称为k a r h u n e n - l o e v e ( k l ) 交换口4 1 。 p c a 还可以通过自组织映射神经网络来实现【2 5 1 。 p c a 是建立在协方差矩阵的基础上，只用到了信号的一、二阶统计特性，只能做到 诱发电位信号提取新方法的研究 各个主分量的不相关，属于信号处理的经典范畴。实际应用中，不相关往往是不够的， i c a 突破了传统方法的局限性，利用高阶统计特性，把“不相关”推向了“独立”。 2 2 独立 “统计独立”是独立分量分析( i c a ) 的核心概念，也是i c a 的基本假设。i c a 是 p c a 的推广，要求各独立分量的各高阶统计量都不相关。下面以两个随机变量为例来阐 述“统计独立”的概念。 设两个随机变量乃和n ，如果y l 的取值不依赖于y 2 ，反之亦然，我们称m 和儿是 相互独立的。 独立也可以通过概率密度来定义。设乃和y ：的联合概率密度为p ( m ，y ：) ，变量) ，。的 边缘概率密度为a ( h ) ，变量耽的边缘概率密度为p 2 ( y 2 ) ，即 a ( m ) = p ( ) ，l ，y 2 ) d y ：，p 2 ( 儿) = p ，y 2 ) d y l 如果m 和儿的联合概率密度p ( m ，y ：) 可以分解为y l 的边缘概率密度p 1 ) 与y 2 的边缘概 率密度p ：( y 2 ) 的乘积，我们称随机变量m 和y 2 是相互独立的，即 p ( y l ，y 2 ) = p l ) p 2 ( y 2 ) 这个定义可以推广到月个随机变量的情况。如果这n 个随机变量的联合概率密度可 以分解为n 个随机变量各自的边缘概率密度的乘积，则这n 个随机变量是相互独立的， 即 p ( 乃，埘一，) = 兀p ，( * ) t - 1 从这个定义还可以推出相互独立的随机变量的一个重要的性质。设啊( ) 和( ) 是两 个给定函数，则有 e 啊，：如c y ：谚= e 啊c y 。) ) e f o ：) 证明如下： e 瓴如( y ：) ) = f h “慨b ( m ，y ：) 奶吵： = n h b - ( m ) 执b z ( y ：) 奶奶 = 胁执h ( 乃沌限如k 魄m = e 啊o ) e 也( y ：) 诱发电位信号提取新方法的研究 不相关是比独立弱的条件。如果两个随机变量y 。和y ：不相关，则它们的协方差为零， 印 e y l y 2 ) 一e y l e y 2 ) = 0 如果两个随机变量是相互独立的，那么他们一定是不相关的( 令 “) = m ，如：) = y ： 即可) 。反之，如果两个随机变量不相关，则他们不一定满足相互独立。 由于独立意味着不相关，许多i c a 方法的估计过程都会先给出各独立分量的不相关 估计。这样可以减少自由参数的个数，可以使问题简化。 2 3 高阶累积量 众所周知，高斯信号可由其一、二阶统计量( 均值、方差) 唯一确定，p c a 等经典 的信号处理方法的建立都需要一个前提，即假设待处理的信号服从高斯分布。但在实际 应用中，纯粹的高斯信号是很少的，这种假设在很多情况下不能得到满足。非高斯信号 的处理逐渐得到了人们的关注，已经成为信号处理领域的一个新的研究方向。高阶统计 量是分析、处理非高斯信号的主要工具之一。 所谓高阶量统计量，通常应理解为高阶矩、高阶累积量以及它们的谱一高阶矩谱 和高阶累积量谱这四种主要统计量。本节我们将从特征函数出发，给出高阶矩和高阶累 积量的定义以及它们之间的转换关系，重点讨论高阶累积董的性质，对高阶矩谱和高阶 累积量谱不作研究。 2 3 1 高阶矩和高阶累积量的定义 定义高阶矩和高阶累积量，首先要引入特征函数的概念。 先考虑一维随机变量的情况。设零均值的单个随机变量x 的概率密度函数为p ( x ) ， 其特征函数定义为 中( 脚) = r 乙j “p ( x ) d x = e e “) ( 2 3 1 ) 可见特征函数其实是概率密度函数p ( ，) 的傅里叶变换。随机变量x 的k 阶矩r a k 定义为 函沏) 在原点的阶导数。 删訾l 矿( 一j ) k c k ( o ) ( 2 3 2 ) 鉴于此，常将西 ) 称为z 的矩生成函数。西( ) 在原点处的泰勒级数可以展开为 诱发电位信号提取新方法的研究 蚴) 1 + 否nf m k + 0 ( ( 2 3 3 ) ( 2 3 1 3 ) 式要求中( ) 在原点处的前一阶导数存在。 对口) 取自然对数，可得 ( ) = h 【圣( ) 】= l n e e 1 “) ( 2 3 4 ) 通常把( 2 3 1 ) 式称为第一特征函数，把( 2 3 4 ) 式称为第二特征函数。随机变量x 的k 阶累积量q 定义为p ( 国) 在原点的k 阶导数。 铲( _ j ) 訾i 。 ( 2 3 5 ) 常将掣 ) 称为x 的累积量生成函数。p ( 国) 在原点处的泰勒级数可以展开为 嘞) = 砉备( ( ( 2 3 6 ) 同样，( 2 3 6 ) 式也要求p ) 在原点处的前一阶导数存在。 累积量是用来表征随机变量的一个相当重要的统计量。由( 2 3 5 ) 式不难看出，阶 数比较高的累积量的计算十分繁琐，下面给出单个随机变量的前四阶累积量： c i = 卅 岛= m 3 3 m 2 m 1 + 2 m f c 4 = m 4 3 m ；- 4 m 3 m + 1 2 m 2 m 一6 m ? 累积量一般都可展开为矩的形式，这也给累积量的估计提供了途径。对于零均值的随机 变量，即m l ：0 ，通过矩来计算累积量变得相对简单。此时一阶累积量是x 的均值；二阶 累积量c l 就是，的方差m 2 ；三阶累计量c 3 就是三阶中心矩m ，即斜度。四阶累积量 。：。一3 。；称为峭度( k u r t o s i s ) ，是随机变量非高斯性衡量的指标。 多个随机变量的联合高阶统计量。以上给出了一维随机变量的高阶矩和高阶累积量， 可以将其推广到随机向量的情况。对零均值维随机变量 而，r ：，轴f ，联合( 第一) 诱发电位信号提取新方法的研究 特征函数定义为其联合密度函数p ( x l ，z ：，z 。) 的维傅里叶变换： k 阶联合矩定义为 圣( q ，g d 2 c ，c o ) = e e x p ( j q t ) ) ( 2 3 7 ) z 1 。+。，=c一，。ji；i：i!；-掣i竹。，。 c z 。s ， 其中，阶数k = k 。+ + 。 第二特征函数仍然定义为第一特征函数的对数。 p ( l ，( 0 2 ，吐k ) = l n 【西( ，2 ，) 】= 1 n e e x p ( j c o ，x 1 ) ) 】 ( 2 3 9 ) k 阶联合累积量定义为 c c 一+ + t ，= ( 一j ) ! ! ；i ；j i j 犁1 。一。 c 2 ，。， 其中，阶数k = k l + - + 七。 在多维情况下，累积量的表达式比单变量要复杂得多，但也有累积量和矩的相互转 换公式【2 6 i 。 2 3 2 高阶累积量的性质 性质1 ：设 ，f - 1 ，2 ，n 为常数，薯，i = 1 ，2 ，n 为随机变量，则 c u m ( & x , ，2 u x ) = ( n g ) c u m ( x l ，一，h ) ( 2 3 1 1 ) 性质2 ：累积量关于它们的变元是对称的，即 c l g m ( x i ， ) = c l l m ( x q ，, 一, x i 。) ( 2 3 - 1 2 ) 其中( ，0 ) 是( 1 ，) 的一种排列a 性质3 ：累积量相对其变元具有可加性，即 c n m ( x i ，t + y ，x ) = c u r e ( x ! ，t ，h ) + c u m ( x 1 ，y ，x ) ( 2 3 1 3 ) 这一性质意味着，和的累积量等于累积量之和。由性质1 和性质3 可知，累积量相 诱发电位信号提取新方法的研究 对其变元是线性的。 性质4 ：若口是常数，则 c u t n ( 口4 - x i ，h ) = c ”m ( x i ，h ) ( 2 3 1 4 ) 性质5 ：高斯随机变量的高阶( - - 阶或三阶以上) 累积量为零。 正是这一性质使得用高阶累积量作数学工具在理论上可完全抑制高斯有色噪声的影 响。高阶矩却无此优点，高斯随机变量的奇数阶高阶矩等于零，而偶数阶高阶矩不等于 零。这也是实际中我们使用高阶累积量，而不是高阶矩作为非高斯信号处理的数学工具 的原因之一。 性质6 ：若随机变量“) 和随机变量 儿) 独立，i = 1 , 2 ，n ，则： c u m ( x i + y i ，一，工+ ) ，) = c u m ( x l ，石) + c u m ( y i ，y ) ( 2 3 ，1 5 ) 由性质5 和性质6 ，可以得到一个非常重要的结论：如果一非高斯信号是在与之独 立的加性高斯有色噪声中被观测的话，那么观测过程的高阶累积量将与非高斯信号过程 的高阶累积量恒等。 性质7 ：若随机变量) 中的一个子集与其余部分独立，则 c u m ( x i ，h ) = 0 ( 2 3 1 6 ) 在实际中，我们使用高阶累积量，而不是高阶矩作为非高斯信号处理的数学工具， 主要原因有以下几条： ( 1 ) 理论上，高阶累积量的使用可避免高斯有色观测的影响，而高阶矩不能。 ( 2 ) 如同自噪声的协方差函数是冲激函数，其谱是平坦的直线一样，高阶白噪声的 高阶累积量是多维冲激函数，该噪声的多谱是多维平坦的。这使得我们很容易建立非高 斯信号与线性系统传递函数之间的关系。但是，高阶白噪声的高阶矩及其谱却无此优点。 ( 3 ) 考虑矩闯题解的唯一性问题。简言之，不同分布函数可能具有相同的矩。累积 量问题的解具有唯一性。 ( 4 ) 两个统计独立的随机过程的累积量等于各个随机过程的累积量之和，而这一结 论对高阶矩却不成立。这使得累积量非常适合于作为一种算子来使用。 此外，高阶累积量还具有以下特点： ( 1 ) 能够很好地克服二阶矩的“相盲”问题。可以根据线性系统的输出的高阶累量， 识别非最小相位系统。 ( 2 ) 可用于分析由于“偏离高斯性”引起的各种特性。 ( 3 ) 便于检测信号的非线性性质及便于识别非线性系统。 2 3 3 四阶累积量峭度 四阶累积量又称为峭度。之所以要把四阶累积量单独提出来，是因为峭度函数是非 高斯性的判据之一，而非高斯性是独立分量分析( i c a ) 的一类主要判据。 诱发电位信号提取新方法的研究 零均值的随机变量x 的峭度为k u r t ( x ) = c 。= 朋。一3 m ：。由中心极限定理，一般情况 下，m 个相互独立的随机变量最的线性和- i ，比任何一个随机变量都更接近高斯分布。将 该理论应用到i c a 问题里可以得到这样的结论：观测信号是多个独立源信号的线性组合， 所以其高斯性比原信号的高斯性强，换句话说，源信号的非高斯性比观测信号的非高斯 性要强。粗略的讲就是，非高斯性愈强就愈独立。所以，我们可以通过峭度函数的最大 化或最小化串行提取各独立分量。 对高斯随机变量而言，其峭度为零。对于峭度值为正的随机变量，我们称其服从“超 高斯”分布；对于峭度值为负的随机变量，我们称其服从“亚高斯”分布。超高斯分布 与高斯分布相比峰更尖，拖尾更重，语音信号服从超高斯分布；而亚高斯分布的信号的 概率密度函数则比较平坦，均匀分布就是典型的亚高斯分布。图2 3 】则给出了高斯分布、 超高斯分布和亚高斯分布的直方图。 ( a )( b ) ( c ) 图2 3 1 不同概率分布的直方图 ( a ) 高斯分布( b ) 超高斯分布( c ) 亚高斯分布 f i g u r e2 3 i h i s t o g r a m so f d i f f e r e n tp r o b a b i l i t yd i s t r i b u t i o n s ( a ) g a u s s i a nd i s t r i b u t i o n ， s u p e r g a t m s i a nd i s t r i b u t i o n , ( c ) s u b g a u s s i a nd i s t r i b u t i o n 2 4 信息论 本节将给出信息论的几个基本概念，如微分熵、互信息、k l 散度等鲫。这些概念 在盲源分离和独立分量分析( i c a ) 的研究中非常重要 2 4 1 微分熵 熵是随机变量不确定性的量度。熵的概念在离散随机变量的情况下可以得到最清楚 的表述，而且不会遇到数学上的困难。但在实际问题中经常遇到的是连续随机变量，所 以我们给出连续随机变量下的微分熵。 对连续随机变量x ，密度函数为p ( d ，定义x 的微分熵为： 诱发电位信号提取新方法的研究 阿( z ) = 一s p ( x ) l o g p ( x ) d x ( 2 4 1 ) 微分熵的概念可以推广到多个随机变量。以两个连续随机变量x 和y 的情况为例。 设它们的概率密度函数分别为p x ( x ) 、儿( ) ，) ，联合概率密度函数为p ( x ，y ) ，条件概率密 度函数分别为p ( ) ，协、p ( x l y ) ，则连续随机变量x 和_ y 的联合微分熵定义为 h ( x y ) = 一i p ( x , y ) t o g p ( j 。y ) d 蚶y ( 2 4 2 ) 连续随机变量x 和y 的条件微分熵定义为 h ( y l x ) = - j p ( y l x ) i 。g p ( _ y | x ) d y ( 2 4 3 ) 日( x i y ) = 一j p o l y ) i o g p ( x i y ) d ：c ( 2 4 ，4 ) 两个连续随机变量下的微分熵之间有如下关系式： h ( x y ) = 日( x ) + 日( 卅x ) = h c y ) + 日( 叫y ) ( 2 4 5 ) h ( x l y ) - j 算法 w o + 1 ) = w ( f ) ( f ) p ( ，) ( w ( f ) 7 v ( f ) ) 3 3 l l w t ) t 1 2 w ( o + f ( o l j 2 ) 弦( f ) 】 ( 3 1 6 ) 上式括号中的前两项由k u r t ( w 7 x ) 的梯度得来。括号中的第三项是f 训w n 2 的梯度。( f ) 为学习步长。“+ ”意味着局部极大值，“一”意味着局部极小值。可以证明该算法是收 敛的。 这种神经网络学习算法的优点是可以在线应用，但收敛速度较慢，且在收敛速度和 学习步长之间要做折衷考虑。如果学习步长选得不恰当，算法可能不收敛。 h y v a r i n e n 在这种算法的基础上，提出了收敛更快、更稳定的f a s t i c a 算法。 对( 3 1 6 ) 式括号内的各项取均值，并令其为零， e v ( w 7 v ) 3 ) - 3 1 1 1 1 1 2 w + ：( i l w l l 2 ) = o ( 3 1 ，7 ) 用数值方法计算( 3 1 7 ) 式，可得 w = s c a l a r x ( e ( v ( w 7 v ) 3 一3 2 w ) ( 3 1 8 ) 把限制条件m i = 1 代入上式 w = s c a l a r x ( e v ( w 7 v ) 3 ) - 3 们 ( 3 。1 9 ) ( 3 1 9 ) 式中的s c a l a r 可以通过归一化去掉。 3 1 2 算法步骤 ( 1 ) 对向量x 进行白化，可以用p c a 实现，使得e 7 ) = i ，其中v = m x 。 - 2 8 - 诱发电位信号提取新方法的研究 ( 2 ) 用随机数初始化权向量，令序列号k = i 。 ( 3 ) 权值迭代 = 占 v ( i ，；一l v ) - 3 w 1 1 ( 4 ) 将峨归一化，m = w k l o w , l i ，令七= k + l 。 ( 5 ) 重复第( 3 ) 、( 4 ) 步，直到卜：峨一。i 足够接近于1 为止。 以上讨论的是串行提取第一个独立分量的情况。当提取后续分量时，需