（交通信息工程及控制专业论文）独立分量分析及在车辆视频检测中的应用.pdf

摘要 i 独立分量分析及在车辆视频检测中的应用 摘要 独立分量分析及在车辆视频检测中的应用 摘要 获得实时交通信息的重要性是不言而喻的， 但是现有的信息采集方式并不能满足交 通管理与控制的需求。随着近几年计算机技术的发展，基于视频的检测技术在交通中得 到了广泛的应用，同其它检测方式相比，它具有检测范围大、设置灵活、安装维护方便、 检测参数多等优点。 因此通过研究视频检测中的关键技术实现运动车辆检测就有着重要 的现实意义。 目前常用的车辆运动目标视频检测方法主要有帧间差分法、背景差分法和光流场 法，这些方法都存在一定的缺陷。帧间差分、背景差分对于背景灰度变化过于敏感，且 对差分阈值的选取依赖过大，选择不当容易把车辆目标判别为背景、形成孔洞。光流场 理论计算结果只在目标边缘与背景有较明显的速度差， 分割后的图像很难反映出检测汽 车的关键或全部特征，为汽车识别带来很大的困难；另外，众所周知的原因是光流场的 运算耗时太多，应用中实时性难以满足要求。 本论文的主要工作在于引入了一种新的运动目标检测方法独立分量分析。 独立 分量分析的根本原理是通过分析多维观测数据间的高阶统计相关性， 找出相互独立的隐 含信息成分，完成分量间高阶冗余的去除及独立信源的提取。之所以独立分量分析可以 应用于车辆视频检测， 是因为我们可以将多帧视频图像序列看作是背景图像与车辆的叠 加后的混合信号，其中背景基本保持不变，认为是一个独立分量；车辆在每一帧观测图 像中处于不同位置并可能发生变化，认为是独立于背景图像的多个独立分量。独立分量 分析使得分离后各分量之间的独立性最强，从而达到分离车辆的目标。 关键词关键词：独立分量分析，车辆分割，峭度，阴影去除，交通流参数 abstract ii independent component analysis andits application in vehicle video detection independent component analysis andits application in vehicle video detection abstract the importance of acquiring traffic information timely is self-evident. but traffic information collection methods can not satisfy the demand of traffic control and management at present. with the development of the computer technology, its widely used for the technology based on the video in traffic. compared with others detection it has the following advantages: wider detection scope, more flexible setup, and easier adjustment, convenient install and maintenance, richer traffic flow parameters. therefore it has much meaning for detecting moving vehicles parameters by researching the crucial video technology. nowadays, methods of moving objects detection in vehicles video include background differencing and coterminous frames differencing and optical flow field, but these methods still have some disadvantages. for background differencing and coterminous frames differencing, they are so sensitive to the gray value changing of background image and the detecting precision rely on threshold too much. if the selected threshold is not appropriate, it is likely to identify vehicle object as background, appearing some holes .for optical flow field, due to its obvious velocity difference only between object edge and background, the segmented image can hardly reflect the crucial and entire features of detecting vehicle, which bring so many troubles for vehicles detecting. in addition, another well-known limitation of optical flow field is that it needs much more calculating time, which cannot meet with the demand of real time in real application. the major work of this thesis lies in using a new moving object detecting method-independent component analysis. the principle of independent component analysis algorithm is to find the mutual independence underlying components, to remove the higher-order redundancies between components and to extract the independent original signals according to the analysis of higher-order statistical relationships among the multidimensional observed data. the reason for the application in vehicles video detecting is that we can recognize image sequence in video as mixed signals which are treated as superpose between background and vehicles. among which, owing to its basic unchanging characteristic, the background image is considered as an independent component; vehicles in different frame of observation images and different position can considered as multi-components which are independent with background image. independent component analysis can make independent characteristic reach to maximum among separated images, so vehicles can be separated according to this property. abstract iii key words: : independent component analysis, vehicles video detecting, kurtosis, shadow removal, traffic flow parameters 独创性声明独创性声明 本人郑重声明：所呈交的学位论文是我个人在导师指导下进行的研究 工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方 外，论文中不包含其他人已经发表和撰写的研究成果，也不包含为获得华 东交通大学或其他教育机构的学位或证书所使用过的材料。与我一同工作 的同志对本研究所做的任何贡献均已在论文中作了明确的说明并表示了谢 意。 本人签名_日期_ 关于论文使用授权的说明关于论文使用授权的说明 本人完全了解华东交通大学有关保留、使用学位论文的规定，即：学 校有权保留送交论文的复印件，允许论文被查阅和借阅。学校可以公布论 文的全部或部分内容，可以采用影印、缩印或其他复制手段保存论文。 保密的论文在解密后遵守此规定，本论文无保密内容。保密的论文在解密后遵守此规定，本论文无保密内容。 本人签名_导师签名_日期_ 第一章 绪论 1 第一章 绪论 第一章 绪论 1.1 选题背景及意义选题背景及意义 随着国民经济的快速发展、收入水平的不断提高，汽车保有量也在节节攀升，随之 而来的便是每况愈下的交通出行环境。 如何处理好交通需求与交通供给能力的平衡是目 前亟待解决的一对矛盾。目前解决城市交通问题的根本途径有两个：一个是加快道路设 施规划建设，健全城市道路网络体系。但是，修建道路的巨大经济投入和城市道路交通 空间的限制，使得这一方法的成效不尽如人意。二是采用先进的科学技术，对城市交通 进行现代化的管理和控制，提高现有道路的通行能力。近年来，世界各国都非常重视日 益严重的交通问题，投入大量人力、物力对道路交通运输系统的管理与控制技术进行研 发，相继出现了许多不同的交通控制方式和系统，为缓解交通拥挤发挥了很大的作用。 实践证明，在进一步加强交通基础设施建设的同时，还需要极大限度的提高现有路网的 利用效率，同时加强交通需求管理，加强对城市道路网的智能管理与优化控制。随着计 算机技术、 通信技术和模式识别技术的不断发展， 人们加强了对智能交通系统 （intelligent transportation systems，简称 its）的研究。随着研究的深入，不远的将来将会建立一种 在全方位发挥作用的实时、准确、高效的综合交通管理系统，从而从根本上改善目前的 城市交通状况。 its 通过对交通流进行实时检测， 根据交通流参数的动态变化， 迅速做出交通诱导， 减轻道路拥挤程度，减小车辆行车延误，降低发生交通事故的概率，保证行车安全和交 通设施的有效利用，使车与车、车与路、车与行人之间形成一种相互沟通、相互合作的 运行体制，产生协调效应，使得交通流能够得到有序、通畅、快捷的流动，从而形成良 好的城市交通运行环境，达到智能交通系统的目的。因此，交通信息检测和识别是智能 交通系统有效运行的前要条件。 目前普遍采用的交通信息采集的设施有磁感应线圈检测 器、微波检测器、超声波检测器和红外检测器等。但上述检测器在采集动态交通信息时 都存在着许多的不足。而视频检测器作为一种新型的动态交通信息采集设施，可以同时 实现交通视频监控和交通流参数获取的双重功能1。利用视频检测获取交通参数具有如 下优势：1、用非接触式检测方式，故障率低。2、可为事故管理提供可视图像。3、交 通信息采集丰富而且可靠。单个地埋式检测线圈只能做到车辆记数，成对使用时才可以 测速，而采用视频检测技术不仅可以做到车辆记数，而且可以采集多种交通参数，如车 速、空间占有率、时间占有率、车流量、车头间距、车型等。4、可以增加违章检测， 如检测车辆是否逆行、超速、闯红灯、速度突降、停车、交通阻塞等等，通过视频检测 技术不仅可以采集各种违章现象，而且可以将事故现场记录下来，为交通执法和处罚提 供依据，其它车流量检测技术无法做到。5、可以同时监视多条车道。6、安装和维修时 第一章 绪论 2 不会阻断交通2。随着图像处理技术的发展，基于图像的交通信息采集技术将会显示出 更大的优势，是未来实时交通信息采集和处理技术的发展方向，具备良好的应用前景。 车辆目标检测是交通视频检测技术的核心问题，为了获取所需的交通信息参数，首 先要准确的检测出图像序列中的车辆目标。 目前常用的运动目标视频检测方法主要有帧 间差法、背景差法和光流场法，这些方法都存在一定的缺陷。帧间差法利用视频序列相 邻帧的强相关性进行变化检测，进而通过对变化图像的滤波确定运动目标，不足之处是 很难求出运动物体的速度，且当运动物体在成像平面有重叠时，差分图像法难以检测出 有重叠的运动物体，此外对光照条件的变化也较为敏感。背景差分法主要应用于摄像机 固定、背景图像相对静止的条件下，选取一帧图像作为背景图像，计算当前图像与背景 图像的差来实现运动目标的检测，该方法的缺点是随着时间的变化，外界光照的强度和 入射角度都会不断的变化，而事先选取的背景图像无法自动适应这种变化3。光流场是 计算机视觉研究的一个重点，作为运动汽车检测具有一定的优点，但是光流计算结果只 在目标边缘与背景有较明显的速度差， 分割后的图像很难反映出检测汽车的关键或全部 特征，为汽车识别带来很大的困难；另外，众所周知的原因是光流场的运算耗时太多， 应用中实时性难以满足要求。所以，基于光流场的汽车检测方法应用并不多34。 本文引入一种的新的视频检测技术独立分量分析（independent component analysis，简称 ica） 。ica 具有较强的图像分离能力，且方法简单，自适应强，对于视 频图像序列做 ica 分离后能够清晰的看出运动目标的轮廓， 去除了背景后的视频图像中 的运动目标轨迹也清晰可见。同时，根据线性变换后图像序列的顺序，能观测到运动目 标的运动方向。该方法非常适合于运动目标在静止的摄像机拍摄情况下的图像序列处 理。由于背景灰度变化后仍认为是同一独立分量，不会影响分离结果，所以，较传统的 变化检测方法， 基于独立分量分析的运动检测方法具有较强的抗图像背景灰度变化的能 力，且能同时检测出运动目标的轮廓、轨迹和方向，是一种有效的运动检测新方法。可 以预见，该方法将在应用视觉等领域获得广泛的应用15。 1.2 车辆视频检测技术研究现状车辆视频检测技术研究现状 在过去的时间里， 人们对于用计算机实现运动汽车的自动检测和识别提出了各种各 样的方法。运动汽车与空中飞机、水上船艇等一样，都属于运动目标，运动汽车的检测 和识别属于运动目标的检测和识别，是计算机视觉研究的一个重要领域。计算机视觉是 研究用计算机来模拟生物视觉功能的科学与技术，众所周知，在人类感知外界获取的信 息中，有约 80%来自于视觉，如何理解和应用视觉图像信息，是计算机视觉的主要研究 内容。对于一个交通场景图像序列，我们可以很容易的说出有没有诸如交通堵塞、跨道 行驶、闯红灯等交通事件的发生，而对于计算机来说要做到这些则存在许多的困难，它 涉及到计算机视觉中的一些基本问题， 例如运动目标的检测、 目标识别、 立体视觉匹配、 图像理解等。基于视频的交通参数检测是计算机视觉的一个重要研究方向。在视频运动 第一章 绪论 3 检测中，目标的分割在实际应用时是非常必要的一个步骤，它可以把感兴趣的物体部分 给大致的提取出来。 目前，实际应用的车辆视频检测技术大致可以分为如下三类：帧间差分、背景差分 以及光流场理论。 1.2.1 基于帧间差分的检测与分割基于帧间差分的检测与分割 帧间差分法是最为常用的运动目标检测和分割的方法之一。 其思想是通过相邻帧间 差分，利用视频序列相邻帧间的强相关性进行变换检测，从而确定运动目标。由于相邻 两帧图像之间的时间间隔短，受自然环境变化影响小，图像差的结果是灰度不发生变化 的部分被减掉，如大部分背景，而灰度发生变化的部分则被保留。此方法的特点是速度 快，适用于实时性高的环境，不足是对于噪声、光照条件的变化比较敏感，对运动目标 的分割无保障。此外还存在如下的问题：如果在图像中除了包含我们感兴趣的运动目标 之外，还存在其它运动目标时，则这些运动目标作为背景不能消除。由于运动目标的阴 影随运动目标的运动而一起运动，故图像差分后运动目标产生的阴影不能消除。 1.2.2 基于背景差分的检测与分割基于背景差分的检测与分割5 背景差分的检测与分割是解决静止或缓变背景下运动目标检测和分割的方法， 它是 通过背景建模，利用相邻序列图像估计视频中不变的背景，进而提取运动目标。背景图 像有固定背景和变换背景两种情况。固定背景是获得一帧背景图像，并把它相对固定下 来。检测汽车时将这一帧背景与包含汽车的图像相减。由于背景和包含汽车的图像背景 并非在完全相同的条件下获得，这样，随着时间的变化，外界光照的强度和入射角度都 会不断的变化，就会使得图像相减不能完全消除背景，引起检测误差。针对这种情况， 就需要不断更新背景，使得背景图像和包含汽车的运动图像的背景“同步” 。这样两帧 之差可以比较理想的抵消背景。但是，要做到“同步”是很困难的10。 1.2.3 基于光流场理论的检测与分割基于光流场理论的检测与分割 光流是空间运动物体的被观测表面上像素点运动的瞬时速度场， 它携带了物体可见 表面的深度、 曲率和取向的重要信息以及有关景物中物体与传感器系统之间相对运动的 关系。 光流的研究是利用图像序列中的强度数据的时域变化和相关性来确定各自像素位 置的“运动” 。在计算机视觉中，光流已用来作为物体在空间的运动和结构的基本表示， 是空间各点运动时的三维速度投影到视网膜表面的二维速度。利用光流场的计算方法 67，可以方便的进行运动目标检测。在光流场中，不同的物体一般有不同的速度，大 面积运动会在图像上产生较为均匀的速度失量区域， 为不同的速度的运动物体的检测提 供了方便。基于光流场理论原理，光流可检测图像中的多个运动目标8。虽然光流场作 第一章 绪论 4 为运动汽车检测具有一定的优点， 但是光流计算结果只在目标边缘与背景有较明显的速 度差9，分割后的图像很难反映出检测汽车的关键或全部特征，为汽车识别带来很大的 困难；另外，众所周知的原因是光流场的运算耗时太多，应用中实时性难以满足要求。 所以，基于光流场的汽车检测方法应用并不多。 1.3 独立分量分析研究现状独立分量分析研究现状 ica 是近年来伴随着盲信号分离（blind source separation, 简称 bss）问题发展起 来的一种新的信号处理技术，该方法的基本思路是以非高斯信号为研究对象，在独立性 假设的前提下，对多路观测信号进行盲源分离。在满足一定的条件下，能够从多路观测 信号中，较好地分离出隐含的独立源信号。它的理论发展可追溯到二十世纪八十年代初 期。法国学者 j.herault 和 c.jutten 等人首先提出了 ica 分析的基本概念。现在常称他们 的方法为 h-j 算法，可以说是最经典的 ica 算法之一。h-j 算法利用一个带反馈的人工 神经网络，通过梯度下降法调整网络的权值，使得网络输出信号的残差最小，从而实现 源信号的盲分离18。此后，不少学者对 h-j 算法的收敛特性进行了系统的研究，在只存 在两个源信号和两个混合信号的最简单情况下的收敛性问题已经得到了完满的解决。 1989 年，在首届高阶谱分析国际学术研讨会上，j.f.cardoso 和 p.comon 发表了 ica 发 展史上的早期论文。j.f.cardoso 提出了基于高阶累积量的代数方法，该方法最终形成了 著名的 jade 算法。p.comon 后来比较系统地阐述了 ica 的问题，并提出了独立分量分 析的概念和著名的基于最小互信息的目标函数11。然而当时正是神经网络研究的高潮 期， ica 理论的研究只是在小范围内进行， 并未受到广泛关注。 直到九十年代中期， ica 理论和算法的研究才真正得到发展并受到国际信号处理界的广泛关注。其中 a.j.bell 和 t.j.sejnowski提出了基于信息最大化原理的informax方法， 从此ica得到了广泛的关注， 并掀起了 ica 的研究热潮。随后，a.amari 和他的合作者用自然梯度算法（natural gradient） 的概念对 infomax 方法进行了更精确的表述。 1997 年， aapo hyvrinen 和 erkki oja 将不动点算法引入求解基于高斯矩的目标函数，提出了著名的定点算法 （fixed-point） ，由于该算法在计算上的高效性，对扩大 ica 方法的应用范围做出了很 大的贡献16。1999 年，te-won lee 等又推广了 infomax 算法，提出了可以分离亚高斯、 超高斯混合信号的扩展 infomax 算法。2003 年，erik g. learned-miller 和 john w. fisher iii 为了避免估计源信号的概率密度函数 （pdf） ， 提出了基于无参数熵的间距估计的 ica 新解法21。 作为主分量分析（pca）的一种延伸，ica 着眼于数据间的高阶统计特性，使得变 换以后的各分量之间不仅互不相关，而且还尽可能地统计独立。因此，ica 能更加全面 揭示数据间的本质结构。正是因为这一点，ica 在信号处理领域受到了广泛的关注。近 些年，ica 已经广泛应用在特征提取、图像处理、生物医学信号处理、通信系统、金融、 语音信号处理、雷达和声纳、地球物理信号处理等领域，并取得了一些成绩。这些应用 第一章 绪论 5 充分展示了 ica 的特点和价值。目前，ica 在国外发展得比较快，代表性的研究机构及 专家如表 1-1 所示。而国内起步不久，近几年，国内也有越来越多的单位和人员投入到 了 ica 的理论和应用研究中，取得了一定的进展，还有待更多的人投入其中。 新千年伊始，国际上专门针对 ica 和 bss 召开的国际学术会议有：2000 年在芬兰 赫尔辛基、2001 在美国圣地亚哥、2003 年在日本奈良、2004 年在西班牙 granada、2005 年在奥地利 salzburg、2006 年在墨西哥 guadalajara、2007 年美国旧金山召开。近年来， 在神经网络、信号处理、机器学习、人工智能、数据挖掘、知识发现、模式识别等领域 的国际期刊和会议都可以看到 ica 的论文。 表 1-1 有代表性的研究机构和专家 研究机构 专家 美国 salk institute 加州大学圣地亚哥分校 芬兰赫尔辛基工业大学 日本 riken 脑科学研究所 日本 denki 大学 英国剑桥大学 英国牛津大学 法国 cnrs、enst terrence j.sejnowski,anthony j.bell te-won lee,michael lewicki erkki oja,juha karhunen,a hyvarinen shun-ichi amari,andrzej masaki kawakatsu simon godsill,dominic chan stephen j.roberts,rizwan a.choudrey jean-francois cardoso,pierre comon 1.4 本文工作及内容安排本文工作及内容安排 车辆视频检测是交通信息采集的基本技术之一， 只有从视频场景中准确地分割出车 辆，才能进行车辆的识别和跟踪，才能进行交通流各种参数的获取与分析。因此，车辆 检测是车辆计数、车辆速度、车流量等交通流参数获取的基础。本论文的主要研究内容 是对交通视频序列采用独立分量分析算法进行车辆检测， 并对分离出的图像序列进行图 像后期处理（包括阈值处理、数学形态学、均衡化操作等） ，给出交通流参数获取方法。 本文的内容安排如下： 第一章 绪论：主要介绍论文的研究背景及意义，车辆视频检测技术及独立分量分 析技术的研究现状。 第二章 独立分量分析基本理论：主要介绍了独立分量分析的定义，包括 ica 的各 种数学模型，另外对 ica 可解性及解得含混性做了一些简要的分析。 第三章 独立分量分析算法设计：对 ica 计算的主要步骤：信号预处理，优化目标 函数选取以及学习算法做了必要的分析，对两种典型的 ica 算法（fastica，间隔熵 估计）的计算步骤进行了分析。最后对各算法的相关特性进行了比较，给出本文所使用 的 ica 算法。 第四章 ica 在车辆视频检测技术中的应用：对实际拍摄的交通视频先进行必要的 第一章 绪论 6 预处理（裁减、生成视频图像序列、必要的图像去噪） ，然后通过独立分量分析进行图 像分离，给出分离后的车辆视频序列。最后对给出的车辆视频序列进行相关阈值、形态 学操作，初步给出车辆计数、车速测量的计算方法。 第五章 总结和展望：对 ica 在车辆视频检测技术应用中的优缺点进行了总结，并 对下一步工作进行了展望。 第二章 独立分量分析基本理论 7 第二章 独立分量分析基本理论 第二章 独立分量分析基本理论 2.1 引言引言 ica 是 20 世纪 90 年代发展起来的一种新的信号处理技术，它是从多维统计数据中 找出隐含因子或分量的方法。从线性变换和线性空间角度，源信号为相互独立的非高斯 信号，可以看作线性空间的基信号，而观测信号则为源信号的线性组合，ica 就是在源 信号和线性变换均不可知的情况下， 从观测的混合信号中估计出数据空间的基本结构或 者说源信号。目前 ica 的研究工作大致可分为两大类，一是 ica 的基本理论和算法的 研究， 基本理论的研究有基本线性 ica 模型的研究以及非线性 ica、信号有时间延时的 混合、卷积和的情况、带噪声的 ica、源的不稳定问题等的研究。算法的研究可分为基 于信息论准则的迭代估计方法和基于统计学的代数方法两大类，从原理上来说，它们都 是利用了源信号的独立性和非高斯性。各国学者提出了一系列估计算法。如 fastica 算法、 infomax 算法、 最大似然估计算法、 二阶累积量、 四阶累积量等高阶累积量方法。 另一类工作则集中在 ica 的实际应用方面， 已经广泛应用在特征提取、 生物医学信号处 理、通信系统、金融领域、图像处理、语音信号处理等领域，并取得了一些成绩。这些 应用充分展示了 ica 的特点和价值。 2.2 独立分量分析定义独立分量分析定义 因为 ica 是伴随着盲信号分离 (blind signal separation, bss)问题发展起来的， 所以 bss 问题的介绍， 有助于对 ica 的理解。 bss 问题是信号处理中一个传统而又极具挑战 性的课题。bss 是指仅从观测的混合信号（通常是多个传感器的输出）中恢复独立的源 信号，这里的“盲”是指：1、源信号是不可观测的；2、混合系统是事先未知的。在科 学研究和工程应用中， 很多观测信号都可以假设成是不可见的源信号的混合。 所谓的 “鸡 尾酒会”问题就是一个典型的例子，简单说就是当很多人（作为不同的声音源）同时在 一个房间里说话时，声音信号由一组麦克风记录下来，这样每个麦克风记录的信号是所 有人声音的一个混合，也就是通常所说的观测信号。问题是：如何只从这组观测信号中 提取每个说话者的声音信号，即源信号。如果混合系统是已知的，则以上问题就退化成 简单的求混合矩阵的逆矩阵。但是在更多的情况下，人们无法获取有关混合系统的先验 知识， 这就要求人们从观测信号来推断这个混合矩阵， 实现盲源分离。 下面简要介绍 ica 的几种数学模型： 第二章 独立分量分析基本理论 8 2.2.1 ica 基本模型基本模型 ica的基本模型可以用图2-1来表示。 设 t n tstststs)(,),(),()( 21 =是在t时刻的n 维零均值的源信号向量，其分量是相互独立的，则)(ts的多元概率密度函数可以表示为 1 ( )( ) m ii i p sp s = =。设 t m txtxtxtx)(,),(),()( 21 =是m维观测信号向量，其每个观测信 号分量都是n个独立的源信号的线性组合，即 ( )( )x tas t= （2-1） 有时我们也将矩阵 a 用其列向量来表示，则上式亦可写为： 1 ( )( ) m j j x ta s t = = （2-2） 这里 a 是一个未知的nm 混合矩阵，此时)(tx的各分量之间不再相互独立。ica 的目标就是求得一个分离矩阵w，并通过w从观测信号)(tx中恢复源信号)(ts。设输 出的分离信号为 t n tytytyty)(,),(),()( 21 =，则分离过程为： )()()(twastwxty= （2-3） 其中输出信号)(ty是源信号)(ts的一个估计，且)(ty的各分量尽可能的相互独立。 通常只考虑源信号的个数和观测信号的个数相同的情况，即 m=n。对于 mn 的情况， 可以采用主分量分析（pca）方法去掉冗余分量，使得 m=n。本文除未加说明外，只 考虑 m=n 的情况。 aw s(t)x(t)y(t) 图 2-1 ica 基本模型 fig2-1 basic model of ica 第二章 独立分量分析基本理论 9 2.2.2 ica 加噪模型加噪模型 现实生活中，观察信号中往往包含有噪声信号，因此，在解决问题的时候应该把噪 声考虑进去，以求使得问题的结果更加精确。噪声 ica 的定义如下： )()()(tntastx+= （2-4） 这 里 ，)(ts、)(tx和 a 同 基 本 ica 中 定 义 的)(ts、)(tx和 a ， 其 中 t m tntntntn)(,),(),()( 21 =是由m个白色、高斯、统计独立噪声信号)(tni构成的列 向量。 这里要求如下假设成立： 这个噪声是加性的，并且独立于独立分量。 噪声是高斯的。 2.2.3 ica 的卷积模型的卷积模型 更为一般的情况是考虑时间延迟的线性混合， 又称卷积混合。 设n个离散时间( ) i s t 的序列构成一个n维的列向量序列 t n tstststs)(,),(),()( 21 =，m维观察向量序列为 t m txtxtxtx)(,),(),()( 21 =，)(tx和)(ts满足如下关系式： + = = k ktskatx)()()( （2-5） 其中)(ka是nm 维的混合矩阵，又称冲激响应。则，盲反卷积的过程为： + = = k ktxkwty)()()( （2-6） 其中)(kw为盲反卷积系数矩阵。盲反卷积又称为盲均衡，若 m=1 则为单通道盲均 衡问题，若1m ，则为多通道盲均衡问题。 2.2.4 ica 非线性模型非线性模型 在某些情况下，基本线性的ica太简单，不能对观察向量)(tx予以充分的描述。 非线性ica混合模型定义如下： ( )( ( )x tf s t= （2-7） 这里，)(tx、)(ts同基本ica中定义的)(tx、)(ts，其中)(f是非线性混合函数。 2.3 ica 可解性分析及解的含混性可解性分析及解的含混性 2.3.1 ica 可解性分析可解性分析 为了简单起见，只考虑无噪线性ica模型。通过式（2-2）可知，由于a和s是未 第二章 独立分量分析基本理论 10 知的，方程)()()(twastwxty=是一个欠定方程，方程个数少于未知数个数，是没有 办法求解的。所以通常附加一些约束条件来求解方程： （1）源信号)(ts均值为0，且源信号之间满足统计独立性。 混合矩阵a是一个确定但未知的nn 方阵，即信号个数=传感器个数，且a的逆 矩阵wa= 1 存在。 （2）各)(tsi最多只允许有一个高斯信号。 各源信号满足统计独立性是解决ica问题的关键所在， 通常源信号都是从不同的物 理系统产生的，因此该假设就具有一定的现实意义。如果源信号都是高斯分布的，则混 合信号也是高斯分布的，可以证明这种情况是不可分离的，但如果只有一个高斯信号的 话，ica问题也是可解的16。在实际情况中，上述三个假设通常都是可以满足的。 当不完全满足附加约束条件时需对混合信号)(tx进行预处理中心化、白化。 中 心化就是去除其均值使其满足0均值的要求；白化，目的是寻求一种线性变换使得变换 后的数据去除二阶相关性，同时略去贡献较小的独立成份，对方程进行降维，降低下一 步计算的复杂性，常有的方法有主成分分析（pca）和奇异值分解（svd）13。 2.3.2 解的含混性解的含混性 事实上，ica的解具有不唯一性，即ica存在一个固有解的不确定性问题，又称为 解的含混性， 即分离后信号的排列顺序和波形的复振幅 （幅值和初始相位） 是不确定的。 下面从数学角度加以说明这种不确定性。 （1）顺序的不确定性；由于a和s均为未知量，我们就可以随意更改式（2-2）中 变量顺序，即任意一个独立成份均可以作为第一个变量。从形式上说，假定p为一置 换矩阵， 1 p为其逆矩阵。则式（2-1）可以表示为)()( 1 tpsaptx =，这里的)(tps可以 作为源信号，只不过顺序更改了，而 1 ap便可以作为新的混合矩阵。 （2）波形复振幅的不确定性；因为a和s均未知，a中任意变量的增加值均可以 被s中相对应变量的增加值加以抵消。 从物理角度来看，由于源信号和混合矩阵都是未知的，顺序不确定性相当于同时交 换源信号和混合矩阵与之对应的列的位置后，所得到的观测信号不变；复振幅不确定性 相当于源信号和与之对应的混合矩阵的列之间互换一个比例因子后， 所得到的观测信号 不变。由于有用的信息主要包含在信号的波形中，所以这两种不确定性对盲源分离技术 的应用影响不大。 一种减小ica幅度不确定性影响的方法是假定源信号)(ts的各个分量具有单位方 差24，即： 1)()(= t jj tstse （2-8） 则当观测信号)(tx确定后，混合矩阵a的系数的大小固定（列的排列次序仍未确 第二章 独立分量分析基本理论 11 定） 。同样，假设输出信号)(ty的各个分量的方差也是1，即： 1)()(= t jj tytye （2-9） 则分离矩阵w的系数的大小也已固定。在后面的讨论中，如不特别说明，都假定源 信号具有单位方差，并对输出信号进行归一化处理，使其方差为1。为了书写方便，在 后面的章节中省略时间变量t。 为了更好地理解ica ，下面做了一个仿真实验：选取标准131131的lenna和 baboon灰度图像作为源信号，如图2-2所示。然后对两个源图像逐行扫描成一维信号， 组成源信号矩阵。 源信号矩阵乘以一个2 2维的混合矩阵， 得到混合信号作为观测信号， 如图2-3所示，混合矩阵选取 0.64 0.36 0.80.2 a = 。再对混合后的信号采用ica算法进行 分离，得到分离后的图像信号，如图2-4所示。 图 2-2 源图像 fig2-2 source images 图 2-3 混合后图像 fig2-3 mixed images 第二章 独立分量分析基本理论 12 图 2-4 ica 分离后的图像 fig2-4 images separated by ica 从该实验我们可以看出：分离出来的图像和源图像比较，虽然图像的顺序、幅值发 生了变化，但很好地接近了源图像，由此可以说明，ica方法是一种非常有效的图像信 号处理方法。 2.4 本章小结本章小结 ica理论是20世纪90年代发展起来的一项新的多维信号分解技术。ica处理的对 象是非高斯信号，根据高阶统计分析知识及信息熵理论，以隐含变量间相互独立为提取 准则，进行独立分量的提取，发现数据中隐含的信息成分，其分解结果更具物理意义。 本章主要介绍了独立分量分析的数学定义，并对其相关的特性进行了分析，由此可知 ica在图像分离领域有着广泛的应用前景。 第三章 独立分量分析算法设计 13 第三章 独立分量分析算法设计 第三章 独立分量分析算法设计 3.1 引言引言 ica方法可归结为如下式子：ica方法目标函数优化算法。由ica的性质可知 ica以统计独立为基本原则，统计独立的衡量为ica算法的关键，因此需选择一个恰当 的目标函数。目标函数给定后，可以采用经典的优化算法最优化目标函数，如梯度法、 拟牛顿法等。由此可知，ica方法的特性取决于目标函数和优化算法两项：ica方法的 统计特性（如一致性、鲁棒性）取决于目标函数的选取；算法特性（收敛速度、内存要 求）取决于优化算法的选择。对于同一个目标函数可以有不同的优化算法，同一个优化 算法可应用于不同的目标函数。衡量一个优化算法的主要性能指标有收敛速度，占用内 存情况，稳定性等。算法的研究可分为基于信息论准则的迭代估计方法和基于统计学的 代数方法两大类，从原理上来说，它们都是利用了源信号的独立性和非高斯性，一般的 求解过程通常可以分为三步来实现。第一步，对信号进行预处理（包括中心化、白化、 降维） ；第二步，确立一个优化目标函数（峭度、负熵、互信息、最大似然估计等） ，通 常是以分离矩阵w为因变量的目标函数()k w，它反映了输出随机变量各分量间的统计 独立性。第三步，选择一个学习算法来优化目标函数，如梯度算法、定点算法、间隔熵 估计等24。 3.2 信号预处理信号预处理 3.2.1 信号中心化（信号中心化（centering） 信号的中心化即通过对信号减去其均值，使信号的均值满足为0的条件，见第二章 关于ica可解性的分析部分。设信号为x，其均值为 me x=，则中心化的过程为 xxm=，这时的信号x的均值为 0e xme xm=。从物理角度讲，去均 值相同于去除信号波形的直流部分。当然，并不是所有的ica 算法都要求对数据进行 中心化处理。 3.2.2 信号白化（信号白化（whitening） 信号白化的目的就是去除各信号分量之间的二阶相关性，通常在去中心化后进行。 研究表明，对原始信号进行白化处理可以简化ica求解的难度，比如加快收敛速度，减 少稳态误差等。 大部分ica算法都是先白化再分离， 一些算法虽然不一定要白化处理就 可以直接求解，但是采用白化处理后，可以使得分离更加容易，即使在个别信号很弱或 第三章 独立分量分析算法设计 14 混合矩阵近似奇异时也可以求解。 白化处理通常是寻找一个线形白化矩阵v，使得变换后的输出信号zvx=的各个 分量互不相关（即z的行向量相互正交） ，则z的协方差矩阵为单位矩阵： t z ce zzi= （3-1） 将式（2-2）代入zvx=，并令 vaa=得： zvasas= （3-2） 将式（3-2）代入式（3-1）并考虑式（2.8）得： t tt z tt t ce zze ass a ae ssaaai = = （3-3） 所以 a是一个正交矩阵（酉矩阵） ，如果将z看成新的观测信号向量，那么白化处 理后使得原来的混合矩阵a简化为一个新的正交矩阵 a。为了求混合矩阵a需要确定 2 m 个参数，白化处理后只需求正交矩阵 a，而正交矩阵只有 (1)/ 2m m 个自由度。因 此 ，可以说白化处理几乎解决了ica问题的一半。由于白化处理的算法非常简单，常 用来作为一种预处理手段来降低ica问题的复杂度。 常用的白化处理方法主要有主分量 分析（pca）和奇异值分解（svd） 。下面主要介绍主分量分析方法： 对已经中心化的信号x的协方差矩阵进行特征值分解： tt x ce xxede= （3-4） 其中e是 x c的特征向量组成的正交矩阵， tt e eeei= ，d是由相应的特征值组 成的对角阵， 12 (,) m ddiag d dd=k，则白化后矩阵v为： 1/2t vede = （3-5） 由此可得白化后的信号： 1/2t zvxede x =，将此式并（3-4）代入（3-1）进行 验证，得： 1/21/2 1/21/2 () tt z ttttt ttt ce zze vx vx ve xxvede e xxede ede ede edei = = = （3-6） 经过白化处理后，原有色分布的信号变为正态分布的白色信号，变换后信号中的各 分量相互独立，各不相关。 3.2.3 降维（降维（scaling） 有些情况下，降维也是一种行之有效的处理方法，当观测信号数多于源信号数时， 第三章 独立分量分析算法设计 15 可以采用主分量分析法（pca）略去贡献值较小的分量，并且在最小二乘意义上保留了 原数据最大程度的信息量。 对数据进行降维有以下好处： （1）在盲源分离问题中，当观察信号的个数