（模式识别与智能系统专业论文）城市交通流短时预测方法研究及实现.pdf

摘要 摘要 近年来，短时交通流预测成为智能交通( i t s ) 的热点研究领域。准确实 时的短时交通流预测是实现交通控制与管理、交通诱导的前提，是使智能交通系 统从“被动式反应”转变到“主动式动作”的关键。 针对单点交通流预测、无检测器路口交通流预测及路网交通流预测现有方 法的不足，论文了提出了基于时段划分的短时交通流预测方法，论文的主要工作 包括： l 、交通流数据的预处理 本文采用了基于相关分析的时间序列法对交通流丢失数据及错误数据 进行估计。 2 、交通时段划分 论文中充分考虑了交通流本身固有的特性，提出了一种基于拐点的有 序样本聚类法对交通时段进行自动划分。 3 、基于时段的单点交通流组合预测算法 首先研究了单点交通流的多分辨率小波网络预测算法，该方法能兼顾 交通流平稳状态和非线性状态的预测。结合上述算法，提出了基于时 段的单点交通流组合预测算法。 4 、基于时段的无检测器路口交通流预测算法 采用了模糊推理方法进行无检测器路口交通流预测。在此基础上，论 文提出了一种基于时段的模糊推理法，并验证了该方法有着更好的预 测结果。 5 、基于时段的路网交通流预测算法 综合单点交通流组合预测方法和模糊推理预测方法，论文探讨了基于 时段的路网交通流预测算法，重点研究了子网的划分和关键路口的选 取问题。 关键词： 短时交通流，预测， 小波神经网络，模糊推理，聚类分析， 时段划分，相关性分析 本文受安徽省十一五科技攻关重点项目城市交通一体化集成管控平台支 持。项目编号：0 7 0 1 0 2 0 2 0 4 9 。 a b s t r a c t i nr e c e n ty e a r s h o r t - t e r mt r a 伍cf l o wf o r e c a s t i n gh a sb e c o m e sai n t e r e s t i n g r e s e a r c hf i e l d ，t h ea c c u r a t ea n dr e a lt i m ep r e d i c t i o no ft l r m cf l o wi st h eb a s i so f t r a m cc o n t r o la n dt r a f f i cr o u t i n gg i i i d e s h o a - t e r mt r a f f i ef o r e c a s t i n gi st h ek e yf o r t r a n s f o r m i n gr e a c t i o nc o n t r o lm o d e t 0a c t i v eo n e i no r d e rt oo v e r c o m et h ed e f e c t so ft h ep r e s e n tt r a f f i cf l o wf o r e c a s t i n gm e t h o d s f o ro n ei n t e r s e c t i o ni n c l u d en o n - d e t e c t o ri n t e r s e c t i o na n dt r a f f i cn e t w o r k , at i m e i n t e r v a lb a s e d 仃a 伍cf l o wf o r e c a s t i n ga p p r o a c hi sp u tf o r w a r di nt h i sd i s s e r t a t i o n t h e m a i nw o r ko f t l l i sd i s s e r t a t i o ni n c l u d e s ： 1 ) t r a f f i cd a t ap r e p a r a t i o n at i m es e r i e sa n dc o e l a t i o na n a l y s i sb a s e dm e t h o di su s e dt 0e s t i m a t et h el o s t a n dw r o n gt r a 伍cd a t a 2 ) t r a f f i ci n t e r v a l sp r o g r a m m i n g t h et r a f f i cf l o wi n h e r e n tc h a r a c t e r i s t i ci st a k e ni n t oa c c o u n t , ao r d e r e dp a t t e r n c l u s t e r i n gm e t h o db a s e do ni n f l e x i o np o i n ti sp r o p o s e dt op a r t i t i o nt i m ei n t e r v a l a u t o m a t i c a l l y 3 ) s i n g l ep o i n tt r a m cf l o wf o r e c a s t i n ga l g o r i t h mb a s e do nt i m ei n t e r v a l i nf i r s t , am u l t i r e s o l u t i o na n a l y s i so fw a v e l e tn e t w o r k ( m v 渔- w n n ) i sb r o u g h t u pt op r e d i c ts h o r t - t e r mt r a 伍c f l o wi ns i n g l ep o i n t t h i sm e t h o di sc a p a b l eo f p r o c e s s i n gn o to n l ys t a t i o n a r yt r a f f i cs t a t eb m a l s on o n - l i n e a rs t a t e i nt h eb a s i so f t h i s a l g o d t h m , at r a f f i ct i m ei n t e r v a lb a s e da p p r o a c hi sp r o p o s e dt op r e d i c tt r a f f i cf l o wo f s i n g l ep o i n t 4 ) n o n - d e t e c t o ri n t e r s e c t i o nt r 0 2 匝cf l o wf o r e c a s t i n ga l g o r i t h mb a s e do nt i m ei n t e r v a l af u z z yi n f e r e n c ea l g o r i t h mi s a p p l i e dt op r e d i c tt r a 五cf l o wf o rn o n - d e t e c t o r i n t e r s e c t i o n , a n dt h e nt h ef u z z yi n f e r e n c em e t h o db a s e do nt i m ei n t e r v a li sp r e s e n t e d t h ee f f i c i e n c yo f t h i sm e t h o di sv a l i d a t e db e t t e rb ye x p e r i m e n t a lr e s u l t s 5 ) n e t w o r kt r a f f i cf l o wf o r e c a s t i n gb a s e do nt i m ei n t e r v m t h et r a 伍ef l o wf o r e c a s t i n gm e t h o df o rs i n g l ep o i n ta n df u z z yi n f e r e n c ea r e i n t e g r a t e d , a n da l la p p r o a c hb a s e do nt i m ei n t e r v a li ss t u d i e dt op r e d i c tn e t w o r kt r a f 矗c f l o w w ef o c u so nt h es u b n e td i v i s i o na n dk e yi n t e r s e c t i o ns e l e c t i o n k e yw o r d s ： s h o r t - t e r m 扛a 伍cf l o w , f o r e c a s t i n g , w a v e l e tn e t w o r k , c l u s t e ra n a l y s i s ，t r a f f i ci n t e r v a l sp r o g r a m ,c o r r e l a t i o na n a l y s i s 中国科学技术大学学位论文相关声明 本人声明所呈交的学位论文，是本人在导师指导下进行研究 工作所取得的成果。除已特别加以标注和致谢的地方外，论文中 不包含任何他人已经发表或撰写过的研究成果。与我一同工作的 同志对本研究所做的贡献均已在论文中作了明确的说明。 本人授权中国科学技术大学拥有学位论文的部分使用权， 即：学校有权按有关规定向国家有关部门或机构送交论文的复印 件和电子版，允许论文被查阅或借阅，可以将学位论文编入有关 数据库进行检索，可以采用影印、缩印或扫描等复制手段保存、 汇编学位论文。 保密的学位论文在解密后也遵守此规定。 作者签名盘复 年么月v 日 第一章绪论 1 1 研究背景及意义 第一章绪论 在交通系统中对交通流的预测由来己久。但是，针对不同的问题，预测的目 的则不同，预测时间的跨度亦存在较大差异。对于交通规划，规划周期大都是以 年为单位的，对应的交通流预测时间就长，一般对长期预测的精度要求也并不严 格。对以交通管理为目的的中期预测，一般是针对一段时间内以月、日、小时为 单位对交通流量进行预测，由于预测周期内交通流的规律性较强，所以尽管中期 预测比长期预测要求精度高，但达到所要求的精度也并不难。随着智能交通系统 0 v s i n t e l l i g e n tt r a n s p o r ts y s t e m ) 的蓬勃发展，实时交通控制与交通诱导成为i t s 的热点研究领域，以实时控制与诱导为目的的交通流预测，预测周期必须与控制、 诱导的周期相一致，这样预测时间跨度较前两种大大缩小，一般不超过1 5 分钟， 甚至5 分钟或更短。随着预测时间间隔的缩短，交通流量的规律性愈发不明显， 各种干扰所造成的影响越来越大，短时交通流变化显示出的不确定性越来越强， 因此短时交通流预测亦成为i t s 研究领域的一个热点和难点。 图1 1 是从控制角度看短时交通流预测，它表示了交通流状态、预测状态与 控制变量之间的关系。 棚 l 聱l u 目凯。 m k 轴f k - 1 k 图1 1 交通沉预测与控制的关系示意图 图中，括号中的符号k 表示时刻，t “t ，k l i 组成了一个时刻排列，当 前时刻是k ，前一采样时刻是k - i ，依次类推，未来下一个采样时刻为“i 。 娴诹i ) ，x ( k 2 ) 分别表示各个采样时刻得到的系统状态变量值，例如在交通流预 测中，可选择交通流量、密度、速度、占有率等作为状态变量。0 0 ，u 皿1 ) 是各个 时刻的控制变量的值，在交通控制问题中交通信号的配时参数以及在交通诱导中 的诱导信号就是控制变量。孤+ d 表示对下一个时刻系统状态变量的估计值。作 为一个实际的交通控制或诱导系统，当前时刻k 能够得到的信息只能是图中表示 的输入状态估计器的输入变量的时间序列x 0 0 x 0 【1 x x ( 1 c 2 ) 和n ( k ) , n t k 1 ) ，下一时刻 系统的状态变量的估计值融+ o 是需要预测的。有了融+ 1 ) ，控制器才能按照一定 的控制算法计算出下一个时刻的控制变量的值咄+ 1 ) 。因此，无论如何必须有一 个状态估计器来不断完成对未来时刻状态的预测，状态估计器就是实现交通流短 第一章绪论 时预测模型算法的模块。 可见，短时交通流预测是智能交通控制与诱导系统不可回避的问题，同时， 准确实时的短时交通流预测亦是使智能交通系统从“被动式反应”到“主动式动 作”的关键。 1 2 交通流预测国内外研究现状 1 2 1 国外研究概况 国外学者对短时交通流预测的研究开始较早，并且取得了一定的应用效果。 概括起来他们对短时交通流预测的建模方法主要包括历史均值法【l 】、时间序列法 圆、k a l m a n 滤波法 3 1 、非参数回归法 4 1 、神经网络法f 5 l 等。 历史平均法算法简单，参数可用最小二乘法( l s ) 估计。s t e p h a n e d e s 于1 9 8 1 年将历史平均模型应用于城市交通控制系统( u t c g - u r b a n 们伍cc o n t r o ls y s t e m ) 中。另外在欧洲，此模型被广泛应用到各种出行者信息系统和动态路径诱导系统 中，如1 9 8 7 年j e f f r e y 提出的a u t o g u i d 系统；1 9 9 3 年k a y s i 提出的l i s b 系 统。但该算法不能反映短时交通流基本的不确定性与非线性。 1 9 7 6 年，b o x 和j e n k i n s 又刨立了自回归滑动平均( a r t m a ) 模型，这是一种 应用较为广泛的时间序列模型，a h m e d 和c o o k 于1 9 7 9 年首次在交通流预测领 域提出了时间序列模型 6 1 。a r i m a 模型在1 9 8 4 年就被o k u t a n i 和s t e p h a n e d e s 应用到u t c s 中；1 9 9 3 年又被k i m 和h o b e i k a 应用到高速公路道路交通流量预 测中。在大量不间断的数据基础上，此模型拥有较高的预测精度，但需要复杂的 参数估计；另外，a r i m a 模型适用于稳定的交通流，交通状况变化急剧时，由 于计算量过大，该模型在预测延迟方面暴露出明显的不足。 卡尔曼滤波( k f ) 是k a l m a n 于1 9 6 0 年提出的，是采用由状态方程和观测方程 组成的线性随机系统的状态空间模型来描述滤波器，并利用状态方程的递推性， 按线性无偏最小均方误差估计准则，采用一套递推算法对滤波器的状态变量作最 佳估计，从而求得滤掉躁声的有用信号的最佳估计。i w a o o k u t a n 利用卡尔 曼滤波理论建立了交通流量预测模型，其预测结果优于u r c s - 2 方法的预测结 果。v 砌o t i a s p c 提出了基于卡尔曼滤波理论的交通流量预测模型，计算结 果也较为令人满意。卡尔曼滤波具有预测因子选择灵活、精度较好的优点，但由 于模型的基础是线性估计模型，所以当预测间隔小于5 m i n 时，交通流量变化的 随机性和非线性性再强一些时，模型的性能会变坏。此外，每次计算时都要调整 权值，需要做大量的矩阵运算和向量运算，导致算法也较为复杂。 第一章绪论 非参数回归是近几年兴起的一种适合不确定的非线性的动态系统的非参数 建模方法。它不需要先验知识，只需要足够的历史数据，寻找历史数据中与当前 点相似的“近邻点”，并用那些“近邻点”预测下一时刻的值。因此非参数回归 作为一种无参数、可移植、高预测精度的算法，它的误差比较小，且误差分布情 况良好。尤其通过对搜索算法和参数调整规则的改进，使其可以真正达到实时交 通流预测的需求并且这种方法便于操作实施，能够应用于复杂的环境。1 9 9 1 年，d a v i s 和n i h a n 7 l 将其应用于交通流预测中，1 9 9 5 年s m i t h t s k 将其用于单点 短时交通流预测，但是因为其搜索“近邻点”的速度太慢和试凑的参数调整方法 而没有得到真正应用。 人工神经网络诞生于2 0 世纪4 0 年代。1 9 9 2 年，c h i n 将之用于长期交通流 预测；1 9 9 3 年和1 9 9 4 年d o u g h e r t y 和c l a r k 分别将之用于短时交通流预测 9 1 。神 经网络在交通流预测中的应用，在一定程度上摆脱了建立精确数学模型的困扰， 为研究工作开辟了新的思路，它能保证一定的预测精度，但是它的网络训练时间 太长，参数调整过于繁琐，尤其在输入输出单元较多，隐含层单元较多时，计算 复杂，难于在线实现。 1 2 2 国内研究概况 相对于国外的研究，国内学者对短时交通流预测的研究还处于理论探索阶 段，离实用还有一定的距离。 关于短时交通流可预测性方面，天津大学的马寿峰等人f l o 】作了比较深入的 研究，他们从分形理论出发，通过判断交通流系统是否存在分形的自相似性，来 确定交通流的可预测性，并据此得出采样间隔在5 分钟到1 5 分钟之间的短期交 通流是可预测的结论，并验证该方法的有效性，同时作者也指出，分形是短时交 通流可预测的充分条件，不存在分形并不能直接否定可预测性的存在。马寿峰等 人的研究为短时交通流的预测提供了理论上的依据。 吉林工业大学的杨兆升，朱中【1 1 】建立了基于卡尔曼滤波的交通流量预测模 型，并且假设研究路段未来时段的交通流量是上游和下油路段上的前几个时段流 量的线性函数，并利用两周中同周次的两天交通流量的差值和比值两种方法进行 交通流量预测。通过对实测数据进行预测的结果分析，证明了基于卡尔曼滤波理 论的交通流量预测模型具有较好的预测精度。研究中采用的卡尔曼预测的速度较 慢，计算过程相当复杂。 中国科学院研究生院的宫晓燕 1 2 1 等人建立了基于非参数回归的交通流量预 测模型，并对以往的非参数回归算法进行了三点改进：一是基于相关分析和自相 关分析的状态向量的选取；二是基于密集度的变k 近邻个数的确定；三是基于 第一章绪论 动态聚类和散列函数的历史数据组织。通过对实测数据进行预测的结果表明，改 进后的非参数回归法在预测精度和预测时间上都能达到一定的要求。 上海交通大学的王宏杰【l 习等人提出了基于改进的b p 神经网络理论模型的路 面交通流动态时序的预测算法，并在b p 算法的自适应学习率，在动量法优化网 络收敛性等方面，进行了深入的研究，并改进了基本b p 算法中的收敛速度慢和 易于陷入局部最小点等问题。 天津大学的贺国光【1 4 1 等人，讨论了小波分析在交通流短时预测中应用的可 行性，提出了一种基于多分辨率小波分解与重构的短时交通流预测方法。他们使 用小波分解的方法将信号先分解为若干个层次，然后用时间序列a r m a 模型分 别对各个层次进行预测，最后使用小波重构的方法将预测信号进行重构得到合并 的预测值。他们的方法比较新颖，实验结果也表明了该方法提高了预测精度。 1 3 主要研究内容 1 3 1 现有研究的不足 从目前的研究来看，没有任何一种交通流预测方法能够表现出对所有方法的 绝对优超性能，从而完全代替其他方法。每一种方法都有一定的使用范围和应用 条件，针对某类特定情形下的交通流过程，某种预测方法能获得较好的预测结果， 但在其他条件下，其预测效果则往往可能差强人意。交通流过程本身所具有的复 杂性和不确定性，决定了准确的交通流预测不是单一模型和方法所能够解决和完 成的。 基于以上分析，本文提出了一种基于时段划分的短时交通流预测方法，该方 法充分考虑了交通流本身固有的特性，其主要思想是根据交通流数据将每天划分 为多个交通时段，每个时段代表了一种交通流特性，然后以时段为单元，对每个 时段内的交通流进行预测。在此基础上，我们给出了基于时段的单点交通流预测， 基于时段的无检测器路口的交通流预测以及基于时段的路网交通流预测方法及 实现过程，对实际路口的预测结果充分表明本文所提算法具有较好的实时性、准 确性和实用性。 1 3 2 主要研究内容 本课题主要研究五个方面内容：1 ) 交通流数据预处理方法；2 ) 交通时段划 分算法；3 ) 基于时段的单点交通流预测算法；4 ) 基于时段的无检测器路口交通 第一章绪论 流预测算法；5 ) 基于时段的路网交通流预测算法。 1 ) 交通流数据预处理算法 在海量的交通流数据中，含有许多错误的或者不完整的数据，如果把这些数 据用于交通流预测，那么会带来预测精度的严重下降，因此本文首先要对交通流 数据进行预处理，论文采用的是基于相关分析的时间序列法。 2 ) 交通时段划分算法 为了体现交通流过程的时交特性，以便根据不同的交通流特性使用不同的方 法进行预测，我们需要根据车流量信息将一天划分为若干个时段，每一时段代表 了一种交通流特性。论文使用基于拐点的有序样本聚类法进行交通时段划分。 3 ) 基于时段的单点交通流预测算法 一天的交通流状态有相对平稳的时间段，也有随机性很强的时间段，论文首 先设计了一种多分辨率小波神经网络预测方法，该方法能很好的预测交通流相对 平稳的状况，同时也能较好的预测交通流随机性较强的状况。在此基础上，论文 提出了一种基于时段的单点交通流组合预测算法，该组合预测方法综合考虑了交 通流预测的准确度和时间复杂度。 4 ) 基于时段的无检测器路口交通流预测算法 论文首先指出了目前无检测器路口预测普遍基于数学模型的方法存在的不 足，研究了一种基于模糊推理的无检测器路口交通流预测方法。在此基础上，论 文接着提出了基于时段的模糊推理法并验证了该方法有着更好的预测结果。 5 ) 基于时段的路网交通流预测算法。 综合前面的方法，论文提出了基于时段的路网交通流预测框架。其主要思想 是将路网中的路口划分为关键路口与非关键路口，对关键路口采用单点交通流预 测方法进行预测，对非关键路口采用模糊推理法预测。这里主要研究了城市路网 的划分及关键路口的选择问题。 1 4 本章小结 本章首先叙述了论文的研究背景及现实意义，然后全面、系统的分析了国内 外对短时交通流研究的相关成果和发展方向，从而明确了本研究的主要目标和内 容，为论文进一步的展开提供了理论框架支持。 第二章相关理论基础 第二章相关理论基础 论文针对单点交叉口的交通流预测提出了小波网络的预测方法，针对无检测 器交叉口的预测提出了基于模糊推理的预测方法。有关小波分析、神经网络理论 及模糊理论相关基础知识我们在本章先作介绍。 2 1 小波分析理论基础【1 5 i 删，7 】 2 1 1 小波变换 小波变换是当前应用数学中一个迅速发展的新领域，与传统的f o u r i e r 变换 以及窗口f o u r i e r 变换相比较，小波变换是空间和频率的局部变换，具有变窗口、 平移和正交性等特点。因而小波变换能够有效的从信号中提取信息，并通过伸缩 和平移等运算功能对函数或信号进行多尺度细化分析。它克服了传统的f o u r i e r 变换平滑了非平稳过程的突变成分的缺点，也克服了窗口f o u r i e r 变换的时频窗 口大小固定不变的缺点。 2 1 1 1 连续小波变换 小波函数的确切定义为：设叩为一平方可积函数，即i l ，e 庐( 两，若其傅立 叶变换掣( m ) 满足条件： 白；臣。 ( 2 - t ) 则称i i ，( ；) 为一个基本小波或小波母函数，我们称式( 2 1 ) 为小波函数的可容许 条件。 令： 5 者甲晕 小聃o ( 2 - 2 ) 则函数。称为由母函数甲“) 生成的依赖于参数讪的连续小波。其中，a 称为伸缩参数，b 称为平移参数。 将函数，e p ( 册在小波基下展开，称这种展开为函数f 【x ) 连续小波变换( 简称 c w n ，其表达式为： 吁“6 ) = ( ，( 对，- ( 动5 ，( 对杀，等冲( 2 - 3 ) 改变a 的值，对函数坝x ) 具有伸展( 小1 ) 或收缩( i a i t l ) 的作用，改变b 的值， 则会影响函数f 【x ) 围绕b 点的分析结果。小波j 随伸缩参数a 、平移参数b 变 化的情形如图2 1 所示，图中的小波函数为叩。：旷，。上图各波形对应的参数， 第二章相关理论基础 从左到右依次为：- ；- 0 5 ，b ：1 儡s = 1 b 。ma = 2 , b = 1 5 1 量j|f !薯 、 、i l 0 - 1 0- 505l o1 5 2 0 图2 1 小波6 的波形位置随参数_ ，b 变化的情形 从图中可以看出，参数b 的作用起着平移函数甲的作用，而参数8 的作用 既改变窗口的大小和形状，也改变小波频谱瓦j 的谱图。随着参数h 的减少， 。的支撑区也随之变窄，而砩 的频谱则随之向高频端展宽；反之，随着1 4 | 的增大，j ( 功的支撑区也随之变宽，而事。( 川的频谱则随之向低频端展宽。这 就实现了窗口大小的自适应变化，当信号频率高时，时窗宽度变窄，而频窗高度 增大，以利于检测快变信号，提高时域分辨率；反之亦然。 对于所有的，e 庐( 固，函数f ) 的连续小波逆变换由下式给出： 州：去广广d 。2 嘲4 t b ) ( x ) d o a b ( 2 4 ) - t “ 2 1 12 离散小波变换 伸缩参数a 和平移参数b 为连续取值的小波变换是连续小波变换，对这两个 参数进行离散化处理后的小波变换则是离散小波变换。一般情况下，取- = 矿， m 是整数，a o 是大于1 的固定伸缩步长。6 = 咖矿，b o o ，n 是整数。 令： 。赤甲睁2 匈 啊枷( 2 - 5 ) 则函数。称为由母函数l i - 生成的依赖参数m , n 的离散小波。 这种离散化的基本思想体现了小波变换作为“数学显微镜”的主要功能。选 择恰当的方法倍数a o m ，在一个特定的位置研究一个函数或信号过程，然后在平 移到另一个位置继续研究。 设函数，( 柚。工2 ( 四，则f 取) 的离散小波变换( 简称d w d 定义为： 吁( 帕：广( x p l m m x ) 出：匈专c f ( x ) v ( a o - m x - n b o ) d x ( 2 6 ) j-帕-。田 设函数，( 对e 上2 固，则f ( x ) 的离散小波逆换定义为： 叭 。 蚰 州 哪 第二章相关理论基础 m = 川，1 帕q _ 一= w f ( m , n ) v ( a o - m x n b o ) ( 2 。7 ) l h = - - l q 2 1 2 多分辨率分析与正交小波变换 离散的小波框架其信息量仍然是有冗余的，我们希望减少它的冗余量，直到 得到一组正交基，称为正交小波基，构造正交基的一般方法是，在离散框架的基 础上，取a o = 2 ，b o = l ，则： v 肚p ) = 22 甲( 2 - j t 曲工tez(2-8) 多分辨率分析是由s m a l l a t 和y m e y e r 于1 9 8 6 年提出的，它可将此前所有 的正交小波基构造统一起来，使小波理论产生突破性的进展。这一算法在小波分 析中的地位很重要，相当于快速傅立时变换口f r ) 在经典傅立叶分析中的地位。 2 1 2 1 多分辨率分析 我们把平方可积的函数f ( o e l 2 ( s ) 看成是某一逐级逼近的极限情况。每级逼近 都是用某一低通平滑函数m 对f ( t ) 做平滑的结果，在逐级逼近时平滑函数抑) 也 做逐级伸缩，这就是“多分辨率”，即用不同分辨率来逐级逼近待分析函数。 我们把空间做逐级二分解产生一组逐级包含的子空间： = 屹审w l ，n 一屹。盹， 吁= v j + l o 野“，o o j 是从一到一的整数，j 值越小空间越大，当j = 3 时，如图2 2 所示： 图2 2j = 3 时函数空间的剖分 这种剖分方式使得空间v j 与空间w 正交，各个w j 之间也正交。即： v j i 巧，w i i i t j 设v o 中有低通平滑函数烈，) ，它的整数位移集合舨- t ) k | z 是v o 中的正交归一 基。我们称烈f ) 为尺度函数。由式( 2 - 8 ) 可得：如j o ) = 柙一i ) 。v o 中的任意函数f i t ) 均可表示为伽一t ) k 。：的线性组合，我们设p o f ( t ) 代表毋) 在v o 上的投影，则有： p o f ( t ) = y k o k o ) 7 我们称p o f ( t ) 为f ( t ) 在v o 处的平滑逼近，也就是f i t ) 在分辨率j 卸下的概貌。 第二章相关理论基础 称为f 在分辨率j = o 下的逼近。 由二尺度伸缩性，如果“f ) e ，则睁e h ，可知，如果k k 。z 是v o 中的正 交归一基，则乩( f ) k 。z 必是v i 中的正交归一基。即有： ， h 蝴= x k 1 “ 如果在子空间w o 中能找到一个带通函数甲( f ) t 其整数位移集合扣。一t ) k 。z 构 成w o 中的正交归一基，同理，由二尺度伸缩性，陬t o ) l 。z 必是w i 中的正交归 一基。设d l 聊代表妁在w l 上的投影，则有： d l 聃= 吨m 砷 ( f ) 因为：n 。飓，所以p o 郧) = p t f ( t ) + d f f ( t ) 。也就是说，d i f 是v o ，v l 两级相 邻平滑逼近之差。这里的唧) 就是具有带通性质的小波函数。 类推可得： 删= x k o ) d 舯= d k p j 妁= p i + l k t ) + o h 妁 2 1 2 2m a l l a t 算法 多分辨率分析为深刻理解小波原理提供了一个极好的理论框架，m a l l a t 算法 则为应用小波提供了非常便捷的手段。 我们先看m a l l a t 算法的分解过程。 上一小节多分辨率分析中，我们得出结论f j 躺= 札国咖 。当j = o 时， e o f t ) = x n 卿b ( | ) 由于 轳k ( 尚( f h ( ，) ，缸) ；( 魄机( 咖 、月， 4 其中， ( 南删，m ( r ) ) = 击p ( 争w 。一删r( 设；争i ，则，= ；+ 拙) ；击p 争一加一2 七，埘= 奴一撕 得 礅1 = h 类似我们还可以证明 以n = k 舻牡，h 得到小波m a l l a t 分解公式为： 第二章相关理论基础 黾u + o = 2 n d k u + 1 ) = 2 i ) 一 用类似的思路我们可以逆推出小波重建过程。 。 耳l 妁；p j 蚴+ d j i l t ) = 船d 舡o ) + 矗q i ( ，) tt 所以， _ , u q ) = ( e j q f ( o , c , j 一抽o ) ) = ( c 胛x 办- l ，) + ( q ，( f ) 咖一珈( r b p x 冉一驷( 啦n + d ， 山。帆 可得，x a u - 1 ) = 一m 水+ 一嚣炒 tt = g o ( 眺扦p + 嘶一m 以 ft 上式即为m a l l a t 算法小波重构公式。式中的g o ( k ) , g l p ) 和前面的h 坤帆) 一样为： g q t ) = 枷o ( r ) 舭叻，窖1 耵；( o 以舨( f ) ) 2 2 神经网络理论基础1 9 l 踟 神经网络是上世纪8 0 年代迅速堀起的一门新型非线性学科，它是模仿人脑 神经元结构、特性和大脑认知功能而构成的新型信息处理系统。人工神经网络是 一类新的计算模型，这种计算模型的特点是，利用大量的简单计算单元连成网络， 来实现大规模并行计算。其原理可概括为：对任一简单的神经元( 处理元) ，其所 接受的信息( 系统输入或上一层神经元的输出) x o tx 1 x 2 ， 。经过权重 。l w ：。( 代表信息的强度) 以点积形式合成为该神经元的输入，并通过激活 函数( 如常用的s i 鲫o i d 函数) 的计算形成神经元的输出。人工神经网络的工作机 理是通过学习，改变神经元之问的连接强度，它天然具有存储经验知识和使之可 用的特性。这与生物神经元的工作方式非常相似，将多个神经元连接便形成人工 神经网络系统。对人工神经网络的研究主要是基于人工神经网络模型的研究。 2 2 i 神经元模型 神经网络的基本单元称为神经元，它是对生物神经元的简化与模拟。神经元 的特性在某种程度上决定了神经网络的总体特性。大量简单神经元的相互连接即 构成了神经网络。一个典型的具有n 维输入的神经元模型可用图2 3 加以描述。 第二章相关理论基础 t八捧缝，c y ，峨- 椭 图2 3 神经元模型 由图可见，一个典型的神经元模型主要由以下五个部分组成。 1 ) 输入 2 ) 网络权值与域值 网络权值与阈值都是可调的。正是基于神经网络权值和阈值的动态调节，神 经元乃至神经网络才得以表现出某种行为特性。因此，网络权值和域值的可调性 是神经网络学习特性的基本内涵之一。 3 ) 求和单元 求和单元完成对输入信号的加权求和，即 三 4 乞吼一 + b k - i 这是神经元对输入信号处理的第一个过程。 4 ) 传递函数 在图中，f 表示神经元的传递函数或激发函数，它用于对求和单元的计算结 果进行函数运算，得到神经元的输出，这是神经元对输入信号处理的第二个过程。 几种典型的神经元传递函数有阈值函数，线性函数，对数s i g m o i d 函数，正切 s i g m o i d 函数等。 5 ) 输出 2 2 2 典型神经网络结构 神经网络的类型多种多样，它们是从不同角度对生物神经系统不同层次的抽 象和模拟。从功能特性和学习特性来分，典型的神经网络模型主要包括感知器、 线性神经网络、b p 网络、径向基函数网络、自组织映射网络和反馈神经网络等。 一般来说，当神经元模型确定后，一个神经网络的特性及其功能主要取决于网络 的拓扑结构及学习方法。从网络拓扑结构角度来看，神经网络可以分为以下四种 基本形式。 1 ) 前向网络 前向网络结构如图2 4 所示，图中的神经元是分层排列的，每个神经元只与 第二章相关理论基础 前一层神经元相连接，最上一层为输入层，最下一层为输出层。中间层也称为隐 层。隐层的层数可以是一层或多层，前向网络在神经网络中应用十分广泛，感知 器、线性网络、b p 网络都属于这种类型。 输入层 中涠层 输出层 y l y 2 y 柚 图2 4 前向网络结构图 2 ) 从输入到输出有反馈的网络 从输出到输入有反馈的网络本身是前向型的，但是与上种不同的是从输出 到输入有反馈回路。f u k u s h i m a 网络就是属于这种类型。 3 ) 层内互连网络 层内互连网络通过层内神经元的相互连接，可以实现同一层神经元之间的相 互制约，从而可以将层内神经元分为几组，让每组作为一个整体来工作。一些自 组织竞争神经网络就是属于这种类型。 4 ) t r 连网络 互连网络又分为局部互连和全互连两种。全互连网络中每个神经元的输出都 与其他神经元互连，而局部互连网络中，有些神经元之间没有连接关系。h o p f i e l d 网络和b o l t z m a n n 网络就属于这一网络类型。 2 2 3 神经网络的学习 学习特性是神经网络的基本特性，神经网络的学习是通过网络权值和阈值的 调节来实现的。根据学习过程的组织和管理方式的不同，学习算法可以分为有监 督学习和无监督学习两大类。 对于有监督学习，如图2 5 ，网络学习往往要基于一定数量的学习样例或样 本，学习样本通常由输入矢量和目标矢量组成。在学习过程中，神经网络不断的 将其实际输出与目标输出进行比较，并根据比较结果或误差，按照一定的规则和 算法对网络权值或阈值进行调节，从而网络的输出逐渐接近目标值。最典型的有 监督学习算法的代表是b p 算法误差反向传播算法。 第二章相关理论基础 输入 图2 5 有监督学习 无监督学习是一种自组织学习，即网络的学习过程完全是一种自我学习的过 程，不需要提供学习样本或外界反馈。在学习过程中，网络只需要响应输入信号 的激励，按照某种规则反复调节网络权值和阈值，直到最后形成某种有序的状态。 例如，在很多情况下，无监督学习算法可以用来做聚类分析，即通过学习将输入 模式划分为有限的模式类别。无监督学习算法的代表是h e b b 学习律。 2 2 4 小波神经网络【2 1 1 小波网络是一种前馈型网络，在前馈神经网络中最常用的是b p 网络( b p n ) 和径向基函数网络o m f n ) 。对于b p n 和。r b f n ，如果给定足够多的神经元，可 以对任意连续函数以任意精度逼近，但二者的逼近性质却截然不同。 b p n 中的隐含神经元采用的是全局激励函数如s i g m o i d 函数，因此神经元在 很大的输入范围内被激活，得到对函数的全局逼近。而r b f n 中的隐含神经元 采用的则是局部激活函数，如g a u s s 函数，神经元的输出在输入距激励函数接收 场中心较远时很快下降，也即在给定输入较小的范围内才被激活，因此，具有局 部学习功能，得到良好的细节逼近能力。 由于采用全局激励函数，b p n 的每一个神经元在较大的输入范围内对输出 有影响，并且所有的激励函数互相重叠，进而产生交叉影响，训练过程中要对所 有相互影响的神经元的连接权值进行调节，使全局逼近的学习速率下降。由于优 化问题是非线性，b p n 不能保证其学习的收敛，还可能陷入局部最小。另外， 全局逼近网络在整个输入范围内均有输出，而与输入空问中训练数据的密度无 关，这将导致很大的外推误差。 采用局部激励函数的神经网络可以克服全局逼近网络的上述不足。对于每一 个输入，只有少数n 个神经元被激活，因为只需要对网络的一部分进行调整，所 以这些神经元很容易适应新的数据。激励函数的局部特性保证了少数被激活神经 元参与的外推在较小的输入范围内进行，可见采用局部激励函数的网络要比采用 全局激励函数的网络在函数逼近理论和训练学习都有优势。 第二章相关理论基础 从结构形成看，小波网络与前馈神经网络没有本质区别，所不同的是，小波 网络的隐节点函数是小波函数，输入层到隐层的权值和阈值分别对应小波的伸缩 和平移参数。小波网络和r b f n 网络同属于局部逼近网络，但是r b f n 中激励 函数是非正交的，也就是说它的基函数是有冗余的，所以其逼近函数的表达式并 不唯一。在小波网络中，首先小波函数可以是正交的，保证逼近函数的表达式的 唯一性；其次对于不同的逼近函数，小波函数可以有更广泛的选择，可以根据逼 近函数的特性来选择不同的小波函数；最后小波函数具有对突变函数逐步精细的 描述特性，即小波函数在时频域都具有良好的局部特性，小波分解可以在多个尺 度( 分辨率) 对函数进行逼近。因此，小波网络通过学习，调节小波函数的伸缩 和平移以及网络连接权，既能逼近函数的整体( 轮廓) ，亦能捕捉函数变化细节， 这正是小波网络优于其它单一分辨率网络之处，使得函数的逼近效果更好，这是 径向基函数不具备的。 2 3 模糊理论基础1 2 2 【2 3 ( 2 4 1 模糊理论是在美国加州大学l a z a d e h 教授于1 9 6 5 年创立的模糊集合理论 i 的基础上发展起来的。它主要包括模糊集合理论、模糊逻辑、模糊推理等方面的 内容。 2 3 1 模糊集合及隶属度函数 2 3 1 1 模糊集合的定义 在经典集合论中，任何一个元素与任何一个集合之问的关系，只有“属于” 和“不属于”两种情况。用模糊集合则可以将某一元素对集合的隶属度推广到取 区间 o ，l 】中的任意一个数值。 下面是对模糊集合的一般定义。 论域u 中的模糊子集a ，是以隶属函数鼬为表征的集合，即由映射： ，“：u _ 【o ，l 】 确定论域u 的一个模糊子集a 。心称为模糊子集的隶属函数，心( ”称为u 对a 的隶属度，它表示论域u 中的元素u 属于其模糊子集a 的程度。它在 o ，l 】闭 区间内可连续取值，隶属度也可简记为a ( u ) 。 关于模糊子集a 和隶属函数心，做如下几点说明： 1 、论域u 中的元素是分明的，即u 本身是普通集合，只是u 的子集是模 糊集合，故a 为u 的模糊子集，简称模糊集。 2 、朋 。) 是用来说明u 隶属于u 的程度的。p ( “) 的值越接近l ，表示u 从属 第二章相关理论基础 于a 的程度越大。显然，当心( 。) 的值域为m 时，隶属函数己蜕变为经典集合 的特征函数，模糊集合a 也就蜕变为一个经典集合。 3 、模糊集合完全由它的隶属函数来刻画。隶属函数是模糊数学的最基本概 念，借助于它才能对模糊集合进行量化。正确的建立隶属函数，是使模糊集合能 够恰当的表达模糊集合的关键。 2 312 模糊集合的隶属函数 隶属函数的确定目前还没有一套成熟有效的方法，常用的方法大致有以下几 种。 1 ) 主观经验法。当论域是离散时，根据主观认识或个人经验，直接或间接给 出元素的具体值，由此确定隶属函数。 2 ) 分析推理法。当论域连续时，根据问题的性质，应用一定的分析与推理， 决定选用某些典型函数作为隶属函数，比如三角形函数，梯形函数等。 3 ) 调查统计法。以调查统计结果所得出的经验曲线作为隶属函数曲线，根据 曲线找出响应的函数表达式。 尽管确定隶属函数的方法一般均带有主观因素，但主观的反映和客观的存在 是有一定联系的，所以，它仍然应该遵守一些基本原则。 1 、表示隶属函数的模糊集合必须是凸模糊集合。 2 、变量所取隶属函数通常是对称和平衡的。 3 、隶属函数要符合人们的语言顺序，避免不恰当的重叠。 除了以上三条外，隶属函数的选择通常应遵循： a 、论域中的每个点应该至少属于一个隶属函数的区域，同时