（电路与系统专业论文）计算智能在混沌通信系统中的应用研究[电路与系统专业优秀论文].pdf

电子科技大学博士学位论文 优化均衡器的滤波器抽头系数。仿真分析表明其性能优于传统的 l m s 均衡器。 4 . 混沌通信系统中噪声干扰抑制的研究。 由于混沌信号与噪声信号在频谱上是重叠的，线性滤波器无法抑制 混沌信号中的噪声干扰。 本文利用了支撑矢量机的非线性分类学习能力， 利用wl s - s v m 降噪算法，对混沌信号进行了短期预测，以改善 d c s k 通信信号的噪声性能。 在 d c s k混沌通信系统中，给定接收信号为训练 样本集，首先用最小二乘支撑矢量机 ( l s - s v m) 对样本数据进行预侧， 以抑制噪声千扰。但是，l s - s v m 方法只有在拟合误差为高斯分布的前 提下， 最小二乘代价函数才可以获得最优解， 而且当噪声信号中存在较 大的干扰脉冲时，可能破坏上述算法的鲁棒性。针对上述问题， 改进的 w l s - s v m 算法在 l s - s v m的基础上得到估计误差，根据估计误差的统 计分布特性获得一个加权系数，然后再求解 wl s - s v m，得到优化的接 收信号的估计值，达到降噪的目的。仿真结果表明，抑制噪声后的系统 误码率性能得到改善。 关键词:混沌通信 计算智能 人工神经网络 支撑矢量机 分数阶动力学 系统 符号同步 自适应均衡 噪声抑制 ab s tr a c t abs t r a c t r e c e n t ly , r e s e a r c h e r s fr o m v a r io u s f ie ld s o f s c ie n c e a n d e n g in e e r in g h a v e s h o w n in c re a si n g in t e r e s t in th e a p p lic a ti o n o f c h a o s t o c o m m u n i c a tio n s . i n th is d is s e r ta tio n , w e m a in ly p a y a tt e n t io n to th e k e y te c h n i q u e s f o r c h a o s - b a s e d c o m m u n ic a ti o n s y s t e m s . t h e m a in c o n te n t s o f th is d i s s e r ta tio n i n c l u d e : ( 1 ) s y m b o ls s y n c h r o n iz a t io n u s in g fr a c ti o n a l d e la y f ilt e r fo r c h a o s - b a s e d c o m m u n ic a t io n s y s t e m s ; ( 2 ) c h a o t ic s e q u e n c e s in fr a c tio n a l o r d e r d y n a m i c s y s te m s ; ( 3 ) a d a p t iv e e q u a li z a tio n fo r f a d i n g c h a n n e ls o f c h a o s - b as e d c o m m u n i c a t io n s y s t e m s ; a n d ( 4 ) n o is e re d u c tio n t o c h a o s = b a s e d c o m mu n i c a t i o n s s y s t e m ; t h e m a in o r ig in a lit y in th i s p a p e r c a n b e s u m m a r iz e d a s f o llo w s : 1 .s t u d y o n s y m b o l s s y n c h r o n i z a t i o n u s i n g f r a c t i o n a l d e l a y f il t e r f o r c h a o s - b a s e d c o m mu n i c a t i o n s y s t e ms . i n d c s k , e v e r y t ra n s m itt e d sy m b o l i s r e p r e s e n t e d b y t w o s e ts o f c h a o tic s ig n a l s a m p le s s e n t in tw o s lo ts . t h e fi rs t s a m p le s e t s e r v e s as th e r e f e r e n c e w h i le t h e s e c o n d o n e c a r r ie s th e d a ta . t h e j u d g e f o r s y m b o l s tr a n s m itt e d is b as e d o n 户 e o u t p u t o f th e c o r r e l a t o r w h i c h t h e r e f e r e n c e s a mp l e a n d t h e c o r r e s p o n d in g d a t a s a m p l e a r e c o r r e l a t e d . t h u s , t h e r e c e i v e r mu s t b e s y n c h r o n i z e d t o t h e s y m b o l s o f t h e in c o m i n g d a ta s i g n a l . f o r t h is a p p lic a t io n , i t m a y b e d e s ir a b le t o d e la y a s ig n a l b y a fr a c t io n a l m u ltip le s . o f t h e s a m p lin g p e r io d . a n e u r a l n e t w o rk m e th o d is p r o p o s e d t o d e s ig n i n g v a ri a b le - fr a c t io n a l -d e la y f in ite -i m p u ls e re s p o n s e f ilt e r s u s e d f o r a p p r o x i m a t io n to id e a l fr a c tio n a l d e la y f ilte r s . t h e p r o p o s e d m e th o d h a s im p ro v e d p e rf o r m a n c e o f th e fi l t e r s a t a s l i g h t l y i n c r e a s e d c o m p u t a t i o n c o s t w h i l e b e i n g u s e d i n c h a o t i c c o m m u n i c a t i o n s y s t e ms . 2 . s t u d y o n c h a o t ic s e q u e n c e s i n f r a c tio n a l o r d e r d y n a m ic 妙te m s . w e n u m e r ic a lly in v e s t ig a t e c h a o ti c b e h a v io r in n o n in te g e r- o r d e r c e llu la r n e u r a l n e tw o rk s , w h ic h g iv e g o o d re s u lts 坛g e n e ra t in g c o m p le x d y n a m ic s . l in e a r tr a n s fe r f u n c t io n a p p r o x im a t io n s o f th e fr a c tio n a l in t e g r a to r b lo c k a r e c a lc u la t e d b as e d o n f r e q u e n c y d o m a i n a r g u m e n t s . n u me r i c a l s i m u l a t i o n s a r e u s e d t o d e mo n s tr a t e t h a t t h e h y p e rc h a o ti c a t tr a c t o rs a r e o b t a in e d w it h s y s te m o r d e r 3 .9 5 . t h e c o m p le x d y n a m i c s o f fr a c t i o n a l o r d e r c n n p r o v i d e a n e w s i g n a l s o u r c e f o r s e c u re c o m mu n i c a t i o n . i i i 电子科技大学博士学位论文 3 . s t u d y o n a d a p tiv e e q u a l iz a t io n f o r f a d in g c h a n n e ls o f c h a o s- b a s e d c o mm u n i c a t i o n s y s t e ms . a n o v e l fa s t le a rn i n g a lg o r ith m f o r m u lt ila y e r e d f e e d f o r w a r d n e u r a l n e tw o r k is in tr o d u c e d . a s c o m p a r e d to t h e c o n v e n ti o n a l b p a lg o r ith m , th e fir s t im p ro v e m e n t o f t h i s a l g o r i t h m i s t h e m i n i mi z a t i o n o f a c o m b i n e d e r r o r c r i t e r i o n b a s e d o n t h e s u m o f n o n lin e a r a n d lin e a r q u a d r a t ic e r r o r s o f th e o u tp u t n e u ro n s , th e o th e r a s th e u s in g o f a m o d if ie d e r ro r b a c k p r o p a g a t io n f a c to r in th e l e a r n in g p r o c e s s . t h e s im u la tio n r e s u lts in d ic a te th a t th e le a r n in g s p e e d o f th i s a lg o r ith m e x c e e d s th a t o f th e c o n v e n t io n a l b p a l g o r ith m e v i d e n tly , a s w e ll a s o n ly a litt le in c re a se in t h e c o m p u t a t io n a l c o m p le x ity . w e h a v e d e v e lo p e d a n e q u a liz e r b a se d o n m u lt ila y e r p e r c e p tr o n s f e e d f o r w a r d n e tw o rk fo r f a d in g m u ltip a th c h a n n e ls o f c h a o t ic c o m m u n i c a tio n s y s te m s . t h e m a j o r t a sk w ith th e p r o p o s e d fa s t b p a l g o r it h m i s th a t tr a in in g a n d f in d in g th e g lo b a l e r r o r m in im u m c o rr e s p o n d in g to th e o p t im u m e q u a liz e r c o e f fic ie n ts u n d e r a ll i n p u t s ig n a l c o n d it io n s s im u la t io n s d e m o n s tr a te t h a t th e p e r f o r m a n c e is im p ro v e d a s c o m p a r e d t o t h e c o n v e n t io n a l l m s a l g o ri t h m 4 . s t u d y o n n o i s e r e d u c t i o n t o c h a o t i c c o mm u n i c a t i o n s . w e h a v e p r o p o s e d a m e th o d fo r n o is e r e d u c tio n t o d c s k c o m m u n ic a t io n s s y s t e m s u s i n g w e i g h te d le a s t s q u a re s u p p o r t v e c to r m a c h in e ( w l s -s v m ) . b y e x p lo iti n g th e c h a o tic d y n a m ic s in v o lv e d , th e s h o r t-t e r n r o b u s t e s ti m a t io n o f c h a o tic s i g n a l s c a n b e o b t a i n e d b y f i r s t u s i n g a s u p p o r t v e c t o r m a c h i n e w i t h a l e a s t s q u a r e s c o s t f u n c t i o n a n d , t h e n a s s o c i a t i n g w e i g h t e d v a l u e s t o t h e e r r o r v a r i a b l e s b a s e d u p o n th e re s u lt in g e r r o r v a r ia b le s fr o m t h e f a s t s t e p . t h e n o is e p e r f o rm a n c e o f th e d c s k s y s te m i s i m p r o v e d i f th e c o r r e la t io n b e tw e e n th e r e fe r e n c e a n d in f o rm a ti o n -b e a r in g s a m p l e f u n c t i o n s i s i n c r e a s e d . n u m e r i c a l s i mu l a t i o n s s h o w t h a t t h e c o r r e l a t i o n i s c o n s id e r a b ly i n c r e a s e d b y u s in g w e ig h te d l s -s v m， a n d th u s th e n o is e p e rf o r m a n c e is im p r o v e d b y th e n o is e r e d u c t io n te c h n iq u e in c o n tr a s t t o th e o r e tic a l n o is e p e r fo r m a n c e o f d c s k c o m m u n ic a ti o n s s y st e m s k e y w o r d s : c h a o s - b a s e d c o mm u n i c a t i o n s y s t e ms , c o m p u t a t i o n a l i n t e l l i g e n c e , a r t i f i c i a l n e u r a l n e t w o r k , s u p p o r t v e c t o r m a c h i n e s , f r a c t i o n a l o r d e r d y n a m i c s y s t e ms , s y m b o l s s y n c h r o n i z a t i o n , a d a p t i v e e q u a l i z a t i o n , n o i s e r e d u c t i o n . 1 v 独 创 性 声 明 本人声明 所呈交的学位论文是本人在导师指导下进行的研究工 作及取得的研究成果。据我所知，除了 文中 特别加以标注和致谢的 地方外，论文中不包含其他人己 经发表或撰写过的研究成果，也不 包含为获得电 子科技大学或其它教育机构的学位或证书而使用过的 材料。与我一同工作的同志对本研究所做的任何贡献均己 在论文中 作了明确的说明并表示谢意。 ， 名 : s wz i, 。期 :、 。、 、 月 、 关于论文使用授权的说明 本学位论文作者完全了 解电子科技大学有关保留、使用学位论 文的 规定，有权保留并向国家有关部门或机构送交论文的复印 件和 磁盘，允许论文被查阅和借阅。本人授权电 子科技大学可以将学位 论文的 全部或部分内容编入有关数据库进行检索，可以 采用影印、 缩印 或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后应遵守此规定) 签 名 :/垫 1。 师 签 名 : ， * r 日 m : 、夕 年 月 ( 日 第一章绪论 第一章 绪论 . 1混沌通信的研究现状与发展 1 9 9 0 年美国海军实验室的两位学者p e c o r r a 和c a r r o l l 首先应用电路试 验实现了混沌同步 3 ，并立即提出了利用混沌同步进行保密通信及信息处 理的实验方案， 从此拉开了2 0 世纪9 0 年代以来国际上混沌保密通信技术研 究的序幕。 1 . 1 . 1混沌的定义 混沌是复杂的非线性系 统 中的一种确定性的伪随机现象，它广泛地存 在于自 然界，1 9 6 3 年l o r e n z 在 他的“ d e t e r m in i s t ic n o n - p e r io d ic f l o w ”中 1 , 揭示了 混沌 运动的 基本 特 性， 这成为 棍沌理 论研究的 基础。 由 于馄 沌 系统的奇异性和复杂性至今尚未被人们彻底了解，因此至今棍沌还没有一 个统一的定义 。 定理 1 . 1 . 1 2 :设f (a ) 是闭区 间 a , b 上的 连续自 映射， 若f ( x ) 有 3 周 期点，则对任何正整数n , f ( x ) 有n 周期点。 定义1 . 1 . 1 2 : 闭 区间i 上的 连 续自 映 射ax ) ， 如果 满足下列条 件， 便 可确定它有混沌现象: ( 1 ) . f 的周期点的周期无上界; ( 2 )闭区间i 上存在不可数子集 5 ，满足 ( i )对任意x , y e s, x # y 时， 1%m su p l f 0 (x ) 一 f (y )卜 0 ; (1 一 1 ) ( ii )对任意x ,y e s ，x # y 时， lym in f lf 0(x ) 一 f 0 (y ) = 0 ; ( 1 - 2) ii i )对任意x e s 和了的任意周期点y ，有 li m 二 if 0 (x )一 f n (y )l 0 。 ( 1 - 3) 电子科技大学博士学位论文 该定义准确地刻画了混沌运动的几个重要特征: ( 1 )存在可数无穷多个稳定的周期轨道; c 2 )存在不可数无穷多个稳定的非周期轨道; ( 3 )至少存在一个不稳定的非周期轨道。 定 义 1 . 1 .2 4 1 : 设f ( x ) 是- 1 ,+ 1 上 的连续映 射， 如果存在 集合y c - 1 ,+ 1 ( y 具有正的l e b e s q u e 测度 ) 和 实数6 0 ， 使得 对于每个x c- y 和x 的 每 个 邻域 u ，存在一个y c u 和。 乏 。 使 if (. ) - f (y )i 二 1-4 ) 则 称f 具有 敏感 依赖性。 那么给 定一 个集合n 和映射f : n - 4 n， 则 称f 在 n上是混沌的， 如果 ( 1 ) f 对初始条件具有敏感依赖性; ( 2 ) f 拓扑传递的， 即状态在迭代下从一个任意小的邻域最终可以移动到其它任何邻域。也就 是说 ， 系统不能 被分解 为二个在f下互不 影响 的子系统 ( 二个不变的开 子 集) ; ( 3 )周期点在 n中稠密。这个定义明确了三件事， 即混沌的不可预测 性、不可分解性及存在约束不规则运动的多种规则性。从而说明混沌不是 简单的无序，而是一种包含了有序的无序。 定 义1 . 1 .3 4 卜 所 谓混沌 是指具 有以 下 特点的 一类现象， ( 1 )由确定性产生;( 2 )具有有界性;( 3 )具有非周期性:( 4 )对初 始条件具有极端敏感性 。 正是由于上述四种现象，混沌具有用于保密通信的极佳性能。混沌由 确定性系统产生和具有有界性，这意味着混沌是可以通过适当的方法来达 到可控的，而且也是可观测和可实现的。棍沌具有非周期性姿这表明它具 有宽的频带和类噪声的特点，基于此正好用其掩盖所传送的通信信息，使 这些信息看起来像是宽带的噪声一样，难于提取。对初始条件的极端敏感 性说明混沌信号具有长期不可预测性，通信的保密性正要求这一点。不难 分 析出 混沌能 真正 用于 保密通 信的 实 质是其 宽带 类噪特性和 强烈地依 赖初 始值。 1 .1 . 2混沌通信技术的主要类型 目 前国际上正在研究的棍沌通信技术是适应 2 1 世纪信息时代对通信 和信息发展的战略需要的。 混沌通信按照信号形式主要分为三种: 模一 模通 信、 模一 数 模通信和数一 数通信形式。 按照国际上提出的混沌通信技术方案， 第一章绪论 大致可分为五类:混沌扩频通信，混沌数字码分多址，混沌相移键控，混 沌参数调制 ，混沌掩盖 。 一、混沌相移键控 混沌键控是研究得较多的一大类键控式数字通信方案， 包括 c s k ( c h a o s - s h if t k e y in g ) , c o o k( c h a o t i c o n -o f f k e y i n g ) , d c s k ( d i f f e r e n t ia l c h a o s - s h i f t k e y i n g ) , f m-d c s k ( f r e q u e n c y m o d u la t i o n d c s k ) 等几种数字 调制方法，其接收端又有相干解调与非相干解调之分。相千解调具有保密 性，而且抗噪声性能优于非相干解调，但当传输信道的信噪比 较低时，相 干解调所需的同步难以建立，此时适用非相千解调。实际的情况是，很大 一部分努力花在了非相干解调的研究上，从文献中看， %、 9 7 , 9 8 年有很 多 关于 非相千通 信方案设计的 报 道，而到了9 9 , 2 0 0 0 年， 则出 现了 对这些 方案的系统性的性能测试的报道。从文献 5 来看，f m - d c s k方案趋于肯 定。k o lu m b a n从理论上证明了4 ，只要码元能量保持恒定且载波函数正 交，则载波函数的形状，不管是周期的还是混沌的，对系统的噪声性能都 没有影响。 从这个结论出发， 他导出了相千双极性 c s k ， 相干 d c s k和差 分相千 ( 即非相干) d c s k的在加性高斯白噪声信道下的解析的误码率公 式。理论公式与仿真结果相符。这些结果表明，相干双极性 c s k和相千 d c s k的噪声性能在理论上可 以分别与常规相干 b p s k和相千 f s k的噪声 性能相当，且不依赖于码元周期或信道带宽，而 d c s k和 f m-d c s k的噪 声性能比常规次最优 d p s k差 3 d b ， 也依赖于码元周期和信道带宽。 2 0 0 0年报道了对混沌键控的系统性的噪声性能仿真结果 5 ，包括相 干双极性 c s k ， 相千 c o o k， 非相千 c o o k , 混沌键控的最佳性能以及差 分相关 d c s k等通信方案的噪声性能，并与常规的 b p s k , f s k等作了比 较。这些性能曲线支持了 k o l u m b a n的理论分析结果。在加性高斯白噪声 信道上， 虽然从理论上讲， 相干双极性 c s k能达到常规相干 b p s k的噪声 性能，但其前提一是每个码元的能量保持恒定，这个可以通过加 f m 来实 现;二是要有鲁棒性相当 好的同步， 这在目前还未见报道。如果在接收端 混沌载波不能精确地恢复， 则c o o k的噪声性能优于 c s k ， 但其判决门限 依赖于信噪比。当使用两个混沌信号源时，尽管相干解调的混沌键控在理 论上能达到常规相干f s k的噪声性能， 但在实际上则达不到， 还是因为同 步的问题。当不能同步时， 较理想的是用非相干 d c s k ，其判决门限不依 - 一 一声 夕 子 1必旧 心 目 川只 勺s y u j l p 1 一 侣 道， 故对信道畸变不敏感， 在参数变化较慢的时变信道中具有较好的性能。 如果再加上 f m调制， 则变成 f m- d c s k ， 其特点在于， 先使 f m调制器输 出具有均匀功率谱密度的带限信号，从而使传输的每个码元的能量保持不 变， 相关器的输出具有零方差。 如果信道条件较好以至混沌同步足以建立， 则用混沌相干解调较好， 此时噪声性能可以达到与常规通信相类似的水平， 但混沌载波的恢复总比周期载波难，因此估计混沌相干解调的噪声性能总 比常规通信差一些。如果信道条件差而不能同步，就应改用非相干解调， 此时 f m- d c s k能提供最优的噪声性能，其一大优点是，在多径信道下性 能衰减远远好于常规方案。 混沌非 相千 通信f m - d c s k 7 ,一致收敛性的充分必要条件、快速收 敛的充分条件和一致收敛与概率分布无关的充分必要条件，它们是统计学 电子科技大学博士学位论文 习渐近理论的三个最重要的成果 。 支撑矢量机简称 s v m， 是统计学习理论中最新的内容， 也是最为实用 的部分， 其核心内容是 1 9 9 2 年到 1 9 9 5 年v a p n i k 提出的结构风险最小化原 理3 1 - 3 3 ，它能够提高学习机的泛化能力，既由有限的训练集样本得到的 小的误差，又能保证对独立的测试集仍保持小的误差。它在解决小样本， 非线性及高维模式识别问题中表现出许多特有的优势， 并能够推广应用到 函数拟合等其它机器学习中。而且， _ 由于支撑矢量机算法是一个凸优化问 题，因此局部最优解一定是全局最优解。与现有的学习机包括神经网络、 模糊学习机 、遗传算法等相比具有小样本的预知性学习能力，方便简洁的 非线性处理能力，以及收敛过程无局部极小等优点，被广泛用于非线性时 间序列的 估计 3 4 - 3 5 以 及递归神经网络【 3 6 - 3 7 。其中最突出的优势在于其 强大的推广能力， 能在训练样本较少的 情况下得到较好的效果。 支 撑矢量 机应用于 分类问 题， 可看 作是 感知器的 推广。 在线性可 分的 情况下，就是建立一个超平面使得可分的两类数据到该平面的距离最小， 通常称该平面为最优分离超平面。对于非线性问题，是通过一个非线性映 射把原始数据映射到另一个称之为特征空间的新数据集上，使得新数据集 在该特征空间上是线性可分的。由此建立的最优分离超平面在原始空间内 就是一个超 曲面。 1 . 3分数阶动力学系统及其在混沌通信中的应用 分数阶微积分 ( f ra c t io n a l c a l c u lu s )己有 3 0 0 年的历史，而分数阶微 分理论也可追溯到 1 9世纪。目 前有关分数阶微积分的专著 3 8 - 4 0 1 和文献 (4 1 - 4 4 对分数阶微积分的定义以及分数阶微分方程作了很好的论述。虽然 分数阶有着悠久的历史，但将其应用到物理学和工程学的研究热潮还只是 近几十年兴起 的。更多的研究开始广泛涉及分数阶电路 、分数阶数字信号 处理、分数阶动力学控制系统以 及分数阶混沌和超混沌、分数阶混沌控制 与混沌同步等多个领 域。 文献 4 5 研究了双蜗卷的馄沌吸引子分数阶动力系统: 第一章绪论 = x 2 =x 3 (1 - 7) 二 一 a ( x , 十 x 2 + x 3 ) 十 f ( x , ) 其中。 m l , f ( x l) = s g n ( x ,) ， 数值 仿真表明 在系 统阶数小于的 情况 下出 现 混 沌。 文献4 6 等对r o s s le r 方 程的 超混沌进 行了 研究， 研究表明， 分数阶 r o s s l e r 方程出 现超混沌的阶数低于4 阶，且系统的最低阶是 3 . 8 阶。文献 4 7 研究了 分 数阶的复d u f f in g 振荡 器， 取分 数阶9 二 0 .9( 系统3 .6 阶) 进 行仿真分析，系统出现混沌。 分数阶混沌动力学系统具有比整数阶系统更为复杂、丰富的动力学特 性，以及具有随机性和不可预测性增加的优点，这为提高保密通信系统的 抗截获、抗破译能力提供了新的可能。本文将在后面章节展开分数阶混沌 系统在保密通信中的应用研究。 1 .4计算智能在混沌通信中的主要研究内容 1 .4 . 1本文的主要研究工作与创新 本文对计算智能算法在混沌通信系统中的若干应用问题进行研究和探 讨，主要工作和创新包括: 1 .研究了一个具有分数阶混沌动力学特性的全互联细胞神经网络， 该网 络的阶数为 3 .9 5 阶。利用分数阶动力学系统具有比整数阶系统更为复杂、 丰富的动力学特性，以 及具有随机性和不可预测性增加的优点，为混沌通 信系统提供了一个新的信号源，该信号源为提高保密通信系统的抗截获、 抗破译能力提供了新的可能。 2 .提出了一种神经网络优化方法设计 1 -d可变分数延迟 ( v f d ) f i r滤 波器，并将该滤波器应用到解决d c s k混沌通信系统中的符号同步问题。 仿真表明该滤波器具有较高的精度逼近理想分数延迟滤波器。 3 . 提出了一种前馈神 经网络的快速 f b p学 习算法 。 该算法解决了 b p算 电子科技大学博士学位论文 法本身存在 的局部极 小点和收敛速度慢等 问题。针对混沌通信信道均衡设 计了一个多层感知器神经网络均衡器， 利用 f b p 算法来优化均衡器的滤波 器抽头系数。 4 .在 d c s k混沌通信系统中， 采用最小二乘支撑矢量机 ( l s - s v m) 提 出了一种降噪算法。该算法利用了支撑矢量机对非线性函数学习能力， 对 接收的混沌信号进行短期预测，改善了d c s k通信系统的噪声性能。 1 .4 .2论文的内容与结构安排 本文的内容安排如下: 第一章;简要介绍了棍沌通信系统的研究现状与发展，混沌通信技术 发展道路上急待解决的研究问题。介绍了计算智能的发展与应用。 第二章:介绍了计算智能的相关模型。从具有多层感知器的前馈神经 网络、 h o p f ie l d 神经网 络到 统计 学习方 法的 支撑 矢量机。 第三章 :研究 了一个具有分数阶混沌动力学系统的全互联细胞神经 网 络， 该网络的阶数为 3 .9 5 阶， 并将其作为混沌载波。提出了一种神经网络 优化方法设计 1 - d可变分数延迟 f i r滤波器，并将该滤波器应用到解决 d c s k混沌通信系统中的符号同步问 题，对该滤波器的性能进行了仿真分 析。 第四章: 提出了一种前馈神经网 络的快速 f b p 学习算法。 设计了一个 多层感知器神经网络均衡器， 利用 f b p 算法来优化均衡器滤波器的抽头系 数 ，对该均衡器 的性能进行了仿真分析。 第五章:采用最小二乘支撑矢量机 ( l s - s v m)提出了一种 d c s k混 沌通信系统的降噪算法。 该算法利用了支撑矢量机对非线性函数的学习能 力， 对接收的混沌信号进行短期预侧， 仿真分析表明该算法改善了 d c s k 通信系统的性能 。 第六章:对全文进行 了总结，对将来的研究工作提出了一些展望。 第二章从人工神经网络到支撑矢量机 第二章 从人工神经网络到支撑矢量机(c 5 1 2 . 1前馈神经网络 ( f e e d f o r w a r d n e u r a l n e t w o r k s ) c 3 1 2 .1 .1感知器模型14 8 1 感知器是一个多输入、单输出的映射，表示为 y = rp (u ( x ); h ) ( 2 - 1 ) 其中x = ( x , x , ,. . ., x ) e r ” 是输入 状态向 量，h e r ， 是感知器阀 值，y e r 是 感知器的输 出状态，整合函数取为 u (x ) 一 (w ,x ) - h = 艺 w ix i - h ( 2 -2 ) j 二 1 其中、 二 ( ww 2 ,. . . ， w ) e r ” 为 权重向 量， w和h 是系统的 可调参 量。 如果 取 x , = - 1 . w , = h ， 则整合函 数 ( 2 - 2 ) 可 表示为 u ( x ) = 艺 w l x f 二 ( w ,x ) ( 2 - 3 ) 于是，感知器模型 ( 2 - 1 )表示为 g r ( u ( x ) ) = ( w , x ) -x , w e r (2 - 4) 在感知 器模型中， 运算函 数必 是 介于一 1 与 十 1 之间的单增函 数， 称之 为激活函数。激活函数ip 通常可取为如下三种类型，由此决定了神经元的 输 出特性。 1 .激活函数p 为符号函数 卜 1 , t lu ， 一 “gn lu ， 一 飞 一 1, u : 0 u 0 是 坡度系 数。 v (u ) = 典一 一 1 i + e x p 卜m ) ( 2 - 6) 电子科技大学博士学位论文 激活函数p 为分段线性函数 q,(-)一 二 z 1 z 1 1 一一 - 1 个感知 器， 其中 第k 个 感知器的 输出 为y k ， 对 于输入x r r , 每个 感知器有d 个输入u ; ( x ) , i 二 1 ,2 , - . .d 。 于是， 一 个单层 前馈网 络可表 示 为 yk(x)二 d4i wkjuji=o 小一1,2,一 ( 2- 1 1) 其中s) 为 激活函 数，w k = ( w y ， 一 ， w ;, ) cz r d 为第k 个感知 器的权 重u f (x ) 又 称为 基函 数，n o = 风 是 第k 个感 知器的阀 值， 而u , = - 1 e 记y k (x ) 为y k ( w k , x ) ，表示第 k个神经元当 权向 量为、g r d , 输入为 x e r 时 的 输 出 设 网 络 2 - 1 1 ) 的 训 练 数 据 集 为 。 = (， ，ta ) 。 = 1， ，n， 其中a 表示训 练数据的编 号， x e r ” 为 输入，t 0 e r 为 输出， 而片表 示第 k 个感知器的期望输出。基于该训练数据集的误差函数定义为 e (w)二 _12鑫 l_,w .k;x0)k-i一 、 y ( 2 - 1 2 ) 学习的目 标就是 求、( k = 1 ,2 , 。二 ， c ) 使误 差函 数e ( w ) 最小， 即 m in e ( ,v )0 ( 2 - 1 3) 记 u 0 = ( u r( x ) , u 2 ( x 0 ) , . . , u d (x a ) , 其 中a = 1,2 ， 二 ， n ，简记u 1 (x ) 为可， 而称 6 二 (u 0 ,t0 ) ! a 一 1,.,n 为。 的扩展 集考虑线形单 层前馈网 络，即 式 ( 2 - 1 1 ) 中的 激活函数(9 为恒 等映射。这时，误差函数 ( 2 - 1 2 )为 e (w ) e 合 y- y-: di w $l可一 tk ( 2 - 1 4) 则最优化 问题为 xn i n e (w )0 ( 2- 1 5) 电子科技大学博士学位论文 由多元函数取极值的必要条件，有 鄂一 。， “ = ，一 ; 一 “，”， ( 2 - 1 6) 由式 ( 2 - 1 4 )计算，可得 朗( w ) akj= n d 、 一tk)-)-岭 ( 2 - 1 7 ) 代入式 ( 2 - 1 6 )得 .l ( l w , u ;a =0 =, 一 “ j “ ， 一 v , ( 2 - 1 8 ) 或 l - ki又 l u i “， j - 艺 t , u a , k = 1, . . ， c ; i, j 二 0 ,1, - -, d . ( 2 - 1 9) 写成矩阵形式 ，为 w .( u t -u ) = t t . u ( 2 - 1 7) 司讨二衅 晰气二 rltlesesesesesl 一一 甲 由于u t u 是( d 十 1) x ( d 十 1 ) 阶矩阵，当其非奇异时，记 u * = u - ( u t - u ) 一 ( 2 - 1 8 ) 称为 u的广义逆。由 ( 2 - 1 7 )式有 w= t t u l ( 2 - 1 9 ) 如果u t - u 是奇异的，则定义 u = 黔u -( u t u + s i )一，( 2 -2 0 ) 其中i 为恒等矩阵， 可以证明该极限总是存在的。于是，由 此决定的 13 使 e( w ) 极小化。 在单层前馈网络中，基函数的个数随问题的维数呈指数增长，为解决 这一问题，导致了多层网络的研究。 第二章从人工神经网络到支撑矢量机 网络中分别有 d 个输入神经元、 m 个隐型神经元和 。 个输出神经元。 设 输入x d = ( x ,. . . . x d ) e r d , 隐 层神经 元的 激活函 数为t ， 第 j 个隐 神经元 的整 合函 数a j 和 输出 值z ， 分别为 a i = 艺弓)x ， 一 b i = 艺弓)x , ( 2 - 21 ) z ; = (p (a ; ) , j = 1 ,2 ,. . ., m. ( 2 - 2 2 ) 其中弓， 是第一层 权重矩阵w (i) =弓，) m d 中 第i 个输入元连接 到第.l 个隐 神 经元的权 重，马 是该隐 元的 阀 值， 记x 0 = - 1 , 嵘= 乞 ， 设输出 层的激活函 数为0 。 第k 个输出 元以: = ( z i z 2 0 - . , z m ) e r m 为 输入， 其整合函数瓦 和 输 出值y k 分别为 k 一 艺 嵘 z i ; . 0 y k = 乒 (风) ， k = 1 ,2 , , c ( 2 - 2 3 ) (2 - 24) 其中心， 是第二层权重矩阵n 2 =心 ) c *中第i 个输出 元的权重，记 z 。 二 一 1 , 城 护 = 瓦为 该输出 元的 阀 值。 由上述各式，得两层前馈网络的输出表达式 、 一嗯 w j?9,( lr wj l xt j