[硕士论文精品]rf功放神经网络建模的软硬件实现

东南大学硕士学位论文摘要摘要RF功放的线性化是设计WCDMA等第三代移动通信系统的关键技术之一。目前，相对于前馈和反馈等线性化技术，基带数字预失真技术是性价比较好的解决方案。在考虑记忆效应的神经网络基带预失真器的设计过程中，功放系统的建模是其关键技术。由于功放系统是一个复杂的带记忆效应的非线性时变系统，为了能够实现实时校正，采用级连相关算法进行在线神经网络建模。首先选用残差相关性判别方法来确定神经网络功放模型的结构和初始参数，然后使用带遗忘因子的递推最小二乘法对神经网络模型参数进行在线自适应调整。对实测数据的验证表明，建立的神经网络模型完全能达到给定的性能指标要求。本文首先介绍项目的背景和几种功放线性化方法，然后介绍了系统辨识和神经网络的相关知识，接着具体阐述本课题核心部分RF功放系统的神经网络建模以及相关DSP系统的硬件实现，最后对项目进行总结和展望。关键词功率放大器，神经网络，系统辨识，级连相关算法，DSP论文类型应用研究东南大学硕士学位论文ABSTRACTABSTRACTPOWERAMPLIFIERSPALINEARIZATIONISONEOFTHEKEYTECHNOLOGIESFORWIDERBANDWIDTHAPPLICATIONSSUEHWIDEBANDCODEDIVISIONMULTIPLEACCESSWCDMAATPRESE吐INCONTRASTWITHFEODBACKANDFEEDFORWARD,DIGITALBASEBALLDPREDISTORTIONISAHIGHLYCOSTEFFECTIVEWAYTOIMPROVEPOWERAMPLIFIERSNONLINEARCHARACTERISTICMODELINGPOWERAMPLIFIERISONEOFTHEKEYTECHNOLOGIESWHENWEDESIGNTHEPREDISTORTERTHEPASYSTEMISCOMPLEX,USUALLYNONLINEAR,TIMEVARYING，ANDHASMEMORYEFFECTTOREALIZEREALTIMEPREDISTORTERTHATPERFORMSWELL，CASCEDECORRELATIONALGORITHMISUSEDFORONLINEMODELINGTHENONLINEARCHARACTERISTICOFPAFIRST,RESIDUALCORRELATIONMETHODISUSEDTODETERMINETHESTRUCTUREANDINITIALPARAMETERSOFTHENEURALNETWORKMODELFORPOWERAMPLIFIERSYSTEM,THEN”MODELPARAMETERSAREONLINEEDJUSTEDWITHFORGETTINGFACTORRECURSIVELEASTSQUAREALGORITHMSFFLSAPPLICATIONSHOWSTHATTHENEURALNETWORKMODELREACHESTHEPERFORMANCEINDEXSATISFACTORILYFIRSTLYTHEDEVELOPMENTBACKGROUNDOFTHEPROJECTISINTRODUCEDANDSEVERALMEANSOFPOWERAMPLIFIERSIINEARIZATIONAREDISCUSSED,THELLTHEMLATODINFORMATIONOFSYSTEMIDENTIFICATIONANDNCORALNETWORKISINTRODUCED，ANDTHENMODELINGRFPAWHICHISTHEKEYPARTOFTHISPAPERISDISCUSSED，THENHARDWAREIMPLEMENTATIONOFSYSTEMWITHDSPISINTRODUCEDATLASTTHESUMMARYOFALLTHEWORKISGIVEN,ANDBESIDES，SOMEBENEFICIALEDVICESALEDISCUSSEDKEYWORDSPOWERAMPLIFIER,NEURALNETWORK,SYSTEMIDENTIFICATION，CASCADECORRELATION,DSPTYPEOFTHESISAPPLICATIONREARCHIL东南大学学位论文独创性声明本人声明所呈交的学位论文是我个人在导师指导下进行的研究工作及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不包含为获得东南大学或其它教育机构的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均己在论文中作了明确的说明并表示了谢意。研究生签名蓬叠室，日期J剑东南大学学位论文使用授权声明东南大学、中国科学技术信息研究所、国家图书馆有权保留本人所送交学位论文的复印件和电子文档，可以采用影印、缩印或其他复制手段保存论文。本人电子文档的内容和纸质论文的内容相一致。除在保密期内的保密论文外，允许论文被查阅和借阅，可以公布包括刊登论文的全部或部分内容。论文的公布包括刊登授权东南大学研究生院办理。缘上虹日期Z一；东南大学硕士学位论文第一章绪论11课题的研究背景及意义第一章绪论弟一早珀下匕自从1897年意大利科学家马可尼用无线电波成功实现信息的传输，人们就开始了对移动通信孜孜不倦的探索【1J。实现个人终端用户能够在全球范围内的任何时间、任何地点，与任何人、用任意方式高质量地实现任何信息的移动通信与传输也就成为人们不断追求的目标口J。在此过程当中，移动通信经历了从单基站大功率系统到多基站小功率蜂窝系统的演变，才从真正意义上走向商用化，给人们生产和生活带来了极大的方便。在短暂经历了以FDMAFREQUENCYDIVISIONMULTIPLEADDRESS模拟制式为特征的第一代蜂窝移动通信系统后，目前，国内大量使用的是以TDMATIMEDIVISIONMULTIPLEADDRESS为主的数字式第二代移动通信系统，主要提供语音和低速率的数据通讯业务。随着社会信息化的不断深入，图像、语音和数据相结合的多媒体业务和高速率的数据业务将会大大增加，人们对通讯业务多样化的要求以及个人通讯用户量都在与日俱增。第二代移动通信系统已经远远不能满足人们的通讯需求，新一代的移动通信系统也就成为世界各国通讯领域的研究熟点。截止到1998年6月30日，提交到国际电信联盟ITU的第三代移动通信无线传输技术共有LO种，其中国际上公认最具竞争力主要有两种即日本和欧洲提出的WCDMA技术和北美提出的CDMA2000技术。另外，我国也提出了具有自己知识产权的TDSCDMA31技术，并成为LTLJ认可的第三代移动通信无线传输的主流技术之一。第三代移动通信系统简称3G。早在20世纪末，欧洲、北美以及日本等发达国家和地区，已经在不断的试运营和改进各自提出的3G标准和网络系统。在我国，经国务院批准，科技部和信产部联合组织实施的中国第三代移动通信系统研究开发项目简称C3G也于1998年11月正式启动。华为技术、中兴通讯、大唐电信等著名通讯设备研制企业成为该项目的主要承担者，C3G项目组对WCDMA、CDMA2000以及TDSCDMA三种系统均有研发，企业之间各有侧重。无论采用哪种标准，均是以CDMACODEDIVISIONMULTIPLEADDRESS技术为主流，要求系统能够处理图像、音乐、视频流等多种媒体形式，提供包括网页浏览、电话会议、电子商务等多种信息服务，并能够提供全球漫游。所以3G将是一种通讯容量更大、通讯质量更好的移动通信系统。这是一种高频谱利用率、多载波、宽频带的通讯体制，加之调制过程中融入了16QAM十六状态正交调幅和QPSK等数字调制方式，由于这种数字调制产生的信号波形是非恒定包络的调相信号，很容易导致信号在传输过程当中的失真和信道之间的相互干扰，因而对发射信号功率放大的线性程度要求很高。由于系统采用了带宽受限的线性调制方式，邻信道载波间的频谱泄漏取决于功率放大器PA的线性，而实际的放大器总是非线性的，必须通过补偿功率放大器或采用线性化方法来改善PA的非线性，以控制邻信道的频谱泄漏。本课题涉及的射频RF功放就是为其中的WCDMA标准所设计。按照C3G的定义，WCDMA整个系统由3G交换机UMSC、基站控制器RNC、基站子系统NODEB和移动终端手机霄部分宝开成。RF功放象属丁其中的基站子系统。RF功放的线性化川是设计WCDMA基站的芙键技术之一。如果射频系统处于1R线性I什状态，将使通信系统产生非线性失真，产生的带内失真信号干扰己调制矢量信号，导致己调制矢量信号幅度和相位的偏差误差矢量幅度E，同时导致频谱扩展，干扰邻近信道的传输邻带功率比东南大学硕上学位论文第一章绪论ACPR，使整个系统的误码率恶化；另一方面多载波多信道同时工作，表现为多载波信号的相互交调产生的失真，这些失真信号分量主要有三阶IMD3、五阶IMD5以及更高阶的分量，其中IMD3信号幅度大，且落在频带内或邻近信道，对系统造成干扰，将无法达到系统要求。本课题就是致力于解决一种基于神经网络的基带数字预失真线性化方法的设计与实现问题，其中RF功放模型的神经网络系统辨识是本文的主要内容。12线性化技术简介提高系统的线性最传统而且最方便的方法是采用大功率放大器进行功率回退BACKINGOFF，使放大器工作在低于饱和输出状态或线性放大区。但是，采用功率回退方法时，电源利用效率一般仅为15左右，而且大功率器件只能输出很小的有效功率，其本身潜力不能充分发挥，因此损失了效率、功率输出和信息量处理能力，同时使整机成本急剧提高。因此，要获得效率高，线性度好的功率放大器，采用功率放大器的线性化技术无疑具有良好的前景。目前，主要线性化方法有反馈FEEDBACK、前馈FEEDFORWARD和预失真PREDISTORTION等技术。前馈法和反馈法，目前都已广泛应用，但在成本和效率方面不如基带数字预失真。因此数字预失真技术更有前景，已经成为对射频功放进行线性化的理想技术。121功率回退技术由于射频功率放大器的本身特性，随着输入功率的增加，放大器输出功率会进入饱和状态，也即放大器输出功率将不再随着输入信号功率的增加而增加，导致了非线性失真的产生。功率回退法简单来讲就是把功率放大器的输入功率从LDB最,缩点向厉回退几个分贝，让放大器工作在远小于LDB压缩点的电平上，使功率放大器远离饱和区，进入线性工作区，从而改善功率放大器的三阶交调系数等非线性指标。为了方便起见，这里先引入输入回退和输出回退两个参数，功率放大器的输入回退定义为BO10109一。只一。11输出回退定义为OBO10109P。,匕12其中只一。是功率放大器达到饱和时的输入信号功率，R一。是输入信号平均功率，JK是放大器最大输出功率，匕是放大器的平均输出功率，1BON0口0在一定程度上表征放火器的功率效率功率同遐法简单且容易实现，就是通过增人IBO来提高线性度，是传统的线性化方法，不需要增加任何附加设备，也是改善放人器线性度行之有效的方法，但其致命的缺点是功率放人器的效率人为降低，并且T一作带宽较窄。它是以放大器功效的降低为代价来换取线性化的方法，采用功率回退法可能会使放火器在自分之几的功效状态H上作。另外，当功率同退到一定程度，即当IM3达剑2东南大学硕士学位论文第一章绪论40DB以下时，继续回退将不再改善放大器的线性度。因此，在线性度要求较高的场合，完全靠功率回退是远远不够的IS。122笛卡儿环路反馈技术反馈线性化方法是一种十分传统而又实用的方法。由于引入了反馈，所以线性化的精度得以提高，人们很早就在这一方面做了大量的工作，许多低频模拟电路的线性化问题也大都采用了这种方法，它也是高频放大器线性化的重要手段之一。反馈方法可以分为直接反馈法和间接反馈法。由于直接反馈法是在反馈端让输入输出信号直接相减，输出信号对于输入信号会有一定的延时，因此在信号频率很高的情况下，这个延时的影响就比较大。此外直接反馈线性化法的稳定性条件比较苛刻，所以在大多数的情况下采用的是间接反馈法。在间接反馈线性化方法中输入输出信号的比较不是直接比较的，而是通过间接手段进行的，笛卡儿CARTESIAN环路反馈法就是一种比较成熟的间接反馈控制方法。笛卡儿环路反馈法原理如图11所示。如果所要调制的信号处于基带，那么根据数字通信的有关原理，我们可以把输入信号分解为两个正交信号分量I、Q，两者相位相差90度。笛卡几环路法的基本原理就是分别对I、Q两路信号加以控制，以获得更为优良的线性度。图11笛卡儿环路反馈线性化方法原理图基带信号1、Q输入端的放大器为差分放大器，低通滤波器的作用主要是滤除高频分量，当1、Q信号分别进入调制器以后，经调制器产生了射频信号ST，在这里SFTLTEOSOTQTSINCOT13其中缈为射频载波频率。SF进入射_兜放人器PA以后，由丁什线性将会产生畸变，畸变后的信号经耦合器抽取了一部分，再经衰减解调后，返闸到输入端的差分放大器，这样就使得反馈环能够比较东南大学硕士学位论文第一章绪论精确的跟踪输出I、Q的失真变化。笛卡儿环的优点之一就在于它把增益和带宽在两个正交的信道中分别处理加以平衡，这样就避免引入相位偏移，但是，笛卡儿环路的增益及带宽又取决于差分放大器的带宽以及解调器的线性度。另外，回馈信号的迟延也严重的限制着该方法的系统带宽，因此在要求更高带宽的今天，该方法己逐渐不太适用PJJ。优点良好的线性度提高性能，效率比较高。缺点较宽频带应用时稳定性实现困难，信号迟延对性能影响很大，需要高线性度的混合器。123前馈线性化技术前馈线性化技术一般可分为固定前馈线性化技术和自适应前馈线性化技术。图L2为一简单的前馈线性化技术电路原理图，如图所示，前馈线性化电路系统一般有两个环路组成，一个称为输入信号抵消回路，另一个称为干扰信号抵消回路。在输入信号抵消回路中，把非线性功率放大器输出的信号取出一路，并经适当的衰减和调节，同时也在放大器的输入端把输入信号取出一条支路，并经适当的延时，用经过衰减处理的功率放大器输出信号减去延时过的输入信号，把功率放大器产生的失真信号从放大器输出端分离出来，得到的就是放大器产生的纯干扰信号，并且另外一个辅助放大器放大该干扰信号，然后用此干扰信号来校正主放大器产生的有干扰存在的非线性输出信号的相位、幅度，也即用第一个输入信号抵消回路分离出的纯干扰信号，在干扰信号抵消回路中对延时处理的主功率放大器的输出信号进行叠加抵消，来实现失真的消除，从而达到整个系统输出线性化的目的。图12前馈法原理方框图前馈线性化技术系统中，衰减器是可调的，可以进行相位偏移的调节以及衰减大小倍数的调节。前馈线性化系统性能上很大程度取决于两个前馈环路中参与抵消的两个信号的幅度和相位调整的精确度，用来抵消的信号幅度和相位的不正确调整会导致失真抵消性能急剧下降。而且由于信号幅度和相位会随时间的推移而改变，因此，在性能指标要求比较高的场合的应用上，就要使用自适应机制对环路进行相应自适应的调整和控制。如果能够把迟延误差控制在相当载波信号一个波长的程度内，单级前馈环路人约能迭F130DB的火寅抑制。如果使用多级结构，可以达剑更高线性度的要求，但是这样义使得环路中的调仃控制变的更加复杂。这也十分符合实际情况，一个方面的获得，总要在另一方面为此付出一定的代价。4东南大学硕士学位论文第一章绪论总的来说，前馈线性化技术是一种很实用的线性化技术，它还有线性化带宽不太受前馈环路限制这一优点，特别适合于宽带应用和多载波应用，也是目前最成熟、应用最广泛的技术，同时为了达到更高线性度的改善目的，它也易于扩展成多级结构，但此时其成本和系统复杂度就要比预失真线性化系统高很多。特点总结如下应用得当的话可以有效消除IMD达30DB以上，基本不受放大器记忆特性影响，适用带宽比较宽。由于干扰信号抵消回路的信号峰平比很高，所以干扰信号抵消回路很关键，系统复杂，成本高PJ。124预失真技术预失真技术是目前最有前景的一种线性化方法，其基本原理如13所示。这种方法是在非线性功率放大器前端放置一个非线性单元特征酗数为F日5，1，特性曲线如图中A，这样只要这个非线性器件的特性曲线A与功率放大器特征函数为GB，1的特性曲线B互补，即，IJ加G1S，1K常数，就基本可以实现功放的线性化。其最初的基本思想来自于数学上的反函数思想，构造一个非线性器件，使该器件的传输特性刚好和非线性放大器的传输特性相反，信号预先经过这样的一个人为的非线性失真处理后，再经非线性放大器进行放大。由于预先进行的人为失真是可以控制的，我们可以调节使之特性刚好与非线性放大器的特性相互补，达到线性化放大的最终目的。该方法的工作原理正如同该方法的名字一样，对信号预先进行人为的失真处理来达到线性化的目的。输图13预失真原理示意图一般来讲，预失真技术分为RF预失真和数字基带预失真两种基本类型。RF预失真由于工作频点高，般常采用模拟电路来实现，具有电路结构简单、成本低、易于高频、可宽带应用等优点，缺点是频谱再生分量改善较少、高阶频谱分量抵消较困难。基带预失真由于工作频率低，适合TLF；J数字电路实现，便于采_【LJ目前发展迅速的数字信号处理技术，适府性强，而且可以通过增加采样率平增人茸化阶数的办法来抵消高阶互调人真。但放人器对信号幅度压缩和相位的偏移不仅仅是输入信号功率的即时函数，还一定程度上取决丁上一个短暂的历史包络电平，所以存在着一定的记忆效应，这一点必须加以考虑。由于受DSP秆IAD转换的限制，基带预失真L作带宽受剑一定限制，另外DSP和AD转换器件会消耗更多的功率，以及系统成本比较东南大学硕士学位论文第一章绪论高等都是这种方法的不足之处。但是随着数字信号处理技术的发展，这些问题会得到解狭，预失真仍然是一种很有发展前途的方法IL“J。预失真的特点概念原理清晰，广泛采用数字信号处理技术，线性度的提高性能良好，较高功效，适合宽带的应用，系统稳定性好。但调整速度不够快，存在记忆效应，需要良好的放大器模型。自适应数字预校正数字预校正技术有很多不同的方法，但其基本原理都是一样的，如上文所述，均是在非线性功放发射器前放置一个非线性单元，这样只要这个非线性器件的特性曲线与功率放大器的特性曲线互补，就基本可以实现功放的线性化。但由于放大器的特性会随着时间、温度、环境、以及信号本身的变化发生一定的变化，如果我们再从放大器的输出端把待发射的射频信号提取一部分反馈回来，再经下变频、正交解调，然后AD变换成数字基带信号，并与经过一定延迟的原输入信号进行比较，采用自适应算法来调整预失真器的参数，使得预失真器能够实时的自适应跟踪放大器特性的变化。这样就能够很好的克服放大器特性变化这一问题，提高校正的精度，使放大器有更好的线性输出。这也恰恰是自适应数字预校正技术优于其他线性化方法的一个重要方面。自适应基带数字预校正方法的原理方框图如图14所示图14自适应基带数字预校正的原理框图特点对放大器适应性强，自适应学习能力强，性能好，较复杂、带宽仍受限等。数字预失真技术可以有非记忆效应1121和记忆效应【13，”1两种实现方式。虽然非记忆效应预失真技术相对简单，实现也比较方便，但是，由于没有考虑射频系统的记忆效应，使得带宽和改善效果都受到了影响。记忆效应一般有以下来源。首先，功放本身肯定会有热记忆效应和电记忆效应；其次，由于预失真电路位于基站的中频部分，通常位于下行通道的成形滤波器和上行通道的匹配滤波器之间，而这些滤波器都是有记忆效应的。事实上，在我们对基站数据的分析也发现，上行的I和Q信号不仅受当前时刻F行的IIIQ信号的影响，而且受以前时刻的F_L和O掣号的影响也很大，这说明射频系统的记忆效麻是很明显的。冈此设计数字预失真器时如果不考虑记忆效麻，不管采埘何种逼近方案多项式、神经网络、有表法等，效果都将不能令人满意。6东南大学硕士学位论文第一章绪论125小结功率放大器线性化几种主要方法的比较列于表1，它们有各自的特点，适用于不同的情况，当然还有许多其他未列出的方法，如非线性器件线性化技术、模拟闭环通用调制器CALLUM技术、极化环技术等等方法。在这些方法中应用比较多的还是反馈、前馈和预失真等三种方法，其中闭环系统更适用于单一信道、窄带通信的情况；至于前馈线性化方法，有时候为了更高的性能要求，要采用多级结构，这样网络的构成就比较复杂和庞大化，以至效率变得低下。而数字预失真技术则是能够完全适应IMT2000第三代移动通信系统的高精度、高频率以及较高带宽的要求，是移动通信基站的发射接收系统以及手持移动便携设备发射接收系统中放大器线性化的重要手段。这种方法也正是本文所要研究和仿真的线性化技术。表1各种线性化方法性能特点一览表方法优点缺点使用情况各注功率回退技术实现简单效率极差较早应用逐渐破淘汰笛卡儿环路反精度高，价格便有时不稳定，适窄带通信、无线应用较多馈技术宜用带宽受限移动通信前馈线性化技稳定性好，适用结构复杂，效率宽带无线通信，较成熟、目前广术带宽很宽，线性不够高，自适应卫星通信等为应用度好，速度快差，成本高数字预失真方无稳定性问题速度有时较慢，宽带数字通信目前已有应用、法适用带宽宽受到放大器记忆前景晟看好精度比较高特性影响13课题来源本文结合项目组所承担的华为技术有限公司应用技术预研项目基于神经网络逆模型控制的RF功放自适应预失真器，在对RF功放系统菲线性充分认识的基础上，采用带记忆效应的预失真技术来实现基站系统的线性化，主要对RF功放正模型的建立进行研究、设计与实现。14论文的主要研究内容在设计预失真器过程中，对射频功放的模型辨识是非常重要，也是非常复杂的一项工作，我们必须根据相关的数据，辨识山功放的LL模掣，然后才可以根据一定的原理年|I方法，得剑功放的逆模犁，便丁实现预失裒器。另外由于没有实际的被控对象，对设计的预失吏器性能进行测试时，拟采用图15的方法。其中的功放模犁即为神经网络功放正模型，用于代替实际的射频系统。所以本文的主要内容是RF功放止模型的辨识。7东南大学硕士学位论文第一章绪论图15性能测试原理图其实，对于射频系统这类带记忆效应系统的建模和逆模型控制，传统的神经网络非线性系统辨识和基于逆模型的神经网络直接控制提供了极好的解决方案。从控制系统的角度看，整个预失真系统就是一个典型的2输入2输出随动控制系统，其中RF功放就是一个被控对象，预失真器就是控制器。从这个意义上说，许多基于模型的控制器，如神经网络逆模型控制器、日。控制器等，均可作为预失真器。这些方法能成功应用的前提就是建立准确的功放模型。而由于基站I诤功放系统是一个复杂的时变系统，为了满足性能要求必须进行在线建模。由于BP神经网络在实现函数逼近方面存在收敛速度慢，易于陷入局部极小等缺点，相反CC算法由于具有“冻结”输入权值的优点，使得隐节点增加时，不必再重新计算输入权值，所以其学习速度很快，完全能够满足本文功放系统建模的性能要求。于是我们选用CC算法神经网络来完成系统建模。由于在软件仿真建模过程中，复杂的算法运行需要耗费很多的时间，使得其实时性受到一定的影响。为了使本文所提出的建模方法具有一定的通用性，所以在完成软件仿真建模的基础上，决定采用DSP技术来完成其硬件实现，以便预失真器设计工作的顺利进行，并提高其实时性及通用性。本文的第1章是绪论部分，主要介绍课题的背景及意义、几种功放线性化技术以及本论文的任务阐述；第2章主要介绍了神经网络和系统辨识的相关知识；第3章阐述本课题核心部分RF功放系统的神经网络建模；第4章介绍相关DSP系统的硬件实现；第5章是项目总结及其展望；最后是致谢和参考文献。东南大学硕士学位论文第二章基于神经网络的系统辨识第二章基于神经网络的系统辨识21神经网络概述随着80年代神经网络理论突破性进展，神经网络控制引起了控制界的广泛关注。由于系统的复杂性，存在多种不确定性及难以确切描述的非线性。现代工业对过程控制不仅要求控制的精确性，还要求控制的鲁棒性、实时性、容错性及对控制参数的自适应和学习能力。传统自适应控制存在局限性，未能从根本上解决控制问题，所以智能控制得到迅速发展。神经网络在系统辨识、控制系统、模式识别、故障诊断等方面得到了广泛的应用。神经网络之所以能在控制中得到如此广泛的应用，与自动控制理论的发展需要是密切相关的。自动控制理论从经典控制理论到现代控制理论，已经发展到对智能控制理论的产生提出了需求。传统的基于串行计算机理的VONNEUMANN型计算机面对复杂的智能控制要求，在对环境变化的自适应特性和实时大规模计算等方面已显示出根本性的缺陷，而人工神经网络所表现出的许多特点恰好预示着其在控制领域中的应用可能是使控制理论摆脱困境的一条有效途径，神经网络用于复杂控制主要有以下几个方面的优势1神经网络是本质的非线性系统。理论分析表明，多层前馈神经网络能够以任意精度逼近任意非线性映射，这种能力使非线性控制系统的描述有了统一的数学模型，给控制理论中面L性挑战的非线性问题的解决带来了新希望；2神经网络是本质的并行结构，在快速实现大量复杂控制算法及处理实时性要求高的控制系统时极具潜力。可以预料，只要并行机制的神经计算机取得突破，目前遇到困难的航天、航空方面的许多实时控制问题，机器人的动力学实时控制问题都可迎刃而解3神经网络的固有学习能力使它可以处理那些难以用模型或规则描述的过程或系统，降低了系统的不确定性，带来了适应环境变化的泛化能力；4神经网络具有分布式信息存储与处理结构，可以从不完善的数据和图形中进行联想，从而在已存储的信息中寻找与该输入匹配最好的存储信息为其解，这种能力使其用于控制系统中具有很强的鲁棒性和容错性；5神经网络具有很强的综合推理能力，能够同时融合定量与定性数据，能很好地解决输入信息之间的互补性与冗余性问题，并能恰当地协调互相矛盾的输入信息。由于神经网络这种“集思广益”的能力，使其在多变量、大系统与复杂系统的控制方案设计上的应用极具吸引力；6对多变量系统，神经网络可以很自然地处理多输入多输出变量问题。基于上述优势，可以肯定神经网络在解决高度非线性和严重不确定性复杂系统的控制方面具有巨大的潜力。将神经网络引入控制系统已成为控制学科的必然趋势”。211神经网络简介“神经网络”或“人神经网络”是指刚大量的简单计算单元即神经元构成的非线性系统，它在一定稃度和层次上模仿了人脑神经系统的信息处理、存储及检索功能，因而具有学习、记忆和计9东南大学硕士学位论文第二章基于神经两络的系统辨识算等智能处理功能。神经网络具有一些显著的特点具有非线性映射能力；不需要精确的数学模型；擅长从输入输出数据中学习有用知识容易实现并行计算；由于神经网络由大量简单计算单元组成，因而易于用软硬件实现等等。正因为神经网络是一种模仿生物神经系统构成的新的信息处理模型，并具有独特的结构，所以人们期望它能解决一些用传统方法难以解决的问题。212神经网络特点众多的神经元广泛地连接就构成了神经网络，总结起来，神经网络系统具有以下基本特性A分布存贮彝容错性。信息在神经网络内豹存贮是按内容分布于许多神经元中进彳亍的，而且每个神经元存贮多种信息的部分内容。网络的每部分对信息的存贮具有等势作用，这类似于全息图的信息存贮性质，部分的信息丢失仍可以使完整的信息得到恢复，因而使网络具有容错性和联想记忆特性。也正因为如此，人脑和数字计算机相比分别表现出明显的健壮性ROBUST和脆弱性BRITTLENESS。B可塑性与白适应性和自组织性。神经元之间的连接具有多样性，各元间的连接强度具有可塑性，相当于突触传递信息能力的变化。这使得网络可以通过学习与训练进行自组织，以适应不同信息处理的要求。C并行处理PARALLELPROCESSING性。网络的各单元可以同时进行类似的处理过程，整个网络的信息处理方式是大规模并行的。传统数字计算机则是信息处理算法串行的。网络的大规模并行处理能力，使它能神奇般地完成所谓“百步程序”决策，因为单个神经元的信息传递速度是以毫秒计的，比普通计算机约104S要慢得多。但人通常能在LS内即可做出对外界事物的判断和决策，这正是传统计算机所望尘莫及的。D层次性。神经生理学研究表明，各种感觉信息进入大脑后，首先在相应初级皮层进行加工，然后转到次级皮层和感觉联合区，再于颅顶区皮层汇合，最后投射到大脑前额叶。这表明信息在大脑内的传递过程，实际上是在不同层次的神经回路中逐级地进行加工和处理过程。213神经网络学习方式通过向环境学习获取知识并改进自身性能是神经网络的一个重要特点，在一般情况下，性能的改善是按某种预定的度量通过调节自身参数如权值随时间推移逐步达到的，学习方式按环境所提供信息的多少分有三种1监督学习有教师学习如图21所示，这种学习方式需要外界存在一个“教师”，它可对一组给定输入提供应有的输出结果正确答案。这组已知的输入一输出数据称为训练样本集。学习系统可根据己知输出与实际输出之间的差值误差信号来调节系统参数。21R监督学习无教师学习如幽22所示，1F监督学习时不存在外部教师，学习系统完全按照环境所提供的数据的某些统计规律来调节自身参数或结构这是一种臼组织过程，以表示外部输入的某种固定犄祉如聚类，或某种统计上的分布特征。IO东南丈学硕士学位论文第二章基于神经网络的系统辨识3再励学习或强化学习如图23所示，这种学习介于上述两种情况之间外部环境对系统输出结果只给出评价奖或惩而不是给出正确答案。学习系统通过强化那些受奖励的动作来改善自身性能。描述环境状图21监督学习框图图22非监督学习框图22系统辨识概述图23再励学习框图系统辨识是控制理论研究的一个重要分支，它是控制系统设计的基础。随着控制过程复杂性的提高，控制理论的应州日益J泛，但是，控制理论的实际麻川不能脱离破控对象的数学模刑。然而在多数悄况F，被控对象的数学模型是朱知的，并且住上常运行期间，模型的参数可能发生变化，囡此利璀控制理论去解决实际问题时，首先必须建立被控对象的数学模础，这是控制理论能否成功应阁于实际的关键之一。目前对线性、非时变和具有不确定参数对象进行辨识和白适应控制研究东南大学硕士学位论文第二章基于神经网络的系统辨识己取得了很大的进展，对于非线性系统的辨识和自适应控制问题，往往需要有关被辨识系统的结构形式等各种先验知识和假设，因此，它们基本上是针对某些犄殊非线性系统而进行的。神经网络领域取得的研究成果，给非线性系统辨识带来了新方法。因此，人们常依据试验的方法，从试验数据中建立能反映系统输入一输出关系的模型。用这种方法得到的模型，其参数可能不具有明确的物理意义然而这并不影响我们利用该模型进行控制系统的设计【17,|8,19。221系统辨识的基本理论和方法LAZADEN曾给辨识这样定义“系统辨识是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。”这个定义明确了辨识的三要素输入输出数据、模型类和等价准则。由于实际中不可能寻找到一个与实际系统完全等价的模型，因此从实际观点看，辨识就是从一组模型中选择一个模型，按照等价准则，使之最好地拟合所关心实际系统的动态和静态特性。传统的系统辨识结构如图24所示，图中伪干扰信号，系统辨识就是根据系统的输入黼出数据对UY，利用数学方法提取系统P的数学模型P。，并且使式PITYYLIG成立，式中Y，Y分H别为辨识模型和系统对输入U的输出响应，F为预定的辨识精度。图24传统的系统辨识结构传统辨识算法的基本原理是通过建立依赖于参数的模型，把辨识问题转化成对模型参数的估计问题。这类传统的辨识算法能较成功地应用于线性系统或可线性化的系统辨识中，按照其基本原理，主要有三种不同的方法第一种称为最小二乘法。它利JJ最小二乘原理，通过极小化广义误差的二次方和函数来确定模型的参数。最小二乘法具有两方面的缺陷1当模掣嵫声是有色噪声时，最小二乘估计不是无偏、一致估计。2随着数据的增K，最小一乘法将山现所谓的啮据饱霸|，现象。第一二种称为梯度校正法。它利埘最速下降法原理，沿着误差准则函数关丁模氆参数的负梯度方向，逐步修改模型的参数估计值，直到误差准则函数返剑最小值标准。其缺点是在极小值附近，收12东南大学硕上学位论文第二章基于神经网络的系统辨识敛速度很慢。第三种称为极大似然法。它根据极大似然原理，通过极大化似然函数来确定模型的参数。这意味着模型输出的概率分布将最大可能地逼近实际系统输出的概率分布。为此，极大似然法通常要求具有能够写出输出量的条件概率密度函数的先验知识。另外系统模型结构的辨识，即模型阶次的辨识也是系统辨识的一个重要方面。通常单输入单输出系统的模型结构辨识的方法有第一种为基于行列式比的方法，包括脉冲响应序列权序列的行列式比法，输入、输出数据的行列式比法；第二种为基于误差性能准则函数损失函数的方法，即F检验法；第三种为基于信息准则判定模型阶次的方法，即AIC定阶法。多输入多输出系统的模型结构取决于一组KRONEEKER结构不变量，因IP2VIIMO系统的结构辨识问题比较复杂，需要确定一组结构不变量。但是就方法而论，MIMO系统的结构辨识类似于SISO系统的结构辨识。222误差准则误差准则也称为等价准则，用以衡量模型接近实际系统的标准，记为，E去E2T21K0K0山式中，EK是定义在【0，L上的误差函数，它可以广义地理解为模型与系统的“误差”，可以是输出误差、输入误差或者广义误差。223辨识精度基于输入输出数据，利用辨识方法得到的模型，仍有误差，其原因是1假定的模型结构只是实际系统的一种近似；2数据受随机噪声污染；3数据长度有限。因此，需要对辨识结果的精度进行评价，若精度达不到要求，则应从改变模趔结构、采样周期、辨识时间等方面考虑，再进行辨识。224辨识的主要步骤辨识的土要步骤如H1实验设计实验设计的目的。是使采集到的输入输出数据序列，尽可能多的包含系统特性的内在信息。东南大学硕士学位论文第二章基于神经喇络的系统辨识实验设计所需确定的问题是输入信号幅度、频带等、采样周期、辨识时间数据长度、开环或闭环、离线或在线等。其中输入信号需满足的条件为在辨识时间内，系统的动态必须被充分地激励，即输入信号必须激励系统的所有模态；激励时间必须足够长，否则，来不及达到基本的匹配；为保证辨识的精度输入信号需有良好的质量。常用的输入信号有白噪声序列，其中O。1均匀分布与正态分布的随机数常用；二进制伪随机码序列M序列与逆M序列。2模型结构辨识模型结构辨识，就是确定模型类，是利用已有的知识，进行具体分析，确定模型的结构。应该用尽可能简单的模型来描述待辨识系统。3模型参数估计在模型的结构确定后，其中未知的部分就需要通过实验数据去“估计”。参数估计的要求就是辨识出来的模型与实际过程在某种意义上是最接近的。“接近”是用一个准则来衡量的，通常衡量在同样输入时模型输出与实际过程输出之间的误差大小。4模型的检验一个模型被辨识出来之后，是否可靠，或者是否真实反映对象的特性，是需要检验的。如何检验一个已得到的模型，至今未有很好的解决办法。应该说，模型好坏主要由实际应用效果来鉴定。为了得到可靠的数学模型，需要进行多次试验。检验的方法可以利用在不同时间区段内采集的数据，分别建立模型，如果模型的特性基本相符，则模型是可靠的。特别重要的是一套数据某工况下得到辨识出来的模型，需要用另一套数据另工况下得到来验证或修改。如此交错地核对，才可能使模型的质量得到保证。传统的系统辨识必须考虑模型选择、输入信号和误差准则三方面的问题，而其中模型选择比较复杂且无一般的选择规律。目前的做法是依赖于模型的用途，兼顾其精确性和复杂性等问题权衡来选择。传统系统辨识算法的基本原理是通过建立依赖于参数的挨型，把辨识闻题转化为对模型参数的估计问题，这类算法能较成功地应用于线性系统或可线性化系统的辨识。但是传统的辨识方法对于一般非线性系统的辨识是很困难的，而神经网络则提供了一个有力的工具。神经网络系统辨识实质上是选择一个适当的神经网络模型来逼近实际系统。由于神经网络对非线性函数具有任意逼近和自学习能力，所以神经网络系统辨识为菲线性系统的辨识提供了一种筠单丽有效的一般性方法。225系统辨识的主要应用系统辨识在工业领域有着广泛的应用；1用丁二控制系统的设计和分析，利用辨识方法获得被控过稃数学模犁之后，以此模型为基础可以设计山比较合理的控制系统或川丁分析原有控制系统的性能，以便提出改进；2川丁在线控制，建立在线控制对象的数学模型，不断调帮控制器的参数，可以获得较好的控制敛果3用于天气、水文、人口、能源、客流量等问题的预报预测。其基本思想是，在模型结构确J4东南大学硕士学位论文第二章基于神经网络的系统辨识定的条件下，建立时变模型，并预测时变模型的参数。然后以此为基础对过程的状态进行预报；4用于监视过程参数并实现故障诊断，许多生产过程希望经常监视和检测可能出现的故障，以便及时排除。这意味着不断地从过程中收集信息，推断过程动态特性的变化情况，然后根据过程特性的变化情况判断故障是否发生、何时发生、故障大小、故障位置等。23神经网络系统辨识随着人类社会的发展和进步，越来越多的非线性现象和非线性系统己经引起人们广泛的重视。在社会科学和自然科学领域已投入相当多的人力和物力去观察、研究有关的非线性问题。对于像基站子系统中RF功放这样的本质非线性系统，上述的传统辨识算法难以付诸应用，因为这类系统对应的模型很难化为最小二乘格式即关于参数空闻的线性模型，而神经网络应用于系统辨识的一个优点就是不需要预先建立实际系统的辨识格式，它对系统进行辨识是通过直接学习系统的输入，输出数据，以达到使所要求的误差准则函数最小的目的，从而归纳出隐含在系统输入，I出中的关系，这个关系即描述系统动态或静态的算子P，P隐含在神经网络内部，它究竟表现为什么样的形式，对外界是不可知的，况且人们所关心的并不是神经网络以什么样的形式去逼近实际系统，而是只要种经网络的输出能够逼近系统在同样的输入信号激励下的输出，则认为神经网络已充分体现出实际系统特性，从而完成了对原系统的辨识。神经网络用于系统辨识的实质就是选择一个适当的神经网络模型来逼近实际系统。与传统基于算法的系统辨识一样，神经网络辨识同样也需要首先考虑以下因素1模型的选择模型只能是在某种意义下对实际系统的一种近似描述，它的确定要兼顾其精确性和复杂性。因为如果要求模型越精确，模型就会变的越复杂，相反如果适当降低模型的精度要求只考虑主要因素而忽略次要因素，模型就可以变得简单些，所以在建立实际系统的模型时，存在精确性和复杂性这一对矛盾。在神经网络辨识这一问题上主要表现为网络隐层数的选择和隐节点数的选择。由于神经网络隐节点的最佳选择目前还缺乏理论上的指导，因此实现这一折中方案的唯一途径是进行仿真实验。2输入信号的选择为了能够精确有效地对未知系统进行辨识，输入信号必须满足一定的条件。从时域上来看，要求系统的动态过程在辨识时间内必须被输入持续激励，即输入信号必须充分激励系统的所有模态；从频域来看，要求输入信号的频谱必须足以覆盖系统的频谱。通常在神经网络辨识中可选用白噪声或伪随机信号作为系统的输入信号。3误差准则的选择误差准则是用来衡量模型接近实际系统程度的标准，它通常用一个误差泛函，记作EW以PT22下式中厂是误著久草EK的函数，HJ得最多的是平方函数，即FIEK恢矧23这里的误著PT指的是广义误差，既可表示为输出误差又可表示为输入误差甚至是两种误差函数的东南大学硕士学位论文第二章基于神经网络的系统辨识合成。与传统的基于算法辨识方法比较，神经网络系统辨识具有如下特点1不要求建立实际系统的辨识格式，即可省去系统结构建模这一步。因为神经网络本质己作为一种辨识模型，其可调参数反映在网络内部的权值上；2可以对本质非线性系统进行辨识。辨识是通过在网络外部拟合系统的输入输出特性，在网络的内部，归纳隐含在系统输入输出数据中的系统特性来完成的。因此辨识是非算法式的，由神经网络本身体现；3辨识的收敛速度不依赖于待辨识系统的维数，只与神经网络本身及其所采用的学习算法有关，而传统的辨识算法随模型参数维数增大变得很复杂；4神经网络具有大量连接，其连接权的权值在辨识中对应于模型参数，通过调节这些参数可使网络输出逼近系统输出5适于多变量系统，神经网络的输入、输出变量的数目是任意的，对单变量系统与多变量系统提供了一种通用的描述方式，不必再考虑各子系统间的解耦等问题。因此它应用起来更为方便；6神经网络作为实际系统的辨识模型，实际上也是系统的一个物理实现。可以用于在线控制。231常用于辨识的神经网络神经网络可以有多种分类方法，从网络结构上一般分为前向神经网络和反馈神经网络【161。前向神经网络是一种静态映射网络，而反馈网络是一种动态网络。2311前向神经网络前向神经网络也称多层前向网或简称前馈网络，是指拓扑结构为有向无环图的神经网络由一层或多层非线性处理单元组成，相邻之间通过突触权阵连接起来，网络中前一层的输出作为下一层的输入没有反馈。前向网络可以看成是一种一组输入模式到一组输出模式的系统变换。这种变换通过对菜一给定的输入样本相应的输出数据集的训练得到。为了能够实现这一行为网络的突触权系数阵在某种学习规则的指导下进行自适应学习，通常情况下，前馈网络的训练需要一组输入输出样本集，因此这种学习方法又称为有导师指导学习。图25至28所示为常见的前向神经网络。工L而幽25两层感知器网络图25所示为两层感知器网络，该网络只有输入层和输出层，其中输出层神经元为计算节点J6东南大学硕士学位论文第二章基于种经网络的系统辨识其基函数取线性函数，激活函数取硬极限函数。该网络一般用于线性分类。五1而H图26多层感知器网络，LJRT，图26所示为多层感知器MLP网络，该网络有一个输入层、一个输出层和多个隐层，其中隐层和输山层神经元为计算节点。多层感知器的基函数取线性函数，激活函数可以取多种形式。如果所有的计算节点都取硬极限函数，则网络称为多层离散感知器；如果所有的隐层节点都取SIGMOIDAL函数，则就是所谓的BP网，此时网络权值和阂值可用误差反向传播学习算法即BP算法学习。BP网输出节点的激活函数根据应用的不同而异如果BP网用于分类，则输出层节点一般用SIGMOIDAL函数或硬极限函数；如果BP网用于函数逼近，则输出层节点应该用线性函数。吒而X图27径向基函数神经网络图27所示为径向基函数RBF神经网络，该网络有一个输入层、一个隐层和一个输出层，其中隐层和输出层神经元为计算节点。RBF网的隐层单元的基函数取距离函数，激活函数一般取高斯函数类似与多层感知器，如果RBF网用于分类，则输出层节点一般用SIGMOIDAL函数或硬极限函数；如果多层感知器用于函数逼近，则输出层节点应该_Q；|线性函数。东南大学硕十学位论文第二章基于神经网络的系统辨识ZL而Z，、一厂心。JIII图28级连相关神经网络图28所示也是一种著名的前向神经网络，称为级连相关神经网络，该网络可以用级连相关算法实现快速训练，关于CC算法的相关内容，在以后章节中有详细介绍。231,2反馈神经网络反馈神经网络是指拓扑结构中有环路的神经网络。最著名的反馈神经网络是HOPFIELD神经网络，如图29所示。HOPFIELD网络的基函数取线性函数，激活函数可以取SIGMOIDAL函数构成连续状态HOPFIELD网络或便极限函