基于聚类分析和LSSVM的非线性系统辨识.doc

： 象分析，对输入空间进行划分，从而确定：偷那凹峁梗詈蟛捎肔 甌甌甌琣 数学模型的精确建立是进行非线性系统分析的前提条件和必备基础。建立数学模型大体上有两种方法：一是机理分析方法，根据对控制对象具有的特征的认识，分析对象之间的因果关系，利用已知的相应定律、定理或原理，找到反映内部机理的规律，从而推导出系统的数学模型。二是系统辨识方法，把控制对象看做是一个“黑箱”系统，内部机理是不透明的，可以把系统多次测量的输入和输出数据做为基础，然后利用统计分析方法，依据先前确定的准则函数在某一类模型中进行数据拟合，选取出拟合最佳的数学模型。系统信息机理分析的方法主要利用系统运行和实验得到的准确数据来获得系统信息，该方法忽略了一些特定的信息，如一些先验知识等，而系统辨识方法克服了该缺点，并且系统辨识方法的理论基础已逐渐成熟地应用到很多方面。传统的系统辨识方法主要是把最小二乘法和脉冲响应作为基础的算法，梯度估计算法和极大似然法等。基于最小二乘法的系统辨识是不能直接应用于动态系统预测中的，并且传统辨识方法广泛存在不能使全局达到最优值的弊端，针对传统的辨识方法存在的弊端和不足，神经网络、遗传算法、模糊理论和支持向量机等知识应用到了系统辨识中，出现了神经网络辨识法、遗传算法辨识法和模糊逻辑系统辨识法，但这些算法在计算速度、收敛性、理论基础要求等方面存在缺点。针对现有的辨识算法存在的缺点，本文中将研究最小二乘支持向量机的辨识算法。 的辨识算法进行辨识，达到逼近实际的非线性系统的目的。于同类的事物进行区别，是数据挖掘的一个重要方法，属于统计学中的多元统计分析的重要研究课题。聚类分析在模式识别的领域是非监督模式识别方面值得钻研的内容之 系统辨识的步骤如图所示。 系统辨识是一个过程，即从系统的测试得到的输入输出数据对数学模型进行提取。实验设计就是为了使系统特性的内在信息尽量多地被包括在通过训练得到的数据序列中，为了防止输入输出数据含有的直流噪声或高频噪声，或者由于数据采用了不同阶次，可能导致的错误辨识结果，因此，用于辨识的数据必须经过数据处理，以提高模型辨识的精度。确定模型结构其实是对模型结构的初步选取和确定模型结构中的参数。模型验证是辨识中不可或缺的步骤之一，若模型检验不合格，则需要重新确定模型结构和模型参数；若验证合格，则获得系统最终模型，结束系统辨识。系统辨识关键步骤是选取合适的辨识方法对模型参数进行分析估计，传统系统辨识 第一章绪论惴，种多分枝的神经网络模型，该模型可以用来辨识多输入多输出的动态系统：另一种 论文各章节内容安排第四章，为进行非线性系统仿真实验选择模型模糊模型訲模糊模型的 两种，硬划分聚类方法严格的限制了每个样本属于某类的界限，而软划分则将隶属函数进行扩充，并在样本数据的聚类中利用了模糊数学的理论知识。本章通过对几类经典的聚类分析算法的研究，阐述聚类分析算法的基本思想和优缺点，选择最优的聚类分析算常用的硬划分聚类分析算法肜蕒琕，后；，； 得到最优解。迭代公式如下所示：锄韶祷址椒是划分聚类中的一种算法，划分聚类方法思想是：给对象，每个数据代表集群中心的初始值或均值。依据其剩下的每个对象与每个集群中心形心。 中类个数的确定问题进行了研究。次方法的平衡迭代规约聚类，是为大量数值数据聚类设计的，属于层次聚类方法的代表。 虬，錫缸均值距离：中数据的数目。传统的层次聚类方法结构清晰，思想简单，但是存在伸缩性差和先前步骤所做的工作不能撤销的不足。因此，经常用到的层次聚类方法是在传统算法的基础上进行改进， 算法是一个比模糊聚类分析算法于一个簇，具有“非此即彼”的性质。模糊聚类与硬聚类不同，具有“亦此亦彼” 了总结，并提出了很多改进的算法，但是应用最广泛的是基于目标函数的模糊聚类方法该方法经过对一个带约束的非线性条件优化，从而获取数据集的模糊划分和聚类。该算模糊系统通过隶属度函数的选择和不同隶属度函数的组合描述非线性关系，该系统隶属度函数、广义钟型隶属度函数等种。下面对常用的三角型隶属函数和高斯隶属三角型隶属函数表达公式如下：口彦高斯隶属函数表达式如下： 将提出的目标函数扩展到一般的情况下，设。，瑇。莕兹砟一哆珹叻巍省微鬒如【浚瑅；迫琖瘆鬴啤运用拉格朗日法求解可得下式： 利用微分求解上式得到其中，甜可由公式得到：选取合适的闹担芄唤档驮肷挠跋斓取鱩具有较好的聚类效果。会导致聚类失败，从而无法建立精确的模糊模型。因此，模糊聚类数目的选择是至关重，劾喔鍪鼵躈：尤蜃觤步骤豪檬求解距离量度，竦徽驣。 聚类分析算法的仿真实验通过本章前几小节对聚类分析方法的详细介绍，本节将做一些相关的聚类分析实验来表明聚类分析方法的有效性和实用性。比较每种聚类分析算法的优缺点，选择最优的模糊均值聚类算法，为之后章节做铺垫。图所示：五图原始数据的分布分别利用甿和算法对上述数据进行聚类操作，结果图如下所示： 甿聚类算法结果图表聚类算法性能对比本章小结本章首先对聚类分析算法进行了简要阐述，重点分析了聚类分析方法硬聚类划分和 可以解决这些弊端。本章利用毓楹蚅的方法对系统进行辨识，通过仿真实验对两种方法的结果进行比较。通过选择合适的核函数将低维的非线性函数映射到高维的空间，最终解决了凸二次规划发展和应用，解决了局部极小和过学习的问题。支持向量机针对小样本具有较好的实验的回归原理。支持向量机的结构如图所示核函数 在公式幸胨沙诒淞靠迹輔和孝，那么训练集械膎个样本都应该渺妒煌躶疲，乃【目标函数如下式所示：，为求解目标函数的最小值，构造拉格朗日函数，公式如下所示：蛾考，考，琣，瑈何叫壹疲考一籟专州幻一究迹一彤肿妒纠式中，冢唬，晃窭嗜粘俗樱笥诹恪直鸲员蜱劭，考，求偏导，得到结果 由公式凸得到磁考，考，琣，彤灰籥，籹根据公式可知，躠，躠；軲跫煤撕稹彤；一觯肿妒一彤一簧疲猘：賘赟系统辨识 的系统辨识的任务就是在输入输出数据的基础上，采用合适的算法，找到如下的关系：妒从后一，以后，从后一功，后一，以后一，以后一功】后一功从后瑈瑄瑄 醒盗贰盗吠瓿珊螅扑闶淙胂蛄慷杂腟的输出值，并计算训练误差。型为：妖句，信号 图讲藕攀钡腟逆模型测试输出赟系统辨识结果分析 ，力为求解以彬考淖钚担肜窭嗜蘸齃，定义如下： ，协，警：觯，名，敏以，乃以咖危，核函数解决了模式空间映射到高维特征空间的问题，最常用的有四种：眉濉一，核函数：鬈濉珼核函数：谝籪掣卜。 妖句， 图在辨识的过程中，可以选择与辨识信号不同的白噪声、正弦信号、方波信号或阶跃图自拘藕攀钡腖逆模型的测试输出 图讲藕攀钡腖逆模型测试输出贚系统辨识结果分析 本章小结 多聘多，疲痾； 图 目前，最常用的模糊模型为：汀菊轮薪劾喾治鏊惴蚅应用到 模糊模型的参数估计主要是对后件参数的辨识，相对于结构辨识，已经有很多应用关重要。：偷慕峁贡媸妒腔质淙肟占洹疚闹欣肍算法对输入空间进行模 增，墨】：兰主式中，D：蜃樱话闳滴猰。芠”算法已经是一种发展成熟的数学辨识算法，但是该方法对复杂的非线性系统进行辨识引入拉格朗日因子对上式进行求解，拉格朗日函数为： 公式的优化问题转化求解以下线性方程组：，村簟粒簦瑈由公式和公式得到【利用本文中的算法对系统进行仿真实验，系统为如下的二阶系统： 其辨识输出结果和误差如图和图所示。图：褪涑龊突贚模型的输出结果 图：褪涑龊突贚模型辨识输出结果图贚模型辨识的输出误差曲线 主要研究工作在现实生活中，非线性系统普遍存在，其应用范围也比较广，自动控制、生物技术、信号处理等很多领域都用到非线性系统辨识的理论基础。非线性系统分析、预测和控制器设计的关键在于非线性系统模型的精确性与合理性，因此对非线性系统的模型的确定是至关重要的。非线性系统辨识主要包括结构辨识和参数辨识，辨识方法比较完善，传统辨识方法针对非线性系统还存在很多不足，如计算量大、泛化能力差和鲁棒性差等，需要进一步改进。由于非线性系统具有非线性、时变性和不确定性，并且近年来模糊逻辑理论的研究工作和在非线性系统辨识中的应用取得了一定的成果，尤其是很难从实际操作过程中获得有限的和不清晰的信息时，模糊逻辑理论具有很大的用处，而且模糊模型在行为特性的分析方面具有很多的优势。本文的主要研究内容如下：棒性都优于传统的辨识方法。约虻亩紫低逞馮模糊模型进行仿真式样，用聚类分析方法对前件的输 非线性系统辨识方法有很多，由于模糊模型对非线性系统的拟合性较好，因此，模糊辨识