系统辨识课件：第4章 数学模型的最小二乘法辨识 -3

1、12最小二乘估计法的缺陷 最小二乘估计的无偏性、一致性等概率性质，都是在(k)为零均值、不相关随机序列的前提下得到的。 但实际系统中(k)往往是相关的，有些系统即使外加干扰为不相关的随机序列，但在参数估计过程中，也变成相关的随机序列了。3最小二乘估计法的缺陷4最小二乘估计法的缺陷 可见(k)是相关序列，进而得到的最小二乘参数估计不是无偏、一致估计。 因而，LS估计方法的应用受到一定限制，下面介绍在LS基础上加以改进的方法。54.10 辅助变量法 现在开始讨论如何克服最小二乘法的有偏估计问题。 对于原辨识方程 （2.157）当 是不相关随机序列时，最小二乘法可以得到参数向量 的一致性无偏估计。但

2、是，在实际应用中 往往是相关随机序列。 6用 乘以式（2.157）等号两边得 （2.158）由上式可得 （2.159） 这可以简单地理解为所选择的辅助变量应与 不相关，但与 和 中的 强烈相关。78式中Q是非奇异的。 假定存在着一个 的矩阵Z（与 同阶数）, 满足约束条件 （2.162）9因此辅助变量估计是无偏估计。 10 剩下的问题是如何选择辅助变量，即如何确定辅助变量矩阵Z的各个元素。选择辅助变量的基本原则是式（2.162）所给出的两个条件必须得到满足。 11Z可以有各种选择方法，下面介绍两种常用的选择方法。1）迭代辅助变量参数估计法 1213迭代辅助变量参数估计法 计算步骤：142）自适

3、应滤波法 式中： 取 ；d 取 ； 为k时刻所得到的参数向量估计值。当 是持续激励信号时，所选的辅助变量可以满足式（2.162）所给出的2个约束条件。 15154.11 广义最小二乘法（GLS） 对于原辨识方程 当 是不相关随机序列时，最小二乘法可以得到参数向量 的一致性无偏估计。但是，在实际应用中 往往是相关随机序列。其中 为零均值白噪声序列。 控制系统中的绝大多数情况下 可以表示为一个白噪声序列为输入的线性系统的输出，则有1616广义最小二乘法原理 ：则上式进一步可表示为 带入系统模型 中 则有 （*） 令 带入（*）式中，则有而 f(z-1)是未知的，下面给出其近似算法。1717f (z

4、-1)近似算法18GLS算法的计算步骤如下：1.应用得到的输入输出数据u(k)和y(k)，按照模型 求出的最小二乘估计; k=1,2,n+N 2.计算残差e(k) ;193.用残差e(k) 代替(k) ，计算 f 的估值;204.计算yf(k)和uf(k);6. 返回步骤（2），直到的估值收敛为止。5. 用得到的yf(k)和uf(k)，按模型用最小二乘法重新估计。21上述循环的收敛性可用下式判断。 即经过i次循环，当i比较大时，f（z-1）近似为1。意味着以把残差白噪声化了。22广义最小二乘法是一种迭代方法，不一定总能保证算法对最优解的收敛性。为了获得较好的计算结果，参数估计的初值应尽量选的接

5、近最优参数估值。在没有验前信息的情况下，最小二乘估计被认为是最好的初始条件。广义最小二乘法的收敛比较慢，往往需要进行多次迭代计算。234.12最小二乘类辨识算法的比较1.基本最小二乘法（LS） （1）对白噪声，参数估计是无偏的一致的最小方差估计。 （2）对有色噪声，参数估计有偏，但具有收敛性。 （3）对未知的直流分量敏感。（4）对高阶系统，优于其它算法，可作为其它辨识算法的较好的起始算法。 （5）一次完成算法精度较高，但逆矩阵计算量大，不适于在线辨识。 （6）数据较多时，占用存储量和机时较多。 242.递推最小二乘法（RLS） （1）对白噪声，参数估计是无偏的一致的最小方差估计。 （2）对有色

6、噪声，参数估计有偏，但具有收敛性。 （3）对未知的直流分量敏感。（4）对高阶系统，优于其它算法，可作为其它辨识算法的较好的起始算法。 （5）计算量少，占用内存较少。 （6）适用于在线辨识，采用自适应算法后，可用以时变系统的辨识。253.辅助变量法（IV） （1）估计值是弱一致估计的。 （2）递推辅助变量法，对初态敏感，初态选取得不合适，就可能不收敛。一般在前50100个采样点用递推最小二乘法，然后转到辅助变量法。（3）算法简单，计算量少，但不能得到噪声模型。264.广义最小二乘法（GLS） （1）可以得到噪声模型：在不改变参数的情况下，对系统IO和噪声进行变换。（3）抗干扰能力强：当信噪比较大

7、时，辨识精度较高。（2）计算量较大：广义最小二乘收敛较慢，为了得到较准确的参数估值，往往需要进行多次迭代运算。（4）要求数据充分，初值对辨识结果有较大影响（5）广义最小二乘法，递推计算与离线计算结果不完全一样。274.13 相关最小二乘法 相关最小二乘法（COR-LS），是一种两步法估计出参数模型的参数值的辨识方法。 首先用相关分析法辨识系统的脉冲响应函数，确定出被辨识系统的非参数模型，然后再应用最小二乘法将非参数模型拟合成参数模型。维纳霍夫方程28自相关函数：互相关函数：则M序列输入时 29设单输入-单输出线性定常系统的差分方程为： 设输入信号与随机噪声序列是不相关的。上式两边乘以u(k-)

8、，并取数学期望，得到： 30上式写成最小二乘格式：其中e()表示相关函数用对应的估计值代替后所造成的误差。311、白噪声输入信号32令=1，2，N.N2n332、二位式M序列输入信号令=1，2，N.N2n，NpN3435辅助变量法 这可以简单地理解为所选择的辅助变量应与 不相关，但与 和 中的 强烈相关。广义最小二乘法 相关最小二乘法 首先用相关分析法辨识系统的脉冲响应函数，确定出被辨识系统的非参数模型，然后在应用最小二乘法将非参数模型拟合成参数模型。36373.5 M序列作输入信号辨识脉冲响应的步骤：1）预估过程的过渡过程时间Ts和过程的最高工作频率fmax；2）设计M序列参数（Np，a） Np（1.21.5）Ts/ =（0.10.3）/fmax 选择在稳态工作点u附近，一般取a=u/103）至少送2个M序列，测第二个M序列的响