系统辨识(No.7)

1、随机逼近法随机逼近法1. 定义定义n根据含噪声观测信息，通过连续逼近而获得参数最优估计的根据含噪声观测信息，通过连续逼近而获得参数最优估计的一种估计方法。一种估计方法。n最小二乘法要求观测量与参数之间呈线性关系。最小二乘法要求观测量与参数之间呈线性关系。n极大似然法要求噪声信息的统计特性具有正态分布。极大似然法要求噪声信息的统计特性具有正态分布。n随机逼近所得参数或者渐近达到真值，或者具有有界的统计随机逼近所得参数或者渐近达到真值，或者具有有界的统计误差，应用较为广泛。误差，应用较为广泛。 2.2.基本原理基本原理 R-M法法 问题：考虑求解非线性代数方程考虑求解非线性代数方程的根。的根。 不

2、能精确测量，不能精确测量， 是是x的试探值。的试探值。方法：可以采用逐次逼近法，牛顿法等迭代方法求解可以采用逐次逼近法，牛顿法等迭代方法求解 为增益序列，决定收敛速度。为增益序列，决定收敛速度。逐次逼近法：逐次逼近法：牛顿迭代法牛顿迭代法： 0 xgkxg kx kkkkxgKxx1kKkkxgK1kkxgSignK 不能精确测量，假设不能精确测量，假设是是x的试探值代入的试探值代入 时受到噪声污染的观测量。时受到噪声污染的观测量。假定假定 是单调、有唯一解的函数，是单调、有唯一解的函数， 称为称为 的回归的回归函数函数因此，寻找因此，寻找 的根的随机逼近算法为的根的随机逼近算法为由此确定的由

3、此确定的 是一个随机序列。是一个随机序列。 kxg kkkvxgxZ xg xg xg xZkkxgxZE 0 xgkkkkxZKxx1 kx 如果如果 满足满足则则 均方收敛到真值均方收敛到真值 ，即，即 kK1210limkkkkkkkkKKKxgSignKSign kx 0 x0lim20 xxEkkK-W法法方法描述： 寻找单峰回归函数寻找单峰回归函数 极值的一种随机逼近极值的一种随机逼近方法。方法。假设假设是是x的试探值的试探值 代入代入 时受到噪声污染的观测量。时受到噪声污染的观测量。只要只要 满足满足RM条件，则按条件，则按 能够找到满足均方收敛的能够找到满足均方收敛的 极值处的

4、极值处的 值。值。 xgxdxdgKxxkkkk1kkkvxgxZkx xg kkKvxg, xdxdZKxxkkkk1 xg0 x近似地近似地并根据它的正负号确定并根据它的正负号确定 的符号。的符号。 kkkkkkccxZcxZxdxdZ2kK线性系统参数估计的随机逼近法线性系统参数估计的随机逼近法未知常数未知常数 通过下式估计通过下式估计其中，其中， 已知，已知， 为零均值白噪声。为零均值白噪声。定义定义则确定则确定 的问题等效求解的问题等效求解0 xkkvxhy0 xh kv xhxhxg00 x 0 xg由由可知可知改写为改写为称为等效的已知观测值。称为等效的已知观测值。估计估计 的问

5、题转化为根据的问题转化为根据 中的等效观测序列去逼近。中的等效观测序列去逼近。 kkvxhy0kkkkvxhxhxhy0kkkvxgZkkkxhyZ0 xkZ由由RM方法可以估计方法可以估计x0随机逼近法总是假定噪声序列是零均值的，因此随机逼近法总是假定噪声序列是零均值的，因此随机逼近法就是解决随机逼近法就是解决这样一类方程求根的问题。这样一类方程求根的问题。 因此，容易推广到因此，容易推广到n阶线性定常阶线性定常系统。系统。kkkkkkkkxhyKxxZKxx1kkxgZE0kkxgZE第一类系统第一类系统其中其中性能指标函数性能指标函数 kvkkvikubikyakyniinii01010 nkukunkykyk,1,10010010,nnbbaa 2kykEJ令令 为求性能指标最小，这就等效于求为求性能指标最小，这就等效于求 的根。因此的根。因此 kykkEJg2 02kykkEg kkkkkkkkkykKkykkK1第二类系统第二类系统其中，其中， 相互独立，且分别为零均独立同分布的输相互独立，且分别为零均独立同分布的输出输入观测噪声。出输入观测噪声。 这里这里是零均是零均n阶相关随机序列。阶相关随机序列。 kkxkukkzkyikxbikyakzniinii1010 kk, kvkkvikubikyakyniinii01010 niini