梯度校正参数辨识方法及原理(10版)

1、系统辨识第第5章章 梯度校正参数辨识方法梯度校正参数辨识方法主讲教师：赵主讲教师：赵 龙龙办公地点：新主楼办公地点：新主楼e402网网 站：站：email：1、确定性问题的梯度校正参数辨识法2、不确定性问题的梯度校正参数辨识法 本章内容本章内容 本章的学习目的本章的学习目的1、了解梯度校正参数辨识方法的基本原理2、理解梯度校正法和最小二乘法的区别 最小二乘类参数辩识递推算法l新的参数估计值新的参数估计值=老的参数估计值老的参数估计值+增益矩阵增益矩阵 新息新息 梯度校正参数辩识方法（简称梯度校正法）l递推算法同样具有递推算法同样具有 的结构的结构l基本原理不同于最小二乘类方法基本原理不同于最小

2、二乘类方法l基本做法基本做法 沿着准则函数的负梯度方向，逐步修正模沿着准则函数的负梯度方向，逐步修正模型参数估计值，直至准则函数达到最小值。型参数估计值，直至准则函数达到最小值。1、问题的提出、问题的提出 确定性问题的梯度校正参数辩识方法 随机性问题的梯度校正参数辩识方法 随机逼近法1、问题的提出、问题的提出2 确定性问题的梯度校正参数辩识方法 设过程的输出设过程的输出l参数参数 的线性组合的线性组合l如果输出如果输出 和输入和输入 是可以是可以 准确测量的，则准确测量的，则 式过程称作式过程称作确定性过程确定性过程)(tyn,21nnthththty)()()()(2211)(ty)(,),

3、(),(21thththn 确定性过程确定性过程l令令0nnthththth,)(,),(),()(2121过程过程 ( )h k( )y k2 确定性问题的梯度校正参数辩识方法 若过程参数的真值记作若过程参数的真值记作l则则l在离散时间点可写成在离散时间点可写成其中其中00)()(thty0)()(khky)(,),(),()(21khkhkhkhn2 确定性问题的梯度校正参数辩识方法 例如l用差分方程描述的确定性过程用差分方程描述的确定性过程l可以化成可以化成)() 1()(1nkyakyakyn)() 1(1nkubkubnnnbbbaaankukunkykykh,)(,),1(),(,

4、),1()(21212 确定性问题的梯度校正参数辩识方法 现在的问题l如何利用输入输出数据如何利用输入输出数据 和和l确定参数确定参数 在在 时刻的估计值时刻的估计值l使准则函数使准则函数l式中式中)(kh)(kyk)(kmin| ),(21| )()(2)(kkkj)()(),(khkyk2 确定性问题的梯度校正参数辩识方法 解决上述问题的方法l可以是梯度校正法，通俗地说最速下降法可以是梯度校正法，通俗地说最速下降法l沿着沿着 的负梯度方向不断修正的负梯度方向不断修正 值值l直至直至 达到最小值达到最小值)(j)(k)(j2 确定性问题的梯度校正参数辩识方法 数学表达式l 维的对称阵，称作加

5、权阵维的对称阵，称作加权阵l 准则函数准则函数 关于关于 的梯度的梯度)(|)()()() 1(kjgradkkkk)(jgrad)(kkn)(j2 确定性问题的梯度校正参数辩识方法 当准则函数 取)(j)(2)(),(21|)(kkkddjgrad)(),(khkk)()()()(khkkhky2 确定性问题的梯度校正参数辩识方法min| ),(21| )()(2)(kkkj确定性问题的确定性问题的梯度校正参数估计递推公式梯度校正参数估计递推公式其中权矩阵的选择至关重要其中权矩阵的选择至关重要)()()()()()() 1(kkhkykhkkkk2 确定性问题的梯度校正参数辩识方法)(|)(

6、)()() 1(kjgradkkkk 随机性问题的提法l确定性问题的梯度校正法与其它辩识方法相比确定性问题的梯度校正法与其它辩识方法相比最大的优点：计算简单最大的优点：计算简单缺点：如果过程的缺点：如果过程的输入输入输出含有噪声，这种方法不能用输出含有噪声，这种方法不能用l随机性问题的梯度校正法随机性问题的梯度校正法特点：计算简单，可用于在线实时辩识特点：计算简单，可用于在线实时辩识缺陷：事先必须知道噪声的一阶矩和二阶矩统计特性缺陷：事先必须知道噪声的一阶矩和二阶矩统计特性3 随机性问题的梯度校正参数辩识方法 随机性问题3 随机性问题的梯度校正参数辩识方法 设过程的输出l模型参数模型参数 的线

7、性组合的线性组合l输入输出数据含有测量噪声输入输出数据含有测量噪声)(kyn,21nnkhkhkhky)()()()(2211nikskhkxkwkykziii, 2 , 1),()()()()()(3 随机性问题的梯度校正参数辩识方法 其中l 和和 为零均值的不相关随机噪声为零均值的不相关随机噪声)(kw)(ksijijiksksesiii, 0,)()(23 随机性问题的梯度校正参数辩识方法 令 则nnnnkskskskskhkhkhkhkxkxkxkx,)(,),(),()()(,),(),()()(,),(),()(21212121)()()()()()(kwkhkzkskhkx3 随

8、机性问题的梯度校正参数辩识方法 现在的问题l利用输入输出数据利用输入输出数据 和和l确定参数确定参数 在在 时刻的估计值时刻的估计值l使准则函数使准则函数l其中其中)(kx)(kzk)(kmin| ),(21| )()(2)(kkkj)()(),(kxkzk3 随机性问题的梯度校正参数辩识方法 随机逼近法l梯度校正法的一种类型梯度校正法的一种类型l颇受重视的参数估计方法颇受重视的参数估计方法3 随机性问题的梯度校正参数辩识方法 考虑如下模型的辩识问题l 均值为零的噪声均值为零的噪声 模型的参数辩识l通过极小化通过极小化 的方差来实现的方差来实现l即求参数即求参数 的估计值使下列准则函数达到极小

9、值的估计值使下列准则函数达到极小值)()()(kekhkz)(ke)(ke)()(21)(21)(22khkzekeej3 随机性问题的梯度校正参数辩识方法 准则函数的一阶负梯度l令其梯度为零令其梯度为零)()()()(khkzkhej ( ) ( )( ) 0e h kz kh k 3 随机性问题的梯度校正参数辩识方法 原则上l通过上式可以求得使通过上式可以求得使 的参数估计值的参数估计值l但，因为但，因为 的统计性质不知道的统计性质不知道因此因此 上上 式实际上还是无法解的式实际上还是无法解的min)(j)(ke3 随机性问题的梯度校正参数辩识方法 ( ) ( )( ) 0e h kz k

10、h k 如果l上式左边的数学期望用平均值来近似上式左边的数学期望用平均值来近似l则有则有l这种近似使问题退化成最小二乘问题这种近似使问题退化成最小二乘问题0)()()(11lkkhkzkhllklkkzkhkhkh111)()()()(3 随机性问题的梯度校正参数辩识方法 ( ) ( )( ) 0e h kz kh k 研究上式的随机逼近法解研究上式的随机逼近法解l设设 是标量，是标量， 是对应的随机变量是对应的随机变量l 是是 条件下条件下 的概率密度函数的概率密度函数l则随机变量则随机变量 关于关于 的条件数学期望为的条件数学期望为记作记作它是它是 的函数，称作的函数，称作回归函数回归函数x)(xy)|(xypxyyx)|(|xyydpxye|)(xyexhx3 随机性问题的梯度校正参数辩识方法 ( ) ( )( ) 0e h kz kh k 对于给定的对于给定的l设下列方程，具有唯一的解设下列方程，具有唯一的解l当当 函数的形式及条件概率密度函数函数的形式及条件概率密度函数 都不知道时都不知道时 求下列方程的解释是困难的求下列方程的解释是困难的可以利用可以利用随