系统辨识复习提纲(答案版)

系统辨识复习提纲 1 什么是系统 什么是系统辨识 系统泛指由一群有关联的个体组成 根据预先编排好的规则工作 能完系统泛指由一群有关联的个体组成 根据预先编排好的规则工作 能完 成个别元成个别元 件不能单独完成的工作的群体 即一群有相互关联的个体组件不能单独完成的工作的群体 即一群有相互关联的个体组 成的集合称为系统 成的集合称为系统 系统辩识就是 利用对未知系统的试验数据或在线运行数据 输入系统辩识就是 利用对未知系统的试验数据或在线运行数据 输入 输输 出数据 以及原理和原则建立系统的 数学 模型的科学 出数据 以及原理和原则建立系统的 数学 模型的科学 2 什么是宽平稳随机过程 其遍历定理内容是什么 答 答 在数学中 平稳随机过程或者严平稳随机过程 又称狭义平稳过程 在数学中 平稳随机过程或者严平稳随机过程 又称狭义平稳过程 是在固定时间和位置的概率分布与所有时间和位置的概率分布相同的随是在固定时间和位置的概率分布与所有时间和位置的概率分布相同的随 机过程 即随机过程的统计特性不随时间的推移而变化 这样 机过程 即随机过程的统计特性不随时间的推移而变化 这样 数学期数学期 望望和和方差方差这些参数也不随时间和位置变化 这些参数也不随时间和位置变化 如果平稳随机过程如果平稳随机过程dede 各集和平均值等于相对应的时间平均值各集和平均值等于相对应的时间平均值 tx x x Rx Rx 式中式中 伪随机过程伪随机过程的时间平均值 的时间平均值 x txtx x tx 为与以为为与以为 概率密度有关的数字特征量集合均值 概率密度有关的数字特征量集合均值 RxRx为自相关为自相关x 函数 则称函数 则称是各态遍历的平稳随机过程 是各态遍历的平稳随机过程 tx 3 简述噪声模型及其分类 P130 噪声模型 噪声模型 1 1 1 zC zD zH 分类 分类 1 自回归模型 简称自回归模型 简称 AR 模型 其模型结构为模型 其模型结构为 1 kvkezC 2 平均滑动模型 简称平均滑动模型 简称 MA 模型 其模型结构为模型 其模型结构为 1 kvzDke 3 自回归平均滑动模型 简称自回归平均滑动模型 简称 ARMA 模型 其模型结构为模型 其模型结构为 11 kvzDkezC 4 白噪声与有色噪声的区别是什么 白噪声与有色噪声的区别是什么 答 辨识所用的数据通常含有噪声 如果这种噪声相关性较弱或者强度很小 则可近似将其视为白噪声 白噪声过程是一种最简单的随机过程 严格地说 它是 一种均值为零 谱密度为非零常数的平稳随机过程 或者说它是由一系列不相关的 随机变量组成的一种理想化随机过程 白噪声过程没有 记忆性 也就是说 t 时 刻的数值与 t 时刻以前的过去值无关 也不影响 t 时刻以后的将来值 工程实际中数据所含的噪声往往是有色噪声 所谓有色噪声指的是噪声序列中每一 时刻的噪声和另一时刻的噪声是相关的 5 设一个随机序列的均值是参数 的线性函数 2 1 Lkkz z kk Eh 其最小二乘估计为 LLLLL zHHH 1 WLS 试给出其递推形式的详细推导过程 要求其最终其递推矩阵为保对称的 P64 在阶 持续激励 输入信号的作用下 加权最小二乘法的解为2n LLLLL zHHH 1 WLS L i L i iziiiii 1 1 1 hhh 记k时刻的参数估计值为 k i k i iziiiiik 1 1 1 hhh 令 并利用 k i ihihikR 1 Rh kkii z i i k 11 1 1 则有 1 1 1 T 1 kkkkk kkkzkkkkk hhRR hhR 又设 可导出如下的加权最小二乘估计递推算法 记作RR k k k 1 WRLS Weighted Recursive Least Squares algorithm 1 1 1 1 1 1 1 kkkk k kk kkkzkkk k kk RhhRR hhR 置 并利用矩 1 1 1 1 1 1 1 kkkkiiik k k k i hhPhhRP 阵反演公式 111111 ACCACBCAACBCA 令增益矩阵为 kkkk hPK 那么算法将演变成下面所示的另一种递推算法形式 1 1 1 1 1 1 1 kkkk k kkkkkk kkkzkkk PhKP hPhhPK hK I 6 简述在最小二乘估计问题中引入加权因子的作用 简述在最小二乘估计问题中引入加权因子的作用 P58 7 假如给出在不同温度下测量同一热敏电阻的阻值 根据测量值确定该电阻的 数学模型 并求出当温度在 时的电阻值 t 1 利用头两个数据给出 00 0 1 0 0 0 0 0 T LL T LL L PPH H PH z 2 写出最小二乘的递推公式 3 计算 Tka k b k 并要求在计算过程中给出矩阵的值 kkPK 老师给过示例老师给过示例 7 题 题 表表 1 中是在不同温度下测量同一热敏电阻的阻值 根据测量值确定该电阻中是在不同温度下测量同一热敏电阻的阻值 根据测量值确定该电阻 的数学模型 并求出当温度在的数学模型 并求出当温度在时的电阻值 时的电阻值 C 70 要求用递推最小二乘求解 要求用递推最小二乘求解 a 设观测模型为 设观测模型为 利用头两个数据给出利用头两个数据给出 0 L T L L T L L zHP HHPP 0 00 0 0 0 1 0 b 写出最小二乘的递推公式 写出最小二乘的递推公式 c 利用 利用 Matlab 计算计算 T kakbk 表 1 热敏电阻的测量值 t C 20 5 26 32 7 40 51 61 73 80 88 95 7 R 765 790 826 850 873 910 942 980 1010 1032 ii vbtay 并画出相应的图形 并画出相应的图形 解 首先写成解 首先写成 a b t a b hhabtkkz kk 1 12 h LL Hz T LL zz 1 z 1 1 1 2 1 L L t t t H a b 的形式 的形式 利用头两个数据给出最小二乘的初值 利用头两个数据给出最小二乘的初值 126 120 5 0 L H 790 765 0L z 这样可以算得这样可以算得 0 L T L L T L L zHP HHPP 0 00 0 0 0 1 0 求得求得 671 8182 4 5455 0 0 36 2397 1 5372 1 5372 0 0661 0 0 0 0 L T L L zHP PP 注意对于手工计算 可以直接用注意对于手工计算 可以直接用 2 阶矩阵求逆公式阶矩阵求逆公式 ac bd bcaddc ba1 1 有了初值 可以写出递推公式 有了初值 可以写出递推公式 T 1032 1010 980 942 910 873 850 826 L z 1 0000 95 7000 1 0000 88 0000 1 0000 80 0000 1 0000 73 0000 1 0000 61 0000 1 0000 51 0000 1 0000 40 0000 1 0000 32 7000 L H 1 k t kh 这样可以根据公式进行计算 这样可以根据公式进行计算 1 1 1 1 1 1 1 1 1 k kkkkkkk k kkkkkk kkkzkkk hPhKKPP hPhhPK hK 算得 算得 P 1 0 0134 0 3536 0 3536 9 6685 P 2 0 0047 0 1397 0 1397 4 4118 P 3 0 0017 0 0594 0 0594 2 2224 P 4 0 0008 0 0327 0 0327 1 4264 P 5 0 0005 0 0198 0 0198 1 0025 P 6 0 0003 0 0143 0 0143 0 8103 P 7 0 0002 0 0110 0 0110 0 6863 P 8 0 0002 0 0088 0 0088 0 5986 T k 702 7620 702 9683 705 3110 708 4127 702 9463 698 6728 675 2295 661 3131 3 4344 3 4292 3 3668 3 2778 3 4443 3 5878 4 4470 5 0134 8 简述系统辨识中的模型 逆模型及广义模型的概念 Bayes 辨识和 Kalman 滤波 分别采用什么模型 模型的含义模型的含义 模型 把关于实际过程的模型 把关于实际过程的本质的本质的部分信息简缩成有用的描述形式 它是用来描述过程的运动部分信息简缩成有用的描述形式 它是用来描述过程的运动 规律 是过程的一种客观写照或缩影 是分析 预报 控制过程行为的有力工具 模型是实体规律 是过程的一种客观写照或缩影 是分析 预报 控制过程行为的有力工具 模型是实体 的一种简化描述 模型保持实体的一部分特征 而将其它特征忽略或者变化 不同的简化方法的一种简化描述 模型保持实体的一部分特征 而将其它特征忽略或者变化 不同的简化方法 得到不同的模型 得到不同的模型 Bayes 最小二乘模型最小二乘模型 Kalman 线性代数和隐马尔可夫模型线性代数和隐马尔可夫模型 9 在线辨识和离线辨识的差别是什么 在线辨识和离线辨识的差别是什么 如果系统的模型结构已经选好 阶数也已确定 在获得全部数据之后 用最小 二乘法 极大似然法或其它估计方法 对数据进行集中处理后 得到模型参数的估 计值 这种方法称为离线辨识 离线辨识的优点是参数估计值的精度较高 缺点是需要存储大量数据 运算量 也大 难以适用于实时控制 在线辨识时 系统的模型结构和阶数是事先确定好的 当获得一部分新的输入 输出数据后 在线采用估计方法进行处理 从而得到模型的新的估计值 在线辨识的优点是所要求的计算机存储量较小 辨识计算时运算量较小 适合 于实时控制 缺点是参数估计的精度较差 为了实现自适应控制 必须采用在线辨 识 要求在很短的时间内把参数辨识出来 10 已知确定性问题的梯度校正参数辨识方法的参数估计递推公式为 已知确定性问题的梯度校正参数辨识方法的参数估计递推公式为 1 kkkky kkk hh R R 并且权矩阵并且权矩阵选取如下形式 选取如下形式 kR R 12 N kc k diagkkk R R 如果权矩阵满足以下条件 如果权矩阵满足以下条件 1 0 12 LiH kiN 2 个个中存在一个中存在一个 使得 使得N i k m k 1 1 k kk k kk i ii m mm 3 2 1 2 0 N ii i c k k h k 4 与与不正交 不正交 0 kk kh 证明不管参数估计值的初始值如何选择 参数估计值总是全局一致渐近收敛的 证明不管参数估计值的初始值如何选择 参数估计值总是全局一致渐近收敛的 即有即有 0 lim k k P92 定理的证明定理的证明 建立关于参数估计偏差的离散时间运动方程 由于 k 1 0 0 kkkkk kkkkkk kkkykkkk R R R R R R hh hhh hh 令 由 0 kk 1 000 kkkkkk R R hh 我们有 1 kkkkkk R R hh 即 1 kkkkk R RI I hh 建立方程 的 Lyapunov 能量函数 定义 Lyapunov 能量函数如下 N i i i m k k kkkV 1 2 其中满足定理中的条件 2 由 Lyapunov 稳定性定理 m kk iii 只要满足以下条件 则离散时间运动方程 具有全局一致 kkV 渐近稳定的零点 a 对于所有的 0 kkV 0 0 k b 对于所有的 0 kkV 0 0 k c 当时 有 k kkV d 对所有的 0 1 1 kkVkkVkV 0 0 k 由定理给定的条件可知 a b 和 c 一定满足 条件 d 满足的证明 记 1 1 1 k kkV k kkV kV mm m 则由 Lyapunov 能量函数的定义 有 N i ii ii i N i ii ii i N i i ii N i ii iiiiiiii N i ii iiii N i i i i i N i i i N i i i N i i i m m N i i i m m m kk kk kQ kk kk k k kk kk kkkkkkkk kk kkkk k k k k k k k k k k k k k k k k kV 1 2 1 2 1 22 1 2222 1 22 1 22 1 2 1 2 1 2 1 2 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 其中 N i i iiiii N i i ii k kkkk k kk Q 11 22 2 1 1 1 将及的定义式代入 由于 1 kkkykkkk R R hh kR R 0 kkkkkkkkyk h h h h h h h h 我们有 2 2 1 22 1 N i ii N i iiii khkkckkc kkkhkkckhkkcQ 由定理给的条件 2 有 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 1 2 1 2 k kkV k kkV Q kkV kk kk Q k k k kk Q kk kk kQkV mm mm mm N i i i m mm N i ii ii im 利用和的定义 由 kVm kV 1 1 1 k kkV kV k kkV m m m 上面的不等式可得 1 1 1 1 0 k kV Q k kkVkkV Q k kkV k kkV Q mm mm 即有 kQkV m 由于 所以为了使 必须 即要求 0 k m 0 kV 0 Q 02 1 22 N i ii khkkckkc 由定理的条件 4 有 因此上面的不等式为 0 kkk h h N i ii khk kc 1 2 2 0 至此证明了只要定理的条件满足 必有 定理证毕 0 kV 11 1 设 设和和是两个随机变量 向量 是两个随机变量 向量 且 且取值所形成的空间为取值所形成的空间为 S 试解释试解释 XYX 的几何含义 的几何含义 Yh XY X E 2 随机逼近原理的内容为 给定 随机逼近原理的内容为 给定 设方程 设方程 h xY Xx E 有唯一解 可以取有唯一解 可以取的样本值为的样本值为 对应 对应的样本值为的样本值为 X 21 xx Y 通过迭代 逐步逼近上述方程的解 试叙述随机逼近 通过迭代 逐步逼近上述方程的解 试叙述随机逼近 R M 21 xyxy 算法的内容算法的内容 P118P118 答 1 用的某一函数来作为 的预测 记作X XhY 使得达到最小 XhY 2 YYE 2 C 1 kxykkxkx 其中 称为收敛因子 如果满足 k k D 1 2 1 0 lim 0 kk k kk kkk 则由 C 确定的在均方意义下收敛于方程 B 的解 kx 一般取 k ka b k k k 1 另外 当满足以下条件时 0 inf 0 201 2121 00 2 xh xxxhxxxh xxdcxh xydpxhy xx 由 C 确定的满足 kx 1 lim 0 xkxP k 12 1 什么是极大似然估计 其与最小二乘估计的主要区别是什么 什么是极大似然估计 其与最小二乘估计的主要区别是什么 2 运用极大似然估计给出参数估计 所得的统计量一般是什么统计量 其 运用极大似然估计给出参数估计 所得的统计量一般是什么统计量 其 物理涵义是什么 物理涵义是什么 3 设对某电阻进行测量 其观测值服从正态分布 设对某电阻进行测量 其观测值服从正态分布 现获取的样本 现获取的样本 2 N 为为 试求 试求的极大似然估计 的极大似然估计 n XX 1 答 1 设 是随机变量 已知条件概率密度函数 观测序z zp 列为 记为向量形式 则的联合 Lkkz 2 1 2 1 Lzzz L z z L z z 条件概率密度函数为 那么参数的极大化似然估计就是使 z zLp 的参数估计值 max z zLp 即有 或 0 0 z z ML L p 0 0 z z ML L p log 给定一组数据 此时只是的函数 我们 2 1 Lzzz L z z z zLp 称为的似然函数 记为 因此极大似然原理极大似然原理可表示为 z zLL A 0 0 z z ML L L 或 B 0 0 z z ML L L log 其中称为对数似然函数 称作极大似然参数估计 log z zLL ML 值 与最小二乘法的区别 与最小二乘法的区别 对于最小二乘估计 最合理的参数估计量应该使 得模型能最好地拟合样本数据 也就是估计值和观测值之差的平方和最 小 对于最大似然法 最合理的参数估计量应该使得从模型中抽取该 n 组样 本观测值的概率最大 也就是概率分布函数或者说是似然函数最大 显 然 这是从不同原理出发的两种参数估计方法 因此最大似然法需要已 知这个概率分布函数 一般假设其满足正态分布函数的特性 在这种情 况下 最大似然估计和最小二乘估计是等价的 也就是说估计结果是相 同的 但是原理和出发点完全不同 2 对数似然函数统计量 对一组确定的随机序列 设法找到参 L z z 数估计值 使得随机变量 在条件下的概率密度函数最大可能地 ML z ML 逼近随机变量 在 真值 条件下的概率密度函数 即有 z 0 0 max zpzp ML 可以证明 A 或 B 式是实现上式的条件 3 将模型写成最小二乘格式 LLL He e z z 其中 1 1 2 1 2 1 1 0 1 0 2 1 2 1 2121 nLuLunLzLz nuunzz nuunzz H bbbaaa Leee Lzzz L nn L L e e z z 记噪声的协方差阵为 则由的正态性 可知 ke LLe Ee ee e kv eLL HN z z 因此 有 2 1 exp det 2 1 2 1 2 z z z z z z LLeLLe L L HHp 对应的对数似然函数为 2 1 log det 2 1 2log 2 log 1 z z z z z z z z LLeLLe LL HH L pl 由极大似然原理可得 LeLLeLML HHHz z 111 D 并且 0 0 z z ML L l 2 2 因此 D 式给出了参数的极大似然估计值 13 分析极大后验参数估计方法与条件期望参数估计方法之间的内在联系 分析极大后验参数估计方法与条件期望参数估计方法之间的内在联系 P149 P151 在有了后验分布 A 后 对参数的估计 必须建立在这个后验分布的基础上推出 具体可结合使用者的某种要求 准则 来处理 1 若取后验分布 A 的 条件 均值作为参数的估计 则称此为 Bayes 条件期望估计 2 若取满足 后验分 布 A 达最大的的作为 称为 Bayes 最大后验估计 他们是从直观的定义出 发来构造参数的估计量的 一般来说 当 k 比较小时 这俩种方法的估计结果是不 同的 当 k 比较大时 他们就没有什么差别了 俩者的估计结果将趋于一致 14 什么是系统辨识三要素 说明结构辨识和参数辨识的联系及区别 阐述什么是系统辨识三要素 说明结构辨识和参数辨识的联系及区别 阐述 Bayes 参数辨识算法参数辨识算法 辨识的三大要素 1 输入输出数据 2 模型类 3 等价准则 模型结构辨识 在假定模型结构的前提下 利用辨识方法确定模型结构参数 如差分方程中 的阶次 纯延迟等 模型参数辨识 在假定模型结构确定之后 选择估计方法 利用测量数据估 计模型中的未知参数 Bayes P148 15 对于模型类 对于模型类 T z kk h 阐述利用阐述利用 Bayes 方法估计参数方法估计参数的基本思想并给出参数的基本思想并给出参数递推估计算法 递推估计算法 P152 P154 式 6 40 16 阐述预测 滤波与平滑三种估计的差异 说明阐述预测 滤波与平滑三种估计的差异 说明 Kalman 滤波是采用何种准则滤波是采用何种准则 利用一步预测和滤波实现状态估计的利用一步预测和滤波实现状态估计的 P160 P164 17 模型参考自适应辨识方法与自校正自适应辨识方法的差别是什么 模型参考自适应辨识方法与自校正自适应辨识方