现代信号处理课堂笔记整理.docx

现代信号处理课堂笔记整理第1章 离散时间信号处理基础1.2 离散时间系统离散时间系统的分类：线性系统： 时不变系统：输入延时，与之对应的输出也简单延时因果系统：某时刻的输出只取决于该时刻以及此时刻以前的输入 稳定系统：某时刻的输出只取决于该时刻以及此时刻以前的输入 离散LTI系统的响应： 用单位脉冲响应判定离散LTI系统的稳定性:用单位脉冲响应判定离散LTI系统的因果性：1.3 傅里叶变换离散时间傅里叶变换（DTFT）： 实部与虚部：幅度谱和相位谱：离散时间傅立叶逆变换（IDTFT）：傅里叶频谱为 当|a|1时,求和不收敛,该序列的DTFT不存在；当时，由等比级数的求和公式得： 当a是实数时，由上式可得序列x(n)的幅度谱和相位谱分别为： 傅里叶变换得：频率响应：若系统响应则反变换得差分方程：离散傅里叶变换（DFT）设信号下x(n)为长度是N的有限长序列，在频域的主值区间均匀采样M个点：令N = M, 得离散傅立叶变换（DFT）：离散傅立叶反变换（IDFT）：DFT运算量：N2次复数乘，N(N-1) 次复数加。快速傅里叶变换（FFT）：N/2)log2N次复数乘， (N/2)log2N次复数加1.4 z变换序列x(n)的双边z变换定义为：对任意给定的序列，使变换收敛的z值的集合称为收敛区域，简称为ROC。ROC一般为一个环形区域：。例1.4.1，求序列的（双边）z 变换：（1） （2）逆z变换用围线积分给出的逆z变换定义式为：例1.4.2给定X(z)用部分分式法求x(n)：(1) 单位脉冲序列：(2) 单位阶跃序列：(3) 矩形序列：(4) 实指数序列：其中a为不等于0的任意实数(5) 正弦序列：(6) 复指数序列：1.5 数字滤波器LTI系统：时域卷积：y(n) = h(n)*x(n) z域相乘：Y(z) = H(z)X(z) 系统函数： （1）当p=0时，H（z）为z的多项式，与之对应的是单位脉冲相应为有限长序列，称这样的系统为有限冲级响应（FIR）系统；当p1时，式子（1）中分母为多项式，H（z）为有理分式，无限冲击响应（IIR）。系统函数的零极点 该式子说明数字滤波器的特性取决于零极点的位置。例如，离散时间系统具有BIBO稳定性的充要条件是所有极点位于单位园内，而系统的逆系统也稳定的充要条件是所有零点位于单位圆内，称因果并且零极点都位于单位圆的系统为最小相位系统。频率响应：(频率响应取决于零极点的位置)2阶数字滤波器的差分方程、零极点、频率响应1.5.3 格型滤波器全零点滤波器的格型结构：前向输出 fp(n) 的系统函数后向输出 bp(n) 的系统函数全零点滤波器的格型结构：给定反射系数求直接型系数给定直接型系数求反射系数全极点滤波器从fp(n) = x(n) 到b0(n) = y(n)的传递函数从b0(n) = y(n) 到bp(n) 的传递函数fp(n) = x(n) 作为输入、bp(n)作为输出时2. 某离散时间因果LTI系统，当输入时，输出（1） 确定系统的函数H(Z) （2） 求系统单位序列相应h（n） （3） 计算系统的频率特性H（ej） （4） 写出系统的差分方程 解：（1） |Z|(2) |Z| （3） 因为H（z）收敛域为 |Z| ，包含单位圆 所以H（ej）存在 （4）= 第2章 随机信号分析基础2.1.1 概率分布函数与密度函数概率分布函数(cdf)： 概率密度函数(pdf)： 几个重要的性质： 2.1.2 随机变量的数字特征数学期望线性特征：随机变量的函数的数学期望：m阶矩：一阶矩： 二阶矩： m阶中心矩： 方差： 标准偏差： 分散程度的度量 2.2 随机过程随机过程x(,n)的四种释义：1、若 n = n0 为固定值， 为变量，则x(, n0)为一个随机变量。2、 若 = 0为固定值， n为变量，则x(0, n)为一个样本序列。3、 若 = 0 ， n = n0 均为固定值，则x(0, n0)为一个数。4、 若和n都是变量，则x(, n)是一个随机过程。2.2.1 随机过程的基本统计量均值 (1阶矩)： 自相关 (2阶矩)：自协方差函数 (2阶中心矩)： 严平稳 (SSS)随机过程： 宽平稳(WSS)随机过程：宽平稳随机过程的自相关函数定义：性质：1. 原点的值最大：。2. 共轭对称性：。3. 半正定性：两个不同的随机过程的互相关：对于平稳信号，其功率谱密度为自相关序列的DTFT： 傅立叶变换 -2.2.2 独立、不相关与正交独立的随机过程： 独立同分布(IID)过程：对于全部的k都有相同的概率密度函数。不相关的随机过程 正交的随机过程： 若x(n)为平稳的零均值不相关过程，则该过程为正交过程。联合随机过程的独立、不相关与正交：1、统计独立： 2、不相关：3、 正交：2.3 几种典型的随机过程复正弦加噪声是常数，v(n)是高斯白噪声；复正弦的初始相位在0，2中均匀分布的随机变量。实高斯过程（实正态过程）：其中x为信号矢量宽平稳的过程必然也是严平稳的；若两个时刻信号的取值是不相关的，则它们必然也是统计独立的；一个高斯随机过程通过任意线性变换 (或通过任意线性系统)，其输出仍然是高斯过程；高斯随机过程的高阶矩可以用一阶、二阶矩表示。谐波过程：统计平均值与时间n无关，自相关函数仅与时间差m有关，因此也是平稳的。当N1时，也可以证明。高斯马尔可夫过程当随机过程的“现在”（n时刻）和“过去”已知时，“将来”（n+1时刻）的取值只与“现在”的取值有关，而与“过去”的取值无关，或者说“将来”和“过去”的统计特性是无关的。如果一个随机信号是高斯过程同时又是马尔可夫过程，则称该信号为高斯马尔可夫过程。2.4 随机信号通过线性系统时域分析： 均值：自相关： 频域分析：1、平稳随机过程的功率谱密度(PSD)自相关序列满足共轭对称性，根据傅里叶变换的性质，功率谱密度一定为实函数。2、 复功率谱密度3、 互功率谱4、 复互功率谱复功率谱 功率谱 如果输入信号为零均值白噪声，即x(n)=w(n)，则1. 复随机过程，式中为常数，是在上均匀分布的随机变量。求：(1)和；(2)信号的功率谱。解： (1)(2) 2 . 已知随机信号，为常数，是的均匀分布随机变量，讨论当A满足系列条件时，的广义平稳性。1) A为常数时； 2) A为时间常数； a) 当A为常数时， 其中故此时是广义平稳的 b) 当为时间函数时， 其中此时不是广义平稳的 第3章 随机信号的线性模型3.1 AR过程（自回归模型，全极点滤波器 其差分方程如下：）3.1.1 AR(1)模型 当|a|=1时，x(n)不是一阶平稳的；而当|a|1时，如果n很大，则：因此，x(n)是一阶渐近平稳的。Varx(n)和rx(n,n+l)均是n的函数，因此随机过程x(n)不是二阶平稳的，但是如果|a|0L=0解：（1）由题意得，由 Yule-walker方程为 （2）求解（1）方程组得 （3）因为w(n)的均值为0，所以的均值为0，其方差等于平均功率即2. 离散时间的二阶AR过程由差分方程描述,式中是一零均值、方差为的白噪声。证明的功率谱为解：由AR过程的功率谱公式知 式中 代入得 第4章 非参数谱估计功率谱估计分两类：(1)经典谱估计，也称为非参数谱估计。(2)现代谱估计，也称为参数谱估计。经典谱估计又可以分为两种方法：(1)相关图法。(2)周期图法。 4.1 平稳随机信号的自相关估计设x(n),n=0,N-1为实平稳随机过程x(n)的某次实现中的一段有限长数据记录。用时间平均代替集平均，得自相关函数的第一种估计方法：由于数据记录是随机的，因此基于数据记录的自相关估计也是随机的序列。当 |l|=N 时，不可能到 rx(l) 的估计。有效的估计准则：N至少为50，并且 |l|=N/4 。其自相关矩阵一定是非负定的。给定数据记录x(n),n=0,N-1，自协方差函数的估计算法为:当 x(n) 的均值为零时，协方差等于自相关。4.2 相关图法(先估计自相关函数，然后计算其傅里叶变换得到功率谱估计)对于给定的数据记录,自相关估计的可取值范围为：定义相关图法功率谱估计为：为了减少谱估计的方差，采用长度为2M-1的窗函数对自相关函数进行截取，得功率谱估计：矩形窗、Bartlett窗(三角窗)的表达式分别为：在实际应用中，我们先估计自相关序列，然后对自相关序列加合适的窗函数，最后用傅里叶变换计算功率谱。具体步骤如下：4.3 周期图法周期图算法是功率谱估计的另一种估计算法，定义为：在一定的前提下，可以证明周期图谱估计和相关图谱估计的结果是相等的。在实际应用中，周期图谱估计的计算式为：其中，w(n)为窗函数。周期图谱估计的方差不会随记录数据N的增大而减小，而是近似于功率谱理论值的平方。周期图谱估计不是一致估计。4.4 周期图法的改进4.4.1 平滑单一周期图在频域中，利用一个滑动平均滤波器平滑周期图谱的估计值以减小估计方差。设周期图谱的估计值之间互不相关，则：功率谱估计的最小可分辨频率近似地由2/N增大为(2M+1)2/N4.4.2 多个周期图求平均把数据记录切分为K个分段，分别求周期图，然后求平均。第i段周期图的定义如下：通过对K个周期图求平均得到谱估计如下：Bartlett方法：D=L。Welch方法： D=L/2。设K 个数据分段之间互不相关，则：为一个渐近无偏估计和一致性估计。如果N 固定，且 N = KL，为了降低方差而增加K，会导致L的减少，也就是分辨率的下降。在实际应用中，用DFT/FFT计算DTFT，则：4.5 应用举例4.5.1 语音频谱分析语音信号是一种典型的非平稳信号。相比于声波振动的速度，发音器官的运动速度就显得缓慢了。通常认为长度为10 ms30 ms的时间段中，语音信号是平稳信号。短时分析方法(分帧分析方法)。设待分析的语音信号为s(n)，令n时刻的短时语音段为：定义短时语音段的傅里叶变换为短时傅里叶变换：预加重：消除6dB/oct（分贝/倍频程）的跌落，使语音信号的频谱变得平坦。4.5.2 语谱图语音信号的时频分布为定义在二维空间的函数，把时频分布画成二维灰度图像的形式，即为语谱图(spectrogram)。最早的语图仪是利用模拟的带通滤波器组和一个精巧的电机系统实现的。例题1 证明由下式（1）和（2）给出的前向和后向AR过程具有相同的功率谱密度对第一个式子来讲：对第二个式子来讲由上述可知，前向和后向AR过程具有相同的功率谱密度。2. 一个信号s(n)，它的自相关序列为rs（l）=4l2，被均值为零的加性白噪声w(n)干扰，噪声方差为2，白噪声和信号不相关。试用维纳滤波器从被污染的信号中尽可能的恢复s(n)，求出二阶fir维纳滤波器的系数和误差。解：维纳滤波器的输入：x（n）=s（n）+w(n); 期望响应：d（n）=s(n); 又白噪声和信号不相关，有：rx（l）=rsl+rw(l)；=4l2+2（l）； rxd（l）=Ex(n)s(n-l)=Es(n)s(n-l)+Es(n)w(n-l)= Es(n)s(n-l)= rs（l）=4l2; 根据维纳霍普方程：RxHopt=rxd,有：rx0 rxl rx2rxl rx0 rxlrx2 rxl rx0Hopt=rxd0rxdlrxd2 6 3 03 6 30 3 6Hopt=430 解维纳霍普方程得：Hopt=1213-16 最小均方误差为：jmin=2-rxdTHopt jmin=4-4 3 01213-16=1 第5章 最优线性滤波器5.1最优信号估计步骤：（1）选择滤波器结构；（2）选择一个性能准则或代价函数来测定估计器的性能；（3）以性能最优或代价最小为准则，求解最优估计器的参数。（4）对最优参数值进行评价，确定最优估计器是否满足设计要求。5.2 线性均方估计5.2.1 误差性能曲面均方误差为:或更简洁的表示为：5.2.2 线性最小均方误差估计器正则方程：，也可以写成矩阵的形式：当估计器的权系数取最优解时：5.2.3 正交原理也就是说，最优线性滤波器的估计误差与所用数据是正交的。5.3.1 Winer-Hopf 方程输出信号：，故估计误差定义为：Winer-Hopf 方程为：5.3.2 FIR维纳滤波器正则方程的矩阵形式为：其中， ，其MM矩阵形式为：自相关矩阵具有对称和Toeplitz性质。其最优解为：，也即FIR滤波器的冲击响应。5.4.1 前向线性预测用M个“过去”x(n-1)，x(n-2)，.，x(n-M)的数据点预测“当前”数据点x(n)的值，是一步前向预测问题。x(n)的预测值为：前向预测误差为：输入数据的自相关矩阵为：输入数据与期望响应的互相关矢量为：求解前向最优线性预测的Winer-Hopf方程为：当采用最优线性预测系数时，预测误差的均方值达到最小，即最小均方误差为：1.前向线性预测误差滤波器滤波器输入与输出之前的关系为： 前向预测误差滤波器系数与线性预测系数之间的关系：并且，2. 前向线性预测的增广Winer-Hopf 方程3.前向线性预测误差滤波器与AR模型的关系上述结论说明，如果x(n)为一个AR(p)过程，我们用阶数M=p的前向线性预测器对该随机过程进行线性预测，则模型参数即为最优预测器系数。并且，前向(最优)线性预测误差滤波器的输出为白噪声信号，该白噪声信号的方差与驱动AR模型的白噪声相同，即。5.4.2 后向线性预测用M个数据点x(n)，x(n-1)，.，x(n-M+1)预测“以前”的数据点x(n-M)的值，称为后向预测。其预测值为：后向预测误差为：， 输入数据的自相关矩阵为：输入数据与期望响应的互相关矢量：则最优Winer-Hopf 方程为：最小均方误差为：当x(n)为实平稳随机信号时，前向和后向的最优预测系数之间满足关系如下：1. 后向线性预测误差滤波器其中，对于实平稳随机过程，最优后向和前向预测误差滤波器系数间的关系为：2.后向线性预测的增广Winer-Hopf 方程5.4.3 Levinson-Durbin算法（1）输入： （2）初始化。（3）对于m=1，2，.，M，逐项计算如下（4）输出：预测误差滤波器的格型结构的特点：（1）模块化结构。格型滤波器的每一级结构完全相同，只有唯一的参数反射系数的取值不同，这便于硬件模块的复；（2）增加阶数后不改变前级的参数。对于格型结构，由M阶增加到M+1阶只需要在最后增加一个反射系数为kM+1的模块，不需要改变前级的参数；（3）格型结构可以同时计算前向和后向预测误差。例题：例：有一个信号s(n)，自相关序列为 ，被均值为零的加性白噪声v(n)干扰，噪声方差为1.5，白噪声与信号不相关。用维纳滤波器从被污染的信号x(n) = s(n)+v(n) 中尽可能恢复s(n)。2 有一个信号是过程，它的自相关序列为，是设计其最优线性预测器。（15分）第6章 最小二乘滤波和预测6.2 线性最小二乘估计线性组合：估计误差为： （d(n)为期望响应）误差序列的平方和（也即误差信号的能量）：估计误差的矩阵形式为：6.2.1 正则方程根据，误差信号的能量可写为：LSE估计器的权系数满足如下正则方程： （）此时，误差序列的平方和取最小值：6.2.2 正交原理6.2.3 投影算子如果时间平均的相关矩阵是正定的，或者数据矩阵X的列是线性无关的。在这种情况下，LS的解可表示为：。其中，。对d的LS估计可表示为：。其中，称为投影矩阵。LS的误差矢量可表示为：6.3 最小二乘FIR滤波器FIR滤波器的输出信号：误差信号为： （e = d - Xw）其中，其系数满足正则方程：由于LS方法中，数据为有限长，存在端点问题，其常用的四种处理方式为：（1）协方差方法；（2）自相关方法；（3）预加窗法；（4）后加窗法6.4 最小二乘线性预测 （1）自相关法：设输入数x(n)的测量区间为0，N-1，在区间外x(n)取零值。考虑一步前向预测，设M阶预测器的系数为，预测误差为可推到出预测系数满足的方程为：（2） 协方差法：在计算滤波器的输出误差时不使用区间 0, N-1 以外的数据，则误差向量为：数据矩阵为：期望响应线性预测系数满足正则方程：，预测误差平方和： 1.假设我们希望从观察矢量中估计序列。试确定最优滤波器系数、误差矢量和最小二乘误差能量。 由，得 投影矩阵为 2. 用下列的数据举证和期望相应信号解LS问题：和。（15分）解：首先计算时间平均相关矩阵和互相关矢量： 接着对进行分解。利用MATLAB函数，可以得到： 由式可得解向量和LSE为： 第7章 参数谱估计7.1 信号建模（3）建立信号模型的步骤：一般来说具有锐锋而无深谷用AR模型反之MA,ARMA同时包含7.2 AR模型谱估计7.2.1 最大熵谱估计有若干种外推方法，Burg提出的外推准则是：在外推区间，使信号取最随机、最不可预测的值，换言之，就是使随机过程的熵最大。 7.2.2 自相关法（1）采用自相关法进行AR模型谱估计的步骤为：设定模型阶数p，建立正则方程利用Levinson-Durbin算法求解方程，得模型参数计算功率谱自相关法中误差的求和范围：0N-1+P（2）第一种方法估计自相关函数：（3）自相关法的优点是：正则方程的系数矩阵具有Toeplitz性，可以用Levinson-Durbin算法求解正则方程，从而有效提高解方程的效率。7.2.3 协方差法（1）采用协方差进行AR模型谱估的步骤为：采用LDLH分解方法求解正则方程，并计算Jmin。计算功率谱 AR模型谱估计的协方差法，取误差平方的求和范围为p到N-1。协方差法的正则方程：，7.2.4 改进的协方差法（1）（2）（3）（4）7.2.5 Burg算法（1）初始化(2) 对m = 1，2，p，递推 特点：如果处理的数据来自AR过程，那么采用Burg算法可以获得精确的AR谱估计。但对正弦信号谱估计有一定的困难，存在谱线偏移和谱分裂现象，且峰值的位置与相位有关。这四种AR谱估计方法的主要优缺点：相关方法可用Levinson快速算法，运算量小，但频率分辨率较低。协方差方法分辨率高，运算量较大。改进协方差方法分辨率高，无谱线分裂和偏移，运算量大。Burg算法可用改进的Levinson递推算法，分辨率高，但对正弦信号有谱线分裂和偏移。7.2.6 AR模型阶的确定（1）如果所用的模型阶数太小，估计的谱将被平滑，因而分辨率较差；而若所用的模型阶数太大，则可能会产生伪峰值，也有可能导致谱线分裂。因此，应该有一个准则来指导如何选择合适的AR模型阶数。7.3 MA模型谱估计（1），7.4 ARMA模型谱估计 与非参数功率谱估计相比，参数谱估计方法所增加的分辨率基本上是由于对数据设置了模型的结果。7.5 应用举例7.5.1 “预白化后着色”谱估计（1）（2）残差信号的功率谱：（3）1.已知信号的4个样值为（2,4,1,3）,试用自相关法估计AR(1)模型参数。（本题15分）解：AR(1)的参数就是一阶预测误差滤波器的预测系数。一阶预测误差滤波器的结构如图所示。一阶预测误差滤波器（3分）滤波器的输出是预测误差，其中的长度是N=4,的长度是2，所以的长度是4+2-1=5(=0,1,2,3,4)，有（1分）（1分）=（1分）（1分）（1分）（1分）（1分）（1分）上面各式中，为已知数据，和是未知数据。的选择应使预测误差功率达最小。（1分）自相关法：自相关法人为假定已知数据段之外的数据为0，预测误差功率为=（1分）=（1分）=（1分）令，得，所以（1分）2. 一零均值MA(2)过程满足Yule-Walker方程： 试求MA参数： ，解：由于对于零均值MA(q)过程而言，均值为0，令方差为1，其自相关函数 则可得： 故由题意知，MA(2)过程的自相关函数为 由此不难求得MA(2)过程的功率谱 其因式分解为 根据功率谱分解定理，比较得传输函数即 第8章 自适应滤波器8.1 自适应滤波原理有监督型自适应：在每一个时刻，滤波器预先知道期望响应，再根据滤波器的输出计算出误差，然后评估性能并用它来调整滤波器的系