随机过程总结

1、第一章 随机变量基础1历史上哪些学者对随机过程学科的基础理论做出了突出贡献？答: 随机过程整个学科的理论基础是由柯尔莫哥洛夫和杜布奠定的。这一学科最早源于对物理学的研究，如吉布斯、玻尔兹曼、庞加莱等人对统计力学的研究，及后来爱因斯坦、维纳、莱维等人对布朗运动的开创性工作。1907年前后，马尔可夫研究了一系列有特定相依性的随机变量，后人称之为马尔可夫链。1923年维纳给出布朗运动的数学定义，直到今日这一过程仍是重要的研究课题。随机过程一般理论的研究通常认为开始于20世纪30年代。1931年，柯尔莫哥洛夫发表了概率论的解析方法，1934年A·辛饮发表了平稳过程的相关理论，这两篇著作奠定了

2、马尔可夫过程与平稳过程的理论基础。1953年，杜布出版了名著随机过程论，系统且严格地叙述了随机过程基本理论。2 全概率公式的含义？ 答：全概率公式的含义就是各种可能发生的情况的概率之和为1。3 概率空间有哪几个要素，其概念体现了对随机信号什么样的建模思想？ 答：样本空间、事件集合、概率函数称为概率空间的三要素。概率函数建立了随机事件与可描述随机事件可能性大小的实数间的对应关系，因此，概率空间是在观测者观测前对随机事件发生的可能性大小进行了量化，其有效性是通过多次观测体现出来的，也即在多次观测中，某个随机事件发生的频率可直接认为与其发生的概率相等，所以，概率空间的建模思想实际是对大量观测中某随机

3、事件发生频率的稳定性的描述。4 可用哪些概率函数完全描述一个随机变量？ 答：概率分布函数（cdf）、概率密度函数（pdf）、特征函数（cf）、概率生成函数（gf）。5 可用哪些数字特征部分描述一个随机变量？ 答：均值、方差、协方差、相关系数和高阶矩。6 随机变量与通常意义上的变量有何区别与联系？ 答：随机变量具有通常意义上的变量的所有性质和特征（即变量特性），还增加了变量取每个值的可能性大小的描述（即概率特性）。因此，描述或刻画一个随机变量时，还必须要特别考察其概率函数或各阶矩函数。第二章 随机过程的基本概念1 什么是随机现象？答：对于某个客观对象，在观测前能知道其可能的结果，但不能明确知道是

4、可能结果中的哪一个，那么该客观对象称为随机现象。2 如何理解随机过程？答：一个理解：随机过程是一组样本函数的集合；根据这个理解，可用试验的方法研究随机过程，通过随机试验观测其各个样本函数，观测次数越多，所得样本函数的数目越多，就越能掌握该随机过程的统计规律。另一个理解：随机过程可看作是一簇随时间变化的随机变量的集合；随机过程可视为多维随机变量的推广，时间分割越细，多维随机变量的维数越大，对随机过程的统计描述也就越全面，因此，概率论中多维随机变量的理论也可作为随机过程分析的理论基础。3 为什么完全描述一个随机过程需要用概率函数族？答：随机过程是一簇随时间变化的随机变量的集合，对于每一个固定时刻，

5、它们都是随机变量，可以用概率函数来描述。这些不同时刻的随机变量是相互联系的，要描述它们间的各阶关联特性就必须用各阶概率函数。因此，完全描述一个随机过程必须用概率函数族。4 可用哪些数字特征部分描述随机过程？答：均值函数、自相关函数、互相关函数、功率谱密度等。5 如何理解随机过程的自相关函数？答：两个随机变量的相关矩定义为两个随机变量乘积的统计均值，利用相关矩可以描述这两个随机变量的相对相关性，因此，随机过程的自相关函数可以描述该过程不同时刻所对应随机变量间的相对相关性。6严格平稳随机过程的最基本的特征是什么？答：时间起点的平移不会影响随机过程的统计特性，即与具有相同的统计特性。7严格平稳随机过

6、程与广义平稳随机过程有什么联系？答：严格平稳随机过程必定是广义平稳随机过程，但广义平稳随机过程不一定是严格平稳随机过程。8单位电阻两端的噪声电压是平稳随机过程，请问均值和方差有什么物理意义？答：均值是一个常数，代表噪声电压中直流分量；代表噪声电压的交流分量，代表消耗在单位电阻上瞬时交流功率，而方差表示消耗在单位电阻上瞬时交流功率的统计平均值, 表示消耗在单位电阻上的直流功率；所以表示消耗在单位电阻上的总的平均功率。9为什么说相关理论是很重要的？答：因为在许多工程技术问题中，一、二阶矩能给出有关平稳随机过程平均功率的几个主要指标，例如，如果随机过程代表噪声电压信号，那么在相关理论范围内就可以给出

7、直流分量、交流分量、平均功率及功率在频域上的分布(将在后面讨论功率谱密度)等；另外，在电子系统中经常遇到最多的是正态随机过程，对于正态随机过程而言，它的任意维分布都只由它的一、二阶矩来确定。10 为什么随机过程的频域表示不能直接采用其傅立叶变换，而要采用功率谱密度的概念？答：随机过程的样本函数一般不满足傅里叶变换的绝对可积条件，而且，样本函数往往并不具有确定的形状，因此不能直接对随机过程进行傅立叶变换，但随机过程各个样本函数的平均功率总是有限的，可以利用推广的频谱分析法，引入功率谱的概念。11 如何理解随机过程的功率谱密度？答：功率谱密度从统计意义上描述了随机过程的样本函数的功率在频率域上的分

8、布，它是描述随机过程常用的一个指标，与自相关函数的描述是等价的。特别对于平稳随机过程而言，功率谱密度就是自相关函数的傅立叶变换。12 作为随机过程的主要数字特征，功率谱密度有什么不足的地方？答：功率谱密度仅表示随机过程的平均功率在频域上的分布情况，不包含随机过程的相位信息。13 为什么实际中可以根据观测到的一个样本函数估计随机过程的均值、方差和相关函数等数字特征？答：因为实际研究中的大多数平稳随机过程一般都是各态历经过程，其时间平均趋于一个常数，即各个样本函数的时间平均可以认为是相同的，因此随机过程的均值可以用它的任意的一条样本函数的时间均值来代替。同样，相关函数亦可以用任意的一条样本函数的时

9、间相关函数来代替；或者说各态历经随机过程一个样本函数经历了随机过程所有可能的状态，所以可以通过对一条样本函数的观测，就可估计出随机过程均值、方差和相关函数等数字特征。第三章 随机过程的线性变换1 随机过程通过线性系统有哪几种分析方法？它们有什么区别？答：随机过程通过线性系统一般有三种分析方法，它们是微分方程法、冲激响应法和频谱法；冲激响应法是随机过程通过线性系统分析的基本方法，对于平稳和非平稳过程都是适用的，而频谱法只适用于平稳随机过程的情况。2 什么是随机过程的线性变换？它有什么性质？答： 随机过程通过一个线性系统的输出仍是随机过程，输出的随机过程可以看作是输入随机过程的一个线性变换。对于线

10、性变换，输出的k阶矩可以由输入的相应阶矩来确定。3 随机过程的线性时不变变换有什么性质？答：随机过程通过线性时不变系统后，输出随机过程是输入随机过程的线性时不变变换。对于线性时不变变换，如果输入随机过程严格平稳，则输出随机过程也是严格平稳的；如果输入随机过程是广义平稳的，输出随机过程也是广义平稳的。4 可导平稳随机过程和它的导数之间有什么关系？答：可导的平稳随机过程 和它的导数过程在同一时刻是正交和不相关的，如果随机过程服从正态分布，则它们还是相互独立的。5 什么是两个平稳随机过程的正交、不相关、相互独立？答：对于任意时刻，如果两个随机过程的互相关函数为零，则称这两个随机过程是相互正

11、交的；如果两个随机过程的互协方差函数为零，则称这两个随机过程是不相关的；如果两个随机过程的二维联合分布等于这两个随机过程的分布函数的乘积，则称它们是相互独立的。很容易证明，若两个随机过程是相互独立的，则它们一定是不相关的，但反之却不成立。6 均方收敛和通常的数列收敛有何不同？答：均方收敛描述的通常是一族数列（随机变量序列）的收敛，由于随机变量序列具有概率特性，故最后收敛到一个随机变量；而通常的数列收敛到某一个确定的值。7 随机过程的均方连续、导数、积分与通常函数的连续、导数、积分有何不同？答：随机过程的均方连续、导数、积分描述的通常是一族函数的收敛，由于这一族函数具有概率特性，最后导数过程和积

12、分过程一般也是随机过程；而连续是指这一族函数在某个时间点趋向于一个随机变量。8 随机过程通过线性系统的卷积积分表示与确定性信号通过线性系统的卷积积分表示有何不同？答：随机过程通过线性系统的卷积积分表示的是一族确定性通过线性的响应。9 什么过程是白噪声过程？答：如果随机过程X(t)的均值为零，自相关函数为 则称X(t)为白噪声，且如果为常数，则X(t)是平稳白噪声，这时，它的功率谱密度为 即平稳白噪声的功率谱在整个频率轴上的分布是均匀的，因为在光学里，白光的频谱包含了所有的可见光，具有均匀的光谱，因此，具有上述特性的随机过程称为白噪声过程。10 为什么说白噪声过程是一种理想化的数学模型？实际中有

13、何作用？答：从时域看，白噪声在任意两个相邻时刻的状态是不相关的，即随时间的起伏变化极快；从频率看，白噪声的平均功率是无限的；这在实际中是不存在的，因此白噪声是一种理想化的数学模型。实际中，如果噪声的功率谱密度在所关心的频带内是均匀的或变化较小，就可以把它近似看作白噪声来处理，这样可以使问题得到简化，例如在电子设备中，器件的热噪声与散弹噪声起伏都非常快，具有极宽的功率谱，可以认为是白噪声。11 什么是限带随机过程，有哪几类限带过程？答：若随即过程在一个有限的频带内具有非零的功率谱，而在频带之外功率谱为零，则称其为限带随机过程。典型的限带过程有低通随机过程和带通随机过程。12 为什么最佳线性滤波器

14、可使输出的信噪比得到提高？答：从滤波器的幅频特性可以看出，最佳线性滤波器幅频特性与信号频谱的幅度成正比，与噪声的功率谱密度成反比；对于某个频率点，信号越强，该频率点的加权系数越大，噪声越强，加权越小，可见，最佳线性滤波器的幅频特性有抑制噪声的作用；最佳线性滤波器的相频特性由两项组成，第一项与信号的相频特性反相，第二项与频率成线性关系，滤波器的相频特性argH(w)起到了抵消输入信号相角argS(w)的作用，并且使输出信号s0(t)的全部频率分量的相位在t=t0时刻相同，达到了相位相同、幅度相加的目的。而噪声是平稳随机过程，各频率分量的相位是随机的，argH(w)不影响噪声的功率，也就是说，滤波

15、器对信号的各频率分量起到的是幅度同相相加的作用，而对噪声的各频率分量起到的是功率相加的作用；综合而言，输出信噪比得到了提高。13 什么是匹配滤波器？答：匹配滤波器是在白噪声环境下以输出信噪比最大作为准则的最佳线性滤波器。第四章 随机过程的非线性变换1 什么是无惰性系统和惰性元件？答：无惰性系统指的是系统当前时刻的输出只与系统当前时刻的输入有关，与其他时刻的输入无关。像电感器和电容器这样的元件就是惰性元件。2 何为非线性变换？答：非线性变换就是输入与输出之间的变换关系不具有线性性。非线性系统不满足迭加性原理。3 实际工程中常见的系统中，有哪些系统是非线性系统？答：非线性系统如：检波器、变频器、限

16、幅器、鉴频器。4 非线性系统是不是都不具有时不变性？答：否。5 随机过程通过非线性系统有哪几种常用的分析方法？答：非线性变换的直接分析法、非线性系统分析的变换法（主要是Price 定理）、非线性系统分析的级数展开法。6 在有些系统中，传输函数h(x)并不绝对可积，这时怎么办？答：当传输函数不可积的时候，我们就先求h(x)的拉普拉斯变换，然后再取极限情况s=jw。7 Price定理是不是都适用?答：不是，Price 定理虽然很方便，但这种方法也有局限性，它要求输入过程是正态随机过程，其次，非线性系统特性y=h(x)在经过几次求导后能得到delta函数。8 对于非线性系统，输入随机过程是严格平稳的

17、随机过程，则可推断出输出随机过程具有什么特性？答：如果输入随机过程是严平稳的，则输出随机过程必然是广义平稳过程。第五章 窄带随机过程1 什么是窄带随机过程？答：如果一个随机信号的功率谱集中在某一中心频率附近的一个很小的频带内，且带宽远小于中心频率，这样的随机信号称为窄带随机信号。很明显窄带随机信号是限带随机过程。2 为什么说窄带随机过程是电子系统中常见的随机过程？答：在电子系统中，通常都有高频或中频放大器，它们的通频带往往远小于中心频率，这样的窄带系统有很多，宽带噪声(例如白噪声)通过窄带系统，其输出就是窄带随机过程，所以说窄带随机过程是电子系统中常见的随机过程。3 窄带随机过程分析的主要数学

18、工具是什么？答：希尔伯特变换。4 为什么说希尔伯特变换器是一个全通网络？答：希尔伯特变换器的幅频特性在整个频域上具有恒为1，所以它是一个全通网络。5 为什么说希尔伯特变换器是一个正交滤波器？答：希尔伯特变换器的相频特性为 即在相位上则引入和的相移，因此，希尔伯特变换器可以看作为一个的理想移相器(或正交滤波器)。6 为什么需要分析窄带正态随机过程的包络分布和相位分布？答：信号处理中，有用信号通常都是调制在载波的幅度或相位上，要提取这些有用信号，通常需要包络检波器和鉴相器检测出信号的包络和相位，而检测前噪声通常都是窄带正态随机过程，为了获得最佳的检测效果，所以需要分析窄带正态随机过程包络和相位的分

19、布；此外，电子系统所接收的信号中除了噪声外通常还包含回波信号，分析信号加噪声包络和相位的分布对于有效地检测信号也是十分重要的。7 窄带正态随机过程有哪些重要性质？答：窄带正态过程的包络一维分布服从瑞利分布，相位一维分布服从均匀分布，且在同一时刻是相互独立的；窄带正态噪声加正弦信号的包络一维分布服从广义瑞利分布，也叫莱斯分布。 8 为什么平方律滤波器分析很重要？答：在无线电系统中，平方律检波器的应用十分广泛，例如对小信号的检波一般都采用平方律检波；在统计理论上的分析比包络检波器简单，而且实践证明这两种检波器的性能差别甚小，因此在处理检波问题中常根据平方律检波的假设进行分析。第六章 马尔科夫过程与

20、泊松过程1什么是马尔可夫性？  答：马尔可夫性就是指当前时刻的值与过去时刻的值无关。 2马尔可夫过程的分类？答：按照状态和时间参数是离散还是连续，可分为：时间离散、状态离散的马尔可夫过程被称为马尔可夫链。时间连续、状态离散的马尔可夫过程被称为纯不连续马尔可夫过程。时间离散、状态连续的马尔可夫过程被称为马尔可夫过程。时间连续、状态连续的马尔可夫过程被称为连续马尔可夫过程。3马尔科夫过程具有什么样的特性？答：一阶记忆特性，实际就是带参变量的随机变量间的关联特性，该特性使马尔科夫过程可以由二阶概率函数完全刻画。4马尔可夫链也有平稳之说吗？答：对，如果齐次链中所有状态的概率分布列相

21、同，则称此齐次链是平稳的。5在随机信号处理中，到达与相通的共有性质？答：到达具有传递性。相通具有传递性。 6闭集的概念？答：设C为状态空间的一个子集，如果从C内的任何一个状态a_i不能到达C以外的任何状态，则称C为闭集。7何为吸收态？答：若一个闭集只包含一个状态，则称此闭集为吸收态。8是不是所有的状态都是非常返态？答：不是，对于一个非常返态，在过程中访问它的次数是有限的，对于一个状态个数是有限的马尔可夫链，不是所有的状态都是非常返态，或者说有限状态的马尔可夫链至少有一个状态是常返态。9马尔可夫链的遍历性？答：如果齐次马尔可夫链中，对于一切与，存在不依赖的极限，则称该链具有遍历性。10什么是齐次

22、马尔可夫链？答：如果马尔可夫链的转移函数P_ij(s,n)只取决于差值，而与，本身的值无关，则称为马尔可夫链。11怎样描述齐次马尔可夫链有限维概率函数？答：齐次马尔可夫链的状态概率由初始概率和一步转移概率决定，故利用初始分布和一步转移概率矩阵就能完整的描述齐次马尔可夫链的统计特性。12到达与相通的性质总结？答：对于质点的随机游动，所有状态只要不带吸收状态，它与自己相邻的非吸收状态都是相通的，这样，在不带吸收壁的随机游动中，所有状态都是相通的。而在带有吸收壁的随机游动中，除吸收状态外，其他状态也都是相通的。13独立增量的特点是什么？答：独立增量过程的特点是：在任一时间间隔上过程状态的改变，不影响

23、将来任一时间间隔上过程状态的改变。14 侯振挺老师是如何理解条件期望和Markov性的？        侯振挺老师毕业于唐山铁道学院，最初学的是桥梁专业。由于他一直对数学有兴趣，所以他就自学数学。大学三四年级的时候，他买了.辛钦写的一本小书公共事业中的数学（名称我记不全了）。当时他看到书中有一个问题，后来用自己的方法证明了该问题并且发表在中国科学上。但是毕业后他被分配到长沙铁道学院，从事教学。大学不是正规的数学系毕业，工作单位又是工科学校，其学习数学的环境可想而知。所以他只能继续自学数学。但他后来的成就却非常大，有兴趣的朋友可以到网上

24、艘一下。        这里我想说的是侯老师的直观能力。他的直观能力是概率界公认的。        对于随机变量的条件期望，他是这样解释的：“什么是条件期望？好比长沙铁道学院刚建校，学校处在几个小山之间，地面不平整。为了建房子，先平整土地。如果把地面先画成小块儿，在每个小块儿上平整，但不许把小块儿中的土挪走，这样就得到了局部的平整。如果再次画出更大的片，再局部平整就会得到稍大的平整。最后把铁道学院整个画成一片，就得到了一个完好的校园。实际上，条件期望就是画分区域，然后局部平均

25、。如果整个区域只有一个，那么得到的就是平均，也就是随机变量的数学期望”。我曾经在1991年暑假的时候，听过王梓坤先生讲条件期望，他说他曾经问是怎样提出条件期的， Kolmogorov本人也回答不清楚。我觉得这是对于条件期望最好的解释。         对于Markov过程，侯老师是这样解释的：“什么是Markov性？好比舞蹈学校去挑学员，看到一个小女孩儿，觉得小女孩儿基础不错，但将来女孩长大了，体形会怎样？把她妈妈找来，女孩将来的体形和她妈妈的现在的体形差不多，根据她妈妈的体形，大致可以推断女孩将来的体形。那么，有没有必要去

26、找女孩的姥姥呢？没必要。女孩好比是将来，妈妈好比是现在，姥姥好比是过去，那么这个例子说明，推断将来，只需要现在的信息，而与过去没有什么关系。也就是说，在已知现在的条件下，将来与过去独立。这就是Markov性。具有这样的性质的随机过程，就称为Markov过程”。第七章 估计理论 1 本章学习的估计的方法有哪些？它们有什么应用条件？答：本章主要学习了贝叶斯估计、线性最小均方估计和最大似然估计，这三种估计方法是要求大家熟练掌握的；最后还介绍了一下最小二乘估计和维纳滤波器。贝叶斯估计学习了三种：最小均方估计，条件中位数估计，最大后验概率估计。这几种贝叶斯估计方法都需要知道被估计量的先验概率密度。线性最

27、小均方估计需要知道被估计量的一、二阶矩。最大似然估计需要知道似然函数，它适用于未知确定量的估计。最小二乘估计对待估计量的统计特性没有任何假定，应用十分广泛。2 什么是有效估计量？答：无偏估计量中，估计方差最小即估计方差达到了CRLB下限的估计量，称为有效估计量。3 参量估计与波形估计有何不同之处？答：参量估计的被估计量不随时间而变化，也称为静态估计；而波形估计的被估计量是随时间变化的，也称为动态估计。4 波形估计有几种主要类型？答：滤波、预测（外推）、平滑（插值）。5 波形估计最常用的准则是什么？为什么？答：原则上，参数估计的估计准则都可以用于波形估计中，但实际中通常采用线性最小均方准则，因为

28、实现相对简单或者说易于实现。6 构造一个估计问题包括哪些基本要素？答：构造一个估计问题的基本要素包括：(1)参数空间：这是被估计量的取值空间，对于单参数，参数空间是一维空间，对于多参数，参数空间是一个多维空间，这时对应的是多参量的同时估计； (2)概率传递机制：由于噪声的存在使得观测数据出现随机性，f(z;q)（当q为随机变量时为条件概率密度f(z|q)）反映了这种概率传递作用，也就是说，观测数据的产生是受到概率密度的控制； (3)观测空间：是所有观测值构成的空间，对于单次测量，观测空间是一维的，对于多次测量，观测空间是多维空间； (4)估计准则： 在得到观测数据后，要根据观测z确定估计，这个

29、估计是观测的函数，记为，估计准则就是确定估计的规则； (5)估计空间：估计不是唯一的，不同的估计方法可以得到不同的估计，所有估计构成的空间称为估计空间。7 检测与滤波有何区别与联系？答：检测是根据被噪声淹没的接收信号判断发送信号是几种可能信号中的哪一种信号；而滤波是将接收信号送入滤波器，从而恢复原信号。检测往往可通过滤波的方式来实现。第八章 检测理论1检测问题的举例?答：例如在雷达检测目标是否存在的时候，就必须通过一系列的信号处理和运算过程，从杂波中提取有用的信息，来判定目标是否存在，以及目标的一些特性。2检测的方法？答：检测的方法就是通过处理得到一判决门限值，通过与门限值的比较来判定最终结果。3判决的一些准则？答：根据需要，判决可以选用贝叶斯准则、最小错误概率准则、极大极小准则、纽曼皮尔逊准则。4极大极小准则的适用范围？答：当先验概率未知的时候，就可以采用极大极小准则。5在代价因子和先验概率都没有的情况下，怎么办？答：在这种情况下