12年随机课件ch1概率论基础

1、2022/8/131/92随机信号分析任通菊2/922022/8/13 我命在我，不在天地。 天助自助者。 主动还是被动是成功与失败的关键。 梅花香自苦寒来。 上好每堂课，做好每次作业。 学会读书，读专业书，读文学作品（修身养性， 学会自信） 与同学们共勉3/922022/8/13课程基础：概率论、信号与系统后续课程：通信原理及从事统计信号处理研究 课程性质： 专业基础课成绩考核：平时作业期中考试期末考试 课程简介4/922022/8/13 参考书：1、随机信号分析 赵淑清 郑薇 编 哈工大出版社2、随机过程 毛用才等编著 西安电子科技大学出版社欢迎访问随机信号与系统课程网站 3、随机过程导论

2、 答疑时间与地点：时间：地点：科B楼 232 5/922022/8/13概率论基础 第一章 概率论基础随机过程的基础理论 第二章 随机信号 第三章 平稳性与功率谱密度 第四章 各态历经性与随机实验随机过程的应用 第五章 随机信号与线性系统 第六章 带通随机信号 本书内容安排：6/922022/8/13第1章 概率论基础本章将复习与总结概率论的基本知识也扩充一些新知识点，比如：1) 利用冲激函数表示离散与混合型随机变量的概率密度函数，2) 随机变量的条件数学期望3) 特征函数4) 瑞利与莱斯分布7/922022/8/131.1 概率公理与随机变量1.2 多维随机变量与条件随机变量1.3 随机变量

3、的函数1.4 数字特征与条件数学期望1.5 特征函数8/922022/8/131.1 概率公理与随机变量1.1.1 概率公理1.概率 确定性现象 ： 在一定条件下必然发生（或必然不发生）的现象。 随机现象 ： 在条件相同的一系列重复观察中，会时而出现时而不出现，呈现出不确定性，并且在每次观察之前不能准确预料其是否出现，这类现象称之为随机现象。9/922022/8/13 随机试验（Random Experiment）：对随机现象做出的观察与科学实验。 E随机实验的特点： a.可重复性 b.不唯一性 c.不确定性 样本点 （ Sample Point ） 把随机实验E的每一个基本可能结果称为随机实

4、验的样本点，记为。10/922022/8/13 随机实验的全部样本点构成的集合，称为随机实验的样本空间，记为 样本空间 （Sample Space ） 随机事件（ Random Event ） 实验E中满足一定条件的样本点的集合称为随机事件,是的子集。记为 A ,B ,每个样本点称为基本事件11/922022/8/13随机事件域 F：由样本空间的全体子集构成。 随机事件域（ Random Event Field）域：一些集合组成的集合叫域。投一枚硬币3次，观察正反面出现的情况事件A：出现正面两次事件B：至少出现正面一次12/922022/8/13 概率 事件是随机的。赋予事件一个出现可能性的度

5、量值，称为概率（Probability）。常由相对频率（Relative frequency）来计算，（n很大） 概率空间：（ ，F，P）构成的三元总体空间称为概率空间。13/922022/8/13归一性：可加性：若事件 A、B互斥, 即 ，则，非负性：任取事件A， 概率公理： 任何事件A的概率满足：14/922022/8/13 事件概率的基本性质15/922022/8/13例1.1 分析掷均匀硬币问题。 解： H-正面，T-反面。因此， （1）样本空间： （2）事件域： （3）由硬币的均匀特性可得， ，而且， ， 16/922022/8/13例：掷一枚均匀的骰子，观察出现点数的随机实验 E1

6、7/922022/8/132. 条件概率乘法公式：条件事件：条件概率（Conditional probability），链式法则： 18/922022/8/13 事件独立其中：m 为整数，常由实际问题的意义判断事件的独立性事件A与B独立（Independent）等价地定义为多个事件 彼此独立，19/922022/8/131.1.2 随机变量 Random Variable（R.V.）（1）定义 若定义在样本空间上的单值实函数 ，将基本可能实验结果i与实数x i对应起来，有如下函数关系： 则 称为随机实验E中的随机变量，简记为X。1.随机变量定义：X 的取值范围称为值域或状态空间 R.V.一般用

7、大写字母 X, Y , Z , 20/922022/8/13（2）类型：连续RV (C.R.V. ) ：X 的取值连续，对应无穷多个样本点离散RV (D.R.V. ) : X 的取值离散，状态可能有限或无限 状态混合RV (M.R.V. ) : X 的取值离散或连续12iX()x2xix1样本空间随机变量随机变量值域21/922022/8/13 2. 随机变量的概率分布函数(累积分布函数) Probability Distribution Function 定义 即，F(x)是R.V.X.落在区间 上的概率。22/922022/8/13 性质 1) F(x)是x的单调递增函数,即2) F(x)

8、非负，且3) , 必然事件，不可能事件 23/922022/8/134） 区间概率特性 对于 D.R.V.24/922022/8/13对于 C.R.V.X取某值的概率为0即 C.R.V. 落在某区间的概率与区间的开闭无关5) F(x) 连续性25/922022/8/136) D.R.V.的 F(x) 用单位阶跃函数表示26/922022/8/133.随机变量的概率密度函数 Probability Density Function 定义27/922022/8/13性质2）：非负性 1）：3）：归一性4）：5）：D.R.V.28/922022/8/13例1.4 均匀骰子实验：定义R.V.X的取值为

9、解： 是离散型的，分布律描述最为方便：状态概率或者采用列表29/922022/8/13分布与密度函数，或30/922022/8/131.2 多维随机变量与条件随机变量 1.2.1 多维随机变量(随机向量)各 R.V.之间可能有一定的关系, 也可能没有关系 即 相互独立12iX1()X2()XK()X1()多维映射X2()XK()X1X2XK31/922022/8/13 1. 二维随机变量 (X,Y) 联合概率分布函数 ： 联合概率密度函数 ：32/922022/8/13 性质：，且F(x,y)是x或y的单调增函数 33/922022/8/13令： ，有34/922022/8/1335/9220

10、22/8/136) 边缘分布边缘分布函数：边缘概率密度：36/922022/8/132、n维随机变量及其分布设有n维随机变量 n维（联合）分布函数为: n维（联合）密度函数为：37/922022/8/13 高维概率密度可通过积分降低维数，设已知n维随机变量的n维联合概率密度，则有其中 ：m n38/922022/8/13例1.5 某电子系统有部件A1和A2 , 状态：normal与false， 随机变量X1和X2 ：求： （1）系统工作情况的样本空间和随机向量（X1,X2）的联合样本空间 （2） A1和A2 独立时，计算（X1,X2）的概率密度函数39/922022/8/13X1和X2的联合样

11、本空间解：（1）系统状况的样本空间40/922022/8/13A1和A2 独立时，取值概率：41/922022/8/13的概率密度函数 作业：1.9 1.1142/922022/8/131. 随机变量与多维随机变量的条件事件1.2.2 条件随机变量如：点条件43/922022/8/132. 条件随机变量的概率分布、密度函数 类似概率的乘法规则44/922022/8/131.2.3 独立性R.V. X1,X2,Xn 相互独立：45/922022/8/13例1.8 二维R.V. 求：46/922022/8/13解: (1)(2) X 与 Y 独立的充要条件：高斯R.V.之间，互不相关和统计独立等价

12、47/922022/8/131.3 随机变量的函数 1.3.1 一元函数一元函数 的概率特性：函数形如 或构成从样本空间到实数域的复合映射，导致新的随机变量。 48/922022/8/13定理1.1: 已知R.V.X 的 , 现有R.V.Y:且X与Y之间的关系是单调的，并且存在反函数，即若反函数h(Y)的导数也存在，则B为Y的值域对于连续型随机变量，则有:49/922022/8/13证：当X与Y之间是单调增时50/922022/8/13当X与Y之间是单调减时51/922022/8/13例：随机信号X是均匀分布的，其概率密度函数为 ，若 ，试求 Y 的概率密度函数。解：反函数为 , 反函数的导数

13、为1/252/922022/8/131.3.2 二元函数二元函数：其概率特性：53/922022/8/13更一般地：设已知二维随机变量(X,Y)的 f (x , y)，现有且反函数的二阶偏导存在，则设函数映射是单调的反函数存在雅可比行列式54/922022/8/13例1.13 求 Z=X+Y 的密度函数解：定义辅助变量 U = Y , 则积分可得：如果X与Y独立：55/922022/8/13例1.15 复随机变量 ，其实部与虚部独立，且 ， ，讨论振幅R与相位的概率特性。1.3.3 瑞利与莱斯分布解：函数、反函数关系与雅可比行列式， 56/922022/8/13于是，边缘概率密度函数为：瑞利分

14、布 根据X与Y独立，有 57/922022/8/13均匀分布 结论：中， 与 独立。 作业：1.1658/922022/8/131.4 数字特征与条件数学期望 1.4.1 R.V.X的数学期望（统计平均或集合平均）连续随机变量:离散随机变量:expectation , mean59/922022/8/13基本性质： 1）线性：2）若 独立，则3）对于 有，简洁书写形式：60/922022/8/131.4.2 矩与联合矩k阶矩（Moment）与(k+r)阶联合矩（或混合矩）（Joint moment）如下， 1) 绝对原点矩：2) 原点矩：3) 中心矩：61/922022/8/13 几个重要的矩

15、（2）随机变量X的方差 Variance 方差描述了R.V.偏离均值的程度（1）均方值 连续随机变量:离散随机变量:62/922022/8/13性质：协方差 随机变量的标准差:均方值63/922022/8/13（3）相关矩 relation记为：64/922022/8/13（4）协方差矩 Covariance记为：有：65/922022/8/13（5）相关系数 的数值越大，随机变量 和 越相关，相关表示两个R.V. X 、Y 的线性关联程度 表示X和Y是线性相关的 表示X和Y是彼此不相关的 01 ， 正相关1 0 ， 负相关66/922022/8/13讨论： 的关系 三者都用于表示 R.V.

16、X 、Y 的关联程度包含均值、方差对关联程度的影响。包含离散程度对关联程度的影响消除了均值、方差对关联程度的影响，因而单纯地反映了R.V. X 、Y 的相关性67/922022/8/131.4.3 统计独立、不相关、正交(1)不相关或对于 R.V.X ,Y(2) 正交或68/922022/8/13统计独立互不相关相互正交任一随机变量均值为0正态分布除外(3)统计独立、不相关、正交 的关系 一般情况69/922022/8/13高斯（正态）随机变量 互不相关统计独立零均值高斯（正态）随机变量统计独立相互正交互不相关作业：1.1470/922022/8/131.4 .4 条件数学期望在一定条件下的数

17、学期望，称为条件数学期望（或条件均值）。以二维为例，定义如下： 对于离散型随机变量， 是 y 的函数，及 。71/922022/8/13如果该函数的自变量为R.V.Y, 则 E(X|Y) 是一个新的随机变量，进一步对它求平均有，全期望公式证明：72/922022/8/13基本性质： 1）2）若 独立，则3）或者73/922022/8/13解：令顾客数为N，每人购买量为 Xi （ ） ，Xi与 N 都是随机的，且彼此独立。则营业额为 ，于是 例1.19 某小店平均每天有50名顾客，而每人平均购买10元的商品。问小店每天的平均营业额是多少？而 ，所以作业：1.2474/922022/8/13定理1

18、.2（切比雪夫不等式 Chebyshev inequality）对任意 ,有1.4 .5 重要不等式例如， 而对于正态分布特例，实际上是99.74。 如果方差 ，则X集中在m一点上。因为对于任意小的， ，即 ， 。 随机变量 X=m 依概率1成立75/922022/8/13定理1.3 （柯西许瓦兹不等式Cauchy-Schewarz inequality）设 ， ，则 E(XY) 存在，且实随机变量76/922022/8/13随机变量的时域特征：概率特性矩特性随机变量的频域特征：特征函数（矩发生函数 ）1.5 特征函数 77/922022/8/13基本概念定义1.2： 随机变量X的特征函数（Characteristic function）定义为式中 ， 为确定的实变量。1.5.1 (一维)特征函数 78/922022/8/13 离散随机变量X 连续随机变量X79/922022/8/13 特征函数与概率密度函数的关系（是一个特殊的变换对）证明：80/922022/8/13 通过傅立叶变换求特征函数与概率密度函数变换对定理1.5（唯一性定理）密度函数 与特征函数 相互唯