随机变量的定义及分布.ppt

第一章 随机变量基础 概率的基本术语 随机变量的定义及分布 随机变量的数字特征 随机变量的函数 多维正态随机变量 MATLAB的统计分析函数*,本章学习的目标： 复习概率与随机变量的理论 加深随机变量函数的理论（重点） 深化一些重要概念的理解 加深多维正态随机变量的理论 增加Matlab的统计分析函数(自主学习）,1.1 概率的基本术语,随机试验(Random Experiment): 满足下列三个条件的试验称为随机试验： (1)在相同条件下可重复进行； (2)试验的结果不止一个，所有可能的结果能事先明确； (3)每次试验前不能确定会出现哪一个结果。,例：投掷硬币(Toss a coin),The outcome varies in an unpredictable fashion when the experiment is repeated under the same conditions.,如投掷硬币出现正面就是一个随机事件。,基本事件(Elementary Event): 随机试验中最简单的随机事件称为基本事件，如投掷骰子出现1、2、.、6点是基本事件，出现偶数点是随机事件，但不是基本事件。,(简单事件Simple Event),样本空间(Sample Space) 随机试验的所有基本事件组成的集合称为样本空间.,Toss a coin：S=Head, Tail=H,T,Toss a die: S=1,2,3,4,5,6,关于样本空间的注释： 离散的样本空间,Toss a die: S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间看下例,IF we toss a coin three times and let the triplet xyz denote the outcome “x on the first toss, y on the second toss, z on the third toss”, then the sample space of the experiment is,S=HHH, HHT, HTH, HTT, THH, THT, TTH, TTT,The event “ one head and two tails” is defined by E=HTT, THT, TTH,关于样本空间的注释： 离散的样本空间,Toss a die: S=1,2,3,4,5,6,连续的样本空间,由多次子试验构成的样本空间,可数无穷的样本空间,S=S1 S1 =HH, HT, TH, TT, S1=H,T,频率和概率(Frequency and Probability): n次重复试验中， 事件A发生的次数nA：-事件A的频数 比值nA/n:- 事件A发生的频率,概率,频率反映了事件A发生的频繁程度，若事件A发生的可能性大，那么相应的频率也大，反之则较小。,1.2 随机变量的定义 (Definition of a random variable),设随机试验E的样本空间为S=e，如果对于每一个eS，有一个实数X(e)与之对应，这样就得到一个定义在S上的单值函数X(e)，称X(e)为随机变量，简记为X。,随机变量是定义在样本空间S上的单值函数,1. 定义,Interpretation of random variable:,S,e,Real line,Random variable is a function that assigns a numerical value to the outcome of the experiment.,A coin toss,S,e1,Real line,1,0,e2,Mapping of the outcome of a coin toss into the set of real number,A discrete random variable is a random variable that can be take on at most a countable number of possible values,根据随机变量取值的不同可以分为： 连续型随机变量(Continuous random variable) 离散型随机变量(Discrete random variable),2. 概率分布列,Probability mass function (PMF),(1) (0,1)分布 随机变量的可能取值为0和1两个值，其概率分布为,PMF:,Bernoulli random variable,Let A be an event of interest in some experiment, e.g., a device is not defective. We say that a “success” occurs if A occurs when we perform the experiment. Bernoulli random variable IA is equal to 1 if A occurs and zero otherwise.,(2) Binomial,独立地进行n次贝努利试验，事件A发生m次的概率,刚好是 展开的第m+1项的系数,例：雷达双门限检测器,Example: Transmission error in a binary communications channel . Let X be the number of errors in n independent transmissions. Find the PMF of X. Find the probability of one or fewer errors,The probability of k errors in n bits transmissions is given by the probability of an error pattern that k 1s and n-k 0s,X is a binomial random variable,例：信息传输问题（Message Transmissions）,Let X be the number of times needs to be transmitted until it arrivers correctly at its destination. Find the probability that X is an a even number.,X is a discrete random variable taking on values from S=1,2,3,.,(3) geometric random variable,The event X=k occurs if k-1 consecutive erroneous transmissions (failures) followed by a error-free one (success),X is called the geometric random variable,泊松分布(Poisson distribution),例：交通路口在单位时间内通过的车辆数,1.3 分布函数和概率密度函数,Probability Density Function, （PDF）,Distribution Function or Cumulative Distribution Function, (CDF),1. 定义,2. 分布函数的性质（Properties of the CDF）,分布函数是右连续的不减函数，在负无穷处为零，正无穷处为1。对于连续型随机变量，取某一特定值的概率是为零的。即PX=x=0,对于离散型随机变量，分布函数为阶梯函数，阶梯的跳变点出现在随机变量的取值点上，跳变的高度为随机变量取该值的概率。,对于离散型随机变量，PMF与CDF的关系为,概率密度,对于离散型随机变量，它的概率密度函数是一串函数之和，函数出现在随机变量的取值点，强度为取该值的概率。,3. 常见概率分布 正态分布（Normal），也称高斯（Gauss）分布,标准正态分布函数,瑞利分布（Rayleigh）,瑞利分布概率密度2,指数（Exponential）分布,指数分布概率密度,对数正态分布（LogNormal）,高分辨率雷达杂波分布,对数正态分布概率密度,为尺度参数 为形状参数,1.4 多维随机变量及其分布 Multiple Random Variables and Distributions,1. 定义,2. 二维分布函数和概率密度 Bivariate CDF and PDF,二维分布函数图解,定义：,二维分布函数性质：,二维概率密度：,由二维概率密度可以求出边缘概率密度,随机变量落在某个区域的概率,3. 条件分布(Conditional Distribution),条件分布函数,条件概率密度,称随机变量X、Y独立,Example: Communication Channel with Discrete Input and Continuous Output,noise voltage NU(-2,2),通信信道,X: +1 or -1,Find PX=+1, Y0,Y,Solution:,Therefore,1.5 随机变量的数字特征 均值 方差 协方差与相关系数 协方差矩阵 举例,1. 均值（Mean),算术平均： 所有可能取值等概率加权 统计平均值： 所有可能取值按概率加权,连续型随机变量：,离散型随机变量：,性质：,如果X和Y相互独立，,如果EXY=0，则称X和Y正交(Orthogonal)。,2. 方差(Variance),方差反映了随机变量X的取值偏离其均值的偏离程度或分散程度，D(X)越大，则X的取值越分散。,性质：,如果X1,X2,.,Xn相互独立。,Variance is a nonlinear operator,3. 协方差和相关系数 (Covariance and Correlation coefficient),如果X和Y相互独立，则rXY=0， | rXY|=1的充要条件是PY=aX+b=1,If X and Y are independent, then X and Y are uncorrelated.,The correlation coefficient provides a measure of how good a prediction of the value of one of the two RVs can be formed based on an observed value of the other.,不相关就认为X与Y没有关系吗？,例： 为零均值正态随机变量， Y 与X相关吗？,Y是依赖于X的(Dependence)， 但Y与X不相关(Uncorrelated), 线性不相关的。,Independent implies zero covariance but zero covariance does not imply independence.,Example: Uncorrelated but dependent random variables Let be uniformly distributed in the interval (0,2)。 Let,X and Y are uncorrelated but dependent,注意英文单词的区别: Correlation (Uncorrelated) Dependent（Independent),It can be shown that,4. 协方差矩阵（Covariance Matrix）,多维随机变量通常用协方差矩阵来描述随机变量之间的相互关系。,协方差矩阵是对称（共轭对称）的； 如果变量之间是不相关的，则K是一个对角阵。,例1: (0,1)分布随机变量，PX=1=p,PX=0=q=1-p, 求X的均值和方差,5. Expected value of some important random variable,例2 (a,b)上均匀分布的随机变量，求均值和方差,例3 求瑞利分布随机变量的均值和方差。,常用分布及其数字特征归纳,Uniform Random Variable,Exponential Random Variable,Gaussian Random Variable,Remark: Under a wide range of conditions X can be used to approximate the sum of a large number of independent random variable.,Gamma Random Variable,Remark: Chi-Square random variable with k degree of freedom: k=2,