机器人智能算法导论 课件第3章-矩理论

《机器人智能算法导论》

配套课件本节简介能力目标：能通过矩生成函数推导随机变量的概率分布参数能够利用高斯分布的矩特性分析机器人传感器测量误差或其他不确定性问题知识目标：掌握矩、数学期望、方差和协方差的定义及计算方法理解随机变量和随机向量的均值和定理以及方差和定理了解矩生成函数以及高斯分布的矩生成函数、线性变换理论和加和-*-机器人智能算法导论目录本节简介矩的基本概念数学期望方差与协方差均值和定理方差和定理矩生成函数高斯分布的矩什么是矩？矩的定义：一个随机变量(一维随机向量)的矩(Moment)是其幂或相关函数的数学期望。本质上，随机变量的矩反映了其概率分布的特征。常见的随机变量矩：随机变量幂的矩(PowerMoment)、随机变量的中心矩(CentralMoment)和随机变量的标准矩(StandardizedMoment)。一个随机变量的一阶幂矩是该随机变量的数学期望，二阶中心矩是该随机变量的方差，三阶标准矩是该随机变量概率分布的偏度或歪度(Skewness)，四阶标准矩是该随机变量概率分布的峰度或尖度(Kurtosis)。矩的基本概念幂矩

矩的基本概念中心矩

矩的基本概念标准矩

矩的基本概念偏度偏度用来刻画随机变量概率分布的不对称性。偏度可正可负，甚至有时候偏度不能定义。当偏度为正时，我们称随机变量概率分布的偏度为正偏态（或右偏态）。在这种情况下，概率密度函数右侧尾部比左侧长，分布的主体集中在右侧，即随机变量以绝大多数的概率取值在平均值右侧。当偏度为负时，我们称随机变量概率分布的偏度为负偏态（或左偏态）。在这种情况下，概率密度函数左侧尾部比右侧长，分布的主体集中在左侧，即随机变量以绝大多数的概率取值在平均值左侧。当偏度为零时，表示随机变量的可能取值相对均匀地分布在均值两侧，但不能保证分布是对称的。如果某个随机变量概率分布是对称的，那么其偏度一定为零，并且均值等于中位数。比如，高斯分布就是一个对称分布，其偏度为零，其中位数和均值相等矩的基本概念峰度随机变量概率分布的峰度和偏度一样，用来刻画分布的形状。峰度主要反映的是随机变量概率分布相对于高斯分布的峰部尖锐程度或平坦程度，揭示了分布的集中性和尾部轻重的特点。当峰度为零时，意味着随机变量概率分布的峰度与高斯分布相同，其峰部既不比高斯分布更尖锐也不更平坦，尾部的轻重与高斯分布相似。当峰度大于零时，意味着随机变量概率分布比高斯分布具有更为集中和尖锐的峰部，取值更倾向于聚集在中心区域，而尾部相对较轻，极端值出现的概率较低。当峰度小于零时，意味着随机变量概率分布比高斯分布平坦，峰部较宽且矮，分布较为分散，不仅中心区域的取值不如高斯分布集中，而且尾部更重，极端值出现的概率相对较高。矩的基本概念随机变量函数的矩

矩的基本概念随机变量函数的矩随机变量函数可以被看作一个新的单随机变量，可以利用单随机变量矩的求解方法来求解随机变量函数的各种矩。事实上，因为预先并不知道新随机变量的概率函数，所以直接利用单随机变量矩的求解方法直接求解新随机变量的矩很困难。因此，通常利用矩的性质和定理来求解。从模型的角度来看，即从参数的角度看，上面函数代表的模型都是线性模型。事实上，对于符合线性模型的随机变量函数，其矩的计算有很多便利之处。矩的基本概念随机变量的矩与随机变量概率分布的关系从矩的直接计算公式来看，每一个矩的计算都直接或间接地使用了随机变量的概率分布。这说明，随机变量的矩和随机变量的概率分布是密切相关的。根据对随机变量各种矩的分析可以看出，随机变量的矩本质上刻画了该随机变量概率分布的特性或形状。比如，一阶幂矩刻画了随机变量概率分布的均值，二阶中心矩刻画了随机变量概率分布偏离均值的程度，三阶标准矩刻画了随机变量概率分布的偏度，四阶标准矩刻画了随机变量概率分布的峰度等。矩的基本概念随机变量的矩与随机变量概率分布的关系尽管随机变量的矩与随机变量概率分布有密切关系，但我们需要注意以下两点：①

在一般情况下，已知随机变量的矩，并不能确定随机变量概率分布；②

在一般情况下，虽然随机变量函数建立了因变量随机变量（新的随机变量）和自变量随机变量的关系，并且可以利用这个关系从自变量随机变量的矩和概率分布计算出因变量随机变量的矩，但并不能根据自变量随机变量概率分布的形式和参数来确定因变量随机变量概率分布的形式和参数。只有某些服从特殊分布的随机变量，其概率分布的参数可由随机变量的矩唯一确定，即获得随机变量的矩也就确定了随机变量概率分布的参数。高斯分布就是一个十分特殊的概率分布，服从高斯分布的随机变量，其均值和方差可唯一确定高斯分布的参数。另外，从随机变量的偏度和峰度也可以看出，高斯分布是一个很奇特的函数。。矩的基本概念什么是数学期望？数学期望的定义：数学期望（MathematicalExpectation）E(X)是定义在随机变量X上的一个统计量，它可以被看作随机变量X取值空间中所有可能取值的加权平均。其中，随机变量每个可能取值xi的权重是事件X=xi发生的概率。随机变量的数学期望也称期望、均值和一阶幂矩。数学期望随机变量的数学期望

数学期望随机向量的数学期望

数学期望离散随机变量函数的数学期望

数学期望数学期望的性质线性可加性：如果随机变量A和B是定义在同一个概率空间上的，那么随机变量的线性组合aA+bB的数学期望是A和B数学期望的线性组合，即E(aA+bB)=aE(A)+bE(B)。相关随机变量的不可乘性：如果随机变量A和B是相关的，那么两个随机变量乘积AB的数学期望不等于A和B数学期望的乘积，即E(AB)̸=E(A)E(B)。独立随机变量的可乘性：如果随机变量A和B是不相关的或独立的，那么两个随机变量乘积AB的数学期望等于A和B数学期望的乘积，即E(AB)=E(A)E(B)。数学期望什么是方差？

方差与协方差离散随机变量的方差

方差与协方差连续随机变量的方差

方差与协方差方差的性质

方差与协方差方差的性质

方差与协方差什么是协方差？

方差与协方差随机变量的协方差

方差与协方差随机变量的均值和定理

均值和定理随机变量的均值和定理

均值和定理随机变量的均值和定理

均值和定理随机向量的均值和定理

均值和定理随机向量的均值和定理

均值和定理随机向量的均值和定理

均值和定理随机向量的均值和定理

均值和定理随机变量的方差和定理

方差和定理随机变量的方差和定理

方差和定理随机变量的方差和定理

方差和定理随机变量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机向量的方差和定理

方差和定理随机变量的矩生成函数

矩生成函数随机变量的矩生成函数

矩生成函数随机变量的矩生成函数

矩生成函数随机变量的矩生成函数

矩生成函数随机变量的矩生成函数

矩生成函数随机变量的矩生成函数与概率分布的关系随机变量的矩生成函数可以被认为是随机变量的概率密度函数（或概率质量函数）或概率分布函数的一种替换。对于由多个随机变量的加权和所形成的新随机变量，由于很难获得其显式的概率密度函数（或概率质量函数），所以采用概率密度函数（或概率质量函数）来分析其概率分布是十分困难的。相对比，矩生成函数很适合分析这种新随机变量的概率分布，并且可以得到很简洁的结果，即新随机变量的矩。事实上，并不是所有的随机变量都有矩生成函数。如果存在一个矩生成函数，那么这个矩生成函数就完全定义了一个随机变量，即完全定义了该随机变量概率密度函数(或概率质量函数)的形式和参数。这对应了矩生成函数一个重要的性质：如果随机变量X和Y的矩生成函数相同，那么这个两个随机变量的概率分布也相同，即概率密度函数（或概率质量函数）的形式和参数相同。需要注意的是，对于一个随机变量，其一定存在矩，但不一定存在矩生成函数。如果两个随机变量的矩相等，那么这两个随机变量的概率分布不一定相同。矩生成函数随机向量的矩生成函数

矩生成函数高斯分布

高斯分布的矩高斯分布

高斯分布的矩高斯分布

高斯分布的矩高斯分布

高斯分布的矩高斯分布：是以德国著名数学家约翰·卡尔·弗里德里希·高斯命名的。然而事实上，最早发现高斯分布的是法国数学家亚伯拉罕·棣莫弗（没有高斯那么有名，一生贫困）。高斯分布的以高斯命名，恰恰为史蒂格勒命名法则（Stigler’sLawofEponymy）提供了一个实例支撑。史蒂格勒命名法则指出，以人名命名的科学发现，通常不是由最初发现者的名字命名的。有意思的是，该法则的提出者，统计学家史蒂芬·史蒂格勒，自己也认为，此法则本身的最初发现者不是自己，而是罗伯特·金·莫顿。也就是说，科学发现的最终命名往往落到更有名望科学家的头上高斯分布的矩生成函数

高斯分布的矩高斯分布的矩生成函数

高斯分布的矩高斯分