概率与统计读书报告.doc

概率与统计读书报告 概率与统计主要是针对一些随机现象手机和分析相关的数据，对所考察的问题进行推断或预测，为采取一定的决策和行动提供依据和建议。 第一章随机事件与概率对概率进行了主观定义，但定义是相对的，不是绝对的。他应该类似于一个公理，虽然无法证明，但被大众认可，也找不出反面的例子。概率也可以进行运算，涉及到概率的加法公式，这又不同于数与数之间的运算，具有其特定的法则。概率所涉及到的事件也从具体的推广到了无穷多个，这使得概率具有更大的普遍性。而古典概型的提出，使概率有了一个最基础也最常见的模型。概率的公理化定义提出了概率空间，同时指出概率的一些条件，随后列出了概率的性质，指出了概率之间的联系。而概率是相对的，即使在一定条件实现下才会发生的，即概率的独立性。概率与概率之间有绝对的独立性，因此有了概率之间的乘法。条件概率有三个重要的公式，出乘法公式外，还有全概公式和逆概公式。全概公式是指当直接求某个概率难求而另一组概率和其条件概率好球时，可以利用全概公式求解。而逆概公式可以看作是从先验概率到后验概率的转换公式，即根据先前的经验和知识推测出的概率转换到观察事件发生后的概率。 第二章随机变量与概率分布。高中数学中的随机变量容易理解，而大学数学中的随机变量有直观描述和数学描述。直观描述直接用一个数量描述，容易明白，而数学描述用一个集合，可有些抽象。随机变量可以分为离散型随机变量和连续性随即变量。离散型随机变量在某一范围内的取值的概率等于它取这个范围内各个值的概率。离散型随机变量与连续型随机变量也是由随机变量取值范围（或说成取值的形式）确定，变量取值只能取离散型的自然数，就是离散型随机变量，比如，一次掷20个硬币，k个硬币正面朝上，k是随机变量，k的取值只能是自然数0，1，2，20，而不能取小数3.5、无理数20，因而k是离散型随机变量。如果变量可以在某个区间内取任一实数，即变量的取值可以是连续的，这随机变量就称为连续型随机变量， 第三章随机向量。很多随机现象往往涉及多个随机变量，而且要把这些随机变量当做一个整体来对待，因此要类比多维空间向量。取值充满整个实数轴的随机变量，就不可能用分布列来表述它取值的概率规律，一般可统一用分布函数来表述。分布函数是定义在实数轴上而取值为大于等于0且小于等于1的实数，对于实轴上任何一点x，随机变量X的分布函数F（x）在x点的值为随机变量X小于x这个事件发生的概率。分布函数是单调非降的右连续函数，在负无穷大时为0，在正无穷大时为1。连续型随机变量的密度函数 如果存在一非负实函数P（x），使随机变量X的分布函数F（x）可以表成P（x)在到x上的积分，则称X为连续型随机变量，P（x)称为X的密度函数。连续型随机变量取任何一个实数值的概率等于0。常见的连续型随机变量的分布有：均匀分布，正态分布、柯西分布、对数正态分布、指数分布、伽玛（）分布、贝塔（）分布、x2分布、学生分布、F分布等等。把分布函数的概念推广到随机向量的情形，得到联合分布函数、边缘分布函数、联合分布列、边缘分布列、联合密度函数和边缘密度函数等概念。里叶变换是数学分布中非常重要而有用的工具，将它应用于概率论，对分布函数作傅里叶-斯蒂尔杰斯变换，就得到特征函数。特征函数与分布函数相互唯一决定，因而可以把求分布函数的问题转化为求特征函数的问题。概率分布用来描述随机变量一系列的可能值及其对应概率的统计术语。概率分布来量化风险和预期回报之间的权衡。中心极限定理概率论中讨论随机变量序列部分和的分布渐近于正态分布的一类定理。这组定理是数理统计学和误差分析的理论基础，指出了大量随机变量近似服从正态分布的条件。它是概率论中最重要的一类定理，有广泛的实际应用背景。在自然界与生产中，一些现象受到许多相互独立的随机因素的影响，如果每个因素所产生的影响都很微小时，总的影响可以看作是服从正态分布的。中心极限定理就是从数学上证明了这一现象 。最早 的中心极限定理是讨论n重伯努利试验中，事件A出现的次数渐近于正态分布的问题。1716年前后，A.棣莫弗对n重伯努利试验中每次试验事件A出现的概率为12的情况进行了讨论，随后，P.-S.拉普拉斯和A.M.李亚普诺夫等进行了推广和改进。自P.莱维在19191925年系统地建立了特征函数理论起，中心极限定理的研究得到了很快的发展，先后产生了普遍极限定理和局部极限定理等。极限定理是概率论的重要内容，也是数理统计学的基石之一，其理论成果也比较完美。长期以来，对于极限定理的研究所形成的概率论分析方法，影响着概率论的发展。同时新的极限理论问题也在实际中不断产生。随机过程(Stochastic Process)是一连串随机事件动态关系的定量描述。随机过程论与其他数学分支如位势论、微分方程、力学及复变函数论等有密切的联系，是在自然科学、工程科学及社会科学各领域研究随机现象的重要工具。随机过程论目前已得到广泛的应用，在诸如天气预报、统计物理、天体物理、运筹决策、经济数学、安全科学、人口理论、可靠性及计算机科学等很多领域都要经常用到随机过程的理论来建立数学模型。独立增量过程是指在任何一组两两不相交的时间区间上，其增量都相互独立的随机过程 。 又称为可加过程 。如果记随机过程为 ZZ（t），tT，则独立增量性意味着对于任意自然数n及任意t0t1tn，增量Z（ti）Z（ti-1）（i1，2，n）及Z（t0）是相互独立的。状态离散的平稳独立增量过程是一类特殊的马尔可夫过程。泊松过程和布朗运动都是它的特例。从一般的独立增量过程分离出本质上是独立随机变量序列的部分和以后 ，剩下的部分总是随机连续的。因此研究独立增量过程，通常可以假设它是可分且随机连续的 。莱维-辛钦公式表明可分的随机连续的独立增量过程可表为正态过程，泊松型过程及实函数之和。马尔可夫链与布朗运动以及遍历假说这两个二十世纪初期物理学重要课题是相联系的，但马尔可夫寻求的似乎不仅于数学动机，名义上是对于纵属事件大数法则的扩张。它们是后面进行推导必不可少的条件:(1)尺度间具有马尔可夫性质.随机场从上到下形成了马尔可夫链,即 Xi 的分布只依赖于 Xi,与其他更粗 糙的尺度无关,这是因为 Xi 已经包含了所有位于其上层的尺度所含有的信息.(2) 随机场像素的条件独立性.若 Xi 中像素的父节点已知,则 Xi 中的像素彼此独立.这一性质使我们不必再 考虑平面网格中相邻像素间的关系,而转为研究尺度间相邻像素(即父子节点)间的关系.(3) 设在给定 Xn 的情况下,Y 中的像素彼此独立.(4) 可分离性.若给定任一节点 xs,则以其各子节点为根的子树所对应的变量相互独立.从只有一个节点的根到和图像大小一致的叶子节点,建立了完整的四叉树模型,各层间的马尔可夫链的因 果关系使我们可以由非迭代的推导过程快速计算出 X 的最大后验概率或后验边缘概率.完整的四叉树模型也存在一些问题.(1) 因概率值过小,计算机的精度难以保障而出现下溢,若层次多,这一 问题更为突出.虽然可以通过取对数的方法将接近于 0 的小值转换成大的负值,但若层次过多、概率值过小,该 方法也难以奏效,且为了这些转换所采用的技巧又增加了不少计算量.(2) 当图像较大而导致层次较多时,逐层 的计 算甚 为繁琐 下 溢 现 象肯定 会出 现 , 存储中 间变 量也 会占 用大 量空 间 , 在时 间空间 上都 有更 多的 开销 .(3) 分层模型存在块效应,即区域边界可能出现跳跃,因为在该模型中,同一层随机场中相邻的像素不一定有同 一个父节点,同一层的相邻像素间又没有交互,从而可能出现边界不连续的现象.为了解决这些问题,我们提出一种新的分层 MRF 模型半树模型,其结构和图1 5类似,仍然是四叉树,只 是层数比完整的四叉树大大减少,相当于将完整的四叉树截为两部分,只取下面的这部分.模型最下层仍和图像 大小一致,但最上层则不止一个节点.完整的四叉树模型所具有的性质完全适用于半树模型,不同点仅在于最上层,完整的树模型从上到下构成 了完整的因果依赖性,而半树模型的层间因果关系被截断,该层节点的父节点及祖先均被删去,因此该层中的各 节点不具有条件独立性,即不满足上述的性质 2,因而对这一层转为考虑层内相邻节点间的关系.半树模型和完 整的树模型相比,层次减少了许多,这样,层次间的信息传递快了,概率值也不会因为过多层次的逐层计算而小 到出现下溢.但第 0 层带来了新的问题,我们必须得考虑