概率论与数理统计第一章

概率论与数理统计,教材：概率论与数理统计（第二版）叶鹰李萍刘小荗等编华中科技大学出版社,学习概率论与数理统计的意义,1、重要的专业基础课：是各工科(农、林、医、生物工程、经济类)专业,理科专业,以及各种文理交叉学科等专业主干课的学习基础。2、考研的重要内容：考研的数学试卷150分，其中概率论与数理统计内容34分。占22.7%.3、今后工作的重要工具：工作中遇到的大量问题，要用概率论与数理统计的方法去处理。,一、历史背景：17、18世纪，数学获得了巨大的进步。数学家们冲破了古希腊的演绎框架，向自然界和社会生活的多方面汲取灵感，数学领域出现了众多崭新的生长点，而后都发展成完整的数学分支。除了分析学这一大系统之外，概率论就是这一时期“使欧几里得几何相形见绌”的若干重大成就之一,二、概率论的起源：三四百年前在欧洲许多国家，贵族之间盛行赌博之风。掷骰子是他们常用的一种赌博方式。因骰子的形状为小正方体，当它被掷到桌面上时，每个面向上的可能性是相等的，即出现1点至6点中任何一个点数的可能性是相等的。有的参赌者就想：如果同时掷两颗骰子，则点数之和为9与点数之和为10，哪种情况出现的可能性较大？17世纪中叶，法国有一位热衷于掷骰子游戏的贵族德梅耳，发现了这样的事实：将一枚骰子连掷四次至少出现一个六点的机会比较多(0.5182)，而同时将两枚骰子掷24次，至少出现一次双六的机会却很少(1-(35/36)24=0.48)。这是什么原因呢？后人称此为著名的德梅耳问题。,又有人提出了“分赌注问题”：两个人决定赌若干局，事先约定谁先赢得6局便算赢家。如果在一个人赢3局，另一人赢4局时因故终止赌博，应如何分赌本？(0.25:0.75)诸如此类的需要计算可能性大小的赌博问题提出了不少，但他们自己无法给出答案。数学家们“参与”赌博参赌者将他们遇到的上述问题请教当时法国数学家帕斯卡，帕斯卡接受了这些问题，他没有立即回答，而把它交给另一位法国数学家费尔马。他们频频通信，互相交流，围绕着赌博中的数学问题开始了深入细致的研究。这些问题后来被来到巴黎的荷兰科学家惠更斯获悉，回荷兰后，他独立地进行研究。,帕斯卡和费尔马一边亲自做赌博实验，一边仔细分析计算赌博中出现的各种问题，终于完整地解决了“分赌注问题”，并将此题的解法向更一般的情况推广，从而建立了概率论的一个基本概念数学期望，这是描述随机变量取值的平均水平的一个量。而惠更斯经过多年的潜心研究，解决了掷骰子中的一些数学问题。1657年，他将自己的研究成果写成了专著论掷骰子游戏中的计算。这本书迄今为止被认为是概率论中最早的论著。因此可以说早期概率论的真正创立者是帕斯卡、费尔马和惠更斯。这一时期被称为组合概率时期，计算各种古典概率。,在他们之后，对概率论这一学科做出贡献的是瑞士数学家族贝努利家族的几位成员。雅可布贝努利在前人研究的基础上，继续分析赌博中的其他问题，给出了“赌徒输光问题”的详尽解法，并证明了被称为“大数定律”的一个定理，这是研究等可能性事件的古典概率论中的极其重要的结果。大数定律证明的发现过程是极其困难的，他做了大量的实验计算，首先猜想到这一事实，然后为了完善这一猜想的证明，雅可布花了20年的时光。雅可布将他的全部心血倾注到这一数学研究之中，从中他发展了不少新方法，取得了许多新成果，终于将此定理证实。,1713年，雅可布的著作猜度术出版。遗憾的是在他的大作问世之时，雅可布已谢世8年之久。雅可布的侄子尼古贝努利也真正地参与了“赌博”。他提出了著名的“圣彼得堡问题”：甲乙两人赌博，甲掷一枚硬币到掷出正面为一局。若甲掷一次出现正面，则乙付给甲一个卢布；若甲第一次掷得反面，第二次掷得正面，乙付给甲2个卢布；若甲前两次掷得反面，第三次得到正面，乙付给甲4个卢布。一般地，若甲前n1次掷得反面，第n次掷得正面，则乙需付给甲2n-1个卢布。问在赌博开始前甲应付给乙多少卢布才有权参加赌博而不致亏损乙方？,尼古拉同时代的许多数学家研究了这个问题，并给出了一些不同的解法。但其结果是很奇特的，所付的款数竟为无限大。即不管甲事先拿出多少钱给乙，只要赌博不断地进行，乙肯定是要赔钱的。走出赌博随着18、19世纪科学的发展，人们注意到某些生物、物理和社会现象与机会游戏相似，从而由机会游戏起源的概率论被应用到这些领域中，同时也大大推动了概率论本身的发展。,法国数学家拉普拉斯将古典概率论向近代概率论进行推进，他首先明确给出了概率的古典定义，并在概率论中引入了更有力的数学分析工具，将概率论推向一个新的发展阶段。他还证明了“狄莫弗拉普拉斯定理”，把狄莫弗的结论推广到一般场合，还建立了观测误差理论和最小二乘法。拉普拉斯于1812年出版了他的著作分析的概率理论，这是一部继往开来的作品。这时候人们最想知道的就是概率论是否会有更大的应用价值？是否能有更大的发展成为严谨的学科,概率论在20世纪再度迅速地发展起来，则是由于科学技术发展的迫切需要而产生的。1906年，俄国数学家马尔科夫提出了所谓“马尔科夫链”的数学模型。1934年，前苏联数学家辛钦又提出一种在时间中均匀进行着的平稳过程理论。如何把概率论建立在严格的逻辑基础上，这是从概率诞生时起人们就关注的问题，这些年来，好多数学家进行过尝试，终因条件不成熟，一直拖了三百年才得以解决。,三、概率论理论基础的建立：20世纪初完成的勒贝格测度与积分理论及随后发展的抽象测度和积分理论，为概率公理体系的建立奠定了基础。在这种背景下柯尔莫哥洛夫1933年在他的概率论基础一书中首次给出了概率的测度论式定义和一套严密的公理体系。他的公理化方法成为现代概率论的基础，使概率论成为严谨的数学分支。,四、概率论的应用：现在，概率论与以它作为基础的数理统计学科一起，在自然科学，社会科学，工程技术，军事科学及工农业生产等诸多领域中都起着不可或缺的作用。,直观地说，卫星上天，导弹巡航，飞机制造，宇宙飞船遨游太空等都有概率论的一份功劳；及时准确的天气预报，海洋探险，考古研究等更离不开概率论与数理统计；电子技术发展，影视文化的进步，人口普查及教育等同概率论与数理统计也是密不可分的。根据概率论中用投针试验估计值的思想产生的蒙特卡罗方法，是一种建立在概率论与数理统计基础上的计算方法。借助于电子计算机这一工具，使这种方法在核物理、表面物理、电子学、生物学、高分子化学等学科的研究中起着重要的作用。,2概率论的公理化俄国数学家伯恩斯坦和奥地利数学家冯.米西斯(R.vonMises,1883-1953)对概率论的严格化做了最早的尝试。但它们提出的公理理论并不完善。事实上，真正严格的公理化概率论只有在测度论和实变函数理论的基础才可能建立。测度论的奠基人，法国数学家博雷尔(E.Borel,1781-1956)首先将测度论方法引入概率论重要问题的研究，并且他的工作激起了数学家们沿这一崭新方向的一系列搜索。特别是原苏联数学家科尔莫戈罗夫(Kolmogorov)的工作最为卓著。他在1926年推出了弱大数定律成立的充分必要条件。后又对博雷尔提出的强大数定律问题给出了最一般的结果，从而解决了概率论的中心课题之一大数定律，成为以测度论为基础的概率论公理化的前奏。,1933年，科尔莫戈罗夫出版了他的著作概率论基础，这是概率论的一部经典性著作。其中，科尔莫戈罗夫给出了公理化概率论的一系列基本概念，提出了六条公理，整个概率论大厦可以从这六条公理出发建筑起来。科尔莫戈罗夫的公理体系逐渐得到数学家们的普遍认可。由于公理化，概率论成为一门严格的演绎科学，并通过集合论与其它数学的分支密切联系着。科尔莫戈罗夫是20世纪最杰出的数学家之一，他不仅仅是公理化概率论的建立者，在数学和力学的众多领域他都做出了开创或奠基性的贡献，同时，他还是出色的教育家。由于概率论等其它许多领域的杰出贡献，科尔莫戈罗夫荣获80年的沃尔夫奖。,3进一步的发展在公理化基础上，现代概率论取得了一系列理论突破。公理化概率论首先使随机过程的研究获得了新的起点。1931年，科尔莫戈罗夫用分析的方法奠定了一类普通的随机过程马尔可夫过程的理论基础。科尔莫戈罗夫之后，对随机过程的研究做出重大贡献而影响着整个现代概率论的重要代表人物有莱维(P.Levy,1886-1971)、辛钦、杜布(J.L.Doob)和伊藤清(Ito)等。1948年莱维出版的著作随机过程与布朗运动提出了独立增量过程的一般理论，并以此为基础极大地推进了作为一类特殊马尔可夫过程的布朗运动的研究。,1934年，辛钦提出平稳过程的相关理论。1939年，维尔(J.Ville)引进“鞅”的概念，1950年起，杜布对鞅概念进行了系统的研究而使鞅论成为一门独立的分支。从1942年开始，日本数学家伊藤清引进了随机积分与随机微分方程，不仅开辟了随机过程研究的新道路，而且为随机分析这门数学新分支的创立和发展奠定了基础。像任何一门公理化的数学分支一样，公理化的概率论的应用范围被大大拓广。,4.概率论的内容概率论作为一门数学分支，它所研究的内容一般包括随机事件的概率、统计独立性和更深层次上的规律性。概率是随机事件发生的可能性的数量指标。在独立随机事件中，如果某一事件在全部事件中出现的频率，在更大的范围内比较明显的稳定在某一固定常数附近。就可以认为这个事件发生的概率为这个常数。对于任何事件的概率值一定介于0和1之间。,有一类随机事件，它具有两个特点：第一，只有有限个可能的结果；第二，各个结果发生的可能性相同。具有这两个特点的随机现象叫做“古典概型”。在客观世界中，存在大量的随机现象，随机现象产生的结果构成了随机事件。如果用变量来描述随机现象的各个结果，就叫做随机变量。,随机变量有有限和无限的区分，一般又根据变量的取值情况分成离散型随机变量和非离散型随机变量。一切可能的取值能够按一定次序一一列举，这样的随机变量叫做离散型随机变量；如果可能的取值充满了一个区间，无法按次序一一列举，这种随机变量就叫做非离散型随机变量.随机变量的平均值也叫数学期望，差异度也就是标准方差,?,第一部分概率论概率论是研究什么的？,随机现象：不确定性与统计规律性,概率论研究和揭示随机现象的统计规律性的科学,概率的概念起源于中世纪以来的欧洲流行的用骰子赌博，当时有一个“分赌本问题”曾引起热烈的讨论，并经历了长达一百多年才得到正确的解决。在这过程中孕育了概率论一些重要的基本概念，举该问题的一个简单情况：甲、乙二人赌博，各出赌注30元，共60元，每局甲、乙胜的机会均等，都是1/2。约定：谁先胜满3局则他赢得全部赌注60元，现已赌完3局，甲2胜1负，而因故中断赌博，问这60元赌注该如何分给2人，才算公平，初看觉得应按2：1分配，即甲得40元，乙得20元，还有人提出了一些另外的解法，结果都不正确.正确的分法应考虑到如在这基础上继续赌下去，甲、乙最终获胜的机会如何，至多再赌2局即可分出胜负，这2局有4种可能结果：甲甲、甲乙、乙甲、乙乙。前3种情况都是甲最后取胜，只有最后一种情况才是乙取胜，二者之比为3：1，故赌注的公平分配应按3：1的比例，即甲得45元，乙15元。,第一章随机事件及概率,随机试验随机事件及其运算概率的定义及其运算条件概率事件的独立性,1.1随机事件及运算,一.几个概念1.随机试验及统计规律举例自然界现象分为两类:必然现象随机现象随机现象的统计规律性:通过大量次重复观测,随机现象的各种可能结果所呈现的某种规律性,概率，又称几率，或然率，指一种不确定的情况出现可能性的大小，例如，投掷一个硬币，“出现国徽”（国徽一面朝上）是一个不确定的情况。因为投掷前，我们无法确定所指情况（“出现国徽”）发生与否，若硬币是均匀的且投掷有充分的高度，则两面的出现机会均等，我们说“出现国徽”的概率是1/2；投掷一个均匀骰子，“出现4点”的概率是1/6，除了这些以及类似的简单情况外，概率的计算不容易，往往需要一些理论上的假定，在现实生活中则往往用经验的方法确定概率，例如某地区有N人，查得其中患某种疾病者有M人，则称该地区的人患该种疾病的概率为M/N，这事实上是使用统计方法对发病概率的一个估计。,随机试验的特点：1.可在相同条件下重复进行；2.试验可能结果不止一个,但能确定所有的可能结果；3.一次试验之前无法确定具体是哪种结果出现。随机试验可表为E,2.随机试验,E1:抛一枚硬币，分别用“H”和“T”表示出正面和反面;E2:将一枚硬币连抛三次，考虑正反面出现的情况；E3:将一枚硬币连抛三次，考虑正面出现的次数;E4:掷一颗骰子，考虑可能出现的点数；E5:记录某网站一分钟内受到的点击次数；E6:在一批灯泡中任取一只，测其寿命;E7:任选一人，记录他的身高和体重;E8:向某目标发炮,观察炮弹着点位置,随机试验的例子,3.随机事件,随机事件:可能发生也可能不发生的事件,用A,B,C等表示.针对随机试验举例如下:基本事件:不能再分解的亊件必然事件:在一定条件下必然要发生.用表示不可能事件:在一定条件下必然不发生.用表示,例如对于试验E2，以下A、B、C即为三个随机事件:A“至少出一个正面”HHH,HHT,HTH,THH，HTT，THT，TTH；B=“两次出现同一面”=HHH,TTTC=“恰好出现一次正面”=HTT，THT，TTH再如，试验E6中D“灯泡寿命超过1000小时”x:1000P(A)?何时P(A|B)0,则P(AB)P(A)P(B|A).称为事件A、B的概率乘法公式。,乘法公式还可推广到三个事件的情形：P(ABC)P(A)P(B|A)P(C|AB).一般地，有下列公式：P(A1A2An)P(A1)P(A2|A1).P(An|A1An1).,例13从舎有3件次品的10件产品中无返回地取两次,每次任取一件.(1)求两次都取到正品的概率;(2)求第二次才取到正品的概率.,解：设Ai为第i次取到正品，则(1)B=两次都取到正品,则,思考题:如何用乘法公式证明抽签的合理性?参考书上例14,三、全概率公式与贝叶斯公式,例(类似例16).市场上有甲、乙、丙三家工厂生产的同一品牌产品，已知三家工厂的市场占有率分别为1/4、1/4、1/2，且三家工厂的次品率分别为2、1、3，试求市场上该品牌产品的次品率。,B,定义事件组A1，A2，An(n可为)，称为样本空间的一个划分，若满足：,A1,A2,An,定理1.2(全概率公式)设A1，,An是S的一个划分，且P(Ai)0，(i1，n)，则对任何事件B有,称为全概率公式。,例有甲乙两个袋子，甲袋中有两个白球，1个红球，乙袋中有两个红球，一个白球这六个球手感上不可区别今从甲袋中任取一球放入乙袋，搅匀后再从乙袋中任取一球，问此球是红球的概率？,解：设A1从甲袋放入乙袋的是白球；A2从甲袋放入乙袋的是红球；B从乙袋中任取一球是红球；,甲,乙,定理设A1，,An是的一个划分，且P(Ai)0，(i1，n)，则对任何事件BS，有,称为贝叶斯公式。(后验概率公式),思考：上例中，若已知取到一个红球，则从甲袋放入乙袋的是白球的概率是多少？,答:,例商店论箱出售玻璃杯，每箱20只，其中每箱含0，1，2只次品的概率分别为0.8,0.1,0.1，某顾客选中一箱，从中任选4只检查，结果都是好的，便买下了这一箱.问这一箱含有一个次品的概率是多少？,解:设A:从一箱中任取4只检查,结果都是好的.B0,B1,B2分别表示事件每箱含0，1，2只次品,已知:P(B0)=0.8,P(B1)=0.1,P(B2)=0.1,由Bayes公式:,例(类似例18)数字通讯过程中，信源发射0、1两种状态信号，其中发0的概率为0.55，发1的概率为0.45。由于信道中存在干扰，在发0的时候，接收端分别以概率0.9、0.05和0.05接收为0、1和“不清”。在发1的时候，接收端分别以概率0.85、0.05和0.1接收为1、0和“不清”。现接收端接收到一个“1”的信号。问发端发的是0的概率是多少?,解：设A-发射端发射0，B-接收端接收到一个“1”的信号,01不清,条件概率,条件概率小结,缩减样本空间,定义式,乘法公式,全概率公式,贝叶斯公式,作业:p27,三,8,10,11,P28,三,9,1.4事件的独立性一、相互独立事件,定义设A、B是两事件,若P(AB)P(A)P(B)则称事件A与B相互独立。特别,若P(AB)=P(A),则事件A与B相互独立参考定理1.4,例19设某种型号的高射炮,每门命中飞机的概率为0.6.问(1)4门同时发射时能击中飞机的概率;(2)若要达到99%的把握击中飞杌,至少要多少门高射炮?例20(p21-22)略,二、多个事件的独立,定义若三个事件A、B、C满足：(1)P(AB)=P(A)P(B),P(AC)=P(A)P(C),P(BC)=P