用卷积法证明中心极限定理.doc

用卷积法证明中心极限定理 郝越 b10050724 （q3-32） dec, 26th, 2011中心极限定理是概率论中十分重要的一个定理，它揭示了大量独立同概率分布的随机变量之和（或平均值）逼近正太分布的规律，具有非常高的理论和实用价值。然而在高等教育出版社的概率论与数理统计教程这本教材中的227页举例解释了通过卷积公式导出中心极限定理的来历，然而书中指出“由于卷积计算相当复杂，无法写出当随机变量数趋于无限时其和或平均值的概率分布函数形式”，这给证明带来了困难。本文将信号与系统中的观点，通过matlab实验给出直觉，并使用傅里叶变换的方法“化积为乘”求出卷积，以证明该定理。中心极限定理（central limit theorem）数学定义如下：设是独立同分布（identically independent distributed, iid）的随机变量序列，且，。记则对任意实数y，有卷积公式如下在频域为证明该定理，首先要说明随机变量和的概率密度分布和卷积的关系。在概率论中，我们知道两个随机变量和的分布是其各自概率分布的卷积。证明方法也很简单：设是是独立随机变量，其概率分布为，那么对于任何t有：用换元法：，；那么 可见求出便可以得到。如果大量这样的随机分布卷积是不是真的逼近高斯分布呢？事实上在“信号与系统”这门课中通过matlab对信号进行卷积的实验可以直观地告诉我们答案是肯定的。我们将门函数信号看作某个随机变量的分布，当这样两个门函数卷积时，得出一个三角波函数（如下图），这个我们也可以通过计算得出，而三个门函数相卷积时，一个不太容易预见的情况出现了，图中竟然出现一个钟形函数。经过实验，当足够多的相同门函数卷积时，最终的曲线会无限逼近高斯函数曲线。有人认为门函数的傅里叶变换是sa函数，并且sa函数本身就形似高斯函数虚线，而高斯函数有一个奇怪的性质就是其在时域和频域中的形状是相同的，那么，是不是上述情况只是门函数的特例？事实上足够多的随机信号连续卷积，最终也会无线逼近高斯函数。可以猜想，任何信号无限自卷积，就可以得到高斯函数信号。通过严格的数学证明也可以得到相同的结论。当计算连续卷积时，信号与系统中的理论告诉我们，运用傅里叶变换，在频域计算卷积将会相对容易。这里给出证明方法：为了便于证明首先对问题进行归一简化，设是n个独立随机变量，他们的概率密度同为p(x)。则其均值为：标准差为：另外：记，为其概率密度则有要证明中心极限定理即证明当对傅里叶变换得变换对，则由得 而对泰勒展开，得 由归一化条件则其均值为 和 最终得当，所以对上式求傅里叶反变换，得当时 结论：在证明中可以发现，傅里叶变换将函数投影（或者说分解）到正交函数系上的功能为运算带来了极大的便利。因此在工程数学计算中，我们常常使用傅里叶变换或者拉普拉斯变换解决一些涉及到卷积、微分方程的计算问题。而卷积具有促使信号平滑化的特点，我们可以据此设计信号滤波器，达到降噪处理的目的。附文：在写完这篇文章之后，我发现我只是在讨论信号与系统中的数学方法，并没有什么深层次的东西。我在网上找了一篇文章，能够深层次的揭示信号与系统的设计哲学，不妨拿来分享一下。以下是全文和我的一些理解批注。讲一个故事:张三刚刚应聘到了一个电子产品公司做测试人员，他没有学过信号与系统这门课程。一天，他拿到了一个产品，开发人员告诉他，产品有一个输入端，有一个输出端，有限的输入信号只会产生有限的输出。然后，经理让张三测试当输入sin(t)(ty的问题都可以用x-f(x)-f-1(x)-y来得到。1. 到底什么是频率?一个基本的假设: 任何信息都具有频率方面的特性，音频信号的声音高低，光的频谱，电子震荡的周期，等等，我们抽象出一个件谐振动的概念，数学名称就叫做频率。想象在x-y 平面上有一个原子围绕原点做半径为1匀速圆周运动，把x轴想象成时间，那么该圆周运动在y轴上的投影就是一个sin(t)的波形。相信中学生都能理解这个。那么，不同的频率模型其实就对应了不同的圆周运动速度。圆周运动的速度越快，sin(t)的波形越窄。频率的缩放有两种模式(a) 老式的收音机都是用磁带作为音乐介质的，当我们快放的时候，我们会感觉歌唱的声音变得怪怪的，调子很高，那是因为圆周运动的速度增倍了，每一个声音分量的sin(t)输出变成了sin(nt)。(b) 在cd/计算机上面快放或满放感觉歌手快唱或者慢唱，不会出现音调变高的现象：因为快放的时候采用了时域采样的方法，丢弃了一些波形，但是承载了信息的输出波形不会有宽窄的变化；满放时相反，时域信号填充拉长就可以了。2. f变换得到的结果有负数/复数部分，有什么物理意义吗?解释: f变换是个数学工具，不具有直接的物理意义（注4），负数/复数的存在只是为了计算的完整性。3. 信号与系统这们课的基本主旨是什么?对于通信和电子类的学生来说，很多情况下我们的工作是设计或者osi七层模型当中的物理层技术，这种技术的复杂性首先在于你必须确立传输介质的电气特性，通常不同传输介质对于不同频率段的信号有不同的处理能力。以太网线处理基带信号，广域网光线传出高频调制信号，移动通信，2g和3g分别需要有不同的载频特性。那么这些介质(空气，电线，光纤等)对于某种频率的输入是否能够在传输了一定的距离之后得到基本不变的输入呢? 那么我们就要建立介质的频率相应数学模型。同时，知道了介质的频率特性，如何设计在它上面传输的信号才能大到理论上的最大传输速率?-这就是信号与系统这们课带领我们进入的一个世界。当然，信号与系统的应用不止这些，和香农的信息理论挂钩，它还可以用于信息处理(声音，图像)，模式识别，智能控制等领域。如果说，计算机专业的课程是数据表达的逻辑模型，那么信号与系统建立的就是更底层的，代表了某种物理意义的数学模型。数据结构的知识能解决逻辑信息的编码和纠错，而信号的知识能帮我们设计出码流的物理载体(如果接受到的信号波形是混乱的，那我依据什么来判断这个是1还是0? 逻辑上的纠错就失去了意义)。在工业控制领域，计算机的应用前提是各种数模转换，那么各种物理现象产生的连续模拟信号(温度，电阻，大小，压力，速度等) 如何被一个特定设备转换为有意义的数字信号，首先我们就要设计一个可用的数学转换模型。（注5）（文章未完，以下内容已经超出了本课程的基本要求，略去）1：系统和信号都可以用函数来表示，在这一点上，两者是统一的。信号函数很好理解，系统是一个“黑盒子”，如何用一个函数来表示这个黑盒子的本身性质？有一个办法，就是给系统在零时刻加一个冲击，系统会产生一个响应，这个响应信号的函数就可以表示这个系统。也就是是说所有的系统都可以用一个时域信号来表示！然而，这里没有说清楚为什么非得用冲激信号，事实上，冲激函数具有很多优秀的特征，如只在瞬间产生，积分为1等，这样一个具有“个性”的函数可以使系统的表征法简化。另外任何信号都可以用冲激表示，就可以用卷积的方法进行输出响应的计算了。上面所说的这种表征系统方法是从系统外部来研究的，可是称为是“外部法”。其实还可以用“内部法”，把“黑盒子”解剖开，用内部变量来表示，这就是状态变量法。这两种方法有这本质的不同，用途也不一样，当我们更多的关心系统功能时用“外部法”就ok（如故事中的老板要求给出输出响应）；但是当我们面对内部结构清晰的系统（如一个已知的电路）时就可以用“内部法”了，内部法可以帮助我们修改甚至设计复杂系统。2：这里讲述的一种哲学，震荡、循环、周期是宇宙中普遍的现象（量子力学可以说明这一点）。傅里叶变换最初就是用来研究周期现象的，这是傅里叶，拉普拉斯，小波变换之类的数学工具大行其道的原因。