函数空间与傅丽叶变换

1、函数空间与傅里叶变换 以前学习傅里叶变换的时候，觉得好神奇啊，把时域变换到频域，一下子就把信号的一些本质揭示出来了。但是心中对到底如何解释这个傅里叶变换，还是有点似是而非的感觉。一直到前些天思考图形匹配问题的时候才发现原来这个东西跟函数空间有这么大关系。Eureka！ 为了说明这个关系，我先解释一下什么是函数空间。大家不要被这个“高深”的术语吓到，其实思想虽然很抽象，但是很简单。 首先说一下空间。空间这个概念是数学抽象出来描述具有某些特殊性质和结构（具体说是哪些，请自行Google）的集合。学过线性代数的人都知道线性空间（好吧，数学老师告诉我们要是想装X就说矢量空间）的概念。其实这个矢量的概念

2、是非常广的，可以是一维的数，可以是多维的向量，还可以是矩阵，甚至可以是函数。所以我们先说线性空间，也就是向量（或者是矩阵）组成的空间。在这里我要着重强调一下元素的概念。初高中的时候，我们主要在数轴上进行一些研究，元素就是一个个的数，这很好理解。后来学习了线性空间，元素就是一个个向量。你要说向量里面是什么，对不起，基本元素就是向量，不再往下分了。这就跟人口普查一样，统计一下全国有多少个人，但是人体器官呢？细胞呢？基因呢？虽然人是由他们组成的，但是这些都不是人，我们是不管的。理解这个思想是很重要的。空间中还有一个很重要的概念是基。为什么要有基？是为了更好的描述空间。比如说三维空间，怎么描述它？这个

3、空间里面的元素的个数是不可数的（也就是和自然数集找不到一一对应的关系），所以一一列出来是不可能的。数学家想出了一个很好的办法，用任意三个不共面向量的线性组合来表示这个空间中的任意一个元素。 理解了这两个概念来转而理解函数空间的概念还稍显不够，其实线性空间还有很多东西可以讲讲（好吧，话匣子一打开就刹不住了）。前两天，有个师弟在问矩阵课程里所提的加法、乘法问题。数学家对什么是加法，什么是乘法都做了定义（老规矩，自行Google），为什么呢？举一个编程里面的例子就明白了。现在假设我要编写一个C+程序，定义一个类，比如说这个类就是字符串类，可以对这个字符串类进行一些操作。我用这个类声明三个变量，然后让

4、第三个变量等于前两个变量“相加”。这时候是不是就得思考，这里的“相加”是什么意思呢？自然界貌似没有一个直接的概念来理解这个“相加”。所以定义这个“加法”就很有意义了。如果你能接受连加法、乘法都可以“随意”定义，再来说角度、距离、范数和内积就比较好接受了。具体的今天就不说了，不过基本的道理一样，数学家先把这几个概念进行了定义（Google去吧），凡是满足定义的都可以被称作相应的概念。这些概念跟空间的标准正交基有关系，就不多说了。 终于可以说说函数空间了（汗），一句话，组成这个空间的元素都是满足一定条件的函数（啥条件，Google吧少年）。咦，这也行？这当然行！那函数自变量、因变量呢？请看上上一段

5、。一定要记住，这个函数空间里面所有的元素都是函数！而且这个空间其实是无穷维的，基有无穷多个。 为了说明傅里叶变换和函数空间的关系，先说信号这个词在数学上的对应概念是什么。一维的信号只有一个自变量，一般是时间，因变量是幅度。二维的情况呢，拿图像来说，可以看成自变量是位置坐标，因变量是灰度（颜色）。这样一来是不是就有点眉目了？信号在数学上的对应概念是函数！这些函数属于某一个内积空间（为什么要说是内积空间，因为在内积空间里面可以考虑角度问题，更明确的说是正交问题），撇开具体的函数空间不谈，单单来看这样一个函数空间的基。这样的基其实是有无穷多的，只要能保证可以利用每一组基的线性组合来表示出所有的函数就

6、可以了。傅里叶变换就是给出了一组基，要求求出利用每个基线性组合成这一信号（函数）的组合系数，或者说是在这组基下的坐标！ 傅里叶变换的美妙之处就在于这组基取得实在是太好了。为什么呢，首先他们是正交的（当然你可以取不同的内积让其他不同的一组基正交），更主要的是它还和自然界的情况有着微妙的联系。自然界中的水波、音波、电磁波等等，如果用数学抽象，显然是三角函数。在振荡电路、模拟通信等等领域中，使用三角函数形式的波形的好处也是非常多的。可以看到，傅里叶变换在一维信号处理领域获得了很大的成功。需要指出的是，傅里叶变换在二维信号处理领域，比如说图像处理领域的缺点就很多了。直观上，图像的周期现象似乎不是那么明

7、显。而且从一维情况转换到二维情况，复杂度增加的不是几倍的关系。但是如果你要跟我提物质波，那我就无话可说了。傅里叶变换在图像处理领域的地位完全不能和其在一维处理领域的地位相比，该是时候找出更适用的一组基了。 由于作者本人不懂小波变换（Wavelet Transform），所以不好拿它和傅里叶变换进行比较，这也是作者比较遗憾的事。希望这篇文章可以抛砖引玉，大家提出更精彩的论述。傅立叶级数（Fourier Series）和周期现象一、前言 如果你仔细观察，工作和生活中充满了周期现象：旁边linux driver工程师在调试audio driver的时候播放的1kHz的正弦信号，周末去公园游玩，游船推

8、开水面的波纹，硬件工程师调试硬件电路的时候，示波器显示出来的晶振方波信号 所谓周期现象具体包括时间上的周期现象和空间上的周期现象。1kHz的audio当然是时间上的周期信号，而水面的波形就是空间上的周期现象。对于空间上的周期现象，实际上就是一个pattern不断的重复。 对于一个普通的人，我们可以感知时间的流逝，也可以感知空间的变化（我们可以通过眼睛、耳朵、触觉等build in在身体上的sensor来感知时空中的周期现象），因此，周期现象对于我们来讲就像呼吸一样自然。然而，你是否愿意从另外一个侧面来感知世界？那个世界就是频域（frequency domain）的世界。描述时间上的周期现象我们

9、使用频率（frequecy）这个词，也就是一秒重复的次数。 Can you feel frequency of the world？   二、信号的分解 在进入傅立叶级数之前，我们首先理解下面两个概念： （1）分析（analysis）。也就是把一个复杂的信号（函数，后面的描述中我们不区分函数和信号这两个术语）分解成较为简单的成分（例如sin、cos函数等）。 （2）合成（synthesis）。通过简单的成分重新构造复杂的信号（函数） 在本章，我们首先了解矢量的分解，这个概念比较简单，比较好理解。之后进入函数的分解，也就是本文的核心了。 1、矢量的分解 一个二维矢量的分解我们参考下图中

10、左边的那个图： 矢量A可以通过向x和y轴投影，将A分解成两个简单的矢量Ax和Ay，A可以是二维空间中的任意矢量，但是总是能分解成沿着x轴和y轴的两个简单的矢量。这种分解是唯一的吗？当然不是，上图中右边的矢量分解也是OK的，只不过坐标轴不是垂直的而已。 我们当然可以把事情变得更复杂，比如三维空间，当然，概念是一样的，只不过我们的坐标轴是x、y、z三个轴。一般的分解都是把坐标轴设定为两两垂直的，如果你愿意，不垂直也没有问题。推广到n维空间如何？当然可以，只不过n维空间没有直观的图形表示，需要依靠你的想像。 2、函数的分解 我们来研究周期为1的信号，也就是说f(t+1)=f(t)。我们对该函数进行分

11、析，并试图将该信号分解成更简单的信号，这里我们以sin和cos函数来进行分析。由于信号的周期是1，因此频率也是1，所以用于建模的信号就是sin（2 t）和cos（2 t）。 首先考虑信号：sin（2 t） sin（4 t） sin（6 t）. 对于sin（4 t）这个函数，虽然他的频率是2，但是毫无疑问，每隔一秒，其pattern也是重复的（每隔0.5秒重复一次，实际上，每隔1秒其波形一定也是重复的）。我们将这些频率为1、2、3.的函数加在一起，得到的是一个频率为1的函数（每个函数有同样的特性：每隔1秒重复其波形，将这些有同样性质的函数相加，其结果也应该具备同样的特性）。 上面我们利用一个简单

12、的周期为1的sin函数以及其各次谐波函数相加，人为的构建了一个周期为1的函数。这些函数还不够通用（例如t=0的时候，函数值都是0），能否创建更通用，但周期仍然是1的函数呢？调整各个谐波的幅度和相位，我们可以得到各种各样的更通用的函数。 OK，现在我们考虑相反的问题，是否任意一个频率为1（周期为1）的函数都可分解成各个频率成分（1、2、3.）的线性组合呢？如果这个命题成立，那么任意一个周期函数都可以分解成若干个简单的sin函数的和。这个概念和矢量分解没有什么不同，各个频率的sin函数就是n维空间中的n个坐标轴，函数在坐标轴上的投影就是该sin函数的幅度值。 3、矢量分解和函数分解 我们先看看点积

13、（dot product）的概念。向量A（a1，a2）和向量B（b1，b2）的点积是=a1b1+a2b2。类似向量，我们定义函数的点积。如果f、g都是0,1上的平方可积函数，那么可以定义函数的点积： = 计算0,1区间上的积分（ f（t） g（t）的共轭 ） 被积函数是f(t)乘以g(t)的共轭，之所以会出现共轭是因为f(t)和g(t)可能是复变函数。如果是实函数，那么其共轭就是函数本身（本来是不想出现共轭这样的概念，但是后面有复指函数，没有办法啊）。如果两个向量的点积等于0，那么我们就说这两个向量是正交的（orthogonal ，类似几何上的垂直），对于2维或者3维空间的向量，正交就是垂直。

14、对于函数，如果f和g这两个函数的点积满足 0我们称函数f和g是正交的。 我们再来看看2维空间的坐标系。两个向量（1，0）和（0，1）可以表示两个非常基础的向量（也就是传说中的标准正交基，standard orthogonal basis），这两个向量就象坐标轴一样，实际上任意的一个向量都可以分解成（1，0）和（0，1）的线性组合，或者反过来说，这两个向量的线性组合可以充满整个2维向量空间。对应函数空间，我们是否也能找到一组两两正交的函数呢？并且这组函数的线性组合可以充满整个函数空间。如果能找到，那么函数空间中的任意一个函数都可以分解成标准正交基的组合。其实这样的函数集有非常多，傅立叶级数只是选

15、取了sin，cos或者复指函数作为标准正交基而已。 对于矢量，我们可以定义其长度。矢量A和自己进行点积运算就可以得到矢量长度的平方。长度的概念也可以引申到函数领域。如果|f|表示函数的长度或者函数的模，那么： |f|的平方 4、软件设计的分解 什么是知识？所谓知识，就是必须能应用到你的生活行为中方为知识。你能够背诵它，你能够推导它，都不能说明什么，只有理解之后并能够用来指导自己的工作和生活的那些才是真正的知识。当然，这里的生活当然说的不是去购物或者做饭，主要是应用到工程中。对于我们而言，就是分解的思想应用到软件设计中或者issue的修复中。 软件的设计过程就是把一个复杂的事情分解成一个一个简单

16、的事情，然后逐个击破的过程。软件架构师做庖丁解牛的工作，而普通的程序员做简单的模块的相关工作。   三、从时域到频域 上面一段有点扯，我们先回到上文中的那个假设命题：任何复杂的频率为1（周期为1）的函数都表示为： f(t) = 对于k1N上求和（  Ak  sin（2kt pk ） ） pk是各次谐波的相位，Ak是各次谐波的幅度。 首先，先简化问题，去掉相位，也就是说所有的谐波相位固定为0。这样各个谐波不能单纯的表示为sin函数，而是sin和cos的组合（也就是说相位 的信息体现在了sin和cos的幅度上）。这时候，我们有2N个坐标轴，N个是sin族函数，另外N个

17、是cos族函数。函数投影到这些坐标轴上就可以知道函数在该坐标轴（谐波，sin或者cos函数）上的幅度（坐标值）。根据欧拉公式可以进一步简化，谐波表示为exp（2 ikt），i是虚数单位，k是谐波次数。 exp（2 ikt）cos(2kt) + i sin(2kt) 使用幂指数（exponential）虽然好，但是谐波的次数从原来的0n变成 nn，也就是说引入了负频率的概念。具体的公式是： f(t) = 对于kNN上求和（  Ck  exp（2 ikt） ） Ck就是傅立叶系数，表示各次谐波的幅度。 虽然表达式不一样，但是其本质是一样的，都是将周期为一的复杂的信号分解成各次谐

18、波exp（2 ikt）的线性组合。 既然假设了上面的公式成立，那么Ck如何求？过程比较简单，对于m次谐波，利用代数的方法将其移到等式的左边，其他项移到等式的右边，同时乘 exp（2 imt），然后对等式两边求一个周期上的积分。exp（2 ikt）这一组函数应该是函数空间（对应向量空间）的标准正交基（相互垂直的坐标轴），因此，当不同次谐波的积分应该等于0。这样Ck可以按照下面的公式计算： Ck 在01上求积分（ exp（2 ikt） f（t） ） 虽然我们求出了Ck，但是是否真的适用于所有的信号？答案是否定的。在微积分课程中，我们学习到下面的知识：连续函数的和也是连续函数。在这样的背景下，一个周期为1，占空比为50的开关信号是不可能用有限个连续的sin或者cos函数表示出来。我们可以追加一个问题：一个周期为1锯齿信号是连续的，是否可以用有限个连续的sin或者cos函数表示出来？答案也是否定的。在微积分课程中，我们学习到下面的知识：可微函数的和也是可微函数。锯齿信号虽然是连续的，但是不是可微的（一阶就不可微了）。只有足够平滑（任