数学夏令营之泛函分析.pdf

数学夏令营数学夏令营 1 泛函分析 泛函分析 Syan Mukherjee Alessandro Verri 关于该初级读本关于该初级读本 目标目标 简要的复习在整个课程中将要用到的泛函分析的概念 主要介绍了下面的一些概念 1 函数空间 2 度量空间 3 收敛 4 测度 5 稠子集 定义和概念主要源于 Kolmogorov 和 Fomin 的 Introductory Real Analysis 强烈推荐 6 可分离空间 7 完备度量空间 8 紧致度量空间 9 线性空间 10 线性泛函 11 线性空间的范数和半范数 12 收敛性回顾 13 Euclidean 空间 14 正交性和基 15 Hilbert 空间 16 Delta 函数 17 傅立叶变换 18 泛函导数 19 期望 20 大数定律 函数空间函数空间 函数空间函数空间是一个由函数构成的空间 在该空间中的每一个函数可以被看作是一个点 例如 1 C a b 在区间 a b中的所有实值连续函数的集合 2 1 L a b 在区间 a b绝对值可积的所有实值函数的集合 3 2 L a b 在区间 a b平方可积的所有实值函数的集合 注意在 2 和 3 中的函数并不一定是连续的 度量空间度量空间 度量空间意味着包含一个空间X和一个距离 的对 X 对于所有的 x yX 所定义的单 值 非负的实函数具有如下的三个特性 1 0 x y 当且仅当xy 2 x yy x 3 三角不等式 x zx yy z 例子例子 1 距离为 的所有实数的集合是度量空间 2 距离为 的所有有序实数 n 元组是度量空间 3 满足准则 且距离为 的所有函数的集合是度量空间 4 具有 Kullback Leibler 散度 的所有概率密度集合并不是一个度量空间 散度不是对称的 收敛收敛 度量空间S中的一个开 闭球是满足如下条件的的点x 的集合 半径为 且中心是 0 x的开球将被称为 0 x的一个 邻域 表示为 0 O x 如果x的每一个邻域 O x 都包含从某一个整数开始的所有的点 n x 那么度量空间S中的一个 点序列 12 nn xx xx 收敛于一个点xS 给定任意的0 存在一个整数N 使得 当nN 时 O x 包含所有的点 n x n x收敛于x当且仅当 测度测度 在整个课程中 我们会常看到如下形式的积分 式中 x 是测度 一个集合E的测度概念 E 是如下概念的自然扩展 1 一个线段 的长度 l 2 一个空间G的容量 V G 3 空间一个区域的非负函数的积分 Lebesgue 测度测度 设f是一个 可测函数 它具有有限测度 它取不超过可数个不同值 则通过在集合A上f的 Lebesgue 积分 记为 我们有这么一个量 式中 只要级数是绝对收敛的 测度 为 Lebesgue 测度 Lebesgue 积分积分 我们能够通过将红色矩形下的面积相加 来计算积分 Riemann 积分积分 更为传统的积分形式是 Riemann 积分 直觉上它是无穷小的矩形的无限和的极限 在 Riemann 意义下的积分需要连续或者是分段连续函数 先前介绍的 Lebesgue 积分放宽了这一 条件 因此 积分 式中被定义为 在 Riemann 意义下并不存在 Lebesgue Stieltjes 积分积分 设F是定义在闭区间 a b上的一个非降函数并且假设F在区间 a b是连续的 F被称为 Lebesgue Stieltjes 测度 F 的生成函数 一个函数f的 Lebesgue Stieltjes 积分可表示为 它是 Lebesgue 积分 F d 的一个例子是概率密度 p x dx 这里 F 对应于累积分布函数 稠密稠密 设A和B是一个度量空间的子空间 如果 AB 那么说A在B中稠密 A是子集A的闭 包 特别的 如果 AR 那么说A在 中处处稠密 如果x的每一个邻域都包含A中的点 则点被称为集合的一个接触点 集合A的所有接触点的集合 记为 A 被成为A的闭包 例子例子 1 所有有理数的集合在实数轴上是稠密的 2 具有有理数系数的所有多项式的集合在 C a b中是稠密的 3 设K是一个正定的径向基函数 则函数 在 2 L中稠密 注意 一个假设空间在 2 L中稠密是任何逼近方法所希望得到的特性 可分可分 如果一个度量空间具有可数个处处稠密的子集 则它被称为可分的 例子 1 空间以及 C a b均是可分的 2 实数的集合是可分的 因为有理数集合是实数的一个可数的子集并且有理数集是处处稠密的 完备性完备性 如果0 c N 使得 n 和 c mN nm ff 则一个函数序列 n f是基本的 如果所有的基本序列都收敛于度量空间中的一个点 则该空间是完备的 C 1 L和 2 L都是完备的 但 2 C不是完备的 这可以通过一个反例说明 2 C的不完备性的不完备性 考虑函数序列 1 2 n 并且假定 n 收敛于 2 C度量中的一个连续函数 设 2 C的不完备性 继续 的不完备性 继续 显然 因为 f t是不连续的 所以左边项是严格正的 而对n 我们有 因此 和假设的相反 n 不能够收敛于 2 C度量中的 度量空间的完备化度量空间的完备化 给定一个具有闭包的度量空间 如果并且 那么度量空间被 称为的一个完备化 例子 1 实数空间是有理数空间的完备化 2 设K是一个正定的径向基函数 则 2 L是下列函数空间 的完备化 紧空间紧空间 一个度量空间是紧致的当且仅当它是完全有界的并且是完备的 设 是一个度量空间 是一个任意的正数 那么如果对于每一个xM 至少存在一个点 aA 使得 x a 具有一个有限 网 那 么M被称为完全有界的 一个紧空间对于所有的0 都具有一个有限 网 例子例子 1 在 n 维 Euclidean 空间中 完全有界等价于有界 如果有界 那么M被包含在 某一超立方体Q中 我们能够将这个超立方体划分为一些边长为 的更小的超立方体 小立方 体的顶点来自Q的一个有限 2n 网 2 对于无限维的空间 完全有界等价于有界不一定成立 2 l中具有约束 的单位球 是有界的但不是完全有界的 考虑点 式中 n e第n个坐标为 1 而其他坐标为 0 这些点在 上但是任意两点的距离为2 因此 没有2 2 选择n使 得 且对每一个点 是 的关联点 associate the point 则 中满足 1 的所有点的集合 是完全有界的因为它是 n 维空间中的一个有界集合 4 由具有无限个指数下降的正特征值的核K所导出的 RKHS 是紧致的 在这种情形下 向量 1 n xxx 可以由它的基函数和K的特征向量表示 对于 RKHS 其范数可定界为 并且我们知道 n O n 因此我们有和 Hilbert 立方体相同的情形并且我们可以引入一个在 有界 n 维空间中能够任意接近x的点 紧致性和连续性紧致性和连续性 是定义在闭区间 a b上函数 的族 如果对于0K 对所有的 xa b 和所有的 均成立 那么 被称为是一致有界的 函数 的族 是同等连续的 如果对于任何给定的0 存在一个0 使得xy 有 函数序列 n f一致收敛于函数f当且仅当 不同收敛类型之间的关系不同收敛类型之间的关系 在有界区间的情况下 一致收敛 C 意味着 依二次平均 2 L 收敛可以推出依平均 1 L 的收敛 依平均 1 L 的收敛可以推出依测 度的收敛 几乎处处的收敛可以推出依测度的收敛 不同收敛类型之间的关系不同收敛类型之间的关系 由一致的收敛可以推出所有其他收敛类型这一点是很显然的 考虑在一个宽度为A的有界区间上的 2 L 记住函数1g 属于 2 L并且 2 L gA 因为对每 一个函数 2 fL 我们有 所以依二次平均收敛可以推出依平均的收敛 并且因此有 1 fL 任何类型的收敛都可以推出依测度的收敛任何类型的收敛都可以推出依测度的收敛 依测度的收敛可以通过 Chebyshev 不等式由依平均的收敛得到 对于任意实数随机变量X以及0t 有 几乎处处的收敛能够推出依测度的收敛的证明要稍微复杂一些 几乎处处的收敛并不能推出依 二次 平均的收敛几乎处处的收敛并不能推出依 二次 平均的收敛 在区间 0 1 上 设 n f是 显然对于所有的 0 1 x 0 n f 注意每一个 n f不是一个连续函数并且收敛不是一致的 x 越接近 0 对于 0 n fx 就需要越大的n 然而 在 Riemann 或者 Lebesgue 意义下都有 依二次平均收敛不能推出任何收敛 依二次平均收敛不能推出任何收敛 在区间 0 1上 对于每一个1 2 n 和1 in 设 很明显 序列 依测度和依二次平均都收敛于 0 然而 对于任意的x 同样的序列并不收敛 依概率收敛和几乎确定收敛依概率收敛和几乎确定收敛 任何概率为 1 的事件被认为是几乎确定发生的 一个实数随机变量序列 n Y几乎确定收敛于一个 随机变量Y当且仅当 1 n P YY 序列 n Y依概率收敛于Y当且仅当对于每一个0 lim 0 nn P YY 几乎确定收敛可推出依概率收敛 如果对于某一常数c 1 1n i i X n 几乎确定收敛于c 那么序列 1 n XX满足强大数定律 序 列满足弱大数定律当且仅当对于某一常数c 1 1n i i X n 依概率收敛于c Euclidean 空间空间 一个 Euclidean 空间是一个线性 向量 空间E 在其中定义了一个点积 一个实值函数 是 一个点积当且仅当 f g hE 以及 有 1 f gg f 2 fg hf hg h 和 f gf g 3 0f f 并且 0f f 当且仅当0f 当使用范数 时 一个 Euclidean 空间就变为一个赋范线性空间 正交系和基正交系和基 Euclidean 空间E中一个非零向量的集合 x 被称为是一个正交系如果对于 有下式成立 或者被称为是一个标准正交系 如果 0 xx 其中 1xx 其中 如果一个正交系 x 是完备的 包含 x 的最小闭子空间是整个空间E 那么它被称为是一 个正交基正交基 一个完备标准正交系被称为是一个标准正交基标准正交基 例子例子 1 是一个 n 维实数空间 即 n 元组 1 n xxx 1 n yyy 的集合 如果我们定义 点积为 那么我们得到了 n 维 Euclidean 空间 中相应的范数和距离是 向量 构成了中的一个标准正交基 2 元素为 1212 nn xx xxyy yy 其中 的空间 2 l 当使用点积 时 变为一个无限维的 Euclidean 空间 2 l中最简单的标准正交基包括向量 存在无限个这样的基 3 当包括 a b上所有连续函数的空间 2 C a b使用点积 时 是另一个 Euclidean 空间的例子 在这个空间中正交基的一个重要的例子是如下的函数集合 Hilbert 空间空间 一个 Hilbert 空间空间是一个完备的 可分的 并且通常是无限维的 Euclidean 空间 一个 Hilbert 空间是元素 f g的集合H 并且对于该集合有 1 H是一个定义标量积的 Euclidean 空间 2 H对于度量 f gfg 是完备的 3 H是可分的 包含一个可数的处处稠密的子集 4 通常 H是无限维的 2 l和 2 L都是 Hilbert 空间的例子 函数函数 我们现在考虑返回fC 在位置t的值的泛函 一个评价泛函 注意这个泛函是退化的因为它并不依赖于整个函数f 而只依赖于f在特定位置t的值 t 不是一个泛函而是一个分布 函数 继续 函数 继续 同一泛函可以被写为 在 2 L中 不存在特性像 t 一样的普通函数 我们可以将 t 看成是一个在0t 时为零并 且在0t 时取无限值的函数 因此有 函数 继续 函数 继续 函数可以被看作是一个普通函数序列的极限 例如 如果 是一个单位面积矩形脉冲 考虑极限 由r 的定义 因为f是连续的 所以有 傅立叶变换傅立叶变换 一个实值函数 1 fL 的傅立叶变换可被定义为复数值函数 f 傅立叶变换 f可以被看作是 f x信息内容的一个表示 原函数f可以通过如下的逆傅立叶变 换得到 特性特性 特性特性 矩形函数和 sinc 函数 特性特性 高斯函数 特性特性 Laplacian 分布和 Cauchy 分布 在分布意义下的傅立叶变换在分布意义下的傅立叶变换 注意 傅立叶变换能够在分布的意义下被定义 例如 我们有 Parseval 公式公式 如果f也是平方可积的 那么傅立叶变换并没有改变f的范数 Parseval 公式为 函数和分布的傅立叶变换函数和分布的傅立叶变换 如下是一些函数和分布的傅立叶变换 泛函变分法泛函变分法 和标准的微积分类似 一个泛函的最小值可以通过令泛函的导数为零来获得 如果泛函依赖于 一个未知函数的导数 那么还需要多一步 未知函数必须通过求解微分方程得到 泛函变分法泛函变分法 一个泛函 f 的导数被定义为 注意导数依赖于位置s 例如 如果 ff t g t dt 那么 直觉直觉 设 1 ax 以及 N bx 在该定义背后的直觉是泛函 f 可以被看作是当 N 时 N 个变量的函数 式中 1122 NN ff xff xff x 的极限 对于N 依赖于整个函数f 由 函数所引入的位置上的依赖对应于相对于变量