05 第三章数据拟合

1、Ch3 函数逼近与曲线拟合,什么是函数逼近,范数与赋范线性空间,三种常用的范数,维尔斯特拉斯定理Weierstrass,内积与内积空间,正交多项式 Orthogonal Polynomials,勒让德(Legendre)多项式,勒让德多项式的性质,切比雪夫（Chebyshev）多项式,性质,其它正交多项式,最佳一致逼近多项式 optimal uniform approximating polynomial,切比雪夫定理,证明：只证明充分性 即假定在a, b上p(x) 有n+2 个，使得,下证多项式p(x)即是所证，若存在Q(x) ， 使得,最佳平方逼近,法方程组 /*normal equati

2、ons */,Hilbert阵！,25 / 19,26 / 19,3.1 单变量数据拟合及最小二乘法,27 / 19,28 / 19,29 / 19,30 / 19,31 / 19,32 / 19,33 / 19,34 / 19,35 / 19,36 / 19,37 / 19,38 / 19,39 / 19,3.2 多变量数据拟合Multiple Linear Regression,在实际问题中，一个变量往往受到多个原因变量的影响，在线性回归模型中则表现为有多个解释变量。这样的模型被称为多元线性回归模型。,很多时候，我们研究的问题是受多个因素影响的，需要建立多元回归方程，进行多元回归分析:,确

3、定各个自变量对依变量的单独效应和综合效应,对单独效应和综合效应的显著性进行测验，在自变量中选择对依变量有显著效应的自变量，建立最优多元回归方程,评定各个自变量对依变量的相对重要性，以便抓住关键因素，分析它们对所研究问题的影响程度,多元线性回归模型的一般形式为：,将n次观测数据（xi1，x12，xip，yi），i=1，2，n代入上面的方程，可得多元线性回归的数学模型：,43 / 19,44 / 19,45 / 19,46 / 19,47 / 19,48 / 19,49 / 19,这个方程组也是一个正规方程组，含有k+1个方程和k+1个未知数，故解是存在唯一的，解之即得a0,ak,50 / 19,

4、51 / 19,52 / 25,3.3 非线性数据线性化,53 / 25,54 / 25,55 / 25,56 / 25,57 / 25,例2：已知一组数据如下表，求一经验函数， 形如y = aebx（a，b为常数），使它与表中数据相拟合。,58 / 25,59 / 25,采取的变换,对非线性化拟合函数线性化为Y=A+BX,非线性拟合函数的形式,60 / 25,3.4 正交多项式拟合,61 / 25,62 / 25,63 / 25,64 / 25,65 / 25,66 / 25,67 / 25,用MATLAB作线性最小二乘拟合,1. 作多项式f(x)=a1xm+ +amx+am+1拟合,可利用

5、已有程序:,a=polyfit(x,y,m),2.多项式在x处的值y可用以下命令计算： y=polyval（a，x）,68 / 25,例 对下面一组数据作二次多项式拟合,69 / 25,1）输入以下命令： x=0:0.1:1; y=-0.447 1.978 3.28 6.16 7.08 7.34 7.66 9.56 9.48 9.30 11.2; A=polyfit(x,y,2) z=polyval(A,x); plot(x,y,k+,x,z,r) %作出数据点和拟合曲线的图形,2）计算结果： = -9.8108 20.1293 -0.0317,设刚性变换 F 为待求的最佳变换，刚性变换 F

6、可表示为一个旋转变换 R 和一个平移变换 T 的组合,为误差矢量项。那么求取最佳变换 F 可表示为最小化下面的均方误差,将最小化均方误差改为对下式最小化 展开得：,其中,继续简化,平移变换 T 的最优值为点集 的中心坐标点做旋转后的平移值，这也是很符合配准的物理意义,奇异值分解来最大化,Given two volume datasets, f and g, we call g the reference volume, and f the floating volume. the objective is to find the registration parameters that def

7、ine a six-degree-of-freedom rigid-body transformation, To solve this in the least-squares sense, we seek an x that minimizes the sum of squared residuals between g and,M-Estimation,Orchard, J.; Greif, C.; Golub, G.H.; Bjornson, B.; Atkins, M.S. Simultaneous registration and activation detection for

8、fMRI,As a convention, volumes will be stored in columns because rows will later be used to represent voxel time series. The variables f and g refer to column vectors of length m containing the intensity of all m voxels of their respective volumes. Linearize the operator by ignoring the higher-order

9、terms in the Taylor expansion,By substituting the approximation for T into,The squared residual errors, defined as,Robust statistical estimation techniques are designed to minimize the influence of outliers. One class of robust estimators, called the M-estimators, minimize the sum of a function of the residuals which does not grow indefinitely (in contrast to the squared function used by least squares), but that rather saturates for large residual errors.,New cost function：,The squared f