基于Matlab的数据多元回归分析的研究

合肥师范学院2015届本科生毕业论文（设计）学号：1111431040 本科毕业论文（设计）(2015届)基于Matlab的数据多元回归分析的研究院 系 电子信息工程学院 专 业 电气工程及其自动化 姓 名 张婷婷 指导教师 尹静 2015年5月摘 要多元线性回归是利用MATLAB软件研究一个变量与多个变量的定量关系，MATLAB（矩阵实验室，是MATrix LABoratory的缩写）是一套高性能的数值运算和可视化软件，它集矩阵运算、数值分析、信号处理和图形显示于一体，构成了一个界面友好、使用方便的用户环境，是实现数据分析与处理的有效工具，其中MATLAB统计工具箱更为人们提供了一个强有力的数据统计分析工具。利用MATLAB统计工具箱来进行数据的多元回归分析使得分析的样本容量扩大，增加了统计推断的正确性，也促进了包含大量计算的多元统计分析的发展和运用。本课题研究了在MATLAB软件平台上实现数据的多元统计分析，具体包括一元线性回归分析，非线性回归分析，多元线性回归分析，通过对基础数据分析函数polyfit（一元回归）；regress（多元回归）；及nlinfit（非线性回归）的学习。根据已得的实验结果以及以往的经验来建立统计模型，并研究变量之间的相关关系，建立起变量之间关系的近似表达式，并由此对相应的变量进行预测和控制。根据所收集的数据，通过本文的研究方法进行一一分析，掌握它们的相关关系，可以找出数据中我们最需要的信息，从而进一步对总体的特性进行进一步的判断，把握规律，并将研究结果广泛运用于各种实际应用的预测和判断之中。关键词：polyfit,regress,置信区间，最小二乘估计AbstractMultiple linear regression is a variable and multiple variables are studied by using MATLAB software quantitative relationship of MATLAB (MATrix LABoratory, is the abbreviation of MATrix LABoratory) is a high-performance numerical calculation and visualization software, it combines MATrix operations, numerical analysis, signal processing and graphic display at an organic whole, constitute a friendly interface, easy to use user environment， including the MATLAB statistic tool box more people provided a powerful data statistical analysis tools. Using MATLAB toolbox for data statistics makes analysis of the sample size of expansion, multiple regression analysis to increase the validity of the statistical inference, also promoted the contains a large amount of computing multivariate statistical analysis of the development and use.This topic is studied on MATLAB software platform to realize data of multivariate statistical analysis, including a yuan linear regression analysis, nonlinear regression analysis, multivariate linear regression analysis, based on basic data analysis function polyfit (unary regression); Regress (multiple regression); Learning and nlinfit (nonlinear regression), According to the experimental results have been and past experience to build a statistical model, and studies the correlation between variables, establish the approximate expressions of the relation between variables, and thus to predict and control the corresponding variables.Based on the collected data, through the research methods of this article analysis, grasp their relationship, can find what we need most in this data information, thus further further judgment, the characteristics of the overall grasp the rule. Will the results of the study is widely used in all kinds of practical application of prediction and judgment. Key words: polyfit,regress, confidence intervals, the least squares estimate目 录摘 要- 1 -绪论- 5 -1.1研究的背景- 5 -1.2研究的主要内容- 5 -1.3应解决的关键问题- 6 -2 MATLAB数据分析- 6 -2.1 MATLAB重点基础预备- 6 -2.1.1 MATLAB界面掌握- 6 -2.1.2矩阵及其运算- 6 -2.2数据分析- 8 -2.2.1样本数据的基本统计量- 8 -3 一元回归分析- 9 -3.1一元回归模型- 9 -3.1.1一元线性回归- 9 -3.1.2一元多项式回归- 10 -3.2一元非线性回归- 10 -3.2.1非线性曲线选择- 10 -3.2.2非线性回归命令的调用格式- 11 -3.3一元回归建模实例- 13 -4 多元线性回归模型- 15 -4.1多元线性回归初级分析- 15 -4.1.1多元回归基本概念- 15 -4.1.2建立多元线性回归建模的基本步骤- 16 -4.2 MATLAB的回归分析命令- 17 -4.2.1 多元回归建模命令- 17 -4.2.2 多元回归辅助图形命令- 17 -4.3 一元回归建模实例- 18 -5 GUI界面的设计- 25 -5.1 GUI界面的介绍- 25 -5.2 GUI的设计流程- 25 -5.2实例的GUI设计- 27 -结 论- 29 -参考文献- 29 -附 录- 30 -致谢- 33 -绪论1.1研究的背景MATLAB是一套集高性能的数值计算和可视化整理、计算、绘制图表等于一身的数学工具。它集矩阵运算、数值分析、信号处理和图形显示于一体，构成了一个界面友好、使用方便的用户环境，是实现数据可视化的软件，该软件是使用在数据整理和分析阶段。在数据分析与处理中，起着重要的作用。其中MATLAB统计工具箱更为人们提供了一个强有力的统计分析工具。该软件作为数据分析的工具提高了计算能力，使得样本容量扩大，增加了统计推断的正确性，也促进了包含大量计算的多元统计分析等方法的发展和运用。软件的使用还为数据分析过程节约了大量时间，提高了数据分析的效率。矩阵是MATLAB数据存储的基本单元，而矩阵运算是MATLAB语言的核心，在MATLAB语言系统中几乎一切运算均是以对矩阵的操作为基础的。对于数据描述分析的过程，它是从样本数据出发，概括分析数据的集中位置、分散程度、相互关联关系，以及数据分布的正态或偏态特征等。它是数据进一步分析的基础，对不同类型量纲的数据有时还要进行变换，然后再作出合理分析。数据分布特征一般用偏度与峰度描述，偏度是用于衡量分布不对称程度的指标。峰度是用来衡量数据尾部分散性的指标。回归分析是最常用的数据分析方法之一，它是根据已得的实验结果以及以往的经验来建立统计模型，并研究变量之间的相关关系，建立起变量之间关系的近似表达式，并由此对相应的变量进行预测和控制。1.2研究的主要内容本课题主要研究的是根据所得的样本数据，使用MATLAB软件平台分析它们的相关性，建立起变量的相关性 ，并由此对相应的变量进行预测和控制。主要分为一元回归模型、多元回归模型、非线性回归模型，其中多元回归是最重要的研究对象。比如对于一元回归模型，首先对总体样本（X,Y）进行n次独立观测，获得n组数据，再输入语言和命令，然后根据直角坐标系作散点图，建立一元线性回归模型，计算最佳参数运行可得相应的回归模型。类似的分析方法还有很多。像多维的变量组合，会有很多线性回归方程，我们可以利用逐步回归取得最终结果。1.3应解决的关键问题 在很多实际问题中，与某个变量Y有关系的变量不止一个，研究一个变量与多个变量之间的定量关系问题就是研究多元回归问题，但是它和一元回归模型的建立的方法类似。这里我们重点研究的关键问题是多元线性回归怎样建模。 在多元线性回归中，要理解与多元回归模型有关的命令，多元回归建模命令，调用格式在不同情境下该如何灵活运用。三种调用方式主要区别是什么，并要了解残差图命令及其调用格式。当数据输入后得到相应的图形出现异常点，又该如何重新建模。2 MATLAB数据分析2.1 MATLAB重点基础预备2.1.1 MATLAB界面掌握MATLAB大致包括菜单栏，工具栏，命令窗口，工作空间管理窗口，历史命令记录窗口，当前目录窗口。一般来说，MATLAB所有函数和命令都可以在命令窗口执行，在命令窗口中输入figure，可产生一个与命令窗口隔离的图形窗口。但一般指令较多的情况下，我们可以调用M文件，在编辑器写下相应程序，保存wlb_1(这是文件名)，然后在命令窗口中执行。MATLAB数据类型主要包括字符串，数字，矩阵，单元型数据及结构型数据等。而且提供了近20类基本命令函数，还提供了循环语句，两种循环方式：forend循环和whileend循环；条件控制语句，ifelseend语句；continue语句，break语句和return语句。2.1.2矩阵及其运算矩阵是MATLAB数据存储的基本单元，而矩阵的运算则是MATLAB语言的核心，在MATLAB语言系统中几乎一切运算都是以对矩阵的操作为基础的。操作符:m:n产生一个数组m,m+1,n;m:k:n产生一个数组m,m+k,n;A(:,j)取矩阵A的第j列;A(k,:)取矩阵A的第k行；在矩阵中表示一行的结束；在命令语句的结尾表示不显示这行语句的执行结果%在编程中引导注释行，而系统解释执行程序，%后面的内容不作处理运算符关系运算符，算术运算符，逻辑运算符矩阵的运算(1)矩阵间的运算，（2）矩阵的标量运算，一般为矩阵的每个元素与标量间的运算，（3）矩阵的基本函数运算,矩阵中最实用的运算（4）矩阵的数据处理，比如求最大值、求和、求均值等。det(A)求矩阵A的行列式min(A)求向量或矩阵列的最小值Inv(A)求方阵A的逆矩阵mean(A)求向量或矩阵列的平均值size(A)求矩阵A的阶数sum(A)求向量或矩阵列的元素和eig(A)求A的特征值及特征向量var(A)求向量或矩阵列的方差rank(A)求矩阵A的秩cov(A)求向量或矩阵列的协方差矩阵max(a)求向量或矩阵列的最大值std(A)求向量或矩阵列的标准差数组的输入与运算，只有一行的矩阵也称为数组或向量，我们也要清楚的把握数组的输入；数组元素的访问，访问一个元素，访问一块元素；标量与数组的运算，标量与数组的加减乘除及乘方运算是数组的每个元素与该标量的运算；数组与数组间的运算，数组与数组的运算要求维数是相同的，数组的乘除法是指两个同维数组对应元素之间的乘除法，它们的运算符，只能是“*”、“/”。2.2数据分析2.2.1样本数据的基本统计量描述样本数据基本特性主要是集中位置和分散程度，那么均值、中位数、分位数及三均值亦可充分反映。1.均值命令mean，其调用格式为：m=mean(x);2.中位数命令median，其调用格式:MD=median(X);3.P分位数调用命令prctile，其调用格式为SM=prctile(X,P); 4.三均值: 5.方差：方差是描述数据取值分散性的一种度量，它是数据相对与均值的偏差平方的平均。 6.其算术平方根称为标准差或根方差，即 7.偏度或峰度：数据分布一般要用偏度或峰度描述。偏度用来描述衡量分布不对称程度或偏斜程度的指标，样本数据的偏度为： 峰度用来衡量数据尾部分散性的指标，样本数据的峰度定义为： 当数据的总体分布为正态分布时，峰度近似为0；当峰度大于0时，数据中含有较多远离均值的极端数值，称数据分布具有平峰后尾性，同样与上述相比，当峰度小于0时，表示均值两侧的极端数值较少，则数据称为尖峰细尾性，且调用峰度的命令为kurtosis,其调用格式fd=kurtosis(x,flg)，同样对于偏度的调用格式为:Pd=skewness(x,flg),当x为矩阵时，输出的Pd为数组，其中第i个元素是x的第i列数据的偏度。3 一元回归分析3.1一元回归模型 3.1.1一元线性回归 回归分析是最常用的数据方法之一，它是根据以往的经验来建立的统计模型，并研究变量之间的相关关系，建立起变量之间关系的近似表达式，并由此对相应的变量进行预测和控制等。本章将介绍一元回归模型、非线性回归等内容。设Y是一个可观测的随机变量，它受到一个非随机变量因素x和随机误差的影响。若Y与x有如下关系： (3.1.1)且的均值E()=0，方差var（）= （0）,其中、是固定的未知参数，称为回归系数，Y称为因变量,x称为自变量，则称式（3.1.1）为一元线性回归模型。对于实际问题，要建立回归方程，首先要确定是否能建立线性回归模型，其次确定如何对模型中未知参数、进行估计。所以我们首先要对总体（x,Y）进行n 次独立观测，获得 n组数据，这些数据我们又称为样本观测值，（x1,y2）,(x2，y2),(xn, yn),然后在直角坐标系画出数据点，该图形为数据的散点图，那么如果这些点大致的位于同一条直线的附近，或者这个图形呈线性形状、则认为Y与x之间的关系符合一元线型回归模型。最后我们利用最小二乘法可以得到回归模型参数、的最小二乘估计 ，估计公式为: (3.1.2)其中： 于是我们就可以建立公式模型： 接下来我们可以对一元线性回归分析总结为三点，一是利用样本观测值对回归系数、和做点估计；二是对方程的线性关系做显著性检验，三是在x=x0处对Y做预测等。3.1.2一元多项式回归在一元线性回归中，如果变量x与y关系是n次多项式，即（3.1.3）其中，是随机误差，服从正态分布N（0，），a0,a1,an为回归系数，则称公式（3.1.3）为一元多项式回归模型。1. 多项式曲线拟合，其调用命令为，其相应的调用格式有3种 p=polyfit(x,y,n)p,s=plyfit(x,y,n)p,s,mu=polyfit(x,y,n)当输入x,y分别为自变量和因变量的样本参数估计向量；n是多项式的阶数，对于一元线性回归，则取n为1，p是按照降幂排列的多项式的系数向量；S是一个矩阵，用于估计预测误差；mu是一个向量给出自己变量的均值与标准差。2. 多项式回归模型的预测及其置信区间在MATLAB统计工具箱中，有多项式曲线拟合预测的命令polyval,其相应的调用格式有以下2种：Y=polyval(p,x0) Y,Delta=polyconf(p,x0,s,alpha)其中，p,S是多项式拟合命令p,S=polyfit(x,y,n)的输出，x0是要预测的自变量的值；输出Y是polyfit所得的回归多项式在x处的预测值，如果输入数据的误差相互独立，且方差为常数，则YDelta至少包含的预测值，默认值为0.05。3.2一元非线性回归3.2.1非线性曲线选择为了便于正确选择合适的函数进行回归分析建模，通常有6种曲线可共参考，（1）双曲线 （2）幂函数曲线其中x0, a0(3)指数曲线 ， 其中参数a0(4)倒指数曲线，其中a0(5)对数曲线 （6）S型曲线 ，其中ab0非线性回归建模通常有两种方法：一是通过适当的变换化为线性回归型，例如 ，如果做变换，则有，此时 就是一阶线性回归模型；如果无法实现线性化，可以利用最小二乘法直接建立非线性回归模型，可以求解最佳参数。3.2.2非线性回归命令的调用格式MATLAB统计工具箱实现非线性回归的命令有nlifit,nlpredci,nlparci,下面逐一介绍其格式：1） 非线性拟合命令为nlinfit，其调用格式如下：beat，r,J=nlinfit(x,y,model,beta0)其中x,y分别为n*mmodel是事先用M文件定义的非线性函数，beat0()是回归系数的初值，beat是估计出的最佳回归系数，r是残差，J是雅克比矩阵。通常可利用inline定义函数model,方法如下：fun=inline(f(x),参变量，x)2)非线性回归预测命令为nlpredict,其调用格式如下： Yprd=nlpredict(FUN,inputs,beta,r,J)其中FUN是拟合函数，inputs是预测的自变量，ypred是预测值。3)非线性回归置信区间命令为nlparci,其调用格式如下： Ci=nlparci(beat,r,J,alpha)其中ci是一个矩阵，每一行分别为每个参数的（1-alpha）%的置信区间，alpha默认值为0.05. 非线性回归实例：x=2,3,4,5,6,7,8,9,10,11,12,13,14,15,16;y=6.42,8.2,9.58,9.5,9.7,10,9.93,9.99,10.49,10.59,10.6,10.8,10.6,10.9,10.76;现在我们根据描点作图大概知道这组数据的曲线图近似于曲线1/y=a+b/x，因此我们通过matlab程序建立非线性回归的模型。x=2:16;y=6.42,8.2,9.58,9.5,9.7,10,9.93,9.99,10.49,10.59,10.6,10.8,10.6,10.9,10.76;b0=0.084,0.1436;fun=inline(x./（b(1)*x+b(2)）,b,x);beta,r,J=nlinfit(x,y,fun,b0);betay1=x./(0.0845*x+0.1125);plot(x,y,*,x,y1,- or)legend(原始数据，拟合曲线)（其中b0的计算是根据已有的数据值带入方程1/y=a+b/x所得的，我们选取点（2,6.42）和（16,10.76）我们可得a=0.084,b=0.1436,及b0=0.084,0.1436。曲线拟合图如下所示：由此我们还可以预测当x=17时y的值，只需要在上面的程序中输入代码：ypred=nlprdict(fun,17,beta,r,J)可以得到结果如图所示：3.3一元回归建模实例 以下来自网上的一组数据是关于雏鹅龄重（y）与体重（x）的相关关系，编号12345678910x858796941271029682124104y2380246027002480310026802610238032802900(1)作散点图x=85 87 96 94 127 102 96 82 124 104;y=2380 2460 2700 2480 3100 2680 2610 2380 3280 2900;plot(x,y,*)xlabel(x)ylabel(y)由图可见，雏鹅的体重与龄重间存在线性关系，且龄重随雏鹅的体重的增大而增大，因此我们可得出x与y呈一元线性回归模型。（2）建立直线回归方程在MATLAB中调用命令，从而求出参数的最小二乘估计，继而可在MATLAB窗口中继续输入：n=size(x,1)p,s=polyfit(x,y,1);yl=polyval(p,x);hold onplot(x,y1)p通过窗口可得输出结果：即参数()的最小二乘估计为：所以雏鹅的体重与龄重的直线回归方程（3）误差估计与可觉系数TSS=sum(y-mean(y).2)RSS=sum(y1-mean(y).2)ESS=sum(y-y1).2)R2=RSS/TSS;则通过编辑器得到输出结果：这样可得可决系数R2=0.9234,接近于1，因此模拟的拟和效果较好。4 多元线性回归模型4.1多元线性回归初级分析4.1.1多元回归基本概念设Y是一个可观测的随机变量，它受到p(p0)个非随机变量因素,和随机误差的影响。若Y与,有如下线性关系：（4.1.1）其中是固定的未知参数，称为回归系数；是均值为0、方差为（0）的随机变量；Y为称解释变量；,称为解释变量。模型(4.1.1)称为多元线性回归模型。由定义，在模型（4.1.1）中，自变量,是非随机的且可精确观测，随机误差代表其他随机因素对因变量Y产生的影响。对于总体（,；Y）的n组观测值（ ）（i=1,2，,n; np）,应满足式（4.1.1），即（4.2.2）其中相互独立，且设N（0，）（i=1,2，,n）,记 则模型（4.2.2）可用矩阵形式表示为：Y=X+其中Y为观测向量；X为设计矩阵；为待估计向量；是不可观测的维随机变量，它的分量相互独立，假定N(0, In)。4.1.2建立多元线性回归建模的基本步骤（1）对问题进行直观分析，选择因变量与解释变量，作出因变量与各解释变量的散点图，初步设定多元线性回归模型的参数个数。（2）输入因变量与自变量的观测数据（y，X），调用命令为：b,bint,r,rint,s=regress(y,x,alpha) 计算参数的估计。（3）调用命令rcoplot(r,rint),分析数据的异常点情况。（4）作显著性检验，若通过，则对模型做预测。（5）对模型进一步研究，如残差的正态性检验，残差的异方差检验，残差的自相关性检验等。4.2 MATLAB的回归分析命令4.2.1 多元回归建模命令在MATLAB工具箱中，与多元回归模型有关的命令有多个，比如(1) b=regress(Y,X)(2) b,bint,r,rint,stats=regress（Y,X）(3) b,bint,r,rint,stats=regress(Y,X,alpha)三种方式的主要区别是输出项的参数的多少，第三种方式是全参数方式，第三种说明regress命令的输入与输出参数的含义。输入参数：输入量Y表示模型（3.1.1）中因变量的观测向量 ；X是一个n*(p+1)的矩阵，其中第一列元全部是数“1”，第j列是自变量 的观测向量 （j=1,2,p）,即：对于一元线性回归，取p=1即可；alpha为显著性水平。输出参数：输出向量b为回归系数估计值，bint为回归系数的置信区间；输出向量r表示残差列向量，即输出量rint为模型的残差的置信区间；输出量stats是用于检验回归模型的统计量，有4个分量值：第一个是R2,其中R是相关系数；第二个是F统计值；第三个是与统计量F对应的概率P，当P A=74.6 29.4 20.9 1085.6 76.6 30.5 21.2 1130.8 79.4 33.2 22.7 1239.6 75.6 29.2 21.2 1010.4 79.3 32.1 21.3 1274.7 81.4 27.4 21.5 1010.8 98.3 24.8 21.4 1092.5 67.7 23.6 21.0 826.3 74.1 32.7 22.1 1000.1 142.9 26.7 23.2 1543.2 87.2 44.7 23.1 1189.1 101.4 42.4 23.9 1415.1 113.7 39.2 22.7 1396.8 123.6 44.2 28.5 1542.7 135.2 50.6 23.7 1569.2 174.2 62.8 26.6 2269.8 151.3 62.6 25.8 2021.5 169.2 61.4 24.9 2212.4;m,n=size(A);subplot(3,1,1),plot(A(:,1),A(:,4),+),xlabel(x1(库存金额）)ylabel(y(销售额）)subplot(3,1,2),plot(A(:,2),A(:,4),*),xlabel(x2(广告投入）)ylabel(y(销售额）)subplot(3,1,3),plot(A(:,3),A(:,4),x),xlabel(x3(员工工资）)ylabel(y(销售额）)通过编辑器可得相关图形所得图形如上图所示，可以直接看到销售额y与资金额、广告投入，员工资金具有线性关系，因此可建立三元线性回归模型 接着调用命令regress，建立三元线性回归模型x=ones(m,1),A(:,1),A(:,2),A(:,3);y=A(:,4)b,bint,r,rint,stats=regress(y,x);b,bint,stats,程序运行结果可得：输出结果可得，b就是模型中的参数因此可得多元线性回归模型：bint的各行分别为参数的95%的置信区间，stats的第一列表示模型可决系数，第二列为F统计量的观测值，第三列得到概率p=0.0000，最后一列模型的残差平方和为9.6891.由于可决系数R2=0.0010,p=0.00000.05,因此建立的回归模型有意义。接着要检验，对所得图形进行改进，已知残差图形命令为rcoplot,其调用格式为：rcoplot(r,rint),其中，输入参数r,rint是多元回归建模命令regress输出的结果，运行该命令后展示了残差与置信区间的图形。该命令有助于对建立的模型进行分析，如果出现红色的点，则可认为是异常的点，那么此时可删除异常点，重新建模，最终得到改进的回归模型。那么在上面的图形加入rcoplot(r,rint)这样的程序于编辑器中，就可得到如下图形从图中可以看出第五个点和第十五个点属于异常点，因此我们可以去掉这两个点，重新拟合得到更加符合散点图的曲线。实例2某个大坝的发电耗水率的主要要影响为库水位，出库流量，现在从某一天的12时02分14时08分范围内的出库流量、库水位对应的耗水率利用多元回归建立耗水量与出库流量、库水位的模型。某一天的时间库水位出库流量机组发电耗水率12：0265.041560160.4312：0465.011552960.1312：0665.091539060.0312：0865.141537058.2712：1065.191531957.3912：1265.321546858.1412：1465.341551458.2112：1665.371551258.2312：1865.391549858.4912：2065.411539758.5114：0265.471547358.3614：0465.391541658.0714：0665.581633557.8314：0865.561468756.6914：1065.071437256.2714：1265.841419255.77首先编写程序，输入原始数据，如下：A=65.04 15601 60.4365.03 15529 60.1365.09 15390 60.0365.14 15370 58.2765.19 15319 57.3965.32 15468 58.14 65.34 15514 58.2165.37 15512 58.2365.39 15498 58.4965.41 15397 58.5165.47 15473 58.3665.39 15416 58.0765.58 16335 57.8365.56 14687 56.6965.67 14372 56.2765.84 14192 55.77subplot(1,2,1),plot(A(:,1),