实验八多元线性回归与逐步回归

1、实验八 多元线性回归与逐步回归（2学时）一、实验目的和要求1. 掌握逐步回归的思想与方法，掌握Matlab中stepwise命令的使用方法二、实验内容1.主要语句：逐步回归命令stepwise提供了交互式画面，可自由选择变量，进行统计分析，格式stepwise(X,Y,in,penter,premove)X是自变量数据,Y是因变量数据,分别为矩阵,in是矩阵X列数指标,给出初始模型中包括的子集,缺省时设定为全部自变量不在模型中,penter为变量进入时显著性水平,缺省时=0.05,premove为变量剔除时显著性水平,缺省=0.10.在应用stepwise命令进行运算时，程序不断提醒将某个变量

2、加入(Move in)回归方程，或提醒将某变量从回归方程中剔除(Move out).注意：应用stepwise命令,数据矩阵X第一列不需人工加一个全1向量,程序会自动求出回归方程常数项(intercept).2.实验数据与内容选取1989-2003年的全国统计数据，考虑的自变量包括：x1-工业总产值（亿元）；x2-农业总产值（亿元）； x3-建筑业总产值（亿元）； x4-社会商品零售总额（亿元）； x5-全民人口数（万人）；x6-受灾面积；y-国家财政收入（亿元）。数据见表3-20，（1）建立多元回归模型，求回归参数的估计；（2）对上述回归模型和回归系数进行检验（要写出统计量）；（3）用逐步回

3、归求y与6个因素之间的回归关系式.表3-20 1989-2003年统计数据年份X1X2X3X4X5X6y19896484.004100.60794.008101.40112704.046991.002664.9019906858.004954.30859.408300.10114333.038474.002937.1019918087.105146.401015.109415.60115823.055472.003149.48199210284.505588.001415.0010993.70117171.051333.003483.37199314143.806605.102284.7012

4、462.10118517.048829.004348.95199419359.609169.203012.6016264.70119850.055043.005218.10199524718.3011884.603819.6020620.00121121.045821.006242.20199629082.6013539.804530.5024774.10122389.046989.007407.99199732412.1013852.504810.6027298.90123626.053429.0086519014241.905231.4029152.5012476

5、1.050145.009875.95199935087.2014106.205470.6031134.70125786.049981.0011444.08200039047.3013873.605888.0034152.60126743.054688.0013395.23200142374.6014462.806375.4037595.20127627.052215.0016386.04200245975.2014931.507005.0042027.10128453.047119.0018903.64200353092.9014870.108181.3045842.00129227.0545

6、06.0021715.25解：（1）建立多元回归模型建立多元线性回归模型1）程序：data=1989 6484.00 4100.60 794.00 8101.40 112704.0 46991.00 2664.901990 6858.00 4954.30 859.40 8300.10 114333.0 38474.00 2937.101991 8087.10 5146.40 1015.10 9415.60 115823.0 55472.00 3149.481992 10284.50 5588.00 1415.00 10993.70 117171.0 51333.00 3483.371993 1

7、4143.80 6605.10 2284.70 12462.10 118517.0 48829.00 4348.951994 19359.60 9169.20 3012.60 16264.70 119850.0 55043.00 5218.101995 24718.30 11884.60 3819.60 20620.00 121121.0 45821.00 6242.201996 29082.60 13539.80 4530.50 24774.10 122389.0 46989.00 7407.991997 32412.10 13852.50 4810.60 27298.90 123626.0

8、 53429.00 8651.141998 33387.90 14241.90 5231.40 29152.50 124761.0 50145.00 9875.951999 35087.20 14106.20 5470.60 31134.70 125786.0 49981.00 11444.082000 39047.30 13873.60 5888.00 34152.60 126743.0 54688.00 13395.232001 42374.60 14462.80 6375.40 37595.20 127627.0 52215.00 16386.042002 45975.20 14931.

9、50 7005.00 42027.10 128453.0 47119.00 18903.642003 53092.90 14870.10 8181.30 45842.00 129227.0 54506.00 21715.25;n,p=size(data); %读取行数n为样本数,列数p为回归参数个数x=ones(n,1),data(:,2:7); %建立设计矩阵，第一列全是1y=data(:,8); %读取Y b,bint,r,rint,stats=regress(y,x); %建立线性回归模型，输出回归参数b,回归参数b的置信区间，残差r,残差r的置信区间，输出几个统计量stats结果输出：

10、b,bint,r,rint,stats结果：回归参数估计值b = 1.0e+03 * -6.9226 0.0001 -0.0009 0.0000 0.0006 0.0001 -0.0000得回归参数置信区间：bint = 1.0e+04 * -4.1630 2.7785 -0.0001 0.0001 -0.0001 -0.0001 -0.0003 0.0003 0.0000 0.0001 -0.0000 0.0000 -0.0000 0.0000得回归参数的置信区间如上输出残差值r = -228.1801 132.3052 382.5207 -382.0969 -164.3261 413.26

11、97 235.0416 -64.6531 -215.4275 -83.5491 -101.2389 -476.3158 462.6145 92.4558 -2.4199得到残差向量输出随机误差项的置信区间rint = 1.0e+03 * -0.7047 0.2484 -0.3835 0.6481 -0.1704 0.9354 -1.0651 0.3009 -0.7159 0.3872 -0.2525 1.0791 -0.4882 0.9583 -0.8089 0.6795 -0.7999 0.3690 -0.8192 0.6521 -0.8553 0.6528 -1.1540 0.2014 -

12、0.2046 1.1299 -0.5519 0.7368 -0.4023 0.3974输出统计量结果：stats = 1.0e+05 * 0.0000 0.0062 0.0000 1.4152接近1,相关性强，,均说明自变量对y线性关系显著。注意：stats转成长格式数据命令和结果: format long gstats结果：99785.6012083978 62056071.903951 3.15856319868346e-059742绘制残差图命令：rcoplot(r,rint)残差示意图残差示意图看出无异常点.（2）对上述回归模型和回归系数进行显著性检验%求可决

13、系数，进行相关性检验，y是因变量Y数据 TSS=y*(eye(n)-1/n*ones(n,n)*y; %总离差平方和H=x*inv(x*x)*x %帽子矩阵ESS= y*(eye(n)-H)*y; %计算残差平方和 RSS= y*(H-1/n*ones(n,n)*y; %计算回归平方和 MSE=RSS/n-p-1; %计算均方残差R2=RSS/TSS; %计算样本决定系数RSS/TSS ,相关性检验%F检验 检验回归方程的显著性F0=(RSS/p)/(ESS/(n-p-1); % 计算F0 Fa=finv(0.95, p,n-p-1); % F分布时的临界值 %t检验 检验回归系数的显著性S=

14、MSE*inv(x*x); % 计算回归参数的协方差矩阵 T0=b./sqrt(diag(S); % 每个回归参数的T统计量,b为上述回归参数返回结果 Ta=tinv(0.975, n-p-1); % t分布的上1-0.05/2分位数 pp=2-2*tcdf(abs(T0),n-p-1); % 每个回归参数检验的T统计量对应的概率pp结果：TSS =5.2808e+08H = Columns 1 through 6 0.6900 0.1814 0.2572 0.0049 -0.1232 0.0295 0.1814 0.6753 -0.0838 0.1415 0.1402 -0.1630 0.2

15、572 -0.0838 0.5153 0.2866 -0.0437 0.1492 0.0049 0.1415 0.2866 0.3287 0.1957 0.0946 -0.1232 0.1402 -0.0437 0.1957 0.6225 0.2607 0.0295 -0.1630 0.1492 0.0946 0.2607 0.3338 -0.0267 0.2168 -0.1760 -0.0513 0.1370 0.0937 0.1307 0.0307 -0.0756 -0.1369 -0.0402 0.0776 -0.0036 0.0081 0.0637 -0.0101 -0.2079 0.

16、0926 0.0338 -0.1353 0.0506 -0.0409 0.0055 0.0927 -0.0757 -0.0767 0.0521 0.0442 0.0669 0.0422 -0.1563 -0.0344 0.0951 0.1268 -0.0019 0.0568 -0.1331 0.0694 0.0431 0.1084 -0.0573 -0.0562 0.0127 0.1461 -0.0202 0.0376 -0.0762 -0.2105 0.1783 -0.1163 -0.1138 -0.1300 0.1217 0.1064 Columns 7 through 12 -0.026

17、7 0.1307 -0.0036 0.0338 -0.0757 -0.1563 0.2168 0.0307 0.0081 -0.1353 -0.0767 -0.0344 -0.1760 -0.0756 0.0637 0.0506 0.0521 0.0951 -0.0513 -0.1369 -0.0101 -0.0409 0.0442 0.1268 0.1370 -0.0402 -0.2079 0.0055 0.0669 -0.0019 0.0937 0.0776 0.0926 0.0927 0.0422 0.0568 0.3430 0.2333 0.2234 0.0598 0.0106 0.0

18、259 0.2333 0.3524 0.1391 0.2655 0.1600 -0.0570 0.2234 0.1391 0.5619 -0.0361 -0.1006 0.2328 0.0598 0.2655 -0.0361 0.3646 0.3135 -0.0237 0.0106 0.1600 -0.1006 0.3135 0.3298 0.0318 0.0259 -0.0570 0.2328 -0.0237 0.0318 0.2657 0.0122 -0.0615 0.1857 -0.0299 0.0487 0.2537 -0.0854 0.0132 -0.1440 0.1425 0.23

19、35 0.0884 -0.0165 -0.0315 -0.0051 -0.0627 -0.0804 0.0962 Columns 13 through 15 -0.1331 0.0127 0.1783 0.0694 0.1461 -0.1163 0.0431 -0.0202 -0.1138 0.1084 0.0376 -0.1300 -0.0573 -0.0762 0.1217 -0.0562 -0.2105 0.1064 0.0122 -0.0854 -0.0165 -0.0615 0.0132 -0.0315 0.1857 -0.1440 -0.0051 -0.0299 0.1425 -0.0627 0.0487 0.2335 -0.0804 0.2537 0.0884 0.0962 0.2933 0.2181 0.1052 0.2181 0.5098 0.13430.1052 0.1343 0.8141R2 = 0.997856015345558接近1，相关性显著.回归方程显著性F检验结果：F0 =349.065936623445Fa =4.14680416227653表明模型显著回归参数检验结果：回归参数检验t统计量值T0 = -0.0291935531909151 0.0281878798554941 -0.54