Mathematica基础数学实验.ppt

实验十四回归分析简介,由于客观事物内部规律的复杂及人们认识程度的限制,无法分析实际对象内在的因果关系,建立合乎机理规律的数学模型.,数学建模的基本方法:机理分析和测试分析.,通过对数据的统计分析,找出与数据拟合最好的模型.回归模型是用统计分析方法建立的最常用的一类模型.,简单介绍回归分析的数学原理和方法;通过实例讨论如何选择不同类型的模型;对软件得到的结果进行分析,对模型进行改进.,一、线性回归分析基本概念,例1：F.Galton断言:儿子的身高会受父亲身高的影响,但身高偏离父代平均水平的父亲,其儿子身高有回归子代平均水平的趋势.K.Pearson给出了如下样本(单位:英吋):,父亲身高60626465666768707274儿子身高63.665.266.065.566.967.167.468.370.170.0,设父亲身高为x,儿子身高为y.显然,y与x有关系,但这种关系并不是确定的,即父亲身高x相同时其儿子身高y并不是确定的,也就是说,y除受x这一主要因,素的影响外,还受到诸多随机因素的影响.这种关系被称为相关关系.,在一般情况下,y为随机变量,而x为可控制或可精确观察的变量,如年龄,身高,温度,压力,时间等,因此不把x看作随机变量.由于y为随机变量,则对于x的每一个确定的值,有它的分布.若y的数学期望Ey存在,则Ey取值随x的取值而定,因此Ey是x的函数,记作(x),称(x)为y关于x的回归.由于(x)的大小在一定程度上反映在x处随机变量y的观测值的大小,因此,如果能通过一组样本来估计(x),则在一定条件下我们就能解决如下问题:(1)在给定的置信度下,估计出当x取某一确定值时,随机变量y的取值范围,即所谓预测问题;(2)在给定的置信度下,控制自变量x的取值范围,使y在给定范围内取值,即所谓控制问题.,对于x的取定的一组不完全相同的值x1,x2,xn,作独立的试验,得到n对(一组)观察结果:(x1,y1),(x2,y2),(xn,yn),其中yi是x=xi处对随机变量y的观测结果.这n对观察结果就是一个容量为n的样本.由样本估计(x),首先需要推测(x)的形式.方法一,根据所述问题的实际意义,可以知道(x)的形式;方法二,当自变量仅有一个时,描绘出样本的散点图;方法三,试探性回归.对于父子身高问题,我们根本就不知道其关系的形式,但我们通过散点图,发现儿子身高与父亲身高呈线性关系,因此可设:y=a+bx+其中N(0,2),即yN(a+bx,2),a,b,与x无关.,利用mathematica5.0软件包作线性回归:,StatisticsLinearRegression(*调入线性回归软件包*)d=60,63.6,62,65.2,64,66,65,65.5,66,66.9,67,67.1,68,67.4,70,68.3,72,70.1,74,70;(*输入数据*)Regressd,1,x,x(*线性回归*),父子身高的线性回归分析表:,模型可靠性非常好.,回归方程:y=35.9768+0.46457x.方差估计值为:s2=0.186697,二、线性回归分析计算,输出结果的说明:,ParameterTable:参数表,Estimate:系数估计,SE:标准差,TStat:T统计量,PValue:检验统计量的概率值,RSquared:相关系数R2,AdjustedRSquared:修正的相关系数,EstimatedVariance:方差2的估计值s2.,ANOVATable:方差分析表,Model:模型,Error:误差,Total:总和,DF:自由度,SumOfSq:平方和,MeanSq:均方偏差,FRatio:F比,三、一元线性回归的预测区间:,由于,则y0的置信度为1的预测区间为:,其中s为均方差的估计值;为y在x0处的估计值;Sxx为自变量x的偏差平方和,可以用回归(或模型)的平方和除以b的估计值计算.,称为预测半径.,在父子身高问题中,则预测半径为:,由此公式,当输入父亲的身高值,即可推算出儿子身高的估计值和预测区间.,当父亲身高为65.5英吋,其子身高的估计值为66.41英吋,95%的预测半径为1.05,置信区间为:(66.411.05,66.41+1.05)(65.36,67.46),四、一元线性回归的控制问题:,由于预测问题的预测半径的表达式过于复杂,经常使用如下的近似表达式:,95%的预测区间:,99%的预测区间:,这是由于常假设回归模型的误差N(0,2).,用近似预测区间来解决控制问题变得简单.,控制问题的描述:当随机变量y以概率1-落在区间(A,B)内即AyB时,自变量x应控制在什么范围内?,回归方程:y=35.9768+0.46457x.方差估计值为:s2=0.186697,由于,反解不等式组:,即可求得x1,x2.,当x(x1,x2)时,可满足Ag1,g2,(Automatic):分析报告显示基函数名为g1,g2,;取默认值时显示基函数表的函数名;ConfidenceLevel-0.95:回归分析报告中所考虑置信区间的置信水平;,Mathematica5.0线性回归分析命令:,RegressionReport-SummaryReport:默认值时输出标准报告,包括:ParameterTable(参数分析表),RSquared(相关系数R2),AdjustedRSquared(调整后的相关系数=1-(1-R2)(n-1)/(n-p-1),EstimatedVariance(方差2的无偏估计s2),ANOVATable(方差分析表).常用的还有ParameterCITable(参数置信区间表),BestFit(最佳拟合(回归)方程),SinglePredictionCITable(因变量的预测区间表),PredictedResponse(因变量的预测值)等.其它参数用命令RegressionReportValuesRegress查询.其参数总数共31项.,牙膏的销售量,问题:建立牙膏销售量与价格、广告投入之间的模型;预测在不同价格和广告费用下的牙膏销售量.收集了30个销售周期本公司牙膏销售量、价格、广告费用,及同期其它厂家同类牙膏的平均售价.,五、多元回归问题的例子:,13.853.805.50-0.057.3823.754.006.750.258.5133.704.307.250.609.5243.703.705.500.007.5053.603.857.000.259.3363.603.806.500.208.2873.603.756.750.158.7583.803.855.250.057.8793.803.655.25-0.157.10103.854.006.000.158.00113.904.106.500.207.89123.904.006.250.108.15133.704.107.000.409.10143.754.206.900.458.86153.754.106.800.358.90,163.804.106.800.308.87173.704.207.100.509.26183.804.307.000.509.00193.704.106.800.408.75203.803.756.50-0.057.95213.803.756.25-0.057.65223.753.656.00-0.107.27233.703.906.500.208.00243.553.657.000.108.50253.604.106.800.508.75263.654.256.800.609.21273.703.656.50-0.058.27283.753.755.750.007.67293.803.855.800.057.93303.704.256.800.559.26,基本模型,y公司的牙膏销售量,x1与其它厂家的价格差,x2广告费用.,y=0+1x2+2x22+2.,y=0+1x1+1.,y=0+1x1+2x2+3x22+.,推断回归模型为:,RegressA,1,x1,x2,x22,x4,x3,x2,x1,从输出表中可以得出如下结论:,1)回归方程为:,=17.3244+1.30699x13.69559x2+0.348612x22.,2)相关系数R2=0.9054,指销售量y的90.45%可由此模型确定;3)F值产生的概率值p远小于0.05或0.01,即此模型高度显著,整体可用.,但2的估计值产生的概率值p=0.05635490.5,故广告费x2一项在此模型中不是非常显著,模型有待修改.,当维持价格差为x1=0.2(元),投入广告费用为x2=6.5(百万元)时,则预计销售量y可由回归方程计算得,=17.3244+1.30699x13.69559x2+0.348612x22.,=8.2933(百万支),故其95%的近似预测区间为:,由于方差的估计值s2=0.0489719,s=0.2213.,(8.29332s,8.2933+2s)(8.29330.4426,8.2933+0.4426)=(7.8507,8.7359),较精确的预测区间为:(7.8230,8.7636).,RegressA,1,x1,x2,x22,x1*x2,x4,x3,x2,x1,如果增加x1,x2的交叉项,模型的可信度也是非常高的,且相关系数R2=0.9209有所增加.s2有所减少.,当维持价格差为x1=0.2(元),投入广告费用为x2=6.5(百万元)时,则预计销售量y可由回归方程计算得,其95%的近似预测区间为:(7.9145,8.7399).,(百万支),较精确的预测区间为:(7.8867,8.7678).,结果分析,上述两模型,后者要优于前者.,前者销售量的估计值为8.2933(百万支),其95%的近似预测区间为(7.8507,8.7359).后者销售量的估计值为8.3272(百万支),其95%的近似预测区间为(7.9145,8.7399).,六、多元回归问题的预测半径:,其中,n为样本数据个数,m为回归项的项数,特例,当m=1时,可以导出一元线性回归的预测半径公式.,关于牙膏销售问题的预测半径公式可以利用计算机进行计算:,=17.3244+1.30699x13.69559x2+0.348612x22.,对于模型1:,取x0=(1,x01,x02,x022)T=(1,0.2,6.5,6.52)T.,=29.1133+11.1342x17.6080 x2+0.6712x221.4777x1x2,取x0=(1,x01,x02,x022,x01x02)T=(1,0.2,6.5,6.52,0.26.5)T.,对于模型2:,输入计算机计算得:,模型1较精确的预测区间为:(7.8230,8.7636),=0.4703.,模型2较精确的预测区间为:(7.8867,8.7678).=0.4405.,关于多元回归的控制问题,即使是使用简化的估计公式,反解多个自变量的值也存在较多的问题.因此,只有对每一个变量逐一进行分析计算.不再介绍.,程序,练习:小麦赤霉病通常发病期在三月下旬至四月上旬的开花灌浆期,根据经验知:发病率y(%)与该期间的总降雨天数x1(d)和降雨量x2(mm)密切相关.收集到24个观测数据列于下