六多元回归-其他问题

ChapterOutline本章大纲数据的测度单位换算对OLS统计量的影响对函数形式的进一步讨论拟合优度和回归元选择的进一步探讨预测和残差分析LectureNotes重新定义变量的影响估计系数R平方t统计量函数形式 对数函数形式含二次式的模型含交叉项的模型RedefiningVariables

重新定义变量为什么我们想这样做？数据测度单位变换经常被用于减少被估参数小数点后的零的个数，这样结果更好看一些既然这样做主要为了好看，我们希望本质的东西不改变。重新定义变量：一个例子以下模型反映了婴儿出生体重与孕妇吸烟量和家庭收入之间的关系：(1)考虑如下单位变换：(2)出生体重单位由盎司变为磅(3)香烟的支数变为包数估计结果列于下表

Table6.1Y(column)(1)bwght(2)bwghtlbs(3)bwghtX(rows)Cigs-0.4634(0.0916)-0.0289(0.0057)--Packs-----9.268(1.832)Faminc0.0927(0.0292)0.0058(0.0018)0.0927(0.0292)Intercept116.794(1.049)7.3109(0.0656)116.974(1.049)Observations138813881388R-squared0.02980.02980.0298SSR557,485.512177.5778557.485.51SER20.0631.253920.063改变被解释变量测度单位的影响因为1磅＝16盎司，被解释变量被除以16。比较第1列与第2列。(1)中被估参数/16＝(2)中被估参数(1)中被估参数的标准差/16＝(2)中被估参数的标准差改变被解释变量测度单位的影响(1)和(2)中t统计量相同R平方相同(1)中SSR/（16*16）＝(2)中SSR(1)中SER(标准差)/16＝(2)中SER改变解释变量测度单位的影响现在香烟数量单位变为包。现在比较第(1)列和第(3)列。变量faminc系数和截距项的估计值和其标准差分析同上。packs的系数估计值和标准差变为20倍。Impactofchangingthescaleoftheindependentvariable

改变解释变量测度单位的影响t统计量相同R平方相同SSR相同SER相同怎样度量数据通常只起非实质性作用。比如减少所估计系数小数点后零的个数等。通过对度量单位合理的选择，可在不作任何本质改变的情况下，改进所估计方程的形象。重新定义变量改变变量y的测度单位会导致系数和标准差相应的改变，所以解释变量系数显著性和对其解释没有改变。改变一个变量x的测度单位会导致该变量系数和标准差的相应改变，所以所有解释变量显著性和对其解释没有改变。RedefiningVariables

重新定义变量如果被解释变量以对数形式出现，改变被解释变量度量单位对任何斜率系数没有影响。因为log(cy)=log(c)+log(y)，改变y测度单位将改变截距，不改变斜率系数。BetaCoefficientsBeta系数考虑如下形式的样本回归方程：

ŷ=200+20,000x1

+0.2x2我们能说x1是最重要的变量吗？现在，查看以下各个变量的单位：yindollarsy单位：美元x1incentsx1单位：美分x2inthousandsx2单位：千美元BetaCoefficientsBeta系数上例揭示了什么问题？被估计系数的大小是不可比较的。一个相关的问题是，当变量大小差别过大时，在回归中因运算近似而导致的误差会比较大。BetaCoefficientsBeta系数有时，我们会看见“标准化系数”或“Beta系数”，这些名称有着特殊的意义Ideaistoreplaceyandeachxvariablewithastandardizedversion–i.e.subtractmeananddividebystandarddeviation使用Beta系数是因为有时我们把y和各个x替换为标准化版本——也就是，减去均值后除以标准离差。Coefficientreflectsstandarddeviationofyforaonestandarddeviationchangeinx

系数反映对于一单位x的标准离差的y的标准离差。BetaCoefficientsBeta系数BetaCoefficientsBeta系数FunctionalForm函数形式

OLS也可以用在x和y不是严格线性的情况，通过使用非线性方程，使得关于参数仍为线性。

可以取x，y（一个或全部）的自然对数

可以用x的平方形式

可以用x的交叉项InterpretationofLogModels

对数模型的解释如果模型是ln(y)=b0+b1ln(x)+u

b1是y对于x的弹性

如果模型是ln(y)=b0+b1x+ub1近似是，给定一单位x的改变，y的百分比变化，常被称为半弹性。Whyuselogmodels?

为什么使用对数模型？取对数后变量的斜率系数，不随变量测度单位改变。如果回归元和回归子都取对数形式，斜率系数给出对弹性的一个直接估计。对于y>0的模型，条件分布经常偏斜或存在异方差，而ln(y)就小多了，所以，使用ln(y)作为因变量的模型，通常比使用y的水平值作为因变量的模型更接近CLM假定。ln(y)的分布窄多了，限制了异常（或极端）观测值(outliers)的影响。消除或缓和了数据的异方差和偏态性。SomeRulesofThumb

一些经验法则什么类型的变量经常用对数形式？

肯定为正的钱数：工资，薪水，企业销售额和企业市值。非常大的变量：如人口，雇员总数和学校注册人数等。SomeRulesofThumb

一些经验法则什么类型的变量经常用水平值形式？

用年测量的变量：如教育年限，工作经历，任期年限和年龄可以以水平值或对数形式出现的变量：比例或百分比变量：失业率，养老保险金参与率等。LimitationsofLogs

对数形式的限制一个变量取零或负值，则不能使用对数。如果y非负但可以取零，则有时使用log(1+y)。当数据并非多数为零时，使用log(1+y)估计，并且假定变量为log(y)，解释所得的估计值，是可以接受的。CautionsinusingLogs

慎重使用对数形式使用对数形式因变量的一个缺陷是，当y取对数形式时，更难以预测原变量的值，因为原模型允许我们预测log(y)而不是y。CautionsinusingLogs

慎重使用对数形式QuadraticModels

含二次式的模型对于形式为y=b0+b1x+b2x2+u的模型，我们不能单独将b1解释为关于x，y变化的度量，我们需要将b2也考虑进来，因为QuadraticModels

含二次式的模型如果感兴趣的是，给定x的初始值和变动，预测y的变化，那么可以直接使用（1）。一般来说，我们可以使用x的平均值，中值，或上下四分位数来预测y，取决于我们感兴趣的问题。QuadraticModels

含二次式的模型QuadraticModels

含二次式的模型3.737.3724.4experwageMoreonQuadraticModels

对含二次式模型的进一步讨论假如x的系数为正，x2的系数为负。那么，y首先随x上升而上升，但最终转向随x上升而下降。MoreonQuadraticModels

对含二次式模型的进一步讨论假如x的系数为负，x2的系数为正。那么，y首先随x上升而下降，但最终转向随x上升而上升。InteractionTerms

交叉项

Foramodeloftheformy=b0+b1x1+b2x2+b3x1x2+uwecan’tinterpretb1aloneasmeasuringthechangeinywithrespecttox1,weneedtotakeintoaccountb3aswell,since对于形式为y=b0+b1x1+b2x2+b3x1x2+u的模型，我们不能单独将b1解释为关于x1，y变化的度量，我们需要将b3也考虑进来，因为InteractionTerms

交叉项InteractionTerms

交叉项教材例6.3MoreonGoodness-of-FitandSelectionofRegressors

拟合优度和解释变量选择的进一步探讨AdjustedR-SquaredMoreonGoodness-of-FitandSelectionofRegressors

拟合优度和解释变量选择的进一步探讨我们定义总体R2为：y的变异在总体中能被解释变量解释的比例，为TheadjustedR-squareisstillnotanunbiasedestimatorofthepopulationR-squared,becausetheratiooftwounbiasedestimatorsisnotanunbiasedestimator.调整过的R2仍不是总体R2的一个无偏估计量，因为两个无偏估计量的比例不是一个无偏估计量。MoreonGoodness-of-FitandSelectionofRegressors

拟合优度和解释变量选择的进一步探讨Theprimaryattractivenessofisthatisimposesapenaltyforaddingmoreindependentvariablestoamodel.调整过的R2最根本的吸引力，在于它对向模型增加自变量的惩罚。Ifweaddanewindependentvariabletoaregressionequation,increasesifandonlyifthetstatisticonthenewvariableisgreaterthanoneinabsolutevalue.如果我们向回归模型加入一个新的解释变量，当且仅当新变量的t统计量的绝对值大于1时，调整过的R2增加。UsingAdjustedR-SqraredtoChooseBetweenNonnestedModels

利用调整的R2在两个非嵌套模型中进行选择如果两个模型中任何一个都不是另一个的特例，则两个模型是非嵌套的。F统计量只允许我们检验嵌套模型，即一个模型（约束模型）是另一个模型（无约束模型）的一种特殊情形。我们需要一些在无嵌套模型间进行选择的指导。UsingAdjustedR-SquaredtoChooseBetweenNonnestedModels

利用调整的R2在两个非嵌套模型中进行选择

当变量有不同函数形式时，通过比较调整过的R2，在不同的解释变量的非嵌套组合中进行选择，是颇有价值的。例如，一个模型是y=b0+b1x1+b2log(x2)， 另一个是y=b0+b1x1+b2x2+b3x22。 如果第一个模型调整过的R平方为0.3，而第二个为0.6，我们倾向于选择第二个模型UsingAdjustedR-SquaredtoChooseBetweenNonnestedModels

利用调整的R2在两个非嵌套模型中进行选择TheLimitationofAdjustedR-squared:wecannotuseittochoosebetweendifferentfunctionalformsforthedependentvariable.调整过的R2的限制：我们不能利用它在关于因变量函数形式不同的模型间进行选择PredictionAnalysis:theestimator

预测分析：估计量PredictionAnalysis:thestandarderror预测分析：标准差PredictionAnalysis:theConfidenceInterval

预测分析：置信区间PredictionAnalysis:ConfidenceIntervalforaparticulary

预测分析：一个特殊y的置信区间PredictionAnalysis:PredictionIntervalfory0

预测分析：y0的预测区间PredictionAnalysis:PredictionIntervalfory0

预测分析：y0的预测区间Sometimes,itisusefultoexamineindividualobservationstoseewhethertheactualvalueofthedependentvariableisaboveorbelowthepredictedvalue.有时，检验个体观测值来看它的因变量高于还是低于预测值是有用的。Thatis,toexaminetheresidualsfortheindividualobservations.也就是，检验个体观测值的残差。ResidualAnalysis残差分析ResidualAnalysis残差分析Example:Regressthepriceofhousestoasetofobservablecharacteristics.Calculatethepredictedvalue.Themostnegativeresidualisthatmostunderpricedrelativetoitsobservedchacteristics.Thisparticularhousemayhaveundesiredfeaturewehavenotaccountedfor.Canestablishapredictioninterval.例：将房价对一些可观测特点回归，得预测值，算出残差。残差为负则说明根据可观测因素房价偏低。负的程度最大值的大小说明我们还没有控制因素的重要程度。可为改值建立预测区间。Definelogy=log(y).Let定义