光华管理学院古典线性回归模型

第二章：古典线性回归模型2outline计量经济分析与线性回归模型线性回归模型的OLS估计OLS估计的性质关于参数的假设检验第一节：计量经济分析

与线性回归模型Outline从计量经济分析到一元回归模型导入多元线性回归模型1.从计量经济分析到一元回归模型许多计量经济分析都可以归纳为“用x来解释y”或者是“y如何随着x的变化而变化”比如检验企业的信息透明度影响其资本成本的理论：资本成本（y）如何随着信息透明度（x）的变化而变化评估货币工具的效果：将来物价水平（y）如何随着现在的存款准备金率（x）的变化而变化当然，不可能只有x影响y，计量经济学的基本方法的是“看平均”，如果平均来说，相同的x总导致相同的y，这时可以不管其它因素，只要考虑x和y之间的因果关系。平均时，其它因素的影响没有，因此可以假定其它因素不变。这与经济学的“假定其它不变”的基本方法是一致的因此，大多数的计量经济分析都可以归纳为“建立x和y之间的因果关系”。实证研究（计量经济分析）与案例研究的根本差别在于前者“看平均”，后者“看例子”（奇异值）。前者是科学，后者是艺术，比如西医与中医。现实中更多的是介乎科学与艺术之间，所以我们要中西医结合。这里u是一个均值为0的随机变量。因为事实上，不可能只有x影响y，我们把所有其它因素加总到了u中X和y的关系也不可能正好是线性的，但线性是最简单的近似。2.导入多元线性回归模型模型中，除了了beta的经济含义外外，的经济含义是是：给定x和z的观测值，平平均来说，y的值为多少。。而这一条正正好可以用来来预测，即用用因子x和z来预测y！如果回归模型型是用作预测测，我们并不不要求x是原因，y是结果。比如，x是上期的单一一业务企业的的组合回报，，y是滞后一期的的综合企业回回报。X当然不是y的原因，但这这个模型可以以帮助我们预预测这时条件不不是必必须的，但最最好满足，因因为要不然就就没有14可见，许多计计量经济学分分析，本质上上就是通过设设立回归模型型来分析。这这里有两个问问题如何设立模型型？CAPM的检验：理论论已经告诉我我们了：但像这样确定定性方程的理理论，有些理理论的检验比比较复杂，比比如CCAPM信息透明度影影响资本成本本的检验：关键在控制变变量Gov的选择及内生生问题因子预测问题题：关键在因因子的选择不是金融计量量经济学的重重点，是实证证金融的问题题，但我们在在第三章还是是给予初步讨讨论如何分析？包括模型的估估计及检验是计量经济学学理论的重点点15在数理统计中中，也有多元元回归模型，，那里x是确定性的，，而我们这里里的x是随机性的（（随机性的一一种特例，方方差为0时，就是确定定性）。很多计量经济济学课本也是是开始介绍确确定性x，然后再推广广到随机性。。但这样处理理的问题是开开始时讨论条条件的的前半部分没没有什么意义义并且，如果x是确定性的，，它就不可能能为结果，只只有可能为原原因，这时相相关关系就够够了。确定性x一般出现在可可控实验中，，金融经济问问题一般是非非实验问题。。第二节：线性性回归模型的的OLS估计Outline引言一元模型的OLS方法多元模型的OLS方法拟合优度在金融中的应应用1.引言为什么要估计计？给定回归归模型，参数beta未知，而计量量分析主要是是基于参数beta。比如CAPM的检验：Beta0=rf，beta1=rm-rf，其它的beta=0信息透明度影影响资本成本本的检验：Beta1>0因子预测模型型：beta的大小什么模型估计计？找出最合合适的参数beta，使得模型与与观察到的数数据尽可能相相一致。什么是与数据据尽可能相一一致？在给定定的一致的标标准下，找最最优那“一致”的的标准是什么么？依赖于模型假假设及个人偏偏好常见的有后验概率：MLE估计模型拟合误差差平方和：OLSOLS是最简单，也是最最常用的估计方方法原理直观：总总拟合误差最最小计算简单：二二次型问题，，有显示解结果稳健：估估计出来的参参数有很好的的稳健性质应用广泛：条条件要求少简单的是美好好的，《小的是美好的的》我们的估计方方法是这样接下来的模型型设置是这样样其实人生、社社会也是这样样2.一元模型的OLS方法现在可以把所所有的拟合误误差加总（平平方和）最小化总拟合合误差：这是是一个标准的的二次型问题题，FOC给出这样我们得到到了beta的一组估计值值,它使得拟合误误差平方和最最小.直观上，可以以加总拟合误误差的绝对值值，而不是平平方。但这里里可以看出，，那么目标函函数就不是二二次型，没有有显示解。注意，，这个个公式式可以以理解解成：：先去去均值值，估估计beta1，再估估计beta0。这一一点在在将来来的固固定效效应面面板模模型的的讨论论时会会有用用Beta1与相关关系数数有关关，但但不是是。这这与因因果关关系与与相关关关系系之间间的关关系相相一致致3.多元模模型的的OLS方法推导过过程简单记记忆方方法估计统统计量量的性性质性质1：拟合合误差差之和和为零零，即即证明：：FOC性质2：回归归变量量与拟拟合误误差的的样本本协方方差为为0，即即证明：：FOC这两条条性质质在下下面的的分析析中非非常有有用它也对对应着着模型型的基基本假假定：：例题exer2.saslibnamewang"F:\current_teaching\econometrics_II_2\data";dataone;setwang.exer2_capm;beta2=beta*beta;run;procmeansdata=one;vareretbetabeta2;run;/*先看看看数据据特征征是一一个好好习惯惯*//*多元回回归*/procregdata=one;modeleret=betabeta2;run;多元模模型分分步估估计多元回回归估估计公公式有有时难难以理理解及及难以以证明明相关关性质质，我我们可可以用用两步步法来来估计计。直观上上为什什么是是这样样？Ballentinediagram交叉部部分哪哪去了了？多元回回归模模型，，只能能反映映边际际关系系（线线性关关系）），联联合影影响（（非线线性关关系））无法法反映映出来来例题exer2.sas/*分步回回归*/procregdata=one;modelbeta=beta2;outputout=resoutresidual=ress;run;/*第一步步，把把感兴兴趣的的x对所有其其它解释变变量回回归，，拟合合残差差ress保存在在文件件resout中*/procregdata=resout;modeleret=ress;run;/*第二步步，用用文件件resout中的拟拟合残残差ress*/什么时时候一一元回回归是是正确确的？？r1就是去去掉均均值的的x1时即不不存存在在同同时时与与x1和y相关关的的因因素素！！例题题exer2.sasdatatwo;setone;retainseed145000;retainseed244000;/*seed1=45000;seed2=44000;*/callrannor(seed1,x1);callrannor(seed2,x2);output;run;/*retain使得得seed1保持持上上一一次次循循环环的的结结果果，，因因为为SAS命令令是是一一行行一一行行地地运运行行。。可可以以试试试试比比较较没没有有retain的output*/proccorrdata=two;varx2x1beta;run;/*看看看模模拟拟产产生生的的x1是否否与与beta相关关*/procregdata=two;modeleret=beta;modeleret=betax1;run;/*可以以看看到到两两个个回回归归结结果果中中，，beta的系系数数几几乎乎相相同同。。理理论论上上应应该该完完全全相相同同*/4.拟合合优优度度回归归模模型型估估计计是是找找出出beta使得得模模型型最最大大可可能能与与数数据据一一致致，，那那结结果果模模型型在在多多大大程程度度上上与与数数据据一一致致？？目标标函函数数值值，，即即最最小小的的拟拟合合误误差差平平方方和和是是一一个个程程度度的的测测度度，，但但经经济济意意义义不不大大我们先定定义几个个变量这里SSR就是拟合合误差平平方和。。容易证证明，我们说这个R2是一个比比较合理理的测度度。R2=0与R2=1时的经济济含义R2的经济含含义：y的方差中中被x解释的比比例因为有y差异、变变化，我我们才需需要研究究为什么么有变化化。而变变化的最最简单度度量是方方差。所以R2衡量的是是y在多大程程度上被被模型解解释R2的一个重重要特点点是它从从不随着着解释变变量的增增加而减减少。原原因在于于用来计计算R2的RSS永远不会会随着新新变量的的加入而而减少，，因为至至少有新新beta=0.若要用R2作为评价价标准，，它最好好与解释释变量个个数无关关，为此此必须对对R2进行调整整。将R2表达式中中的分子子分母同同时除以以它们各各自的自自由度，，变成了了均方差差之比，，这样就就消除了了解释变变量个数数对R2的影响。。易见，R2不能为负负，但调调整R2可以为负负。SAS会报告R2及调整R2R2多大是大大？不同学科科间差异异很大，，与学科科常见的的差不多多就可以以没有可比比性，尽尽管是比比例但当同样样的y，不同的的模型，，有可比比性R2说的是模模型的拟拟合程度度，那么么HowaccurateisanOLSestimate?误差最小小是我们们的终极极目标？？我们在下下一章讨讨论beta估计的性性质5.在金融中中的应用用我们先介介绍两个个应用回回归估计计参数的的实例，，即估计计值的大大小的应应用。其其它的应应用（在在因果关关系存在在与否的的检验上上及预测测上）将将来介绍绍。资产回报报的系统统风险及及特征风风险分解解但要说明明，严格格来说，，这里的的例子不不满足独独立抽样样的假设设不过在将将来我们们会讨论论到，这这个独立立抽样不不是必须须的股价变动动的同步步性Exer2.sasdataone;setwang.exer1_ret09;run;procsortdata=onenodupkey;byiddate;run;procregoutest=outfileEDFdata=onenoprint;modeldretwd=retindex;byid;run;/*估计结果果输出到到文件outfile中，EDF是要输出出自由度度、R2等指标，，noprint是要求估估计结果果不要出出现在output窗口*/dataoutfile;setoutfile;if_EDF_>30;renameretindex=beta_RSQ_=r2_RMSE_=idiovkeepidretindex_RSQ__RMSE_;run;procmeansdata=outfile;run;资产的经经验久期期的估计计？9、静夜四无邻邻，荒居旧业业贫。。1月-231月-23Saturday,January7,202310、雨雨中中黄黄叶叶树树，，灯灯下下白白头头人人。。。。21:19:0821:19:0821:191/7/20239:19:08PM11、以我独沈沈久，愧君君相见频。。。1月-2321:19:0821:19Jan-2307-Jan-2312、故人江海别别，几度隔山山川。。21:19:0821:19:0821:19Saturday,January7,202313、乍见翻疑疑梦，相悲悲各问年。。。1月-231月-2321:19:0821:19:08January7,202314、他乡生白白发，旧国国见青山。。。07一月月20239:19:08下下午21:19:081月-2315、比不不了得得就不不比，，得不不到的的就不不要。。。。。一月239:19下下午午1月-2321:19January7,202316、行行动动出出成成果果，，工工作作出出财财富富。。。。2023/1/721:19:0821:19:0807January202317、做做前前，，能能够够环环视视四四周周；；做做时时，，你你只只能能或或者者最最好好沿沿着着以以脚脚为为起起点点的的射射线线向向前前。。。。9:19:08下下午午9:19下下午午21:19:081月月-239、没有失败败，只有暂暂时停止成成功！。1月-231月-23Saturday,January7,202310、很多事情努努力了未必有有结果，但是是不努力却什什么改变也没没有。。21:19:0821:19:0821:191/7/20239:19:08PM11、成功就就是日复复一日那那一点点点小小努努力的积积累。。。1月-2321:19:0821:19Jan-2307-Jan-2312、世间间成事事，不不求其其绝对对圆满满，留留一份份不足足，可可得无无限完完美。。。21:19:0821:19:0821:19Saturday,January7,202313、不知香积寺寺，数里入云云峰。。1月-231月-2321:19:0821:19:08January7,202314、意志坚强的的人能把世界界放在手中像像泥块一样任任意揉捏。07一月20239:19:08下午21:19:081月-2315、楚塞塞三湘湘接，，荆门门九派派通。。。。。一月239:19下下午午1月-2321:19January7,202316、少年年十五五二十十时，，步行行夺得得胡马马骑。。。2023/1/721:19:0921:19:0907January202317、空山新雨雨后，天气气晚来秋。。。9:19:09下下午9:19下下午21:19:091月-239、杨柳散和风风，青山澹吾吾虑。。1月-231月-23Saturday,January7,202310