Lecture 02 回归模型及其应用.ppt

1、第二章 回归模型及其应用,学习目标 熟悉一元回归和多元回归模型及其运用； 掌握线性回归结果的t检验和F检验； 熟悉模型的稳定性检验； 熟悉虚拟变量的运用。,第二章 回归模型及其应用,第一节 一元线性回归模型及其应用 第二节 多元线性回归及其应用 第三节 线性回归模型的检验 第四节 虚拟变量引入与模型稳定性检验,一元线性回归模型及其应用,一、一元线性回归模型 一元线性回归模型是用于描述两个变量之间的线性关系的计量模型，它是多元线性回归模型和非线性回归模型的基础，在金融实证分析中有较广泛的运用 一元线性回归模型可表达为 （2.1） 为被解释变量或因变量； 为解释变量或自变量；为误差项或扰动项，该项

2、表示变化中 未被 所解释的部分；为样本个数。,一元线性回归模型及其应用,古典线性回归模型包含一系列基本假设，这些假设包括： (1)随机误差项具有零均值和同方差性，即E(i ) = 0，Var(i ) = (2)随机误差项之间不相关，即E(i , j ) = 0，ij，i、j = 1, 2, , T (3)解释变量与随机误差项不相关，即E(xi , j ) = 0，ij，i、j = 1, 2, , T (4)随机误差项（random error term）服从均值为零，同方差的正态分布，即iN(0,) (5)一般假定解释变量具有非随机特征，这个假定说明被解释变量的概率分布具有均值,一元线性回归模

3、型及其应用,二、最小二乘法（OLS） 最小二乘法的基本原则是：最优拟合直线应该使各点到直线的距离绝对值之和最小。为了数学表达方便，剔除正负号的影响，上述原则可变为距离的平方和最小。假定根据这一原理估计得到的 、 分别为 、 ，则直线可表达为 。,一元线性回归模型及其应用,根据前面的定义，最小二乘法就是使得直线与各散点的距离的平方和最小，实际上是使残差平方和 （residual sum squares,简称RSS） 最小化 根据最小化的一阶条件，将上式分别对 、 求偏导，并令其为零，即可得到如下结果：,普通最小二乘回归模型,一元线性回归模型及其应用,三、最小二乘估计量的性质 （1）线性无偏性 ，

4、 是参数 ， 的线性无偏估计。 线性即估计量是另一随机变量的线性函数 无偏性即估计量的均值或者期望等于总体参数的真实值。,一元线性回归模型及其应用,（2）一致性（consistency） ： ， 是参数 ， 的一致性估计。一致性即当样本容量趋于无穷大时，估计量依概率收敛于总体参数的真实值。 （3）有效性 ： ， 是参数 ， 所有可能的线性无偏估计量中具有最小方差的估计量。,一元线性回归模型及其应用,四、参数估计的精确性和性质 由上文可知，OLS的估计值会因为样本数据的不同而不同，那么我们就希望知道通过OLS估计出的参数值的精确度和可靠性，也就是说我们有必要知道是否存在估计值的置信度，以及这种置

5、信度是否会随着选取样本的不同而显著地改变。通常，对参数精确性和可靠性的估计可以用它的标准误差（Standard Error）来表示。,一元线性回归模型及其应用,参数估计值的标准差具有如下性质： （1）样本T越大，系数标准误差越少。 （2）系数的标准误差都依赖于s，从前面的内容可知， 是残差方差估计值，该值越大，残差就越离散，模型的不确定性越大，即数据点偏离回归线的幅度越大。 （3）两个公式中都出现了 偏离它们的均值的平方和 ,且都在分母中，所以平方和越大，系数方差越少。,一元线性回归模型及其应用,案例分析2-1一元回归方法的运用证券市场过度反应吗？ DeBondt和Thaler(1985,19

6、87)的两项研究结果显示，对于先前业绩相当好的股票，当它们经历了35年的较差业绩以后，会趋向于出现超常业绩。这意味着平均来讲，之前在收益上为“输者”的股票以后会成为“赢者”，反之亦然。 Clare和Thomas在英国股票市场随机抽取了1000个样本公司，通过一定的方法将公司的业绩进行排序和划分组合资产形成阶段，并计算出赢者（组合资产形成阶段20的业绩最佳的公司）和输者（20业绩最差的公司）在18、9、或6个阶段每月的平均收益的差额，定义为 。 第一个回归是输者相对于赢者的超额收益对常数进行回归：,一元线性回归模型及其应用,上述方程的回归结果如表所示。通过对表前两行输者收益和赢者收益的比较可知，

7、12个月对于输者变成赢者并不是充分长的时间，在2年或3年后，输者成为了赢者。同时在样本中剔除1月份的收益使得随后输者资产过度业绩的程度显著降低了，表现为项的显著性有所降低。因此，仅有部分过度反应的现象发生在1月份。,一元线性回归模型及其应用,多元线性回归及其应用,第二节 多元线性回归及其应用 一、多元线性回归模型 在上一节中我们讨论了一元线性回归模型，然而现实经济中的各变量之间的相互关系是错综复杂的，往往一个经济指标都会受到很多其他经济因素的影响，如果想要通过数量模型来描述这一影响关系的话，这就要求我们在一元线性回归模型的基础上引入多元线性回归模型。,多元线性回归及其应用,二、模型假定 每组观

8、察值所对应的误差项均为零均值的随机变量，即 。 误差项的方差为常数，即 ,其中I为NN单位矩阵。 随机误差向量服从多元正态分布，即 对应于不同的观察值所对应的误差项不相关 即 对于任意的 都成立。 解释变量 是确定性变量而非随机变量，也就是说X是一个确定的矩阵，同时在 k1时假设不同解释变量之间不存在线性关系，即 。,多元线性回归及其应用,三、参数估计 为了获得参数的估计值 RSS将相对于所有的 元素最小化。 运用矩阵形式，残差平方和为： ,多元线性回归及其应用,利用与上一节一元回归类似的方法，可以得出多变量回归系数的估计式： 多元回归模型估计误差的方差 用残差平方和除以自由度来估计：,多元线

9、性回归及其应用,四、多元回归参数估计量的性质 线性 无偏性，即参数最少二乘估计量的数学期望值都等于真实值 有效性，参数最少二乘估计值的方差是所有线性无偏估计值中方差最小的,多元线性回归及其应用,案例分析2-2多元回归方法的运用Beta值影响因素检验 按照Sharpe（1964）的CAPM定价模型，Beta值是影响股权融资成本的唯一因素。从大量实证研究结果包括Fama和French（1992）来看，Beta值与股票收益之间缺乏显著的相关性，规模、净值市价比（BP）、财务杠杆、市盈率等变量可用于解释股票收益。类似于Gode和Mohanram（2003）分析美国股票市场资本成本时选取的影响因素和叶康

10、涛、陆正飞（2004）选取的影响因素，我们选取以下影响因素： 系统风险Beta值 帐面市值比例（BM）值 资产负债率（DM） 股东权益市值 (M) 非流通股所占比例（NT）,多元线性回归及其应用,上市公司股权融资成本横截面回归分析结果,从表的回归结果我们可以看出，我国上市公司融资成本与公司的帐面市值和公司规模具有显著的相关性，而与公司的资本结构和非流通股比例无关，具体而言，上市公司的股权融资成本与公司帐面市值正相关，与公司规模负相关。,多元线性回归及其应用,五、逐步回归方法 （一）逐步回归方法介绍 基本思想 逐步引入自变量，每次引入对Y影响显著的自变量，并对方程中的原有变量进行逐个检验，并把变

11、为不显著的变量逐个从方程中剔除。最终得到的方程中既不遗漏对Y影响显著的变量，又不包含对影响不显著的变量。,多元线性回归及其应用,（二）逐步回归的SAS实现 逐步回归的SAS软件操作过程分为以下五步： 首先，通过“SolutionsAnalysisAnalyst”打开数据集； 第二步，选择菜单“StatisticsRegressionlinear”； 第三步，在弹出的线性回归主窗口选择因变量和自变量，选择“variables (Dependent/Explanatory)”； 第四步，再进行逐步回归选择“ModelStepwise selection”。 第五步，是查看回归结果，并对检验结果进行

12、分析。,多元线性回归及其应用,实证案例2-3 逐步回归方法的应用IPO折价实证检验 20世纪60年代以来，世界各国学者一直关注IPO及其在二级市场的表现。大量研究表明，IPO（Initial Public Offerings）存在短期发行抑价问题，即首次公开发行的股票由于发行价偏低，上市后的市场价格远高于发行价，导致IPO存在较高的初始收益率，我国IPO的溢价问题相对于国外更加严重。耿建新、朱保成（2006）利用20022004年度在上海股市发行并上市A股的上市公司作为研究样本，剔除解决历史遗留问题而未发行新股的上市公司，共有195家上市公司入选。在此，对新股初始收益率与相关解释变量之间的关系

13、进行了回归分析。,多元线性回归及其应用,上海A股最优回归方程为： RIPO-A=0.397+1.066E-02REXC+9.810E-02PK-0.173PF-0.252CRBS 式中，RIPO-A表示新股初始收益率， REXC表示首日换手率，PF表示首日开盘价，CRBS表示中签率。,多元线性回归及其应用,（1）回归方程的显著性检验 根据表2-3，对应于上海A股计算出的F值分别为71.970，且P值均为0.000。 因此，每个回归方程都是显著的，即新股初始收益率与方程中的至少一个解释变量存在显著的线性关系；同时，D.W.为1.970，与2较接近，两个计量模型均不存在扰动项的一阶自相关。 （2）

14、回归系数的显著性检验分析 上市首日换手率与新股初始收益率显著正相关，换手率过高表明市场热衷于短期操作或存在过度投机行为。 上市首日开盘价与新股初始收益率显著正相关，表明市场对该新股反应激烈，受追捧程度较高，则抑价程度也高。 发行价与新股初始收益率显著负相关，表明发行价越低，新股的不确定性越小，新股的抑价幅度也越高。 中签率与新股初始收益率显著负相关，中签率越高，说明市场需求越低；相反，中签率越低，则说明市场需求越高，进而影响新股抑价程度。,线性回归模型的检验,第三节 线性回归模型的检验 一、假设检验 1、零假设与备选假设 在假设检验的框架内，总伴随着两个重要的假设零假设（Null Hypoth

15、esis,用 表示）和备选假设（Alternative Hypothesis,用 表示）。零假设是实际上被检验的统计假设，备选假设表示其余可能的结果。,线性回归模型的检验,在统计理论中，有两种实施假设检验的方法：显著性检验方法（Test of Significance Approach）和置信区间方法（Confidence Interval Approach）。这两种方法的核心都是对系数估计值进行统计比较并把它的值置于零假设下。概括而言，如果估计值远离零假设，零假设很可能被拒绝；如果在零假设下的值与估计值相互接近，零假设就不大可能被拒绝。例如：显著性检验法中最常用的是t检验和F检验，前者是对单

16、个变量系数的检验，后者是对多个变量系数的联合显著性检验（t检验实际上是F检验的一个特例，即对单变量进行F检验）。,线性回归模型的检验,置信区间法的基本思想是建立围绕估计值 的一定限定范围，推断总体参数 是否在一定置信度下落在此区间范围内。这里所说的置信度（或置信水平）与t检验的显著性水平是相对的。例如，我们选择显著性水平为5%，则置信度为95%，这说明在总体抽样的情况下，真实总体的参数 有95%的可能性落在样本的置信区间内，5%的可能性落在置信区间之外。通常，置信区间又称为接受区域（acceptance region）；接受区域以外的称为临界区域（critical region）或者拒绝域（r

17、egion of rejection）。,线性回归模型的检验,置信区间与临界值,线性回归模型的检验,2、假设检验中的错误分类和p值 如果在所选择的显著性水平下检验统计量具有统计显著性，则 通常被拒绝。这里，我们可能会犯两类错误： （1）拒绝一个其实为真的 这称为第一类错误（Type I Errors）。第一类错误的概率正好等于 ，即所选择的显著性水平 （2） 实际是错误的，但我们没有拒绝它这称为第二类错误（Type II Errors）。,线性回归模型的检验,为说明第一类错误和第二类错误的关系，在此我们假设将显著性水平由5%变为1%，则的置信水平由95%上升到99%，这说明错误地拒绝零假设（或

18、犯第一类错误）的概率由5%降至1%，但同时犯第二类错误的概率却上升了。,线性回归模型的检验,与两类错误密切相关的是p值，p值又称为概率值，这是我们在度量显著性水平时常用的一个统计指标，它是一个计量结果对应的精确性显著性水平。 作为衡量显著性水平的一个重要指标，p值度量的是犯第一类错误的概率，即拒绝正确的零假设的概率。p值越大，错误地拒绝零假设的可能性也就越大；相反，p值越小，错误地拒绝零假设的可能性也就越小，我们就对统计结果的可靠性就越放心。,线性回归模型的检验,二、变量的显著性检验 变量的显著性检验所用的方法是数理统计学中的假设检验。为了对参数作区间估计和假设检验，我们需要知道参数估计量的分

19、布。 各种显著性检验方法： 1、t检验 2、方程显著性检验和F统计量,线性回归模型的检验,t检验 通常检验的步骤如下： 使用回归方法估计出参数 、 和 、 的值 按照下面的公式计算统计量（以 为例）： 以上述方式推导出的检验统计量服从（T -2）自由度的t分布，接下来使用t分布表对上面估计出的检验统计量进行比较。 选择“显著性水平”，通常用 表示选择5的显著性水平，注意它不是回顾截距系数。 给定显著性水平，从而确定拒绝区域和非拒绝区域。 运用t分布表获得临界值，并把临界值与检验统计量进行比较。 最后进行检验,线性回归模型的检验,F检验是一个联合检验，在F检验中存在无约束和有约束这两类回顾归，无

20、约束回归是指系数由样本数据自由决定的回归，而有约束的回归对某些系数施加一定约束条件的回归。 F检验的步骤大体如下： 分别写出无约束和有约束的回归方程，并利用软件进行回归分别得出无约束和有约束回归中的残差平方和 计算检验统计量 选择“显著性水平”，通常用表示选择5或1的显著性水平。 运用F分布表获得临界值，并把临界值与检验统计量进行比较。 最后进行检验，如果统计量超过临界值，则拒绝零假设，即约束不成立，否则就不能拒绝。,线性回归模型的检验,三、自相关检验：德宾-沃森检验（Durbin-Watson Test） 检验自相关问题实际上就是研究残差的当期值 与以前各期值 之间是否存在某种关系。 德宾和

21、沃森(Durbin & Watson) 在1951年提出了一种检验随机误差项是否存在一阶自相关的方法，它只检验残差的当期值 与其前一期值的关系,线性回归模型的检验,四、拟合优度检验和 统计量 1. 统计量 拟合优度（goodness of fit statistic）是指一个回归模型拟和数据的程度，为了度量这一拟合程度，我们必须构造出合适的变量即“拟合优度统计量 ” 。在OLS回归中，我们选择使残差平方和最小的系数估计值，RSS的值越小，模型拟合数据的效果越好。,线性回归模型的检验,的构建过程及含义。 对于某一回归模型： 系数 的估计值就是y的均值，记为 。y相对均值的波动性，即 为总平方和（

22、TSS） 其中， 是被模型所解释的部分，称为回归平方和（the explained sum of squares, ESS） 拟合优度统计量由回归平方和与总平方和的比率决定：,线性回归模型的检验,越大，说明回归拟合程度越好； 越小，说明回归拟合程度越差。 2经调整的 （Adjusted ） 其中，T为样本容量，k为自变量个数。,线性回归模型的检验,五、AIC准则和Schwarz准则 在时间序列模型中，因变量中往往会包含一些滞后t期的变量，例如 ，这时，滞后阶数越高，则模型的模拟效果越好，那么我们就必须选择一个统计量来确定一个最佳滞后长度，通常我们选择AIC和SC统计量。 选择最佳滞后阶数时，A

23、IC和SC统计量越小越好,线性回归模型的检验,六、残差检验（residual test） 古典线性回归模型中假定随机扰动项是正态分布的，因而在检验模型拟合程度时，有必要进行残差正态性检验，最常用的方法是Bera-Jarque检验，简称BJ检验。 Bera和Jarque（1981）通过验证偏斜度系数和超峰度系数是否联合为零来检验残差项是否为正态分布。用u表示误差， 表示方差，可以得出偏斜度系数和峰度系数的表达式： Bera-Jarque统计量为：,线性回归模型的检验,实证案例2-4应用t检验进行验证CAPM：共同基金能否战胜市场？ 共同基金能否战胜市场（beat the market），是基金业

24、绩评价的一个基础性问题。Jensen(1968)最先应用CAPM模型检验了共同基金业绩表现。在此，我们应用t检验进行验证CAPM，说明共同基金能否战胜市场。Jensen(1968) 对CAPM检验是通过一个简单的回归方程实现的。 估计方程如下：,线性回归模型的检验,方程回归结果,线性回归模型的检验,在两种情况下的 值都为负数，这表示平均（即平均值或中位值）基金并不能战胜市场，当然最佳业绩的基金的 值为0.058，取得了非正常收益。平均基金的Beta值为0.84,说明基金相对市场而言风险整体较小，原因在于基金主要投资蓝筹股（Blue Chip）而非资本金小的股票（Small Caps）。表示上述

25、结果的一个更为直观的方法是对系数 作图，以显示每一组t比率分类下的共同基金数量。图2-13表示考虑总交易成本时的情况。,线性回归模型的检验,Jensens Alpha的t比率分布,线性回归模型的检验,对 的双测检验的适当临界值大约是2.1（假定20个年度数据有18个自由度），从图可知，115只基金中只有大约5只基金超过市场水平，而有5只基金明显低于市场水平，大部分基金约等于市场水平。因此我们认为美国基金管理者似乎并不能获得非正常的收益。,线性回归模型的检验,实证案例2-5金融中介和股票市场与经济增长关系的OLS检验 谈儒勇（1999）利用普通最小二乘法(OLS)对中国金融中介、股票市场与经济增

26、长的关系进行线性回归,虚拟变量引入与模型稳定性检验,第四节 虚拟变量引入与模型稳定性检验 一、包含虚拟变量的回归模型 （一）简单理论回顾 虚拟变量是回归分析中常用的工具之一。在研究某一因变量时，解释变量除了某些定量变量，还希望引入一些定性变量。这些定量变量称为指标变量、二元变量或分类变量。本节将在回归模型中引入这些变量，并赋值0或1。而对于只取0或1的变量我们将它称为称为虚拟变量 (dummy variable)。 一般而言，虚拟变量可以D来表示，以示和其他变量的区别。例如，虚拟变量的引入，考察董事长和总经理两职合一是否和公司绩效存在关联，可构造如下回归模型： 其中， 公司绩效，N表示抽样样本

27、个数， 为虚拟变量，取值为0或1。,虚拟变量引入与模型稳定性检验,（二）包含虚拟变量模型的应用上证指数的“周末效应”检验 “周末效应”又名周日效应，也就是说股票的收益与风险在周内各交易日表现出不同的特征，对此国外学者很早就有研究，Cross(1973年)、French(1980年)、Gbbons和Hess(1981年)对美国股票市场研究发现，周一股票的平均收益率显著为负，且比同周内的其他交易日都低；周五的收益率比其他交易日都高，且风险相对较小，即存在“周末效应”。关于我国上海和深圳股票市场是否存在“周末效应”，国内学者也有不少研究，认为我国股票市场与其他新兴市场一样，存在显著的周末效应，周五的

28、收益率相对同周的其他交易日较高，而周二的收益率相对较低。,虚拟变量引入与模型稳定性检验,1、数据描述 我们选取2000年1月4日-2006年6月30日的上证市场收盘价数据。采取连续收益率法计算日收益率。 2、检验模型 为对上证指数收益率进行周末效应检验，在此构建如下的虚拟变量模型： 从回归结果我们可以看出，周一的收益率为负，而周五的收益率却显著得为正值，说明我国上证市场存在显著的“周末效应”。,虚拟变量引入与模型稳定性检验,二、回归模型的结构稳定性检验 在金融模型中，各变量之间的关系因自身性质改变或外部冲击而发生结构性变化。若在金融计量中忽视这一点，仍同时利用变化前后的数据进行回归分析，则模型的精确度就会大大降低，利用模型所得出的估计、推断和预测也就难免出现偏差。因此，在金融计量过程中，对回归模型的稳定性检验是必要的。回归模型稳定性检验的主要方法： Chow检验法和虚拟变量法。,虚拟变量引入与模型稳定性检验,（一）C