BVAR模型简介

1、WOR/式贝叶斯向量自回归模型(BVAR简介、贝叶斯方法原理简介§ 1贝叶斯方法起源英国学者T.贝叶斯1763年在?论有关机遇问题的求解?中提由一种归纳推理的理论,后被一些统计学者开展为一种系统的统计推断方法,称为贝叶斯方法.采用这种方法作统计推断所得的全部结果,构成贝叶斯统计的内容.认为贝叶斯方法是唯一合理的统计推断方法的统计学者,组成数理统计学中的贝叶斯学派,其形成可追溯到20世纪30年代.到 5060年代,已开展为一个有影响的学派.时至今日,其影响日益扩大.§ 2贝叶斯定理及其特点记p(y, 9)为一个随机观察向量 y的联合概率密度函数,9为一个参数向量,它也看成(1

2、.2.1)(1.2.2)是随机的.根据通常对概率密度的运算有：p(y, t)供 y| 0 )p( 0 )p(甫 I y)p( y)因而p( e )p( y| e)p( e I y)二p(y)其中p(y) *0.将上式表达如下:其中p( e I y)0c p( ()p( y| e广 先验概率密度似然函数(1.2.3)表示成比例,p( e | y)是在给定样本信息y后,参数向量e的后验概率密度,p(9)是参数向量的先验概率密度,0p(y|有的先验的、样本的信息融入其中, 息通过似然函数进入.的函数,就是熟知的似然函数.看作式e) e先验信息通过先验密度进入后验密度,(1.2.3)将所而所有的样本信

3、艮叶斯推断的一般模式:先验信息后验信息(见图1)先验,信息贝叶斯定理后骑分布预报密度样本信息图1贝叶斯推断的根本模式贝叶斯学派认为,先验分布反映了实验前对总体分布的熟悉,在获得样本信息后,人们对这 个熟悉有了改变,具结果就反映在后验分布中,即后验分布综合了参数先验分布和样本信息.由此可以看由,频率学派统计推断是“从无到有的过程：在实验前,关于未知参数的专业资料整理WOR/式情况是一无所知, 而试验后那么有些了解,但对了解多少并无普遍的表述方法,在实践中有赖于所使用的统计量的针对性.贝叶斯推断那么不然,它是一个“从有到有的过程,且结果清楚自然,符合人们的思维习惯.根据所获得的信息修正以前的看法,

4、不一定从零开始.从本质上说,贝叶斯推断方法概括了一般人的学习过程.贝叶斯方法只能基于参数的后验分布来分析问题.也就是说,在获得后验分布后, 如果把样本、原来的统计模型(包括总体分布和先验分布)都丢掉,一点也不会影响将来的统计推断问题,但凡符合这个准那么的推断就是贝叶斯推断.据此,频率学派中的矩估计、显著性统计检验和置信区间估计都不属于贝叶斯推断的范畴,但MLE估计那么可视为均匀先验分布下的贝叶斯估计.因此,作为频率学派中一个很重要的极大似然估计,不过是在一种很特殊的先验分布下的贝叶斯估计而已.§ 3先验分布理论式(1.2.3)中p( 9)表示的先验概率密度代表了我们对于一个模型中参数

5、的先验信息,是一,即在贝叶斯方法它大体上可以个事前的自觉的熟悉(分“基于数据的先验和“非基于数据的先验)中,关于模型参数的先验信息.先验分布是贝叶斯推断理论的根底和由发点, 分为扩散先验分布和共辗先验分布两大类§ 3.1扩散先验分布3.1.1位置参数的扩散先验分布如果随机变Y的分布密度函数量为旧一 6 O S0f(y ),那么称为位置参数.假 设6没有信息可以被利用,现在要确的先验分布.+*1如果将随机变| Y做平移变换Z Y3产用时对位置参数也做同样的平移变换的分布密度函数那么Z I为,显然(Y,)与亿,)有相同的统计结构,从和有相同的先验分布自)和概聿空间.百8乒Qadom-Ni

6、kodym 定理有P() P a), ( 0 6c fie© 取 a,可以得到 p( ) const,从而位置参的扩散先验分布为P( )1,(1.3.1)rF.(1.3.2)对于正态分 布,卜工田仁一.一 一.N(,02),.,此 是位置参数,利用上述结论,参时数的扩散先验分布为3.1.2尺度参数的扩散先验分布 =Ff=出»于如果随机变 Y的密度函数的形式量为P ) 3 ： R-(1.3.3)(,Br 1-L f01 f y ,0,那么称 加尺店参数.如果改变尺专业资料整理WOR/式度单位,令Z aY, a, 0,易知Z的分布密度函数为1fz;同样地,(Y,)与专业资料整理

7、WOR/式(Z,)有相同的统计结构,和 有相同的先验分P(),由 Radom-Nikodym 定理,对于H6布“尺度参 ,在无先验信息可利用时,尺度参的先验密度函数,p()可取做数8数88p( G ：'e>°(i.3.4)0对于正态分N( P°,仃2),机,c >°未知,此时标准.是尺度参数,利用上而差述结论,参 仃的扩散先验分布为数-,- 1 P( ) 一,°(1.3.5)§3共辗先验分布.2共辗分布是贝叶斯分析中常见的另一类参数先验分布,其思想根底是先验的规律和后验的规 律具有一致性,这一要求的具体化就是先验分布和后验分

8、布要属于同一类分布族.对于每个具 体的分布来说,都有其共辗分布,下面利用似然函数的因子分解式和充分统计量等分析方法来 构造所需的共辗先验分布.IH860定 3.2.1假设丫1,丫2, ,Yn是来自分布密度函数 f(y| )的总体的一个样本理山力''二III9tn t(Y1,Y2,Yn)是参数的充分统计量,即似然函数可做下面分解：H F 8=9 小nIII L()二 f(|Yi)gn(tn,)h(Y1,Y n)i19 > VO =0其中(hY,Y2,Yn)与参数 无关.如果存在函数p(),它满足如下两个条件：00 0(1) P( © ) °,；(2) g

9、n(t n,)P()d 有限,TicIIJ ft0为参数 的共辗分布族.这里只介绍共辗先验分布的具体定义,有关它的相关结论见参考文2.献§ 4贝叶斯方法的优点贝叶斯理论的哲理有很大的吸引力,并且方法简单,它在统计推断模式上与频率学派的不同之处在于：频率学派认为,似然函数概括了有关参数的全部信息,因此关于参数 e的统计推断只要利用似然函数就够了；而贝叶斯方法既利用了似然函数,又利用了参数先验信息.如果先验信息很少或者没有先验信息,这时贝叶斯推断方法所得到的结论与频率方法根本相同.专业资料整理WOR/式与频率方法比拟, 贝叶斯方法有以下几方面优点：贝叶斯方法充分利用了样本信息和参数的先验

10、信息,在进行参数估计时,通常贝叶斯估计量具有更小的方差或平方误差,能得到专业资料整理WOR/式更精确的预测结果；贝叶斯HPDK信区间(最高后验概率密度区间)比不考虑参数先验信息的频率置信区间短；能对假设检验或估计问题所做生的判断结果进行量化评价,而不是频率统计理论中的接受、拒绝的简单判断.二、贝叶斯向量自回归模型( BVAR在变量较多,滞后阶数较高时,即所要估计的参数较多的情况下, 了一个较好的方法,拟合效果要比传统的极大似然估计方法好.Bayesian估计方法提供§ 1贝叶斯非限制性 VAR模型一, 表示m个变量在t点处的取值,那么向量序,ymt)T 列如果令 yt(y it,y

11、2t,yt的滞后阶数为p的非限制性VAR(p)模型F以表示当III*HlytcAyt_1 ：2yt2 川Apytput,t1,2 ,n(2.1.1)此处c是一个m维向量,A ,j 1,2 ,m均为mm的系数矩阵,向量 ut是一个m维白噪声向量,即ih |Ut i.id.N m0, 2),t1,2,n而2是一个mm£定阵向量.可以将(2.1.1)化成多方易知非限制性VAR(p)模型中的每个方程的解释变量是相同的.程模型系统形式一一 1IytBTztut,t 1,2 ,n(2.1.2)T cBAT2其中1一ytJ*zt yt 2ATp一(mp1)myt p(mp1)1进一步,假设将向量y

12、t, BTzt和ut,t1,2,n的转置分别按行依次排列,各自形成一个nm矩阵,那么上述n个方程可以呼为一j更为紧凑的矩阵表达彩式(2.1.3)专业资料整理WOR/式特别地,对于扩散先验分布,非限制 性定理1.1在扩散先验分布(B, 2 )：-| 2|VAR(Ym1) /2p)模型参数的后验分布有如下结 论：下,非限制性 VAR(p)模型参数的后验分布(耳 Y,Z)Mt4BZ其中TZ,S,nk),(2| Y, Z)IWJS,n m),kmp1(2.1.4)B(ZTZ)Y, SYIm (Z Z)1ZTY§2贝叶斯限制性 VAR模型在VAR(p)模型中,模型系数B可能受到某些条件的限制,

13、如各方程中解释变量并不完全相同,某些变量可能在局部方程中生但并不由现在其他方程中；或现,者,性趋势项或季节变量,而其他方程不包含这些变局部方程中有线Mo根据Zeller的观点,在一般排斥性限制条件出2.1.1)式中的VAR( p)模型模型能够写成如下似不相关模型:YZii i,i1,2,m(2.2.1)此处Y是由第i个变量n测值构成的 n维向量,号是第i个变量单方程模型的nki设ki维系数(2.2.2)Yi-13丫2Y-Z100IIIZ2Ym,ZZm由于这一情形不作为我们研究的重 点,3.§ 3共辗先验分布下 VAR模型的贝叶斯分析对于一般共辗分布而言,由于超参数太多,所以这一局部的

14、相关结论暂时省 去,详见参考文献VAR(p)模型的贝叶斯推断只具有理论上的意义布辗下,而不能应用于实际预测分析中,本节研究一类特殊的参数共轲先验分Minnesota 共VAR(p)模型的贝叶斯分析理论o计矩阵,物由变量Xy2,y m的局部滞后项组成；i是第i个变量单方程模型的向量,i是n维正态随机误差向量：之即蟀旁程写成一个矩像形式,那么有L-(,N mn其中Minnesotaitterman-丰 1986¥提出集的,它主要4牛解决共辗先验分布下贝叶斯VAR(p)模型中超参薮后多问题,提升模型的预测精度.§ 3.1 Minnesota 先验分布如果(2.1.1)式的VAR(

15、 p)模型不含常数项,那么模型中的具体方程如下:专业资料整理WOR/式m pyitajr yjtr Uit ,i1,2,m;t1,2,n.j 1r 1(2.3.1)专业资料整理WOR/式显然a表示第i个方程中变量y的阶滞后项y的系数,如果随机参数a服从均值为jrijrijr、方差为Sjr 2的正态分布,啰时模型(2.3.1)中参数先验分布中需要确定的超参数至少有2n2p个：nip个先验均值ijr和2mp个先验方差Sj.如果不考虑先验信息的可取性,因此,必须想方法Minnesota(2.3.2)一般情况下要合理地给定这2n2p个超参数的取值是相当复杂和困难的,减少需要赋值的超参数的数量,确定超参

16、数的合理取值,提升模型的预测能先验分布就是解决这一向题的有成?法,它的根本假定包括以下几个方面：(1)正态性 Ut(ui,U2,umN/0|");二 |(,1,2,1,2,相互独立;(2)协方差阵2和系数aijr i -mrp(3)协方差阵2的模型先验分布取为扩散先监分布,即05(2 )w(m1)/2 ,艺 06(4) aijr相互独立服从正态分布N(ijr,Sijr2 ''M 表示参数Hijr的最正确猜想值,而S反映了对这个猜想的信心,其取值越小表示对此猜想的信心越大；(5)均值ijr根据下述公式确定：T1,i j,r1r(2.3.3)量 0,其他情况,即方程左边的

17、变量只由其系数为1的滞后一阶变量表示；III加(6)标准差Sjr可以分解为4个因子的乘积,即SijSirg(r) f(i,j)(2.3.4)Sj此处是总体紧度,它的取值大小反映了分析人员对先验信息的信心大小程度,较小的值代表了对先验信息的较大把 握；g(r)是r阶滞后变量相对一阶变量的紧度,它表示过去信息比当前信息有用程度的减少；函数 f(i,j) 是第i个方程中第 ki个变量的紧度,Si是变量yi的单变量自回归模型的标准差§ 3.2滞后延迟函数先验分布中,滞后延迟函数Minnesota在专业资料整理WOR/式g(r)的选择必须能反映这样一个根本信念：随着滞后长度的增加,滞后变量的系

18、数趋向于零；据此这里Doan推荐的调和滞后延迟函使用数,形式如下：g(r) rd,d 0(2.3.5)专业资料整理WOR/式§3相对紧度函数.3在确 r和g(r)后,先验分布中超参数数量已经m2P减少到m2 + 2：m2个相对紧度定从函 f(i,j),以 r和g(r)；假设进一步选择适宜f(i,j),那么先验分布中参数个数可大为数 及的1瓷减少.显然,f(i,j) 可以看做一 m ' m矩阵f L (f(i,j)mm x的(i,j)处的元素,如果个f(i,j)取如下形式的函数：一jf(i,j)(2.3.6)Wj ,ij其中Wj是一个介于01的常数,它的取值大小反映了第主个方程

19、中其他变量(不包括 Xi及其滞后变量)的相对紧度.如果对所有.均有的i j' ww成立,那么m2个参数f(i,j) 的痛取问题转化为确定一个超参数w的大小.§ 3.4 准差之比Si/s j的涵义在Minnesota先验分布的根本假设(6)中,Si /Sj是第i个序列yit的自回归残差标准差与第j个序歹U yjt自回归残差标准差之比,Si由yit对常数项和其p阶滞后项的 OLSSi/Sj主要用于反响：先验分布的设定必须考虑实际的样本回归的残差标准差得到.比例 数据信息.以上是Minnesota先验分布的根本含义及其参数设定问题的研究,为使上述描述更直观,这里口江个滞炉长中2笠的

20、双羽1 VAR你便型,只说叫j亥模？羌数的十即nnesota先验分布、r *LUK - IJ 2"1.23 21T1,2.2 尸212 If为(2.3.7)如果将限制性VAR(p)桢型转化成如下形式不相关模型:2,E括号内的第一项为先验分布的均值,第二季为先验分布的方差.§ 3.5 型参数的后验估计1专业资料整理WOR/式然后再写成2.2.2的形式Y 二砂4部冲?0, 2 曲In井将模型参数的Minnes的i先版分布筒记为此处局的分量为.或I,而协方差阵Mj是由H拥阶角降构成悔,其中的每Y鼾用阵的元素非对角块元素均为零的距阵.根据贝叶斯定理,在上述Minnesota先验Mf

21、F. 参数民力的联合后验分布密度函数为十外所1exp 4.一瓦91M3 1瓦-瓦叩t瓦切厂® d 也知其中片"T 万£®3=, $%y=11T<e®7*尸 2+fT*.卦于给定醐方差阵E,系败矩阵的条件后验分布是均值为无曲悔方 差阵为V的多元正态分布,即律I-式bM瓦. 一在实际应用冲*先求盅工湾地估诗$7$%却2"尸2"将其替代瓦中的协方差阵E进行搐恻分析.专业资料整理WOR/式§ 3.6 型预测结果及其精度预测在获得模型参数的估计JB,可以利HI贝叶斯VAR模型对.班行颈测分析, 邓临泅步爆AR模覃利VA

22、R模型的预测步骤好 钝,可以是T超前 (one slep aheM)瞬超前预测"叫.steps ahead)或名朴超前(averal stepsahead) AML模型预测的精度可以从多个方面进行汗钞,如绝对均方误差.平均绝对误差营分Hu jfe处我们利用mi的拯统注重来分析贝叶斯VAR模型的愦测精度.统计量是厚于所研究的愀泅模型的均方根误基与基于的机游电(random walk)陵测模型的均方根谋假设之比,即其中可表毓时间序列,口处的实际值,乙手裳示基预测方法M的他测值,而 国和厂是基于随机游走模型的侦测值,如果理的取值等于I& 那么说明方榛*的 项测精度与随机擀走模型的谢

23、晞度根本相同：如果v*Mt小于山那么说明 方法川的预比精度比随机游走模型的的州精改变高：如果U的取值大于I.那么 说明方法肘的狡涮精度比随机游走模型的预消精度低,此时方方法不能提升时间 序列的颈测精度"从而也就不适合于预渤用途.§ 3.7 体数值算例作九HE唯W 英国、法国,德十加拿大、默利和目率 等/的gdp增勘阜阳.旅率阳 和迸曲口总额 俩 的数据分 别随那模!3%鹏心制(和贝叶斯VARHOL比拟这»模型的SHB精肥Estima公司提供的时间序列数据,利 Sims似然比检验量确定模型的 首先,根据美国用最优滞后阶数,模型 VAR(p)对模型VAR(p)的似然比

24、检验统计量为12LR - (N -NN bi【& I -In 1121 I) R %M1Int /在一 比吞此处.4,分别是模型VNS)靠WARS)的残基协方差阵.N是样林丸N是修F因因子 它等于丫外眼幡制I啊犷I因子的个数.464 1列出了 VAR 模型滞后3阶对滞后5餐的假设检检结果,检险结果有利于较短的滞后阶1t鼻 在满后3阶对胡序4阶的假设检,验验结果有浒3后阶数.因此确定VAR 模型的之后阶数为工专业资料整理WOR/式表1,模型最优滞后阶数的LR检验结果知p35&三=：3*爵帘 p.4tM概率ixIt融. =' 一一GDP Jf |4IQ J90.311施Wo

25、 omIKlMflK囊舞Oi423<到皿O.QQQ张敲口息1U60346於4TQjOiS然后,选择贝叶斯VAR模型中3个超参数,衰减参数d、总体紧度r和相对紧度w ,-q此处考虑超参数的三种组合情况表2,并将相应的贝叶斯VAR模型分别记为BVAR1BVAR丽 BVAR3.表2,模型超参数的选择模里4V.BVAR i1.Q瓶 4BVAR2IjQgq,4BVAR3L00；n利用RATS5.0软件和1%3:1“992:4的数据对AR模0. VAR模型和其I#斯 VARg模型进行信W.并村 划崩ST弊翻| jff l 却前爆8步超前例|,邦升 算1超前预测弟4学超前演词,5步超前债#覆3孰前陨测

26、的平均泰尔U统统计值,有关结果列于表3和表4.表3, 14步超前预测的平均西尔U统计值1993:11998:4 灯1 雌窜11肌 卡均ARVARBVAftl0 781II血.,铝也货事*RVAR：KVR!BVAR2BVAR)逐出口卷一AR0 55X 口湖0 57M0 526PN 0U9OK：qVAR08SSBVARI也部3BVAR2(V79BHV AR i<915OJ24 0174Q622 n* S7400 SM U553 QjflW .313 0517n k审i 0 84 0 413 47 i ) 49MRM 06M MU ,鼎 0.601电QJ863 &U7 m O8!3g.

27、 AUH? OJbM 0585 0 W0.14C0,84#.和5口,口 10WQ 692魏利0.3).和2OJSM(JJ10(US6M0 T780(152仇心11NI2D7D607760J72.善390 732(MXV0.6 IH.息副0 h*0.627口和20JWO砌11(196(1770OJ629稹m5ar I Me ,0大四(1 V*l.耀F口£用0.659a«2i0 7Q森祥203l«lTM 0345 h*a n 493 0 41«.制 .&谢 口 S?2 0609 律5时rk78M (>J47 仆7 0 573 QJB5iHH 0

28、 731 0 620 11 W)6 .咐bOfrNi M$S Qfitt 0 593 0 6alt)|A fi980 62, 0 643表4,58步超前预测的平均西尔U统计值1993:11998:4 专业资料整理WOR/式国GDP僧枇率AltBVARihvAR?BVAJO通货看由tRVARBVAH2HVR3进出口总ARARBVAHlBVR2BVAiai.MO0.6Zi 0 5»2 Q 73?0 7Crt0 51905510 5310.924U u| 10.6I4061 J0 9Mn M20 775mi0l就m0WI0L6550 8)5 0 823 "21n tv) 0 564值皿 G