（概率论与数理统计专业论文）特殊数据的广义岭估计迭代算法及其实现.pdf

亍 孝 一- l t 鲁 中文摘要 广义岭估计是h o r e l 和k e n n a r d ( 1 9 7 0 ) 提出的一种新型的多元分析方法，近几 十年来，它在理论和应用方面都以得到迅速的发展和岭估计以及偏最小二乘估计 一样，广义岭估计主要适用处理病态设计矩阵，并可以有效的解决普通多元线性回 归无法解决的问题，如样本个数小于自变量的个数但计算逆矩阵和岭脊的选择是 广义岭估计的两个难点 在许多实际问题中，特别在化学和生物的试验问题中，拟合线性模型的数据中 的未知参数p 的个数远远大于样本量，此时设计矩阵j 0 ，列向量有共线性，因为试 验或生产过程已经完结或经费限制等原因，样本量行可能小到1 0 0 ，或更少，这样 导致了一种特殊的降秩矩阵h a w k i n s 和y i n ( c o m p u t s t a t i s t d a t aa n a l 4 0 ( 2 0 0 2 ) 2 5 3 ) 中提出针对这样的降阶数据j ，嘏。仍 力一种岭回归的快速迭代算法 本文在h a w k i n s 和y i n 文章的基础上，针对特殊的降秩矩阵瓦，伽 力，利用 矩阵论的知识，提出了一种o ( n p 2 ) 广义岭估计的迭代算法介绍了广义岭估计的性 质和有偏估计的理论知识，讨论了它们之间的相互区别，主要在文献【4 】的基础上， 提出和证明了广义岭估计在均方误差的准则下优于最小二乘估计的充分条件同时 设计了两种搜索岭脊的方法当p 较大时，此算法非常节省计算量，不仅直观，简单， 适用于加权情况，而且便于计算其残差平方和、回归系数的标准误、回归系数的方 差和残差的估计 用m a t l 4 8 7 0 编程开发了试验数据模拟的界面和有偏估计回归比较界面此界 面不仅可以进行较大规模的试验模拟，而且对于同样的数据进行不同的回归方法的 拟合，以及对于同一种估计用不同的计算方法进行回归计算，在运算速度，m s e ， 复相关系数，残差平方和以及预测平方和等方面进行可视化的比较 进一步开发了大样本模拟的界面，同时对最小二乘估计和蛉估计、迭代岭估计， 偏最小二乘估计、广义岭估计，迭代广义岭估计进行大样本试验为今后理论研究 提供了有力的试验平台和证据 本文共分四章 第一章主要介绍了线回归模型中复共线性的定义和种类，以及复共线性四种诊 断方法，同时引入了数据中心化标准化后的中心化线性回归模型和中心标准化线性 回归模型，介绍了它们各自的优点 第二章主要介绍了三种有偏估计以及广义岭估计的定义和性质，在文献【4 1 的基 础上给出了广义岭估计在均方误差的准则下优于最小二乘估计的充分条件同时给 出对角阵k 的选取办法，即使得所有的回归系数的方差膨胀因子均小于1 0 ，预测平 方和( p r e s s ) 最小以及残差平方和( r s s ) 不要上升太多并设计出二种蒙特卡罗数 值岭脊的搜索方法 第三章主要建立广义岭估计迭代算法及其实现，利用矩阵论的知识对数据矩 阵进行分解，给出迭代算子及其算法实现，同时介绍了此算法的优点 第四章研究界面的开发，开发了试验数据模拟的界面和九种回归估计值的比 较界面，以及大样本模拟的界面试验表明迭代岭估计和迭代广义岭估计的计算速 度明显快于对应的非迭代估计，同时在大样本模拟试验中，最小二乘估计( l s ) 是 无偏估计，在有复共线性现象时，l s 的均方误差最大 关键词：广义岭估计；特殊数据；迭代算法；偏最小二乘估计；智能广义岭估计； 残差平方和；方差膨胀因子；复共线性 ， q - 英文摘要( a b s t r a c t ) h o t e la n dk e n u a r dg a v et h eg e n e r a l i z e dr i d g er e g r e s s i o n ( g r r ) i n1 9 7 0 i ti sa n e wm u l t i v a r i a t ea n a l y s i sm e t h o d i nr e c e n ty e a r si th a sd e v e l o p e da tt h e o r ya n d a p p l i c a t i o nr a p i d l y s a m e 鼬r i d g er e g r e s s i o na n dp a r t i a ll e a s t - s q u a r e sr e g r e s s i o n g r rm a i n l ya p p l i e st om u l t i e o l l i n e a r i t ya n di se f f e c t i v es e t t l e m e n tf o rs a m p l e m e a s u r el e s st h a nt h en u m b e ro fi n d e p e n d e n tv a r i a b l e i ti sd i f f i c u l tt oc o m p u t e i n v e r s em a t r i xa n ds e l e c tr i d g e s i n p a r t i c u l a r , c h e m i s t r ya n db i o l o g i ct e s t s o f t e na p p e a rt h en u m b e ro f u n k n o w np a r a m e t e r spf a rm o r et h a ns a m p l em e a s u r e t h i sm o m e n tm a t r i x 以p p o s s e s sm u l t i c o l i n e a f i t y b yr e a s o no ft h et e s to rp r o c e s sb r e a k u po ro u t l a y r e s t r i c t e d ，科c c ，斗l e s st h a n1 0 0 ，p r o b a b l ym u c hl e s s t h i sp r o d u c e sa ne s p e c i a ld a t a m a t r i x i nv i e wo f 以；。0 力，h a w k i n sa n dy i n ( c o m p u t s t a t i s t d a t aa n a l4 0 ( 2 0 0 2 ) 2 5 3 ) h a v eg i v e nus p e e d yi t e r a t i v ec o m p u t i n gm e t h o do fr i d g er e g r e s s i o n b a s e do nh a w k i n sa n dy i n w o r k sw o r k , w ep u tf o r w a r da o ( n p 2 ) s p e e d y i t e r a t i v ea r i t h m e t i co fg r ra st o | = 1 0 。仍 力i nt h i sp a p e rp r o p e r t i e so fg r ra n d p a r t i a le s t i m a t o r st h e o r ya n dt h em a i nd i s t i n c t i o na m o n gt h e ma r ed i s c u s s e d u n d e r m e a n s q u a r ee r r o r , s u f f i c i e n tc o n d i t i o nt h a tg r r e s t i m a t o r se x c e ll sw a so b t a i n e d ， b a s i so fd o c u m e n t1 4 1 a tt h es a m et i m e ，t w os e a r c h i n gr i d g e sm e t h o d sw e r eg i v e n t h ei t e r a t i v ea r i t h m e t i cn o to n l ys a v e st i m ea n df a na p p l yt ow e i g h tr e g r e s s i o n ，b u t a l s oi se a s yt oc o m p u t er e s i d u a ls a mo fs q u a r e , s t a n d a r d i z e de r r o r , v a r i a n c eo f c o e m c i e n ta n de s t i m a t o r sr e s i d u a l s o m ei n t e r f a c e s ，w h i c hc o n s i s to fs i m u l a t i n gt e s t d a t a ，n i n er e g r e s s i o n e s t i m a t o r sc o m p a r i s o na n db i gs a m p l es i m u l a t i o n ，a r ed e v e l o p e dm a k i n gu s eo ft h e m a t l a b7 0 l a r g e - s c a l es i m u l a t i o nt r i a l sf a nb ec a r r i e do u tb yt h e s ei n t e r f a c e s w e f a no b t a i nd i f f e r e n tr e g r e s s i o ne s t i m a t i o na p p r o a c hf o rt h es a m ed a t a ，d i f f e r e n t c o m p u t ea r i t h m e t i cf o rt h es a m er e g r e s s i o nm e t h o d w ef a no b t a i nv i d e o t e xo f o p e r a t i o nr a t ea n dm s e ，c o e f f i c i e n to fm u l t i p l ec o r r e l a t i o n ，r e s i d u a ls u mo fs q u a r e ， p r e d i c t i o ns u mo f s q u a r e ，e t c w em a k ef u r t h e re f f o r tt oe x p l o i tt h ei n t e r f a c eo fb i gs a m p l es i m u l a t i o n w e c a r r yt h r o u g hs y n c h r o n o u s l ys i m u l a t i o no fr i d g er e g r e s s i o n ，g e n e r a l i z e dr i d g e r e g r e s s i o n ，i t e r a t e dr i d g er e g r e s s i o n ，p a r t i a ll e a s t - s q u a r e sr e g r e s s i o n ，i t e r a t e d g e n e r a l i z e dr i d g er e g r e s s i o n t e s tp l a n e - t a b l ea n d s o m ee v i d e n c ew e r ep r o v i d e d t h e r ea r ef o u rp a r t si nt h ep a p e r i nt h ef i r s tp a r t ，d e f i n i t i o na n dc l a s so fm u l t i c o l i n e a r i t ya n df o u rd i a g n o s e s m e a n sa r ei n t r o d u c e d a tt h es a m et i m e ，w ei n t r o d u c ec e n t e rl i n e a r i t yr e g r e s s i o n m o d e la n ds t a n d a r dl i n e a r i t yr e g r e s s i o nm o d e l ，a n de a c hm e r i t c h a p t e r2m a i n l yi n t r o d u c e sd e f i n i t i o na n dp r o p e r t yo ft h r e ep a r t i a le s t i m a t o r s w eg i v e , o u ts u f f i c i e n tc o n d i t i o nt h a tg r re x c e ll sa tr u l em e a ns q u a r ee r r o r , b a s e do rl i t e r a t u r e 4 1 c h o o s em e t h o do fki sg i v e n ，n a m e l yv a r i a n c ei n f l a t i o n f a c t o rl e s st h a n1 0 ，a n dc h a n g eo fp r e d i c t i o ns u mo fs q u a r ea n dr e s i d u a ls u mo f s q u a r ei ss m a l l w ew o r ko u t t w om o n t ec a r l os e a r c h i n gm e t h o d s c h a p t e r3d e v e l o p si t e r a t e da l g o r i t h m i ca n d i t e r a t e do p e r a t o ro fg r r , m a k i n g u s eo fm a t r i xt h e o r y a tt h es a m et i m e ，w ei n t r o d u c ee x c e l l e n c eo ft h i sa l g o r i t h m i c c h a p t e r4e x p l o i t si n t e r f a c i a l w ed e v e l o pd a t as t i m u l a n ti n t e r f a c i a la n d n i n e k i n d sr e g r e s s i o ne s t i m a t o r sc o m p a r ei n t e r f a c i a la n db i gs a m p l es t i m u l a n ti n t e r f a c i a l e x a m i n a t i o ni n d i c a t e st h a tc o m p u t a t i o nr a t eo fi t e r a t e dr i d g er e g r e s s i o na n d i t e r a t e dg e n e r a l i z e dr i d g er e g r e s s i o nf a s t e rt h a nn o n - i t e r a t e de s t i m a t o r s t h el si s u n b i a s e de s t i m a t o ra n di t sm e a ns q u a r ee r r o ri sm a x i r e a l k e yw o r d s ：g e n e r a l i z e dr i d g er e g r e s s i o n ；s p e c i a ld a t a ；i t e r a t e da l g o r i t h m i c ； p a r t i a ll e a s ts q u a r e se s t i m a t o r ；i n t e l l i g e n c eg e n e r a l i z e dr i d g er e g r e s s i o n ；r e s i d u a l s u mo f s q u a r e s ；v a r i a n c ei n f l a t i o nf a c t o r ；m u l t i c o l i n e a r i t y r a n k ( a ) ： a 。： a 一： 仃a c e ( a ) ： 6 a 0 ： 尼孵： 脚： m s e m ： g s e m ： 上s 估计l r r 估计： g r r 估计： p l s 估计： 占一n 似，z ) ： 符号说明 矩阵a 的秩 矩阵a 的转置矩阵 矩阵a 的广义逆矩阵 矩阵a 的迹 矩阵 的范数 残差平方和 均方误差 均方误差矩阵 广义均方误差 最小二乘估计 岭估计 广义岭估计 偏最小二乘估计 均方为。协方差阵为的随机向量 独创性声明 i 、9 7 8 7 9 3 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的 研究成果。据我所知，除了文中特别加以标注和致谢的地方外，论文中不包含其 他入已经发表或撰写过的研究成果，也不包含为获得安4 瓤汰学或其他教育机构 的学位或证书而使用过的材料。与我一同工作的同志对本研究所做的任何贡献均 已在论文中作了明确的说明并表示谢意。 学位论文作者签名：啊11 二玉签字日期：二们6 年r 月r 日 学位论文版权使用授权书 本学位论文作者完全了解毒酗敞久学有关保留、使用学位论文的规定， 有权保留并向国家有关部门或机构送交论文的复印件和磁盘，允许论文被查阅和 借阅。本人授梗宛貅善可以将学位论文的全部或部分内容编入有关数据库进行 检索，可以采用影印、缩印或扫描等复制手段保存、汇编学位论文。 ( 保密的学位论文在解密后适用本授权书) 学位论文作者签名：v 1 ：玉导师签名：留园，巍 签字日期：j 种6 年j 月f 日签字日期：如口e 年广月，日 学位论文作者毕业去向： 工作单位：姣晰耙学i 屯 通讯地址： 电话 邮编 引言 引言 随着计算机科学技术的发展和普及，对于大型的回归问题的计算分析能很容易 实现但在实际问题中，不可避免的会出现变量之间的复共线性( 即变量之间有近似 的线性关系) 一旦确认复共线性存在，贝最t j 、- - 乘估计不再是一个良好的估计。主 要表现在估计值方差膨胀及估计不稳定，和估计值与实际问题不符，有时甚至变董 指标与解释变量问的相关性正负颠倒等对于回归分析中的复共线性问题的研究， 一直占有相当重要的地位 复共线性产生的原因，一种是非本质性的，即设计矩阵。的列向量 屯，x 2 ，x ，落在维数低于p 的的超平面内，墨。，的列向量有共线性目前，对 复共线的处理有很多种方法一是应用剔除变量的方法“减少一复共线性，重新建立 合适的模型，如逐步回归，主成分回归( p c r ) 二是对回归系数的估计方法进行 改进，可以提出一系列的非最小二乘估计，如h o r e l 和k e n n a r d ( 1 9 7 0 ) 提出了处理 病态设计矩阵的岭估计( r r ) 和广义岭估计( g r r ) ，同时在文献【3 1 中指出广义岭 估计比岭估计有更好的表现；w o l d ( 1 9 6 6 ) 提出了偏最小：乘法( p l s ) ，p l s 用x ，y 的协方差作为一个单参数回归的第一部分，这种计算不仅摆脱了计算矩阵逆的麻 烦，而且计算非常快关于p l s 的理论在许多文章中阐述( w o l d ，1 9 7 5 ，1 9 8 4 ；l o r b e r e t a l ，1 9 8 7 ) ，但它在均方误差方面还没有像广义岭估计那样完全建立在f r a n k a r d 和f r i e d m a n ( 1 9 9 3 ) 。h a w k i n s e t a l ，( 2 0 0 1 ) 的文章中，关于p l s 和r r 的比较可以 看出，r r 比p l s 有较好的表现，但g r r 比r r 有更好的表现 目前，在许多实际问题中。特别在化学和生物的许多问题中，拟合线性模型的 数据中的未知参数的个数( p ) 远远大于样本量( ，1 ) ，有时p = 1 0 0 0 是普通的，因 为试验或生产过程已经完结或经费限制等原因，样本量疗可能小到1 0 0 ，或更少， 这样导致了一种特殊的降秩矩阵h a w k i n s 和i f i n ( c o m p u t s t a t i s t d a t aa n a l 4 0 ( 2 0 0 2 ) 2 5 3 ) 中提出对这样的降阶数据一种蛉回归的快速迭代算法记x 为 矗p 0 o 的选 择本文针对非本质性的复共线性的多元回归线性模型： y 。i = 9 0 1 + x 。，z k + q b d ，e ( 占) = o ，c o v ( c ) = 矿2 l 其中j ，为n x l 的观测向量，l 。为n 个1 构成的拜1 向量，和为未知回归系数， x 为n x po 1 0 0 0 时，存在严重的复共线性；当1 0 0 d s l 0 0 0 时，存在中等的 复共线性；当0 0 ，使得蛉估计庭( 膏) 在均方误差意义 下优于岱估计岭估计的好坏取决于岭脊的选取，k 不宜过大，一般取值在0 一i 之间理论上最佳的k 值是存在的，它可以使估计量的偏差和方差的组合效应达到 一个最佳的水准本文选取岭脊k 的准则是使得所有的方差膨胀因子小于l o 2 2 广义岭回归估计及其性质 同样由h o e d 和k e n n a r d 于1 9 7 0 年在文章 1 2 1 中提出了岭估计的一种推广形 式，即回归系数口广义岭估计为： 忽( 置) = ( x 7 x 十置) 。1 x 7 y ( 2 ，) 其中k = a i a g ( k ，如，露，) ， k l o , i = 1 , 2 ， 存在对角阵置使得广义岭估计忽( 置) 比危( 詹) 有更小的均方误差且偏离度较 小。所以广义岭估计比岭估计有很大的实用价值 广义岭估计忽瞪) 具有以下性质： ( 1 ) 忽( 置) = ( x 7 x 十置) 4 x 7 确皇4 f 危， 即岛( 置) 是工s 估计厦的一个线性变换 ( 2 ) 曰( 岛伍) ) = 4 。厉只要4 。f ，广义岭估计露( 置) 是户的有偏估计 ( 3 ) 对v 蜀o ，若峨i o 总有0 忍( 置) l 【s l 陵8 ，即忽( 置) 是对应的压缩估计 ( 4 ) 存在五o ，m s e ( p z , 暖) ) s 朋跑( 危) 。 叶仁玉：特殊数据的广义岭估计选代算法及其实现 即忽( 置) 比忽有更小的均方误差 t 毋存在置0 ，脚( 忽( 置) ) 冉嬲笤( 扉 ) ) ， 即露【k ) 比众( 血) 有更小的均方误差 ( 6 ) 对v 置o ，忽( 置) 是的可容许估计 ( 7 ) 广义蛉估计忽( 冒) 是b 町雠估计 下面给出广义岭估计在均方误差准则下优于l s 估计的充分条件 下面引进模型圆的典则形式： 设 2 如之以 0 为x 7 x 的特征值，d = 矾，以 - 以) 为标准正交矩阵，其中 ，如，以为对应的标准正交化特征向量，则o m 7 = ，记a = d i a g ( ，五 ，以) 且有7 ( x 7 x ) 西= a 于是线性模型( d 可改写为： j 脚= a 0 1 + z o a i 州+ 占职l ，( 占) = o ，c o y ( s ) = l o r ) 其中z = 姗，a f f i 0 7 ，o 的定义同上，口称为典则参数 模型导出的上s 估计为& = _ 1 2 7j ，= m 7 厦，相对应的岭估计和广义岭估计 为 舀，( 膏) = ( a + 丘f ) _ 1 2 7j ，0 ，( j - ) = ( a + 置) - 1 z7 y ( 2 8 ) 因为均方误差在估计和参数的正交变换下保持不变。故典则回归系数的上s 估计或 岭估计，广义蛉估计和原来模型对应的回归系数估计有相同的均方误差 引理1 1 4 1 ：设a 和厦是参数卢的两个估计，m f = m s e m ( p , ) ，t t t i = g s e m ( p t ) ， ( f = l ，2 ) ，则下列两个事实等价： ( d m t2m 2 ( 2 ) 卅l 肼2 ，对一切的d 0 其中硎程联向= fh 痧一眩为声的广义均方误差，m s e m ( 声) = e ( 声一，) ( 夕一，) 7 为均方误差矩阵 第二章有偏估计 该引理说明了反比2 有较小的均方误差矩阵和对一切的d 0 ，a 比度有 较小的广义均方误差是等价的 定理l ：对( 2 7 ) 和( 2 8 ) 中的对角阵k ，当0 0( 2 1 0 ) 使( 2 1 0 ) 的不等号成立的充分条件为 2 t r2 k k a ar k 0 = 亨2 a 2 盯7 眉口一( 口7 k a ) 2 0 因为口7 k t z 0 j0 口7 k w 2 0 - 2 注：在g a u s s - m a r k o v 模型下，定理1 的充分条件也成立 可见，当置= 灯时，可以得到o k 0 ，：1 ，2 ，撑若不是 加权回归，此时取m = 1 i g w = d i a g ( w i ，w z ，) 为样本权重对角阵，旬= i x 。，j ，】，：1 , 2 ，以 令 z = w lz l e z t 、，w z 皇【坜0 ，而i ，其中x = 沙 j ，i j ，2 ： j ，。 铲玎孙置2 ，x ，r 万4 - 矿 防历k 眵毖笼卜 其中置= d i a g ( k i ，k z ，后，0 ) k i 0 ，i = 1 , 2 ，p 记 置l = d i a g ( k i ，露z ，k ，) ，j 搿= 毒r w x ，罗审= x 7 聊= s 饵r ， 则 小一z w x 黻+ k y 协w y j 皇 墨纠 p 乃 令 一卜c 珈。删= r e 玎圭陋乞c 1 2 ， 由引理1 的( 3 1 ) ，可得，当s 。+ 五。可逆时，有 c 1 2 = 一( j 辱+ k i ) 一l j 廿l s 一一s f ( s 搿+ 置1 ) 一1 s 掣i l ， c 牡= i s 一一s f ( s 曩+ 茁i ) 一1 s 精】_ 1 得 c n = 一( s 搿+ 置1 ) 一1 s 掣c 丑( 3 9 ) c n 除以( 一c 趋 可得广义岭回归系数尾( 置。) = ( + 置。) 1 当置l = 0 ，时，c n = ( 一s 。- 1 s ，) - 1 ，c 就为普通加权上s 得残差平 方和的倒数，所以c 五1 给出了回归估计的残差平方和我们知道在工s 中，用残差 平方和除以月一霄( x ) 为误差方差的无偏估计，即矛22 涨，为a2 的无偏 估计，其中尼镕( 夕。) 为最小二乘估计巍残差平方和 在广义岭估计中，因为 r s $ ( 矽，( 五，) ) 皇f i y z 夕，( 置，) j 2 = ( j ，一x 声，( 置，) ) r ( j ，一x 夕，( 置，) ) 当w = 厶时， 而 c 龆誊i s 一s 一( s 属+ k 1 ) - i s 掣j 一1 = 【j ，rj ，一y r x ( x 7 工+ k i ) 。1 工r y l 。1 = i y 7 ( ，一x ( x r 工+ 置1 ) 一1 工r ) j ，】- 1 x 7 ) ， ( i n - x ( x 7 x + 墨) - 1 x 7 ) 2 2 l 一2 x ( x 7 x + k i ) 一1 ，+ 工( x 7 x + k i ) 一1 ( ，x + k i k i ) ( ，x + k 1 ) 一。， = l x ( x 7 x + k 1 ) 一1 x 7 - x ( x 7 x + k i ) 一k l ( 善7 x + k 1 ) 一1 x 7 所以有； k s s ( 露( 置。) ) = 一一群( 丘。) 置。以( 置。) ( 以( 置t ) ) = 一一髟( 丘。) 置。夕，( 置。) v 丝 =百1一trace(kc 。) 睇( 眉1 ) l | 2 托 1 广l r 、一1 ， = 百1 一( 薹也i 睇暇2 其中j h | 为欧式空间定义的向量范数 w a h b a ( 1 粥3 ) 提出了“线性光滑”公式，我们可以给出误差方差的估计量； 吒。= 等等等， 一一打批h ( 3 1 0 ) ( 3 i i ) ) 暂+x r x ( 善一 r f ( ， z ) ) r r 工 x 一 一 ) ) 置置 + + x x r r 工 x ( ( 工 x 一 一 ，r ( ( r r ， = l f 第三章广义岭估计迭代算法 其中h = x ( s 。+ k 1 ) 。x 7 为帽子矩阵，席一t r a c e ( h ) 是残差的自由度 由引理1 的( 3 2 ) ，可得。当s 。可逆时，有 c l l = 【( s 。+ k 1 ) 一s _ s 月s fi 一1 得 s h + k l = c l + s 咿s y y - ! s 爿 ( 3 1 2 ) 由引理2 的( 3 3 ) 秩1 向前公式，对任意的列向量v 和方阵彳，有 ( 4 + 刚7 ) - i = a - i 一篇，v c 副 t s 。“，= c 1 1 - - 等掰始 ( 3 1 3 ) = c 1 1 - - 毒爱等普 由( 3 1 3 ) 我们可便于计算： ( i ) 凹= 颤+ 五) 4 x 7 w - g x r w ，其中g = 缸+ 五) 4 ( i i ) 乃( 置t ) 的协方差 因为c o y ( y ) = 口2 w - 1 ，s 。+ k l 为对称矩阵，有 c o v ( 露( 置1 ) ) = c o v ( s 。+ 置i ) 。1 工7 w y f f i ( s 曩+ 置1 ) _ 1 工7