一元线性回归预测法与多元回归

一元线性回归分析预测法概念（思路）根据预测变量（因变量）Y和影响因素（自变量）X的历史统计数据，建立一元线性回归方程，然后代入X的预测值，求出Y的预测值的方法。基本公式：y=a+bx其中：a、b为回归系数，是未知参数。基本思路：利用X，Y的历史统计数据，求出合理的回归系数：a、b，确定出回归方程根据预计的自变量x的取值，求出因变量y的预测值。一元线性回归方程的建立使用散点图定性判断变量间是否存在线性关系例：某地区民航运输总周转量和该地区社会总产值由密切相关关系。触年份侍总周装转量王（亿最吨公忌里）竭Y宜社会傻总产坡值奉(闭百亿枣元旧)X庄1捎12爸.5借30枣2界14文.5欠36刚3种14矩.7糟38卵4便15品.1沾41级5肢15附.5蚀48肝6迹16符.8屠52阔7袖17杠.5留53教8饼18丽.2吸53档.5短9效18隶.8蛇55使用最小二乘法确定回归系数使实际值与理论值误差平方和最小的参数取值。对应于自变量xi，预测值（理论值）为b+m*xi，实际值yi，min∑(yi-b-mxi)2，求a、b的值。使用微积分中求极值的方法，得：伐由下害列方贝程代植表的值直线嘉的最吐小二驰乘拟守合直哪线的袜参数族公式罗：歇其中凯m腿代危表斜烟率碍，b没代李表截览距。斜一元炎线性寿回归酬.续xl饺s夜回归鞠方程劝的显斗著性现检验脾判断丰X、援Y之率间是译否确槽有线戒性关顶系，任判定造回归盛方程宋是否同有意殊义。塞有两志类检钥验方挑法：招相关舅系数援检验旺法和单方差开分析帮法建相关喂系数激检验倘法停构造绞统计顿量r假相关飞系数庸的取昆值范厨围为疤：[刘-1覆，1喷]扔，|悄r|吗的大甘小反外映了沉两个雪变量摔间线虚性关糊系的采密切属程度赢，利期用它挽可以性判断推两个缘变量卸间的我关系哥是否嫩可以拥用直班线方身程表丹示。污r值裤两变性量之磁间的泳关系税r=椅1险完全屯正相改关端1>恶r>腹0败正相属关，肿越接司近1硬，相筒关性楼越强咸。越同接近侦0，察相关乞性越邀弱赠r=慕0耐不线窝性相璃关副0>搞r>引-1悼负相匀关，斯越接继近-喊1，药相关啦性越遮强；妹越接饥近0残，相韵关性刃越弱逃r=何-1宾完全握负相剖关暮两个按变量截是否屯存在旁线性水相关间关系冬的筒定量旦判断加规则估：敢上对于蚊给定冬的置臭信水鼓平扫α禾，从坐相关随系数窝临界尺值表数中查苦出r纵临位（n悲-2歇），诸把其宜与用尽样本飘计算细出来楚的统掩计量偶r温0眠比较握：痛若|旁r馆0父|〉嘉r钉临歌（n灵-2揭）成腥立，陕则认伯为X桂、Y匆之间凝存在映线性掠关系兼，回黄归方术程在餐α婆水平啦上显颠著。渡差异天越大约，线某性关窝系越给好。博反之核则认鄙为不陷显著扔，回接归方恭程无扮意义错，变候量间淡不存母在线孟性关劝系。迷其中保：n朵为样遵本数乳。诚方差法分析闲法：饱方差科分析食的基球本特损点是论把因伏变量屿的总庭变动兰平方翅和分酸为两幻部分旱，一雄部分出反映横因变洪量的突实际悲值与蜂用回延归方租程计们算出薯的理啄论值头之差浇，一杏部分鲜反映能理论当值与绣实际味值的瓦平均搭值之卡差。粗Y的庸总变倡差=夕Y的昆残余灾变差塘+Y精的说爹明变急差，绣SS势T=盯SS舌E+白SS染R泼或：捐总离姨差平隐方和究=剩悲余平默方和德+回轻归平盟方和驼回归拿平方怀和U股与剩袭余平矿方和越Q相幼比越株大，牢说明百回归誓效果版越好只。物注：针在方安差分长析中巾，已窗被解雨释的座和未旧被解届释的街变差夕除以使相应发的自处由度股的个帐数即住变为脉方差索。Y顺的方抱差是满Y的达总偏割差平移方和倦除以厦n-制1，包被解后释的眠方差化等于旦被解绍释的咸变差蕉（因姨为回谨归只装比估兵计Y梳的均似值多亦用一戚个约洁束条寒件）桥，残虏余方贝差等言于残呆差偏辰差平累方和泰除以幅n-移2，迈残差殊的方截差S谁2鸭是误直差方助差的晌无偏庭且一宪致的扰估计聋（S草叫做刷回归炮标准食差）淡S识2书=Q芒/(秩n-冻m)僵定量泰判断调回归冲有效归性有病两种祥方法罚：疗可决骆系数菌检验扬法蛙拟合距优度落统计指量；猪判定夫系数清：落r车2啄=S坦SR帖/S络ST改=U剖/S抹yy谊 阴窜屑调整挂的r丽2光兵抽足=1则-[测Q/偿(n卡-m并)]鉴/[愿Sy丸y/影(n阅-1趟)]惧复相江关系筹数检桨验法笔：构腹造统衬计量羊R=扛SQ滴RT丢［1柜-Q勤/S座yy董］=勿SQ腹RT脆（U旋/S贩yy养）报判断柏规则挣：剖对于始给定阔的置遵信度性α落，从颗相关嫂系数亡r分闲布表极中查障出r窑临拔（n双-m雨），乱把其搁与用宏样本棕计算党出来施的统患计量要R会0善比较裕：宝若R书0陆〉r特临终（n轻-m醉）成雕立，锡则认词为回羡归方轧程在鼻α轰水平兼上显物著。竟反之柜则认箩为不拔显著锣，回书归方惠程无怨意义障，变帅量间嗽不存吼在线齿性关脉系。蔑F检艺验法萝：构浇造统退计量奏F=庄（U缘/m仁-1经）/仗［Q罪/（辛n-狸m）奸］奇其中晒：m宿为变什量个正数（在总数院）；民n为桑样本国数。标统计瓶量F接服从排第一益自由船度为违m-诉1、羞第二南自由君度为例n-翁m的这F（离m-惕1，便n-钻m）瘦分布兼。染F=排r蛾2优/(软1-膀r悼2促)*逮(n尼-m牛)/震(m安-1堪)断判断双规则咸：词对于赏给定柿的置景信度微α奔，从伶F分话布表挂中查耽出F担α加（m忧-1载，n美-m俱），砌把其坑与用崖样本芦计算卖出来斤的统锐计量丧F轨0浇比较夜：罩若F卧0部〉F乌α品（m竞-1无，n踢-m帜）成替立，零则认葱为回浅归方再程在冈α派水平刻上显锋著。造反之团则认踩为不赛显著皇，回抢归方饥程无碍意义睡，变污量间需不存篇在线锋性关阁系。亩回归迟方程梁没有建通过奥检验液的原尸因迹定性肥分析择选择绵的各果变量慧间，茫本来锋不存牢在因倦果关质系。敌定性可分析点设想悄不准深确。受选择随的变李量间涝存在胀因果悲关系育，但谱还存允在其任它起捡着更勿重要肺作用芦的变仿量尚僻未列晒入模仅型之浴中。滑选择馅变量枝之间霜的关年系是喊非线驳性关淡系。向利用芬检验拿通过眉的回壶归方没程进写行预犬测询y=角6.度34边+0板.2吸13质x享点估驶计值脂：若秧给定遥x值塘，则进y的站预测撕值为万6.吉34灾+0打.2子13腾*5球8=抹18草.6段9沃区间翠估计昂：虚标准改误差遥：S哑=s感qr部t(塑(追∑亿e^拿2)危/(责n-脉m)桂)筑一元箱非线焦性回割归分润析预冤测法粱思路凡：与扛一元权线性庙回归挽分析套基本餐相同缩。即兴通过娇变量拔替换杀将非旦线性帖方程块转化暂为线户性方昏程；偶使用岭最小锋二乘碌法建戒立线贵性回慕归方执程；排在通距过逆染变换钟将线驱性方马程转擦化为贿非线埋性方全程。斥函数治的线绒性变清换及稻逆变宅换是糊个数音学问拣题，网不讲茂了。唇例题即，参宿见1辆60牌页：迷航空运货物熊周转无量=群a*姓（社扛会总牢产值蒙）湿α瓦 福19摊6页丘，S顷B机庭场空祝运需代求预痒测研 群20铅2页板，利卷雅得日国际释机场派业务丙量预蚕测捷多元史回归具分析思路疮多元炸非线户性回截归分旱析区——盲转换倚为多凤元线食性回缩归分完析，晶多元进线性字回归锈分析缠，与妇一元委线性畅回归娃分析何基本影相同赞，只下是在击自变什量的异选定督上、标求解的回归护方程泰及统草计检饶验等货方面喝比一冰元回写归要看复杂吃一些盼。浮设多妖元线汗性回翻归模谷型为障：y刑=b雅0酿+b届1芝*x欣1柳+b富2捞*x至2洪+耻……挣+b纺m逃*x圣m遇参数帐求法炎为最雹小二亩乘法卵：玉mi旅n林∑缠（y铁i爽-（脆b爬0蚕+b港1影*x效1i勿+b言2苦*x密2i巴+骗……型+b盖m限*x愿mi仔 脾））么2查分别钓对b子j求架偏导厕数，床偏导名数等换于0日时，村上式要取得批最小矿值。史可以摊得到挪m+缸1个汁关于宇bj姥的标期准方矩程，崭使用政线性爽代数袜中的达行列第式解漂法，网可以允求出寨回归咽系数堆bj雪。牵以二漏元回只归分眼析为籍例，迁说明亦多元云回归倚方程邀的建类立植定性嘴判断水得知拆，因俊变量乒Y与值自变晃量X遭1,迷X茫2存竹在线盒性相放关关叫系。抵模型雅形式续为：诱y=寿b欧0野+b妄1嫂*x课1扮+b撕2验*x议2犁确定硬回归予系数胜b说0治、b脑1昼、b条2敢，最斥小二辅乘法装。分贡别对雕b路0独、b兽1劲、b我2亲求偏柜导，普令偏税导数哨=0赠，构婶成如真下方组程组悠：蝇手工麦列表税计算奋：筋回归士方程膛的统斯计检爱验亦回归粘方程仗的显色著性均检验收，检饿验回服归方捕程的删有效售性姑检验轰方法槽有：错F检指验法支、复锣相关枝系数段检验泛法亡回归闪系数矮的显储著性务检验挺，检壮验回倍归系仇数的惊有效令性，池检验街方法辩有：及t检址验法驻构造榜统计愁量t胃其中缎：m妹为变特量个拍数；视n为供样本设数。相统计趁量t前服从帝自由途度为股n-浴m的之t（廉n-闭m）慈分布拌。畅判断刑规则谋：息对于结给定魔的置形信度辆α裳，从搅t分摩布表招中查访出t细α艰/2通（n计-m先），亮把其僻与用绕样本愉计算双出来果的统炭计量右t向0症比较驰：艰若t律0春〉t态α硬（n臣-m损）成甩立，仔则认横为回苗归方信程在贷α鲜水平健上显巴著。皂反之考则认败为不旺显著指，回堆归系拒数无尸意义布，变球量间栏不存纠在线宽性相词关关尚系。纪统计炊假设宏检验巴总结泉：对状于一旦元回楚归，勉四种谦检验箭方法慨选一瞧即可淡；对厘于多片元回目归必愧须进待行t挡检验刘和R斑、F干间严蒙重的急一种行。期检验稼目的废检验廉方法测统计层量虹判断栽规则生检验安回归狗方程滋的有雷效性墨相关医系数悉检验渣法加r首复相偷关系删数检映验法休R臂F检忠验组F点检验润回归透系数掌的有敌效性扑t检坐验帽t窃例题艳：恭国外象预测腹模型其简介窜全行床业运帐量预跃测降几个交基本罪问题俗及内吉在假盾设游自变熊量的会选择廊——必（回奋归分钢析测宋法的建程序悔）年确定孟预测捆变量懒确定个影响斜预测柳变量魔的因略素秋——祸定性歪分析齿，播具有名经济漠上的秩意义绑和内监在的振因果胡关系诸。撞收集价整理智预测柄变量蓄及其暮影响于因素症的历裤史统瑞计资滥料脱分析荒因变石量和户自变川量的闯关系肌，确捞定回西归模晒型倡——符定量甘分析她，因养变量敌与自令变量变、自盼变量标之间柱的相霸关系亡数，代判别乓因变戚量和排自变捕量是傅否显舒著相张关，姜显著唇相关馋的影抛响因累素作盗为自育变量魂；同减时与善因变古量不崇相关吼或与冷某个役自变赛量高闻度线辣性相肿关的秩自变包量，闲应予上剔除触。随实践宝经验正确定购散点载图分紫析确景定随理论习试算米（计扩算拟妖和误查差（作预测版误差牺））圈，选还出拟字和程议度最时好的富模型俭求解郊模型吵参数萌，建堂立回福归方暖程龟检验骄回归子方程主的有勒效性踪利用话检验鸣通过艰的回铁归方馋程进呼行预优测，仇并确张定预毙测值犁的置什信区饰间谷多元鞋共线惕性（陡多重蜻共线景性）祖概念直：回扮归分挠析中绣，自旨变量山之间险存在卧着相糊关关者系，立称这甩种关摸系为室多元纯共线累性。穷多元扒回归非分析夹的假恐设是眠自变完量之龟间是枣独立星的。役得出馒的参悄数估五计值号是不寸可靠献的。您例如好：某俘省宏禁观经促济模只型中络，嗓建筑肤业产讨值=烫2.怜16绿84物+0巨.1粪60窑1*迫工业饮总产质值-匀0.呈07碎95婆*上著年工的业总面产值盖+0膨.5掉65秀1*鸭上年条建筑马业产军值妇负号页的出陡现很灾难解悦释，孝上年扇工业涌总产疼值和滑上年岸建筑幅业产咏值存掀在共渴线性存。啦检验独多元丹共线妇性的哭方法甚：幕U利——释χ勒2和（m深-1炭）分壳布拨Q萍——脏χ圆2鸟（n词-m岁）分熊布浓S令yy伏——特χ您2泼（n泪-1须）分缩布为拟和膝优度耕判定极系数蚂：义判定罚系数趁法：研把某净自变脾量用渣其它誉自变萝量进居行回研归计鸭算，稿计算暖相应魔的判政定系含数R萝2抚，若府R谦2户较大猜，说活明本厕自变毫量可仙以用傻其它颗自变历量的店线性渣组合狱替代梨，存种在多习重共亦线性馅。或篇者用呆因变躲量分廉别与萄含有配本自运变量港或不消含有拦本自积变量霞的自鸟变量旁组合梢进行悟回归吉计算盆，若律两者撕计算访的判呢定系去数差得不多践，则受说明丸本自屑变量终与其称它自奸变量乘间存姑在多牧元共林线性殿。阶逐步赵回归软法：吩逐个型引进币自变县量，越根据锣R茅2余的变斗化情飞况判枪断是薄否存委在多摧重共寄线性俱。若丰R章2砖变化狂显著止，则秒不存欠在多高重共蓬线性通，应钩引入愿；若更R鸽2末无显本著变吵化，献则无曲需引河入。耐偏相巨关系露数检共验法雄，计卧算两塌两变订量间绝的相逼关系出数，仆进行疾分析条检验迫。系自相怎关（求序列海相关京）鹊概念己：若棵随机烤误差董项在盗不同锣样本麦之间趴存在梨相关自性，冶e泻i株与e蛙j崇相关糕，则淡称为忠序列皂相关羡；较授多的时是e秤i烈与e债I缠+1钳之间核序列潜相关谊，称今为自毫相关唤自相茂关的耍检验行：趣达宾遣—待沃尔药森检谈验锤计算带出D碑.W障值后经，查谱达宾性—袋沃尔展森检鹿验表诉判定穴是否处存在呈自相歪关。征冯诺适曼比影检验旬回归彩检验撒线性惰假设皱回归库的另鉴一假怕设是奖线性训假设眼，因董变量北和自庆变量兼间的某关系之可以层用线樱性表获示出遍来。杨无法办将其未转化曲为线撇性的委回归笑方程嗽，不御能采砌用回啦归分社析方秀法，纷而要劣采取历别的跑方法案，如馋仿真花方法痛。竞样本熄数据有样本竿数据莲的多棍少，帜影响歇变量拳个数藏的选