贝叶斯决策论

第7讲贝叶斯决策论文志强计算机与通信学院1主要内容引言贝叶斯决策论-连续特征最小误差率分类分类器、判别函数及判定面正态密度资料来自：RichardO.Duda,李宏东等译.《模式分类》,机械工业出版社.2003.27.1引言1）贝叶斯决策论的概念贝叶斯决策论：利用概率的不同分类决策与相应的决策代价之间的定量折中。假设：决策问题可以用概率的形式来描述，并假设所有有关的概率结构均已知。2）鱼类分类的例子：鲈鱼，鲑鱼（续）3（贺鲑沙鱼被）（嘱鲈剃鱼庭）4使乐用谷长底度口作转为腐特骗征（党鲑故鱼涝）（卵鲈拼鱼话）5使脱用若光畅泽灶度主作挑为度特萝征（慎鲑哨鱼崭）（白鲈灰鱼盟）6判龟别互边毙界决辟策缘瑞理伶论妻的霸任污务太是婚：蔬使诸总歉体皮代遍价马函巧数酒最军小偏。（犹鲈阅鱼洪）（雕鲑舒鱼灭）7使咐用诞光练泽厨度廉和岂宽片度桑特杠征袋的呜散肯布赚图（绘鲈变鱼汽）（雁鲑轨鱼薯）8复印杂袜模刮型9最捉优恒折供中C流e汁n敏t掀e扬r堤p气r窝o银b醋l蔑e掠m五i浸n趋p谱a辛t禽t叛e而r仇n铲r蔬e路c怠o识g附n既i冬t守i剪o怠n1砌03）巴几其个筐概灵念如倾果诊用w表倚示居类置别起状勇态竿，票那竹么止当w=w1时小是敏鲈要鱼属，播当w=w2时到是暮鲑敲鱼栋，贤可酸由丸概腥率那来蚀描鸭述敞特廉性科的淹随钻机辜变榜量牲。先盘验桐概候率王：P(w1)表存示刘鲈端鱼危的缩慧先旗验吵概枣率恋，P(w2)表租示矿鲑牺鱼扣的牺先以验党概码率弟，貌满泡足P(w1)+P(w2)敞=健1。类住条险件添概址率相密鸣度宏：杜假麦设x是课一话连浊续命随室机浊变首量异，愉其域分膛布桂取烦决耕于宜类储别些的天状席态振，快表贡示技成p(x|w)的裹形包式训，监也为称吃状历态窑条民件荷密估度朱。1律1图7杆-歇1假弹定垦的勉类荷条惊件冷概巨率孕密席度词函滥数徒图船，皇显钢示甚了识模蜜式昨处阴于贤类贯别wi时雕的垃观吓测串某帽个霞特杀定夫特距征夕值x的全概朱率威密莲度沈。忧如歇果x代拿表崖鱼兽的毒长坛度岸，箩那姜么东这种两谣条欣曲害线刚可兔描都述陈两躬种梳鱼紫的笑长则度省区扮别队。若概植率罚函怖数临已疗归叙一倘化邪。橡因热此误每挎条瓦曲贿线姥下泄的夹面妨积姿为1。1纺2假虫设易已玩知岗先遗验置概乎率P(wj)，脉也灿知筐道版条莲件辨概下率环密拍度p(x|wj)，坛且j=判1保,帽2。欣通油过腾观胜察化和钞测咐量辅，层发绞现往某喷个弹特押征卸（堂一临条肌鱼放的蚕光避泽瓦度裁）箱为x。鄙则匪联这合烤概渴率劲密易度感可亏写珍成p(wj,x)驰=P(wj|x)p(x)垃=p(x|wj)P(wj)于聪是洞可泻得至贝让叶姻斯小公嫁式皱：P(wj|x)杜=p(x|wj)P(wj)设/p(x)在坑两镜类心问文题双下蜂：贝星叶璃斯院公恨式脚可产用霞非康正肯式民的夫英香语轨表渔示秘成其浸中凤，p(x|wj)称斩为wj关抵于x的朝似殖然狠函执数严。桨证婚据趴因仪子p(x)可竹看霸成犁一纪个发标局量江因陵子酒。1蚁3图7计-督2在厦先纳验滩概登率P(w1)渴=刃2售/圆3，P(w2)樱=棚1纳/辆3及查图7退-耗1给颂出钱的再类御条蹲件腐概旱率啦密墓度罢的根条纽奉件凝下忧的命后奖验涌概脉率挨图.1智44）菠决挖策毙规违则-钱-最腊小土化代误伞差唇概尸率胸条俘件辩下高的镜贝吩叶饥斯暂决罢策胸规宏则决青策录规代则：屋如以果全某厅个庭观量测镇值x使刺得P(w1|x)比P(w2|x)大爹，外则缝判做断捆类宋别掩是w1，忆反著之摩，扬则怪判剂断w2。误滥差花概膛率压：（4）平迷均禾误棉差（4）式己可赌写苏成蚊：可缘瑞得枝到景完镜全属等从价戴的宪判凡断泰规抬则1季57懂.得2纤贝鱼叶上斯旱决溪策咽论喇-亩连丘续矿特母征推库广焰：允给许然使肺用弟多间于龙一样个预特换征允灶许偿多智于狭两哥种怎类吴别矿状亚态锁的歇情斯形允部许艇有艘其睡他召行兰为珠而哄不耗是蠢仅忙仅柜判俊断慌类薪别通擦过静引滚入猛一次个高更蓄一选般得的李损妖失详函崭数锁来拨替横代萝误慰差王概若率注凭：损向失线函氏数毕：剥精叶确泽地鹅阐广述湿了驼每圾种恨行舌为通所明付街出如的蛛代蝇价扩大借小竭，偿并套且液用叮于撒将妻概矩率障转叙换腾为杂一螺种表判纱决隔。1缸6令{w1,触…失,wc}表末示碧有书限温个c个闭类朝别螺集雪，{α1,链…用,αa}表予示丸有绘限痒的a种啄可四能孙采走取转的译行四为睡集秋，荒风须险崖函揭数λ(αi|wj)描循述件类芦别哀状祖态五为wj时孝采僵取俘行铃动αi的寇风降险芝。旋特码征县向像量x表尸示喜一沫个d维佣随夕机供变扔量袋。雅令p(惜x弦|wj)表洗示x的诸状储态腹条退件望概近率街密管度寻函誓数滑，危则忽后饿验栗概俊率线可叉表立示贞成清：证姨据络因受子央已钞知1邀7如黎果肾观臂测景到淘某及个组特弯定衡模雀式x并统且技采员取既行梦为αi，姨如考果抓真迫实迟的越类盈别简为wj，门通颂过垮定尖义烟将嚷有霜损泡失λ捞(αi|wj)，时则辟相岁应换损准失朗为称怪为哀条炭件确风剖险可验以骗通焦过蒜选哪择透最肤小胁化窗条毕件士风胀险秩的仰行牧为浑来陕使无预遵期摸的貌损确失拿最晒小猴化笑。贝坊叶止斯碰决帜策形过颠程别实宫际罩上闲提剩供截了狂一芹个朝总妥风孩险腊的蜓优帆化默过踏程在。总段风杂险粒为吹：1顺8两感类阶分敏类逗问窗题λi做j=λ(αi|wj)表明示魂当尊前备实决际求类患别铺为wj时诱误馒判洗为wi所幻玉引吓起勺的业损裤失竞。条宿件温风社险违为盏：如秤果也沟表际述吵为沈：裂如水果则骗判宣定为w11停9利缴用乐贝匪叶么斯顶规久则巨，阿则杆等白价品于如房诚果则共判理定为w1。另虚一厚种袄表评达争方匀式究为议：茫如猎果蔽下膝式岁成粱立败，左则胆判采定橡为w1。似公然筒比称猎为2躺07浮.滥3最驰小宁误备差吊率披分算类如首果后采脏取巡寿行汉为αi，消而践实面际降类醒别慌为wj，歇那递么接在i=j的倡情联况符下垮判抗定浴是自正招确壳的再，课如塌果i≠j，父则扰产依生栏误沉判注。粥如筒果嫌要理避威免滔误危判种，早自韵然锐要袖寻警找雄一符种取判首决桃规紫则简使什误喜判妻概恳率逗最裹小寨化装。对丙称戒损托失煎函蛾数兄或0单-伏1损餐失等函舰数条集件黑风跃险益：咬相捏当糟于忍平类均功误剖差上概挨率为缝了庆最腔小粉化桌平巷均轧误坡差壁概庭率惩，调需牲要直选锐取i使翁得拉后洞验羊概各率P甚(wi|碧x汁)最惩大从，滴也摔即长基微于广最描小沙误馆差盟概展率缩慧，选有2垂1图7购-自3图7响-砖1所概示企的洗分辅布笑的裁似酸然肿函窜数便比p(x|w1)拣/p(x|w2)。暖如大果洋引万入均一砍个0痛-诵1损网失香或守分鸦类演损戒失躬，策那惭么预判剂决谦边生界秧将学由θa决开定2卸27悔.壤4分荣类码器盈、英判脾别当函办数匙及至判颂定渔面7坐.子4剪.饿1多蚀类仁情遭况常侄用绳的龙判活别虏函朋数收为gi(馆x布)原,i=虎1闻,云…陕,c的锋形薪式羽，屋如友果麻对渔于硬所体有赌的j≠i，球有gi(程x拢)洞>gj(煎x或)则摆此努分便类锤器距将贴这稼个筛特照征透向削量x判湾为wi分冬类说器告可恨视鼠为跪一窝个圆网段络聚或辉机胞器遮（趟图7作-揭5）年。2停3图7股-代5一攀个眯包碍含d个瞎输绑入c个忌判窃决施函删数gi(尿x戏)的拼一关般滑的毫统已计骗模倦式浸分武类育器择的挠体浸系唤结衬构蔑。阵接月下档来贴的胃步功骤集是城确恒定块哪石个速判斯别秧函刃数催值揪最退大择，停并桑相被应途的性对核输唐入年作所分济类素。部箭虑头估表鸣示旧信种息颈流旋的毫方舍向图。2摇4具占有耐一挡般锋风卡险今的乔情提况诊下赢，药让gi(x)佩=粥-R(αi|x)在州最害小枕误垂差繁概服率冈情娘况驻下忧，着让gi(x)易=P(wi|x)在尘最景小学误涂差坟概供率级情桂况取下业，风一帜些本常份用劲选尸择荷：2推5图7拜-禾6在写这罚个昨二锈维雨的娱两趴类用问挑题当的都分讯类结器盐中绩，行概容率槽密蜓度痒为尺高灶斯命分给布戒，轨判虑决腔边耍界过由瞒两眉个汗双模曲铃线始构购成劝，养因位此畅判扇决苦区尿域R2并毒非秩是洗简置单懂的掏连锁通碎的元。弹椭骗圆躁轮躁廓顿线恭标势记宫出1毒/e乘券以馆概图率迫密姑度佛的鱼峰揪值称。2么67侨.罚4怒.年2两患类颠情足况第：达二拢类蛮分最类选器判阁别押函植数如姓果晋则屈判圆为w1，牛否女则片判孤为w2。常属用粒的堡个g(x)函伟数煤如炕下筐：2裳77尝.槽5衬正熄态瓦密汽度f(x)的工数模学查期寨望2茅87司.尿5户.喉1锅单言变崇量寇密森度脖函由数单韵变知量犯正迎态申密渴度拿函焰数期志望场值刚：方溜差题：记弦为会：2辰9图7毅-株7单亡变心量搞正处态纤分尺布表大畅约秒有9锤5尖%的喷区性域睛在|x-μ|护≤迈2σ范碗围外内而，悲如盏图减所勿示赤。径此婆分熄布颜的凡峰毒值波为3来07域.义5桐.拼2销多土元架密杏度大函财数d维朽多士元霸正伞态唯密我度盈的吼形基式其牌中记解为协罩方亩差劳矩里阵天：3匹1图7少-聪8特伍征钻空挥间倘中杰的爬一格个涝线绑性咳变迈换卷将弱一缺个度任病意颤正左态侍分双布胁变狐换闹成服另嚼一领个易正醉态叛分慨布吴。正古态猎分察布富的直性吧质跨：服趴从爪正虫态召分乖布竟的仍随扰机哄变淹量家的吐线失性欠组幼合良还牺是良一致个创正背态锡分征布墓。白汪化愚变极换直倒线槐投和影3肆2图7沙-石9从悬一怪个累以士均牢值μ为状中猜心员的货云侮团轿内明的举二抬维眠高村斯洽分冒布箱中砍取兴出期的诱样榨本切。您椭呼圆迎显得示位了圾等粥概迎率龙密续度男的扔高嫌斯鞠分若布赞轨会迹析。多偿元练正材态蜻密怖度音完资全志由d+d(d+巩1令)妨/敞2个橡参捏数月确释定哑。哲从仓一牛正黎态葱分腥布送中轰所健抽锤取应的静样耕本早点尚趋锯向丧于摇落忧在峰一愉个屡单订一枕的责云郊团售或另聚绒类肝中庙。茅等郊密按度副点亲的嚷轨华迹环为怪一肝超战椭障圆远体柳，年这陪些龄椭墨圆圾体秘的移主隆轴投由Σ的畏本妖征索向请量笔给狼出脉，菜本贫征朴值季决叛定后这刷些籍长观轴抛的勉长黄度诊。3镇3称蜻为写从x到μ的M积a柿h皂a盾l悟a满n语o毕b运i宪s距疤离绝或龙马班氏恭距基离蛙。等客密握度意分怠布筐的直边羊界套是为一桥些刺到希的贡恒同定麻马毕氏枕距眨离损的胳超摄椭耻圆区体脱，红且革这葛些妄超倚椭酬圆翅体猎的恩体斩积逝决蹲定徒了上均伯值束附郊近处的深样虑本鹅的杰离勇散筑程陶度陶。与M达a押h吼a看l冒a栗n段o比b佣i赛s距红离r对华应隶的乎超源椭乎圆改体宵的速体俗积芒为其围中Vd是菠一归个d维则单芽位邀超隔球帜体甚的荷体鲜积3尽47闯.悄6淡正码态黎分菠布钻的悠判费别骑函追数可艇获嘱得拴：下早面肃分忧几圆种填特窜殊萄情辜况语来对讨客论最纠小猫误科差径概乱率我分蜂类坦可猴通孤过独使定用询判彻决也函唐数庆获这得3芽5情娱况鸟1省眠略槽无锐关磁常诸数冤后泼，掘可膝得翅简赴单燥的牵判柄别华函幸数表慌示统欧诵几棕里哀德技范竞数二夫次骗型棚展粮开汪可敲得造：，和3卖6可茎得棕等另价渗的梁线绍性涌判仍别尸函赵数wi0称茶为勉第i个末方贼向顺的亡阈猫值谊或弃偏夸置息。3港7超锐平笋面等此患方标程视可核写拣成图7猛-撞1界0如凶果呢两免种欺分舱布蜜的牛协呈方蛇差桐矩勉阵施相间等唤并作且丈与凑单劲位哲阵威成则比稼例撤，培那脊么割它韵们缎成d维训球桥状倾分莫布普，衬其扩判闷决卖边脚界弊是犬一耍个d-提1维遗归仿一肺化扣超魄平划面恰，竞垂努直休于宁两喜个途中性心笛的驴连县线呈。盘在气这泻些佳一轻维史，坊二躲维牛，着三堡维刘的因例坐子后中毁，例是粘假键设竖在P愤(w1)完=大P碎(w2)的鲜情隔况级下棚来忌显屈示p(x|wi)和稻判郑决龟边房诚界茂的惑。其应中3禁8情疤况硬2可霉简仿化而为将领二庆次件型姥展高开羞，谁可丛得苗线匪性延判橡别拳函嚷数跑：3奇9边钥界集面缸方权程张为判羽决断边右界岗是桑超面平坐面4卡0图7锦-却1霜1随泥着忍先孔验帽概捐率资的岸改霸变剩，扭判疮决边边论界壤也世随毒之烤改零变换；丽对阵于期差傅别缺较白大防的县离淘散填先醋验趣概尾率扮而立言删，白判援决税边弓界螺不僵会闪落幅于深这钓些奶一暑维扫，绣二棉维殿及自三非维胆球琴状饿高缸斯荐分甜布的的育中秘心吃点摊之冻间4桶1图7跳-灰1糖2相绪等纽奉但烂非饿对街称训的慰高亩斯结分衣布有的渴概己率申密铜度付及讯判寻决护区侄域院。萝判考决近超腾平倾面志未竟必液和泡均爪值后连资线股垂参直自正邪交4烈2情劈燕况鉴3去董掉讨常丧量吊后斑，摧判挺别陈函旺数避为凭二协次检型深：其川中在绪两钳类别问梦题趴中苏，系对耳应栋的氧判祥定齿面扯是浙超伴二定次逗曲绕面摄。4予3图7泊-挺1根3在陆方款差兵不厦相锡等嗓的恭一哲维摊高检斯赠分册布谱情掀况婚下哪，谎可域能恼产跃生料并夺非证单意连射通做的愤判嫌决探区管域条，勇如P航(藏w刑1斥)闲=锋P串(义w要2牵)时折这苏里怨所农示泥的门情虹况判躲