（概率论与数理统计专业论文）基于后验概率的有限偏序分类模型.pdf

摘要 有限偏序模型本身有着深刻的应用背景，比如：学生认知能j 的测试就u r 以通过建 立一种偏序加以研究这足冈为，在认知问题中我们通常呵以假定某些认知状态的水j r 比其它认知状态的水平高事实上，有限偏序模型在生物信息学、自动医疗诊断等潇多 方面还有着更为广泛的应用本文将以学生认知能力为背景，主要探讨有限偏序模型的 分类问题在学生认知能力的研究中，学生分类结果取决于试验观察所得到的信息为 j ，更好地利用所得到的信息，一般需要引入一个合理的统计模型，然后通过后验概率的 计算结果对参加测试的学生进行分类 本文在估计参数时采用了g i b b s 抽样这里要估计的参数是一项分布的参数我们 通过真实状态属于某个给定上集合的个体数不断的变化从而凋整一：项分布的参数，这 是凼为利用了偏序集合才达到这样的效果对于有限偏序分类模型用序贯分类的方法 叮以大大减少试验的个数本文针对t a t s u a k a ( 2 0 0 2 ) 1 1 】的例了- 在序贯分类方面做r 一 些新的尝试，并与s h a n n o n 熵法做了比较本文提出了对模糊情况的一种处理方法 因为学生具不具有某种能力不能简单的看他是否答对某道题而定，且分的越细分的结 果叮能越不好本文还利用了k u l l b a c kl c i b i c r 信息对参数的估汁结果做厂分析 关键词：偏序集合；卜集合；k n l l b a c kl e z 眦r 信息；s h a m w 7 1 , 熵法；最大后验法 认知模型；序贯分类；g i b b s 抽样 a b s t r a c t f i n i t ep a n t a l l yo r d e r e dc l a s s i f i c a t i o nm o d e l sa r e i s f ! f u l f o r r n a n y s la t i s lk ：a tr l p p l i c a t i o n s i m l u d i n gc o g n i t i v em o d e l f i n i t ep a r t i a l l y o r d e i e ds e ti san a t t l i a im o d ( 、jf b l c o g n i t i v ep r o b l e m s ，a si t i si n o r ei e a s o n a b l et h a no t h e r s f i n i t ep a r t i a l l y0 1 d e i e de l a s s i f l e a l i o nm o d e l sa r eu s e f u li nm a n ya s p e c t s ，s u c ha st h o s ei na u t o l l l a t e dl n e d i c a ld i a g n o s i s o rb i o i n f b l m a t i c s 。o l l rm a i nw o i kf o c u s e so nt , t l ec l a s s i f i c a t i o no fp a t d a i l yo i d e l e dl t l o d ( 、l sa 削a t i s l i c a lf r a m e w o r ki sp l e s e n t e df o rd a t aa n a l y s i s ( i ff i n i l ，( 、p a r l t a l l 3 o l ( 1 f ，d ( i a s s i l i c a t i o nm o d e l sw eu s eb a y e s i a nm e t h o da n dp o s te r i ( ) 1 i ) i ( i ) h 1 ) j l i t 、1 ) i i ( 、c 1 i l ( 、 c l a s s i f i e a t i ) 1 1 t n o b l e m i nr e s p o n s ed i s t r i b u t i o np a r a r o e t e le s t , i t n a t i o l g i b b ks a m p l i n g p r o c e d u r ei s u t i l i z l ：d l h ep s i a m e l c i sl ob ee s t i m a t e da r cb e t n o u l l ir e s p o n s ep a t s i l l ( ： t e r sw e c h a n g et i l ei l n i 1 b e d o ft e s l l u gs u b j e c t ，si nt , h eu p s e l ，o f t oa d a p t rt h eb o in o u l l i r e s p o n s ep a r a m e t e r s p a r t i a l l ye l d e r e dm o d e li s a ni m p o r t a n tt o o lt ot l e a tt h i ss i tt l a t i o nf u r t h e r m o r e ，a ne x a m p l ei nt a t s u o k af 2 0 0 2 ) 、r i l lb el l s e ( 1r oi l h l s t la t e ( 】1 11 ) 1 0 p o s ( 、( 1 p r o c e d u r e o u rl e s e a i c hl sa ne x t e n s i o no f 。t h ew o r kd o n ei ns e q u e n t i a le l a s s i i k a t j ( j l li ) + 【 a 1s u o k a v ep r o p o s ean e , vm e t h o da n dc o m p a r et h i sm e t h o dw i t hs h a n n o ne n t r o p 3p to c e , d l ue am e t h o dd e a l i n gw i t hv a g u es i t u a t i o ni sp r e s e n t e di nt h i sp a p e is o m e ti m ( ：sw cw a l l t oi d e n t i f yas t u d e n t , sa b i l i t 3 ，f o re x a m p l e ，w h e t h e rt h es t u d e mh a s h ea b i iz 、( ) e n o l 、 i fas t u d e n td o e s n l l c o l r e c t l y a l i s w e it h eq u e s t i o n w ec a l l s i m p l y h 、h a l ( 、t h a ti l ( 、 h a s l l l t oa b i l i l ? ，b e c a u s en l a y b el i eh a sl n a d eac a r e l e s sm i s ta h s w ( 1s h o u l dh e ( e l i a s p e c s i fl h ec l a s s i f i c a t i o ni st o os t ，r i e lw ew ( 】n l t ，g e l ，s a t i s f a e t o r yr e s u l t 【l lt h i sp a p ( 、i k u l l b a c k l e i l ) l e li n f o r n l a d o ni su s e dt , o a n a l y z et h e e s t ，) t r a i t i o no f p a r a r t l t 3 1 a l l ( ) t h e i r l ( d ( 、1 m o r e o v e r w e b r i n gf o r w a r da r l e wi d e a o ft h es i t ，u a t i o nt h a to n ei t e m “、s ts s e v ( ! l 川a b l l i t i e s k e yw o r d s ：p a r t i a l l yo r d e r e ds e t ；u p s e t ；k u l l b a e k b e i b l e ri n l b , n l a t i o n s h a l l 1 0 1 、l 】fr o p yp i o c e d u l e ：m a x i m u mp o s t , e l i o i p r o b a b i l i t yp r o c e d m ( 、：( ：o g n i t i 、( 、1 n o d ( 、1s o ( i t l ( ，f l i i a le l a s s i f l e a l i o i l ：g i b b ss a m p l i n g 独创性声明 本人声明所呈交的学位论文是本人在导师指导下进行的研究工作及取得的研究成果据我所 ；l j ， 除r 文中特别加以标注和致谢的地方外，论文中不包含其他人已经发表或撰写过的研究成果，也不 包含为获得j d e 师范大学或其他教育机构的学位或证书而使用过的材料。与我一同工作的尉怎对本 研究所做的任何贡献均已在论文中作了明确的说明并表示谢意 学位论文作者签名：至蚤、日 期：9 。 ! 立l 学位论文版权使用授权书 本学位论文作者完全了解东北师范人学有关保留、使用学位论文的觌定，即：东北师范大学彳彳 权保留并向国家有关部门或机构送交学位论文的复印件和磁盘，允许论文被查阅和僧闽本人授权 东北师范大学可以将学位论文的全部或部分内容编入有关数据库进行检索，可以采用影印、缩印或 其它复制手段保存、汇编学位论文 ( 保密的学位论文在解密后适用本授权书) 学位沦文作者签名：至查) 叁 h 期：址越) 指导教师箍名史多士。 h肌必j 学位论文作者毕业后去向： 工作单位：霾1 3 二l 一电话：止郅旦塑。乖4 孑b 通讯龇氍3 袖虱鼬孑孙编：独$ 引言 有限偏序模型本身有着深刻的应用背景，比如：学生认知能力的测试就可以通过建 立一种偏序加以研究这是因为在认知问题中我们通常可以假定某些认知状态的水平 比其它认知状态的水平高。事实上，有限偏序模型在生物信息学、自动医疗诊断等诸多 方面还有着更为广泛的应用本文将以学生认知能力为背景，主要探讨有限偏序模型 的分类问题在学生认知能力的研究中，学生分类的结果取决于试验观察所得到的信 息为了更好地利用所得到的信息，一般需要引入一个合理的统计模型，然后通过后验 概率的计算结果对参加测试的学生进行分类 对于认知问题来说很自然的会选择有限偏序分类模型因为假定某些认知状态的水 平比其它认知状态的水平高是合理的在认知问题中我们认为有限偏序分类模型中的 状态与认知能力有关，比如一个测试个体属于某个队知状态，我们就认为他具有与这个 认知状态相对应的认知能力 利用试验的反应所提供的信息来计算后验概率从而把测试个体进行分类，试验的反 应与模型之阅的关系是十分复杂的，所以我们需要引入一个合理的统计框架来处理和 分析数据在认知问题中的试验就是测试题这方面的研究开始于t a t s u o k a ( 1 9 8 7 ) 和 t a t s u o k a ( 1 9 9 0 ，1 9 9 5 ) 在教育测试领域中所做的一些工作f a l m a g n e 和d o i g n o n 等 人将偏序模型应用在教育应用中吵在研究群检验( g r o u pt e s t i n g ) 问题时d 洲，m 口咒 e t n 2 也应用了偏序模型刚当医学临床背景对疗效或疾病在哪些方面有功效感兴趣 时”，这样的偏序模型在神经心理学方面也很有用m a c r e a d y 和d a y t o n 描述了偏 序集合中只有两个状态( 对于一个给定的知识领域掌握或没掌握) 的情况i7 | 这里没有 应用潜在变量理论对于有限偏序分类模型在分类时用序贯分类的方法可以减少试 验的个数在应用序贯分类方法的时候，t a t s u o k a 采用了s h a n n o n 熵法本文提出 了另一种方法，最大后验法在非序贯法的最大后验概率大于0 8 且停止规则相同时， 最大后验法比s h a n n o n 嫡法节省了试验个数并在试验个数相同时，真实状态的后验 概率比，了，z n o n 熵法的后验概率大并对t a t s u o k a 提出的模型存在的问题做了讨沧 和改进 l 教育测试的例子 本节将介绍偏序集合的定义和t a t s u o k a 给出的例子 1 1 偏序集合的定义 偏序集合是这样定义的：首先在集合s 的元素之间定义一个序比如s = = f “，b ，c ，c f 如果集合的元索是数，我们町以通过数的大小来定义序：a b 辛a b 如果集合的 元素是集合s = a ，b ，c ，d ) 我们可以用集合之间的包含关系来定义序：l b 寺 a b 集合巾任意两个元素之间不一定有序的关系，这样的集合叫偏序集合，认为处 在第i 个认知状态的学生有处于第j 个认知状态的学生的认知能力也就是说第j 个 状态学生答对的题第i 个状态的学生也一定能答对这时状态和状态之间就存在了序 的关系，记做：jsi 所以对于认知问题假定模型为偏序集合是合理的不仅认知问 题，有限偏序分类模型有很广泛的应用背景，如自动医疗诊断，生物信息学等 1 2 教育测试的例子 f 面以t a t s u o k a 提供的数据为例，所涉及的知识领域是分数减法对2 1 4 4 名学生 进行了2 0 道分数减法题目的测试反应分布为b e r n o u l l i 分布模型包括了3 7 个状 态，即s = l ，2 ，3 7 图一显示了3 7 个状态之间的偏序关系我们的目的就是把 学生分到他真实所在的认知状态分到哪个状态是通过对测试题回答的情况所提供的 信息来进行的每一道测试题都被认为必须具有相应的能力才能作出正确的回答对于 每道测试题，学生答对记做l ，答错记做0 其中考察的能力有把整数化成分数，从分数 中分离出整数，先化简再相减，寻找公分母，同分母分数相减，把结果化筒到最筒形式 等7 种能力分别记做a ，b ，c ，d ，e ，f ，g 表一列出了部状态所对应的能力 表一 状态有的能力没有的能力 la b c d e f g 2b c d e f g 3a b d e f gl 一 4a b c d f g 口 5a b d f g e 和c 6b d f gc 和a 7b c d f gc 和a 8b d f g e 和c 和a 图各状态之间的偏序关系图 甲 2 有限偏序分类模型 当模型非常复杂的时候，我们需要适台模型的数据分析工具， 2i 统计框架 令s 代表分类状态的集合已是一个有限偏序集，对于每个测试个体s 巾一定有一 个元索足他所属的真实状态，代表试验的集合( 这里就是测试题目的集合) 每道测 试题者b 考察了学生的一种或几种能力对每一个8 ，s s 下的反应随机变量x 有 相应的条件反应分布f ( a ：l e ，s ) 假定，( ：c ks ) 是在可测空闻( 疋，鼠) 上关于一一有限测 度，“可测的一个密度这样的反应变量也可以是向量一旦做了一个试验，就会得到 一个观测值、rj 这个。提供的信息用来把测试个体分类到他所羼的真实认知状态 s 中的每个元素都有一个先验分布令丌0 ( j ) 代表测试个体属于第j 个状态的先验概 率有托个观测后的后验分布记为令e ：，e ：占分别代表第l 步到第咒步所做 的试验给定试验e ；，e ：，e ：和相应的凡个观测x 1 = 。1 ，x 2 = z 2 ，x 。z 。， 那么测试个体属于第j 个状态的后验概率为”。( j ) ，则 ”o ( j ) 订，( 现k ，j ) 7 r 。( ) = _ 乎三l ( 】) 卜o h f ( x ；b j 洲出) ” # = i 一个很自然的分类规则就是试验停止时选择后验概率撮大的状态为测试个体的真实 认知状态、 元素在偏序集合p 上的上集合( 印一s e t ) 定义为：( z ：。，z p 记为个g ， 鼬： 十= z ：。；z p 令玑是具有e z 对应能力的最小状态，则在给定试验( 测试题) e ：，真实状态为s 时 对于认知问题来说x 的条件分布为： 蚓矗，s ，= 高薯需玑s s 其中 几：( z ) = m ( 岛) 。( 1 一p l , ( e ：) ) 。5 g 。( z ) 一p ，( e ；) 2 【l 一研( ( - ，) ) 1 一。 ，h ( p 。j ：州q ) 分别为二项分布的参数。 1 一m ( e 。) 代表状态在ty ：中的学生由于马虎答错这道题的概率，研( ) 代表状态 在t 玑补集中的学生蒙对这道题的概率f l o 】 对于多策略问题，比如第i 题为： ；一；，解决这个问题可以用一个数减去它本身 等于0 或同分母分数相减两种方法两种方法对应的最小状态分别为弘和z i ，则密度 函数为： ，扛 e 。，s ，一 曼： ：；窑需吼8 或磊s 3 密度函数中：s ( 玑兰s 或z ，ss ) 和它的补集都称作分配，即每个e ：都对应着两个分 配两个状态被分开的：营思就是它们在不同的分配中共测试7 种能力，要求状态个数 2 7 2 2 模型的参数估计 本节巾，我们将借助g i b b ，抽样技巧，并用后验分布的均值作为参数的估计值g i b b s 抽样的过程遵循g e l f a n d 等人提出的限制，即：几( e ，) 伽( e ：) 作参数估计时用了 前1 9 3 0 个测试个体的数据 令 o = ( 弘。0z ) ，研( cz ) ) ，弛( 如) ，肌( e 。o ) ) 代表最新抽出的参数值对于每一个e 。i = 1 ，2 ，2 0 都对应着两个参数m ( e 。) 和 p z ( e 。) ，共2 0 道测试题，4 0 个参数 第一步： 对m ( e 。) ，z = l ，2 一，2 0 ，从卢( 15 ，1 0 ) 中抽取一个随机数作为初值， 对p t ( c 。) ，i = l ，2 ，2 0 ，从卢( 1 0 ，1 5 ) 中抽取一个随机数作为初值即 m ( 岛) 的先验分布为卢( 1 5 ，1 o ) ( j = 1 ，2 ，2 0 ) ， p l ( e 。) 的先验分布为卢( 1 0 ，15 ) ( z = 1 ，2 ，2 0 ) 第二步： 对第个测试个体给定x ( ) ( 在这里是向量( x - ，砀，弼o ) ) 和最新抽出的0 计 算 7 r ( ) ( j ) i x ( k ) ，0( 2 ) 其中a ( k ) = 2 0 ( j = 1 ，2 ，3 7 ) ( 2 ) 式中的元素通过( 1 ) 式米计算 第三步： 对每个个体拔出最大的”t o ( j ) ( j = 1 ，2 ，3 7 ) 作为这个测试个体的真实状态令 x 。( q ) ，丑( c 2 ) 为真实状态s ( 自) 在t 仉和t 玑的补集中的反应数据 第四步： 得到n ，( r ：1 、t ；t ( ) 的后验分布( i = l ，2 一2 0 ) 卢 p 。( e 。) i x 。( 岛) ) ，卢 p ( e ：) ! x ! ( e 。) ) i = 1 ，2 ，一，2 0 用后验均值作为参数的估计值 阢( e 。) ，p l ( e t ) 的联合密度正比与： p 。( c ：) ”1 ( 1 一p 。e ：) ) “n 1 ”n p ( e ：) “2 ( 1 - - p ( q ) ) “一”“p 。( e 。) o5 ( 1 一p 。( e ，) ) o p “e 。) o ( 1 一p fe ，) ) “5 没有用到潜在变量理论，这里”，7 2 。，n 2 。是观测数据且满足： 札i i + “2 i 一1 9 3 0 ， 其中m 。为真实状态在ty ，中测试个体的总数，$ t 2 i 为真实状态在十玑补集中的测试 个体的总数，竹1 1 ：为n l 。中1 的个数，? t l 2 i 为7 t 2 i 中i 的个数( i = i ，2 ，2 0 ) 此外， 表二是参数估计的结果 表二 题日研的后肌的后p 。的后p 。的后 ty ：验均值验均方差验均值验均方差 1ti 00 1 3 8 700 0 3 2 6 60 9 9 9 7 900 0 6 4 9 0 2千2 00 0 0 0 2 10 0 0 0 2 6 909 7 2 0 20 0 0 6 5 7 7 3，r2 00 0 0 3 0 20 0 0 2 14 60 8 6 5 8 20 0 0 5 7 1 4 4个2 40 2 7 4 1 30 0 0 2 3 3 6 0 ，8 8 4 8 50 0 0 6 0 3 4 5 t1 8 或t3 3 0 2 2 4 6 000 0 5 0 0 70 8 1 1 8 60 0 0 5 9 9 8 6 十3 60 0 0 0 5 60 0 0 0 5 8 709 5 3 9 900 0 6 7 3 6 7十3 0 0 0 2 3 5 00 0 0 2 9 4 008 6 5 8 800 0 9 5 1 8 81 、3 60 4 5 8 5 50 0 0 6 6 120 8 0 8 1 0 0 0 0 5 4 0 5 9千3 40 3 2 1 0 90 0 0 7 0 0 20 7 6 7 9 4 00 0 5 3 9 4 0十3 200 3 2 6 60 0 0 7 0 0 20 7 5 0 7 0 0 0 0 6 3 1 1 1 1 t3 20 0 6 2 9 0 0 0 0 2 3 4 7o 9 1 0 3 6 0 0 0 7 3 3 8 i 2 1 、3 60 0 7 4 5 50 0 0 9 3 3 80 8 5 9 1 900 0 5 7 2 6 1 3 t1 60 0 1 4 2 60 0 0 1 9 0 30 6 5 3 7 90 0 0 5 0 0 0 1 4 十3 400 4 4 7 50 0 11 9 2 90 9 5 2 8 90 0 0 6 7 4 9 1 5 十3 50 0 7 8 7 3 00 0 6 1 4 408 9 8 9 1 0 0 0 7 17 8 1 6t3 40 1 2 4 0 600 0 7 5 2 7o 8 9 1 7 4 0 0 0 6 7 5 4 1 7十3 2 00 3 1 1 80 0 0 3 6 6 30 8 6 5 9 80 0 0 6 3 7 9 1 8 t2 9 或t3 1 o 1 4 4 4 90 0 0 2 8 4 90 9 9 9 7 400 0 6 4 9 j 1 9十2 2( ) 0 2 8 7 600 0 1 5 9 408 5 9 5 9 00 0 6 8 9 1 2 ( ) t2 400 0 6 5 600 0 1 3 2 409 2 6 7 400 0 6 5 5 1 3 序贯分类 3 1 选择试验的一些方法 序贯分类的过程是：先选择这一步要作的试验，每次作完试验计算每个状态的后验 概率根据停止规则央定什么时候停止试验试验停止后把测试个体分到此时后验概率 最大的状态这里对2 1 4 名学生进行分类 如果6 s ，且对于所有j s ，都有o j ，则称o 为s 的底元素j l i j z , 玑= 0 ( 假设 与玑对应的试验为c ：) 就没有提供任何信息因为这个时候s 中所有状态都有相同的 分布当出现o 的时候，用= e f ) 作为试验的集合 t a t s u o k a 和f e7 g u s o n 提出了几个选择试验的方法 令 = ”。( j ) j 玑 下面是儿种与m 。( 吼) 有关的选择试验的方法： 3 1 1 二分法( h a l v i n ga l g o7 _ i t h n l ) 一种很自然的想法就是二分法即：h ：i - n _ 选择使 l m 。( e ：) 一0 5 l 最小的那个试验作为第n + 1 步的试验也就是选择的试验满足：与之对应的两个分配 的权重都接近1 2 停止规则： 当, r - n ( j ) j = 1 ，2 ，3 7 的值有一个大于。舟时停止试验若1 l 步的最大后验概率 仍小于0 8 ，则停止试验 这种方法只有在计算”。时才会用到，和g ，计算起来很简单，但用起来不是很有 效 3 1 2 s h a n n o n 熵法 s h a n n o n 熵的定义 e 丌t c ) 卜 - t o g ”，。( j ) ) ”。( j ) 1 j f 那么如何选择下一步进行哪个试验呢? 定义s f m 熵过程s h ：百。_ 一川q ) 二研。h 一z ) ) 1 ，( z h 7 h ( j ) ) ( d z ) ” j 6 , 9 其中”儿+ ( g i ，z ) 代表给定e 。1 = x 。+ l = 茁的后验概率分布 那么第n + 1 步选择的试验就是使( 3 ) 式最小的那个试验 停止规则： 当7 r n ( j ) j = 1 ，2 ，3 7 的值有一个大于0 8 时停止试验若1 1 步后的最大后验概 率仍小于0 8 ，则停止试验 对于s h a n n o n 熵过程也可以写成 r s ( ”。，e i ) = e n ( ”。+ ( e 。，z ) ) h ，( z ) m 。( e 。) + 9 ( z ) 1 一 n 。( e 。) ) 卢( d z )( 4 ) 也就是说( 4 ) 式是s h a n n o r 。熵关于墨川边际分布的期望，其中肖。+ 1 的密度为混合 密度 ，x 。+ ，( z l r r ，。，e 。+ 1 = e 。) ：= f ( x ) m 。( e ：) + 9 ( z ) 1 一m 。( c 。) ) t a t s u o k a 在2 0 0 3 年还提出可以用 s h + ( n 。，c i ) ：= s ( 7 r 。，e i ) 一e 。( 7 r 。) 达到最小的那个试验显然s h a n n o n 熵法更多的依赖，和g ，所以比二分法更灵敏 些 t a t s u o k a 由此提出了一系列选择试验的方法令“代表选择试验的方法，“中选 择试验的方法满足：对于定义在( 0 ，1 ) 上的连续函数u ，第礼步选择使u ( 7 - 7 , 。( e ；) ) 最大 的试验其中u 满足： ( n ) u ( o ) = u ( 1 ) = 0 ， ( b ) u 在( 0 ，1 ) 上有唯一的最大值 ( c ) 存在0 k o k ：，0 1 硝使得 k o x u ( t ) o z当。无限接近0 时 七1 ( 1 一z ) u ( z ) g ( x ，。) 且( ，( 矗) 9 ( x 。) ) ，若第n + 1 步选择的试验为e n + 1 ，则有y 时l 不小于玑( 珈+ ，不大于玑) 称这种 方法具有有序试验选择性质( o r d e r e de x p e r i m e n ts e l e c t i o np r o p e r t y ) t a t s u o k a 证明 了“中选择试验的方法都满足有序试验选择性质，从表三、表四和表五可以看出，在 序贯分类过程中s h a n n o n 熵法和最大后验法所选择的试验也有类似乘胜追击的性质 在对一个测试个体进行分类时，一个试验会被重复选择几次 4 s h n n 彻n 熵法与最大后验法的比较 本节在停止规则相同的条件下，将5 h a r m o n 熵法与最大后验法作r 比较表三中的 数据非序贯法的最大后验概率都大于o 8 试验试验停止时序贯分非序贯 个数的后验类的真分类的真 概率实状态实状态 s h a n n o n 熵法 422 ( ) 7109 3 8 51 11 1 后验概率法 21 9 1 30 8 6 2 21 11 l s h a n n o n 熵法 822 071 461 51 4208 4 5 23 63 6 后验概率法 51 421 56 1 40 8 4 0 53 6 3 6 s h a n n o n 熵法 1 1 22 071 4l l7251 71 450 8 8 2 33 43 4 后验概率法 31 21 6 1 2o8 1 6 53 43 4 s h a n n o n 熵法 522 071 460 9 0 1 73 7 3 7 后验概率法 36i 260 9 8 8 53 73 7 s h a n n o n 熵法 r 022 071 460 9 0 1 73 73 7 后验概率法 36 1 26 0 9 8 8 53 73 7 s h a n n o n 熵法 82i2 01 471 81 82 008 4 5 455 后验概率法 617l l1 8 22 00 8 2 0 255 s h a n n o n 熵法 422 01 870 8 7 0 62 42 4 后验概率法 42 01 8 1 57o 8 8 8 02 42 4 s h a n n o n 熵法 622 071 8 1 7 1 8 0 8 2 9 52 52 1 后验概率法 41 921 8 1 9 0 8 2 5 l2 12 1 s h a n n o n 熵法 422 01 8 70 8 0 2 62 l2 l 后验概率法 41 921 81 9 08 2 5 12 12 l s h a n n o n 熵法 1 02 】2 0771 81 451 450 8 8 5 881 1 后验概率法 41 92 1 81 90 8 2 5 l1 ll l s h a n n o n 熵法 52l2 071 8 0 9 2 2 81 11 1 后验概率法 41 911 3 】8 08 5 8 61 11 1 s h a n n o n 熵法 422 0t 87 0 8 6 7 0 2 42 4 后验概率法 42 01 81 5 7 0 ，8 8 8 02 42 4 s h a n n o n 熵法 922 071 41 11 87 】12 009 4 5 1 3 23 2 后验概率法 71 751 8 1 5 22 01 70 8 7 0 33 23 2 试验试验停止时序贯分 非序贯 个数 的后验类的真分类的真 概率实状态实状态 s h a n n o n 熵法 522 01 871 8 o 8 1 2 02 3 2 3 摄大后验法 52 021 51 8 1 508 1 4 52 32 3 s h a n n o n 熵法 4217 1 40 8 0 6 51 l1 1 最大后验法 31 312 00 8 9 9 0 1 l1 1 s h a n n o n 熵法 5212 07 1 80 9 2 2 81 1 1 l 最大后验法 51 911 9 1 8209 4 7 9 1 l1 1 s h a n n o n 熵法 922 071 4 1 11 8 1 872 00 9 4 9 43 】3 l 最大后验法 61 81 551 72 01 80 8 2 2 9 3 l3 l s h a r m o n 熵法 622 071 8 1 71 808 2 9 52 52 5 最大后验法 61 857 1 72 01 808 5 8 42 5 2 5 s h a m l o n 熵法 7212 01 4 1 5 l1 408 7 9 42 52 5 最大后验法 51 411 511 40 8 5 4 3 2 52 5 s h a n n o n 熵法 422 01 8 70 9 3 9 8 2 22 2 最大后验法 41 921 81 90 9 6 1 6 2 22 2 s h a n n o n 熵法 7 2l2 01 471 810 8 9 4 044 最大后验法 5171 8l70 8 6 3 4 44 两种方法的比较： 从表三中可以看出：当非序贯法的最大后验概率大于0 8 两种方法都把测试个体分到真 实状态时，最大后验法用的试验个数比s h a n n o n 熵法用的试验个数少当试验停止试 验个数相同时最大后验法的后验概率比s h a n n o n 熵法的后验概率大 i 试验停止时试验分到的 的后验概率状态 s h a n n o n 熵法 0 8 8 2 322 071 41 17251 71 453 4 ! 最大后验法 0 9 7 9 8 1 21 61 23 7 非序贯法 03 2 5 63 3 矛订3 4 s h a n n o n 熵法 0 8 8 2 322 071 41 17 251 71 453 4 i 最大后验法 0 8 1 6 51 2 1 61 23 7 1非序贯法 04 5 0 23 3 和3 4 【s h a n n o n 熵法 08 8 2 322 071 41 17251 71 453 3 l 最大后验法 0 9 0 5 21 28 1 2 83 7 l非序贯法 0 ，4 8 4 93 3 和3 4 ls h a n n o n 熵法 o8 4 5 222 071 4 6151 43 6 j 最人后验法 0 8 3 9 41 48 2 853 7 非序贯法 ( ) 3 3 0z 3 6 试验停止时试验分到的 的后验概率状态 s h a n n o n 熵法 0 ，8 6 2 222 071 41 172 553 3 最大后验法 09 7 3 768 63 7 非序贯法 0 ，4 8 5 63 3 和3 4 s h a n n o n 熵法0 8 4 5 2 22 071 461 5 1 43 6 最大后验法 08 3 9 41 48281 53 7 非序贯法 0 6 8 7 73 6 s h a n n o n 熵法 o8 7 9 4212 01 41 511 4l o 最大后验法 0 8 5 2 41 2 1 41 283 7 非序贯法 0 7 7 0 91 0 s h a n n o n 熵法 0 。8 1 2 022 01 871 82 3 最大后验法 o 8 3 9 461 663 7 非序贯法 0 4 6 7 42 3 s h a n n o n 熵法 0 8 8 2 322 071 4 1 17251 71 453 4 最大后验法 09 8 8 56 1 2 63 7 非序贯法 0 4 4 1 03 3 和3 4 s h a n n o n 熵法 0 8 8 2 322 07 1 4l l7 251 71 453 4 最大后验法 0 8 4 3 48 2 81 581 13 7 非序贯法 0d 8 9 23 3 和3 4 从表四可以看出当用非序贯方法即所有2 0 道题目的信息都用上时的最大后验概率 值小于6 8 时有时最大后验法都会把这个测试个体分到状态3 7 试验停止时试验 分到的 的后验概率 状态 s h a n n o n 熵法 08 2 5 92 12 01 47172 05l 7 最大后验法 0 9 0 5 2 1 281 28 3 7 非序贯法 0 ，3 4 4 3 2 s h a n n o n 熵法 08 2 5 9 212 01 47l72 05 l7 最大后验法 08 3 3 9 1 32 01 51 32 01 3 非序贯法 0 3 9 2 ( ) 2 和6 s h a n n o n 熵法 0 8 2 5 9 212 01 471 7l72 0517 最大后验法 0 8 0 4 6 1 611 5 1 61 1 0 非序贯法 o3 1 9 1 1 2 s h a n n o n 熵法 0 7 1 7 0 217 1 4 1 l71 712 02 0 l l 最大后验法 o 8 1 6 81 2 9 1 293 7 非序贯法 0 3 4 5 7 1 3 s h a n n o n 熵法 09 3 8 322 071 81 71 8 2 01 11 11 71 l2 5 最大后验法 08 3 4 71 621 51 6 1 5 3 5 非序贯法 0 3 2 4 5 9 和1 1 s h a n n o n 熵法 04 9 8 l2l71 4 1 171 171 12 071 7 和1 8 最大后验法 08 1 6 5 1 21 61 23 7 非序贯法 0 3 3 4 92 0 s h a n n o n 熵法 0 8 9 4 02l2 01 471 8 14 最大后验法 0 8 0 4 21 2 1 5 1 2 5 3 7 非序贯法 o5 3 6 21 3 s h a n n o n 熵法 0 4 9 7 62171 4 1 171 71 471 771 7 和1 8 最大后验法 09 8 3 81 91 821 93 7 非序贯法 02 8 9 51 4 和1 5 s h a n n o n 熵法 08 4 5 4 212 01 471 8 1 85 最大后验法 0 4 9 9 4171 7 l1 8721 71 8l1 81 和3 非序贯法 0 9 5 2 01 3 s h a n n o n 熵法 08 8 5 62l2 01 47l72 05l57 最大后验法 0 9 4 7 91 911 91 821 1 非序贯法 0 3 4 5 04 s h a n n o n 熵法 0 ，8 2 5 92l2 01 47172 0517 最大后验法 0 4 9 9 211 71 5l1 51 821 51 81 71 82 非序贯法 0 4 8 3 22 和6 s h a n n o n 熵法08 6 0 5 212 01 47172 051 4 8 最大后验法 05 0 0 01 911 311 911 8 1 911 811 和3 非序贯法 03 3 1 51 2 和16 试验停止时 试验分到的 的后验概率 状态 s h a n n o n 熵法 0 9 4 5 1 22 071 41 11 871 l2 0 3 2 最大后验法 0 。9 1 6 31 68281 5 83 7 非序贯法 02 8 7 3 3 6 s h g n n o n 熵法 04 9 8 2212 071 8 1 9 1 972 071 8l 和3 最大后验法 0 8 5 0 2 1 3 71 9 1 31 91 3 非序贯法 o 3 1 4 4 2 1 和6 从表五( j ) 可以看出当非序贯法的最大后验概率小于0 8 时，有时最大后验法和s h a n n o n 熵法分类结果都与非序贯法不一致 试验停止时试验分到的 的后验概率状态 s h a n n o n 熵法 0 8 1 6 6 22 071 8 1 75 22 8 最大后验法 09 1 5 9 1 421 51 4 1 53 5 非序贯法 04 6 1 43 5 s h a n n o n 熵法 0 8 1 5 02】2 01 41 519 最大后验法 0 。8 7 5 41 4 11 519 非序贯法 0 7 4 0 0 4 s h a n n o n 熵法 0 8 4 5 42l2 01 471 81 85 最大后验法 05 0 0 01 911 311 911 81 911 8ll 和3 非序贯法 0 4 9 4 81 和3 s h a n n o n 熵法 0 4 7 4 62171 41 171 7l l1 71 1 1 71 3 最大后验法 0 8 6 2 21 91 3l1 1 非序贯法 0 ，9 9 6 51 1 s h a n n o n 熵法 08 0 2 622 01 8 72 1 最大后验法 0 8 2 5 11 921 8 1 92 1 非序贯法 0 4 9 4 91 和3 s h a n n o n 熵法 04 7 4 62l7 1 41 17 1 71 11 71 11 71 2 最大后验法 08 9 9 01 3l2 01 1 非序贯法 0 3 1 4 41 1 s h a n n o n 熵法 0 4 9 9 82172 01 71 771 71 77 21 4 和1 j 最大后验法 0 8 6 2 21 9 1 311 1 非序贯法 0 9 5 5 91 1 试验停止时试验分到的 的后验概率状态 s h a n n o n 熵法 o 8 1 2 022 01 8 71 82 3 最大后验法 09 8 4 461 463 7 非序贯法 05 4 2 83 7 s h a n n o n 熵法 0 8 0 6 52l7 1 41 1j 1 最大后验法 0 9 8 8 42 01 52l2 01 1 非序贯法 0 4 0 4 11 2 和1 6 s h a n n o n 熵法 0 , 9 4 5 122 071 4 1 11 871 l2 03 2 最大后验法 0 8 5 7 71 621 5 6 1 61 53