（基础数学专业论文）owa算子与模糊积分的比较研究.pdf

摘要 摘要 本文主要研究了在多分类器融合领域中，对作为融合工具的o w a 算子与模糊积分的 比较。主要结果如下：举例说明了o w a 算子与c h o q u e t 积分的关系。通过实例论述了 在多分类器融合系统中，融合算子采用不同的模糊积分对融合结果的影响。借助w i t o l d p e d r y e z 在文献“o w a - b a s e dc o m p u t i n g ：l e a r n i n ga l g o r i t h m s ”中提出的对0wa 算子的 推广，定义了多分类器融合中两类表示能力很强的广义o w a 算子一析取( o r ) 型o w a 算子 与合取( a n d ) 型o w a 算子，提出并证明了其与s u g e n o 模糊积分、w e b e r - 积分以及( n ) 模糊积分的关系；发现并证明了广义o w a 算子成为融合算子的一个充分条件；仿照 0 w a 算子的o m e s s 度的定义，给出了广义o w a 算子的o m e s s 度，这个度量指标可以 表达广义o w a 算子对应的模糊积分的逻辑倾向，从而可以用它来指导学习权重。借助 实例计算了广义o w a 算子的三种度量指标。 关键词融合算子o w a 算子模糊积分广义模糊积分广义o w a 算子 a b s t r a c t a b s t r a c t t h ep r e s e n tt h e s i sm a i n l ys t u d i e st h ec o m p a r i s o no fo w a o p e r a t o r sa n df u z z yi n t e g r a l s a st o o l so fa g g r e g a t i o ni nt h er e g i o no fm u l t i - c l a s s i f i e rf u s i o n t h em a i nr e s u l t sa r ea sf o l l o w s ： t w oe x a m p l e sa r ep r o v i d e dt oe x p l a i nt h er e l a t i o n s h i pb e t w e e nt h eo w a o p e r a t o ra n dt h e c h o q u e ti n t e g r a l t h ei n f l u e n c eo fd i f f e r e n tf u z z yi n t e g r a l sa s s u m e db ya g g r e g a t i o no p e r a t o r o nt h er e s u l t so fa g g r e g a t i o ni nt h es y s t e mo fm u l t i c l a s s i f i e rf u s i o ni se x p o u n d e db ym e a n so f e x a m p l e s t w ot y p e so fg e n e r a l i z e do w ao p e r a t o r , i e ，o r t y p eo w ao p e r a t o ra n d a n d t y p eo w ao p e r a t o ra r ed e f i n e db ym e a n so ft h eg e n e r a l i z a t i o no fo w ao p e r a t o r s u g g e s t e db yw i t o l dp e d r y e zi nh i sp a p e r “o w a b a s e dc o m p u t i n g ：l e a r n i n ga l g o r i t h m s ”， t h et w ot y p e so fg e n e r a l i z e do w ao p e r a t o ra r ev e r ye f f e c t i v ei n r e p r e s e n t a t i o n i n m u l t i c l a s s i f i e rf u s i o n ，a n dt h e i rr e l a t i o n s 淅t hs u g e n of u z z yi n t e g r a l s ，w e b e ri n t e g r a la n df n ) f u z z yi n t e g r a l sa r ed i s c o v e r e da n dp r o v e d ，as u f f i c i e n tc o n d i t i o nf o rag e n e r a l i z e do w a o p e r a t o rt ob eaa g g r e g a t i o no p e r a t o ri s f o u n d e da n dp r o v e d ；t h eo m e s sd e g r e eo fa g e n e r a l i z e do w ao p e r a t o ri sg i v e na sam o d e lo fo r n e s sd e g r e eo fao w ao p e r a t o r ，w h i c hc a n b eu s e dt oe x p r e s st h el o g i ct e n d e n c yo ft h ef u z z yi n t e g r a lc o r r e s p o n d i n gt ot h eg e n e r a l i z e d o w ao p e r a t o ra n dt h e r e f o r ec a l lb eu s e da sag u i d et os t u d yt h ew e i g h t t h r e et y p e so f m e a s u r e m e n ti n d e x e so ft h eg e n e r a l i z e do w a o p e r a t o ra r ec o m p u t e dv i ae x a m p l e s k e yw o r d s ：a g g r e g a t i o no p e r a t o r s ；o w ao p e r a t o r s ；f u z z yi n t e g r a l s ；g e n e r a l i z e df u z z y i n t e g r a l s ；g e n e r a l i z e do w ao p e r a t o r s i i 河北大学 学位论文原创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下进行的研究工作 及取得的研究成果。尽我所知，除了文中特别加以标注和致谢的地方外，论文 中不包含其他人已经发表或撰写的研究成果，也不包含为获得河北大学或其他教 育机构的学位或证书所使用过的材料。与我一同工作的同志对本研究所做的任何 贡献均已在论文中作了明确的说明并表示了致谢。 作者签名： 查生纽一 一 日期：盈珥年上月j 互一日 学位论文使用授权声明 本人完全了解河北大学有关保留、使用学位论文的规定，即：学校有权保留 并向国家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。 学校可以公布论文的全部或部分内容，可以采用影印、缩印或其他复制手段保存 论文。 本学位论文属于 1 、保密口，在年月日解密后适用本授权声明。 2 、不保密醪。 ( 请在以上相应方格内打“ ) 作者签名： 导师签名：蒸坠 日期：埠年月且日 日期：耳年上月上l 日 第1 章绪论 第1 章绪论 1 1 研究工作的来源与意义 在分类器的类型和设计方法的选择过程中，应该选用哪种类型的分类器及什么样的 设计方法呢? 目前还没有理论依据说明哪一种类型的分类器优于其他类型的分类器。因 为各种类型的分类器和分类器设计方法都有它自己的优缺点和一定的适用范围，因此在 模式识别问题中，单纯设计一个高性能的分类器是不够的。 为了提高识别性能，人们设计多个分类器同时用于一个分类问题，即多分类器联合 方法，也称为多分类器系统。目前从理论上还不能严格证明多个分类器联合的性能一定 比单个类器的性能高，但是大量的实际应用、实验和一些特定情况下的理论结果表明多 分类器联合方法是成功的。 分类器融合是多分类器联合的一个主要策略。在分类器融合中，每一个分类器都被 看作是整个特征空间上的专家，含有关于整个特征空间的信息，各分类器之间是竞争关 系；应用时，每一个分类器都对待识别样例进行分类，然后由融合算子把各个分类器的 输出进行整合得出最终的分类结果。 分类器融合主要有利用决策模版和利用融合算子这两种方法，利用决策模版的方法 详见 1 。本文中主要讨论了利用融合算子进行多分类器融合的方法。在分类器融合中， 根据分类器的输出类型不同融合算子也不同。分类器的输出是一个清晰的类标时，融合 算子有多数投票方法( v o t i n gm e t h o d ) 和行为知识空间方法( b e h a v i o r - k n o w l e d g es p a c e m e t h o d ) 【1 1 。b o r d a 数方法经常用作分类器的输出为排序类标时的融合算子【1 - 2 。 分类器的输出为非负连续实值向量( 也称为软输出或者软类标) 时，融合算子比较 多，有取大取小( m a x i m u m m i n i m u m ) 、中值( m e d i a n ) 、平均( a v e r a g i n g 或m e a n ) 、 加权平均( w e i g h t e da v e r a g i n g ) 、乘积方法( p r o d u c t ) 、b a y e s i a n 方法等等。融合算子有 多种，但是没有一种融合算子在各种情况下都比其它算子效率高。很多比较工作是从实 验方面进行的。一般认为，模糊积分相对于其它融合算子的明显特点是，不仅能够体现 各分类器的重要性，模糊测度还能够一定程度上表示分类器之间的交互作用【3 1 。而不同 形式的模糊积分会产生不同的融合结果，即融合结果依赖于模糊积分的形式，所以探讨 河北大学理学硕士学位论文 模糊积分的各种形式是必要的。 另一种融合算子一o w a 算子有很强的逻辑刻划能力，为我们提供了一个范围广泛的 模糊集算子。基于知识的神经计算的范式对在计算结构中的函数要素提出了一个必须的 要求，而标准的神经网络缺乏这样的能力，即不能包括所有事先给定的领域知识。任何 一个成功的合作系统需要作这样的要求h 3 ： ( 1 ) 出现的拓扑结构能够包括任何事先的、定性的或不精确的领域知识； ( 2 ) 网络要有直观的解释。 o w a 融合算子很好地做到了以上两点，融合过程可以看作是一个网络，被融合的值 看作是n 个输入，融合算子中的参数可以看作是连接权重。o w a 算子在神经网络模型、 多水平决策、数据基系统、模糊系统模型、多水平融合问题、信息融合、模糊逻辑控制、 模糊群决策理论、图像压缩和多属性分类、处理语言标签、用语言o w a 算子处理群决策 问题中广泛应用。 近年来，o w a 算子的研究有了很大进展，而模糊积分也随着应用的需要，产生了各 种推广形式。通过对o w a 算子与模糊积分的比较，我们对二者在多分类器融合中的特点 更加了解，从而为在实际中应用多分类器融合提供数学基础。 1 2 本课题的国内外发展现状 o w a ( o r d e r e dw e i g h t e da v e r a g i n g ) 算子的概念是由y a g e r 于1 9 8 8 年在多水平决策 问题中陆1 提出来的。o w a 算子是一个带参数的算子族，当其中的参数取不同的值时， o w a 算子对应着不同的算子。在用o w a 算子融合的过程中，选择适当的权重，可以使融 合的类型从“a n d ( m i n ) 连续地到“o r ”( m a x ) ，详见 5 。o w a 算子在不同的环境应 用的过程中，产生了各种变体，以下从函数的观点简要概括了对o w a 的各种推广，其中 主要是y a g e r 的工作。 ( 1 ) ( y a g e r ) ：g o w a ( g e n e r a l i z e do w ao p e r a t o r s ) 唧是1 9 8 8 年提出来的，在许多领 域都有应用： h 1 m ：i “专，= 【o ，l 】，m q 附饵) ( q ，口2 ，) = ( q 岛1 ) i ，其中， i = 1 q = 1 ，蚴e o ，1 】，2 - o o ，佃】，匆表示口l ，口：，口。中第i 个最大值。和a 为其参数， 第1 章绪论 当a = 1 是，m 为普通的。w a 算子；当q = 丢时，吆q 他，( q ，口2 。，) = ( 喜丢q 1 ) ；为 广义的均值算子。 ( 2 ) ( y a g e ra n df i l e v ) i o w a ( i n d u c e do w ao p e r a t o r s ) m ，用于群决策理论， ：( r r ) ”专r ，= ( q ，吐，) ，c o te o ，1 】，q = 1 ， ( 以，a ) ，( 2 ，p 2 ) ，( 以，岛) ) 是二元组， ( ( 地，p 1 ) ，( z ，仍) ，( 心，以) ) = 蚴p 州) i = 1 盯( f ) 是使得州) t o u + 1 ) , v i = 1 ，2 ，n - 1 的排列。如果引导的变量只就是定义的变量以， 则i o w a 就成为o w a 算子。 ( 3 ) ( y a g e ra n df i l e v ) ：n e a to w a 嘲：f ( q ，口2 ，) = 1 2 哆魏以= z ( 巩。，) ， 1 = i q 依赖于被融合的值，b ，表示口。，口2 ，a 。中第f 个最大值。 ( 4 ) ( y a g e r ) ：h o w a ( h e a v yo w a ) 凹3 是y a g e r 于2 0 0 2 年在不确定性下的决策问题 中提出来的，h o w a 算子是一个n 元函数f ：r ”一r ，由一个n 维向量( 代表权重) w 确定， w = 【w 1 ，w 2 ，w 。】r ， o ，1 】，扛1 ，2 ，刀 ， 1 w ，甩 ， q q 慨川( q ，a 2 ，) = q 岛，其中反表示口。，口：，口。中第i 个最大值。 i = i 若哆= l ，则h o w a 变为o w a 算子；若哆= ，2 ，贝j jh = a t 。 ( 5 ) ( y a g e r ) - c - o w a ( c o n t i n u o u si n t e r v a la r g u m e n to w a ) o p e r a t o r s 1 们。y a g e r 把o w a 算子的融合目标从离散的取值延伸到区间 如b 】上的所有取值。 尼( 陋6 】) ：e d q ，( y ) 。f b - y ( b 一口) 方，其中，q ： o ，1 】专【o ，l 】满足以下性质：一 训鲫 q ( 0 ) = o ，q ( i ) = 1 ，q ( x ) q ) ，耘 y 。q 称为基本单元区间( b u m ) 单调函数。 ( 6 ) 更广泛的推广n ：，( 而，) = g - 1i q g ( 五) l ，g ( f ( 毡，) ) = q g ( t ) ， i = 1 i = 1 其中，g 是一个连续的严格单调增的函数，取g ( x ) = x 1 ，即为g o w a 。 河北大学理学硕士学位论文 ( 7 ) ( w i t o l dp e d r y s c z ) ：在 4 中，通过一个单调增函数f x ；j 输入x 进行转换f ( x ) ，得到 y = c o i f ( x j ) ，使得o w a 处理单元是非线性的。特别地，取厂( x ) - - x pp o 。w i t o l d j 皇l 还指出，对o w a 算子的推广可以从逻辑上延伸，把o w a 算子中的积与和分别用某个 t - 模t 和s 一模s 代替： o w a ( q ，魄，) ( 五，x 2 ，) = 哆薯 兮 y = s ( 彩, r x i ) i - - - 1 x i 依然是按照从大到小的顺序排列，但是对q 的要求放松，不再要求它们的和yc o , 为l 。 百 上述各种不同的o w a 算子大致上可以分为两类：带有固定权重的0 w a 算子和带有 动态权重的o w a 算子，二者的主要区别在于后者权重是与被融合的元素有关的。如果 融合具有独立于元素的顺序的特征，就成为n e a to w a 算子。与普通o w a 算子不同， 一个n e a to w a 算子融合时，不要求元素排序，因此，用n e a to w a 算子来融合用模糊 数表示的半序关系的语言标签。 1 9 7 4 年，日本学者s u n e n o 提出了模糊测度的概念，用单调性代替概率测度的可加 性，即一个正规的、单调的、连续的集函数成为模糊测度。利用模糊测度，又定义了一 种相应的泛函，被称为模糊积分。r a l e s c u 率先把模糊测度和模糊积分的值域推广到整 个的正半轴上，并且利用简单函数重新定义了模糊积分，证明了它与s u n e n o 模糊积分 的等价性，同时给出了模糊积分转化定理。王震源于1 9 8 4 年引入了集函数的自连续的 概念，得到了各种有效的积分收敛定理。1 9 8 1 年，赵汝怀把s u n e n o 模糊积分中的取小 算子替换为普通乘法，给出了( n ) 模糊积分 1 2 】的概念。仿照此，张文修用三角模代替 取小算子，得到t - 模糊积分，1 9 8 6 年，s u a r e z 和a l v a r e z 用三角半模代替取小，得到半 模模糊积分，吴从忻研究了模糊积分运算的特点，于1 9 9 0 年提出了一种称为“广义三 角模”的运算【1 3 1 ，用它代替s u n e n o 模糊积分中的取小算子，就得n - $ 广义模糊积分。 吴从忻、马明、宋士吉等建立了广义模糊积分类似于王震源的收敛定理。 s u n e n o 模糊测度是经典测度的推广，但s u n e n o 模糊积分却不是l e b e s g u e 积分的推 广，即使是广义模糊积分仍然不能以l e b e s g u e 积分为特款。 沿着减弱经典测度可加性条件且能推广l e b e s g u e 积分的思路，1 9 8 4 年，w e b e r 利 用反三角模，定义了s 可分解测度，且在a r c h i m e d e a n 范的情形下，给出了关于此种 第l 章绪论 s 可分解测度的积分，这种积分是l e b e s g u e 积分的推广。与此同时，杨庆季引入两种被 称为泛加和泛乘的运算，定义了一种泛积分。s u g e n o 和m u r o f u s h i 引入了一种拟加运算， 且定义了一种与之相适应的拟乘运算，然后定义了拟可加测度和关于这种测度的拟可加 积分，这一工作推广了w e b e r 的工作当然包含了l e b e s g u e 积分【1 4 1 。 o w a 算子和c h o q u e t 积分之间的关系分别由s u g e n o 和m u r o f u s h i ( 1 9 9 3 年) ； g r a b i s c h ( 1 9 9 5 年) 在 1 5 中，m a r i c h a l 在【1 6 中给出了不同的表述和证明，结论是o w a 算子是c h o q u e t 积分的特殊情况。 1 3 本课题研究的主要内容 本文在多分类器融合的框架下，介绍了利用融合算子进行融合的过程。介绍了o w a 算子和不同的模糊积分作为融合算子的表示能力，简要介绍了o w a 算子的各种度量指 标和o w a 算子的各种变体，数值模糊积分的进展情况。本文对o w a 算子和c h o q u e t 积分之间的关系的描述采用的是g r a b i s c h 等在【1 5 】中的表述，通过分类器融合的实例给 予了直观的解释；比较了o w a 算子和c h o q u e t 积分的数学性质和行为性质。本文通过 w i t o l dp e d r y c z 在e 4 中引入的对o w a 算子的逻辑上的推广，定义了两类广义o w a 算子：o r 一型0 w a 算子和一种a n d - 型0 w a 算子，找到了其与w e b e r 积分、w i e r z c h o n 积 分的关系，定义了广义o w a 算子的o i t i e s s 度、d i s p e r t i o n 度、d i v e r g e n c e 度，并给出实 例进行了计算。根据这些度量可以知道融合算子的逻辑表达能力，并且在多分类器融合 应用中指导学习权重。 河北大学理学硕士学位论文 2 1 分类器融合模型 第2 章预备知识 分类器的输出信息可以分为三类：抽象级、排序级和度量级。给出了若干个分类器， 抽象级指每个分类器对输入都输出一个标志，排序级是指每个分类器都输出一个有序队 列，度量级是指每个分类器输出一个实向量。这三类中，度量级包含的信息最多，抽象 级信息最少，1 9 9 9 年，c o r d e l l a 认为基于度量级信息的集成虽然更复杂，但更为有效。 设x 彤是一个特征向量， 1 ，2 ，c ) 是c 个类别标签，d ：r “专【o ，1 】c - o ) ，d 的输出 叫做“类标”。设d 的度量级输出为： d ( x ) = l d 1 ( x ) ，d 2 ( x ) ，d c ( 引1 ，d ( x ) 【o ，1 】，i = i ，2 一，c ， 从度量级信息到抽象级类标，有一个信息推理的过程。基于抽象级信息的联合方法 主要有：投票规则，贝叶斯理论( 混淆矩阵) ，证据理论，b k s 空间等方法；基于排序级 信息的联合方法主要有b o r d a 计数法等；基于度量级信息的联合方法主要有利用决策模 版和利用融合算子的方法等。本文中，在利用融合算子的方法进行多分类器联合的框架 下，对o w a 算子和各种模糊积分作为融合算子的方法进行了分析和比较。 许多分类算法可以提供来自于度量级的输出信息，如：贝叶斯分类器提供关于类别 的后验概率，不同的距离分类器提供x 和每个类的样本原型的距离作为度量，神经网络 分类器提供了输入模式关于每一类的可能性、模糊决策树提供输入模式属于每一类的隶 属程度等，也可以说，如( x ) 可以看作是给定模式后的类别的后验概率、典型程度 ( t y p i c a l n e s s ) 、信任度( b e l i e f ) 、确定度( c e r t a i n t y ) 、可能性( p o s s i b i l i t y ) 等，度量级信息 是许多分类器的中间阶段。 对于度量级信息融合，由于每个分类器的输出信息是类别所属的一种评价，不具有 可加性，而模糊逻辑的运算也同样不具有可加性，并且模糊值的意义代表该模式属于模 糊集合的程度，因此，我们可以从模糊集合的观点去设计分类器融合。b e z d e k 等在 1 中定义了三种类型的分类器，即 第2 章预备知识 c 清晰分类器：如( x ) o ，1 ) ，e d i ( x ) = 1 ，v x r ”： c 模糊分类器：d ( x ) 【o ，1 】，。( x ) = 1 ，v xe r ”； c 可能性分类器：d ( x ) 【o ，1 】，d ( x ) o ，帆r ”。 f 正1 为了便于下面的讨论，在这里列出三种主要的分类器输出形式： o r a c l e 输出：对于给定的数据集，分类器d ，的输出为一个向量乳，其中 f l ，若分类器d 对样饥进行了正确分类。 1 ，= j ， 刊 10 ，否则。 显然o r a c l e 输出标识了分类器分类的正误，所以只有对已知类别的数据集才会有 o r a c l e 输出，且这种输出仅适用于分类器的设计、训练阶段。 硬输出( h a r do u t p u t s ) ：分类器的输出是该分类器对待识别样例分类的结果， 分类器把该样例分到那一类，输出就是这个类的类标。 软输出( s o f to u t p u t s ) ：分类器d f 的输出是c 个数值，d ，j = 1 ，2 ，c ，其中c 为类别数，表示分类器d ，把待识别样例分到各个类的可能性，或者理解为分类 器d ，对样例来自各个类的支持度、概率、置信度等。一般d 。取值在 o ，1 区间， j = l ，2 ，而即分类器的输出是一个c 维非负的实数向量。 令 q ，岛，见) 为l 个分类器， 记第i 个分类器的输出为 p ( z ) = r 1 ( x ) ，z ，：( 功，z 。c ( z ) ，z 。j ( x ) 为第i 个分类器判断x 来自类别j 的支持度等。 d = h ( d d x ) ，d 2 ( x ) ，见( x ) ) ，h 叫做融合算子。模糊积分融合算子及0 w a 融合算子适合 于软输出的分类器融合系统。对于一个c 类分类问题，含有三个分类器的融合系统，三 个分类器对于一个样例的输出可以用一个矩阵来表示，我们把该矩阵称为决策剖面 ( d e c i s i o np r o f i l e ) ，简记为d p ，其形式如下： 河北大学理学硕士学位论文 d p = 吐，1 一盔，f 吐。 嘭1 一嘭j 一嘭。 d ，l d 上，f d ，c d p 的第j 行【d 川，d 肛】表示第j 个分类器的输出，= 1 , 2 ，三；第i 列 d ，f ，d l ，丁( 这 里上标t 表示转置) 表示l 个分类器分别把待识别样例分为第i 类的可能性等， 融合算子h 的选择依赖于z 。( x ) ，i = 1 ，2 ，厶j = l ，2 ，c 解释，我们可以把它看作是 由分类器口产生的后验概率的估计，这些估计的最优组合( 在贝叶斯意义下) 不是直接 的，k i t t l e r 指出了两种不同的方法在相同的独立假设下把这些估计组合起来。对于许 多分类器，这些估计可以同时有大的偏好( b i a s ) 和方差( v a r i a n c e ) ，与独立性假设一起， 保证了概率方法。 融合算子综合融合系统中各个单分类器的输出，给出融合系统分类的结果。融合算 子一般是一个多元函数，作用在决策剖面( d e c i s i o np r o f i l e ) d p 的每一列，我们这里的 讨论把d ，的取值限制在 0 ，1 区间( 如果不是这样，可以采用归一化方法) ，用表示 融合算子，则其一般形式为日( 五，恐，x d 专【0 ，l 】。分类器融合的一般过程就是，各个 分类器先对待识别的样例x 进行分类，得到输出( 也就是前面说的决策剖面d p ) ，然后 融合算子作用于决策剖面d p 得到一个向量，其每个分量对应于一类，最大的分量对应 的类做出分类结果。过程如下图1 所示。 在软类标输出的多分类器融合系统中，常见的融合算子主要有以下几种： 1l 平均值算子( a v e r a g i n go rm e a n ) ，p ，= 7 z a , ，f ，i = 1 ，2 ，j c ，o p x 寸1d p 的每一列计 。j 2 l 算平均值。 加权平均算子( w e i g h t e da v e r a g i n g ) 岛= _ 嘭f ，i = 1 ，2 ，c ，_ 表示第歹个分类 j = l 一8 第2 章预备知识 上 器的重要性，w ，= 1 ，w j 0 ，即对d p 的每一列计算加权平均值。 j = l 1 分类器l 、l决 策 1 分类器2、- 剖 面 一一， d p 分类器工 融合算子 图1 多分类器融合模型 中值算子( m e d i a n ) e i2 m 。e 郇d i l a n d 川) ，i = 1 ，2 ，c ，首先对九，丸，按照大小首先 排序得到移，以，当l 为奇数时p ，为吒+ 1 ) ，2 ，；当l 为偶数时p ，为缸2 , i + d 知。 极大( m a x h 啪) 极小( m i n i m u m ) 算子，e j 2 m ，a x d j ，) p ，2m j i n d j ，f ，f _ 1 ，2 ，c 竞赛算子( t r i m m e nm e a n ) ，对于百分之k 的舍高低均值是指，对于来自l 个分类器 的可能性盔，d 幻进行排序，然后两端各去掉百分之k 个值。剩余部分的求均值作为 乘积算子( p r o d u c t ) ， 工 q = l - i d j ，i = l ，2 ，c 。 j 1 1 经过对l 个分类器的输出进行融合我们得到一个向量( q ，乞，e e ) ，其表示为对待 识别样例属于各个类的一个最终的总体可能性。我们通过取最大值来确定样例所属的最 终类别，即c + ：a r g m a x ( 6 ) 为样例的最终类别。 l s ，立 l o 1 0 80 2 5 10 9 0 0 5 0 1 5 l li 0 7 90 4 20 2 6i 河北大学理学硕士学位论文 我们分别应用前面提到的几种融合算子，结果如下所示： 平均值方法：将d p 矩阵三个列向量的每一列计算平均值( 0 1 + 0 9 + 0 7 9 ) 3 = 0 5 9 6 7 ，( 0 8 + 0 0 5 + 0 4 2 ) 3 = 0 4 2 2 3 ，( 0 2 5 + 0 1 5 + 0 2 6 ) 3 - - 0 2 2 ，可得融合结果 向量( 0 5 9 6 7 ，0 4 2 3 3 ，0 2 2 0 0 ) ，最终分类结果为第1 类。 加权平均方法：由o 5 0 1 + 0 2x0 9 + 0 7 9x0 3 = 0 4 6 7 0 ，0 5x0 8 + 0 2x 0 0 5 + 0 3 x 0 4 2 = 0 5 3 6 0 ，0 2 5 0 5 + 0 1 5 x 0 2 + 0 2 6 x 0 3 = 0 2 3 3 0 ，可得融合结果向 量( 0 4 6 7 0 ，0 5 3 6 0 ，0 2 3 3 0 ) ，最终分类结果为第2 类，假设权重为( 0 5 ，0 2 ，0 3 ) 。 中值方法：首先将d p 矩阵三个列向量排序( 升序、降序均可) 后，得：( 0 1 ，0 7 9 ， 0 9 ) ，( 0 0 5 ，0 4 2 ，0 8 ) ，( 0 1 5 ，0 2 5 ，0 2 6 ) ，从每一个向量取中间的数，可得融合 结果向量( 0 7 9 ，o 4 2 ，0 2 5 ) ，最终分类结果为第1 类 极大( 或极小) 方法：将d p 矩阵每一列向量取最大数( 或者最小数) ，可得融合结 果向量( 0 9 ，0 8 ，0 2 6 ) ( 或( o 1 ，0 0 5 ，0 1 5 ) ) ，最终分类结果为第l ( 或3 ) 类 舍高低均值方法：将d p 矩阵三个列向量排序( 升序、降序均可) 后( 结果见中值 方法) ，从两端分别去掉3 1 3 个数，得0 7 9 ，o 4 2 ，0 2 5 ，每一个向量在计算平均数 得融合结果向量( 0 7 9 ，0 4 2 ，0 2 5 ) 最终分类结果为第1 类，假设舍去1 3 。 乘积方法：将d p 矩阵三个列向量的每一列的三个分量相乘，o 1xo 9x 0 7 9 = 0 0 7 1 1 ，0 8 o 0 5 0 4 2 = 0 0 1 6 8 ，0 2 5 x 0 1 5 0 2 6 ，得融合结果向量( 0 0 7 1 l ， 0 0 1 6 8 ，0 0 0 9 8 ) ，最终分类结果为第1 类。 2 2 融合算子 融合问题可以描述为把一个属于固定集合的n 元目标，通过融合算子h ，得到一个 属于相同集合的一元目标y 。 定义2 1 n 6 1 一般情况下，我们定义一个融合算子u o ，1 】”专【o ，1 】满足： 一e ( 有界性条件) ( 0 ，0 ，0 ) = 0 ，h ( 1 ，1 ，1 ) = 1 ( 幂等性) ( a ，a ，a ) = a 。 ( 单调不减性) 日 ，而，吒) 关于其每一个变元都是单调不减函数，即若 ，则 有日( _ ，x 2 ，x k - l ，坼，砟+ l ，吒) 日( 鼍，而，坼- l ，颤+ l ，吒) 。 1 0 - 第2 章预备知识 融合算子的这三条要求的含义是明确的。例如，融合算子的单调不减指的是如果第 k 个分类器将某一个示例分为第i 类的可能性大于分为第j 类的可能性，而其他l - 1 个 分类器将考虑的示例分为第i 类和分为第j 类的可能性相同，则融合的结果也应该是此 示例属于第i 类的可能性大于分为第j 类的可能性。幂等性是指如果n 个分类器将某个 示例分为第i 类的可能性相同，则融合的结果也相同。 定义2 2 一个三角模( t 一模) 是 o ，1 上的一个二元算子，即一个函数r ：【0 ，1 】2 _ 【0 ，1 ， 对任意的x ，y ，_ z o ，1 】使得： t 满足结合律，r ( r ( x ，y ) ，z ) = 丁( x ，r ( y ，z ) ) ； t 满足交换律，r ( x ，y ) = r ( y ，x ) ； t 关于第二个变元单调非减，t ( x ，y ) r ( x ，z ) ，y z ； t 以l 作为中立元，即t ( x ，1 ) = _ j c 。 定义2 3 一个反三角模( s 一模) 是 0 ，1 上的一个二元算子，即一个函数s ： 0 ，1 1 2 一 0 ，1 ， 对任意的x ，y ，z 0 ，1 】使得： s 满足结合律，s ( x ，s ( y ，z ) ) = s ( s ( x ，y ) ，z ) ； s 满足交换律，s ( x ，y ) = s ( y ，x ) ； s 关于第二个变元单调非减，s ( x ，y ) s ( x ，z ) ，y z ； s 以0 作为中立元，即s ( x ，0 ) = x 。 如果一个t 一模关于两个变元都连续，那么t 模叫做叫做连续的；一个连续的t 一模 如果对任意的x o ，1 ，g gt ( x ，x ) m a x x i ，则h 叫做析取型的；撇r a i n x , m ( x ) _ 0 ，r r 这条性质与融合值的度量的类型密切相关。 ( 6 ) 9 一对比有意义，即驴是一个从r 到r 的连续的、严格单调增的映射，那么 1 2 第2 章预备知识 h ( c f i ，a 2 ，a n ) h ( b l ，乞，吃) j 日( 妒( q ) ，妒( 口2 ) ，驴( ) ) 0 ，v 矗- t 2 - - t n ，任一变换仃。 融合算子的行为性质n 刖： ( 1 ) 表示每个分类器重要性程度的能力； ( 2 ) 表示分类器融合结果的行为的能力，即是析取型的还是合取型的。更确切地说， 我们考虑融合的结果的倾向，比如，是倾向于析取还是合取，或某些分类器是必要 的( v e t o ) ，或某些分类器是充分的( p a s s ) 。实际上，即便有相同的决策剖面，各个 分类器有相同的权重，两个分类器融合结果也会有不同的行为。下面是两个典型行 为：容忍型和非容忍型。容忍型( t o l e r a n t ) 的融合可以接受只考虑某些分类器( 最少 一个) 的结果( 析取行为，极端情况是取大) ，而非容忍型( i n t o l e r a n t ) 的融合需要满 足所有的分类器结果( 合取行为，极端情况是取小) 。 ( 3 ) 表示分类器之间的交互作用的能力； ( 4 ) 简单的语义解释的能力，即把融合算子h 中包含的参数与融合算子h 融合的行 为联系起来的能力。这种观点不允许利用“黑盒子”的方法，如神经网络。 河北大学理学硕士学位论文 2 3 o w a 算子 o w a 算子有很强的逻辑刻划能力，为我们提供了一个范围广泛的模糊集算子。下 面我们介绍o w a 算子的提出、度量以及把0 w a 算子作为一个处理单元，概括了它的 推广和学习算法。 0 w a ( o r d e r e dw e i g h t e da v e r a g i n g ) 算子的概念是由y a g e r 于1 9 8 8 年在多水平决策 问题中提出来的。 设4 ，4 ，4 是多水平问题中的n 个水平，x 是选择的集合，对每一个水平彳， 爿，( x ) 【o ，1 】表示选择x 满足这个水平的程度。我们感兴趣的是找一个决策函数d ，使得 对每一个选择x ，d ( x ) 表示x 满足我们所需要的水平的程度： d ( x ) = f ( 4 ( x ) ，4 ( x ) ，4 ，( x ) ) a 两个极端情况：我们希望一个选择满足“所有 的水平，水平间用a n d 连接；或者 我们希望一个选择满足“至少一个”水平，水平间用0 1 连接。然而更多的情况是水平 之间的关系处在两种极端情况之间，如“大多数”、“许多”、“至少一半、“多于 四个”等，这就需要用更广泛的一种均值算子表示。 定义2 4 旧有序加权平均算子是一