（计算机应用技术专业论文）基于参数化t范数分类问题的推理及其敏感性分析.pdf

摘要 摘要 现实世界中包含大量的模糊因素和模糊信息，因此模糊推理研究在人工智能领域具 有重要的价值和意义。模糊推理过程中，选择不同的模糊算子对模糊推理的效果有直接 的影响。传统的模糊推理使用取小、取大算子合成模糊产生式规则。为了更接近人类的 思维方式，更好f j , j 羽j 画推理过程的灵活性，本文将参数化，一范数与s 一范数引入模糊产 生式规则的合成，针对分类问题建立了基于参数化，范数与s 范数的模糊推理模型，该 模型有效的克服了传统取小取大算子在推理r i i | 容易丢失模糊子集q j 隶属度对模糊推理 的影响的缺点。在模型的基础上，本文定义了分类精度敏感性的概念，通过理论分析和 实验验汪得出了不同特征数据库的分类精度对参数化，范数与j 范数的参数，的敏感 性并给了参数选择建议。此外，本文还将该模型应用于模糊决策树系统，设计实现了 基于参数化，范数分类推理模型的模糊决策树系统。该系统具有很好的灵活性和可凋性， 实验表f 刃该模型的应j 刳提高了系统的分类精度，增强了系统的泛化能力。 关键词参数化，范数参数化s 范数模糊摊理敏感性分析分类问题 模糊分类系统 a b s t r a c t 曼曼曼曼曼曼曼曼量曼曼曼曼曼曼鼍寰曼曼曼曼曼曼曼! ! ! 曼量皇鼍曼曼l l l l l l 皇皇皇曼曼曼曼曼! 曼! 曼曼曼曼皇曼曼曼兰曼皇皇曼曼曼皇皇曼皇皇曼皇曼曼曼曼曼曼曼曼曼! ! 曼曼曼曼鼍曼曼苎 ab s t r a c t t h e r ea r em a n yf u z z yf a c t o r sa n df u z z yi n f o r m a t i o ni nt h ew o r l d ，s of u z z yr e a s o n i n g s t u d yh a si m p o r t a n tv a l u e sa n ds i g n i f i c a n c et oa r t i f i c i a li n t e l l i g e n c er e s e a r c h 。i nf u z z y r e a s o n i n gp r o c e s s ，d i f f e r e n tf u z z yo p e r a t o r sh a v ed i f f e r e n ti n f l u e n c eo nf u z z yr e a s o n i n g r e s u l t s t h em i n - m a xo p e r a t o ra g g r e g a t e st h ef u z z yp r o d u c t i o nr u l e st r a d i t i o n a l l y i no r d e rt o a p p r o x i m a t em a n st h o u g h ta n dd e s c r i b et h ef l e x i b i l i t yi nf u z z yr e a s o n i n gw e l l ，t h i sp a p e r i n t r o d u c e sp a r a m e t r i ct - n o r ma n dp a r a m e t r i cs n o r mt of u z z yp r o d u c t i o nr u l ea g g r e g a t i o n 。i t p r e s e n t sag e n e r a lm o d e lo fp a r a m e t r i ct - n o r mb a s e dr e a s o n i n gf o rc l a s s i f i c a t i o n t h i sm o d e l o v e r c o m e st h ed r a w b a c k so fm i n m a xo p e r a t o r , w h i c hi g n o r e st h ei n f l u e n c eo ff u z z ys e t s m e m b e r s h i po nf u z z yr e a s o n i n g b a s e do nt h em o d e l ，t h i sp a p e rd e f i n e st h ec l a s s i f i c a t i o n a c c u r a c ys e n s i t i v i t y , i n v e s t i g a t e st h ec l a s s i f i c a t i o na c c u r a c ys e n s i t i v i t yt op a r a m e t r i ct - n o r m a n ds - n o m ap a r a m e t e r si nd a t a s e t sw i t hd i f f e r e n tc h a r a c t e r i s t i c st h r o u g ht h e o r e t i ca n a l y s i sa n d e x p e r i m e n t sv e r i f i c a t i o na n dg i v e sa d v i c eo np a r a m e t e rc h o i c e f u r t h e r m o r e ，t h i sp a p e r a p p l i e st h i sm o d e li n t of u z z yd e c i s i o nt r e es y s t e m ，d e s i g n sa n di m p l e m e n t sn e wf u z z y d e c i s i o nt r e es y s t e mb a s e do np a r a m e t r i ct - n o r mf u z z yr e a s o n i n gm o d e l t h en e ws y s t e mi s f l e x i b l ea n da d j u s t a b l e t h ee x p e r i m e n t a lr e s u l t ss h o wt h a tt h ea p p l i c a t i o no ft h i sm o d e l i m p r o v e st h ec l a s s i f i c a t i o na c c u r a c ya n dg e n e r a l i z a t i o nc a p a b i l i t yo ft h es y s t e m k e yw o r d s ：p a r a m e t r i ct - n o r m ；p a r a m e t r i c5 - n o r m ；f u z z yr e a s o n i n g ；s e n s i t i v i t ya n a l y s i s ； c l a s s i f i c a t i o np r o b l e m s ；f u z z yc l a s s i f i c a t i o ns y s t e m 河北大学 学位论文独创性声明 本人郑重声明：所呈交的学位论文，是本人在导师指导下进行的研究工作及取得 的研究成果。尽我所知，一除了文中特别加以标注和致谢的地方外，论文中不包含其他 人已经发表或撰写的研究成果，也不包含为获得河北大学或其他教育机构的学位或证书 所使用过的材料。与我一同工作的同志对本研究所做的任何贡献均已在论文中作了明确 的说明并表示了致谢。 作者签名：_ 型型塑堡一 日期：丝年月l 日 学位论文使用授权声明 本人完全了解河北大学有关保留、使用学位论文的规定，即：学校有权保留并向国 家有关部门或机构送交论文的复印件和电子版，允许论文被查阅和借阅。学校可以公布 论文的全部或部分内容，可以采用影印、缩印或其他复制手段保存论文。 本学位论文属于 1 、保密口，在年月日解密后适用本授权声明。 2 、不保密曰。 ( 请在以上相应方格内打“”) 作者签名： 兰蛆雄 导师签名：砂纱 日期：强丑年上月z 里日 日期：超年丘月f 翌日 第1 章绪论 1 1 研究背景与意义 第1 章绪论 近年柬，处理含有大量模糊因素和模糊信息的分类问题成为人工智能领域研究的重 要课题之一。因为知识及信息的不确定性大多是山模糊性引起的，所以模糊逻辑与模糊 斜e 理作为不确定性研究的一个分支，引起了学者的广泛研究与关注。一方面，现实【! = 界 包含 醍多的不确定性以至于无法做到精确拙述，所以引入模糊性的概念便于对复杂现象 建立合理的数学模型；另一方面，为了有效地表达人类的知识，需要运用模糊集合理论 使系统具有更好的语言描述和处理不确定性、不精确性的模糊信息的能力。由于这两方 i n i f l j 需求，使得模糊逻辑与模糊推理的研究在人工智能及其相关领域显得尤为重要。 模糊逻辑推理比经典逻辑推理更加灵活，更接近人类的思维方式。同时，模糊推理 可以处理多变量、非线性、时变系统的控制问题。因此，模糊推理被广泛应用到各个领 域，如自动控制1 1 2 3 1 、医疗领域【4 5 1 、f 乜力负荷预测6 1 等。目前，专家系统中普遍采j i j 的 足模糊产生式规则来表示模糊和不确定的概念，模糊产生式规则推理有很多利方法，常 见的足扎德等人提出的c r i ( c o m p o s i t i o n a lr u l eo f i n f e r e n c e ) 模糊推理和摹予棚似性的 模糊产生规则摊理。在模糊推理过程巾，选择不i 司i t j 模糊算子对模糊推理的效梁有直接 的影响1 7 l ，也使模糊系统的泛化能力不同。系统的泛化能力是指系统i , j t 另 i j i t 练集以外样 本的能力，是衡量推理系统好坏的最重要指标。传统的模糊推理使用取小、取大算子 ( m i n m a x ) 合成模糊产生式规则。由于，范数较好的反映了逻辑“与 的性质，s 范 数很好的反映了逻辑“或”的性质，所以模糊产生式规则推理中选择参数化，范数与s 范数更为合理，能更好的刻画推理过程的灵活性。参数化，范数族中的参数p 用于描述 模糊舰樊u 问交互作用的强度1 8 l 。 由于参数化，范数与s 范数具有良好的数学性质，它被广泛应用到各科- 模糊系统 - | 1 ，也成为了模糊推理系统不可缺少的组成部分。本文将参数化，范数与s 范数引入分 类规则的合成并在此基础上研究和探讨模型对其参数p 的敏感性，这项工作对于增加模 河北人学i ：学硕十学何论文 糊分类系统的灵活性和可调性，提高系统的分类精度，增强系统的泛化能力具有重要意 义。 1 2 本课题的国内外研究现状 三角范数最初由k m e n g e 在研究概率度量空问【9 1 时提出，后由b s c h w e i z e r 平l l a s k l a r 加以发展【0 1 。三角范数中引起广泛关注的是，一范数与s 一范数，由于它们具有良好的 数学性质，国内外很多学者对其性质、理论及应用进行了广泛研究并取得了很多进展。 1 9 9 9 年k l e m e n t 与n a v a r a 在文献 1 2 1 q h 研究了基于带参数的t 一范数一f r a n kt 一范数的模糊 逻辑系统；o s c a rc o r d o n 等提出了基于模糊规则的分类系统的一般模型| 3 】，在模糊规则 前件的合成巾使用了f 一范数；同年，m o h a m m a dr e m a m i 等在文献 1 4 】中对模糊建模和 模糊控制建立了统一的推理框架。2 0 0 3 年，w h a l e n 在文献【8 】中将s c h w e i z e 卜s k l a r t - 范数 中的参数p 与模糊规则之问交互作用的强度联系起来；l e s z e kr u t k o w s k i 等在文献【1 5 】 中使用参数化，一范数与s 一范数设计t n e u r o f u z z y 系统，该系统具有很好的灵活性。同 年，m o u r a do u s s a l a h 将h a m a c h e r 参数化，一范数家族川于信息融合中，取得了很好的效果 【6 1 。2 0 0 5 年，张小红等研究了基于s c h w e i 2 e r - s k l a rt - 范数的模糊逻辑系统f 7 i 。2 0 0 6 年， 赵雅倩研究了基于相似性推理对y a g e r l j 勺，一范数和s 一范数的参数敏感性。 从国内外在该领域的研究现状来看，针对分类问题使用参数化，一范数与s 一范数进 行模糊推理的研究还很少，而分类精度对参数的敏感性分析研究更是刚刚起步，尚无结 论。因此，本文研究的重点是建立基于参数化，一范数分类问题的推理模型并对其进行敏 感性分析。 1 3 本课题研究的主要内容 本文主要研究将参数化，- 范数与s 范数分别引入模糊产生式规则的前件命题合成 与同类规则问合成，针对分类问题建立基于参数化，范数与s 范数模糊推理的一般模型 并分析参数化范数与s 范数的参数p 的变化对分类精度的影响，以期发现敏感性的变 化规律，选取合适的参数p 提高系统的分类精度，增强系统的泛化能力。 全文的组织结构概括如下： 第l 章绪论。介绍了课题的研究背景与意义、国内外研究现状和主要研究内容。 2 第l 章绪论 第2 章模糊集与模糊推理。主要介绍了模糊集的定义、模糊集的基本运算和广义 运算及模糊推理的基础知识，重点介绍了参数化，范数与s 范数的概念和性质，为后面 的研究奠定了基础。 第3 章基于参数化，范数分类问题的摊理模型及其敏感性分析。主要介绍了针对 分类问题建立基于参数化，范数与s 范数的模糊推理模型的过程，在模型的基础上定义 了分类精度敏感性的概念，通过理论分析和实验验证得出了不同特征数据库的分类精度 对参数化，范数与j 范数的参数p 的敏感性并给出了参数选择建议。此外，还将该模型 应用于模糊决策树系统，设计实现了基于参数化，范数分类推理模型的模糊决策树系统。 第4 章结论与展望。对本文所做的工作进行了总结，并对后续的工作进行了展望。 河北人学f ：学硕一 ：学化论文 2 1 模糊集合 第2 章模糊集与模糊推理 模糊数学的概念最早是山美国加利福尼亚大学教授扎德( l a z a d e h ) 于1 9 6 5 年提 出的，模糊概念不能用经典集合加以描述，是因为不能绝对的区别“属于”或“不属于”。 模糊集合论试图消除世界的模糊，它的提出为模糊推理和模糊控制等领域的研究奠定了 数学基础。 定义1 【17 ，吲：设u 为论域，它是某些对象的集合：x 表示u 的元素，则u = x ；集 合a 是满足某些条件的汐中的元素，则集合彳可以表示为：a = x ul 科蔺足某些条件) 。 u 一是把任意x u 映射到 o ，1 】上的函数，则z 为定义在u 上的隶属度函数；i i a ( x ) 表示 x 属于集合彳的程度：1 1 a ( x ) 所构成的集合a 即a = ( | f ，l i ( x ) ) ix u ) 称为u 一 = 一个模糊 集合。 。 由定义1 可知，u 一把论域u 中的每一个元素x 映射到 0 ，1 上的一个值z ，一( x ) 。当 z ，一( x ) 为1 时，表示x 属于a ，当z ，爿( x ) 为0 时，表示x 不属于a ，此时z 0 ( x ) 蜕化成一个 经典子集的特征函数，模糊集合a 蜕化成一个经典集合。当z ，一( x ) 的取值不是0 和1 时， l ，一 ) 越大表示元素x 对模糊集合彳的隶属程度越高。由此不难看出，模糊集合是一个 带有连续隶属度函数的集合，是经典集合的一种推广，它允许隶属度函数在 0 ，1 区l 口j 任意取值；普通集合的隶属度函数只能是0 或l ，因此经典集合是模糊集合的一种特殊 情况。 可以是连续的或者离散的，定义1 中a = ( x ，甜一( x ) ) fx u ) 将u 上的模糊集合a 表 示为一组元素与隶属度的有序对的集合，因此当u 连续时，a 可以表示为： 彳= ，( x ) x 上式的积分符号表示u 上隶属度函数为1 1 a ( x ) 的所有点x 的集合，而不是表示积分。 当己，离散f i 寸，彳可以表示为： 第2 章模糊集与模糊扣! 理 a = u a ( x ) x 上式的求和符号表示u 上隶属度函数为1 1 a ( x ) 的所有点x 的集合，而不是表示求和。 2 2 隶属度函数 隶属度函数足对模糊概念的定量描述。对于同一个模糊概念，可以心不同的隶属度 函数米捕述。隶属度函数本身是精确的数学函数，所以它将模糊描述的模糊消除了。一 般隶属度函数是根据经验或统计进行确定，也可以山专家、权威给出。通常使用的两种 确定方法i 博j ：一是根据领域专家的知识来指定隶属度函数，因此隶属度函数代表了部分 人类知识。但它比较羊f l 略，需要进行“微调”。二是从各种传感器中收集的数据来确定 隶属度函数。先根据专家知识指定隶属度函数的结构，而后根据收集的数据对隶属度的 参数进行“微调”。常用的隶属度函数有： 1 ) - f o 7 髟隶属度函数：z _ ( x ) = x - b x 【6 ，口】 一x l i ，口i玎一b 1 型x ( 口，c 】 一x i 口c l 0 x r - 【6 c 】 2 ) 四边形隶属度函数：l l 4 ( x ；( ，b ，c ，d ，h ) = ( x ) ，x 【口，b ) ! ，x 幽，其i 卜，口6 c c ， d ( x ) ，x ( c ，d 】 0 ，x r - ( a ，d ) 0 h l ，0 ( x ) l 是【“，6 】上的一个非减函数，0 d ( x ) 1 是( f ，c ，) 上的一个非增函 数。当模糊集合a 对f 规模糊集( 即h = 1 ) 时，其隶属函数可以简单地记为： l l , , i ( x ；d ，b ，c ，d ) 。 2 3 模糊集合的基本运算 下面介绍模糊集合的基本运算及其运算性质。 定义2 1 1 9 1 ：设a ，b 为论域u 上的两个模糊子集，对于u 中的每一个元素x ，都有 “j ( x ) i i b ( x ) ，则称a 包含b ，记作a2 b 。 河北人学l ：学硕十学倚论文 如果a2b 且b2a ，则称a 和b 相等，记作a = b 。因为模糊集合的特征是它的 隶属度函数，所以两个模糊子集相等也可用隶属度函数来定义。若对所有元素x ，都有 u 爿( x ) = l l b ( x ) 则a = b 。 定义3 1 9 】：设a ，b 为论域u 上的两个模糊子集，规定彳ub 、彳厂、曰、的隶属 度函数分别为z ，一u 口、z ，一n 描、“，并且对于u 的每一个元素x ，都有 2 ，d u 占( x ) 垒i t a ( x ) v u 占( x ) ， l d a n b ( x ) 全l l a ( x ) ai i b ( x ) ， 掰，垒。1 一“ ( x ) ，掰，= 一“ t x ， 上述三式分别为彳与b 的并集、交集和a 的补集。式中“v ”表示取大运算，“ ” 表示取小运算，称之为z a d e h 算予。因此两个模糊子集的并、交也可写成： 材，| 。片( x ) = ”一( x ) v “片( x ) = m a x u j ( x ) ，1 1 矗( x ) ， z l a n b ( x ) = 玎，i ( x ) z f 片( x ) = m i n u ，| ( x ) ，z b ( x ) 】， 因此可以看出，模糊子集a 、b 的并集的隶属度函数取z ，一( x ) 与z ，拧( x ) 两者中的最大 值；而a 、b 的交集的隶属度函数取z ，一( x ) 与z ，占( x ) 两者中的最小值。模糊集合的并、交 运算可以推广到任意个模糊集合。 模糊予集运算的基本性质与经典集合是相同的，也满足幂等律、交换律、结合律、 分配律、吸收律等性质。但唯一不同的是由于模糊子集彳没有明确的边界，a 1 也无f j 确 的边界，所以模糊集合不再满足互补律。 2 4 模糊集合的广义运算 在模糊集合理论中，模糊集合的运算只能用其隶属度函数来确定，而不同定义的运 算会产生出不同的结果。因此除了以“ ”和“v ”运算所定义的称之为模糊集合的交 与并外，还可以建立模糊集合的其他不同的各种运算，以适应不同的模糊现象，模运算 也称为范数是模糊集运算的最一般形式。三角范数中研究的最多的是，一范数和s 一范数， 它们在模糊逻辑系统、模糊控制系统和模糊专家系统等中得到了广泛的应用。 第2 章模糊集! j 模糊推理 2 4 1 模糊交( ，- 范数) 任何一个映射，：【0 ，1 】x 【0 ，1 】专【0 ，1 】，表示 l j 模糊集合彳和b 的隶属度函数向彳和 口的交集的隶属度函数转换的一个函数，可以表示为 【“一( x ) ，“疗( x ) 】= 1 1 t c 、b ( x ) 根据2 3 节列两个模糊予集交集的定义可知：t u 。( x ) ，“舟( x ) 】_ m i n u 一( x ) ，“付( x ) 】。 为了使函数，适合于计算模糊子集的交集的隶属度函数，它需至少满足以下四个条 件，也就是三角，模( 三角，范数) 的概念。 定义4 e 2 0 l ：任思- n 。 叭t 射，：【0 ，l 】2 专 0 ，l 】，当且仅当满足下面四个性质时被称为，一 范数( t 模，也记为：t - f i o f i l l ) ： 1 ) 非减性：如果而，贝0 有，( ，y ) t ( x 2 ，y ) ； 2 ) 交换律：t ( x ，y ) = t ( y ，x ) ； 3 ) 结合律：t ( x ，l ( y ，z ) ) = i ( 1 ( x ，y ) ，z ) ； 4 ) 边界条件：t ( x ，1 ) = x ，t ( x ，0 ) = 0 性质( 1 ) 是模糊交的必要条件，即两个模糊交集的隶属度值会随着两个模糊集合的隶 属度值的上升而上升：性质( 2 ) 说明运算的结果与模糊集i l j l l l 页序无关；性质( 3 ) 将模 糊交运算扩展到多个集合上；性质( 4 ) 则体现了模糊交函数在边界处的特性2 叭。 定义5 1 2 0 1 ：一个，一范数将被称为阿基米德，一范数当且仅当此，一范数在满足定义的四 条性质的基础上满足如下两个性质： 1 ) ，一范数是连续的； 2 ) 对于所有的x ( 0 ，1 ) ，有t ( x ，x ) x 。 任意一个阿基米德，一范数都可以山一个连续的且递减的函数来表示，此函数从 0 ，1 映射到 0 ，叫且有( 1 ) = 0 。它们的表示关系如下： t ( x ，y ) = f t - u ( f ( x ) + 厂( ) ，) ) 其巾厂卜是函数的伪逆，其定义如下： f l - l ( y ) 妒) 翼嚣篇l 河北人学t ：学硕十学位论文 其中函数厂被称作，一范数的生成函数。 基本模糊交xay = m i n x ，y ) 是一个，一范数，下面给出其他几种常见的，一范数，它 们在实践中有着广泛的应用： h a m a c h e r 乘：， = 兰，- 工十y x y 代数乘：t ，= x y 爱冈斯坦乘：，= 兰一 。 1 + ( 1 x ) o y ) 有界乘：“= o v ( x + y 一1 ) f x ，y = 1 直乘：，。，= j ，x = 1 【o ，x ，y 0 定义7 f 2 0 j ：一个s 一范数将被称为阿基米德s 一范数当且仅当此s 一范数在满足定义的 四条性质的基础上，满足如下两条性质： 1 ) s 一范数是连续的： 2 ) 对于所有的x ( o ，1 ) ，有s ( x ，x ) x 。 任意一个阿基米德s 一范数都可以出一个连续的且递增的函数g 来表示，此函数从 【0 ，1 】映射到【0 ，0 0 】且有g o ) = 0 。它们的表示关系如下： s ( x ，y ) = g i - q ( g ( x ) + g ( j ，) ) 其中g 一1 是函数g 的伪逆，其定义如下： 矿弋，g ，- i ( y ) , 慧黜 其中函数g 被称作s 一范数的生成函数。 我们知道t ( x ，y ) 范数是广义的“ ”运算，s ( x ，y ) 范数是广义的“v 运算，其中 ( 疋y ) 【0 ，l 】2 。与，( x ，y ) 范数和s ( x ，y ) 范数相应的t ( x ，y ) 和s ( x ，】，) 可以分别看成是两个 集合f d j 的广义的“r 、”运算和广义的“u ”运算，仍满足交换律、单调性、边界性和结 合律等良好的r # 质。 河北人学i ：学硕- t ：学位论文 2 4 3 参数化，- 范数与参数化s 范数 由于应用领域的复杂性和客观性，有时三角，范数的概念需要适当扩展。考虑到通 常采用的与运算( m i n ) 和或运算( m a x ) 本身也是可以连续变化的，所以提出了参数化 ，一范数与s 一范数f 2 0 1 。参数化，一范数与s 一范数是通常的与、或运算的推广，也就是一族 运算。它们同样满足，一范数与s 一范数的定义所要求的四个性质。含参数的，一范数与s 一 范数的运算形式由参数决定，它们通过不同的角度来推广经典集合的交集与并集元素。 只要选定参数，它们就对应特定的f 一范数或s 一范数。 下而介绍几种常见的参数化，一范数2 0 1 ，根据，一范数与s 一范数的对偶关系可以求得 对应的参数化s 一范数。以h a m a c h e r 参数化一范数为例： ，( x ，y ) 。万i r i 页x y i 丐= 面 m 7 ，乃p o 根据对偶关系有： s ( x ，y ) = 1 一，( 1 - x , l - y ) = 兰二二芎三专铲= i x i + _ 石y _ = - _ ( 歹2 而- p ) x y ，厅j f ，。 其他常见的参数化f 一范数与s 一范数族见表1 ： 表1 常见的参数化，范数与对应的s 一范数 参数化，一范数与s 一范数也都有对应的产生函数f ( x ) 和g ( x ) ，如h a m a c h e r 参数化t 一 第2 章模期集与模糊 i ；理 范数的f ( x ) = l o g 半，对应的s 一范数的g ( x ) = l 。g 旦尘掣。 由于 h a m a c h e r 参数化，一范数族的简单性和对称性，更由于它是唯一的可以被两个有理函数 表示的范数族，所以在后面它是本文主要讨论和使；- f l 的，一范数族。h a m a c h e r 参数化，一 范数族选定参数p 后，对应的特定，一范数和s 一范数： ，丰0 ： 似少) = 兰l ：x o y x + y x y h a m a c h e r 积与和 j y ) ：x + _ y - 一2 x y ：x 。y 1 一x v ，7 1 t ( x y ) = x y = x y p ：x 阜) ， 代数积与和 j f 7 2 ： p ： ，“y ) 2 万i 南2 卅i i y 爱凶斯坦积与爱因斯坦和 啾2 嵩2 x l + i y ，( l y ) s ( x ，y ) yi fx v y = 1i 。7 厅盯觇! 直秘与直平i yi fx a y = 0 i r2 工vy o t h e t w i s e i 上面足舀! 参数p 趋于0 ，l ，2 ，o 。时，h a m a c h e r 参数化，一范数族和s 一范数族函数 的形式，可以看出它包含了很多具有良好性质的基本的，一范数：不仅有最小的，一范数直 积，最大的，一协范数直和，还有h a m a c h e r 算子与爱因斯坦算子两个的严格，一范数( ，一 协范数) 。所谓严格，一范数是指满足，( x ，x ) _oip印+ ( 1 一p ) ( 1 一砂) 】2 由卜范数与j 一范数的对偶关系，同样可以验证h a m a c h e r 参数化，一范数关于参数p 足非增的。 八 v x o r $ 譬 | i | i 河北人学i ：学硕十学何论文 2 4 4 ，范数与s 范数的推广 从，一范数与s 一范数的定义可知它们都是二元算子，但是实际的模糊系统，如模糊 专家系统，它们的规则库中通常包含多条规则且每条规则的前件山多个简单日i 提构成， 因此，若要在实际的模糊系统中使用，一范数与s 一范数就必须将它们从二元函数推广至 多元函数。由于，一范数与s 一范数满足结合律【2 l 】，所以它们很容易被推广至多元函数： 乙和朋”州a 叫r 州，碱，j 鬈躲轰撼 其中，运算与s 运算都是二元算子。已经证明玎元函数，。和s t ，具有与二元函数1 ( x ，) ，) 和s ( x ，j ，) 相似的性质【1 4 ，2 2 1 。下而是玎元函数，。和s n 一些常见的性质： 性质1 ： 1 )0 i , x 2 ，一- i ，1 再+ l ，一，) = 1 - i ( 歹2 ，一一l 再+ l ，芦，) ， 2 ) ，“聂，再- l ，0 以+ i ，一，) = 0 3 ) s 。0 l , x 2 ，一- i ，0 再+ l ，再，) = 一川( 五2 ，再一l 矗+ i ，) ， 4 ) s 。 l 2 ，再- l ，l 戎+ 1 ，焉) = 1 性觚v 吲啦，棚郎x ，j sx 。而, x 2 焉量菇i 羔2 舅c 单调性，【。 ， ，jss 。【x 。j ，j 。”j 性质3 - ，7 元函数，。和s i ，同样满足对偶关系： s 。瓴2 ，矗，) = 1 - t , ，( ( 1 一一) ，( 1 一x 2 ) ，( 1 一一，) ) 下而运用结合律性质以h a m a c h e r 参数化，一范数族从二元函数推广n - 元函数为例 说明推广过程： 怕一? w 2 鬲瓦云磊p + ( i 丢- p ) ( x , + 万x 2 - x , 磊x 2 ) 焉 ： 苎兰：1 2一 p p + ( 1 一p ) o i + x 2 - 一x 2 ) 】+ ( 1 一多) 防i x ：+ + ( i p ) 0 i + x 2 一一恐) ) 一，、- i x ：3 】 用类似的方法可以将其推广至行元函数。t 。和s 。是，- 范数与s - 范数的扩展，在后面 第2 章模糊集与模糊推理 章节的讨论中本文将省略0 和气的下标刀，简单的记作，和s 。为了增加模糊系统的灵活 性、提高模糊推理的准确性，本文后面会将参数化i 范数与s 一范数应用于模糊系统中。 2 5 模糊推理 模糊推理足利用模糊知识进行的一种不确定性推理。它所处理的事物自身足模糊 的，概念本身没有明确的外延，一个对象是否符合这个概念难以明确地确定。这是模糊 推理与基于概率沦的不确定性推理的最本质区别f 7 1 。人工智能领域中知识及信息的不确 定性大多是山模糊性引起的，因此模糊推理的研究非常重要。本节简要介绍模糊推理的 摹本知谚 。 2 5 1 模糊产生式规则 “产生式”概念最早是山美囤数学家p o s t 在1 9 4 3 年提出的，产生式通常用于表示 具有因果关系的知 叭1 1 ，其基本形式是： i fat h e nb 唧 其中，a 是产生式的6 缸提，表示产生式可川的条件；b 是一纽结论或操作，表示当 满足6 西捉条件a 订寸，应该得到的结沦或应该执行的操作。整个产生式的含义是：如果满 足i ) 提a ，可推出结论b 或执行b 所规定的操作。例如： 兄：i f 天气寒冷a n d 刮大风t h e n穿厚衣服 是一个产生式。其中，冗是该产生式的编号；“天气寒冷a n d 刮大风是6 订提a ；“穿 厚衣服”是结论b 。 模糊命题是指含有模糊概念、模糊数据或带有确信程度的语句1 2 引，其般表示形式 为：xi sp 。其中x 是论域上的变量，代表对象的属性；p 是模糊概念或模糊数，j l j 棚应的模糊集及隶属函数刻画。表示模糊知以的产生式规则简称为模糊产生式规则，其 基本形式为： 尺，：i f at h e n b ( c f ) 其中，a 表示包含一个或多个模糊命题的规则f j 仃件，各个模糊命题之i j 一般用“a n d ” 连接；b 是规则的结论，它可以是一个确定的结论，也可以是一个模糊命题；c f , 河北人学l ：学硕十学位论文 ( c e r t a i n t yf a c t o r ) 称为可信度因子，表示规则的可信程度，因此也称为规则的置信度。 产生式规则库的各条规则r 之间般用“o r ”连接。 2 5 2 模糊产生式规则推理 推理方法是指如何由已知的模糊知识和证据具体地推出模糊结论，到目前为j l i i 理 方法已经有很多。本节主要介绍扎德等人提出的c r i ( c o m p o s i t i o n a lr u l eo f i n f e r e n c e ) 模糊推理方法。 扎德等人在1 9 7 3 年首先提出c r i 方法，其基本推理思想为：首先计算规则自，j 件a 和 结论曰之问的模糊关系尺，然后将事实a 与模糊关系尺进行合成运算，推出结论b ( 即 b = a o r ) ，这里。代表矩阵乘法。推理模型如下： 规则：彳寸b ( i f 彳t h e nb ) 事实： a 结论： b 7 = a 7o ( aj b ) 山于该方法是通过模糊关系尺与证据合成求出结论的，因此又称为基于模糊关系的 合成推理。这种推理方法关键是构造模糊关系r 。c r i 方法的模糊子集之i 训取“m i n m a x ” 运算，即模糊规财j i ”i 件以及i i ：i 与后件之问取“m i n ”( 取小) ，而规则之l 日j 取“m a x ”( 取 大) ，从而实现模糊关系合成的运算。这种极小极大规则常用于模糊推理中。 在模糊推理过程中，选取不同的模糊算子会产生不同的模糊推理方法。使用取小取 大运算进行推理容易丢失模糊子集中隶属度对模糊推理的影响，因此在分类问题中引 入参数化，- 范数与s 范数，建立模糊推理的一般模型，研究和探讨不同模糊算子( 即参 数p 变化) 对模糊推理结果的影响是一个重要的课题，它对提高模糊推理系统的泛化能 力有着重要意义。 第3 章摹丁参数化，范数分类问题的扣 理模掣及其敏感惟分析 第3 章基于参数化f 范数分类问题的推理模型及其敏感性分析 日i 订，专家系统中普遍采用的是模糊产生式规则来表示模糊和不确定的概念。为了 更好的表示模糊性以及不确定性，使模糊产生式规则的推理结果更加合理，本章对模糊 推理r f ，的基本问题的进行研究：针对分类问题，使用参数化，一范数与s 一范数取代传统的 取小、取大算予对模糊推理过程进行建模并研究其敏感性。 3 1 分类问题 3 1 1 分类问题描述 分类问题是数据挖掘、机器学习等人工智能领域非常重要的问题。分类问题的日标 足学习到一个拙述已知数据集类别或概念的分类函数或分类模型( 常称作分类器) 1 2 5 j 。 该模型足通过对数掂集的内容分析而得到的，它能把数据库中的数据映身j 到类别集畲中 的某一个类别。在给定训练数据集的情况下，使j j 某种分类学习方法产生模糊舰则。对 测试数据集或未知样例进行模糊推理，最终预测或标定测试样例的分类结采。在训练数 抛集上的分类准确率，称为训练精度：测试数据集上的分类准确率，称为测试精度，它 常被川来衡量系统的泛化能力。分类问题的处理过程，如图1 所示： i t i i 练集 图1 分类问题的处理过程 河北人学l ：学硕十。传论文 1 ) 数据清洗：对分类问题进行数据预处理，主要是进行数据清洗。在这个过程叶1 通 过填补遗漏数据、消除异常数据【2 6 1 、平滑噪声数据，以纠正不一致的数据。这样可以提 高数据的质量，使学习到的规则更加准确可靠，泛化能力更强，最终达到提高分类精度 的目的。 2 ) 数据集模糊化：利用隶属度函数将原始清晰的数据转化为模糊数据。 3 ) 数据集划分：按用户指定的比例将模糊化后的数据集合划分成训练集, 币t l n 试集， 以便用训练集进7 7 i 7 i l 练获取知识。 4 ) 模糊规则的产生：使用某种学习方法进, 7 7 i 7 1 1 练，如人工神经网络、模糊决策树等 方法进行学习，得到一组模糊产生式规则。 5 ) 模糊推理：利用模糊产生式规则预测未知样例的分类结果( 类别) 。如果数据集 为类分类问题，模糊推理的最后结果可以是测试样例对每一类别的隶属程度，记为： ( _ ，_ ，x ，) ；若需要对该测试样例作出清晰的分类，通常选择具有最大隶属度 m a x ) 的类别作为分类结果。 ，= i 2 ，。 3 1 2 分类问题数据准备 根据上一：1 5 介绍的分类问题的处理过程，本节在提出推理模型自订对所需的准备：l ：作 进行简要阐述。给定一个类的数据集e = ( e i ，乓，e ) ，数据集的大小为；其 中e r ”，e 表示数据集中的第k 个样例，k = 1 ，2 ，n ：数据集的候选属性集合为 u = u ，u 。) ，每一个属性u ，( - 1 ，0 ，) 描述了样例的一种重要特征：候选属性很可能 有不i 司的值域，当属性的值域为连续值时，该属性称为连续值属性，否则称为离散值属 性：数据集中的每一个样例e 的类别在集合c = c i ，c ) 取值。因此，分类问题的目 标是将隐含的函数 ： ) 一 ( 从样例的候选属性到类别hf ( u c 属性的映射函数) 表达出来。 刘给定的数据集进行数据清洗后将数据集模糊化，以便更好的描述模糊和不确定的 概念，减少在推理决策时的信息重载。模糊化实际上是一个概念化过程，它更符合人类 的思维方式。例如，可以把用连续值属性“身高”概念化为术语“高”、“中”、“低”。 连续值属性的模糊化需要经过离散化和隶属度函数处理两个步骤。离散值属性的模糊化 不需要使用隶属度函数，属性取该属性值时隶属度为1 ，否则为0 。 第3 章基丁参数化，一范数分类问题f l j g l ；理模型及其敏感悱分析 模糊化时，使用k o h o n e n 算法1 2 7 j 获得最优的中心点，它是迭代求中心点的过程。这 些中心点作为三角形隶属函数的参数用来计算连续值属性数据的隶属度。连续值属性 ( 语言变量) 经过隶属函数1 ) ，j 模糊化处理后，将对应一组离激的语言术语( 属性取值) ， 每个语言术语对应一个模糊概念。也就是说，属性u ( f - l o ，) 模糊化后在离散的属性 值集合a 7 = ( 彳i ，4 ，“，) ，v = 1 ，1 ，中取值，样例对每个属性取值都有一个隶属度。 比如某样例集合的一个连续值属性为“身高”，模糊化后得到的一组离散的语言术语 高， l l j ，低l ，该样例在经典集合的取值为( 0 ，1 ，0 ) ，使用隶属度函数模糊化后变成的形 式为( 0 4 ，0 6 ，0 ) 。因此，模糊化后第k 个样例e 的结构记为： 毛= ( e l ，p k ，i ，味，p ，p “吃。吼1 ，o k ) 其中；，( - 1 ，u ；v = l ，) 表示样例乓的属性刘属性值a ：的隶属度； o k l ( ，= 1 ，l ) 表示样例乓对类另qc ，的隶属度。数据集模糊化完成后，根据用户指定的比 例进行随机划分，以便从训练集中学习模糊产生式规则。 3 1 3 模糊产生式规则的生成 分类问题最后都可用一组模糊产生式规则“i fat h e nb ”表述，其巾a 称为条 件模糊集，b 称为结论模糊集。模糊规则的置信度等同于“模糊集合a 是模糊集合b 的 予集”的程度。模糊产生式规则的生成方法很多，模糊决策树、模糊神经网络、机糙集 等等：本：1 了主要介绍y u a n 和s h a w 提出的模糊决策树算法1 2 8 j ，因为这是实验时本文采 t l j 的学习模糊产生式规则的方法。模糊决策树算法是采用最小不确定性度量作为启发式 信息柬诱导生成决策树的，建立模糊决策树的过程就是减少分类不确定性的过程。该算 法与其他的i d 3 的模糊扩展算法不同【2 9 3 例，算法巾需要预先设定两个参数：显著水平a 和真实度的域值口，分别用于对模糊数据的过滤和控制叶子的产生。下面给出算法中用 到的重要概念。 定义8 ：模糊规则的置信度( t r u t hl e v e l ) 定义为条件模糊集a 包含于结论模糊集曰的程 度1 2 8 l ，也就是说满足条件a 时，分类结果为b 的可能性： 鼬b ) - 等= 等一 河北人学i j 学硕十学位论文 其中，纨( 乓) 和嚣( 乓) 为隶属度函数。给定语言术语劢册( 4 ) ，l l 女n 给定语言 变量“温度”f l , + j 语言术语“热”，那么在分类空间就会产生一个关于分类f l , j 可能性分斫j 。 定义9 ：分类可能性分布的形式定义为：万( cj4 ) = 丌( c ，i4 ) ，= 1 ，上) ，其中 丌( ql 彳：) = 磊磊主畿，= 1 ，。 基于分类可能性分布巧( c l 彳：) ，可以给出语言术语死m ( 彳：) 的分类不确定性定义。 定义1 0 ：语言术语t e m n ( a ：) 的分类不