（机械制造及其自动化专业论文）基于信息优化的加工过程智能控制.pdf

摘要 摘要 随着制造系统 向 自动化 、网络化和智能化方 向的发展及现代企业所 面临的变化莫测的全球经济环境，现代制造系统不仅要处理大量的常规 的数据和图形，还要处理大量的不确定信息。对信息的处理和利用的研 究不但是现代制造的热点，也是作为智能制造技术基础的智能控制技术 发展的关键。但有关制造系统中信息的研究，国内外都尚处于起步阶段。 本文首先综述了信息时代的智能制造的特点以及信息的度量理论一 嫡理论的基本内容及其进展:包括概率嫡、模糊摘及二者的结合，归纳 了信息优化原理的主要规则。接着研究了应用于加工过程的基于信息优 化 的智能控制 的相关方法和理论 ，包括 : 1 .基于信息优化的前馈神经网络控制 2 .基于最大摘的控制理论 3 .基于最大嫡的自适应控制及基于最大嫡的 r b f神经模糊控制 研究了基于信息优化的智能控制原理在加工过程中的应用， 井将其效果 与 b p神经网络的自适应控制进行比较。 在加工过程的切削力输出为恒值的 控制中，基于信息优化的前馈神经网络控制及基于最大嫡的自适应控制都 能达到满意的效果。 本文还提出了加工过程基于最小嫡的神经网络控制和基于最大嫡的神 经网络控制。控制结果表明，在相同的条件下，基于最大嫡的神经网络控 制可以取得比b p神经网络的自适应控制更好的效果。 本文最后总结了主要的结论并指出了将来的研究工作的重点和难点。 类钟词 加工过程: 信息优化; 嫡; 智能控制; 神经网络 华南理工大学工学硕士学位论文 a b s t r a c t wi t h t h e d e v e l o p m e n t o f a u t o m a t i o n , n e t w o r k i n g a n d i n t e ll e c t u a li z a t i o n o f m a n u f a c t u r i n g s y s t e m s , m o d e m m a n u f a c t u r in g s y s t e m s h a v e t o d e a l w i t h a g r e a t a m o u n t o f n o r m a l d a t a b u t a l s o p l e n t y o f u n c e r t a i n t y i n f o r m a t i o n . t h e s t u 勿 o f t r a n s a c t i o n a n d u t ili z a t i o n o f i n f o r m a t io n h a v e n o t o n l y b e e n b e i n g o n e o f t h e f o c u s e s o f i n t e re s t s i n m o d e r n m a n u f a c t u r i n g , b u t a l s o t h e k e y f o r t h e d e v e l o p m e n t o f t h e i n t e l li g e n t c o n t r o l t e c h n i q u e s , w h i c h a r e t h e b a s i s o f i n t e l li g e n t m a n u f a c t u r i n g t e c h n i q u e s . wh i l e t h e s t u d y o f i n f o r m a t i o n in m a n u f a c t u r i n g s y s t e m s h a s b e e n 初a c o n m re n c i n g s t a g e i n n a t i o n a n d a b ro a d . i n t h i s p a p e r , t h e c h a r a c t e r i s t i c s o f i n t e l li g e n t m a n u f a c t u r i n g s y s t e m s i n th e i n f o r m a t io n a g e , a n d t h e b a s i c c o n t e n t a n d d e v e l o p m e n t o f m e a s u re m e n t t h e o ry o f i n f o r m a t i o n - e n t ro p y t h e o ry , w h i c h i n c l u d e s p r o b a b i li t y e n t r o p y , f u z z y e n t r o p y a n d t h e c o m b i n a t i o n o f t h e m , a r e i n t r o d u c e d . a l s o t h e m a i n p r i n c i p l e s o f i n f o r m a t io n o p t i m i z a t io n th e o ry a r e p r e s e n t e d . t h e f o ll o w i n g r e l a t e d m e t h o d s a n d t h e o r i e s o f i n f o r m a ti o n - o p t i m i z a t io n - b as e d i n t e l li g e n t c o n t ro l a p p li e d i n m a c h i n i n g p r o ces s e s , a re s t u d i e d : o n - o p t i m i z a t i o n - b a s e d f o r w a r d n e u r a l n e t w o r k c o n t r o l m a x i m u m - e n t r o p y - b a s e d c o n t ro l t h e o ry e n t ro p y - b a s e d a d a p ti v e c o n t r o l a n d t h e m a x i m u m - e n t r o p y - b a s e d thethethe r b f n e u r o-f u z z y c o n t r o l t h e a p p li c a t i o n s o f t h e in f o r m a t i o n - o p t i m i z a t i o n - b a s e d a r e i n v e s 电a t e d , a n d t h e re s u l t s z a t o n - b a s e d in t e l li g e n t c o n t ro l i n m a c h i n i n g a re c o m p a r e d w i t h b p n e u r a l - n e t w o r k - b a s e d a d a p t i v e c o n t ro l . 玩t h e s i m u l a ti o n s o f c o n s ta n t c u t t in g f o r ce c o n t ro l i n m a c h i n i n g p r o c e s s e s , s a t i s f a c t o ry p e r f o r m a n c e s b o t h i n t h e i n f o r m a ti o n - o p t i m i z a ti o n - b a s e d f o r w a r d n e u r a l n e t w o r k c o n t r o l a n d t h en t rop y - b ase d c o n t rol a r e o b t a i n e d . a l s o t h e m i n i m u m - e n t ro p y - b a s e d e n t r o p y - b ase d n e u r a l n e t w o r k c o n t r o l tw o r k c o n t r o l a n d t h e ma x i mu m- g p r o c e s s e s a r e p r o p o s e d . a n d t h e ， t h e m a x i m u m - e n t r o p y - b a s e d n e u r a l n e t w o r k c o n t r o l p e r f o r m s b e t t e r t h a n t h e b p n e u r a l n e t w o r k a d a p t i v e c o n t ro l . t h e m a in c o n c l u s io n s a r e s u m m a r i z e d i n th e e n d a n d t h e e m p h a s e s a n d d i f f i c u l t i e s o f t h e r e s e a r c h i n t h e f u t u r e a r e p o i n t e d o u t . k e y w o r d s : ma c h i n i n g p r o c e s s ; i n f o r m a t i o n o p ti m i z a t i o n ; e n t r o p y ; i n t e l li g e n t c o n t r o l ; ne u r a l n e t wo r k 华南理工大学 学位论文原创性声明 本人郑重声明:所呈交的论文是本人在导师的指导下独立进行研究所 取得的研究成果。除了文中特别加以标注引用的内容外，本论文不包含任 何其他个人或集体已经发表或撰写的成果作品。对本文的研究做出重要贡 献的个人和集体，均已在文中以明确方式标明。本人完全意识到本声明的 法律后果由本人承担。 作 者 签 名 : 林 毅日 期: .,z 显然，要进一步 提高整个制造过程的效率，关键在于解放人的脑力劳动，在于提高机器 的智能及信息处理的自动化程度。而计算机技术及其他高新技术的发展， 为制造系统的智能化提供了可能。面对多品种，变批量柔性主产的要求 和动态、突变、非平稳的市场的需要，人们通过集成制造技术、计算机 技术和人工智能而形成一种新型制造工程一智能制造技术( i mt ) 和智能 制造系统( i ms ) 制造业的发展过程经历了由手工制作( 1 9 1 3年前) 、制造业的泰勒主 义( 1 9 1 4年) 、高度自动化( 1 9 5 0年前) 、柔性自动化和集成化制造( 1 9 5 0 - 1 9 8 。年) ，发展到今天的并行工程和敏捷制造( 1 9 8 9 -2 0 0 。年) ，乃至今后 的智能制造( 2 0 0 0年后) 等阶段。并通过使用新技术、新工艺、新材料和 先进工具方法以满足不断变化的新市场的需求。显而易见，智能制造， 是面向世纪的制造技术和重大研究课题，是现代制造技术、计算机科学 与人工智能( a i ) 等发展的必然结果。 人类进入信息时代， 在信息技术( 计算机软件和通信) 支持下的制造业 以崭新的面貌出现，信息技术在促进制造业发展过程中处于第一位的作 用 3 ， 。 信息作为一种资源，不但带给我们机遇，也带来风险。各种各样的 信息只有经过去粗取精，抓住本质的处理后才能对产品的产生有用的价 值。制造系统集成与调度的关键是信息的传递与交换。从信息与控制的 观点来看，智能制造系统是一个信息处理系统，由输入、处理、输出和 反馈等部分组成。制造过程实质上是信息资源的采集、输入、加工处理 和输出的过程。而最终形成的产品可视为信息的物质表现形式， 。 对信息的处理和利用的研究不但是现代制造的热点， 也是作为智能制 造技术基础的智能控制技术发展的关键。 _ 1 _ 华南理工大学 工学硕士学位论文 1 . 1 智能制造与加工过程智能控制 智能制造技术【 ， ， 是指在制造工业的各个环节，以一种高度柔性与高 度集成的方式，通过计算机来模拟人类专家的制造智能活动，对制造问 题进行分析、判断、推理、构思和决策 ，旨在取代或延伸制造环境 中人 的部分脑力劳动;并对人类专家的制造智能进行收集、存贮、完善、共 享、继承和发展。智能制造技术是制造技术、 自动化技术、系统工程、 人机智能等学科相互渗透和融合的一种综合技术。 智能制造系统【 石 ， 基于 智能制造技术，综合应用人工智能技术、信息技术、自动化技术、制造 技术、并行工程、生命科学、现代管理技术和系统工程理论与方法，在 国际标准化和互换性的基础上，使得整个企业制造系统中的各个子系统 分别智能化，并使制造系统成为网络集成的高度 自动化的制造系统。自 2 。 世纪 8 0 年代美国提出智能制造概念以来， 智能制造系统一直受到众多 国家的重视和关注，在智能制造领域中，最具有影响和代表性的当属日 本的智能制造系统国际合作计划，它是迄今为止 己启动的制造领域内最 大的一项国际合作计划。 机械加工正朝着智能控制加工方向发展，智能加工的基本目的川就 是要解决加工过程中众多不确定性的，要由人千预才能解决的问题，它 的最终 目的是要由计算机取代或延伸加工过程中人的部分脑力劳动。实 现加工过程智能控制 盆 ， 是利用智能控制技术对机床加工过程进行有效控 制，提高工效和产品质量，优化加工过程，是未来智能制造发展的重要 基础，机床加工智能控制的发展对智能制造系统的发展以及对 目前加工 系统加工工效的提高等都具有十分重要的战略意义和现实意义。1 9 8 4年 ma t s u s h i m a 等首先研究了机床的智能控制 ， ， ， 此后， 人们对加工过程的模 糊控制、专家控制和神经网络控制等三个主要领域，进行了不少研究工 作 。 ( 1 ) 专家控制( e x p e r t c o n t r o l . e c ) k . 1 . a s t r o m在 1 9 8 3 年首先提出将专家系统技术引入自动控制的思 想，并于 1 9 8 6年正式提出了专家控制的概念，开创了智能控制的一个重 要领域。专家系统是一个具有大量的专门知识与经验的程序系统， 它应用 人工智能技术和计算机技术， 根据专家提供的知识与经验， 进行推理与判 断， 模拟人类专家的决策过程， 甚至将多个专家的知识经验综合起来处理 更复杂的问题。专家系统在控制系统中主要用于高智能的推理和决策， 而具体的控制通常由传统的控制方法实现。 根据专家系统技术在控制系 统中的功能结构， 将其分为两种形式， 即专家控制系统和专家控制器。用 -2 - 第一章绪论 专家系统所构成的专家控制， 无论是专家控制系统还是专家控制器， 其相 对工程 费用较高， 而且还涉 及 自动地 获取 知识 困难 、无 自学能力 、知识面 太窄等 问题。尽管专家系统在解决复杂的高级推理中获得较为成功的应 用， 但是专家控制的实际应用相对还是比较少。 ( 2 ) 模糊控制( f u z z y l o g i c c o n t r o l , f l c ) 模糊集理论自 1 9 6 5 年 l . a. z a d e h提出以来，在许多领域得到应用， 在控制领域的应用尤其引人注意。 由于模糊逻辑更接近于人的思维和 自 然语言，再加上 8 0 年代模糊微处理器芯片的问世使得模糊控制得到了广 泛的实际应用，并发展成为智能控制研究的重要领域 1 0 1 。模糊控制的本 质是基于规则的控制，不需要建立关于控制对象的精确数学模型，是一 种不依赖于对象模型的智能控制方法。模糊控制的一般结构图如图 1 - 1 所 示 : 1 9 8 2年 z h u等首先将模糊控制和模糊逻辑应用到机床控制，对磨削 进给进行控制提高表面光洁度 。模糊逻辑可适用于任意复杂的对象控制。 在实际应用中模糊逻辑实现简单的应用控制比较容易。简单控制是指单 输入单输出系统( s i s o ) 或多输入单输出系统( mi s o ) 的控制。因为随着输 入输出变量的增加， 模糊逻辑的推理将变得非常复杂 川。 知识 模糊 模 枷 推反 模 糊 被 控 过 图 1 - 1模糊控制的一般结构 f i g . 1 一 1 n o r ma l s t r u c t u r e o f f u z z y c o n t r o l ( 3 ) 神经网络控制( n e u r a l n e t w o r k c o n t r o l , n n c ) 人工神经网络是由大量神经元相互连接而成的自适应非线性动力系 统，它具有大规模并行处理、知识分布式存储、 自学习能力强等特点。 它的知识表示和知识获取过程同时进行、同时完成。在确定了网络的结 构参数( 网络的层数、 每层的神经元个数) 、 神经元的功能函数和学习算法 后 ，通过 对给定样本 的学 习，就能把所 获取 的知识表示 为 网络 的权 重系 数 和 im值 向量 ，知识 也 以分布 式 的方式 存储于 整个 网络 之 中了 。人 工神 一3一 华南理工大学工学硕士学位论文 经网络是一个具有 自学习能力的系统，可以发展知识，所以它的推理能 力可以超过设计者原有的知识水平。另外 ，由于神经 网络具有并行处理 信息的功能，推理速度快，所以特别适用于实时控制系统中。1 9 8 9年 r a n g w a l a等首先应用神经网络的学习、映射和综合能力来研究加工过程 的优化与自适应控制 1 2 。在国内，1 9 9 2 年，王卫平博士做了人工神经网 络在切削加z过程智能化中的应用 1 3 ) o l . mo n s t o r i和 d. b a r s c h d o r f f 在文 1 4 中详细讨论了神经网络在智能制造中的应用研究。 神经网络控制 器是利用神经网络 的学 习能力来学习并表达控制器 的动态特性， 主要包 括三种途径 : 一是让神经网络学习对象的逆模型来直接设计控制器;二是 让神经网络作为学习器， 在线校正控制器( 常规控制器或模糊控制器) 参 数:三是神经网络学习专家控制知识来直接设计智能控制器。其利用神 经网络来构造控制器， 同时利用神经网络的学习能力在线修正控制器参 数， 实现 时变过程 的 自适应控 制 。 1 . 2信息时代的智能制造 1 . 2 . 1 信息时代的制造业 随着制造系统向自动化、网络化和智能化方向的发展及现代企业所 面临的变化莫测的全球经济环境，现代制造系统不仅要处理大量的常规 的数据和图形，还要处理大量的不确定信息。 1 . 制造系统中的信息大爆炸 与制造活动有关的信息包产品信息和制造信息 1 6 1 。所谓产品信息， 指的是为了确切描述产品的特征所必须的信息，包括产品的几何形状、 尺寸、精度、材质、各种规范及技术要求:所谓制造信息，指为了实现 某一制造过程，并获得满足预定要求的产品所需注入制造过程的各种信 息，包括工艺信息和管理信息。现代产品日趋复杂、精细、功能多样， 同时消费向个性化，生产向多品种、小批量方向发展，需要越来越多的 信息 。自动化技术和工矿监视技术的高度发展和广泛应用，使工艺过程 反馈大量信息供分析和利用。计算机和网络化己成为制造业发展的最重 要的手段，世界 5 0 0强企业无一例外的建立了 i n t r a n e t ，企业内部各环节 包括制造系统与市场及客户的错综复杂的联系和广泛、及时的信息交流 使管理信息大幅上升。 今天制造系统中的各类信息无论在数量上、影响程度上和重要性上， -4 第一章绪论 都远非昔日的制造活动中涉及的信息所能比拟。 2 . 制造系统中的不确定性因素决策 由于信息传递的速度越来越快，科学技术从知识到技术，再到产品 的时间越来越短。产品的开发周期缩短，产品投入市场较短时间内便可 收回大部分利润，进入市场晚便意味着将会丧失相当可观的预期收入， 使企业处于不利的竞争地位。在这种情况下，产品开发者不可能在所有 资料和数据完全清楚，或各种开发方案和制造过程完全试验过后做出决 定，而必须在有相当的不确定性因素存在的情况下，做出最优的选择。 另外， 在智能制造中发展开放性的人机协作系统已成为必然幻 ， 同时人是 制造智能的重要来源，需要在智能系统中利用人类己积累的模糊的、不 完整的、不精确的经验知识，这些使得制造系统和制造过程中的决策和 控制问题变得非常复杂。 在智能制造研究中ir k 需对这些不确定信息和经验知识进行定量化研 究，不确定性因素的决策己成为当前制造技术决策中的主要难题和关键。 1 . 2 . 2信息制造观的形成 在信息革命的猛烈冲击下， 制造也正在发生着一场翻天覆地的变化 ， 逐渐形成一种信息制造观 2 , 1 4 7现代制造过程中所需接受和处理的各种信 息正在爆炸性的增长。物质、信息与能量成为驱动现代制造系统的三大 要素，信息的重要性甚至高过能量，因为信息所消耗的成本远高过能量， 而且能量也要靠信息来控制 1 5 7 。在信息时代，人们将产品定义为: “ 人 们在原始资源上赋予信息和知识的产物”，视制造过程为: “ 赋予信息 和知识的过程” 们。而从广义说来知识是经过处理的信息，知识是多种 简单信息的融合、归纳和升华 ，反过来知识又是处理信息的工具。有效 和高质量的利用信息是制造过程中使有限的物质和能源资源无反复、无 浪费、有效得以利用的保证。 基于信息和知识的制造将是制造技术发展的重要方向，提高制造系 统的信息处理能力己成为现代制造技术发展的重点 一 ， 一 ， . ， 。 1 . 3 信息论与智能控制的结合 自德国物理学家r . c l a u s i u s 于 1 8 6 5 年确切使用嫡概念的l o o 多年来， 嫡概念己被应用于几乎所有的科学领域，1 9 4 8 年，c . e . s h a n n o n 在贝尔 一5 一 华南理工大学工学硕士学位论文 系 统技术 杂志 发表 了著名 的长篇 论文一 一 通信 的数 学理 论 ，系 统而 完备 地创立了面向通信系统的信息论，信息论把嫡理解为一个度量信息状态 的不确定性的尺度 ” ， 。 控 制领域 的很 多专家 一直都试 图将 控制 理论和 信 息理 论相结 合 。早 在 6 0 年代， z a b o r s z k y 提出用信息测度作为系统辨识的统一性能指标【 ” ， 。 we i d e m a n n ( 1 9 6 9 ) 用信息嫡讨论了反馈控制系统 ， ， 。而真正引起人们对信 息 理 论 在 智 能控 制 中引 用 关 注 的是s a r i d i s等 发 表 的一 系 列 文 献 ， 由 s a r i d i s 理论的三级分层递阶结构模型， 智能控制由智能高的组织级开始， 经 由协 调级 到智 能低 的执行级 结束 ，这显 然是 一个信 息从不 确 定性到确 定性的过程，很像通信理论中的信息传递过程 i s ，从这个意义来说智能 控制系统实际是一个信息处理系统。s a r i d i s在文献 ” ， 中指出: “ 智能随 控制 的精度 增加 而 降低 ”，这 一著名 的智 能控制 原则 与信 息处 理过程 是 一致的，因此利用信息嫡作为智能控制的性能测度就能统一各级性能指 标，利用信息理论来研究智能控制问题是 自然的。蔡 自兴把信息论作为 智能控制结构一个子集【 2 0 ，在智能控制二元和三元结构的基础上，结合 相关学科特点与关系，提 出了智能控制的四元交集结构理论，认为智能 控制是 自动控制、人工智能、信息论和运筹学的交集，并提出了构成四 元的交接关系。 1 . 4本课题来源及主要内容 本论文选题来 自国家 自然基金资助项 目 “ 制造系统不确定性信息的 广义测度和智能决策与控制 ”及教育部留学回国人员科研启动基金资助 项 目 “ 基于信息优化和元学习的智能加工决策与控制”。 由于有关制造系统中信息的研究，国内外都尚处于起步阶段 川。加 工过程中将信息理论和控制理论相结合的研究在国内外的文献中都不多 见。本论文的目的是研究基于信息优化的智能控制的理论，探索基于信 息优化的智能控制的方法在加工过程中应用的途径，以及其可行性和有 效性，为后继阶段的实验研究做好基础研究工作。 全文分为四章。第一章介绍了智能制造的基本概念与加工过程智能 控制的三种主要方法 以及信息时代的智能制造 的特点。指 出在信息时代 的智能制造 中对信 息 的处理和利用 的研 究是智 能制造 发展 的关键 。最后 简单回顾了信息论与智能控制理论相结合的发展过程。 在第二章中首先介绍了不确定性的来源及其测度，并重点介绍了信 一吞一 第一章绪论 息的度量理论一嫡理论:包括概率嫡和模糊嫡理论 以及这两种不确定性 都存在时嫡的表达式 。归纳 了 目前智能控制中的信息优化原理 的三条主 要原则并列举了其在控制理论中的应用实例。从而得出结论:虽然加工 过程中的不确定性信息的研究尚处于初步阶段，但也有了一定的研究基 础，关键的问题在于信息理论在系统控制过程中的表达即其结合问题。 第三章研究了三种基于信息优化的智能控制的理论。其中基于信息 优化的前馈神经网络是利用了 b p网络的隐层本身的概率性; 基于最大嫡 的自适应控制的应用基础是 s a r i d i s的最大嫡控制原理:基于最大嫡的 r b f的神经模糊控制则是利用了最大嫡控制原理和 r b f 神经网络与t -s 模糊推理规则的函数等效性。然而上述原理在加工过程中应用还未见有 报道，需要进一步研究其在加工过程中的应用途径。 第四章应用基于信息优化的智能控制原理，对加工过程中保持输出 切削力为恒值进行研究。作了如下研究: ( 1 ) 基于信息优化的前馈神经网络控制 ( 2 ) 基于最大嫡的自适应控制 ( 3 ) 基于最小嫡的神经网络控制 ( 4 ) 基于最大嫡的神经网络控制 并将其与 b p神经网络的 自适应控制效果进行对照，结果表明基于信 息优化的智能控制在加工过程中的应用是可行和有效的，并有其一定的 优越性。同时指出基于信息优化的智能控制在加工过程中应用需要重点 解决和难于解决的问题是如何表达加工过程的信息。 最后对全文进行 总结 ，并对进 一步 的研究工作进行 了探讨 。 一7 se 华南理工大学工学硕士学位论文 第二章 信息的不确定性度量及应用 2 . 1 信息的不确定性 长 期 以来 ，人们对客观事物 的认识 习惯追求 其精确 性或者清 晰性 。但 在处理现实问题时，往往难于用精确的概念来描述事物 ，无法避免不确 定性现象。不确定性又与信息和智能系统密切相关，一个人工智能系统 的能力主要 体现在 求解不确 定性 问题 的能力上 。可 以说 ，不确 定性是信 息和 智能 问题 的本质特 征 。 一般来说，信息的不确定性可能有以下的几种原因【 2 习 1 . 信息不是完全可靠的。因为现实世界中事件之间的因果性、关联性 往往过于复杂，要使某一结论成立，需要很多前提。 2 .信息本身是不完备 的 。有 时全局 的信息无法得到 。这种不完备 性也 导致不确定性 。 3 .信息是不精确的。这种不精确往往来源于语言、文字表达的内容是 含糊的。如 “ 年轻的”、 “ 方形的”等概念 。 4 .信息是矛盾的。例如几个医生对同一个病人各 自诊断的结论不同， 就会提供 矛盾 的信息 。 2 . 2 不确定性的测度 在人类思维活动和现实生活中，存在大量的不确定和不精确的现象， 不能简单用基于二值逻辑的确定性数学来描述，而需要用不确定性数学 来描述。人类对不确定性的认识上 ，发生了两次质的飞跃。第一次飞跃 发生在 1 9世纪后期，当时物理学家研究分子运动时，无法用牛顿力学来 分析大量分子运动，需要采用与解析方法不同的数学工具来处理分子运 动 问题，从而导致相关统计方法和统计力学的产生和发展。当统计力学 在 2 0世纪初得到科学界的普遍承认后，人们对不确定性的态度第一次发 生转变，认识到不确定性在科学探索中是有用的或必要的，但这样的认 识还仅局限于概率意义上的不确定性 。解析方法适用于处理按预定轨道 运行的少数相关实体( 如变量) 的问题， 而统计方法则相反， 其研究的对象 是具有高度随机性的大量实体。虽然解析方法和统计方法具有互补性， 一名一 第二章 信息的不确定性度量及应用 但它们只适用于解决位于复杂性和随机性刻度上的两种极端问题，即所 谓组织 简单 性( o r g a n i z e d s i m p l i c i t y ) 和 无 组织 复杂性( d i s o r g a n i z e d c o m p l e x i t y ) 的问题，但大多数问题都位于这两种极端问题的之间【2 3 ，因 而需要新的数学工具( 如模糊数学) 来解决这些问题， 导致了第二次不确定 性认识的飞跃，以扎德( z a d e h ) 教授 1 9 6 5 年发表的“ 模糊集” 2 . 这篇论文 为标志，在模糊集合中，采用 “ 隶属函数”来描述现象差异的中间过渡， 从而突破了古典集合中属于或不属于的绝对关系。 2 . 2 . 1 不确定性 目前用来描述不确定性现象的数学有随机数学( 主要指概率论和数理 统计) 和模糊数学等。 随机数学用于描述具有或然性的随机现象，用概率分布函数来表示事 件发生的可能性。而模糊数学研究和处理模糊现象，用隶属函数来表示 元素的属于程度。尽管概率与隶属函数都是在 0 1 闭区间中取值，而且 研究和处理的现象都是不确定性 的，但随机性和模糊性是两种不 同的不 确定性 。 随机性是由于条件不充分、事件的发生与否表现出不确定性，可用 0 至 1之间的概率进行估计，但事件本身的含义是明确的，比如抛一只硬 币，出现正反面的概率为 1 1 2 ，而某一次抛硬币的结果是确定的，要么为 正面、要么为反面;模糊性是由于事物本身概念不明确，而产生的认识 的不确定，一个对象是否符合这个概念难于确定，隶属度大的属于程度 好一些，比如给出 “ 年青人”这样的一个模糊集合，那么 2 6 岁的人比3 8 岁的人属于 “ 年青人”这个范畴的程度要高，模糊隶属度用 0与 1间的 数来描述中间过渡状态，打破了确定性数学 “ 非 1 则 0 ”的局限性。在模 糊集合中，每个个体被分配一个值以表示它隶属于该集合的程度。这个 值反映的是该个体与模糊集合所表示的概念的相近似程度:隶属度越大， 属于该集合的程度也越大。 随机性是因果律的一种破缺，模糊性是排中率的一种破缺。概率论的 运用，是从随机性中去把握广义的因果律一概率规律。模糊数学则是从 模糊性中去确立广义的排中律一隶属规律2 3 -9 - 华南理工大学工学硕士学位论文 2. 2.2不确定性测度 经 典测度论 ，源于测量客观世界 中物质 的长度 、面积 或体积 的度 量几 何学。不确定性现象是客观存在 的， 同角度提出了多种不 同的计算公式 ， 那么如何度量不确定性 ?人们从不 如表1所 示 。 率 论 、模 糊 集 理 论 、可 能 性 理 论 、证 据 理 论 等 。 不确 定性 理 论 有 : 不 确 定 性 类 型 分 为 n o n s p e c i f i c i t y ( 不具体) 、s t r i f e ( 冲突) 和 f u z z i n e s s ( 模糊) 等。 表2 - 1 不确定性测度公式 2 1 t a b l e 2 一 1 me a s u r e s o f u n c e r t a i n t y 公式 不 确 定性 测 度不确 定性类型年 份 . . . 目. . . . . . . 1 模糊集 理论u (a ) = 脉, i a . i d an o n s p e c i f i c i t y 1 9 8 3 可能性理论 证据理论 概率论 证 据 理论 u( r ) = no n s p e c i f i c i t y n( m) = 1 9 8 3 h ( m ) = 一 艺m ( ( x ) ) 10 9 2 m ( ( x ) ) n o n s p e c i f i c i t y s t r i f e 1 98 5 1 9 4 8 s (m ) = 艺 m ( a ) io g 2 艺 m ( b )s t r i f e s t r i f e 1 9 9 2 丫.、.产、少、，了、.了、矛 123456 r、了.、了叮、子.、了.气r飞 抽 厂肠 p 可 能性理 论 s ( r ) = ( i 一 、 :) 卫。 : : 一 l , ni.a 1 9 9 2 证据 理论 n s ( m ) = 艺- ( a ) 1 0 9 2 ( 7 ) to t a l : n( m) + s ( m) 1 9 9 2 可 能性理 论 n s (r ) = i (。 一 、 ) 10 9 2 共 y-n 模糊集理论 模 糊 证 据 理 论 ,f ( a ) = 艺 ( i - i 2 ,u , ( x ) 一 l 0 (8 ) 、 t o ta l:n (r)+ s (r) ， ， ， ( 9 ) f u z z i n e s s 1 9 7 9 f ( 二 ) 二 艺 m ( a ) f ( a ) ( 1 0 ) f u z z i n e s s 1 9 8 8 2 . 3 信息度量一嫡的理论 信息论作为一门科学开始于 2 0世纪 4 0年代。1 9 4 8年美国科学家申 - 1 0 - 第二章信息的不确定性度量及应用 农( c . e . s h a n n o n )发表了 通信的数学理论一文，讨论了信源和信道 特殊性 ，给 出了信 息度量 的数学公式 ，为信息论 的创立 奠定 了基础 。 2 . 3 . 1信息嫡及其性质 申农将 信息定义为消 除不确定 性的东西 ， 学工具，从而把信息与不确定性关联起来 ， 的不确定性的尺度 2 6 1 用概率论作为度量信息的数 将嫡 作为一 个度量信 息状态 2 . 3 . 1 . 1 . 信息的数学模型 随机变量可取值于某一连续区间，也可取值于某一离散空间，由此 可将信息分为连续信息和离散信息，它们的数学模型分别规定如下: 1 . 离散信息的数学模型【 x , p ( x i ) 、卜八， x ,p (x r)一 x , , x 2 , :x . p ( x , ) , p ( x 2 ) 1 . . . , p ( x ) 其中，x e x . , x 2 , - - , x . 为离散随机变量 并有y-p ( x , ) = 1 o 2 . 连续信息的数学模型 x , 诚y , 刀 p ( x d = p ( x = x , ) 为取值x , 的概率， x ,a (x)= 默 或 :x , w (x) _ lco(x)l 其中( a , b ) 为连续随机变量x的取值范围，r = ( -, + - ) , a k x ) 为变量x的概率密度 函数 ，且 有 r o x x )* 一 或 a k x ) d x = 1 。 2 . 3 . 1 . 2 . 信息摘 1 . 嫡的定义 1 ) 离散信息的嫡 设有离散信息【 x , p ( x , ) ，规定x ; 所包含的信息量为: i ( x , ) = 一 l o g p ( x , ) ( 2 . 1 ) 1 ( x ; ) 称为x , 的自 信息， 定义其数学期望为信息的平均信息量， 并称之为信 息嫡，记为 h ( x ) ， 则有 h ( x ) = 一 艺p ( x ,) lo g p ( x r ) ( 2 . 2 ) -1 1 - 华南理工大学工学硕士学位论文 2 ) 连续信息的嫡 连续变量可用离散变量来逼近，可以认为是离散变量的极限情况， 所以可以定义连续变量i x , a ( y ; ) l 的嫡为: h ( x ) = 一 丁 00 (x ) lo g w (x )d x ( 2 . 3 ) 其积分限为变量 x的取值范围。 信息嫡是在平均意义上来表征信息的总体特征的， 它表达了信息的不 确定程度:而信息量就是解除不确定度所需的信息 的度量 ，也就是获得 这样大的信息量后，信息的不确定度就被解除。 在式( 2 . 2 ) 和( 2 . 3 ) 中，都含有对数，但对数的底没有规定，用不同的底 将得到不同的值，因而也就有不同的单位。常用的对数底为 2 , e 和 1 0 . 若以2 为底， 这样得到的嫡，其单位为比特( b i t ) ， 且规定 1 0 9 2 2 = 1 b i t ;若以 。 为底，这样得到的嫡，其单位为奈特( n a t ) ，且规定 1 n 2 = i n a t ;若以 1 0 为底，这样得到的墒，其单位为笛特( d e t ) ，且规定 1 g 2 = 1 d e t ;显然，各 单位间有换算公式:i b i t =0 . 6 9 3 n a t = 0 . 3 0 1 d e t 2 . 条件墒 定义: 设有两随机变量 x和 y ， 当x已知时， 有 y的条件概率 p ( y l x ) , 则称 y的条件概率的信息墒为条件滴，记为 h ( 川 x ) a 1 ) 当x , y 为离散信息时，设它们分别为 x , p ( x i ) 和 y , p 。 i ) l ， 当x = x ; 时，y 的条件概率为 y , p ( y i i x i ) ) ， 则有: h ( y i x ) = 一 艺艺p ( x i ) p ( y ; i x r) lo g p ( y ; a x e ) ( 2 . 4 ) i l i , ; 其中x e l x ; + x 2 i x n y e t h y 2 , . . . y . 2 )当 x, y 为 连 续 信 息 时 ， 设 它 ， 7 分 n 。 为 【x ,ar,(x )7 = 1 (a b ,)i , l a i l x ( a , b , ) a z ( y ) ，贝“ “ 一(an bi )” ， y 的条件概率为( y i x ) 则有 reses.esesl 一- y 典 y 条 件 嫡 : h (y ) = 一 亡 亡 q (x )q (y i x ) lo g r (y i x )d rdy ( 2 . 5 ) 3 . 互信 息 定义:条件嫡和无条件嫡之差称为互信息。 设有随机变量x , y ， 其无条件嫡分别为h ( x ) 和 h ( y ) ， 条件嫡为 h ( 川 x ) 和 h ( x i y ) ，则有互信息的表达式为: i ( x ; y ) = h ( x ) 一 h( x i y )( 2 . 6 ) - 1 2 - 第二章信息的不确定性度量及应用 i ( y ; x ) = h ( y ) 一 h ( y x ) ( 2 . 7 ) 根据概率论原理可知: h ( x ) 一 h ( x i y ) = h ( y ) 一 h ( y i x ) = h ( x ) + h ( y ) 一 h ( x y ) ， 则 有 : i ( x; y ) =i ( y ; x) ( 2 . 8 ) 4 . 信息嫡的基本性质 嫡函数的性质很有用，基本的有: 1 )非负性 h ( x ) = h a ( p , p z , . . . , p a ) ? 0 等号只有在 p ; = 1 时成立。 2 )对称性 :嫡 函数所有变元可 以互换 ，而 不影 响其 函数值 ，即 h ( p r , p z ， 一， p r ) = h n ( p 2 1 p i , . . . i p o ) = 一 h j p k c u , p k ( z ) + 二 ， p k ( a ) 3 )扩展性:随机变量 x有 n种取值，如果增加一种取值，只要第 n 十1 种取值的概率趋近于零，即 e -0 ，而其他概率不改变，则其嫡相等。 这 也是嫡 函数 的总体 平均 性 。 h n ( p , p 2 ， 一p a ) = 鲁h _ j( p l , p z , . . ., p ,a , p ,+ i ) 4 ) 确定性:只要信源符号表中第一个符号的出现概率为 1 ，信源嫡就等 于零 ， 即 h( 0 , 1 ) 二h( 1 , 0 , 0 , ， 二 ， 0 ) =0 5 )可加性:h ( x y ) 表示 x, y的联合嫡，当 x与 y统计独立时，有 h( x y ) =h( x) + h( y ) 6 ) 强可加性:以h ( y i x ) 表示己知x条件下 y 的条件嫡，则有: h( x y ) = h ( x ) + h ( y i x ) 同样 有 : h( x y ) = h ( y ) + h ( x y ) 7 )条件嫡小于无条件嫡: h ( y i x ) h ( y ) 2 . 3 . 2 模糊度及模糊嫡 申农的信息概念还存在一定缺陷，它只考虑 了随机型的不确定性， 不能解释与其他型式的不定性( 如模糊不确定性) 有关的信息问题。 既然将 信息嫡看作是不确定性的测度 ，在信息研究