智能计算全稿.doc_第1页
智能计算全稿.doc_第2页
智能计算全稿.doc_第3页
智能计算全稿.doc_第4页
智能计算全稿.doc_第5页
已阅读5页,还剩84页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

计算智能第一章 绪论一 计算智能的基本概念与内容1. 定义:计算智能(Computational Intelligence,CI)是以模型(计算模型、数学模型)为基础,以分布、并列计算为特征,借助现代计算工具(计 算机等)模拟人的只能求解问题(或处理信息)的理论与方法。2. 主要内容:(1) 模糊计算(包括模糊数学、模糊逻辑与模糊推理、模糊系统与模糊控制等) 模拟智能行为的理论与方法(2) 神经计算(即人工神经网络) 模拟智能结构的理论与方法(3) 进化计算(包括遗传算法、进化策略、进化规划等) 模拟智能生成的理论与方法除以上内容外,还包括三种计算方法和技术的结合。还有的人把分形与混沌等也作为计算智能的内容。3. 计算智能的别称:智能精算技术、智能优化方法、智能信息处理方法、智能信息处理技术、软计算、软计算方法等等。二 计算智能的产生与发展1.产生:1992年,美国学者James C Bezdck首次提出计算智能的概念并给出定义。1994年,IEEE在美国福罗里达州的Orlando召开第一届全球计算智能大会(WCCI),标志着计算智能的诞生。2.与人工智能的关系(1)智能三层次:第一层,生物智能(Biological Intelligence,BI)人脑的物理化学反应过程物质基础 第二层,人工智能(Artificial Intelligence,AI)人造的符号表示基于人的知识精华的传感器数据。 第三层,计算智能(CI)由数学方法的计算机实现来源于数值计算和传感器。(2)CI是AI的深化和发展。(3)CI的特征(与AI相比) 主要依赖的是生产者提供的数字材料,而不是依赖于知识。 主要借助计算方法(特别是与数值相联系的计算方法)的使用,而不是采用逻辑符号推理的途径。3.计算智能在现代信息技术中的地位和作用(1)信息技术的基元:感测技术、通信技术、智能技术、控制技术(2)信息技术的要素: 物质基础:光电子、微电子、传感器 载体:计算机 核心:通信 理论基础与支撑:数学(3)信息技术的时代特征:数字化、网络化、智能化。(4)信息技术的四功能:信息获取、信息传输、信息处理、信息应用(控制)正是人信息器官(感觉器官、传导器官、思维器官、效应器官)功能的扩展。(5)信息科学的四个主要自学科:信息处理、编码与安全、计算智能(包括人工智能、模式识别等)、自动控制。4.发展:(1)研究内容正在朝着几个方面的结合向纵深发展。(2)应用非常广泛:国际、国内。(3)积极意义:促进基于计算和基于物理符号相结合的各种智能理论、模型、方法的综合集体。多利于发展思想更先进、功能更强大,并能够解决更复杂系统问题的职能行为。三 本课程的主要任务1.课程性质:硕士研究生学位课程。2.主要任务:系统介绍计算智能的基本理念、基本原理和基本方法。3.课程内容:模糊计算、神经计算、进化计算。四 教材与参考书:1.王耀南,智能信息处理技术,高等教育出版社,2003.教育部研究生工作办公室推荐研究生教学用书教材。2.徐宗本、张讲社、郑亚林,计算智能中的仿生学:理论与算法,科学出版社,20033.教育科学“十五”国家规划课题研究成果:计算智能(第一册、第二册、第三册),高等教育出版社,20054.其他任何一本相关参考书即可。第一篇 模糊计算 Fuzzy Computing第二章 模糊集合与模糊逻辑1965年,美国加州大学伯克莱分校的自动控制和计算机理论专家L.Zadeh教授发表了“Fuzzy Sets”的著名论文,开创了模糊理论。1973年,Zadeh又给出模糊逻辑理论。1974年,英国Mamdani给出蒸汽涡轮机模糊控制实验。1985年,美国Togai制造出第一个模糊推理芯片。1987年,日本日立公司将控制用于地铁机车自动驾驶。1990年起,日本掀起家用电器模糊热。现代,模糊推理和模糊控制已被广泛的应用于众多学科领域,模糊计算已显示出强大的生命力。本章主要介绍模糊集合、模糊运算、模糊矩阵、模糊逻辑、模糊推理等基本内容。2.1模糊集合及其应用一基本概念1.论域与元素 客观事物浩如烟海、千头万绪。但人们在考虑某一个具体问题时,总是先把一体局限在一个范围内,这个范围就称为“论域”。常用大写字母表示。论域中的每个个体对象称为论域中的元素,通常用小写字母表示。2.模糊集合的定义(1)设U为一个论域,我们把定义在U上取值在闭区间0,1上的一个函数称为U上的一个模糊子集,简称模糊集。 设:U0,1记=(|x),xU。通常就把称为U的模糊集,因此又记=,而称 为的隶属函数。(2)注:模糊集完全由其隶属函数唯一确定,也可记= 当仅取0,1值时,就为U的通常普通子集A=x|=1U。这时的称为特征函数=可见模糊集合是普通集合的推广。 在模糊子集中, 模糊空集为=0的模糊集 模糊全集为=1的模糊集 模糊单点集为=的模糊集,也常记为,又称模糊独立集。 模糊集的隶属函数有明显的几何意义10 x x U 可见模糊集理论其实质就是论域U上取值在0,1内的实函数理论。3.模糊集合的表示: (1)Zadeh表示法: 若U为有限集U=,.,则表示为, =+.+= 若U为无限集则=,xU or = (2)向量表示法(仅限于U为有限集的情况) =(,.,)(3)隶属函数表示法:直接用的表达式表示。例如,U=0,100,表示人的年龄论域,用=表示“老年人”这个模糊集。而用=,表示“青年人”这个模糊集。(4)图像表示法 用隶属函数的图像表示,例如 10 50 x 老年人0 25 x 青年人二隶属函数的确定 隶属函数是模糊计算中的基本概念,它是模糊集合理论和方法基石。因此,如何建立某个模糊概念的较为合适的隶属函数,则是用模糊计算方法较好地解决问题的关键。所以必须首先讨论一些建立隶属函数的原则和方法。1. 关于建立隶属函数的原则(1) 隶属函数的建立虽由主观性,但不能为任意性。(2) 建立隶属函数前,须对与待确定的模糊概念相关的客观因素进行充分检测,取得可靠数据。(3) 参与建立隶属函数的人员,不仅要对待确定的模糊概念有主观上的充分认识,同时也必须由将其认识转化为数学表示的能力。(4) 可根据问题特点,同时用几种方法建立隶属函数,然后再比较,从中选取一种最为合适的隶属函数。(5) 隶属函数建立后,使用过程中可根据情况做适当的调整。(6) 对于不是模糊的清晰概念,相应的隶属函数值只能取0或1,决不能将清晰概念模糊化。2. 建立隶属函数地方法:(1) 模糊统计法例如我们建立“高个子”这一模糊概念的隶属函数。首先选定论域U=“人的集合”对U中每个元素确定隶属函数值,选取U,为“张三”。其次,在U中考虑一个普通子集,认为是高个子人群,当然这个随着条件、场合、观点的改变而改变。例如让50个人持不同观点选各自的高个子人群,就有50个。第三,计算的次数和的“高个子”隶属函数:第四,用不同的试验重复第二步和第三步。最后,记即为的隶属函数值。(2) 集值统计迭代法设U=为论域,为要建立的模糊集。现选m个人P=参与对的确定。具体方法如下:首先,选一个初始值r为自然数。第一步,让每个参与者在U中选取r个自己认为隶属程度最高的对象,j=1,.,m第二步,让每个参与者在U中选取2r个自己认为隶属程度最高的对象,j=1,.,m第k步,让每个参与者在U中选取k r个自己认为隶属于程度最高的对象,j=1,.,m若k满足n=kr+t,t=0时,上述过程进行到第k步。若,上述过程进行到第k+1步。第k+1步,令=U最后,计算每个隶属与的程度。记 则取,i=1,.,n(3)比较法参见徐扬等编著,模糊模式识别及其应用,西南交通大学出版社,1999 3. 常见隶属函数: 我们在这一小节假设论域为实数R,这里的隶属函数又称为模糊分布(1) 正态型 ,10ax(2) 戒上型 a,b010cx还有很多常见的隶属函数,见王耀楠智能信息处理技术,高等教育出版社,2003。三模糊集合的基本运算及其定律 1.并与交 (1)定义:设,为论域U上的模糊子集。定义它们的并的隶属函数为: 它们的交的隶属函数为: 这里的max或表示“取最大运算”,min或表示“取最小运算”。(2)例子:设U=,则 , (3)一族模糊集的并与交 设,.,为论域U的子集,定义它们的并的隶属函数为,它们的交的隶属函数为,2补运算:(1)设为U的一个模糊子集,定义在U上的补集的隶属函数为, (2)例子:在上例中,则: 3.基本运算定律(1)分配律:(2)结合律:(3)交换律:(4)幂等律:(5)同一律: (6)De.Margen定律: (7)双重否定律:4.包含关系及性质(1)设 , 为论域U上的模糊子集,若, 。则称 包含于,或称包含于。记为: (2)吸收律:设,则 ,5.模糊集的其他运算我们上述讨论的运算取大,取小称为Zadeh算子,除此之外,还有许多种运算,它们对用模糊集解决某些具体问题有很大的作用。如果我们简单用a,b分别表示,则:1. Zadeh算子表示为 ,另外有如下运算:2.代数算子3.有界算子,4.EinsLain算子,其他还有很多种最新出现的模糊集运算,见徐宗本等编著计算智能中的仿生学:理论与算法p186-187。我们一般情况下,只采用Zadeh算子,即取大,取小。大家在自己课题研究和应用中可选取其他的运算,以求创新或更符合人脑思维。2.3 模糊关系与模糊矩阵模糊关系是模糊数学的主要内容之一,是模糊推理,模糊控制的重要基础。一、 模糊关系1、 基本概念(1) 定义:设X和Y为两个不同的论域,为X的模糊子集,为Y的模糊子集。为的笛卡尔积。我们称以为论域的模糊子集为X与Y之间的一个模糊关系,也称为中的一个模糊关系。的隶属函数为。(2) 例子1. 设X=, 为n个国家的集合,Y=X 表示与的友好程度,为X中的一个模糊关系。2. 设X=,.,为美国50个州的集,Y=,表示小布什和戈尔。用表示州对总统候选人的支持率,则为从X到Y的一个模糊关系。3. 设表示温度控制系统中加热器电压的变化区间,为X中的模糊子集表示“温度偏低”这个模糊概念,为Y的模糊子集,表示“电压较大”这个模糊概念。记表示“若温度偏低,则把加热器电压调到较大”则是一个X与Y的模糊概念,这时表示温度x与电压y有的程度。这个程度的如何求解,将是后面模糊逻辑的内容。(3) 模糊关系的运算设为,为上的模糊关系,定义:1. 与的并的隶属函数为, 2. 与的交的隶属函数为, 3. 的补的隶属函数为 , (4) 模糊关系的合成设为上的模糊关系 为上的模糊关系定义上的模糊关系的隶属函数为 称为与的合成(or:复合运算)2.模糊关系的性质(1)若,则且(2) 记,称为的0关系 ,称为的全称关系则a) ,b) ,c)d)(3) 若 ,则称为X上的恒等关系,则有3.模糊关系矩阵 (1) 设X,Y都是非空有限集 X=x1,.xn=xi|i=1,n, Y=y1,.ym=yj|j=1,m这时=(xi, yj)|i=1,.n,j=1,.m我们称上的模糊关系为模糊关系矩阵,记为: 一般表示式为:简记为= 01模糊关系矩阵,又简称为模糊矩阵,它就是一个取值在0与1之间的矩阵模糊矩阵还可以由关系图表示(2)模糊矩阵的运算:设,为XY上的模糊矩阵1)为=即=,i=1,n,j=1,m2)交为=3)补为=(3)例子设=,=,、=,=(3)截矩阵1)设= 0,1.定义的截矩阵=为=可见是由0和1组成的矩阵,即为Bod矩阵2)例:=,=又常记为3)截矩阵的性质(i)则(ii)=(iii)=(4)模糊矩阵的合成(复合)运算,又称为模糊矩阵的乘法1)定义:设为XY上的模糊矩阵为YZ上的模糊矩阵=,=即X=,Y=,Z=,=定义XZ上的模糊矩阵=为=() =()总结为=可见:模糊矩阵要合成,前提后引应相等。 对应取小再取大,逐个运算就成功。可见模糊矩阵的合成与矩阵乘法类似,只不过将乘改为取小,将求和改为取大。所以,合成又称为“乘”(2)例子 =2.2 模糊逻辑与模糊推理一、模糊逻辑1、模糊逻辑是取真值在【0,1】上连续值逻辑,是用模糊理论对用模糊语言描述的模糊命题进行模糊推理。2、模糊语言(1)自然语言的模糊性A. 语言是人们进行思维和信息交流的重要工具,是一种符号系统。B. 自然语言的主要特征模糊性模糊性名词举例:模范,先进,落后等模糊性形容词举例:性质形容词,比较形容词大都是模糊词:优,劣,美,丑,善,恶,大,小等模糊性副词举例:稍微、比较、非常、努力等模糊性动词举例:拥护、提高、打倒、消灭等模糊性代词举例:你们、我们、他们等模糊性句子举例:今天是个好天、小王很年轻(2)语言变量A语言变量是指以自然或人工与语言的词或词组或句子作为值的变量。B表征语言变量的五元体(N,U,T(N)G,M)其中N语言变量名称:如年龄、偏差、偏差变化、数的大小等;U为语言变量N的论域: 如:N为年龄时U=【0,100】;T(N)为语言变量N的语言值集X例如N为年龄时,T(N)=很年轻+较年轻+年轻+中年+有点老+较老+老+很老+不老+不年轻也不老+ =x1+x2+.可见每个语言值就是语言变量的一个模糊集合; G语言法则:用于产生N的值X的名称,这些规则将原子单词生成合成词。并研究合成后词义的变化,且求取其隶属函数。通常有三种方式。(一) 前缀限制词方式,如“极.”“很.”“相当”“大概.”“略”等(二) 加连续词“或”“且”和否定词“非”如 “不年轻也不老”(三) 混合式,上述两种方式,混合使用“不太年轻但不很老” M语意规则,用于给出模糊子集X的隶属函数现以年龄为语言变量给出五元体的结构3.模糊命题 模糊命题是指含有模糊概念具有某种真实程度的陈述句。二、 模糊推理在科学研究领域中,罪常用的推理方法是演绎推理中的假言推理。其逻辑结构为大前提:若A则B小前提:如令A_结论 B 即B这是数理逻辑中的最基本的推理规则。但在模糊推理中却有很多变化,这正是人们日常推理思维的再现。如:如果西红柿红了 ,则熟了这个西红柿有点红_它差不多熟了又如:如果室温低,则将加热器电压调大 现在室温偏低 _ 将加热器电压稍许调大这就是模糊推理。写成模糊命题形式 大前提 小前提 1、 模糊近似推理(1) 设X和Y是两个论域,为X上的模糊子集,为Y上的模糊子集。则为上的一个模糊关系,其隶属函数为: 记为 其中E为B上的全称关系(2) 近似推理 设,为X上的两个模糊子集,为Y上的模糊子集,则上述模糊推理称为模糊近似推理。它是最基本的模糊推理模型,又称为简单模糊推理,或者称为FMP。这个模型可图示为简单模糊推理机 可见,= =(3)例子设X=,Y=小=+,=大=,为若x小,则y大(小大)现设=较小=+,试通过模糊假言(近似)推理确定解:首先,计算= =其次,计算=可见,与相比,却为较大。(4)注,在上述计算中,中的记为列,记为行。而在=中,记为行,才能与进行合成。(3)模糊条件推理在这一节里,我们给出几种带有模糊条件语句的模糊推理,成为模糊条件推理。1)多重简单模糊条件语句(i)这是由多个简单模糊条件语句并列组成的语句,其句型为若则否则Ifthenelse例如 若则,否则若则,否则.若则,否则这里的否则可以处理成“或”,也可以处理成“且”,。,为X上的模糊子集,.,为Y上的模糊子集。这些条件语句中的模糊蕴含关系有多种定义方式。(ii)多重模糊推理就是在多重模糊条件语句前提下的模糊推理,其一般格式为 若室温较低,则全力加热 若室温偏低,则稍许加热. 若室温适中,则不加热 若室温偏高,则稍许降温 若室温较高,则大力降温 现在室温太高全力降温多重模糊推理机模型为即即这里求的方法很多例如取或也可以这里的也可以取或这两种方法都是模糊控制中常用的方法。2)多维模糊条件语句(i)句型为若且则Ifandthen这里的与都是条件。(ii)多维模糊推理是以多维模糊条件语句为前提的模糊推理。其一般格式为,。, ,。, 推理机模型为()这里计算也有多种方法。例如对的条件推理关系这里T为矩阵转置,或为行向量列向量化这时的推理合成(iii)例如设X=,Y=,Z=X的模糊集为=Y的模糊集为=Z的模糊集为=对=,=,试用“Ifandthen”确定输出解:= 这时R=记为行则为从而=(0.4,0.5)第三章 模糊信息处理这一章我们从模糊信息处理的角度出发,介绍模糊逻辑控制,自组织模糊控制系统,模糊系统辨识,模糊聚类分析,模糊模式识别,模糊图像处理等模糊计算的具体方法。3.1 模糊逻辑控制一、模糊系统控制器1、定义:模糊系统是一种基于由Ifthen规则组成的知识库的推理系统,当把模糊系统作为控制器使用时,就称其为模糊控制器。2、结构:如图这里的,X=()X,yY我们仅考虑多维输入一维输出的情况。3、模糊系统设计(1)模糊规则库的设计1)模糊规则库的结构模糊规则库是由模糊Ifthen规则集合组成的,它是模糊系统的核心,这些规则的形式为:如果为且为,则y为,其中x=()X,yY分别为输入输出变量。为的模糊子集(i=1,n),为Y上的模糊子集。l=1,M.表示,为M条规则。2)规则集合,的特性首先是规则集合应该具有完备性,即xX,S.t.,i=1,n都有()0。亦即,输入空间的任意点都至少存在一条规则,使得这条规则的if部分的模糊集的隶属度在这一点处不为0。其次,是规则集应具有一致性即,规则集不存在if部分相同的then部分不同的规则。第三,规则集应具有连续性(平滑性)。即,临近规则的then部分的模糊集的交集不为空集。(2)模糊的推理机的设计1)规则的推理设计首先,对每一条规则记为,记=,并定义yY.(x)=()=() (),则可记(x,y)=(x,y)=(x)(y)在(x)的定义中可以取各种不同的模糊交运算,而运算也可以是多种运算,如我们在前一章给出的定义等其次,对X上的输入模糊集,我们要给出一个输出。为此,要先对所有的规则,加以合成,合成的方法有Mamdani合成,Q=,即(x,y)=(x,y)Godel合成:Q=即(x,y)=(x,y)。在此基础上,可给出推理机的推理(y)=((x)(x,y),yY.这种推理称为组合推理。还有另一种推理成为独立推理,它是对每一条规则先由推出一个。(y)=((x)(x,y)然后,再将合成为=or=2)各种推理机上述给出的推理机为Mamdani推理机,Godel推理机,另外还有乘积推理机(y)=(x)(x)(y))最小推理机(y)=(((x)(x)(y) Lukasiewicz推理机 (y)= (x)(1-+(y) )还有Zadeh推理机和Dienes-Rescher推理机一般推理机应满足三条规则直观:直观才有意义;计算效率高:(即易于计算);特性:具有推理的特性。(3)模糊器的设计模糊器就是一个由X向X上的模糊集的映射,即将一个清晰明确的输入转化为一个X上的模糊集。1) 设计准则第一,在更好的隶属值,第二,模糊器应用助于克服噪声的影响,第三,模糊器应用助于推理机的计算。2) 常见的三种模糊器单值模糊器:(x)=Gauss模糊器:(x)=其中的也可换为其它模糊交。三角形模糊器:(x)=其中为正数,也可换为其它模糊交。(4)解模糊器的设计解模糊器十是由Y上的模糊集向清晰的确定点Y的映射,器任务就是确定一个最能代表模糊集的Y上的点。1) 设计准则言之有据:可直观的代表计算简便:以保证实时运作连续性:的微小变化不会造成的变动太大2) 三种常见的解模糊器重心解模糊器:=中心平均解模糊器:=其中,为在推理机中合成M个模糊集,的最大隶属值称为的高度,而为所存取的点的均值,成为的中心。最大值解模糊器记w=(y).若Y使得()=w,则取为输出,这里的可能很高,记()=yY|(y)=w则可采用如下方法确定=inf()-大中取小=sup()-大中取大=-大中取均值作业:结合自己的课题方向,在调研文献的基础上,设计一个模糊控制器,并进行Matlab仿真。3.2 模糊模式识别模式识别就是利用现代计算工具,(例如计算机)模拟人的各种识别能力。它是现代高科技领域应用最为广泛的技术。传统的模式识别方法有三类:统计决策法,句法结构法,子空间法。新的模式识别方法有模糊模式识别,神经网络模式识别,支持向量机。另外新的方法还有独立分量分析,拓扑模式识别等。本节介绍几种模糊模式识别技术的基本方法。一、 模糊聚类分析1、模糊聚类分析的定义聚类分析就是利用数学的方法对事物进行分类的方法,用模糊数序方法进行分类的方法称为模糊聚类分析。2、模糊聚类分析的方法步骤第一步:正规化(标准化)即把各代表点原始数据标准化其中为原始数据,为原始数据的平均值,C为原始数据的标准差。如果将原始数据压缩到0,1区间,可取其中分别为原始数据的最大,最小值。第二步:标定即计算出衡量出被分类对象间相似程度的统计量(i,j=1,n,n为分类对象数);从而确定论域U上的相似关系=计算的方法有多种 (1) 欧式距离法 其中数量积法 其中M为适当选取的正数。 (3) 相关系数法 其中 (4)指数相似系数法 其中 为适当选取的整数 (3)入截矩阵 设 定义的入截矩阵 为 可见是由0和1组成的矩阵,即为BOOL矩阵。 例: 又常记为 入截矩阵的性质 (i) 则; () ; () (4)模糊矩阵的合成(复合)运算,又称为模糊矩阵的乘法。 定义:设为上的模糊矩阵 为上的模糊矩阵 即, , 定义 上的模糊矩阵 为 总结为 可见: 模糊矩阵要合成 前行后列应相等 对应取小再取大 逐个运算就成功可见模糊矩阵的合成与矩阵的乘法类似,只不过将乘改为取小,将求和改为取大,所以合成又称为“乘”。 例子 = = 2.2 模糊逻辑与模糊推理一、模糊逻辑 1、模糊逻辑是去真值在上连续值逻辑,是用模糊理论对用模糊语音描述的模糊命题进行模糊推理。 2、模糊语言 (1)自然语言的模糊性 语言是人们进行思维和信息交流的重要工具,是一种符号系统。 语言 自然语言的主要特征模糊性 模糊名词举例:模范、先进、落后等; 模糊性形容词举例:性质形容词、比较形容词,大都是模糊词,优、劣、美、丑、善、恶、大、小等; 模糊性副词举例:稍微、比较、非常、努力等; 模糊性动词举例:拥护、提高、打倒、消灭等; 模糊性代词举例:你们、我们、他们等; 模糊性句子举例:今天是个好日子、小王很年轻。 (2)语言变量 语言变量是指以自然或人工语言的词、词组或句子作为值的变量。 表征语言变量的五元体 (N,U,T(N),G,M) 其中N语言变量的名称:如年龄、偏差、偏差变化、数的大小等; U为语言变量N的论域 如N为年龄时,U=【0,100】; T(N)为语言变量N的语言值集合X,例如N为年龄时,T(N)=很年轻+较年轻+年轻+中年+有点老+较老+老+很老+不老+不年轻也不老+. = 可见每个语言值就是语言变量的一个模糊集合; G语言规则,用于产生N的值X的名称,这些规则将原子单词生成合成词,并研究合成后词义的变化,且求取其隶属函数,通常有三种形式: (i)前缀限制词方式,如“极”,“很”,“相当”,“大概”,“略”等等。 ()加连续词“或”、“且”和否定词“非”,如“不年轻也不老”; ()混合式,上述两种方式混合使用“不太年轻但不很老”; M语义规划,用于给出模糊子集X的隶属函数。现以年龄为语言变量给出五元体的结构 3、模糊命题 模糊命题是指含有模糊概念,具有某种真实程度的陈述句。二、模糊推理 在科学研究中,最常用的推理方法是演绎推理中的假言推理。其逻辑结构为 大前提: 若A则B 小前提:如令A 结论B 即,这是数理逻辑中的最基本的推理规则。但在模糊推理中却有很多变化,这正是人们日常推理思维的再现。如: 如果西红柿红了,则熟了 这个西红柿有点红 它差不多熟了又如: 如果室温低,则将加热器电压调大 现在室温偏低 将加热器电压稍许调大这就是模糊推理。写成模糊命题形式 大前提: 小前提: 1、模糊近视推理(1)设X和Y是两个论域,为X上的模糊子集,为Y上的一个模糊子集,则为上的一个模糊关系其隶属函数为: 记为 其中E为B上的全称关系。 (2)近似推理设为X上的两个模糊子集,为Y上模糊子集,则上述模糊推理称为模糊近似推理。它是最基本的模糊推理模型,又称为简单模糊推理,或称为FMP。这个模型可图示为可见 (3) 例子 设 现设 试通过模糊假言(近似)推理确定解: 首先计算 其次,计算 可见与相比,却为较大。注:在上述计算中中的记为列,记为行,而在记为行,才能与进行合成。(3)模糊条件推理 在这一节里,我们给出几种带有模糊条件语句的模糊推理,称为模糊条件推理。 多重简单模糊条件语句 (i)这是又多个简单模糊条件语句“”并分组成的语句,其句型为 “若则 否则” “Ifthen else ” 例如 “若则,否则 若则,否则 若则 ” 这里的“否则”可以处理成“或”也可以处理为“且”为X上的模糊子集,为Y上的模糊子集。 这些条件语句的模糊蕴含关系有多种定义方式。()多重模糊推理就是在多重模糊条件语句前提下的模糊推理。其一般格式为 若室温低则全力加热 若室温偏低则稍许加热 若室温适中则不加热 若室温偏高则稍许降温 若室温很高,则大力降温 现在室温太高 全力降温多重模糊推理机模型为 输入 输出即 即 这里求的方法很多例如: 也可以 这里的也可以取或这两种方法都是模糊控制中常用的方法。 多重模糊条件语句 (i)句型为“若则,则” Ifand then 这里的与都是条件。 ()多维模糊推理是以多维模糊条件语句为前提的模糊推理。其一般格式为 推理模型为 输入 推理机 输出 这里的计算也有多种方法 例如对的条件推理关系 这里T为矩阵转置,或为行向量列向量化 这时的推理合成 ()例如 设X=,Y=,Z= X的模糊集 Y的模糊集 Z的模糊集 对试用Ifandthen确定输出。解: 则 这时 视为行则为(0.1 0.5 1 0.1 0.5 0.5 0.1 0.1 0.1)从而第二篇 神经计算第四章 人工神经网路1、 神经网路的概念 1、人工神经网路是由大量处理单元组成的,采用物理可实现的模仿人脑神经细胞的结构和功能的具有学习能力、记忆能力、计算能力的非线性大规模自适应动力系统。 2、人工神经网络的特点1 以分布式存储知识2 以并列方式进行计算处理3 有很强的容错能力4 有良好的自学习、自适应、联想记忆能力5 有逼近能力 3、人工神经元 人工神经元就是人工神经网路的一个处理单元网络中第j个神经元示意图其中为输入,为第j个结点结构.表示从输入i到结点j的权值。确定第i个输入的强度.为第j个结点的输出. 为第j个结点的内部门限。为加权和:这里记 称为激励函数,第j个结点的输出4、常见的激励函数有三类:(1)阈值型(2)分段线性型(3)S型Or Or 5、人工神经网络加权有向图图的结点为神经元,权为有向边与神经元之间的连接。这种网络分成两大类。 一类:前向网络,又称前馈网络,这种网络图无环路出现 二类:反馈网络。又称回归网络,这种网络图有反馈连接,相应的图中就有环路出现。二、人工神经网络工作的两个阶段。人工神经网络工作流程分为两个阶段:第一阶段是学习存储知识阶段(即学生阶段)第二阶段是回忆(记忆)联想阶段(即工作任务完成阶段,只归于活阶段)1、 学习与存储要让网络工作,首先对网络进行岗前培训,即让网络学习。所以学习又称为训练,目的就是让网络获取“知识”,并让它把学习的知识存储起来,以便工作时候使用。存储在哪里?就存储在权值中。(1) 学习的分类:所谓学习,就是由一组训练数据对权值。作出调整,并在适当时候固定下来。这就是知识学习的分类就是由训练数据的类型来确定的。一般分为两类:有导师学习,又称为有指导学习,有监督学习。 无导师学习,又称为无指导学习,无监督学习。可见:有导师学习就是学校课堂学习,有正确的后果作比较。 无导师学习就是自学,自己判断结果正确与否。有导师学习:训练数据由输入向量和期望的目标输出来组成。这种学习的过程就是当加入一个输入时,计算出网络的输出.然后与目标相比较。根据误差再用某种规则(学习方法指导方法:算法)来改变权值。这样不断加入输入,直到误差都达到希望可接受的程度,这是目标向量就是导师。无导师学习,就是训练数据没有目标向量,而是网络通过自身的“自学经历”来不断修改网络的权值掌握知识。(2)学习方法算法:学习算法又称为学习规则,就是对权值。进行具体调整的规则。一般是采用“最小扰动”原则,即当修改权值以减少输出误差时,而对已学习过的数据模式的影响所产生的扰动最小。 现在设在k时刻,网络权重为(k),则学习过程就是调整使(k+1)= (k)+ (k) 调节后的权值将决定以后电话网络的运行。所以不同的调整公式就称为不同的算法。固然,不同的调整公式就是不同的学习规则。常见的学习规则有 相关规则,根据两个神经元的激励水平改变权值,又称为Hebb规则。 为输入,为输出,称为学习进率,又称为步长或系数。这是最简单的规则,是由输入输出确定的。广义乘积学习规则称第二项为遗忘项。以防止。是指数增长。协方差学习规则误差学习规则又称为函数速度,一般在这一方法称算法。(又称最小均方算法)梯度规则 记这时记这时定义称为算法,为学习率例如则这时所以这是最常用的一种学习规则。当然还有很多的学习算法,这就是我们要探讨、要研究、要创新的地方。大家也可以给出新的算法。 2、 记忆与联想在人工神经网络模型建成之后(学习完毕,修满学业,毕业之后)就可以运行了(也就是要工作了)。在运行时,比如对模式进行识别时就是对待分类识别的输入,在已存储的“知识”中寻求与该输入匹配最好的存储“知识”作为解。这是一种回忆的过程,称为联想,这一过程就不要“别人”再知道,也不要再“学习”了,网络自己已经完成任务。 这一阶段才是我们应用人工神经网络解决实际问题的关键。网络的学习从实际问题中来,通过运行后回去解决实际问题,从而可以对网络的功能、性能、特征进行分析。这就是“实践认识再实践再认识”,也体现出“实践是检验真理的标准”的道理。 4、2前馈型神经网络 前馈型网络结构只采用的是将信息以输入层传输到下一层。而后返回,结构是分层。主要的前馈型神经网络有感知器网络和BP(反向传播 Back-propagation)网络和RBF(径向基函数)网络层。一、 感知器网络1、 单层感知器网络模型(1)模型若记则只能为1或-1 当网络就只有一个神经元组成时,感知器就是一个分类器,它可解决两类分类问题。即:设为p个数据.它们分为两种模式:A与B,当为A模式,目标输出为+1.为B模式,目标输出为-1.相应地网络实际输出也应分为+1和-1.(2) 学习算法:1)设置初始权值,通常各权值地初始值设置为较小地随机数. 2)输入新的模式数据3) 计算神经元的实际输出,设第k次输入为与第j个神经元连接的权矢量为,则第j个神经元实际输出为4) 选择学习规则修正权值.5)输出第2)步,输入新模式当全部样本都能利用某一次迭代的新的权值正确分类时,学习结束.可见,感知学习为有导师学习.2. 分层感知器网络这种网络可以逼近任何一个非线性函数,所以这是一种很重要的网络,从这个意义上说神经网络时万能的.这种网络如何实现学习呢?它的规则时什么样的呢?这就是我们下面要介绍的内容.二、 BP网络模型(BP算法)BP算法就是在激励函数f与选用非线性可微函数(如指数型或双曲正切型S函数)时每层前向.网络的一种学习算法,这种算法是LMS的推广.设输入,隐层,输出如上图1. 算法推导:1) 梯度:设x为输入,则中间层的第k个结点的输出为经激励函数f后为这时输出层第j个结点加权的输出为经激励后为误差现设共有T个训练样本, 每次输入的结果都有输出误差:为了得到权值调整的算法,我们把T个输入的所有输出误差平方综合作为目标函数,则有我们的目的时经调整权值后使J最小,从而想到梯度规则.对W求导,证明使J减少的梯度以此作为权值调整的方向.但是这里的权值有两层,而影响的是双层因素,如何调整呢?这要有一定的法则,很明显可以看出,要把它分成一层一层看,最后的输出是中间层输入的结果,而中间层输出又是输入层引起的结果.所以我们要使最后输出与目标相差最小,只能以后向前一层一层的逐层调整,这就是调整的次序法则。(2) 权值的调整:1) 由中间层到输入层的权值的调整.由微分的链式法则:记则其中这时由梯度规则知:由输入的中间层的权值的调整。同理由微分法则有(如图)记则,这时由梯度规则知当网络有多于一个中间层时,即可按上述调整次序一层一层向前推进调整.这就是BP网络的学习算法.2、 算法步骤(1) 用均匀分布随机数将各权值设定为较小的随机数,比如初始权数取在-0.2,0.2之间.(2) 提供训练数据将一个输入数据加到输入端(输入)(3) 计算输出层的实际输出(4) 计算输出层误差.(5)计算中间层误差,为中间层结点数

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论