人工智能的决策支持和智能决策支持系统课程

第7章

人工智能决议支持和

智能决议支持系统人工智能的决策支持和智能决策支持系统课程第1页第7章

本章内容7.1

人工智能概念7.2人工智能基本原理7.3教授系统与智能决议支持系统7.4遗传算法决议支持7.5机器学习决议支持人工智能的决策支持和智能决策支持系统课程第2页开篇案例KPN电信企业智能系统背景：KPN电信是一家卓越电信企业，该企业在荷兰提供固定线路网络，在西欧提供数据和IP服务，而且该企业还在荷兰、德国和比利时提供移动服务。它拥有38000多名员工，他们服务于790万固定线路用户、1340万移动客户和140万网络订阅者。不但如此，KPN电信还在阿姆斯特丹、纽约、伦敦和法兰克福股票交易所上市。主要问题是：怎样在使成本最小化同时保持高效运作。人工智能的决策支持和智能决策支持系统课程第3页信息系统部面临难题：在处理来自用户服务电话时花费时间严重，有时也很让人受挫。更糟糕是，因为员工离职或退休，造成了绝大部分知识维护遗失。处理方法：开发了一个被称为阿基米德基于规则系统。该系统利用Authorete工具获取知识，这些知识包含：相关安装问题、处理过程、步骤以及IT员工集体经验中处理方法。阿基米德关键是其知识库以及一个友好用户界面。知识是用简单语句而非复杂结构来表示。这些语句详细说明了当今IT教授是怎样分析软件安装并处理问题。该系统经过下拉菜单中一系列有意义陈说来指导用户，帮助KPN开发者并深入完善知识。人工智能的决策支持和智能决策支持系统课程第4页思索问题：开发智能系统动机解释智能系统作用及其潜在优点，开发这些系统主要困难是什么？人工智能与人类智能区分是什么？人工智能的决策支持和智能决策支持系统课程第5页基本思想：包含了学习人类思索过程；经过机器（计算机和机器人）来描述并复制这些过程。众所周知定义：人工智能是一个机器行为，假如由人类执行就能够称为智能。令人深思定义：人工智能研究是怎样使计算机比人类做更加好。著名应用：深蓝——国际象棋程序。7.1人工智能基本概念及原理人工智能的决策支持和智能决策支持系统课程第6页人工智能含有能力从经验中学习或了解。在模棱两可或相互矛盾情形中进行理性分析。对新情况进行快速成功响应。在处理问题过程中利用推理方法并对行为进行有效指导。处理复杂情况。以正常理性方式来了解和推断。利用知识来处理环境。人工智能的决策支持和智能决策支持系统课程第7页人工智能特征

符号处理：数值与符号算法与启发式算法算法是一步一步地处理过程。启发式算法：从经验中获取直觉知识或经验法则。推断：启发式算法替换，包含利用启发式算法或从其它搜索方法从事实或规则中推断。机器学习：使系统调整行为并对外部环境做出反应。例：人工神经网络和遗传算法。人工智能的决策支持和智能决策支持系统课程第8页人工智能比人类智能比较人工智能优势人工智能更含有永久性。人工智能为复制和传输提供了便捷。人工智能成本比自然智能成本低。人工智能能够存档。人工智能执行一些任务速度比人类快。人工智能执行一些任务质量会比许多人甚至是大多数人高。人类智能含有优势

人类智能富有创造性，人工智能缺乏创见。人类智能能够直接利用感官体验而且使人类受益。大多数人工智能系统必须在符号输入和表示中工作人工智能的决策支持和智能决策支持系统课程第9页7.1人工智能基本概念及原理人工智能决议支持技术

人工智能的决策支持和智能决策支持系统课程第10页7.1人工智能基本概念及原理1、人工智能决议支持技术

从智能决议支持系统概念可知智能决议支持系统中包含了人工智能技术，与决议支持相关人工智能技术主要有：教授系统、神经网络、遗传算法、机器学习、自然语言了解等。

人工智能的决策支持和智能决策支持系统课程第11页教授系统是利用大量专门知识处理特定领域中实际问题计算机程序系统；神经网络是利用神经元信息传输模型（MP模型）进行学习和应用；遗传算法是模拟生物遗传过程群体优化搜索方法；

机器学习是让计算机模拟和实现人类学习，获取处理问题知识；自然语言了解是让计算机了解和处理人类进行交流自然语言。

7.1人工智能基本概念及原理人工智能的决策支持和智能决策支持系统课程第12页2．智能决议支持系统结构形式

1）基本结构智能决议支持系统（IDSS）＝决议支持系统（DSS）＋人工智能（AI）技术

7.1人工智能基本概念及原理人工智能的决策支持和智能决策支持系统课程第13页

问题综合与交互系统

数据库

管理系统

模型库

管理系统模型库数据库

人工智能技术教授系统神经网络遗传算法机器学习自然语言了解图7.1智能决议支持系统基本结构

人工智能的决策支持和智能决策支持系统课程第14页

图7.2智能决议支持系统结构

问题综合与交互系统

模型库管理系统

数据库管理系统

知识库

管理系统

推理机用户

模型库

知识库

数据库人工智能技术能够概括为：推理机＋知识库

智能决议支持系统结构能够简化为图7.2人工智能的决策支持和智能决策支持系统课程第15页7.2人工智能基本原理7.2.1逻辑推理7.2.2知识表示与知识推理7.2.3搜索技术人工智能的决策支持和智能决策支持系统课程第16页7.2.1逻辑推理1.形式逻辑(人思维形式、规律)（1）概念：反应事物特有属性和属性取值。（2）判断：对概念必定或否定；

判断本身有对有错；

判断有全称必定（或否定）判断和存在必定（或否定）判断。（3）推理：从一个或多个判断推出一个新判断过程。人工智能的决策支持和智能决策支持系统课程第17页7.2.1逻辑推理2.推理种类演绎推理归纳推理类比推理假言推理三段论推理数学归纳法假言易位推理枚举归纳推理1）演绎推理：从普通现象到个别（特殊）现象推理。2）归纳推理：从个别（特殊）现象到普通现象推理。3）类比推理：从个别（特殊）现象到个别（特殊）现象推理。人工智能的决策支持和智能决策支持系统课程第18页1）演绎推理

教授系统研究基本上属于演绎推理范围。演绎推理关键是假言推理。

假言推理：以假言判断为前提，对该假言判断前件或后件推理。1）假言推理：

p

q，p┝q

2）三段论推理

：

p

q，q

r┝p

r3）假言易位推理（拒取式）：p

q，

q┝

p

符号“┝”表示推出7.2.1逻辑推理人工智能的决策支持和智能决策支持系统课程第19页

2）归纳推理(个别→普通)（1）数学归纳法

这种推导是严格，结论是确实可靠。（2）枚举归纳推理 S1是P，S2是P，

…… Sn是P

S1……Sn是S类事物中部分分子，没有相反事例。

所以，S类事物都是P。

枚举归纳推理结论是或然(并非必定地)，它可靠性和事例数量相关

。7.2.1逻辑推理人工智能的决策支持和智能决策支持系统课程第20页枚举归纳推理实例

如观察到铁受热膨胀、铜受热膨胀等事实而不知其所以然，由此推出“全部金属受热膨胀”结论就是简单枚举归纳推理。

人工智能的决策支持和智能决策支持系统课程第21页

3）类比推理

它是由两个（或两类）事物在一些属性上相同，进而推断它们在另一个属性上也可能相同推理。A事物有abcd属性,B事物有abc属性（或a,b,c相同属性）所以，

B事物也可能有d属性（或d相同属性）

类比推理结论带有或然性，它可靠性和相类比事物属性之间联络程度相关。7.2.1逻辑推理人工智能的决策支持和智能决策支持系统课程第22页类比推理实例一18一天，法国医生雷奈克出诊为一位年轻女性看病，一见病人，雷奈克犯起愁来：她身体非常肥胖，要诊疗她心脏和肺部是否正常，按当初医生惯用方法，把耳朵贴近病人胸部来听，必定听不清楚，更何况她是一位年轻女性。雷奈克抬头看了看院子里正在玩耍小孩，脑子里突然出现出几年前看到一个孩子们玩游戏：一个孩子用钉子敲打木板一头，另外孩子争先恐后地抱着把耳朵贴近木板另一头，兴致勃勃地倾听着。人工智能的决策支持和智能决策支持系统课程第23页

为何木头能够把声音清楚地传过来呢？雷奈克稍微想了想，只见他很很地拍了一下手说：“就是这么！就是这么！”雷奈克要来一叠纸，紧紧地卷成一个卷，然后把纸卷一端放在姑娘胸部，另一端放在自己耳朵上，侧着脸听了起来。“真是一个妙法！”雷奈克高兴地喊了一句。回到家里，雷奈克找到一根空心木管，造成了历史上第一个“听诊器”。类比推理实例一人工智能的决策支持和智能决策支持系统课程第24页类比推理实例二

19世纪30年代，英国商人威尔斯以与冯灿茂隆皮箱商行订购皮箱中有不是皮木料为由，向香港法院起诉，蓄意敲诈冯灿。针对这种情况，冯灿律师罗文锦取出口袋金怀表，高声问法官：“请问这是什么表？”法官答道：“这是金表，可是这与本案有什么关系？”罗文锦高举金表，面对法庭上全部人说：“相关系。这是金表，没有些人怀疑是吧？不过，请问，这块金表除表面镀金之外，内部机制都是金制吗？”旁听者同声议论：“当然不是。”罗文锦继续说：“那么人们为何又叫它金表呢？”稍作停顿又高声说：“由此可见，茂隆行皮箱案不过是原告无理取闹、存心敲诈而已”原告理屈词穷，法庭最终以威尔斯诬告，罚款5000元结案人工智能的决策支持和智能决策支持系统课程第25页

皮箱诉讼案法庭辩论中，卖方律师在反驳中所使用就是类比推理：

表外表有金，内部含有不是金材料，但却是金表；

箱外表有皮，但也含有不是皮材料；所以，箱仍是皮箱。类比推理实例二人工智能的决策支持和智能决策支持系统课程第26页

3.总结

1）演绎推理结论没有超出已知知识范围。而归纳推理和类比推理结论超出已知知识范围。

演绎推理只能解释普通规律中个别现象

而归纳推理和类比推理创造了新知识，使科学得到新发展，是一个创造思维方式。2）演绎推理中因为前提和结论有必定联络，只要前提为真，结论一定为真。

归纳推理和类比推理中前提和结论，不能确保有必定联络，含有或然性。这么推理结论未必是可靠。需要经过严格验证和证实，使之形成新理论。7.2.1逻辑推理人工智能的决策支持和智能决策支持系统课程第27页7.2.2知识表示与知识推理案例分析：礼来制药企业基于知识实时系统开发背景：礼来企业是一家全球性大型美国制药企业（全球范围内有41000名员工，在158个国家销售产品）问题：生产药品产品需要一道叫做发酵特殊工序。一个经典发酵过程是操作一系列不停搅拌容器。为了取得优质产品，需要小心监控发酵过程而且一直如一控制。不过传统统计过程难以控制参数。比如：无法量化一个发酵种子所处阶段。无法对产品搅动做出准确预测。即使培植采取相同工序，不过由不一样员工来执行。不一样操作者依据各自经验来控制这一过程，造成产品质量有差异。人工智能的决策支持和智能决策支持系统课程第28页处理：礼来企业采取教授系统来处理这一问题，目标是希望关键技术员能够二十四小时对发酵过程提供服务，而且教授系统中知识库相关部分能够被复制。构建了一个智能质量报警系统，用于操作提供一致性实时提议。开发过程：四名知识工程师参加了系统开发，他们仅仅被要求统计教授知识，而不进行任何优化。也不能使用本身领域知识来影响教授。总共开发了6个月。步骤：知识诱出；知识融合；知识库编码；测试和评定。人工智能的决策支持和智能决策支持系统课程第29页思索：为何礼来企业需要开发一个智能系统来为过程操作提供提议？开发十个独立知识库，然后经过知识融会将它们合成一个整体，你对此有何看法？这种方法优点和缺点各是什么？使用知识获取工含有什么好处？人工智能的决策支持和智能决策支持系统课程第30页7.2.2知识表示与知识推理人工智能的决策支持和智能决策支持系统课程第31页7.2.2知识表示与知识推理知识获取：是指从人类教授、书本、文档、传感器或者计算机文件中采集知识。这些知识可能倾向于特殊问题域或问题处理程序，也可能是普通性知识或者元知识。知识表示：采集知识是在一个被称为知识表示行为过程中组织。这一行为过程包含知识图表示以及将知识编码到知识库中。知识确认：知识将被不停确认和核实。推理：这一行为包含使计算机能够基于知识和问题特征来进行推理软件设计。解释和理由：包含解释能力设计和编程实现人工智能的决策支持和智能决策支持系统课程第32页7.2.3搜索技术搜索技术是人工智能一个主要研究内容。智能技术表达在降低搜索树中盲目搜索。1.执行时间与ｎ，ｎ２，ｎ３等成正比算法，称为按多项式时间执行。

2.执行时间与２ｎ，ｎ！和ｎｎ等成正比算法，称为按指数时间执行。

按多项式时间执行算法，计算机是能够实现。按指数时间执行算法，计算机是不可能实现。人工智能的决策支持和智能决策支持系统课程第33页7.2.3搜索技术人工智能中发展了一个称为启发式搜索方法，基本思想可用一个实例来说明：一个外地人到某城市出差，他想到书店看看，又不知书店在何处，假如采取盲目搜索，从住地出发沿任一方向走，在分叉路口又任选一分支走，他可能走几天几夜也找不到假如采取启发式方法，他会问路上人，到书店怎样走。城市中大部分人对书店不知道，问不出来。

人工智能的决策支持和智能决策支持系统课程第34页7.2.3搜索技术改一个问法：问该城市最热闹地方在哪儿？按照这个启发式信息沿着指路人路线，乘车抵达最热闹地方但书店在哪儿，依然不知道。假如盲目搜索，可能依然找不到。假如采取启发式方法，他会问路上人，卖画地方在哪儿，他能够经过画店再问书店在哪儿？启发式方法能降低大量盲目无效搜索，能有效克服按指数时间执行组合爆炸现象人工智能的决策支持和智能决策支持系统课程第35页7.2.3搜索技术搜索方法分类：基本搜索法（1）广度优先搜索法。（2）深度优先搜索法。人工智能的决策支持和智能决策支持系统课程第36页7.2.3.1

广度优先搜索（宽度优先搜索）1、广度优先搜索思想

从初始状态S开始，利用规则，生成全部可能状态。组成树下一层节点，检验是否出现目标状态G，若未出现，就对该层全部状态节点，分别次序利用规则。生成再下一层全部状态节点，对这一层全部状态节点检验是否出现G，若未出现，继续按上面思想生成再下一层全部状态节点.这么一层一层往下展开。直到出现目标状态G为止。

人工智能的决策支持和智能决策支持系统课程第37页图7.7广度优先搜索示意图

人工智能的决策支持和智能决策支持系统课程第38页1、深度优先搜索法思想

从初始状态S开始，利用规则生成搜索树下一层任一个结点，检验是否出现目标状态G，若未出现，以此状态利用规则生成再下一层任一个结点，再检验是否为目标节点G。若未出现，继续以上操作过程，一直进行到叶节点（即不能再生成新状态节点）。当它仍不是目标状态G时，回溯到上一层结果，取另一可能扩展搜索分支。生成新状态节点。一直进行下去，直到找到目标状态G为止。7.2.3.2深度优先搜索法人工智能的决策支持和智能决策支持系统课程第39页图7.8深度优先搜索示意图

人工智能的决策支持和智能决策支持系统课程第40页

在深度优先搜索中，搜索一旦进入某个分支，就将沿着该分支一直向下搜索。假如目标节点恰好在此分支上，则可较快地得到解。不过，假如目标节点不在此分支上，而该分支又是一个无穷分支，则就不能得到解。所以深度优先搜索是不完备，即使问题有解，它也不一定能求得解。显然，用深度优先求得解，也不一定是路径最短解。

深度优先法适合于搜索树深度较小问题人工智能的决策支持和智能决策支持系统课程第41页7.3教授系统与智能决议支持系统7.3.1教授系统原理7.3.2教授系统与DSS集成人工智能的决策支持和智能决策支持系统课程第42页7.3.1教授系统原理1.教授系统概念1）教授系统定义教授系统是含有大量专门知识，并能利用这些知识处理特定领域中实际问题计算机程序系统。教授系统是利用大量教授知识，利用知识推理方法来处理各特定领域中实际问题。计算机教授系统这么软件能够到达人类教授处理问题水平。人工智能的决策支持和智能决策支持系统课程第43页7.3.1教授系统原理2）教授系统特点教授系统需要大量知识，这些知识是属于规律性知识，它能够用来处理千变万化实际问题。专业技能符号推理深层知识自我知识人工智能的决策支持和智能决策支持系统课程第44页传统系统与教授系统比较传统系统教授系统信息及其处理过程通常在连续程序中结合知识库与处理（推理）机制显著分离程序不会犯错程序可能犯错通常不解释为何要输入数据或怎样得出结论解释是多数教授系统一部分需要输入全部数据不要求输入全部数据。程序更改复杂改变规则轻易系统只在其完成时运行系统能够在少数规则下运行系统一步一步执行系统经过启发式算法和逻辑执行数据表示和应用大数据库知识表示和应用大知识库处理定量数据处理定性数据利用数字表示利用符号和数字知识表示获取、放大和分配得到数据或信息获取、放大和分配获取到判断或知识人工智能的决策支持和智能决策支持系统课程第45页人类教授与教授系统不一样特征人类教授教授系统损失率是否知识传递难易知识统计难易决议一致性低高单位使用成本高低创造性高低自适应性高低知识范围广泛狭窄知识类型常识和技术技术知识内容经验符号人工智能的决策支持和智能决策支持系统课程第46页

2.教授系统结构

教授系统关键是知识库和推理机。

教授系统能够概括为：

教授系统＝知识库+推理机7.3.1教授系统原理人工智能的决策支持和智能决策支持系统课程第47页知识获取人机接口知识库推理机

教授用户咨询

提议教授系统关键

教授系统结构

人工智能的决策支持和智能决策支持系统课程第48页7.3.2教授系统与决议支持系统集成

IDSS充分发挥了教授系统以知识推理形式处理定性分析问题特点.发挥了决议支持系统以模型计算为关键处理定量分析问题特点.充分做到定性分析和定量分析有机结合.

人工智能的决策支持和智能决策支持系统课程第49页数据库DBDSS控制系统模型库MB问题综合与交互系统动态DB推理机和解释器知识库KB集成系统DSSES

图7.16智能决议支持系统集成结构图综合系统DSS和ES总体结合。

由集成系统把DSS和ES有机结合起来2.KB和MB结合。

模型库中数学模型和数据处理模型作为知识一个形式，即过程性知识，加入到知识推理过程中去。3.DB和动态DB结合。DSS中DB能够看成是相对静态数据库，它为ES中动态数据库提供初始数据，ES推理结束后，动态DB中结果再送回到DSS中DB中去。

人工智能的决策支持和智能决策支持系统课程第50页DSS与ES集成形式一：DSS和ES并重IDSS结构

集成系统DSSES7.3.2教授系统与决议支持系统集成

集成特点1.含有综合系统，含有调用和集成DSS和ES能力。2.扩充DSS问题与人机交互系统功效，增加对ES调用组合能力DSS与ES关系：DSS中DB与ES中动态DB进行数据交换处理问题特点表达定性分析和定量分析并重处理问题特点。人工智能的决策支持和智能决策支持系统课程第51页DSS控制系统MBDBESDSS与ES集成形式二：DSS为主体IDSS结构

7.3.2教授系统与决议支持系统集成

集成特点集成系统和DSS控制系统合为一体DSS与ES关系：ES被DSS控制系统调用处理问题特点表达以定量分析为主，结果定性分析处理问题特点。人工智能的决策支持和智能决策支持系统课程第52页推理机（广义）

DSS动态DBKB推理机MB动态DBKB图7.19DSS作为推理形式IDSS图7.20模型作为知识IDSSDSS与ES集成形式三：

ES为主体IDSS结构7.3.2教授系统与决议支持系统集成

集成特点人机交互系统和ES合为一体DSS与ES关系：图7.19DSS作为推理机，受ES推理机控制；图7.20数据模型作为知识出现处理问题特点表达以定量分析为主，结果定性分析处理问题特点。人工智能的决策支持和智能决策支持系统课程第53页7.4遗传算法决议支持7.4.1遗传算法原理7.4.2优化模型遗传算法求解7.4.3获取知识遗传算法7.4.4遗传规划建立模型人工智能的决策支持和智能决策支持系统课程第54页7.4.1遗传算法原理遗传算法(GeneticAlgorithm，GA)是模拟生物进化自然选择和遗传机制一个寻优算法。适合用于复杂非线性问题,主要应用在组合优化和机器学习两个方面。应用领域：图像识别、图像恢复、自适应控制、优化调度等领域。人工智能的决策支持和智能决策支持系统课程第55页遗传算法发展过程大致上可分为以下三个阶段：

（1）70年代兴起阶段。1975年美国Michigan大学J.Holland首次系统地阐述了遗传算法基本理论和方法。

在这一时期大部分研究都处于理论研究和建立试验模型阶段（2）80年代发展阶段。1980年Smith教授将遗传算法应用于机器学习领域，研制出了一个著名分类器(Classifier)系统。这期间许多学者对遗传算法进行了大量改进和发展，提出了许多成功遗传算法模型，使遗传算法应用于更广泛领域。

（3）90年代高潮阶段。进入90年代后，遗传算法作为一个实用、高效优化技术，得到了极为快速发展。

7.4.1遗传算法原理人工智能的决策支持和智能决策支持系统课程第56页7.4.1遗传算法原理7.4.1.1遗传算法工作过程7.4.1.2遗传算法理论基础7.4.1.3遗传算法基本特征人工智能的决策支持和智能决策支持系统课程第57页7.4.1.1遗传算法工作过程遗传算法是一个群体型操作，该操作以群体中全部个体为对象。个体就是模拟生物个体而对问题中对象（普通就是问题解）一个称呼，一个个体也就是搜索空间中一个点。种群(population)就是模拟生物种群而由若干个体组成群体,它普通是整个搜索空间一个很小子集。遗传算法三个主要操作算子：选择（selecation）、交叉（crossover）和变异（mutation）

组成了遗传操作（Geneticoperation），使遗传算法含有了其它传统方法所没有特征。人工智能的决策支持和智能决策支持系统课程第58页产生新一代群体编码和初始群体形成输出种群

个体适应值满意否？7.4.1.1遗传算法工作过程

首先将问题每个可能解按某种形式编码，编码后解称作染色体（个体）。

随机选取N个染色体组成初始种群，再依据预定评价函数对每个染色体计算适应值，使得性能很好染色体含有较高适应值。

选择适应值高染色体进行复制，经过遗传算子来产生一群新更适应环境染色体，形成新种群。

这么一代一代不停繁殖，最终收敛到一个最适应环境个体上，求得问题最优解。遗传算子选择交叉变异人工智能的决策支持和智能决策支持系统课程第59页1.群体中个体编码怎样将问题描述成位串形式，即问题编码。普通将问题参数用二进制位（基因）编码组成子串，再将子串拼接起来组成“染色体”位串。7.4.1.1遗传算法工作过程比如：

个体

染色体9----1001（2，5，6）----010101110人工智能的决策支持和智能决策支持系统课程第60页2.适应值函数确实定遗传算法执行过程中，每一代有许多不一样染色体（个体）同时存在，这些染色体中哪个保留(生存)、哪个淘汰(死亡)是依据它们对环境适应能力决定，适应性强有更多机会保留下来。适应性强弱是计算个体适应值函数f(x)值来判别，这个值称为适应值(fitness)。适应值函数(即评价函数)是依据目标函数确定。适应值总是非负，任何情况下总是希望越大越好。假如目标函数不是取最大值时，需要将它映射成适应值函数。适应值函数f(x)组成与目标函数有亲密关系，往往是目标函数变种。普通是一个实值函数。该函数就是遗传算法中指导搜索评价函数。7.4.1.1遗传算法工作过程人工智能的决策支持和智能决策支持系统课程第61页3.遗传算法三个算子（一）选择(Selection)算子（二）交叉(Crossover)算子（三）变异(Mutation)算子7.4.1.1遗传算法工作过程人工智能的决策支持和智能决策支持系统课程第62页它又称复制(reproduction)、繁殖算子。选择是从种群中选择生命力强染色体产生新种群过程。依据每个染色体适应值大小，适应值越大，被选中概率就越大，其子孙在下一代产生个数就越多。选择操作是建立在群体中个体适应值估评基础上。7.4.1.1遗传算法工作过程（一）选择(Selection)算子人工智能的决策支持和智能决策支持系统课程第63页

通常做法是：对于一个规模为N种群S,按每个染色体xi∈S选择概率P(xi)所决定选中机会,分N次从S中随机选定N个染色体,并进行复制。7.4.1.1遗传算法工作过程

这里选择概率P(xi)计算公式为（一）选择(Selection)算子人工智能的决策支持和智能决策支持系统课程第64页（二）交叉(crossover)算子它又称重组(recombination)、配对(breeding)算子，在遗传算法中起着关键作用。染色体重组是分两步骤进行:首先在新复制群体中随机选取两个个体然后，沿着这两个个体(字符串)随机地取一个位置，二者交换从该位置起末尾部分。交叉率(crossoverrate)就是参加交叉运算染色体个数占全体染色体总数百分比，记为Pc,取值范围普通为0.4～0.99。7.4.1.1遗传算法工作过程人工智能的决策支持和智能决策支持系统课程第65页7.4.1.1遗传算法工作过程例1:有两个用二进制编码个体A和B。长度L=5，A=a1a2a3a4a5

，B=b1b2b3b4b5随机选择一整数k∈[1，L-1]，设k=4，经交叉后变为：A=a1a2a3|a4a5B=b1b2b3|b4b5A’=a1a2a3b4b5B’=b1b2b3a4a5

s1′=01000101,s2′=10011011能够看做是原染色体s1和s2子代染色体。

例2,设染色体

s1=01001011,s2=10010101,

交换其后4位基因,即（二）交叉(crossover)算子人工智能的决策支持和智能决策支持系统课程第66页变异就是以很小概率，随机地改变字符串某个位置上值。变异操作是按位（bit）进行，即把某一位内容进行变异。在二进制编码中，就是将某位0变成1，1变成0。选择和交叉算子基本上完成了遗传算法大部分搜索功效，而变异则增加了遗传算法找到靠近最优解能力。变异率(mutationrate)是指发生变异基因位数所占全体染色体基因总位数百分比，记为Pm，取值范围普通为0.0001～0.02。它确保了遗传算法有效性。7.4.1.1遗传算法工作过程（三）变异(Mutation)算子人工智能的决策支持和智能决策支持系统课程第67页7.4.1.1遗传算法工作过程比如:设染色体

s=11001101将其第三位上0变为1,即s=11001101→11101101=s′。

s′也能够看做是原染色体s子代染色体。（三）变异(Mutation)算子人工智能的决策支持和智能决策支持系统课程第68页4.控制参数设定遗传算法中参数包含群体中个体数目、交叉概率、变异概率等这些参数设定随详细问题不一样将有所差异，带有经验性，它会影响遗传算法迭代收敛过程。7.4.1.1遗传算法工作过程人工智能的决策支持和智能决策支持系统课程第69页1.遗传算法处理对象是问题参数编码个体（位串）遗传算法要求将问题参数编码成长度有限位串。遗传算法是在求解问题编码串上进行操作，从中找出高适应值位串，而不是对问题目标函数和它们参数直接操作。遗传算法不受函数限制条件(如导数存在、连续性、单极值等)约束。

7.4.1.3遗传算法基本特征

人工智能的决策支持和智能决策支持系统课程第70页2.遗传算法搜索是从问题解位串集开始搜索，而不是从单个解开始在最优化问题中，传统方法是从一个点开始搜索，如爬山法。普通复杂问题会在“地形”中出现若干“山峰”，传统方法很轻易走入假“山峰”。遗传算法同时从种群每个个体开始搜索，象一张网罩在“地形”上，数量极大个体同时在很多区域中进行搜索，这么就降低了陷入局部解可能性。7.4.1.3遗传算法基本特征

人工智能的决策支持和智能决策支持系统课程第71页3.遗传算法只使用目标函数(即适应值)来搜索，而不需要导数等其它辅助信息传统搜索算法需要一些辅助信息，如梯度算法需要导数，当这些信息不存在时，这些算法就失效了。而遗传算法只需目标函数和编码串，所以，遗传算法几乎能够处理任何问题。4.遗传算法使用三种遗传算子是一个随机操作，而不是确定性规则遗传算法使用随机操作，但并不意味着遗传算法是简单随机搜索。遗传算法是使用随机工具来指导搜索向着一个最优解前进。5.隐含并行性6.易介入到已经有模型中，并含有扩展性；易于同别技术结合使用7.4.1.3遗传算法基本特征

人工智能的决策支持和智能决策支持系统课程第72页7.4.2优化模型遗传算法求解

优化模型计算是遗传算法最基本也是最主要研究和应用领域之一。

普通说来，优化计算问题通常带有大量局部极值点，往往是不可微、不连续、多维、有约束条件、高度非线性NP完全问题。

准确地求解优化问题全局最优解普通是不可能。

人工智能的决策支持和智能决策支持系统课程第73页旅行商问题（TSP）遗传算法求解实例

已知n个城市地理位置（x,y），求经过全部城市，并回到出发城市且每个城市仅经过一次最短距离。

这是一个NP完全问题，其计算量为城市个数指数量级。现用遗传算法来处理这个问题。

人工智能的决策支持和智能决策支持系统课程第74页1、编码

31578910426每条路径对应一个个体，个体形式地表示为R={City_No|City_No互不重复}n，n为城市数。比如对于n=10TSP问题，对其中一个个体它表示一条城市路径31 5 7 8 910 4 2 6人工智能的决策支持和智能决策支持系统课程第75页其中ni表示个体中第i位城市编号，n11=n1。适应值为非负，且取值越大越好。

表示全部个体路径长度总和2、适应值函数

每个个体代表一条可能路径。个体n适应值为：其中N为种群数，Dn为

沿个体标示城市序列所经过距离:人工智能的决策支持和智能决策支持系统课程第76页3、交叉

随机地从种群中选出要交叉两个不一样个体，随机地选取一个交叉段。交叉段中两个个体对应部分经过匹配换位实现交叉操作。对个体A和B：

A＝984

|567|

13210

B＝871

|4103|

2965

交叉段

对个体A，对交叉段中由B换位来数，如4、10、3，在A中其它位相同数进行反交换，即4换为5，10换为6，3换为7；对个体B，相同处理，最终得到：

A，＝98

4

|4103|

1

3

2

6

B，＝8

7

1

|567|

29

65

A，＝98

5

|4103|

1

7

2

6B，＝8

3

1

|567|

29

104人工智能的决策支持和智能决策支持系统课程第77页4、变异

依据变异概率Pe，随机地从种群中选出要变异个体，随机地在该个体上选出变异两个位置，然后两个位置上城市序号进行交换。如：

A=9

8

456

7

13210

下划线部分为要变异两个位置。

变异为：

A`=9

7

456

8

13210

人工智能的决策支持和智能决策支持系统课程第78页5、遗传算法结果计算结果表明：n个城市最正确路径靠近一个外圈无交叉环路。人工智能的决策支持和智能决策支持系统课程第79页

7.5机器学习决议支持7.5.1机器学习概述7.5.2机器学习分类7.5.3建立模型发觉学习人工智能的决策支持和智能决策支持系统课程第80页7.5.1机器学习综述1.基本概念学习和处理问题是人类最主要两个智能行为机器学习是让计算机模拟和实现人类学习，获取知识。机器学习也是计算机含有智能主要标志。

人工智能的决策支持和智能决策支持系统课程第81页7.5.1机器学习综述(1)人类学习概念学习、领域知识学习、技能（元知识即处理问题）学习特点：过程迟缓、会忘记、知识传授困难、能不停修改知识，使人类逐步变得聪明。人工智能的决策支持和智能决策支持系统课程第82页7.5.1机器学习综述(2)机器学习（1）R.S.Michalski认为：学习是结构或修改所经历事物表示。该观点强调知识表示。

（2）学习是知识获取。该观点强调知识获取。

（3）H.A.Simon认为：学习是系统在相同任务中，做一些适应性改变，使得在下一次类似任务中，做得更加好。该观点强调学习效果。

人工智能的决策支持和智能决策支持系统课程第83页7.5.1机器学习综述2.机器学习与教授系统教授系统知识获取“瓶颈”现象知识脆弱性缺乏直觉判断能力机器学习提供知识获取提供有效路径人工智能的决策支持和智能决策支持系统课程第84页7.5.1机器学习综述3.机器学习实例1.Michalski和R.L.ChilauskyPLANT/SS系统它是一个大豆病害诊疗防治教授系统。该系统用示例学习AQ11算法自动产生规则进行诊疗。

把631种有病害大豆性状描述（表示为包含35种特征向量）和每种植物病名一起输入到计算机中选取290种做为训练例子（例子间相差很远），利用AQ11算法取得规则知识。再用340个样本作为测试例子，并将教授和计算机诊疗结果进行对比。人工智能的决策支持和智能决策支持系统课程第85页7.5.1机器学习综述验证AQ11

算法测试例（340个）××症状

训练例

（290个）××症状：病名规

则知

识诊疗

病名实际病名97.6%（大豆病害实例）（If——then）

（正确判别率）计算机产生规则优于教授归纳规则教授正确判断率为71.8％。计算机正确判断率高达97.6％。人工智能的决策支持和智能决策支持系统课程第86页7.5.1机器学习综述钟鸣和陈文伟IBLE算法利用信息论信道容量思想，研制了IBLE算法。对已经有结论化学物质质谱进行学习，得出了质谱规则。然后利用这些规则再去测试未知化学物质质谱，得出它种类。人工智能的决策支持和智能决策支持系统课程第87页钟鸣和陈文伟IBLE算法验证IBLE

算法测试集（5500个）正确识别率：94%

训练例

八类化合物质谱15000种××特征：物质类规

则

树普通教授正确识别率70%人工智能的决策支持和智能决策支持系统课程第88页7.5.2机器学习分类学习过程本质是学生(学习系统)把教师或环境(如书本)提供信息转换成能够了解形式记忆下来，

方便未来使用.当前,国际上流行机器学习分类方法主要有四种:按应用领域分类(教授系统、问题求解、认知模拟）按获取知识表示分类(逻辑表示式、产生式规则、决议树、神经网络)按推理策略分类(演绎推理和归纳推理)机械学习、示教学习、经过例子学习、解释学习、类比学习、发觉学习按系统性分类(历史渊源、知识表示、推理策略、应用领域).人工智能的决策支持和智能决策支持系统课程第89页7.5.2机器学习系统基本结构环境学习知识库执行人工智能的决策支持和智能决策支持系统课程第90页(1)机械学习（

ROTELEARNING)1.思想:记忆=检索+计算2.示意图检索程序计算f(x)统计(2)无(1)存入

输出yj=f(xj)有解yixixj人工智能的决策支持和智能决策支持系统课程第91页例子：汽车保险程序该程序能对被损坏汽车修理费用进行计算.它输入是汽车损坏情况,即生产厂家、生产年代、汽车种类、汽车损坏部位及程度等数据.普通是直接查找到所需修理费用.假如系统没有发觉这么汽车,系统就利用普通赔偿规则和计算公式计算出它修理费用,并把它保留起来,下一次碰到这种情况就直接查找结果而不再去计算.人工智能的决策支持和智能决策支持系统课程第92页3.机械学习系统中要注意三个问题:数据存放组织.使得在大量数据中能快速地查找出所需数据.适应改变环境.数据要随形势改变而改变,很多数据因为形势发展已过时或无用,就要进行对应改变和更新.检索和计算权衡.检索一定比计算来得更加快才有意义机械学习基本思想是用检索来代替计算.(1)机械学习（

ROTELEARNING）人工智能的决策支持和智能决策支持系统课程第93页1.思想:把外部知识(教授、教师)消化成内部可使用知识，并把新知识和原来知识有机结合在一起。2.示意图:(2)示教学习（被通知学习）知识库原知识新知识知识转换外部知识内部知识一致化效果评价（矛盾、冗余）人工智能的决策支持和智能决策支持系统课程第94页3.实现步骤(1)请求:向人类教授提出请求.(2)解释:消化吸收教授知识并把它转化成可了解形式。(3)形式化:把教授知识转换成机器能够操作形式，即当教授知识不能直接在机器上操作时,需要进行一些处理(形式化),使教授知识成为可使用形式.(4)并入:把知识并入知识库中.在并入知识库时要处理知识冗余和矛盾问题.(5)评价:评价知识执行结果.普通让系统使用教授知识执行一些实际任务,检验是否工作得很好.(2)示教学习（被通知学习）人工智能的决策支持和智能决策支持系统课程第95页1.思想:从大量例子中分析、提炼出规则知识或判定树知识。2.示意图:(3)示例学习（learningfromexamples）ID3(互信息);IBLE(信道容量)例子集示例学习算法规律性知识产生式规则判定树集合论方法信息论方法AQ系列:AQ11,AQ15AE5粗集方法ID3IBLEAQ15人工智能的决策支持和智能决策支持系统课程第96页

比如,给出肺炎与肺结核两种病一些病例.每个病例都含有五种症状：

发烧(无、低、高),

咳嗽(轻微、中度、猛烈),

X光所见阴影(点状、索条状、片状、空洞),

血沉(正常、快),

听诊(正常、干鸣音、水泡音).(3)示例学习（learningfromexamples）人工智能的决策支持和智能决策支持系统课程第97页肺炎和肺结核部分病例集为：

经过示例学习得到以下诊疗:

（1）血沉＝正常∧（听诊＝干呜音∨水泡音）→诊疗＝肺炎

（2）血沉＝快∨听诊＝正常→诊疗＝肺结核

这么，就从例子（病例）归纳产生了诊疗规则。

肺炎肺结核病状病例号发烧咳嗽X光所见血沉听诊1高

猛烈

片状

正常

水泡音2中度

猛烈

片状

正常

水泡音3低

轻微

点状

正常

干鸣音4高

中度

片状

正常

水泡音5中度

轻微

片状

正常

水泡音1无

轻微

索条状

正常

正常2高

猛烈

空洞

快

干鸣音3低

轻微

索条状

正常

正常4无

轻微

点状

快

干鸣音5低

中度

片状

快

正常人工智能的决策支持和智能决策支持系统课程第98页示例学习系统较多，其中较有影响有：•J.R.QuinlanID3•MichalskiAQ11及洪家荣扩充AQ15•洪家荣AE5•钟鸣和陈文伟IBLE(3)示例学习（learningfromexamples）人工智能的决策支持和智能决策支持系统课程第99页4.类比学习(learningbyanalogy)类比从一个已知事物“源”领域到一个未知“目标”领域进行知识映射。类比推理从一个已知事物（源），经过类比来处理另一个未知事物（目标）推理过程。

人工智能的决策支持和智能决策支持系统课程第100页类比学习过程1.联想搜索匹配对一个新事物(目标源)提取其特征用这些特征去搜索一个与之相同已知事物(候选源)，进行匹配。2.检验相同程度判断已知事物(候选源)与新事物(目标源)相同程度，到达了某阈值，则类比匹配3.修正、变换求解为了把匹配成功已知事物(源)用于新事物(目标)，需要对已知事物知识进行修正变换，以导出新事物解。

4.更新知识库当新事物解求出以后，将它并入知识库人工智能的决策支持和智能决策支持系统课程第101页1.思想：依据两事物性质，从一个事物特征，推出另一个事物新特征。2.示意图：源域S元素a性质P(a)有Q(a)目标域T元素b性质P(b)有Q(b)

相同

类比类比学习方法人工智能的决策支持和智能决策支持系统课程第102页S域中找P(a)->Q(a)S域中普通P(x)->Q(x)(1)归纳T域中P(x)->Q(x)(2)映射T域中P(b)->Q(b)(3)演绎类比学习算法思想（1）找出源域与目标域相同性质P，以及找出源域中另一个性质Q和性质P对元素a关系：

P(a)→Q(a)（2）在源域中推广P和Q关系为普通关系，即：

x(P(x)→Q(x))这一步实际是归纳，由个别现象推广成

普通规律。（3）从源域和目标域映射关系，得到目标域新性质：

x(P(x)→Q(x))（4）利用假言推理：

P(b),P(x)→Q(x)┝Q(b)

最终得出b含有性质Q，这一步实际是演绎，由普通规律推出个别现象。人工智能的决策支持和智能决策支持系统课程第103页类比推理描述有两个不一样领域：源域S和目标域T，S中元素a和T中元素b含有相同性质P，即P(a)～P(b)（“～”表示相同），a还含有性质Q，即Q(a)。依据类比推理（表示成“

”），b也含有性质Q。即：

P(a)∧Q(a)，P(a)～P(b)

Q(b)～Q(a)

人工智能的决策支持和智能决策支持系统课程第104页5.发觉学习发觉学习是从大量试验数据中发觉规律和定律。著名机器发觉系统有1980年P.Langly研制BACON系统，该系统重新发觉欧姆定律、牛顿万有引力定律和开普勒行星运动定律等BACON系统思想是利用一些算子重复结构一些新项，当这些项中有一个是