华中科技大学人工智能第六章机器学习

1、12022-3-1机器学习机器学习要介绍的内容要介绍的内容l机器学习概述l基于符号的方法l连接主义的方法l遗传与进化的方法第七章机器学习第七章机器学习 22022-3-1机器学习机器学习的定义的定义l机器学习还没有统一的定义机器学习还没有统一的定义l机器学习的一种定义机器学习的一种定义:机器学习是一门研究机器获取新知识和新技能,并识别现有知识的学问。 lSimon的机器学习定义机器学习定义：能够让系统在执行同一任务或相同数量的另外一个任务时比前一次执行的更好的任何改变。l任何智能系统必须具备学习的能力l学习是使得智能主体在与环境交互的过程中改变自己. 第第七七章机器学习章机器学习 7.17.1

2、概述概述32022-3-1机器学习研究机器学习研究的几种观点的几种观点l符号主义采用符号来表示问题域中的实体极其关系,通过对符号语言表示的规则进行搜索，试图用这些符号来推出新的、有效的并且也用这些符号表达的一般规则。l连接主义受生物神经网络系统的启发，把知识表示为由小的个体处理单元组成的网络的激活或者抑制状态模式。学习是通过训练数据来修改网络结构和连接权值来实现。l遗传和进化观点，在开始时有一组问题的后选解，根据他们解决问题的能力来进化，适者生存，并相互交叉产生下一代解，这样，解不断的增强就像达尔文描述的生物世界一样第第七七章机器学习章机器学习 7.17.1概述概述42022-3-1机器学习研

3、究机器学习研究的主要内容的主要内容l机器学习中的大多数研究都致力于开发一些有效方法，以能够解决：l通过对与人类学习类似的样本进行的处理，来获取高层次概念和(或)问题求解策略。第第七七章机器学习章机器学习 7.17.1概述概述样本学习算法背景知识概念描述52022-3-1机器学习系统的基本结构机器学习系统的基本结构l环境向系统的学习部分提供某些信息l学习部分利用这些信息修改知识库l执行部分根据知识库完成任务,并把获得的信息反馈给学习部分第第七七章机器学习章机器学习 7.17.1概述概述环境学习知识库执行62022-3-1影响设计学习系统的因素影响设计学习系统的因素l具体系统中,环境、知识库和执行

4、部分决定了具体的工作内容。学习部分要解决的问题由这三部分确定l最重要因素是环境提供的信息。如果信息的质量高，与知识库里保存的一般原则差别小，则容易处理，否则需要获得足够数据，才能形成一般原则，放入知识库l学习系统获得的信息往往不完全，得出的规则不一定正确，要通过执行加以检验，保留正确的，删除错误的l知识的表示方式影响学习,不同的方式修改和扩展知识库的难易程度是不同的l执行部分的反馈的方式，影响评价知识库的便利性第第七七章机器学习章机器学习 7.17.1概述概述72022-3-1机械学习机械学习l机械学习机械学习就是记忆,不需要计算和推理,是最简单的机器学习方法,也是最基本的学习过程l机械学习可

5、描述成机械学习可描述成：第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习(X1,X2,Xn)(Y1,Y2,Yn)f(X1,X2,Xn), (Y1,Y2,Yn)存储l机械学习要注意的三个问题：存储组织信息环境的稳定性与存储信息的适用性问题存储与计算之间的权衡82022-3-1机械学习举例机械学习举例建筑工程预算建筑工程预算 l建筑工程预算中的工程量计算是工作量大,存在大量非标准的部件l系统中预先保存许多部件的工作量l计算时在数据库中进行查找l如果有则可以直接使用l如果没有则有一个学习程序。让用户输入部件的参数和相应的工作量l存储到数据库,以后使用时查表即可 第第七七

6、章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习92022-3-1基于解释经验的学习基于解释经验的学习l基于解释经验的学习的主要思想基于解释经验的学习的主要思想:一、给出一个训练实例(目标概念的实例)二、用领域知识对它进行解释 三、泛化对训练实例的解释 (得到目标概念)l基于解释经验的学习有多种不同的形式基于解释经验的学习有多种不同的形式第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习102022-3-1EBL的初始状态的初始状态一、一个目标概念依赖与具体的应用，可以是一个分类，要证明的定理，达到目标的一个计划，问题求解程序的启发式信息等二、

7、一个训练实例 目标概念的实例三、领域知识用于解释训练实例如何成为目标概念的规则和事实集合四、操作标准概念定义可以采取的形式的某种方式的描述第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习112022-3-1什么时候物体是一个杯子什么时候物体是一个杯子l我们讨论EBL采用这个例子。l目标概念：一条规则，可以用来推断一个物体是否是一个杯子promise(X)-cup(X) (promise是一个合取表达式)l领域知识：liftable(X)holds_liquid(X)-cup(X) part(Z,W)concave(W) points_up(W)-holds_liq

8、uid (X)light(Y)part(Y,handle)-liftable(Y)samll(A)-light(A)made_of(A,feathers)-light(A)第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习122022-3-1什么时候物体是一个杯子什么时候物体是一个杯子(续一续一)l训练实例cup(obj1)small(obj1)part(obj1,handle)owns(bob,obj1)第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习part(obj1,bottom)part(obj1,bowl)points_up(

9、bowl)concave(bowl)color(obj1,red)l操作标准需要目标概念用物体的可以观察的结构化的属性来定义132022-3-1解释实例解释实例第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习cup(obj1)Holds_liquid(obj1)Points_up(bowl)concave(bowl)part(obj1,bowl)small(obj1)part(obj1,handle)light(obj1)liftable(obj1)142022-3-1泛化解释泛化解释l我们的目标是用变量替换那些是训练实例的一部分常量。而保留领域知识中有的常量和限

10、制。l本例中常量handle是领域知识中的一部分，因此保留，从而得到泛化树l可以有多种方法来建造泛化树第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习152022-3-1泛化数泛化数第第七七章机器学习章机器学习 7.27.2基于符号的机器学习基于符号的机器学习cup(X)Holds_liquid(X)Points_up(W)concave(W)part(X,W)small(X)part(X,handle)light(X)liftable(X)l基于泛化树，得到一条规则：small(X) part(X,handle) part(X,W) concave(W) Poi

11、nts_up(W) cup(X ) 162022-3-1连接主义观点连接主义观点l神经元激励模型不再强调用符号来解决问题l认为智能存在于这种简单的、相互作用的部件（生物的或人工的神经元）组成的系统中l调节神经元之间的连接参数可以提高智能l神经网络的问题求接是并行的第第七七章机器学习章机器学习 7.37.3连接主义的机器学习连接主义的机器学习172022-3-1人工神经元人工神经元l输入信号输入信号xi：可能来自环境也可来自其神经元的刺激。不同模型允许输入参数有不同范围l权值权值wi：描述连接强度l激励层激励层l阈值函数阈值函数f第第七七章机器学习章机器学习 7.37.3连接主义的机器学习连接主义的机器学习wixif()w1w2wnx1x2xn182022-3-1用神经元模型构造逻辑函数用神经元模型构造逻辑