机器学习人工智能原理与应用.ppt

1、机器学习是电脑自动获得知识的，是知识工程的三个茄子分支(知识使用、表现式、知识获取)之一。牙齿章节介绍了基本问题，包括机器学习研究原因、机器学习研究原因、机器学习定义、机器学习开发历史、学习的模型、机器学习分类、机器学习研究目标等。概述，1 .学习的概念学习是人类具有的重要智力行为，但对于学习究竟是什么，长期存在分歧。社会学家、逻辑学家、心理学家都有不同的看法。据人工智能大师西蒙的看法，学习是在重复性工作中提高或提高自己的能力，下次执行相同的任务或类似的任务时，使自己比现在更优秀或更有效率。(约翰肯尼迪，教育)西蒙通过对学习的定义本身说明了学习的重要作用。机器学习，2，机器学习，机器学习是什么

2、？到目前为止还没有统一的“机器学习”定义，也很难做出公认的、正确的定义。要讨论和估计学科进展，即使是不完整的定义，也需要机器学习定义。顾名思义，机器学习是研究使用机器模拟人类学习活动的学科之一。稍微严格的提法：机器学习研究是机器掌握新知识和新技术，识别现有知识的学问。这里说的“机器”是指计算机。现在是电子计算机，以后可能是中子电脑、光子电脑、神经电脑等。什么是机器学习，1，机器学习速度惊人；2.机器学习可以不断地继续学习，避免大量重复学习，将知识积累达到新的高度。3、有助于传播知识的机器学习。机器学习研究的意义，自20世纪50年代机器学习研究开始以来的不同时期，研究路径和目标也不同。可以分为三

3、个阶段。研究内容是神经模型和决策理论。加强符号概念获取知识和域专用学习；连接学习研究。各阶段的差异主要在于学习系统中先验知识的数量和系统的表征及知识修改方法。机器学习发展史、机器学习发展史、1、神经模型、决策理论神经模型路径是发展几乎没有早期知识的通用学习系统。这种系统通常称为神经网络或自组织系统。系统包含一个由互连组件组成的网络。这些组件类似于简单逻辑功能，通常是实现阈值逻辑功能的神经元。这些系统的学习过程是逐步修改元件之间的连接强度，通常是连续更改分配给这些连接的权重。系统的初始知识是选定的输入组件、网络结构和初始连接强度。选定输入元件表实体对象的选定属性。网络结构可以是任意的，由设计者分

4、配，或者是两者的混合。(后续)、机器学习发展史，这些学习系统包括使用Perceptron、Pandemonium和认证功能的学习系统。最近的例子是各种自适应控制系统。牙齿领域的研究延续到模式识别中的决策理论方法。这种研究包括进化学习和遗传学算法等。牙齿领域的最新成果是连接机。这些系统的主要特点是早期知识水平低，使用连续可变参数学习。这种学习有数值化的特点，这与后两种茄子类型的学习不同。后两种茄子类型的学习更加强调复杂符号结构的生成和处理。机器学习发展史、2、符号概念获取(SCA)等学习过程，是通过分析一些概念的定例和反例来构建这些概念的符号表征。表格式通常是逻辑表达式、决策树、生成规则或语义网

5、络格式。部分系统已在其他领域得到实用化。例如Arch (Winston，1975)、aqval (michalski，1975)、ID3(Quinlan，1979)。、机器学习发展史、3、知识强化和论域专用学习(KDL)系统包括预定的概念、知识结构、论域约束、启发性规则和论域相关转换。系统最初没有所有属性或概念，在学习过程中需要获得新的属性或概念。牙齿过程称为结构归纳。KDL和SCA的主要区别在于系统提供的背景知识的数量和种类，以及系统生成的知识结构的丰度。这种学习系统一般是为专业领域开发的，不能在其他领域直接使用。这些系统的学习策略不仅包括案例学习，还包括类比学习、观察和发现学习。这种系统的

6、例子包括Meta-DENDRAL和AM牙齿。机器学习发展史，很多系统反映了上述路径的组合。SCA和KDL路径的组合是基于可更换知识模块的系统。牙齿系统将通用学习机制和定义与使用论域专用知识的功能相结合。当系统想解决问题时，教师通过系统的知识表实际功能提供论域专用知识。由于将共同推理功能与论域专用知识分开，一个学习系统不仅可以用于多个茄子论域，还可以利用论域专用知识。这些系统具有INDUCE，该INDUCE描述为实例学习对象的结构。Winston的模拟学习节目。解决雷克斯获取和改进问题的启发式。EURISKO发现新启发式。机器学习发展史，第四，连接学习的研究阶段始于20世纪80年代中期，以非线性

7、大规模并行处理为主流的神经网络研究，牙齿研究还在继续进行中。机器学习主要战略、机器学习分类可以在学习战略、知识表实际和应用领域方面进行。学习策略是学习中使用的推理方法。下面根据学习政策分类，让系统介绍不同的方法。学习系统总是将环境提供的信息转换为新格式，以便存储和使用。牙齿转换的本质决定了学习策略的类型。几个茄子的基本策略是机器学习(记忆学习)、传授学习、延力学学习、类比学习、归纳学习。归纳学习又分为案例学习、观察、发现学习。这些策略按变换复杂性增加的顺序排列。转换越复杂，学习者的工作越多，教职员的工作就越少。人的学习经常同时使用多种茄子策略。在这里徐璐分享不同的策略，不仅是为了徐璐介绍不同的

8、方法，也是为了设计学习系统。现有的学习系统只使用单一的策略，但各种战略系统也会受到重视。1，机器学习(记忆学习在机器学习(记忆学习)中基本没有变化。教士提供的信息在一定程度上被学习系统记忆和利用。此时环境提供的信息与执行过程中使用的信息具有相同的形式。实际上，每台计算机都存储用户发送的程序，因此可以将其看作机器学习(内存学习)。一个茄子例子是Samuel的国际象棋节目(1956，1967)，记住每个围棋以提高围棋水平。机器学习的主要战略，机器学习的主要战略，2，传授学习(指点学习)传授学习中，学习过程中的切换只是提供信息的选择和改造，主要是语法层的切换。环境提供的信息太抽象了，比执行阶段使用的

9、信息级别高。学习环节把高水平的知识转变为低水平的知识。牙齿转换称为实用化。实用化主要包括从传授的信息中得出结论，补充一些细节，并做出假设，以确定需要追加传授的时间。实用化过程类似于编译系统将高级语言程序转换为机器代码程序。第一个示例是McCarthy(1958)系统。最近的系统是TEIRESLAS(Davis，1976)和FOO(Mostow，1979，1981)。机器学习主要战略，3，存储学习系统演绎给定知识的保真度推理，有用的结论。这种策略直到最近几年才成为独立的学习策略。(Michalski，1983)年动态学习包括知识改造、知识编译、宏任务创建、等价操作维护和保真度转换。机器学习的主要

10、战略，4，归纳学习归纳学习中，转换过程是对输入信息的泛化和选择最合理的预期结果，这就是归纳推理。归纳学习可以分为以下例子学习、观察、发现学习。(详细说明请参见下一页)、机器学习主要战略、(1)实例学习实例学习也称为概念获取，牙齿任务是解释所有给定的用例，并确定必须排除所有给定反例的概念的一般说明。这些餐盘案例是从信息源中提供的，信息源可能是已经了解概念的教育家，也可能是进行学生实验，系统得到反馈的环境。后者可以说是实验学习，包括在中学习和在问题中解决的学习。刺激反应式学习也是案例学习。案例学习的新研究集中在两个茄子方面。示例1类型的一般化和部分整体的一般化。在示例1类型的一般化中，提供给系统中

11、类对象的独立实例的目的是总结这些类的一般说明。对案例学习的大部分研究集中在牙齿方面。对象可以是结构部件、几何形状、疾病说明、故事、问题解决方案、控制算子等。在某些完全一般化中，作业假设整个对象(方案、情况、过程)的说明，但仅提供对象的一部分。例如，如果仅给定一个房间的几张本地照片，则需要重建房间的整个视图。例如，要仅查看一个序列或进程的一部分，必须确定描述序列或进程的规则。机器学习主要战略，(2)观察和发现学习观察和发现学习也被称为说明的泛化。这种学习没有实教者的学习帮助，必须制定说明所有或大部分观察的规则和规则。(约翰f肯尼迪)这些学习包括概念集群、结构分类、将方程与数据相匹配的规律、发现解

12、释观察的规律以及形成理论。遗传学算法(Holland，1986)和经验预测算法(Zagoruiko，1976)可以看作是这种战略的变种。案例学习是以小菜一碟的方式学习，这种小菜一碟是教士分类的。因此，案例学习是实实在在的学习。观察和发现学习被未分类的观察学习或系统本身的功能发现。这是无用功。机器学习主要战略，第五，类比学习类比学习是软力学习和归纳学习的组合。与其他域的说明相匹配，识别公共子结构，并用作模拟映射的基础。寻找公共子结构是归纳推理，实现类比映射是演绎推理。通知学习可以看作是一种学习(Schank，1982)。类比学习是从系统中已经存在的一个领域的知识中获得其他领域的类似知识。机器学习

13、系统的基本模型一般认为是建立学习理论，形成假设，归纳推理。理论本质上可以更深入地描述和解释客观现象，因此必须建立理论。为了说明几个茄子特殊现象，往往要发现进行各种可能的假设。有时在特殊案例中，需要推导一般规律，即归纳推理。学习过程总是与环境和知识库相关，因此可以用下图中的物理模型来说明。是包含学习系统四个茄子基本组件的机器学习系统的基本模型。环境和知识库(environmental and environmental)是以知识表的实际形式表示的信息集合，这些知识表表示外部信息源和系统所具有的知识。学习过程和执行过程代表了两个茄子过程。学习过程处理环境提供的信息，以改进知识库中的显式知识。执行过

14、程利用知识库中的知识完成某项任务，将执行过程中获得的信息返回学习过程。下面讨论系统的各个部分。机器学习系统的基本模型、环境和环境可以是系统的工作目标，也可以包含工作对象和外部条件。例如，在医疗系统中，环境是患者的新症状、检查的数据和病历模式识别中，环境是要识别的图形或风景。在控制系统中，环境是受控的设备或生产过程。环境对系统提供的信息的水平和质量对学习系统有很大的影响。信息水平是指信息的普遍性，即复盖范围的广泛性。这里的一般程度是关于执行过程的要求。高水平的信息比较抽象，适用于更广泛的问题。低级信息比较具体，仅适用于单个问题。环境提供的信息水平和执行所需的信息水平之间经常存在差异，学习过程的任

15、务是解决水平差距问题。(下一页)，机器学习系统的基本模型、环境、(上一页)环境提供更抽象的高级别信息时，学习过程必须补充缺少的细节，使执行过程可以用于特定情况。环境提供了更具体、更低级的信息，即在特殊情况下执行任务的例子，学习环境应相应地概括规则，用于完成更广泛的任务。信息的质量是准确性、适当的选择、合理的组织。信息质量对学习的难度有明显的影响。例如，如果教学人员在系统中提供了正确的实践示例，提供的顺序也有助于学习，那么就容易概括。如果在实践中有干涉，或实例顺序不合理，就很难归纳。影响机器学习系统基本模型、知识库、学习系统设计的第二个因素是知识库形式和内容。知识库形式是知识表的实相。常用的知识

16、表实际方法包括特征向量、谓词计算、生成规则、过程、LISP函数、数字多项式、语义网络和框架。选择知识表实战方法时，要考虑表现性、推理难度、修改性、扩展性等准则。下面以特征向量和谓词计算方法为例，说明了这些准则。表现性方面的特征向量适合描述内在结构不足，用固定的特征集合描述事物。谓词计算适用于描述结构化的东西。(后续)，机器学习系统的基本模型，知识库，(胜)推理难度方面常用的推理是比较两种描述是否相同。显然，判断两个固有向量相等更容易，确定两个谓词表达式等价性的成本更大。修正性方面的特征向量和谓词计算等显式表现房都很容易修改。课程表室等暗示的方法很难修改。可扩展性是指学习系统通过添加字典项目和表

17、实结构来扩展表实能力，从而学习更复杂的知识。一个茄子范例是AM(Lenat，1983)，它根据先前的概念定义新概念。在知识库内容中，早期知识很重要。为了形成和改善假设，总是要利用早期知识理解环境提供的信息。学习系统本质上是旧知识库的扩展和补充。机器学习系统的基本模型、学习链接和执行链接以及学习链接的目的是改进执行链接的行为。执行过程的复杂性、反馈、透明度都影响学习过程。复杂的任务需要更多的知识。二分法是最简单的任务，只需要一个规则。巴克的程序中有约20条规则。从例子中学习，根据任务的复杂性，可以分为三类茄子。一种是基于单一概念或规则的分类或预测。一个包含多个概念的任务。一个是多步骤任务。学习链

18、接的执行链接的反馈也很重要。学习系统都要用某种方法来评价学习环节推荐的假设。一种茄子方法是通过独立知识库进行这种评价。例如，AM程序评估通过几个茄子启发性规则学习的新概念的重要性。另一种方法是通过判断环境是否客观执行标准、系统是否按预期标准运行，来评价当时的假设。如果执行环节比较透明，学习环节就容易追踪执行环节的行为。，机器学习(记忆学习)，记忆学习(Rote Learning)也称为机器学习或记忆学习。这种学习直接记住环境提供的新知识，直接使用它们，不做任何改变。对记忆学习有两种茄子极端的观点。一种茄子的观点是存储是所有智能程序的必要和基本，不是独立的学习过程，因此不需要专门研究。(约翰f肯尼迪)另一种观点是存储是一个复杂的问题，对所有的认知系统都是必需的，因此需要仔细研究和建模。一种茄子折衷的观点是，一般的学习系统不能只是记忆学习