湘潭大学 人工智能课件 机器学习

1、人工智能人工智能，第7章：机器学习，执行摘要，第7章：机器学习系统，1。机器学习的基本概念，2。机器学习策略和基本结构，3。归纳学习，4。类比学习，5。解释性学习，6。神经网络学习，8。其他，7。知识发现、阿尔法狗相似深度学习是近年来出现的。目前，这项技术有一些应用。最简单的例子是通过深入学习识别猫。通过这种识别验证，更多的实际应用得到了扩展，如识别某张照片中是否有癌细胞，某条铁路沿线的轨道上是否有磨损，甚至在军事行动中是否有坦克出现在对方的视线中，这些都可以通过深入学习来实现。谷歌的自动驾驶，在其中识别道路、交通灯、路标等非常重要。是通过深入学习获得的。阿法尔犬正在走普通学习之路。其评估功能

2、不是由专家开发的。它的作者只是建立了一个基本框架(多层神经网络)，除了最基本的围棋规则外，没有任何先验知识。你可以把它想象成一个新生的大脑，一张白纸。然后，直接用3000万个人类主人的情况训练它，自动调整它的神经网络参数，使它的行为接近人类主人。这样，阿法尔狗就有了基本的下棋感觉，当它们看到一个情况时，它们就能知道它是好是坏。阿尔法狗的核心技术还包括策略网络的训练和蒙特卡罗树搜索。第7章：机器学习系统，1。机器学习的基本概念。机器学习策略和基本结构。归纳学习。类比学习。解释性学习。神经网络学习，8。其他，7。知识发现，机器学习是人工智能的核心，它可以通过让机器模拟人类的学习行为，从过去的经验中

3、智能地获得。机器学习广泛应用于科学和工程的许多领域，如金融分析、数据挖掘、生物信息学、医学诊断等。机器学习算法广泛应用于生活中一些常见的智能系统，如电子商务、手写输入、邮件过滤等。机器人也将参与人类未来的生活和工作。机器人的自主学习离不开人脸识别技术。2015年3月16日，马云在德国参加活动时，向来宾展示了一种“微笑支付”的扫脸技术。在网上购物后的支付认证阶段，传统的密码被人脸扫描取代，实现“刷脸支付”。机器学习的基本概念，机器学习的两大流派：人工智能的重要分支，智能系统的构建与学习能力，知识，推理，学习手段：统计学，逻辑学，代数统计学，机器学习从大量的样本中，利用统计学的方法，发现统计规律包

4、括监督学习，无监督学习，半监督学习问题：分类，聚类，回归，机器学习的基本概念，机器学习的定义西蒙，1983):学习是系统中的适应性变化，它使系统在重复同样的工作或相似的工作时做得更好。明斯基，1985):学习是人们思想中的一个有用的变化。学习是有特定目的的知识获取和能力增长的过程。它的内在行为是获取知识、积累经验、发现规律等。它的外在表现是提高表现，适应环境，实现自我完善。机器学习是一门研究如何使用机器来模拟人类学习活动的学科。机器学习的基本概念，机器学习的任务是根据有限的样本集Q来计算世界W的模型，以便它是真实的世界。机器学习的基本概念和机器学习的三要素一致性假设：假设世界w和样本集q具有相

5、同性质的机器学习的某些条件。样本空间划分：将样本集放入一个n维空间中，找到一个决策面(等价关系)，从而将问题确定的不同对象划分为不相交的区域。泛化能力：从有限样本集获得的规则对于学习集之外的数据是否仍然有效。泛化能力决定了模型对世界的有效性。第7章：机器学习系统，1。机器学习的基本概念。机器学习策略和基本结构。归纳学习。类比学习。解释性学习，6。神经网络学习，8。其他，7。知识发现、机器学习策略和基本结构、机器学习的主要策略：根据学习中使用了多少推理，机器教学学习：外部输入知识和内部知识的表达不完全一致，系统在接受外部知识时需要推理、翻译和转换。类比学习：有必要找出当前任务和已知知识之间的相似

6、之处，并给出一个类比完成当前任务的计划。范例学习：有必要从一组正反两方面的例子中分析和总结出一般规律，并在新的任务中推广、验证和修改这些规律。机器学习策略和基本结构，学习系统的基本结构影响学习系统设计的基本环境：环境向系统知识库提供的信息的水平(泛化程度)和质量(正确性):知识表示的表达能力、易推理、易修改和易扩展。第7章：机器学习系统，1。机器学习的基本概念。机器学习的策略和基本结构。归纳学习。类比学习。解释性学习，6。神经网络学习，8。其他，7。知识发现、归纳学习、归纳学习、归纳学习是一种通过归纳推理进行的学习。归纳学习的模式：实验计划过程通过搜索案例空间来完成案例选择，并将这些活动案例提

7、交给解释过程。在解释过程中，对实例进行适当的转换，将活动实例转换成规则空间中的特定概念，从而指导规则空间的搜索。归纳学习归纳学习是目前研究最多的学习方法。它的目的是获得新概念、构建新规则或发现新理论。根据是否有教师的指导，归纳学习可以分为样例学习：为学习者提供一组某个概念的正面和负面样例，学习者可以总结出一个通用的概念描述(规则)，并使这个描述适用于所有的正面样例，排除所有的负面样例。观察发现学习：概念聚类：根据某些方法和标准分组，归纳概念机器发现：从数据和案例中发现新知识，执行摘要，第7章：机器学习系统，1。机器学习的基本概念。机器学习策略和基本结构。归纳学习。类比学习，5。解释性学习，6。

8、神经网络学习，8。其他人。类比推理和类比学习学习(类比学习)是一种类比学习，即通过比较相似的事物。类比学习利用两个不同领域(源领域和目标领域)知识的相似性，通过类比从源领域的知识(包括相似特征和其他属性)中推导出相应的目标领域知识，从而实现学习。例如：1 .一个从未开过卡车的司机，只要他有开车的知识，就能完成开卡车的任务。2.如果把一个人比作消防车，人们可以通过观察消防车的行为来推断这个人的性格。类比学习、类比推理和类比学习类比学习系统可以将现有的计算机应用系统转化为一个新的领域，完成以前没有设计过的类似功能。类比推理过程：回忆和联想：找出与当前情况相似的情况；选择最相似的情境和相关知识建立对

9、应关系；在相似元素之间建立映射转换；解决问题或产生新知识；通过类比学习；通过类比学习来研究解决问题的类比学习类型；当解决一个新问题时，回想一下类似的问题以前是否已经解决过；如果是这样，在此基础上解决新问题。预测推理类比学习传统的类比方法：用于推断一个不完全确定的事物的其他属性。因果关系类型：已知因果关系S1:A-B，如果有AA，可能有B满足A-B，执行摘要，第7章：机器学习系统，1。机器学习的基本概念。机器学习策略和基本结构。归纳学习。6.神经网络学习，8。其他，7。知识发现，基于解释的学习，EBL)，始于20世纪80年代中期，根据任务的领域知识和正在学习的概念知识分析和解决当前的例子，并获得

10、表示解决过程的因果解释树以获得新知识。例如，根据教师提供的目标概念、概念示例、领域理论和操作标准，学生首先构造一个解释来解释为什么示例符合目标概念，然后将该解释归纳为目标概念符合操作标准的一个充分条件。解释学习、解释学习过程和算法米切尔提出了解释学习的统一算法EBG，建立了基于解释的泛化过程，并用知识的逻辑表示和演绎推理解决了问题。其一般描述如下：给定：领域知识DT、目标概念TC、训练实例TE、操作准则OC，找出：满足OC关于TC的充分条件，解释学习，EBG算法可概括为两个步骤：1 .构造解释：使用领域知识进行推理，证明为什么提供给系统的训练示例是满足目标概念的示例。例如，假设要学习的目标概念

11、是“一个对象(Obj1)可以安全地放置在另一个对象(obj2)上”，也就是说，Save-To-Stack(Obj1，Obj2)领域知识是将一个对象放置在另一个对象上的安全标准；解释学习，EBG算法可以总结为两个步骤：领域知识：易碎(y)安全堆叠(X，y) :如果y不易碎，X可以安全地放置在y的上面轻(X，y)安全堆叠(X，y) :如果X比y轻，X可以安全地放置在y的上面体积(p，v)密度(p，d) * (v，d，w)重量(p，w) :如果p的体积是v，则v乘以d的乘积是w，那么p的重量是w isa，表)重量(p，15)p的重量是15重量(p1，w1)重量(p2，w2)小(w1，w2)轻(p1，

12、p2) : 如果P1是w1，p2是w2，w1小于w2，那么P1比p2轻。为了解释学习，EBG算法可以概括为两个步骤：安全堆栈(Obj1 Obj2)解释结构：解释学习，EBG算法可以概括为两个步骤：2 .获得一般知识：任务：概括上一步获得的解释结构，以便获得关于目标概念的一般知识。方法：把常数变成变量，去掉一些不重要的信息，只保留解决问题所需的关键信息。例如，体积(O1，v1)密度(O1，D1) * (v1，D1，w1) isa (O2，表)更小(w1，15)安全堆叠(obj1，obj2)，解释性学习，EBG算法可概括为两个步骤：安全堆叠()。第7章：机器学习系统，1。机器学习的基本概念。机器学

13、习的策略和基本结构。归纳学习。类比学习。解释性学习，6。神经网络学习，8。其他，7。知识发现、神经网络学习、神经生理学研究表明，人脑的神经元既是学习的基本单位。目前，关于人脑学习和记忆机制的研究有两个学派：化学学派，认为人脑学习获得的信息被记录在一些生物大分子上。例如，蛋白质、核糖核酸和神经递质，就像遗传信息被记录在脱氧核糖核酸上一样。突触矫正学派：认为从人脑学习中获得的信息分布在神经元之间的突触连接上。根据突触修正学派的观点，人脑的学习和记忆过程实际上是在训练中完成的突触连接权重的修正和稳定过程。其中，学习显示突触连接权重的修正，而记忆显示突触连接权重的稳定性。突触矫正假说已经成为研究人工神

14、经网络学习和记忆机制的心理学基础，相应的权重矫正学派一直是人工神经网络研究的主流学派。突触矫正学派认为人工神经网络的学习过程是一个不断调整网络连接权重的过程。根据学习规则，神经学习可以分为Hebb学习、纠错学习、竞争学习和随机学习。Hebb学习Hebb学习的基本思想：如果一个神经网络中的一个神经元与另一个与其直接相连的神经元同时被激发，这两个神经元之间的连接强度将会加强，反之亦然。Hebb学习对连接权值的调整可以表示如下：wij (t 1)表示对时间t的权值校正一次后得到的新权值；取一个正值，称为学习因子，它取决于每个权重的修正量；Xi(t)和xj(t)分别代表在时间t的ith和jth神经元的

15、状态。纠错学习的基本思想是利用神经网络的期望输出和实际输出之间的偏差作为参考来调整连接权值，最终减小这种偏差。纠错学习是一个有导师指导的学习过程。最基本的纠错规则是连接权的变化与神经元的期望输出和实际输出之间的差异成比例。其连接权的计算公式为：yj (t)为神经元j的实际输出；Dj (t)是神经元J的期望输出；神经网络学习和竞争学习的基本思想是：网络中的某一组神经元相互竞争对外部刺激模式的反应权，在竞争中获胜的神经元的连接权将向更有利于这种刺激模式竞争的方向发展。随机学习的基本思想是结合随机过程、概率和能量(函数)的概念来调整网络的变量，从而使网络的目标函数达到最大(或最小)。他不仅能接受能量

16、函数降低(性能提高)的变化，还能以一定的概率分布接受能量函数增加(性能下降)的变化。单层感知器学习算法单层感知器学习实例神经网络学习霍普菲尔德网络学习、神经网络学习和单层感知器学习实际上是一种基于纠错学习规则的学习算法，它采用迭代思想不断调整连接权值和阈值，直到满足结束条件。假设X(k)和W(k)分别表示第k次迭代中学习算法的输入向量和权重向量。为了方便起见，阈值被作为权重向量W(k)中的第一分量，并且“-1”被相应地固定为输入向量X(k)中的第一分量。也就是说，W(k)和X(k)可以表示如下：x (k)=-1，x1 (k)，x2 (k)，xn (k) w (k)=(k)，w1 (k)，w2 (k)，wn (k)是x0 (k)单层感知器学习是一种监督学习，它需要