人工智能原理及MATLAB实现 教案 第1、2章 概述、机器学习

《人工智能算法》课程教案教学目的、要求：1.掌握人工智能的定义，了解人工智能的发展史2.掌握人工智能的技术特征3.了解计算模拟、研究与应用领域4.掌握人工智能的知识获取教学重点及难点：重点：人工智能的技术特征难点：人工智能的知识获取教学基本内容教学过程设计§1概述§1.1人工智能的定义与发展由于不同科学或学科背景的学者对人工智能有不同的理解，所以提出了许多不同的观点。1978年帕特里克·温斯顿（P.Winston）：“人工智能是研究使计算机更灵活有用，了解使智能的实现成为可能的原理。因此，人工智能研究结果不仅是使计算机模拟智能，而且是了解如何帮助人们变得更有智能”。1981年巴尔（A.Barr）和爱德华·费根鲍姆（E.Feihenbum）：“人工智能是计算机科学的一个分支，它关心的是设计智能计算机系统，该系统具有通常与人的行为相联系的智能特征，如了解语言、学习、推理、问题求解等。”1983年伊莱恩·里奇（ElaineRich）：“人工智能是研究怎样让计算机模拟人脑从事推理、规划、设计、思考、学习等思维活动，解决至今认为需要由专家才能处理的复杂问题。”1987年迈克尔·杰纳西雷斯（M.Genesereth）和约翰·尼尔森（J.Nilsson）：“人工智能是研究智能行为的科学，它的最终目的是建立关于自然智能实体行为的理论和指导创建具有智能行为的人工制品。这样一来，人工智能有两个分支，一个为科学人工智能，另一个为工程人工智能。”近年来，许多人工智能和智能系统研究者认为：人工智能（学科）是智能科学中涉及研究、设计及应用智能机器和智能系统的一个分支，而智能科学是一门与计算机科学并行的学科。知识表示、知识利用和知识获取是人工智能的三个基本问题。§1.2人工智能的技术特征人工智能作为一门科学，具有其独特的技术特征，主要表现以下几个方面。利用搜索、利用知识、利用抽象、利用推理、利用学习、遵循有限合理性原则。§1.3人类智能的计算机模拟计算机对人脑的模拟是先从数值计算开始。然而人类最主要的智力活动并不是在数值计算，而是在逻辑推理。由于逻辑推理与人类智能都是物理符号系统，所以可以编写计算机程序去模拟人的许多智能功能，如下棋、证明定理、翻译语言等。§1.4人工智能的研究与应用领域人工智能在自然语言处理、自动定理证明、智能检索、机器学习、专家系统、计算智能、人工智能方法、模式识别、视觉系统等领域都有广泛的研究与应用。§1.5人工智能之知识获取机器获取知识的方法和途径可分为三类。人工移植。人工移植是依靠人工智能系统的设计师、知识工程师、程序员、专家或用户，通过系统设计、程序编制及人机交互或辅助工具，将人的知识移植到机器的知识库中，使机器获取知识。机器学习。机器学习就是人工智能系统在运行过程中，机器通过学习，获取知识，进行知识积累，对知识库进行增删、修改、扩充与更新。机器感知。所谓机器感知是人工智能系统在调试或运行过程中，通过机器视觉、机器听觉、机器触觉等途径，直接感知外部世界，输入自然信息，获取感性和理性知识。3min引入：通过对现实生活人工智能应用实例引入。内容设计思路：对课堂内容进行分析，引导学生了解内容之间的相互联系，并指出本节课的重点难点以及教学目的。核心是给学员讲清楚技术特征10min强调：引导学生思考模拟的原理，触类旁通。分析：技术特征与应用领域的关系。注意过渡：动画演示：课堂互动：对先修的基础知识进行提问、回顾、引导。20min举例分析：分析要点：。对人工智能知识获取的原则进行分析。让学生进行总结：深刻理解人工智能作业、讨论题、思考题：机器学习结合你的研究领域有何种应用？教学反思：《人工智能算法》课程教案教学目的、要求：1.了解机器学习的概述2.掌握机器学习的主要策略和基本结构3.了解机器学习算法4.掌握贝叶斯网络算法教学重点及难点：重点：机器学习的主要策略和基本结构难点：机器学习算法的原理教学基本内容教学过程设计§2机器学习§2.1机器学习概述学习是人类具有的一种重要智能行为。通过学习人类不断取得科学与工程上的突破，同时也不断提高自身的智力水平。人类一直试图让机器具有智能，也就是人工智能。当机器具备了学习能力（机器学习），能自动获取知识时就完全与人类似。§2.2人工智能的技术特征不同的分类标准对机器学习方法有不同的分类。（1）按任务类型机器学习模型可以分为回归模型、分类模型和结构化学习模型。（2）按方法的角度分机器学习可以分为线性模型和非线性模型。（3）按学习理论分机器学习模型可以分为有监督学习、半监督学习、无监督学习、迁移学习和强化学习。§2.3机器学习的主要策略与基本结构§2.3.1机器学习的主要策略学习是一项复杂的智能活动，学习过程与推理过程紧密相连。根据学习中使用推理的多少，机器学习的策略可以分为机械学习、示教学习、类比学习和示例学习。学习中所用的推理越多，系统的能力就越强。§2.3.2机器学习的基本结构影响学习系统设计的最主要因素是环境向系统提供的信息的质量。知识库是影响学习系统设计的第二个因素。知识的表达有多种形式，例如特征向量、一阶逻辑语句、产生式规则、语义网络和框架等。这些表示方式各有特点，在选择表示方式时要兼顾以下四个方面：（1）表达能力强，即表达方式能很容易表达有关的知识。（2）易于推理，即表达方式能使推理较为容易。（3）容易修改知识库。（4）知识易于扩展。§2.4机器学习算法机器学习是一些算法的总称，这些算法企图从大量历史数据中挖掘出其中隐含的规律，并用于预测或分类。更具体的说，机器学习可以看作是寻找一个函数，输入是样本数据，输出是期望的结果，只是这个函数过于复杂，以至于没有明确的数学表达式。机器学习的目标是使寻找到的函数能不仅在训练样本上表现很好，而且也能很好地适用于新样本，即很好的泛化能力。机器学习的基本步骤如下：①选择一个适合的模型。②判断一个函数的好坏。③找到最好的函数。④检验。§2.4.1决策树算法决策树利用特殊的树形的决策模型来进行辅助决策，是模式识别中进行分类的一种有效的方法。利用树分形器可以把一个复杂的多类问题转化为若干个简单分类问题来解决。决策树是一种单分类器的分类技术，也是机器学习中的一种经典算法。一棵决策树的内部结点是属性或者属性的集合，而叶结点就是学习划分的类别或结论，内部结点的属性称为测试属性或分裂属性。决策树基本算法ID3算法C4.5算法CART算法决策树的评价标准对于一个决策树算法，可以用以下一些性能或指标进行评价。正确性、过学习、有效性、交叉有效性、余一有效性、复杂度。§2.4.2贝叶斯网络算法贝叶斯理论是一种研究不确定性的推理方法。不确定性常用贝叶斯概率表示，它是一种主观概率。通常的经典概率代表事件的物理特性，是不随人的意识变化的客观存在，而贝叶斯概率则是人的认识，是个人主观的估计，随个人的主观认识的变化而变化。如在投掷硬币的实验中，贝叶斯概率是指个人相信硬币会正面向上的程度。使用p(X=x|A)或者p(x|A)表示给定知识A下的情形下对事件X=x的相信程度，即贝叶斯概率，它同时也是X的分布或分布密度。常用三种不同的方式来构造贝叶斯网络。（1）由邻域专家确定贝叶斯网络的变量（有时也称为影响因子），然后通过专家的知识来确定贝叶斯网络的结构，并指定它的分布参数。（2）由领域专家确定贝叶斯网络的特点，通过大量的训练数据，来学习贝叶斯网络的结构与参数。机器学习的不断发展，使得这种方法更加普及。（3）由领域专家确定贝叶斯网络的特点，通过专家的知识来指定网络的结构，再通过机器学习的方法从数据中学习网络的参数。§2.4.3支持向量机算法与神经网络相比，SVM有坚实的统计学基础，它具有以下的优点：（1）以结构风险最小原理为基础，减少推广错误的上界，具有很好的推广性能，解决了神经网络的过拟合问题。（2）问题的求解等价于线性约束的凸二次规划问题，具有全局最优解，解决了神经网络的局部极小问题。（3）把原问题映射到高维空间，通过在高维空间构造线性分类函数来实现原问题的划分，引入核函数，解决了维数灾难问题。§2.4.4K近邻分类算法近邻法是在数据挖掘中使用最早的技术之一。其基本思想是为了预测一个记录中的预测值，或在历史数据库中寻找有相似预测值的记录，可以使用未分类记录中最接近的记录值作为预测值，也即相互之间接近的对象会有相似的预测值。§2.4.5模糊聚类算法模糊聚类预测模型就是用模糊数学的方法对样本进行分类，用聚类分析来实现预测。其基本思想是：把由待预测量和影响待预测量的环境因素的历史值所构成的样本按一定的方法进行分类，形成各类的环境因素特征和待预测量变化模式，这样在待预测时段的环境状态为已知点时，通过该环境与各历史环境特征的比较，判断出待预测量的环境与哪个历史类最为接近，进而找出受环境影响的待预测量也与该历史类所对应的预测变量同变化模式，从而达到预测的目的。§2.4.6随机森林算法随机森林的构建过程主要分为三步，即生成森林、决策分类和算法的产生。§2.4.7集成学习集成学习模型是机器学习的一种经典算法，属于监督学习的一种模式。主要形式是通过将几个弱学习器串行结合形成强学习器而进行使用，能够很好的平衡模型的偏差和方差，学习训练效果好，应用的领域也比较广泛，因此这类模型在这几年里得到迅速发展。§2.4.8期望最大化（EM）算法期望最大化算法是1977年提出的，它是一类通过迭代计算进行极大似然估计的优化算法，算法的每次迭代都包含一个期望步骤（ExpectationStep）和一个最大化步骤（MaximizationStep）。该算法的目的是解决不完全数据的极大似然估计问题。不完全数据是指含有隐变量的数据和缺失数据。当要对含有隐变量的数据或缺失数据进行极大似然估计时，传统的极大似然估计方法已经不能发挥作用，而使用EM算法可以很好的解决该问题。3min引入：通过对科研领域的机器学习的实际应用引入。内容设计思路：对课堂内容进行分析，引导学生了解机器学习结构之间的相互联系，并指出本节课的重点难点以及教学目的。核心是给学员讲清楚机器学习的基本步骤10min强调：引导学生思考机器学习的原理，触类旁通。分析：重点分析决策树算法的原理。注意过渡：动画演示：20min举例分析：分析：重点分析贝叶斯网络算法的原理。分析要点：贝叶斯算法的数学逻辑。让学生进行总结：深刻理解