《人工智能导论》课件 第6章 机器学习

第6章机器学习

6.1什么是机器学习《人工智能导论》学习要点机器学习的基本概念机器学习的发展机器学习的分类机器学习的目标和应用机器学习学习是获得新的理解、知识、行为、技能、价值观、态度和偏好的过程。机器学习让计算机像人类一样，通过对大量数据的学习，发现事物的规律，获得分析问题、解决问题的能力，并能够自我完善，不断提高性能。计算机程序如何随着经验积累，自动提高性能。对于某类任务T

和性能度量P，如果一个计算机程序在T

上以P衡量的性能随着经验E

而自我完善，那么就称这个计算机程序在从经验E学习。机器学习的基本概念计算机系统中的经验：数据任务：通过学习算法让计算机从数据中提取规律，形成模型，在面对新的数据时，模型能够根据学习得到的规律提供相应的判断。主要研究内容：学习算法计算机能够在没有明确编程的情况下从数据中学习到事物的本质规律。事物的本质规律：由事物的本质属性决定的，不局限于表面现象，具有广泛性。机器学习的过程训练推理机器学习的发展1943年，沃尔特·皮茨等，《神经活动中固有思想的逻辑演算》，神经网络的数学模型。1950年，艾伦·图灵，《计算机器与智能》，图灵测试。第7章学习机器：“与其试图编程模拟成人大脑，不如模拟儿童大脑，如果让儿童大脑接受正确的教育课程，就可能获得成人大脑。”1952年，阿瑟·塞缪尔，跳棋程序，启发式编程的技术，根据游戏经验改进自己的性能。1957年，弗兰克·罗森布拉，感知器，第一个真正意义上的人工神经网络模型。1997年，IBM，深蓝超级电脑，以3.5：2.5战胜了国际象棋世界冠军卡斯帕罗夫。2006年，杰弗里·辛顿，《深度信念网络》，提出了“深度学习”一词，以解释新的算法，让计算机能够区分图像、视频的对象和文本。2011年，谷歌的X实验室，谷歌大脑，模拟人脑的功能，开发具备自我学习能力的软件。2016年，谷歌，AlphaGo，以4：1战胜了韩国围棋棋手李世石。2020年，OpenAI，GPT-3，输入提示时具有生成人类文本的非凡能力。机器学习的分类按学习能力有监督学习、无监督学习、弱监督学习。按学习方法机械式学习、指导式学习、示例学习、类比学习、解释学习等。按推理方式基于演绎的学习和基于归纳的学习。按综合属性归纳学习、分析学习、连接学习、遗传算法学习和分类系统等。机器学习的目标设计和开发一系列的算法，可以从数据中提取知识和模式，实现预测、分类、聚类、关联规则学习、异常检测、推荐系统、降维、生成模型和序列建模等等功能。机器学习的应用图像处理(a)手绘草图

(b)合成绘画机器学习的应用图像处理(a)受损图像

(b)修复图像机器学习的应用金融信用评分、欺诈检测、股票市场的趋势预测、客户关系管理等。医疗预测诊断结果、制定疗程、评估风险等级、病理分析、临床试验等。自然语言处理文本分类、命名实体识别、情感分析、机器翻译、自动问答、文本生成、文本摘要、文本纠错等。机器学习的应用网络安全恶意代码检测、入侵检测、异常检测、Web安全、身份识别与认证、反欺诈、对抗样本攻击、隐私保护等。工业生产流程优化、质量控制、预测性维护、供应链管理等。娱乐电影票房预测、游戏开发、音乐创作、娱乐产品销售、智能交互等。

6.2常见机器学习算法《人工智能导论》学习要点支持向量机k-最近邻分类集成分类算法k-均值聚类算法支持向量机有监督学习算法解决分类问题基本思想将每个样本数据表示为空间中的点，使不同类别的点尽可能明显地区分开。通过将样本的向量映射到高维空间中，寻找最优区分两类数据的超平面，使各分类到超平面的距离最大。应用场景图像分类、文本分类、面部识别、垃圾邮件检测等。支持向量机基本思想数据分布与决策边界支持向量机基本思想多个决策边界支持向量机基本思想最优决策边界支持向量机

支持向量机

支持向量机

支持向量机

k-最近邻分类有监督学习的分类算法基本思想：预测一个新的值x的类别时，考察距离其最近的k个点的类别，哪个类别最多就将x归入哪个类别。k=3新样本的分类结果k-最近邻分类基本思想k=5新样本的分类结果k-最近邻分类基本思想如何选择一个合适的k值？k=5新样本的分类结果k-最近邻分类

集成分类算法有监督学习分类算法构建并结合多个分类器来提高分类性能集成学习过程k-均值聚类算法无监督学习聚类算法最常用的一种聚类算法基于划分的聚类算法基本思想给定k值和k个初始簇中心点的情况下，把每个样本分到与其最相似的簇中心所代表的簇中，所有样本分配完毕之后，根据一个簇内的所有样本重新计算该簇的中心，然后再迭代的进行样本分配和更新簇中心的步骤，直至簇中心的变化很小，或者达到指定的迭代次数。k值由用户提前设定，而相似度用距离来衡量。k-均值聚类算法算法流程（1）随机选取k个样本作为初始簇中心；（2）计算所有样本与每个簇中心的距离，与哪个簇中心最近，就将样本分入该簇；（3）计算每个簇中所有样本的平均值作为新的簇中心；（4）如果所有簇的新中心与原中心之间的距离小于某一个设置的阈值或达到最大迭代次数，算法终止，否则转（2）。k-均值聚类算法如何选择好的k值？手肘法选择最优k值

6.3深度学习《人工智能导论》学习要点浅层学习与深度学习深度学习框架深度学习的应用浅层学习与深度学习浅层学习具有较少参数和较简单结构的学习模型。线性回归、逻辑回归、决策树和支持向量机等。易于训练，模型透明度高，容易解释结果，在数据量较小或者特征工程做得好的情况下表现良好。对于复杂模式的捕捉能力有限，当数据集很大或特征非常复杂时，性能可能不如深度学习模型。浅层学习与深度学习深度学习使用多个隐藏层的神经网络进行学习，多个隐藏层可以自动学习数据的高级抽象特征。这能够学习到数据中的复杂特征，非常适合处理非结构化数据（如图像、声音、文本等）；数据量越大，模型性能越好；自动化特征提取，减少了人工特征工程的需求。计算资源需求高，训练时间长；模型黑箱特性较强，难以解释模型的决策过程；需要大量的标记数据来训练模型，否则可能会出现过拟合现象。浅层学习与深度学习浅层学习模型架构：比较简单。适用场景：数据特征明确，数据量不是很大。训练难度：容易训练和调优。深度学习模型架构：复杂的层次结构。适用场景：大规模、高维度、复杂数据。训练难度：需要技巧避免过拟合等问题，训练过程复杂。深度学习框架深度学习框架为了简化神经网络的设计、训练和部署而设计的软件工具。目前流行的深度学习框架TensorFlow：GooglePyTorch：FacebookPaddlePaddle：百度Caffe：贾扬清等MXNet：亚马逊等Deeplearning4j：Skymind深度学习的应用医疗保健医学影像分析、辅助诊断、疾病预测、药物发现等。自动驾驶识别和响应各种驾驶场景，包括交通信号、行人、其他车辆等。虚拟助手回答问题、播放音乐、设置提醒等娱乐行业视频内容推荐、自动生成体育赛事精彩片段、电影制作等。图像识别和分类图片搜索、面部识别等。金融行业检测信用卡欺诈和金融交易中的异常行为等。电商平台为用户提供个性化的购物体验，包括产品推荐、定制化优惠等。

6.4强化学习与迁移学习《人工智能导论》学习要点强化学习迁移学习强化学习是机器学习中的一种方法，强调如何基于环境而行动，以取得最大化的预期利益。来源于心理学中的行为主义理论，即有机体如何在环境给予的奖励或惩罚的刺激下，逐步形成对刺激的预期，产生能获得最大利益的习惯性行为。常用的强化学习算法蒙特卡洛强化学习时序差分算法SARSA算法Q-Learning算法DQN算法演员-评论家算法…迁移学习利用一个已经训练好的模型来解决一个新的相关任务。核心思想：从源任务中学习到的知识可以被转移到目标任务，以提高目标任务的学习效率和性能。迁移学习方法特征提取：在这种方法中，预训练模型作为固定特征提取器，其最后一层被替换掉，以适应新的目标任务。。微调：预训练模型的部分或全部