版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
第二章主讲:XXX时间:2025机器学习基础2.1机器学习的基本概念2.22.2分类算法2.32.32.1回归算法目录CONTENTS2.1机器学习的基本概念
什么是机器学习?机器学习的定义机器学习是人工智能和计算机科学的重要分支,其核心思想是利用数据和算法,使计算机模拟人类的学习过程,并通过持续优化提高预测和决策的准确性。它是一门研究如何赋予计算机学习能力的科学,不依赖明确的程序指令,而是通过分析数据模式实现自适应改进。什么是机器学习?从标注数据中学习输入到输出的映射关系,通过训练样本估计条件概率分布或函数模型,实现分类(离散输出)或回归(连续输出)。核心步骤包括数据集划分、模型训练、验证调优及新数据预测,依赖输入与输出的可观测性及联合概率分布假设。监督学习从无标注数据中挖掘潜在结构或统计规律,目标为数据压缩(行压缩聚类、列压缩降维)或模式发现。典型任务包括聚类(分组相似样本)和降维(PCA提取主成分),仅依赖输入特征分析,无需输出标签。无监督学习结合少量标注数据与大量未标注数据训练模型,利用未标注数据的分布特性提升性能,降低标注成本。适用于标注成本高的场景(医学影像分析),通过融合标注与未标注信息优化模型泛化能力。半监督学习智能体通过与环境交互试错,以延迟奖励反馈优化策略,最大化累积回报。核心要素包括策略(行为规则)、奖励(即时反馈)、价值(长期预期)及马尔可夫决策过程建模,应用于自动控制、游戏(AlphaGo)和推荐系统等领域。强化学习机器学习的关键技术机器学习的经典算法线性回归:拟合输入输出线性关系,最小化误差。逻辑回归:Sigmoid函数输出概率,解决二分类。决策树:树状规则,逐层分裂(分类/回归)。随机森林:多树集成,投票/均值提升稳定性。SVM:最优超平面+核函数,处理非线性数据。朴素贝叶斯:条件独立假设,概率分类KNN:k近邻投票/均值,局部相似性预测。无监督/降维神经网络:前向+反向传播,自动提取非线性特征。PCA:线性降维,保留最大方差主成分。聚类:k-Means/EM,按相似性划分数据簇什么是机器学习?垃圾邮件分类是一种典型的机器学习任务,目标是根据邮件的内容和特征判断其是否为垃圾邮件(Spam)。每封邮件通常包含发送人(From)、接收人(To)、邮件主题(Subject)、时间和正文(zhengwen)等要素,这些要素为分类提供了重要依据。分类任务主要从以下三个方面展开:邮件内容分类、邮件标题分类和邮件发送人分类。例:在trec06c语料库中,数据组织为三个文件夹:“data”、“delay”和“full”。垃圾邮件分类的基本原理垃圾邮件分类的基本原理2、数据预处理:文本特征抽取特征提取与编码:从邮件中提取发送人、收件人、主题、正文等关键字段,对含gb2312/base64编码的字段解码,失败则置空,确保数据一致性。词袋模型转换:将文本转为数值特征,先用jieba分词并去停用词(如“深圳市富华公司工商局”→["深圳市","富华","公司","工商局"]),再统计词频生成矩阵。示例:四句话经处理后,单词频率矩阵清晰展示每词在句中的出现情况,便于模型输入。垃圾邮件分类的基本原理4、模型预测与评估准确率(Accuracy):预测结果正确的比例。精确率(Precision):预测为垃圾邮件中实际为垃圾邮件的比例。召回率(Recall):实际为垃圾邮件中被正确识别的比例。F1值(F1Score):精确率与召回率的调和平均值。(1)贝叶斯定理(2)垃圾邮件分类原理垃圾邮件分类的基本原理3、分类器的选择和使用场景应用医疗领域:机器学习在医疗领域成效显著:深度学习助力疾病诊断,如哈佛AI模型CHIEF癌症诊断准确率达96%;机器学习加速药物研发,东阳光合作使筛选效率提20倍。农业领域:现代农业里,机器学习借数据驱动推动传统农业向智慧农业转型。其模型结合多类数据预测作物需求与风险,如四川云上平台实现精准灌溉施肥,提升资源利用率、减少污染。场景应用机器学习促农业发展,但成本待降。其发展如双刃剑,既赋动能,也带来数据安全等新挑战。2.2分
类
算
法
分类算法的定义分类算法的定义分类算法属监督学习,借标注数据建预测模型,以分类器映射类别,助从海量数据中提取信息以支持决策。算法原理优点缺点K-最近邻(KNN)基于距离度量,通过K个最近邻的多数投票决定分类简单直观无需训练模型计算开销大存储需求高决策树通过特征选择递归划分数据,生成树结构,最终剪枝优化可解释性强处理混合数据类型易过拟合对噪声敏感朴素贝叶斯基于贝叶斯定理,假设特征独立,计算后验概率分类小数据集高效多分类支持独立性假设不成立时性能下降支持向量机(SVM)寻找最优超平面分隔数据,核函数处理非线性问题小样本高维有效避免局部最优核函数选择敏感二分类扩展复杂逻辑回归使用Sigmoid函数将线性组合映射为概率,阈值划分类别计算速度快参数可解释仅限线性可分欠拟合风险随机森林集成多棵决策树,通过Bagging和随机特征选择,投票决定结果抗过拟合强适应复杂数据分布计算成本较高手写数字识别的基本原理KNN算法基于距离度量,选K个最近邻样本投票分类,简单直观,小数据集精度高,但K值选择对效果影响显著。KNN用于预测红色点的形状,通过统计附近样本的类别分布,确定红色点的分类结果。K值影响KNN分类结果,选择K值时应寻找一个适当的临界值,即在误差曲线中对应最小错误率的K值,这一临界值能够在精确度和泛化能力之间取得平衡。手写数字识别的基本原理KNN算法可高效实现手写数字识别。准备标注好类别的数字图片训练集,每张图片大小为28×28。数据预处理,将图片视为0和1组成的矩阵,把每行数字首尾相连成784维一维向量,再转置为784×1列向量。接着构建训练集矩阵S,将所有图片列向量依次存入,S大小为784×m。处理测试数据,将其转为784×1列向量。计算该测试样本与矩阵S中每列向量的欧氏距离,将距离存入1×m的距离数组。从数组中选K个最小距离,找到对应训练样本索引,统计类别数量,数量最多的类别为预测结果,平票时选总距离和最小的。分类算法的定义机器学习分类算法的应用场景客户细分:竞争激烈下客户细分很关键,传统方法有局限,机器学习为银行社保代发客户细分提供新思路,可提升客户粘性。文本情感分析:基于机器学习的产品评论情感分类系统,能对网上评论正负极性分类,助企业改进服务,也帮用户购物决策。场景应用2.2回
归
算
法
回归算法的概述回归算法的定义回归算法是监督学习算法,预测连续数值,与致力于分类的分类算法不同,常用于房价预测等实际问题。算法核心思想优点缺点线性回归最小二乘法拟合线性关系计算快,易解释对非线性/噪声敏感多项式回归添加高次项拟合非线性关系灵活性强易过拟合支持向量回归最大化边界带内的样本点抗异常值,核函数灵活计算慢,调参复杂决策树回归递归划分特征空间可解释性强
易过拟合随机森林回归多决策树投票平均抗过拟合,特征重要性评估计算资源高LASSOL1正则化驱动稀疏特征选择
自动特征筛选
忽略相关性特征岭回归L2正则化处理共线性稳定性高保留所有特征弹性网络L1+L2正则化平衡综合LASSO和岭回归优势双参数调优复杂RANSAC迭代抽样排除异常值异常值鲁棒性强计算效率低多元线性回归是借助多个自变量预测房价的统计方法。因自变量单位量级有别,影响回归系数,需标准化处理。其回归系数在训练中经最小二乘法估计得出。一般形式为:回归算法的概述多元线性回归模型实现房价预测通过不断更新β的值以最小化残差平方和,利用上式对k+1个系数求偏导数,并使导数为0,即可求得β的普通最小二乘估计量,从而训练出一个多元线性回归模型。场景应用金融领域中,机器学
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 2026年陕西青年职业学院高职单招笔试英语历年参考题库含答案解析
- 2026年阜新高等专科学校高职单招笔试职业技能测验历年参考题库含答案解析
- 光学普通磨工创新方法测试考核试卷含答案
- 肩关节松解术的护理
- 幼儿园夏季护理
- 慢性肺源性心脏病常见护理问题及护理措施
- 卫生部《传染病信息报告治理标准》规定,医院报告法定传染病时分类不包括
- 胃痛患者护理指导-标准模板
- 骨质疏松课件
- 高中生使用课件
- 危重病人的护理课程
- 2025年北京市检察机关聘用制司法辅助人员招聘笔试真题题库(附答案)
- 多拉菌素:从发酵到衍生物生物活性的全面探索
- 半导体fab安全培训课件
- 健康活动:吃早餐的重要性
- 职业卫生及个人防护用品知识培训
- 旅馆顾客财物管理制度
- 岗位证书补贴管理制度
- 顶管工作井专项施工方案
- 扣眼穿刺并发症及护理
- 【MOOC】C程序设计-西北工业大学 中国大学慕课MOOC答案
评论
0/150
提交评论