机器学习模型 核心知识点笔记（精简好记含选型对照表）

机器学习模型核心知识点笔记（精简好记，含选型对照表）一、核心定义通过算法从数据中自主学习规律、调整参数，实现预测、分类、聚类等任务的数学框架，核心是“数据驱动的自主优化”，是AI的核心载体。二、核心构成（3大要素）数据：训练/验证/测试集，分结构化（表格）、非结构化（图片/文本），质量决定模型上限。算法：学习规则（含损失函数、优化器），连接数据与预测结果，适配不同任务。参数：训练中自动更新（如权重）；超参数：训练前人工设定（如学习率、树深度）。三、核心分类（按学习方式）分类核心特点适配任务监督学习（最常用）训练数据有“输入+标签”（有指导）分类（离散标签）、回归（连续数值）无监督学习训练数据无标签（无指导）聚类（相似归为一类）、降维（简化数据）、异常检测强化学习通过“试错”与环境交互，靠奖励/惩罚优化策略决策、控制（机器人、自动驾驶、游戏AI）四、标准训练流程（5步）数据预处理：清洗（缺漏/异常值）→特征工程→划分训练/验证/测试集（最关键）。模型选型：根据任务（分类/回归）、数据类型选适配模型。模型训练：输入训练数据，迭代优化参数，用验证集调超参数。模型评估：用测试集检验，看评估指标（准确率/均方误差等），不达标则回溯优化。部署迭代：部署到场景，持续收集新数据，定期重训优化。五、高频模型核心要点（精简版）（一）监督学习线性回归：回归任务，拟合直线，简单高效，仅捕捉线性关系。逻辑回归：二分类任务，可解释性强，计算快，仅适线性可分数据。决策树：分类/回归均可，可解释性极强，易过拟合。随机森林：集成模型，抗过拟合，稳定性强，可解释性弱。神经网络：适配非结构化数据，精度高，需大量数据和算力，黑箱模型。（二）无监督学习K-Means：聚类任务，简单高效，需提前定K值，对异常值敏感。PCA：降维任务，保留核心特征，简化计算，会损失少量信息。六、高频模型选型对照表（快速匹配，直接套用）核心任务数据类型推荐模型选型关键备注回归（预测连续值）结构化数据（表格、数值）线性回归（简单场景）、随机森林（复杂场景）数据线性关系明显选线性回归，复杂数据选随机森林二分类（是/否、正常/异常）结构化数据逻辑回归（优先）、决策树需可解释性（如金融）选逻辑回归，简单决策选决策树多分类（猫/狗、多标签）结构化/非结构化数据随机森林（结构化）、神经网络（非结构化）图片、文本等非结构化数据必选神经网络聚类（用户分群、商品分类）结构化/非结构化数据K-Means（优先、高效）需提前确定聚类数量K，对异常值敏感需先处理数据降维（高维数据简化）高维结构化/非结构化数据PCA（优先）需保留核心信息，允许少量信息损失，适配后续模型训练异常检测（欺诈、故障）结构化数据孤立森林、K-Means（辅助）无需标签，适合大数据量快速检测非结构化数据（图片、文本）图片、语音、文本神经网络需大量数据和算力，精度高但可解释性弱七、关键避坑指南（必记）数据优先：数据质量决定模型上限，劣质数据再优算法也无用。规避过/欠拟合：过拟合（增数据、正则化）；欠拟合（增特征、提模型复杂度）。选型适配：不盲目追求复杂模型，优先简单