机器学习基础题库及答案

机器学习基础题库及答案一、单项选择题（共10题，每题1分，共10分）下列属于监督学习任务的是（）A.对客户进行分组B.预测商品销量C.识别异常交易D.压缩图片答案：B解析：监督学习的核心是使用带标注的训练数据学习输入到输出的映射关系，预测商品销量需基于历史销量标注数据建立回归模型，属于监督学习；A选项客户分组是无监督聚类任务，C选项识别异常交易是无监督或半监督异常检测任务，D选项图片压缩是无监督降维任务，均不符合。模型在训练集上表现优秀但测试集表现较差，说明模型存在（）A.欠拟合B.过拟合C.偏差过大D.方差过小答案：B解析：过拟合的本质是模型过度学习训练集的局部噪声与细节，未掌握数据的通用规律，导致泛化能力差，表现为训练集误差低、测试集误差高；欠拟合是模型对训练数据的规律学习不足，表现为训练集误差也高；偏差过大对应欠拟合，方差过小对应模型拟合能力不足，均不符合题意。下列属于分类算法的是（）A.线性回归B.K均值C.逻辑回归D.PCA答案：C解析：逻辑回归通过学习输入特征输出离散的类别标签（如“正/负”“是/否”），属于分类算法；A选项线性回归用于预测连续数值，属于回归算法；B选项K均值是无监督聚类算法，用于数据分组；D选项PCA是无监督降维算法，用于减少特征维度，均不符合。损失函数的核心作用是（）A.衡量模型预测值与真实值的差距B.优化模型参数C.划分训练测试数据集D.选择机器学习算法类型答案：A解析：损失函数通过计算模型预测结果与真实标签的误差，量化模型的预测偏差，是模型优化的核心依据；B选项优化模型参数是梯度下降等优化算法的作用；C选项划分数据集是数据预处理步骤；D选项选择算法是模型构建前的决策，均与损失函数核心作用无关。下列不属于无监督学习任务的是（）A.客户聚类分群B.高维数据降维C.图像分类D.交易异常检测答案：C解析：无监督学习仅使用无标签数据探索数据内在结构，图像分类需预先标注图像类别，属于监督分类任务；A选项聚类分群、B选项降维、D选项异常检测均无需人工标注标签，属于无监督学习任务。决策树划分节点的常用指标不包括（）A.信息增益B.基尼系数C.均方误差D.模型准确率答案：D解析：决策树通过计算节点划分后的“纯度”选择最优划分特征，常用指标包括分类任务的信息增益、基尼系数，回归任务的均方误差；模型准确率是分类模型的最终评估指标，并非节点划分的依据，不符合题意。K近邻（KNN）算法的核心思想是（）A.查找与新样本距离最近的K个样本，取多数类作为预测结果B.学习线性函数拟合输入输出的对应关系C.通过最小化损失函数迭代优化模型参数D.构建树结构逐步划分数据实现分类答案：A解析：KNN是“懒惰学习”算法，无显式训练过程，预测时通过计算新样本与所有训练样本的距离，选择最近的K个样本，以多数类作为新样本的预测类别；B选项是线性回归的核心；C选项是梯度下降优化的核心；D选项是决策树的构建逻辑，均不符合。混淆矩阵中“真正例（TP）”的含义是（）A.实际为正类，模型预测为正类的样本数量B.实际为负类，模型预测为负类的样本数量C.实际为正类，模型预测为负类的样本数量D.实际为负类，模型预测为正类的样本数量答案：A解析：混淆矩阵将分类结果分为四类：真正例（实际正、预测正）、真负例（实际负、预测负）、假负例（实际正、预测负）、假正例（实际负、预测正），真正例代表模型正确识别正类样本的数量，符合题意。处理类别不平衡数据（少数类样本占比极低）的有效方法是（）A.减少多数类样本数量B.增加少数类样本数量C.调整损失函数的类别权重D.以上都是答案：D解析：类别不平衡的解决方法包括欠采样（减少多数类样本）、过采样（增加少数类样本）、加权损失函数（提升少数类样本的损失权重），三种方法均可缓解不平衡带来的模型偏倚，因此全部正确。机器学习的核心本质是（）A.手动编写人工规则实现预测B.基于数据学习模式实现预测C.依赖人工存储数据完成计算D.单纯依靠代码实现模型构建答案：B解析：机器学习与传统人工智能的核心区别在于，其通过算法从数据中自动学习模式，而非手动编写规则；数据是机器学习的基础，代码和存储是实现手段，均非核心本质。二、多项选择题（共10题，每题2分，共20分）下列属于监督学习任务的有（）A.图像情感分类（积极/消极）B.房屋价格预测C.客户价值分群D.手写数字识别答案：ABD解析：监督学习需带标注数据，A选项图像有标注的情感标签、B选项房价有历史真实价格标签、D选项手写数字有标注的数字类别，均属于监督学习；C选项客户价值分群无预设标签，属于无监督聚类任务，不符合。缓解模型过拟合的常用方法包括（）A.扩充训练数据集的样本量B.对损失函数加入正则化项（L1/L2）C.简化模型的结构复杂度D.降低训练数据集的噪声干扰答案：ABCD解析：过拟合的核心是模型泛化能力不足，上述方法均可有效缓解：扩充数据增加模型对通用模式的学习、正则化限制参数大小防止过度拟合噪声、简化结构降低模型对局部细节的捕捉、过滤噪声减少训练数据的干扰，全部正确。评估二分类模型性能的常用指标有（）A.准确率B.精确率C.召回率D.均方误差答案：ABC解析：二分类模型的评估指标基于混淆矩阵，包括准确率（整体预测正确率）、精确率（预测正类中实际正类的比例）、召回率（实际正类中被预测为正类的比例）；均方误差是回归任务的常用指标，用于衡量连续值的预测误差，不符合分类任务。下列属于无监督聚类算法的有（）A.K均值算法B.DBSCAN算法C.层次聚类算法D.逻辑回归算法答案：ABC解析：聚类算法是无监督学习的核心，用于将相似样本分组，A、B、C均为常用聚类算法；D选项逻辑回归是监督分类算法，用于预测离散类别，不符合。机器学习模型的偏差（欠拟合）来源包括（）A.模型结构过于简单，无法捕捉数据的复杂规律B.训练数据量不足，无法覆盖数据的全部模式C.特征选择不当，遗漏了关键的预测特征D.模型参数过多，过度拟合训练集细节答案：ABC解析：偏差是模型对数据规律的学习不足，A选项模型太简单无法拟合复杂模式、B选项数据量不足导致学习不充分、C选项特征遗漏导致信息不足，均会导致偏差过大；D选项参数过多属于方差（过拟合）的来源，不符合。逻辑回归算法的特点包括（）A.适用于二分类任务B.输出的预测结果是概率值C.模型的可解释性较强D.适合处理非线性数据答案：ABC解析：逻辑回归是线性分类模型，A选项主要用于二分类任务（可通过扩展用于多分类）、B选项输出样本属于正类的概率、C选项可通过特征权重解释每个特征对预测结果的贡献；但逻辑回归基于线性假设，无法处理非线性数据，D选项错误。特征工程的核心步骤包括（）A.数据清洗（处理缺失值、异常值）B.特征选择（筛选有效预测特征）C.特征提取（生成新的复合特征）D.模型训练（优化模型参数）答案：ABC解析：特征工程是模型训练前的预处理环节，包括数据清洗、特征选择、特征提取、特征缩放等；D选项模型训练是特征工程后的环节，不属于特征工程步骤，不符合。半监督学习的特点包括（）A.仅有少量带标注的训练数据B.有大量未标注的训练数据C.结合监督学习与无监督学习的方法D.完全依赖未标注数据实现预测答案：ABC解析：半监督学习适用于标注数据少、未标注数据多的场景，A、B、C均为半监督学习的特点；但半监督学习并非完全依赖未标注数据，而是结合少量标注数据的指导，D选项错误。机器学习中常用的正则化技术包括（）A.L1正则化（Lasso）B.L2正则化（Ridge）C.Dropout（神经网络正则化）D.k折交叉验证答案：ABC解析：正则化用于限制模型复杂度、缓解过拟合，A选项L1正则化可实现特征选择、B选项L2正则化惩罚大参数、C选项Dropout通过随机丢弃神经元防止过拟合；D选项k折交叉验证是模型评估方法，不属于正则化技术，不符合。下列属于回归算法的有（）A.线性回归B.梯度提升回归树C.随机森林回归D.K近邻分类答案：ABC解析：回归算法用于预测连续数值，A、B、C均为常用回归算法；D选项K近邻分类是监督分类算法，用于预测离散类别，不符合。三、判断题（共10题，每题1分，共10分）所有机器学习模型都需要人工标注的标签数据进行训练。答案：错误解析：机器学习分为监督、无监督、半监督三类，无监督学习仅使用无标签数据即可完成训练（如聚类、降维），并非所有模型都需要标注数据。K近邻算法对训练数据中的异常值不敏感。答案：错误解析：K近邻的预测基于与训练样本的距离计算，异常值会显著改变样本间的距离分布，干扰邻居选择的准确性，因此对异常值非常敏感。深度决策树模型容易发生过拟合现象。答案：正确解析：决策树的深度越大，越能捕捉训练集的局部噪声和细节，当深度超过一定阈值后，模型的泛化能力会下降，出现过拟合。逻辑回归算法可以扩展用于多分类任务。答案：正确解析：通过“一对多”或“Softmax回归”的扩展方式，逻辑回归可以将二分类的能力延伸至多分类场景，实现多个类别的预测。过拟合模型的训练集误差通常大于测试集误差。答案：错误解析：过拟合的核心表现是训练集误差低（模型过度拟合训练数据），但测试集误差远高于训练集误差，因此训练集误差应小于测试集误差。均方误差是回归任务中常用的损失函数。答案：正确解析：回归任务预测连续数值，均方误差通过计算预测值与真实值的平方差的平均值，量化回归模型的预测偏差，是最常用的回归损失函数。聚类是监督学习的一种重要任务类型。答案：错误解析：聚类的目标是将相似样本分组，过程中不使用人工标注的标签数据，属于无监督学习任务，而非监督学习。特征缩放对K近邻算法的预测结果影响较大。答案：正确解析：K近邻通过距离计算判断样本的相似性，若特征尺度差异较大（如数值范围从1到1000的特征与0到1的特征），尺度大的特征会主导距离计算，导致预测偏差，因此需要进行特征缩放。正则化技术的核心目的是降低模型的方差，缓解过拟合。答案：正确解析：模型的方差对应对训练数据波动的敏感度，正则化通过惩罚模型参数的大小，降低模型对训练集噪声的依赖，从而减小方差，缓解过拟合。机器学习的模型部署是在模型训练完成后进行的业务落地环节。答案：正确解析：机器学习流程包括数据预处理、模型训练、模型评估、模型部署四个核心环节，模型部署是将训练好的模型集成到实际业务系统中，用于生成预测结果的环节。四、简答题（共5题，每题6分，共30分）简述监督学习与无监督学习的核心区别。答案：第一，训练数据的标签情况不同：监督学习的训练数据带有人工标注的明确输出标签，每个输入样本对应一个预定义的输出结果；无监督学习的训练数据无任何标注标签，仅包含输入特征。第二，学习目标不同：监督学习的核心是学习输入到输出的映射关系，用于实现分类或预测任务；无监督学习的核心是挖掘数据的内在结构、模式或分组，用于数据探索或特征提取。第三，应用场景不同：监督学习适用于有明确预测目标的场景（如销量预测、图像分类）；无监督学习适用于无明确目标但需要发现数据规律的场景（如客户分群、异常检测）。简述过拟合的定义及三种主要解决方法。答案：定义：过拟合是指机器学习模型在训练集上表现优秀，但在未参与训练的测试集（或新数据）上表现较差的现象，本质是模型过度学习了训练集的局部噪声、特殊细节，未掌握数据的通用规律，导致泛化能力不足。解决方法：第一，扩充训练数据集：增加更多覆盖不同场景的样本，让模型学习到更通用的数据模式，减少对训练集局部细节的依赖。第二，正则化技术：通过在损失函数中加入参数的惩罚项（如L1、L2正则化），限制模型参数的大小，降低模型的复杂度，缓解对训练噪声的拟合。第三，简化模型结构：选择更简单的模型架构（如减少决策树深度、减少神经网络层数），避免模型过于复杂而捕捉过多的训练集噪声。简述混淆矩阵在分类任务中的四个核心指标及含义。答案：混淆矩阵是分类任务中评估模型性能的核心工具，四个核心指标的含义：第一，真正例（TP）：实际为正类、模型预测为正类的样本数量，代表模型正确识别正类的能力。第二，真负例（TN）：实际为负类、模型预测为负类的样本数量，代表模型正确识别负类的能力。第三，假负例（FN）：实际为正类、模型预测为负类的样本数量，代表模型漏判了正类样本的数量。第四，假正例（FP）：实际为负类、模型预测为正类的样本数量，代表模型误判了负类样本的数量。简述特征工程在机器学习中的核心作用。答案：特征工程是机器学习流程的前置核心环节，核心作用包括：第一，提升模型性能：优质的特征能让模型更容易捕捉数据的核心规律，即使简单模型也能达到优秀的预测效果，劣质特征会导致复杂模型也无法达到预期精度。第二，降低模型复杂度：筛选和提取有效特征可以减少输入维度，简化模型结构，降低计算成本和过拟合风险。第三，增强模型可解释性：清晰、有业务意义的特征能帮助理解模型的预测逻辑，比如通过特征权重解释疾病诊断模型的判断依据。第四，适配模型要求：不同模型对特征的要求不同（如K近邻需特征缩放），特征工程可以让特征符合模型的输入规则，提升模型的训练效率。简述K近邻（KNN）算法的核心优点与缺点。答案：核心优点：第一，原理简单易懂，实现成本低，无需复杂的训练过程，属于“懒惰学习”算法，仅在预测阶段计算距离。第二，适用性广，既可以用于分类任务，也可以通过调整距离和投票规则用于回归任务。第三，对非线性数据的拟合能力较强，无需假设数据的分布形式，适合没有明确分布规律的数据集。核心缺点：第一，计算复杂度高，预测新样本时需要计算与所有训练样本的距离，当训练数据集较大时，预测速度会显著降低，高维数据下还会出现“维度灾难”问题。第二，对异常值和噪声敏感，异常样本会改变距离分布，干扰邻居选择的准确性，导致预测错误。第三，对特征尺度敏感，需预先进行特征缩放，否则尺度较大的特征会主导距离计算，影响预测结果的公平性。五、论述题（共3题，每题10分，共30分）结合电商销量预测场景，论述过拟合对模型的危害及主要解决策略。答案：过拟合的核心危害是模型泛化能力不足，无法适应实际业务中的真实数据，浪费开发资源。以某电商平台的商品销量预测为例：该平台为年度促销开发了一款基于促销历史数据的销量预测模型，在历史训练集（包含过往三年的促销日销量数据）上的预测准确率达到98%，但在当年的日常销售数据（无促销的普通日期）上的预测误差高达32%，无法用于业务的库存备货、人力调度等场景，最终导致促销后的商品积压、日常订单缺货的问题，造成了直接的经济损失，这就是过拟合带来的实际业务危害。针对该场景的过拟合问题，可采用以下解决策略：第一，扩充训练数据量：该平台可以将促销数据与日常销售数据按合理比例混合，加入更多不同季节、不同品类的日常销售样本，让模型学习到日常销量的通用规律，而非仅学习促销日的峰值波动，扩充后模型的日常数据预测误差可降至12%左右。第二，应用正则化技术：在使用的随机森林模型中，设置树的最大深度限制（如10层），避免模型过度细分训练集的噪声分支；同时加入L2正则化惩罚项，限制模型参数的权重，降低模型对局部细节的依赖，调整后模型在测试集上的泛化误差可进一步降至8%。第三，简化模型结构：原模型采用了12层的深度神经网络，可替换为更简单的梯度提升树模型，减少模型的复杂度，避免模型捕捉到过多训练集的特殊噪声，简化后模型的训练速度提升了50%，且泛化能力未出现下降。第四，采用交叉验证评估：使用五折交叉验证替代传统的随机划分训练测试集，每次将数据分为五份轮流训练和测试，确保模型在不同数据子集上的泛化能力，该平台通过交叉验证发现原模型在所有子集上的测试误差均较高，确认存在严重过拟合，从而及时调整模型，避免了直接部署的风险。综上，过拟合是机器学习模型落地的核心障碍，需结合业务场景的特点，通过扩充数据、正则化、简化模型等方法提升泛化能力，才能让模型真正服务于实际业务。结合医疗疾病诊断场景，论述机器学习模型选择的核心依据及常用选择方法。答案：机器学习模型的选择并非越复杂越好，需结合场景需求、数据特性等核心依据综合判断，以某医院的糖尿病诊断场景为例：该场景的核心需求是模型需具备可解释性（医生需理解模型的诊断依据，避免“黑箱”模型带来的误诊风险），同时诊断准确率需达到90%以上，训练数据为10万份带标注的患者体检数据（包括血糖、血压、体重等15项特征）。模型选择的核心依据包括：第一，任务类型与需求：该场景是二分类诊断任务，要求可解释性，因此需优先选择可解释性强的模型，而非高精度但不可解释的深度学习模型（如卷积神经网络）。第二，模型可解释性：医疗场景的诊断结果需向医生和患者解释，逻辑回归模型可通过特征权重（如血糖指标的权重最高）清晰解释诊断依据，符合场景需求；而深度学习模型的内部逻辑无法被解释，不符合医疗监管的要求。第三，数据量与分布：该场景的训练数据量较大，特征分布复杂，逻辑回归等简单线性模型可能无法捕捉数据的非线性规律，而随机森林模型既能保持较好的可解释性（可查看特征重要性），又能处理非线性数据，符合需求。常用的模型选择方法包括：第一，基准模型对比：先建立简单的基准模型（如逻辑回归），在测试集上的准确率为82%，再尝试更复杂的模型（如随机森林），其准确率提升至91%，且仍具备可解释性（特征重要性清晰），因此选择随机森林模型作为最终方案。第二，交叉验证评估：使用五折交叉验证对比逻辑回归和随机森林的平均准确率，逻辑回归的平均准确率为81.5%，随机森林为90.8%，再次验证随机森林的性能更优，且交叉验证可以避免单一测试集划分的偶然误差。第三，业务需求匹配评估：医疗场景要求模型可解释，随机森林可输出每个特征的重要性（如血糖、糖化血红蛋白是核心诊断特征），医生可以理解模型的判断依据，符合医疗场景的需求；而深度学习模型的准确率虽可达95%以上，但无法解释，不符合监管要求和临床使用习惯。综上，模型选择需紧扣场景的核心需求，通过科学的对比和评估方法，选择最适合业务的模型，而非追求最复杂的算法，才能实现机器学习的实际应用价值。结合快递包裹送达时间预测场景，论述特征工程的核心作用及具体实施步骤。答案：特征工程是提升模型性能的关键环节，直接决定了机器学习模型在实际业务中的落地效果，以某快递企业的包裹送达时间预测场景为例：该企业最初直接使用原始特征（包裹重量、体积、发货地、收货地）训练线性回归模型，预测误差高达15%，无法满足