2025年人工智能工程师《机器学习》阶段测试题

2025年人工智能工程师《机器学习》阶段测试题考试时间：______分钟总分：______分姓名：______一、选择题（每题2分，共20分）1.下列哪一项不属于机器学习的常见学习范式？A.监督学习B.无监督学习C.半监督学习D.概率学习2.在处理表格数据时，对于类别型特征，常用的数值化方法不包括？A.独热编码（One-HotEncoding）B.标签编码（LabelEncoding）C.标准化（Standardization）D.二进制编码（BinaryEncoding）3.线性回归模型主要目标是找到一条直线（或超平面），使得模型预测值与实际值之间的什么最小？A.绝对差值B.平方差C.立方差D.平均差值4.逻辑回归模型输出的是什么？A.连续值B.离散类别标签C.概率值D.聚类中心5.决策树算法在构建过程中，常用的选择分裂属性的标准是？A.信息增益（InformationGain）B.熵（Entropy）C.方差分析（ANOVA）D.相关系数6.支持向量机（SVM）通过寻找一个超平面，使得该超平面到最近的样本点的距离最大化，这个距离被称为？A.间隔（Margin）B.容错带C.支持向量D.损失函数7.K近邻（KNN）算法属于哪一类机器学习方法？A.惰性学习（LazyLearning）B.悄性学习（EagerLearning）C.监督学习D.无监督学习8.下列哪个指标更适用于评估类别不平衡数据集上的分类模型性能？A.准确率（Accuracy）B.精确率（Precision）C.召回率（Recall）D.F1分数9.在数据降维技术中，主成分分析（PCA）主要解决的问题是？A.聚类分析B.寻找数据中的主要变异方向C.分类预测D.回归分析10.交叉验证（Cross-Validation）的主要目的是什么？A.提高模型的训练速度B.减少模型训练所需的样本量C.评估模型的泛化能力D.选择模型超参数二、填空题（每空2分，共20分）1.机器学习的核心目标是让模型从______中学习规律，并应用于______。2.处理缺失值常用的方法包括删除、填充（如均值、中位数、众数填充）以及______。3.逻辑回归模型中，sigmoid函数的作用是将任意值映射到______区间。4.决策树容易产生______问题，导致模型对训练数据过拟合。5.SVM可以通过引入______项，使其能够处理线性不可分的数据。6.在KNN算法中，选择K值的大小对模型性能有重要影响，较小的K值可能导致模型______，较大的K值可能导致模型______。7.评估分类模型性能时，混淆矩阵（ConfusionMatrix）是一个重要的工具，它可以帮助计算准确率、精确率、召回率等指标。8.特征工程是机器学习流程中至关重要的一环，它旨在通过______、______等方式，构造出更能有效反映数据内在规律的输入特征。9.降维技术不仅可以减少数据的维度，降低计算复杂度，还可以______模型对噪声的敏感性。10.网格搜索（GridSearch）是一种常用的模型超参数调优方法，它通过遍历预设的参数______，寻找最优的参数组合。三、简答题（每题5分，共15分）1.简述过拟合（Overfitting）现象及其产生的原因。2.简要说明交叉验证（K-FoldCross-Validation）的基本步骤。3.解释什么是特征工程，并列举至少三种常见的特征工程方法。四、计算题（每题10分，共20分）1.假设有一个简单的线性回归问题，使用最小二乘法得到的线性模型为y=2+0.5x。现有一组数据点(1,2)和(3,3)。请计算该模型在点(1,2)和点(3,3)处的预测值，并分别计算其实际值与预测值之间的平方误差。2.假设对一个二分类问题，使用逻辑回归模型预测得到后，模型输出的得分（未经sigmoid函数处理）对于样本A为2.5，对于样本B为-1.5。请根据sigmoid函数S(z)=1/(1+exp(-z))，分别计算样本A属于正类（标签为1）的概率和样本B属于负类（标签为0）的概率。五、论述题（10分）试述特征工程在机器学习项目中的重要性，并举例说明如何通过特征工程改进模型效果。试卷答案一、选择题1.D解析：机器学习的主要范式包括监督学习、无监督学习、半监督学习和强化学习。概率学习通常被视为一种机器学习的形式或与机器学习紧密相关，但在此列出的主要范式中通常不单独列出。2.C解析：独热编码、标签编码和二进制编码都是将类别型特征转换为数值型特征的方法。标准化是针对数值型特征的缩放方法，用于消除不同特征尺度的影响。3.B解析：线性回归使用最小二乘法，目标是最小化模型预测值与实际值之间的平方和，即最小化预测值与实际值差的平方。4.C解析：逻辑回归输出的是样本属于某个类别的概率，这个概率值介于0和1之间。5.A解析：信息增益是决策树算法中常用的属性选择度量，它表示在知道属性信息后，数据不确定性减少的程度。6.A解析：支持向量机寻找的最小超平面需要距离其最近的支持向量（样本点）尽可能远，这个距离被称为间隔。7.A解析：K近邻算法在预测时需要计算所有训练样本与当前待预测样本的距离，并选择最近的K个样本进行投票，因此属于惰性学习。8.C解析：在类别不平衡的数据集中，准确率可能被误导。召回率关注的是模型correctlyidentifiedoutofallactualpositives的比例，更能反映模型对少数类样本的识别能力。9.B解析：PCA的核心思想是找到数据主成分，即数据变异最大的方向，通过投影到这些主成分上实现降维。10.C解析：交叉验证通过将数据集分成多个子集，轮流使用一部分作为验证集，其余作为训练集，来评估模型的平均性能，从而获得对模型泛化能力的无偏估计。二、填空题1.经验数据；未知数据解析：机器学习的目的是从包含潜在规律的训练数据（经验数据）中学习，并将学到的知识应用于新的、未见过的数据（未知数据）。2.插值解析：除了删除和填充（均值、中位数、众数等），插值（如KNN插值、回归插值）也是处理缺失值的一种方法。3.(0,1)解析：Sigmoid函数f(x)=1/(1+exp(-x))的输出值始终在0和1之间。4.过拟合解析：决策树容易生长得非常深，以至于能够完美拟合训练数据中的所有噪声和细节，导致在新数据上表现不佳。5.核（Kernel）解析：核技巧通过核函数将原始特征空间映射到高维特征空间，使得在高维空间中数据可能线性可分，从而可以找到一个线性分类器。6.过拟合；欠拟合解析：小的K值使得模型对训练数据细节过于敏感，容易学习到噪声，导致过拟合。大的K值使得模型过于平滑，无法捕捉数据中的基本模式，导致欠拟合。7.(TruePositives+TrueNegatives)/(TotalSamples)解析：这里填入的是准确率（Accuracy）的计算公式，混淆矩阵是计算准确率、精确率、召回率等指标的基础。8.特征构造；特征选择解析：特征工程主要包括两个部分：一是根据领域知识或数据特性构造新的、更有信息的特征；二是从现有特征中筛选出最有用的特征子集。9.降低解析：降维可以减少特征维度，去除冗余信息和噪声，从而降低模型对噪声的敏感度。10.空间（或集合）解析：网格搜索通过定义一个参数空间（或集合），系统地遍历所有可能的参数组合，评估每个组合的性能。三、简答题1.过拟合（Overfitting）是指机器学习模型在训练数据上表现非常好，但在未见过的新数据上表现很差的现象。产生过拟合的主要原因是模型过于复杂，学习能力太强，不仅学习了数据中的潜在规律，还学习到了数据中的噪声和随机波动。这通常导致模型对训练数据的细节和噪声过度敏感，缺乏泛化能力。避免过拟合的方法包括增加训练数据量、使用正则化技术（如L1、L2正则化）、降低模型复杂度（如简化模型结构、减少特征数量）、使用交叉验证评估模型性能等。2.K折交叉验证（K-FoldCross-Validation）的基本步骤如下：1.将原始数据集随机划分为K个大小相等（或近似相等）的子集，称为“折”（Fold）。2.进行K次训练和验证。对于第i次（i=1,2,...,K）：a.选择第i个折作为验证集（ValidationSet）。b.将剩余的K-1个折合并起来作为训练集（TrainingSet）。c.使用训练集训练模型。d.使用训练好的模型在验证集上评估性能，得到一次评估结果。3.对K次评估结果（如每次的准确率、误差等）进行汇总，计算其平均值或中位数，得到模型的最终交叉验证性能估计。3.特征工程是指通过领域知识、统计分析、数据变换等方法，对原始数据进行处理和转换，构造出新的、更能有效反映数据内在规律和目标变量关系的输入特征的过程。其目的是提高模型的学习能力和预测性能。常见的特征工程方法包括：*特征构造（FeatureConstruction）：根据现有特征通过数学运算（如加减乘除、指数对数）或组合（如创建交互特征、多项式特征）生成新的特征。*特征选择（FeatureSelection）：从原始特征集中选择一个子集用于模型训练，常用的方法有过滤法（基于统计量）、包裹法（结合模型评估）、嵌入法（如Lasso正则化）。*特征转换/缩放（FeatureTransformation/Scaling）：对特征进行非线性变换（如对数变换、平方根变换）或线性缩放（如标准化Z-score、归一化Min-Max），以改善数据分布、消除量纲影响或满足模型输入要求（如某些算法对特征尺度敏感）。四、计算题1.模型为y=2+0.5x。*对于点(1,2)：预测值y_pred=2+0.5*1=2.5。实际值y_true=2。平方误差=(y_true-y_pred)^2=(2-2.5)^2=(-0.5)^2=0.25。*对于点(3,3)：预测值y_pred=2+0.5*3=3.5。实际值y_true=3。平方误差=(y_true-y_pred)^2=(3-3.5)^2=(-0.5)^2=0.25。*计算结果：点(1,2)的预测值为2.5，平方误差为0.25；点(3,3)的预测值为3.5，平方误差为0.25。2.根据sigmoid函数S(z)=1/(1+exp(-z))：*样本A属于正类（标签为1）的概率P(A=1)=S(2.5)=1/(1+exp(-2.5))。计算得P(A=1)≈0.9187。*样本B属于负类（标签为0）的概率P(B=0)=S(-1.5)=1/(1+exp(1.5))。计算得P(B=0)≈0.1824。*或者，样本B属于正类（标签为1）的概率P(B=1)=S(-1.5)≈0.1824。因此，样本B属于负类（标签为0）的概率为1-P(B=1)=1-0.1824=0.8176。注意题目要求计算属于负类的概率，故使用P(B=0)的计算结果。五、论述题特征工程在机器学习项目中至关重要，它直接影响模型的性能和最终的成功与否。高质量的特征能够显著提升模型的预测准确性、泛化能力和鲁棒性。通过特征工程，可以将原始数据转化为更符合模型学习需求的表示形式，从而让模型更