2026年机器学习概论期末试题(含答案)

2026年机器学习概论期末试题(含答案)一、单项选择题（每题2分，共20分）1.在监督学习中，若模型在训练集上误差很小，但在测试集上误差很大，通常说明模型出现了什么问题？A.欠拟合B.过拟合C.数据泄露D.梯度消失答案B解析训练误差小、测试误差大是过拟合的典型表现，说明模型过度拟合了训练数据中的噪声或细节，泛化能力差。2.下列哪种方法常用于处理分类任务中的类别不平衡问题？A.增加隐藏层数量B.对少数类样本进行过采样C.减小学习率D.使用线性核函数答案B3.支持向量机中的软间隔引入松弛变量ξiA.允许少量样本被错分或落在间隔内部B.提高模型复杂度C.消除所有噪声影响D.加快训练速度答案A4.决策树ID3算法在选择划分属性时使用的指标是？A.信息增益B.信息增益率C.基尼指数D.均方误差答案A5.梯度下降算法中，学习率η设置过大时容易导致？A.收敛速度变慢B.损失函数震荡或不收敛C.陷入局部最优D.模型欠拟合答案B6.在K均值聚类中，选择合适K值的常用方法是？A.交叉验证B.肘部法则C.网格搜索D.正则化答案B7.下列算法中属于生成式模型的是？A.逻辑回归B.支持向量机C.朴素贝叶斯D.决策树答案C8.主成分分析（PCA）的主要目标是？A.寻找使数据投影后方差最大的方向B.最大化分类准确率C.增加特征维度D.最小化类内距离答案A9.关于L1正则化，下列说法正确的是？A.它倾向于产生稀疏解B.它等价于L2正则化C.它只适用于线性回归D.它增加模型容量答案A10.在神经网络中，ReLU激活函数的主要优点是？A.缓解梯度消失问题B.输出范围有界C.容易产生梯度爆炸D.处处可导答案A二、填空题（每空1分，共20分）1.机器学习的三大类任务通常包括监督学习、无监督学习和____；按照训练数据是否含有标签，半监督学习介于监督学习与无监督学习之间，它使用少量____和大量无标签数据进行训练。答案(1)强化学习(2)有标签数据（标注数据）2.在回归任务中，最常用的损失函数是____；在二分类任务中，常用____作为损失函数。答案(1)均方误差（MSE）(2)交叉熵损失（对数损失）3.模型在训练集上的误差称为____误差，在测试集上的误差称为____误差。答案(1)训练误差（经验误差）(2)泛化误差（测试误差）4.支持向量机中，硬间隔最大化等价于最小化12∥w∥2答案(1)权重向量（法向量）(2)松弛变量5.决策树学习的关键是选择最优划分属性，ID3使用____，C4.5使用____，CART分类树使用基尼指数。答案(1)信息增益(2)信息增益率6.在朴素贝叶斯分类中，“朴素”是指假设各特征在给定类别下相互____；对于连续特征，通常假设其服从____分布。答案(1)条件独立(2)高斯（正态）7.K近邻算法中，当K值增大时，模型偏差会____，方差会____。答案(1)增大(2)减小8.卷积神经网络中，卷积层通过____提取局部特征，池化层通过____进行特征降维和增加平移不变性。答案(1)卷积核（滤波器）(2)下采样（池化操作）9.集成学习中，Bagging通过____方法生成多个训练子集，其代表算法是____；Boosting的代表算法有AdaBoost、GBDT等。答案(1)自助采样（Bootstrap）(2)随机森林10.为防止过拟合，常用的正则化方法包括L1正则化和L2正则化，其中____更容易产生稀疏解，____等价于权重衰减。答案(1)L1正则化(2)L2正则化三、判断题（每题1分，共10分）1.线性回归中，最小二乘法的解析解总是存在且唯一。答案错误解析当特征矩阵XT2.在二分类问题中，AUC值越大表示分类器整体性能越好。答案正确3.决策树中，信息增益越大，说明使用该特征划分后数据纯度提升越大。答案正确4.支持向量机只能用于二分类问题，不能扩展到多分类任务。答案错误解析SVM可以通过一对一、一对多等策略扩展到多分类问题。5.神经网络的层数越多，模型一定能获得更好的泛化性能。答案错误解析网络过深可能导致过拟合或梯度消失/爆炸，泛化性能不一定提升。6.K均值聚类对初始聚类中心的选择不敏感。答案错误解析K均值对初始中心敏感，不同初始化可能收敛到不同的局部最优解。7.交叉验证可以用来评估模型泛化性能并辅助选择超参数。答案正确8.梯度下降算法每次迭代都使用全部训练样本计算梯度，称为随机梯度下降。答案错误解析使用全部训练样本的是批量梯度下降；随机梯度下降每次只使用一个样本。9.标准逻辑回归的决策边界一定是线性的。答案正确解析标准逻辑回归是线性分类器，其决策边界为线性方程wT10.L2正则化通过惩罚权重平方和，可以降低模型复杂度。答案正确四、简答题（每题5分，共20分）1.简述过拟合产生的主要原因及常用解决方法。答案主要原因包括：模型复杂度过高、训练数据量不足、训练数据中存在噪声或异常值，导致模型过度拟合训练样本的细节，泛化能力下降。常用解决方法：增加训练数据、降低模型复杂度、使用正则化（L1/L2）、交叉验证、早停、Dropout、数据增强、集成学习等。2.简述梯度下降算法的基本思想，并写出参数更新公式。答案基本思想：沿损失函数的负梯度方向迭代更新参数，使损失函数逐步减小。参数更新公式为：w其中w为模型参数，η为学习率，J(3.比较监督学习与无监督学习的主要区别，并各举一个典型算法。答案监督学习使用带标签的训练数据，目标是学习输入到输出的映射关系，典型算法如线性回归、逻辑回归、支持向量机、决策树等。无监督学习使用无标签数据，目标是发现数据的内在结构或分布规律，典型算法如K均值聚类、主成分分析（PCA）、DBSCAN等。4.简述主成分分析（PCA）的基本步骤。答案基本步骤为：(1)对原始数据进行标准化处理，使每个特征均值为0、方差为1；(2)计算标准化后数据的协方差矩阵；(3)求解协方差矩阵的特征值和对应的特征向量；(4)选择前k个最大特征值对应的特征向量构成投影矩阵；(5)将原数据投影到所选特征向量张成的低维空间，得到降维后的数据。五、计算与综合题（每题10分，共30分）1.给定二分类训练样本：正例(1,1)、(1,2)，负例答案测试点(2•到正例(1,•到正例(1,•到负例(0,•到负例(0,最小距离为2，对应样本为正例(1,12.已知