2026年大学人工智能(机器学习算法)试题及答案

2026年大学人工智能(机器学习算法)试题及答案适用专业：人工智能、计算机科学与技术、数据科学与大数据技术考试时长：120分钟满分：100分一、单项选择题（共10小题，每小题2分，总计20分。每小题只有一个正确答案）关于机器学习中的经验风险与结构风险，下列表述正确的是（）A.经验风险是模型在测试集上的误差，反映模型的泛化能力B.结构风险仅由正则化项构成，用于约束模型的复杂度C.经验风险最小化容易导致过拟合，结构风险最小化可平衡拟合能力与泛化能力D.当训练样本量趋近于无穷大时，经验风险最小化与结构风险最小化的结果完全无关下列关于决策树剪枝的说法，错误的是（）A.预剪枝是在决策树生成过程中，对每个节点划分前先评估划分是否能提升泛化性能B.后剪枝是在生成完整决策树后，自底向上对非叶节点进行评估，若替换为叶节点能提升泛化性能则剪枝C.预剪枝的训练开销更小，但存在欠拟合的风险D.后剪枝的泛化性能通常弱于预剪枝，因为其剪枝过程过于保守支持向量机的核函数可以将输入空间的非线性问题映射到高维特征空间的线性问题，下列核函数中对应无限维特征空间的是（）A.线性核B.多项式核C.高斯核（RBF核）D.sigmoid核从偏差-方差分解的角度分析集成学习的两类核心范式，下列说法正确的是（）A.Bagging主要降低模型的偏差，Boosting主要降低模型的方差B.Bagging主要降低模型的方差，Boosting主要降低模型的偏差C.Bagging和Boosting均主要降低模型的偏差D.Bagging和Boosting均主要降低模型的方差下列聚类算法中，不需要预先指定聚类簇数的是（）A.K-Means聚类B.高斯混合模型（GMM）聚类C.DBSCAN密度聚类D.凝聚层次聚类（需指定簇数终止条件的版本）在大语言模型的参数效率微调方法中，LoRA（低秩适配）的核心思想是（）A.冻结预训练模型全部参数，仅微调输入嵌入层与输出头层的参数B.冻结预训练模型全部参数，在注意力层的权重矩阵旁新增低秩分解矩阵进行训练C.仅微调预训练模型中所有层的偏置项，其余参数全部冻结D.对预训练模型权重进行4-bit量化后，微调全部量化后的参数对比学习是自监督学习的核心范式之一，其常用损失函数InfoNCE的核心优化目标是（）A.最小化正样本对的特征相似度，最大化负样本对的特征相似度B.最大化正样本对的特征相似度，最小化所有负样本对的特征相似度C.最大化正样本对的互信息下界，同时降低正样本与负样本的互信息D.最小化正样本对的互信息，同时提升正样本与负样本的互信息朴素贝叶斯分类器的“朴素”假设是指（）A.所有特征的取值服从正态分布B.所有特征的权重相等C.特征之间在类别已知的条件下相互独立D.所有样本均独立同分布扩散模型是当前生成式AI的核心算法之一，其前向过程的核心操作是（）A.基于马尔可夫链逐步向数据中加入高斯噪声B.基于马尔可夫链逐步从噪声中恢复出干净数据C.通过分数匹配估计数据分布的梯度D.通过郎之万动力学生成样本关于模型评估中的ROC曲线与AUC指标，下列表述正确的是（）A.ROC曲线的横轴为真正例率（TPR），纵轴为假正例率（FPR）B.AUC的取值范围为[-1,1]，值越大模型性能越好C.当测试集中正负样本比例严重失衡时，PR曲线比ROC曲线更能反映模型的真实性能D.ROC曲线越靠近左上角，模型的泛化性能越差二、填空题（共5小题，每空2分，总计20分）线性回归的L1正则化又称为__________，其核心特性是__________，因此常被用于特征选择。K-Means聚类算法的优化目标是最小化__________，其迭代过程的两个核心步骤是__________与簇中心更新。Transformer架构中，缩放点积注意力（ScaledDot-ProductAttention）的计算公式为Attention(Q,K,V)=__________，其中缩放因子√d_k的核心作用是__________。机器学习模型的泛化误差可通过偏差-方差分解为三部分，分别是__________、方差与__________（不可约误差）。对比学习的正样本构造通常基于“同一样本的不同视角”的思路，常见的构造方法包括__________、__________（请列出两种典型方法）。三、简答题（共4小题，每小题5分，总计20分）请简述决策树算法中ID3、C4.5与CART的核心差异。请从偏差-方差分解的角度，解释Bagging算法能够提升模型泛化性能的原理。请简述LoRA（低秩适配）作为大模型参数效率微调方法的核心原理与技术优势。请简述DBSCAN密度聚类算法的核心概念与基本流程。四、算法推导题（共1小题，总计15分）请从最大似然估计（MLE）的角度推导二分类逻辑回归的交叉熵损失函数，并解释逻辑回归采用交叉熵损失而非均方误差损失的核心原因。五、综合应用题（共1小题，总计25分）某高校人工智能实验室计划基于开源7B参数的预训练大语言模型构建面向计算机专业核心课程的智能答疑系统，已标注训练数据为10万条课程相关的问答对，实验室可用计算资源为单卡40GB显存的GPU。请结合机器学习算法的相关知识回答下列问题：若采用全量微调的方式训练该模型，结合场景资源约束，存在哪些核心问题？请至少列出3点。（6分）请为该实验室设计一种适配场景的参数效率微调方案，说明其核心实现思路与适配该场景的技术优势。（10分）模型训练完成后，需要对答疑系统的实际性能进行全面评估，请设计一套完整的评估指标体系，分别涵盖生成质量、领域适配性、安全性三个维度。（9分）参考答案一、单项选择题（每小题2分，共20分）C解析：经验风险是模型在训练集上的误差，A错误；结构风险由经验风险与正则化项共同构成，B错误；经验风险最小化完全拟合训练数据，容易过拟合，结构风险加入正则项约束模型复杂度，可平衡拟合能力与泛化能力，C正确；当训练样本量趋近于无穷大时，经验风险趋近于泛化风险，二者结果趋于一致，D错误。D解析：后剪枝在完整决策树基础上自底向上剪枝，保留了更多有用的分支，泛化性能通常优于预剪枝，D选项表述错误。C解析：高斯核的泰勒展开式包含无限多项，对应无限维的特征空间，线性核对应原始维度特征空间，多项式核对应有限维高维特征空间，sigmoid核对应特定的非线性映射。B解析：Bagging通过自助采样训练多个独立的基学习器，通过平均或投票降低模型的方差；Boosting通过串行迭代训练，逐步拟合前序学习器的残差，主要降低模型的偏差。C解析：DBSCAN基于密度的连通性自动发现聚类簇的数量，不需要预先指定簇数；K-Means、GMM均需预先指定簇数，凝聚层次聚类若以指定簇数为终止条件也需预先设定。B解析：LoRA的核心是冻结预训练模型全量参数，在注意力层的线性变换权重矩阵旁新增两个低秩分解矩阵（A∈R^{d×r},B∈R^{r×d}，r远小于d），训练时仅更新低秩矩阵的参数，推理时将低秩矩阵乘积合并到原权重中，无额外延迟。C解析：InfoNCE损失的本质是互信息的变分下界，优化目标是最大化正样本对的互信息下界，同时降低正样本与负样本的互信息；B选项表述不准确，其并非要求最小化所有负样本对的相似度，而是通过对比让正样本相似度远高于负样本的平均相似度，C选项表述更严谨。C解析：朴素贝叶斯的“朴素”假设是条件独立性假设，即给定类别标签的情况下，所有特征之间相互独立，以此简化联合概率的计算。A解析：扩散模型的前向过程是逐步向干净数据中加入高斯噪声的马尔可夫过程，逆向过程是逐步去噪恢复数据的过程，B、C、D均为逆向过程或训练相关的内容。C解析：ROC曲线横轴为假正例率（FPR），纵轴为真正例率（TPR），A错误；AUC取值范围为[0,1]，B错误；当正负样本比例失衡时，ROC曲线会过于乐观地估计模型性能，PR曲线对样本比例变化更敏感，更能反映真实性能，C正确；ROC曲线越靠近左上角，模型的真正例率越高、假正例率越低，泛化性能越好，D错误。二、填空题（每空2分，共20分）Lasso回归；能够产生稀疏参数解（或使部分不重要特征的权重变为0）所有样本到其所属簇中心的平方误差和（或SSE、簇内平方和）；样本簇分配（或样本分配、将每个样本分配到距离最近的簇中心）softmax(QK^T/√d_k)·V；避免点积结果过大导致softmax函数进入梯度饱和区（或稳定softmax的输出分布、缓解梯度消失）偏差；噪声数据增强（如图像裁剪/翻转、文本回译/同义词替换、音频加噪等）；同一实体的不同模态数据（或同一段文本的不同表述、同一语义的不同句式，答案合理即可得分）三、简答题（每小题5分，共20分）参考答案：三者的核心差异主要体现在划分准则、树结构、适用场景三个方面：（1）划分准则不同：ID3采用信息增益作为特征选择准则，倾向于选择取值较多的特征；C4.5采用信息增益比作为划分准则，修正了ID3对多取值特征的偏好；CART分类树采用基尼指数、回归树采用平方误差作为划分准则。（2分）（2）树结构不同：ID3与C4.5生成多叉树，每个特征可对应多个分支；CART生成二叉树，每个特征划分仅产生两个子节点。（1分）（3）适用场景不同：ID3仅能处理离散特征的分类问题；C4.5可处理连续特征与缺失值，适用于分类问题；CART可同时支持分类与回归任务。（1分）此外，CART可通过剪枝进一步提升泛化性能，ID3无内置剪枝机制。（1分）参考答案：（1）偏差-方差分解的核心结论是：泛化误差=偏差²+方差+噪声，其中偏差反映模型对训练数据的拟合能力，方差反映模型对数据扰动的敏感性。（1分）（2）Bagging算法基于自助采样法生成多个有差异的训练子集，并行训练多个同类型的基学习器，最终通过平均（回归任务）或投票（分类任务）得到集成输出。（2分）（3）从偏差-方差角度，Bagging的基学习器通常为低偏差、高方差的模型（如未剪枝的决策树），基学习器的偏差相近，集成后偏差基本不变；但多个独立基学习器的输出平均后，能够显著降低模型的方差（方差降低的幅度与基学习器的多样性正相关），因此整体泛化误差降低，泛化性能提升。（2分）参考答案：（1）核心原理：LoRA基于“大模型微调时权重的变化量具有低秩特性”的假设，冻结预训练大模型的全部权重参数，在Transformer架构的注意力层线性变换权重（通常为Q、K、V、输出投影矩阵）旁新增两个低秩分解矩阵A和B，其中A的维度为d×r、B的维度为r×d，秩r远小于原权重的维度d。训练时仅更新这两个低秩矩阵的参数，训练完成后将低秩矩阵的乘积BA合并到原权重矩阵中，推理阶段无额外计算开销。（3分）（2）技术优势：①参数量极低：仅需训练原模型0.1%-1%的参数，大幅降低训练显存需求与计算开销，适配单卡GPU的资源约束；②训练效率高：仅更新低秩矩阵，训练速度远快于全量微调；③无推理开销：推理时将低秩权重合并到原模型，无需额外计算，推理速度与原模型一致；④任务适配灵活：可针对不同课程任务训练不同的低秩权重，快速切换下游任务，无需存储多个全量模型。（2分，答出2点及以上即可得满分）

4.参考答案：（1）核心概念：DBSCAN的核心是基于密度定义簇，关键概念包括：①ε邻域：给定样本点半径为ε的范围内的所有样本集合；②核心对象：若一个样本的ε邻域内包含的样本数≥MinPts（最小样本数），则该样本为核心对象；③密度直达：若样本j在样本i的ε邻域内，且i是核心对象，则称j由i密度直达；④密度可达：若存在样本序列使得相邻样本密度直达，则称两端样本密度可达；⑤密度相连：若存在核心对象使得两个样本均由其密度可达，则称两个样本密度相连，所有密度相连的样本构成一个簇。（2分，答出核心对象、ε邻域、密度相连三个核心概念即可得分）（2）基本流程：①初始化所有样本为未访问状态，随机选择一个未访问的样本点，判断其是否为核心对象；②若为核心对象，则找出所有由该核心对象密度可达的样本，构成一个聚类簇，标记这些样本为已访问；③若不是核心对象，则暂时标记为噪声点，继续遍历下一个未访问样本；④重复上述过程，直到所有样本均被访问；⑤最终未被分配到任何簇的样本为噪声点。（3分，步骤清晰逻辑正确即可得分）四、算法推导题（共15分）参考答案：（1）二分类逻辑回归交叉熵损失函数推导过程：①逻辑回归的假设函数为sigmoid函数，用于估计样本属于正类的后验概率：hθ(x)=P(y=1|x;θ)P(y|x;θ)=[hθ(x)]y⋅[1−hθ(xl(θ)=lnL(θ)=i=1（2）逻辑回归采用交叉熵损失而非均方误差损失的核心原因：①损失函数的凸性不同：逻辑回归的假设函数为sigmoid非线性函数，若采用均方误差损失，损失函数关于参数θ是非凸的，存在大量局部最优解，难以保证模型收敛到全局最优；而交叉熵损失函数关于参数θ是凸函数，可通过梯度下降、牛顿法等优化算法稳定找到全局最优解。（3分）

②梯度特性不同：sigmoid函数的导数为σ’(z)=σ(z)参考答案：全量微调存在的核心问题（每点2分，答出3点及以上得满分，共6分）：（1）显存需求过高：7B参数的模型全量微调需要存储梯度、优化器状态（如Adam的一阶矩、二阶矩）等，单卡40GB显存无法支撑（7B模型全量微调通常需要80GB以上显存，即使开启梯度检查点等优化技术也难以在40GB单卡稳定运行）。（2）计算效率低下：全量微调需要更新所有7B参数，训练10万条数据的计算量极大，单卡训练周期通常需要数天，无法支持快速迭代与课程更新。（3）过拟合风险高：训练数据仅10万条，相对于7B参数的模型容量来说数据量严重不足，全量微调容易导致模型过拟合，出现死记硬背训练数据、泛化能力差的问题。（4）模型存储成本高：若后续需要适配多门不同课程，全量微调需要为每门课程存储一个7B参数的独立模型，单模型占用存储空间约14GB（FP16精度），存储成本极高。（5）灾难性遗忘风险：全量微调会修改预训练模型的全部权重，可能破坏预训练阶段学习到的通用语言能力与常识知识，导致模型通用问答能力下降。参数效率微调方案设计（共10分）：方案选择：采用LoRA（低秩适配）作为核心微调方法，结合指令微调范式与显存优化技术，构建适配单卡40GB显存的训练流程。（2分）（1）核心实现思路：①模型加载与参数冻结：加载7B预训练大语言模型，冻结所有原生权重参数，仅在Transformer的自注意力层（Q、K、V、输出投影矩阵）和前馈神经网络层新增低秩分解矩阵，设置秩r=16（可根据显存与性能需求在8~64之间调整），低秩矩阵A初始化为高斯分布、B初始化为零矩阵，保证训练初始阶段模型输出与预训练模型完全一致，避免破坏预训练知识。（3分）②指令微调数据适配：将10万条课程问答对整理为标准化指令格式（如“[指令]请作为计算机专业课程助教回答以下问题，答案需符合本科教学要求。[问题]{question}[回答]”），采用因果语言建模（CLM）损失进行训练，仅对回答部分计算损失，忽略指令与问题部分的损失，提升训练效率与领域适配的精准度。（2分）③显存优化辅助：结合混合精度训练（BF16/FP16）、梯度累积（设置累积步数为8~16）、梯度检查点等技术，进一步降低显存占用，确保训练过程中显存峰值控制在35GB以内，适配40GB单卡的资源约束。（2）适配场景的技术优势：①显存需求低：LoRA仅训练极少参数，结合混合精度训练后，7B模型的微调显存需求可控制在20~30GB，完全适配40GB单卡的资源约束，无需额外采购高端GPU。（1分）②训练效率高：仅需更新约0.1%的参数，训练速度比全量微调快1020倍，10万条问答数据可在812小时内完成训练，支持快速迭代与课程内容更新。（1分）

③泛化性能好：由于冻结了预训练模型的大部分权重，保留了预训练阶段的通用语言能力与常识知识，仅适配领域相关的低秩权重，有效降低过拟合风险，同时避免灾难性遗忘问题。（1分）④部署成本低：推理时可将低秩权重合并到原模型中，无额外计算开销；若适配多门课程，仅需存储1份基础模型与对应课程的低秩权重（单门课程权重仅几十MB），大幅降低存储与部署成本。评估指标体系设计（共9分，每个维度3分，答出3个及以上合理指标即可得满分）：（1）生成质量维度：①流畅度：采用人工评分（5分制）与大模型