机器学习基础模拟考试卷 习题及答案

机器学习原理及应用试题选择题（每题2分）1、以下关于机器学习说法错误的是（B）-（回归问题）机器学习中的经验称为模型分类问题以连续变量作为预测输出典型的判别模型有逻辑回归、决策树、支持向量机等降维、聚类是最典型的无监督学习算法2、（B）用于对训练的模型进行验证挑选、辅助调参A.训练集B.验证集C.测试集D.生成集3、当模型存在多个解时，（A）指出应该选择最简单的那个A.奥卡姆剃刀原则B.最大熵原理C.投票法的准则D.随机森林原理4、小明在使用决策树模型时，以下操作能够降低模型模型复杂度，提高泛化能力的是（D）A.对决策树模型进行预剪枝B.在代价函数变为最小的时候，自下而上地将某个子树剪枝C.直到代价函数变为最小前，重复剪枝过程D.以上方法都行5、多分类学习的基本思路时“拆解法”，经典的拆分策略是（D）A.一对一B.一对多C.多对多D.以上都是6、以下关于集成学习的说法，正确的是（C）-（A-方差越来越大，B-优化方差，D-Stacking）A.随着模型复杂度的最佳，模型的偏差会越来越小，同时方差也会越来越小B.Bagging优化的对象是模型的偏差，对模型方差的影响很小C.AdaBoost在数据挖掘、模式识别等领域有着广泛的应用D.Boosting的思想是拼接不同特征的子模型成一个特征向量7、（B）是一种机器学习中的常用算法，被广泛应用于数据降维、数据压缩等，在实际应用中，可以用于实现图片压缩。A.主成分分析B.奇异值分解C.层次聚类D.K-Means聚类8、常用的神经元模型激活函数有（D）A.SigmoidB.ReLUC.TanhD.以上都是9、主要用于对序列数据进行建模，如处理句子的单词序列数据、视频的图像序列等的是（C）A.卷积神经网络B.图卷积神经网络C.循环神经网络D.生成对抗网络10、10、Python中的tsfresh开源包可以对（C）特征进行升维操作A.图像B.语音C.时序D.以上都是对错题（每题2分）1、回归模型的典型应用有图像分类、视频分类、文本分类、机器翻译、语言识别等（x）-（分类模型）2、最大熵原理是指描述一个概率分布时，在满足所有约束条件的情况下，熵最小的模型就是最好的（x）-（大）3、召回率又叫查全率，表示在实际为正的样本中被预测为正样本的概率（√）4、极大似然估计拥有很强的数据拟合能力，往往会产生过拟合现象（x）-（决策树）5、典型的提升树算法有GBDT、XGBOOST等，有着可解释性强、伸缩不变性、对异常样本不敏感等优点（√）6、隐马尔可夫模型在实际应用中对应的核心问题是计算观测序列的输出概率，即给定模型参数即观测序列，求从模型产生当前观测的概率（x）-（估计隐马尔可夫模型的参数）7、降维的目的是对样本集合进行自动分类，以挖掘数据中隐藏的消息、结构，从而发现可能的商业价值（x）-（聚类）8、层次聚类是一种按照不同的尺度逐层进行聚类的聚类方法（√）9、生成对抗网络通常用于计算机视觉相关的任务中，如图像处理（x）-（卷积神经）10、Python中的Numpy是一个用于二维数据可视化的工具包（x）-（Matplotlib）填空题（每题2分）1、构建一个完整的机器学习的三大要素是数据、模型和性能度量准则。2、线性回归研究的是自变量与因变量之间的线性关系。3、假阳率表明实际是负样本预测成正样本的样本数，而假阴率表明实际是正样本预测成负样本的样本数。4、对k-近邻算法的研究包含三个方面：k值的选取、距离的度量和如何快速地进行k各近邻的检索。5、当样本数量不够大时，可能无法覆盖特征的所有可能取值，因此朴素贝叶斯分类器为了避免这一问题，常采用平滑处理，典型的平滑处理有拉普拉斯平滑。6、根据大数定律，人群中的身高分布应该呈高斯分布。7、聚类过程中需要计算样本之间的相似程度，常用的方式有闵可夫斯基距离、余弦相似度、马氏距离、汉明距离。8、卷积神经网络通常由一个输入层、一个输出层和多个隐藏层组成。9、生成对抗网络包含两个部分，即生成器、判别器。10、一般来说，一个Pytorch项目主要包含数据集加载、模型定义及加载、损失函数以及优化方法设置、训练模型、打印训练中间结果、测试模型。问答题（每题4分）1、列举典型的判别模型（1）逻辑回归（2）决策树（3）支持向量机（4）神经网络（5）k-近邻算法（每点1分，其他答案合理亦给分，答出4点即可得到满分）2、简述什么是欠拟合和过拟合、产生的原因以及如何解决（1）欠拟合：模型在训练集上的误差较高。原因：模型过于简单，没有很好的捕捉到数据特征，不能很好的拟合数据。解决方法：模型复杂化、增加更多的特征，使输入数据具有更强的表达能力等（2）在训练集上误差低，测试集上误差高。原因：模型把数据学习的太彻底，以至于把噪声数据的特征也学习到了，这样就会导致在后期测试的时候不能够很好地识别数据，模型泛化能力太差。解决方法：降维、增加训练数据、正则约束等（每点2分，其他答案合理亦给分，每点答出定义、原因、解决方法后得满分，少答或错答任意一点得1分）3、请描述用隐马尔可夫模型建立中文到英文的翻译过程（1）将一个中文整句进行分词（2）依据单词的初始分布选择一个英文单词，计算其能够表达为对应中文分词的概率（3）依照当前英文单词选择下一个单词，依次进行下去直到生成所有英文单词（4）基于上述英文单词组合成英文整句，即完成了中文到英文的翻译过程（每点1分，意思接近即可得到满分）4、简单描述一下目前神经网络理论层面的局限性（1）神经网络提取出来的特征难以理解（2）如何对特征的表达能力进行评估（3）如何用理论指导神经网络架构设计（4）如何用理论指导对神经网络调参（每点2分，回答出2点且意思接近即可得到满分）5、简述一下数据分析的几个步骤（1）明确目标（2）数据采集、清洗和整理（3）数据建模和分析（4）结果展示或服务部署（每点1分，意思接近即可得到满分）应用题（每题10分）1、预测20个西瓜中哪些是好瓜，这20个西瓜中实际有15个好瓜，5个坏瓜。某个模型预测的结果是:16个好瓜，4个坏瓜。其中，预测的16个好瓜中有14个确实是好瓜，预测的4个坏瓜中有3个确实是坏瓜。（注:好瓜为正例，坏瓜为反例。）(1)画出混淆矩阵(4分)(2)什么是精确率(Precision)，计算准确率P（3分)(3)什么是召回率(Recall)，计算召回率R(3分)解答：(1)（4个值每个各1分）预测值01真实值0321114(2)精确率表示被预测为正的样本实际也为正的样本概率。 P=TP/(TP+FP)=87.5%（定义1分，计算公式1分，答案1分）(3)召回率表示实际为正的样本中被预测为正样本的概率。 R=TP/(TP+FN)=93.3%（定义1分，计算公式1分，答案1分）2、一个初学机器学习的同学对房价进行预测。他在一个N=1000个房价数据的数据集上匹配了一个有533个参数的模型，该模型能解释数据集上99%的变化。(1)请问该模型能很好地预测来年的房价吗?简单解释原因。(3分)(2)如果上述模型不能很好预测新的房价，请你设计一个合适的模型，并解释你的模型为什么比该同学设计得合理。（7分)解答：(1)不能。（1分）因为模型参数过多太复杂，训练集上拟合太好，把错误点也考虑进来，因此发生了过拟合，预测误差较大。（2分