2025年大学《统计学》专业题库- 稳健回归分析与异常值检测技术

2025年大学《统计学》专业题库——稳健回归分析与异常值检测技术考试时间：______分钟总分：______分姓名：______一、选择题（每小题2分，共10分。请将正确选项的字母填在题后的括号内。）1.在线性回归模型中，如果误差项ε并非来自正态分布，而是服从双曲正态分布或重尾分布，那么普通最小二乘估计（OLS）的（）。A.无偏性成立，但一致性不成立B.一致性成立，但无偏性不成立C.既无偏又不一致D.既偏又不一致2.M估计量通过最大化一个带权重的目标函数来获得参数估计，其中权重向量w(x)通常取决于（）。A.参数的真值B.样本点的观测值x及其残差C.总体分布的形式D.模型的复杂度3.在稳健回归中，与Huber估计相比，LAD（最小绝对离差）估计的（）。A.估计量总是更有效B.对离群点的惩罚更小C.对离群点的惩罚更大D.对异常值更不敏感4.当使用稳健回归方法拟合数据后，通过分析残差（特别是与权重相关的加权残差）来检测离群点是一种常用的方法。这种方法的主要优点是（）。A.它可以直接识别出数据中的离群点B.它不依赖于对数据分布的具体假设C.它总是比基于距离的方法更精确D.它能自动剔除离群点5.对于高维数据（p较大，尤其是p接近或大于样本量n时），计算稳健回归的权重向量变得非常困难，并且稳健估计的（）可能会变差。A.无偏性B.一致性C.有效性D.稳健性二、填空题（每小题2分，共10分。请将答案填在题后的横线上。）6.稳健回归方法的核心思想是寻求对模型基本假设（如误差项的对称性）的______不敏感的参数估计量。7.在M估计中，目标函数通常是形式为ρ(u)-u'w(x)的函数，其中ρ'(u)=w(x)，u是残差，w(x)是______。8.最小二乘截距/斜率（LTS）估计通过选择参数使加权残差平方和最小，其权重向量是基于残差的大小，采用______连接函数。9.箱线图是一种常用的图形化方法来初步识别数据中的______值，其基本思想是利用数据的四分位数和四分位距（IQR）。10.在进行异常值检测时，如果数据维度较高，马氏距离通常比欧氏距离更合适，因为马氏距离考虑了变量间的______结构。三、名词解释（每小题3分，共12分。）11.稳健统计12.权重向量13.异常值（离群点）14.加权残差四、简答题（每小题5分，共15分。）15.简述M估计与普通最小二乘估计（OLS）在处理离群点方面的主要区别。16.解释为什么在稳健回归分析中，使用加权残差而非普通残差来诊断离群点更为有效。17.列举至少三种不同的稳健回归方法，并简要说明其基本思想或核心特点。五、计算与分析题（共13分。）18.假设我们使用M估计的Huber损失函数（定义如下：ρ(u)=u^2/2,0≤|u|≤k;ρ(u)=k*|u|-k^2/2,|u|>k）对一组数据进行稳健回归分析。已知参数k（阈值）的值为1.329，对于某个观测点x_i，其对应的残差u_i=-1.8，其权重w(x_i)计算为0.25。请计算该观测点对应的加权残差r_i=w(x_i)*u_i。并说明如果u_i的绝对值大于k，加权残差的计算方式会有何不同。（4分）19.在一项研究中，研究者收集了关于房屋价格（Y）和房屋面积（X1）、房间数量（X2）的数据。由于市场波动和一些特殊情况，数据中可能存在离群值。研究者首先使用普通最小二乘法（OLS）拟合模型，发现几个房屋价格异常高昂的观测点。为了得到更稳健的回归结果，研究者决定使用LTS估计方法。请分析，与OLS相比，使用LTS估计方法可能带来哪些优势？在解释LTS估计结果时，需要注意哪些潜在的问题？（9分）试卷答案一、选择题1.B2.B3.C4.B5.B二、填空题6.偏离7.权重向量8.指数9.异常10.相关三、名词解释11.稳健统计：指一类统计方法，其目标是提供对数据分布基本假设（如正态性、独立性）的偏离不敏感的统计推断。12.权重向量：在稳健回归和异常值检测中，一个与每个数据点相关联的向量，其元素通常表示该数据点在估计过程中的重要性或可信度。13.异常值（离群点）：指在一组数据中，其观测值与其他观测值显著不同或远离数据集中其他点的点。14.加权残差：将每个数据点的残差乘以其对应的权重向量元素后得到的残差。四、简答题15.M估计通过使用一个连续且可微的连接函数ρ(u)及其导数来定义目标函数，该函数在残差较小时表现类似OLS（ρ'(u)接近1），在残差较大时迅速减小权重（ρ'(u)接近0），从而对离群点给予较小的权重。而OLS对所有残差一视同仁，离群点即使有非常大的残差，其影响也仅通过最小化平方和来减弱，不如M估计能有效抑制离群点的影响。16.普通残差未考虑数据点本身是否可能是离群点，对所有残差赋予相同权重，一个离群点即使只有一个很大的普通残差，也可能对OLS参数估计产生很大影响。而加权残差将权重与数据点的权重向量关联，离群点通常具有很小的权重，其残差即使绝对值较大，加权后对回归参数的影响也会因为权重小而大大减小，从而更能反映“正常”数据点的信息，使诊断更为有效。17.(1)M估计：使用连接函数ρ(u)定义目标函数，通过迭代加权最小化来估计参数，对离群点不敏感。(2)LTS（最小二乘截距/斜率）：通过选择参数使加权残差平方和最小，权重基于残差大小，使用指数连接函数，对离群点不敏感。(3)LAD（最小绝对离差）：目标函数是残差的绝对值之和，对离群点非常不敏感，但估计量通常比M估计或LTS更偏。五、计算与分析题18.根据加权残差定义r_i=w(x_i)*u_i。已知w(x_i)=0.25,u_i=-1.8。计算得r_i=0.25*(-1.8)=-0.45。如果u_i的绝对值大于k（1.329），则根据Huber损失函数的定义，加权残差的计算方式为r_i=w(x_i)*k*sign(u_i)-w(x_i)*k^2/2。在本例中，由于|u_i|=1.8>1.329，计算得r_i=0.25*1.329*sign(-1.8)-0.25*(1.329)^2/2=0.25*1.329*(-1)-0.25*1.778=-0.33225-0.4445=-0.77675。19.LTS估计方法的优势在于：①对数据中的离群点不敏感，能提供更稳健的回归参数估计，使得结果不受少数极端值的影响；②仍然保持一致性，即当原模型假设成立时，LTS估计收敛到真实参数；③计算上相对简单，尤其是在p<n时。潜在问题包括：①对于维度很高的数据（p接近或大于n），LTS估计的收敛