2025年数据挖掘面试笔试题(附答案)

2025年数据挖掘面试笔试题(附答案)一、基础概念题（每题5分，共20分）1.解释"数据漂移"的两种主要类型，并说明在模型部署后如何监测数据漂移。2.简述特征交互（FeatureInteraction）在梯度提升树中的作用机制，举例说明高阶交互可能带来的问题。3.对比F1-score与ROC-AUC在分类任务中的适用场景，当正负样本比例为1:100时，哪种指标更具参考价值？4.说明L1正则化与L2正则化在优化过程中的差异，为何L1正则化更易产生稀疏解？二、算法原理题（每题8分，共32分）5.随机森林中为何使用自助采样（Bootstrap）？若将自助采样改为全样本采样，对模型偏差和方差会产生什么影响？6.推导逻辑回归的损失函数（交叉熵损失），并说明其凸性对优化过程的意义。7.XGBoost在传统GBDT基础上做了哪些关键改进？解释其中"二阶泰勒展开"的作用。8.简述Transformer架构在时序数据挖掘中的适应性，对比其与LSTM在长依赖问题上的处理差异。三、编程实践题（每题12分，共36分）9.给定以下PandasDataFrame（数据字段：user_id[int],age[float],order_cnt[int],is_vip[bool],last_purchase[datetime]），要求完成：(1)对age字段进行分箱处理（<25,25-35,35-50,>50），提供新列age_bin；(2)计算每个用户的"购买频率"（近30天购买次数/总购买次数），需处理last_purchase为缺失值的情况（置为0）；(3)对is_vip字段进行独热编码，要求保留原始列并提供新的虚拟变量列。10.使用Scikit-learn实现一个基于随机森林的用户流失预测模型（二分类任务），要求：(1)划分训练集（70%）和测试集（8:2分层抽样）；(2)对数值型特征进行标准化，类别型特征进行目标编码（TargetEncoding）；(3)采用5折交叉验证调优max_depth（候选值：3,5,7）和n_estimators（候选值：50,100），输出最优参数组合及验证集F1-score；(4)在测试集上输出精确率、召回率、F1-score和ROC-AUC值。11.编写SQL查询：某电商数据库有订单表orders（order_id,user_id,order_time,total_amount）和用户表users（user_id,register_time,city），要求计算2024年每个城市的"高价值用户"数量（定义：2024年订单金额≥1000元且订单数量≥5单的用户）。四、场景分析题（每题10分，共20分）12.某短视频平台需构建"视频内容偏好预测模型"，输入为用户基本信息（年龄、性别）、行为数据（观看时长、点赞/收藏次数）、视频元数据（时长、标签、发布时间），输出为用户观看该视频的概率。请回答：(1)哪些特征可能存在时间依赖性？如何处理？(2)若模型在训练集上AUC=0.92，测试集AUC=0.75，可能的原因是什么？提出3种改进方法。(3)当新上线的视频无历史交互数据时，如何解决冷启动问题？13.某金融风控场景中，正负样本比例为1:500（负样本为违约用户），需构建违约预测模型。请设计完整的解决方案，包括：(1)数据层面的处理策略（至少3种）；(2)模型选择及原因（对比至少2种模型）；(3)评估指标的选择及理由；(4)上线后需监控的关键指标。答案一、基础概念题1.数据漂移分为特征漂移（FeatureDrift，输入分布P(X)变化）和标签漂移（LabelDrift，条件分布P(Y|X)变化）。监测方法：①定期抽取生产数据与训练数据，用KS检验或PSI（PopulationStabilityIndex）检测特征分布差异；②监控模型预测概率的分布变化；③若有真实标签，对比预测与实际的分布差异。2.梯度提升树通过分裂节点捕捉特征交互，如年龄>30且收入>10k时违约概率更高。高阶交互（如三特征以上）可能导致：①模型复杂度激增，过拟合风险上升；②可解释性下降，难以业务解读；③计算成本增加，尤其在高维数据中。3.F1-score是精确率和召回率的调和平均，适用于关注正负样本整体分类效果且类别分布较均衡的场景；ROC-AUC反映模型对正样本的排序能力，不受类别比例影响。当正负比1:100时，样本极不均衡，此时ROC-AUC更可靠（F1可能因FP/TP计算受样本比例干扰）。4.L1正则化项为λ||w||₁，梯度为λ·sign(w)，在优化时会将小权重直接置零；L2正则化项为(λ/2)||w||₂²，梯度与权重大小成正比，仅衰减权重但不会置零。因此L1更易产生稀疏解，适用于特征选择。二、算法原理题5.自助采样通过有放回抽样提供不同训练集，增加基模型的多样性，降低整体方差。若改用全样本，基决策树的相似性提高（因输入相同），随机森林的多样性下降，整体方差可能增大（基模型相关系数上升），偏差可能略降低（因每个基模型使用更多数据）。6.逻辑回归假设P(y=1|x)=1/(1+e^(-w·x))，P(y=0|x)=e^(-w·x)/(1+e^(-w·x))。似然函数L(w)=∏[p_i^y_i(1-p_i)^(1-y_i)]，对数似然取负得损失函数：J(w)=-1/mΣ[y_ilog(p_i)+(1-y_i)log(1-p_i)]由于sigmoid函数的二阶导数非负，损失函数是凸函数，保证梯度下降能找到全局最优解。7.XGBoost改进点：①显式加入正则化项（叶子节点数+叶子权重L2）；②支持并行计算（按特征预排序分桶）；③二阶泰勒展开（传统GBDT用一阶导数）。二阶展开将损失函数近似为g_i·h+(1/2)h_i·h²（g是一阶导，h是二阶导），使梯度更新更精确，收敛更快。8.Transformer通过自注意力机制（Self-Attention）捕捉时序依赖，每个时间步的隐藏状态由所有时间步的信息加权得到；LSTM通过门控单元（遗忘门、输入门、输出门）控制信息传递。Transformer的优势：①并行计算（无需按时间步递推）；②长距离依赖捕捉（注意力权重不受距离限制）；劣势：时序信息需通过位置编码显式注入。三、编程实践题9.代码实现：```pythonimportpandasaspdimportnumpyasnpfromdatetimeimportdatetime假设df为给定DataFrame(1)年龄分箱bins=[-np.inf,25,35,50,np.inf]labels=['<25','25-35','35-50','>50']df['age_bin']=pd.cut(df['age'],bins=bins,labels=labels)(2)计算购买频率（假设当前时间为2024-12-31）current_time=datetime(2024,12,31)df['last_purchase']=pd.to_datetime(df['last_purchase'],errors='coerce')处理无效日期df['days_since_last']=(current_time-df['last_purchase']).dt.daysdf['recent_30']=np.where(df['days_since_last']<=30,1,0)近30天有购买标记按user_id分组计算近30天购买次数和总次数freq_df=df.groupby('user_id').agg(recent_cnt=('recent_30','sum'),total_cnt=('order_cnt','sum')).reset_index()合并回原表并计算频率（处理分母为0的情况）df=df.merge(freq_df,on='user_id',how='left')df['purchase_freq']=df['recent_cnt']/df['total_cnt'].replace(0,1)总次数为0时置1避免除零df['purchase_freq']=df['purchase_freq'].fillna(0)处理last_purchase缺失（原逻辑要求置0）(3)独热编码（保留原始列）df=pd.concat([df,pd.get_dummies(df['is_vip'],prefix='is_vip')],axis=1)```10.代码实现（关键步骤）：```pythonfromsklearn.model_selectionimporttrain_test_split,StratifiedKFold,GridSearchCVfromsklearn.ensembleimportRandomForestClassifierfromsklearn.preprocessingimportStandardScalerfromposeimportColumnTransformerfromsklearn.pipelineimportPipelinefromsklearn.metricsimportprecision_score,recall_score,f1_score,roc_auc_scorefromcategory_encodersimportTargetEncoder假设X为特征，y为标签（流失标记）(1)分层抽样划分X_train,X_test,y_train,y_test=train_test_split(X,y,test_size=0.2,stratify=y,random_state=42)(2)特征预处理：数值型标准化，类别型目标编码numeric_features=['age','order_cnt','purchase_freq']categorical_features=['age_bin','city']preprocessor=ColumnTransformer(transformers=[('num',StandardScaler(),numeric_features),('cat',TargetEncoder(),categorical_features)])(3)构建Pipeline并调参pipeline=Pipeline([('preprocessor',preprocessor),('classifier',RandomForestClassifier(random_state=42))])param_grid={'classifier__max_depth':[3,5,7],'classifier__n_estimators':[50,100]}cv=StratifiedKFold(n_splits=5,shuffle=True,random_state=42)grid_search=GridSearchCV(pipeline,param_grid,cv=cv,scoring='f1',n_jobs=-1)grid_search.fit(X_train,y_train)print(f"最优参数：{grid_search.best_params_}")print(f"验证集最优F1-score：{grid_search.best_score_:.4f}")(4)测试集评估y_pred=grid_search.predict(X_test)y_proba=grid_search.predict_proba(X_test)[:,1]print(f"精确率：{precision_score(y_test,y_pred):.4f}")print(f"召回率：{recall_score(y_test,y_pred):.4f}")print(f"F1-score：{f1_score(y_test,y_pred):.4f}")print(f"ROC-AUC：{roc_auc_score(y_test,y_proba):.4f}")```11.SQL查询：```sqlWITHuser_statsAS(SELECTu.city,o.user_id,SUM(o.total_amount)AStotal_amount,COUNT(o.order_id)ASorder_countFROMusersuLEFTJOINordersoONu.user_id=o.user_idANDo.order_timeBETWEEN'2024-01-01'AND'2024-12-31'GROUPBYu.city,o.user_id)SELECTcity,COUNT(DISTINCTuser_id)AShigh_value_user_countFROMuser_statsWHEREtotal_amount>=1000ANDorder_count>=5GROUPBYcity;```四、场景分析题12.(1)时间依赖性特征：观看时长（近期行为更重要）、发布时间（视频时效性）。处理方法：①对行为数据做时间窗口聚合（如近7天/30天均值）；②对发布时间提取时间特征（如发布至今天数）；③加入时间衰减因子（如指数衰减权重）。(2)可能原因：①数据泄露（训练集包含测试集信息）；②过拟合（模型复杂度高，泛化能力差）；③训练集与测试集分布差异（数据漂移）。改进方法：①检查特征是否包含未来信息；②增加正则化（