2025年人工智能与伦理专业考试试卷及答案

2025年人工智能与伦理专业考试试卷及答案一、单项选择题（每题2分，共20分。每题只有一个正确答案，请将正确选项填入括号内）1.2024年欧盟《人工智能法案》将“实时远程生物识别系统”在公共场所的使用原则上归类为（）。A.最小风险B.有限风险C.高风险D.不可接受风险答案：D解析：法案第5条明确禁止在公共场所使用实时远程生物识别系统，除非出现极少数例外，故属“不可接受风险”。2.在机器学习模型训练阶段，若因训练数据分布偏移导致对某一族群的预测准确率显著下降，这种现象在伦理审计报告中通常被称为（）。A.算法黑箱B.数据漂移C.代表性伤害D.模型投毒答案：C解析：代表性伤害（representationalharm）指系统输出强化了对某群体的负面刻板印象或排斥，其根源常是数据分布偏移。3.根据2023年更新的IEEE7000™2021标准，针对“伦理驱动设计”的符合性评估，优先要求企业建立（）。A.数据出境安全评估B.算法备案制度C.伦理影响评估（EIA）D.模型可解释性白皮书答案：C解析：IEEE7000™核心即要求在产品全生命周期嵌入EIA，而非单纯备案或解释。4.当自动驾驶汽车面临“电车难题”式抉择时，德国联邦交通部2023年颁布的《自动化驾驶伦理准则》要求算法（）。A.优先保护车内乘客B.不得基于年龄、性别进行权衡C.最小化财产损失D.依据保险额度决定优先级答案：B解析：准则第4条明确禁止以人身特征作为权衡标准，体现绝对平等原则。5.在联邦学习框架下，参与方利用差分隐私技术上传梯度信息，其隐私预算ε的推荐上限为（）。A.0.1B.1C.5D.10答案：B解析：苹果与谷歌在公开报告中均将ε=1作为单次迭代可接受的隐私损失阈值，超过则重识别风险陡增。6.2024年1月，中国“生成式AI服务管理暂行办法”要求提供具有舆论属性的生成式服务时应完成的安全评估称为（）。A.算法安全评估B.网络安全等保测评C.科技伦理审查D.数据安全风险评估答案：A解析：办法第7条明确“具有舆论属性”的生成式服务须通过中央网信办组织的算法安全评估。7.在AI医疗影像诊断场景下，若模型AUC达0.95，但对黑人患者召回率仅0.42，该情形最符合（）。A.技术可解释性不足B.算法歧视C.模型过拟合D.数据泄露答案：B解析：性能在不同族群间显著失衡，构成直接歧视。8.关于“可解释人工智能”（XAI），下列技术中属于“内在可解释”方法的是（）。A.LIMEB.SHAPC.决策树D.GradCAM答案：C解析：决策树自身结构即规则集，无需后验近似，故为内在可解释。9.2023年10月，联合国教科文组织（UNESCO）发布的《人工智能伦理建议书》强调的核心监管模式是（）。A.行业自律B.硬性禁令+风险评估C.事后追责D.市场自由竞争答案：B解析：建议书提出“禁令+风险分级”双层框架，影响欧盟法案思路。10.若某城市使用AI系统评估教师绩效并决定续约，该系统未向教师公开评分逻辑，在美国可能违反（）。A.COPPAB.FERPAC.EEOCD.ADA答案：B解析：FERPA赋予学生与教师查阅教育记录的权利，含算法评分。二、多项选择题（每题3分，共15分。每题有两个或以上正确答案，多选、少选、错选均不得分）11.以下哪些行为可能触发欧盟《人工智能法案》的高风险系统合规义务（）。A.使用AI进行招聘初筛B.利用AI评估银行贷款违约概率C.在手游中通过AI推荐皮肤D.采用AI辅助判决量刑答案：A、B、D解析：招聘、信贷、司法均列入附件三高风险清单，游戏皮肤推荐不在其列。12.关于“合成数据”在隐私保护中的作用，下列说法正确的是（）。A.可消除原始数据中的个人可识别信息B.一定保证无法推断原始个体C.可缓解数据稀缺问题D.需进行隐私审计以防模型记忆答案：A、C、D解析：合成数据仍可能通过成员推理攻击泄露信息，故“一定保证”错误。13.在AI伦理治理中，实施“算法审计”需要重点关注（）。A.训练数据来源合法性B.模型更新频率C.商业竞争对手数量D.输出对弱势群体的影响答案：A、B、D解析：竞争对手数量与伦理审计无直接关联。14.以下哪些情形可能构成“自动化决策拒绝权”的例外（）。A.合同履行必要B.法律授权C.用户明示同意D.企业营销优化答案：A、B、C解析：GDPR第22条明确三种例外，营销优化不在其中。15.在生成式大模型内容安全过滤中，可采用的技术包括（）。A.强化学习从人类反馈（RLHF）B.关键词黑名单C.毒性分类器D.联邦参数聚合答案：A、B、C解析：联邦聚合是隐私技术，不直接用于内容过滤。三、判断题（每题2分，共10分。正确打“√”，错误打“×”）16.中国《个人信息保护法》规定，个人信息处理者利用个人信息进行自动化决策时，必须同时提供“不针对其个人特征的选项”，否则即属违法。答案：√解析：见个保法第24条。17.算法公平性指标“EqualizedOdds”要求真正率与假正率在不同族群间相等，因此一定会牺牲整体准确率。答案：×解析：在某些分布下可同时满足，非必然牺牲。18.联邦学习中，参与方上传模型梯度而非原始数据，因此天然满足GDPR的“数据最小化”原则。答案：×解析：梯度仍可泄露原始数据，需叠加差分隐私或安全聚合。19.2024年IEEE发布的《人工智能系统伦理设计操作手册》建议，对高风险系统应建立“伦理红队”进行对抗性测试。答案：√解析：手册第8.3条提出伦理红队机制。20.基于深度强化学习的股票交易系统若造成市场异常波动，开发者可以“算法中立”为由主张完全免责。答案：×解析：欧盟MiCA法规及美国SEC均强调开发者对算法失控负最终责任。四、简答题（每题10分，共30分）21.结合“差别性隐私预算分配”策略，说明如何在跨部门医疗数据共享中平衡科研价值与患者隐私。答案要点：1)定义敏感级别：对直接标识符、准标识符、临床变量设置不同ε；2)动态预算：依据数据稀缺性与研究影响力分配，如罕见病分配更高ε；3)层级同意：允许患者选择加入高ε研究或仅低ε统计；4)审计追踪：每次查询记录剩余预算，超出即拒绝；5)补偿机制：对高噪声结果采用安全多方计算二次验证，确保科研结论稳健。评分标准：策略完整5分，案例结合3分，隐私与价值平衡论述2分。22.描述“模型卡”（ModelCard）在生成式大模型治理中的关键字段，并说明如何借助该卡片实现算法透明。答案要点：1)模型细节：架构、参数量、训练数据规模与来源合法性；2)适用场景与限制：明确禁止医疗诊断、法律建议等高误用风险场景；3)性能指标：多语言毒性率、幻觉率、偏见评分（BBQ、RealToxicityPrompts）；4)伦理评估：碳排放、劳工标注条件、数据许可；5)更新日志：版本差异、补丁说明；6)用户反馈通道：持续收集下游误用案例，实现动态透明。评分标准：字段齐全6分，透明机制论述4分。23.2024年某社交平台部署“AI虚拟陪伴”功能，被曝对未成年人输出自伤诱导内容。请从“监管—平台—家长”三方视角提出治理闭环。答案要点：监管：参照《未成年人网络保护条例》要求平台上线前完成青少年模式算法备案，建立24h投诉热线；平台：a)训练数据清洗：过滤18+文本，采用ConstitutionalAI强化安全提示；b)实时过滤：集成轻量级毒性检测小模型，端侧推理延迟<100ms；c)年龄验证：引入零知识证明技术，确保不上传原始身份证；家长：提供家长端“AI陪伴日志”可视化，支持一键冻结；闭环：监管对平台罚款与下架并重，平台每季度公开安全报告，家长参与众测，形成迭代。评分标准：三方措施各3分，闭环逻辑1分。五、案例分析题（25分）24.材料：2025年3月，东南亚某国政府与私企合作推出“AI预测性警务”系统，通过融合社交媒体情绪、历史案件、天气数据，输出“热点网格”指导巡逻。上线六个月后，警方在热点区域逮捕率提升38%，但民间组织指控该系统过度集中于贫民区，导致少数族裔被盘查率上涨210%。联合国人权专员办公室介入调查，发现：1)训练数据使用2010—2022年案件记录，其间警方本身存在种族偏见执法；2)模型采用XGBoost，特征重要性前三名分别为“肤色标签”“街区贫困率”“过往盘查次数”；3)政府以“国家安全”为由拒绝公开模型参数；4)企业声称“仅提供技术”，不承担执法后果。问题：（1）指出该系统存在的三类伦理风险（9分）；（2）从“技术—制度—社会”三维度提出纠偏方案（10分）；（3）若你是独立审计机构，请设计一项可验证的公平性量化指标，并说明如何获取groundtruth（6分）。参考答案：（1）a)歧视强化：历史偏见被算法固化，对少数族裔形成系统性差别对待；b)不透明与问责缺失：黑箱决策拒绝公开，阻碍司法救济；c)隐私与言论寒蝉效应：社交媒体情绪监控侵犯公民表达自由。（2）技术：1)重加权训练：对少数族裔样本权重下调，引入公平约束（EqualOpportunity）；2)特征移除：删除肤色、种族代理变量，采用“犯罪环境”替代“犯罪人”特征；3)可解释模块：输出时提供“风险原因摘要”，供警员书面记录。制度：1)立法要求“公共算法登记”，高风险警务模型须通过议会听证；2)建立独立算法监督署，拥有源代码托管与红队测试权；3)引入“算法伤害保险”，由政府与企业按比例赔付误执法受害者。社会：1)社区共评：每季度召开“热点网格”公开会，居民可质疑巡逻策略；2)数据捐赠：允许市民自愿提交匿名位置数据，校正采样偏差；3)民间科技组织参与白盒测试，发布公平性排行榜。（3）指标：盘查率差异比（StopRateRatio,SRR）=少数族裔盘查率