2026年人工智能安全与伦理考试试题及答案

2026年人工智能安全与伦理考试试题及答案一、单项选择题（共10题，每题1分，共10分。每题只有一个正确答案）1.2026年正式生效的欧盟《人工智能法案》将AI系统按风险划分为四个等级，下列属于“不可接受风险”范畴的AI系统是（）A.校园人脸识别考勤系统B.医疗影像辅助诊断系统C.利用潜意识操控未成年人消费的推荐算法D.电商平台智能客服系统2.大模型对齐技术的核心目标是（）A.提升模型生成速度B.确保模型行为符合人类价值观与安全规范C.降低模型训练成本D.扩大模型参数规模3.根据我国2025年发布的强制性国家标准《生成式人工智能服务安全基本要求》，生成式AI服务提供者对其生成的音视频内容应当添加的标识类型是（）A.仅显性标识B.仅隐性数字水印C.显性+隐性双重标识D.二维码溯源标识4.具身智能机器人在工业场景部署中，下列属于伦理层面核心风险的是（）A.机械臂故障导致生产事故B.机器人自主决策绕过安全围栏伤害操作人员C.用工替代引发的劳动者权益受损D.系统被黑客入侵导致生产停滞5.下列不属于AI算法偏见常见来源的是（）A.训练数据代表性不足B.算法设计的目标函数偏差C.模型部署的服务器算力差异D.人工标注的主观偏差6.根据我国《人工智能医用软件产品分类界定指导原则（2025修订版）》，AI辅助诊断类产品的最终诊疗决策权应当属于（）A.AI系统B.医疗机构C.执业医师D.患者本人7.大模型训练数据合规中，符合《个人信息保护法》关于敏感个人信息处理要求的是（）A.公开爬取的公众人物隐私信息可直接用于训练B.处理未成年人个人信息需取得监护人同意C.匿名化处理后的个人信息需额外授权才能用于训练D.训练数据的来源无需向监管部门报备8.下列不属于大模型红队测试核心内容的是（）A.诱导模型生成有害内容B.测试模型的推理准确率C.探测模型的prompt注入漏洞D.测试模型的隐私泄露风险9.根据我国《智能网联汽车道路运输安全管理条例（2025年施行）》，L3级有条件自动驾驶车辆在自动驾驶模式下发生交通事故，且无证据证明驾驶员存在接管失误的，责任主体为（）A.驾驶员B.车辆所有人C.自动驾驶系统开发者D.车辆销售方10.2025年成立的联合国人工智能治理常设委员会的核心职能不包括（）A.制定全球AI安全统一标准B.协调各国AI伦理监管政策C.对高风险AI系统进行全球统一认证D.直接处罚违反伦理准则的AI企业【单项选择题参考答案】1.C2.B3.C4.C5.C6.C7.B8.B9.C10.D（解析：第1题，欧盟《人工智能法案》明确将利用潜意识操控弱势群体的AI系统列为不可接受风险；第4题，其余选项均为技术安全风险，只有用工替代的劳动者权益问题属于伦理范畴；第10题，联合国下属机构无直接执法处罚权，仅承担协调、标准制定、风险预警等职能。）二、多项选择题（共5题，每题2分，共10分。每题有2个及以上正确答案，多选、少选、错选均不得分）1.下列属于2026年我国划定的高风险AI系统的有（）A.高考智能阅卷系统B.银行智能风控审批系统C.公共服务场所的人脸门禁系统D.家用智能扫地机器人E.智能交通信号灯控制系统2.生成式AI的典型安全风险包括（）A.生成虚假信息误导公众B.训练数据泄露用户隐私C.被用于制作网络攻击代码D.模型推理延迟过高E.生成内容侵犯知识产权3.AI伦理中的“算法透明性”原则要求包括（）A.完全公开模型的全部训练数据B.向用户告知其正在与AI系统交互C.对高风险AI系统的决策逻辑提供可解释说明D.公开模型的全部参数权重E.公示AI系统的适用范围与局限性4.下列属于AI对齐研究范畴的有（）A.大模型的价值观对齐B.具身智能机器人的行为对齐C.多智能体系统的目标对齐D.模型训练的算力优化E.AI系统与监管要求的合规对齐5.个人面对AI深度伪造风险的合理防护措施包括（）A.不随意在公开平台发布个人高清正脸视频B.关闭所有APP的摄像头权限C.遇到可疑音视频信息通过多渠道核验D.定期更换社交平台账号E.使用数字身份认证工具验证信息来源【多项选择题参考答案】1.ABCE2.ABCE3.BCE4.ABCE5.ACE（解析：第1题，家用智能扫地机器人属于低风险消费级AI产品，其余均涉及公共利益、个人重大权益，属于高风险范畴；第3题，算法透明性不要求公开商业秘密性质的训练数据与参数权重，仅要求决策可解释、用户知情、范围明确；第5题，关闭所有摄像头权限、定期更换账号属于过度防护，不具备实用性。）三、判断题（共10题，每题1分，共10分。正确打√，错误打×）1.2026年欧盟《人工智能法案》正式生效后，所有在欧盟境内提供服务的AI系统均需符合其风险分级监管要求。（）2.大模型的“prompt注入攻击”是指通过精心设计的输入指令绕过模型的安全对齐机制，诱导其生成有害内容。（）3.AI算法偏见仅会对特定群体造成权益损害，不会影响公共决策的公平性。（）4.根据我国2025年施行的《人工智能安全风险评估规范》，高风险AI系统在部署前应当完成第三方安全评估并向监管部门备案。（）5.具身智能机器人的“工具性伤害”是指机器人因被作为工具使用而造成的伤害，其责任完全由使用者承担。（）6.生成式AI训练数据如果来自公开网络，就不需要承担数据合规责任。（）7.AI伦理中的“责任归属原则”要求，AI系统的开发者、部署者、使用者应当根据各自过错承担相应的伦理与法律责任。（）8.大模型的隐私泄露风险仅存在于训练阶段，推理阶段不会发生隐私泄露。（）9.自动驾驶汽车的“电车难题”是AI伦理中的经典困境，其核心是当事故不可避免时如何选择伤害对象的价值判断问题。（）10.全球AI治理应当坚持“技术先行、监管后置”的原则，避免监管阻碍AI技术创新。（）【判断题参考答案】1.√2.√3.×4.√5.×6.×7.√8.×9.√10.×（解析：第3题，算法偏见会渗透到司法、教育、公共服务等公共决策领域，直接影响公共资源分配的公平性；第5题，若伤害由机器人设计缺陷导致，研发生产方需承担主要责任，并非完全由使用者承担；第8题，推理阶段的成员推断攻击、数据提取攻击等均可泄露训练数据中的隐私信息；第10题，当前全球AI治理坚持“发展与安全并重”原则，推动监管与创新协同推进，而非监管后置。）四、简答题（共4题，每题10分，共40分）1.请简述2026年我国人工智能安全治理的“三层级监管体系”核心内容。参考答案：我国2025年正式构建、2026年全面落地的人工智能安全治理三层级监管体系，是适配AI技术迭代与产业落地的分级分类监管框架，核心内容包括：（1）顶层法规约束层：以2026年正式施行的《中华人民共和国人工智能法》为核心，配套《生成式人工智能服务管理规定》《智能网联汽车道路运输安全管理条例》《AI算法推荐管理规定（修订版）》等行政法规，明确AI研发、部署、应用全生命周期的法定责任与义务，划定AI应用的禁止性边界，对高风险AI系统实施准入管理，违法最高可处上一年度营业额10%的罚款。（3分）（2）中间标准规范层：由国家市场监管总局、国家网信办联合发布的27项AI安全系列国家标准构成，包括《人工智能安全风险评估规范》《生成式人工智能服务安全基本要求》《AI算法公平性测评指南》《具身智能机器人安全要求》等强制性或推荐性标准，细化不同场景、不同风险等级AI系统的技术安全、伦理合规具体指标，为企业合规与监管执法提供可操作的技术依据。（3分）（3）底层主体责任层：明确AI研发企业、部署使用单位的主体责任，要求年营收超过1亿元或用户规模超过1000万的AI服务企业设立独立的AI安全与伦理委员会，建立内部安全审查机制，对高风险AI系统实施全流程风险管控，配备专门的安全管理人员，每半年向监管部门报送安全评估报告；同时建立公众投诉举报渠道，鼓励社会监督，形成多元共治的底层支撑。（4分）2.请列举生成式大模型的三类典型安全漏洞，并说明其危害。参考答案：生成式大模型的安全漏洞覆盖训练、推理、部署全流程，以下三类为2025年国家网信办《大模型安全漏洞名录》中检出率排名前三的典型漏洞：（1）提示注入漏洞（PromptInjection）：指攻击者通过在输入内容中嵌入隐藏的恶意指令，绕过模型的安全对齐机制，诱导模型生成违反安全规范的内容，2025年国内大模型产品的该漏洞检出率达62.7%。其危害包括：诱导模型生成暴力、色情、恐怖主义等有害内容；诱导模型泄露训练数据中的商业秘密、个人隐私；被用于生成网络攻击代码、诈骗脚本等违法工具，直接危害网络安全与公共利益。（3分）（2）训练数据泄露漏洞：指大模型在训练过程中未对敏感数据进行脱敏、去重处理，攻击者可通过特定查询指令提取训练数据中的敏感信息，常见攻击方式包括成员推断攻击、数据提取攻击、训练数据重放攻击等。其危害包括：泄露用户的个人信息、医疗记录、金融数据等敏感个人信息，侵犯公民隐私权；泄露企业的商业秘密、技术文档等核心资产，损害企业利益；若涉及政务、军事等敏感数据，还可能威胁国家安全。（3分）（3）对齐逃逸漏洞：指攻击者通过越狱（Jailbreak）指令、对抗样本、多轮对话诱导等方式，突破大模型的价值观对齐与安全防护机制，使模型输出不符合人类伦理规范与法律法规的内容。与提示注入不同，对齐逃逸通常利用模型对齐训练的逻辑缺陷实现，2025年针对多模态大模型的对齐逃逸攻击成功率达41.2%。其危害包括：被用于制作深度伪造内容、传播虚假政治信息、煽动民族仇恨等，破坏意识形态安全与社会稳定；诱导未成年人形成错误价值观，危害未成年人身心健康。（4分）3.请简述AI伦理中“公平性原则”的核心内涵，以及评估AI算法公平性的三类常用指标。参考答案：（1）公平性原则的核心内涵：公平性原则是AI伦理的核心准则之一，要求AI系统的决策与输出应当避免基于种族、性别、年龄、宗教、地域、身体状况、户籍等受保护属性的偏见与歧视，确保不同群体在使用AI系统时获得公平对待，同等条件下获得同等的服务与机会，不得因非必要的个体属性差异而受到不合理的差别对待。公平性原则强调机会公平与结果公平的统一，同时允许基于公共利益、特殊群体保护的合理差别对待（如针对老年人的AI服务优化）。（4分）（2）常用的公平性评估指标：①人口统计parity（DemographicParity）：也叫统计parity，要求不同受保护群体（如男性与女性、不同种族群体）获得有利决策结果的比例基本一致。例如在招聘AI筛选系统中，男女候选人的通过率差异不应超过预设阈值（通常为5%）。该指标操作简单，但未考虑个体资质差异，适用于公共服务类AI系统的公平性初筛。（2分）②平等机会（EqualOpportunity）：要求不同受保护群体中，符合资质条件的个体获得有利决策的真阳性率（TruePositiveRate）一致。例如在贷款风控AI系统中，信用良好的男性与女性群体的贷款通过率应当基本相同。该指标更关注合格个体的公平性，是当前高风险AI系统公平性评估的核心指标之一。（2分）③均等赔率（EqualizedOdds）：要求不同受保护群体的真阳性率与假阳性率均保持一致，即不仅合格个体的通过率一致，不合格个体的被拒率也一致。该指标对公平性的要求最严格，适用于司法、医疗等高敏感场景的AI系统公平性评估。（2分）4.请简述具身智能机器人在养老服务场景应用中的主要伦理风险与防控要求。参考答案：截至2026年，我国已有超过300家养老机构引入具身智能护理机器人，其可缓解护理人员短缺问题，但也带来一系列独特的伦理风险：（1）主要伦理风险：①人格尊严侵害风险：部分养老机器人的设计未充分考虑老年人的心理需求，采用俯视视角监控摄像头、强制推送护理服务、不尊重老年人自主选择等模式，将老年人视为“护理对象”而非独立人格主体，损害老年人的人格尊严与自主决定权。（2分）②隐私泄露风险：养老机器人通常配备摄像头、麦克风、生命体征监测传感器等设备，可采集老年人的面部、语音、健康数据、生活习惯等高度敏感个人信息，若数据存储、传输、处理不当，极易造成隐私泄露，甚至被用于针对老年人的诈骗活动。（2分）③情感替代风险：长期与机器人交互可能导致老年人减少与真人的社交接触，产生情感依赖，甚至将机器人视为家庭成员，当机器人出现故障、更新换代时，可能对老年人造成心理创伤，违背养老服务的人文关怀本质。（2分）④责任归属模糊风险：若机器人在护理过程中造成老年人受伤，责任可能在研发企业、养老机构、运维人员之间相互推诿，老年人的合法权益难以得到保障。（1分）（2）防控要求：①坚持“以人为本”的设计原则，充分尊重老年人的自主选择权，所有护理服务需获得老年人或其监护人的同意，机器人的交互方式需符合老年人的心理与认知特点，保障人格尊严。（1分）②严格落实数据安全要求，对老年人的敏感个人信息进行端侧加密存储与匿名化处理，明确数据使用范围不得超出养老服务的必要限度，每季度开展一次数据安全审计。（1分）③建立人机协同的养老服务模式，明确机器人仅为辅助工具，核心护理服务与情感关怀需由专业护理人员提供，禁止机器人完全替代人际交互。（1分）五、案例分析题（共2题，每题15分，共30分）案例一：2026年3月，某头部短视频平台上线AI生成“数字人复刻”功能，用户只需上传3张本人正面照片，即可生成与本人容貌、声音高度相似的数字人，用于制作短视频内容。该功能上线后，有大量用户上传他人照片生成数字人，制作恶搞视频、虚假代言广告，甚至冒充他人进行直播诈骗。此外，有媒体测试发现，该平台未对生成的数字人视频添加任何AI标识，普通用户难以分辨内容是否为AI生成。请结合我国AI监管相关规定与AI伦理准则，回答以下问题：（1）该平台的AI数字人复刻功能存在哪些安全与伦理问题？（2）监管部门应当对该平台采取哪些监管措施？参考答案：（1）存在的安全与伦理问题（8分）：①未履行生物识别信息保护义务：该功能允许用户上传他人照片生成数字人，未核验上传者是否为照片本人或获得本人书面授权，违反了《个人信息保护法》《生成式人工智能服务管理规定》中关于处理个人生物识别信息需获得单独同意的要求，直接侵犯公民肖像权、人格权。截至2026年5月，该功能已涉及侵权投诉超2.3万件。（2分）②未落实AI生成内容标识要求：根据我国强制性国家标准《生成式人工智能服务安全基本要求》，生成式AI服务提供者应当对生成的音视频内容添加显性与隐性双重标识，便于公众识别与溯源。该平台未添加任何标识，导致虚假内容难以甄别，为虚假信息传播、诈骗活动提供了便利，违反了标识管理规定。（2分）③安全防护机制缺失：该功能未设置内容安全审核与风险拦截机制，对生成的恶搞、诈骗、虚假广告等有害内容未进行有效拦截，未尽到内容治理的主体责任，极易被用于实施违法犯罪活动，危害网络空间秩序与公众财产安全。（2分）④违反AI伦理核心原则：未经他人同意生成其数字人用于商业或恶意用途，严重损害他人人格权益，违背AI伦理中的“尊重人格”“无害使用”原则，破坏数字空间的公序良俗。（2分）（2）监管部门可采取的措施（7分）：①责令立即整改：要求平台立即下线该功能的公开使用权限，对现有问题进行全面整改，补充人脸身份核验机制、生成内容全量审核机制、AI内容双重标识机制，整改完成并经第三方安全评估合格前不得重新上线。（2分）②行政处罚：依据《生成式人工智能服务管理规定》《个人信息保护法》《网络安全法》等法律法规，对平台处以违法所得5倍以上10倍以下罚款，无违法所得或违法所得不足100万元的，处100万元以上1000万元以下罚款；情节严重的，可责令暂停相关业务、停业整顿，同时对直接负责的主管人员和其他直接责任人员处10万元以上100万元以下罚款。（2分）③公开通报与信用惩戒：对该平台的违法违规行为进行全国公开通报，警示其他AI服务提供者落实主体责任；同时将该平台的违法信息纳入企业信用档案，限制其参与政府采购、公共服务项目合作。（1分）④跟踪复查与重点监管：要求平台每10天报送一次整改情况，监管部门对整改效果进行现场复查，确保问题彻底解决；同时将该平台纳入重点监管对象，将日常检查频次从每年2次提升至每季度1次，持续监督其合规运营。（2分）案例二：2026年5月，某三甲医院上线AI辅助诊疗系统，该系统基于多模态大模型训练，可根据患者的病史、检查报告给出诊断意见与治疗方案。该医院在宣传中称“AI诊断准确率达99%，优于普通临床医生”，因此大量患者直接要求AI为自己诊疗，部分医生也将诊断工作完全交给AI系统。2026年7月，一名患者因AI系统漏诊早期肺癌，错过了最佳治疗时间，患者家属要求医院承担责任，医院则称诊断由AI作出，应当由AI研发企业承担责任。请结合AI医疗相关监管规定与伦理准则，分析该事件中的责任归属与存在的问题。参考答案：（1）责任归属（7分）：根据我国《人工智能医用软件产品分类界定指导原则（2025修订版）》《医疗机构管理条例》《医疗事故处理条例》相关规定，该事件的责任主体为涉事医院，AI研发企业承担相应的连带责任，具体分析如下：①医院承担主要责任：AI辅助诊疗系统的法定定位是“辅助诊疗工具”，而非独立的诊疗主体，最终诊断与治疗决策权应当由执业医师行使。该医院未明确AI的辅助定位，违规允许甚至通过宣传误导患者直接使用AI诊疗，部分医生放弃履职将诊断工作完全交给AI，未履行医师的审核义务，违反了诊疗规范，存在明显过错，应当对患者的漏诊承担70%左右的主要赔偿责任。（3分）②AI研发企业承担连带责任：若经第三方检测，AI系统本身存在性能缺陷，肺癌早期漏诊率超出医疗器械行业标准规定的5%阈值，或研发企业未如实告知系统的局限性、适用范围，存在夸大准确率的虚假宣传，研发企业应当承担30%左右的连带责任，赔偿比例根据其过错程度确定。（2分）③涉事医生的内部责任：若存在医生未履行审核义务、完全依赖AI诊断的情况，医院在向患者赔偿后，可向涉事医生追偿部分损失，并给予相应的内部处分。（2分）（2）事件中暴露出的问题（8分）：①医院层面：一是未落实AI医疗应用的管理规范，未建立AI辅助诊疗的使用流程与医师审核制度，违规允许AI独立开展诊疗活动；二是虚假宣传，夸大AI系统的诊断准确率，误导患者与医务人员，违反了医疗广告管理相关规定；三是未履行知情告知义务，未向患者充分说明AI辅助诊疗的性质、局限性、风险等信息，未获得患者的知情同意。（4分）②研发企业层面：一是未在产品说明书与培训材料中明确标注AI系统的适用范围、局限性与漏诊风险，未尽到安全提示义务；二是对医院的违规宣传与使用行为未进行必要的提醒与约束，未尽到合作方管理责任；三是产品宣传存在夸大准确率的问题，违反了公平竞争与消费者权益保护相关规定。（2分）③监管层面：反映出当前AI医疗产品落地后的使用监管存在漏洞，卫生健康部门未对医疗机构的AI使用流程进行有效监督，医疗机构的AI诊疗操作规范不明确，导致违规使用行为未被及时发现与纠正。（2分）六、论述题（共1题，20分）请结合2026年全球AI技术发展与治理现状，论述如何构建“技术-制度-伦理”三位一体的人工智能安全治理体系。参考答案：2026年，生成式AI向多模态、具身化、通用化方向加速迭代，全球大模型参数规模最高突破10万亿级，具身智能机器人开始进入工业、民生、公共服务等120余个细分场景，AI技术的通用性与渗透性大幅提升，同时安全风险也呈现出跨领域、连锁性、隐蔽性的特点。传统的单一技术防护或单一监管模式已难以适配AI的快速发展，构建“技术-制度-伦理”三位一体的治理体系，是实现AI安全可控、高质量发展的核心路径。（3分）一、以技术创新筑牢AI安全的底层支撑技术是AI安全治理的基础，只有突破核心安全技术，才能从根源上防控AI风险。一是要强化AI对齐技术研发，加大对大模型价值观对齐、多智能体目标对齐、具身智能行为对齐等核心技术的投入，建立覆盖预训练、微调、推理全流程的对齐技术框架，使AI系统的行为始终符合人类价值观与安全规范。根据2025年全球AI安全技术报告，当前对齐技术的成熟度仅为37%，仍有大量技术瓶颈需要突破，各国应加大基础研究投入，支持科研机构与企业开展联合攻关，我国已将AI对齐技术纳入“十四五”人工智能重大专项的核心研发方向。（3分）二是要完善AI安全技术工具链，研发标准化的AI安全测试、风险评估、漏洞检测工具，推广红队测试、红蓝对抗等安全验证机制，提升AI系统的抗攻击能力与风险抵御能力。例如针对大模型的提示注入、隐私泄露等常见漏洞，建立自动化的漏洞检测与修复工具，将安全防护嵌入AI研发的全生命周期，实现“安全左移”，从设计阶段就规避安全风险。（2分）三是要发展可信AI技术，推进可解释AI、公平性AI、隐私计算等技术的落地应用，提升AI系统的透明度、公平性与数据安全性，让AI的决策过程可追溯、可解释、可审计，为监管与伦理审查提供技术支撑。（2分）二、以制度建设构建AI安全的监管框架制度是AI安全治理的保障，只有建立健全分级分类、全流程的监管制度，才能明确各方责任，规范AI研发与应用行为。一是要完善AI法律法规体系，加快出台专门的人工智能法，明确AI研发者、部署者、使用者的权利义务，划定AI应用的禁止性边界，对高风险AI系统实施准入管理、安全评估、责任追溯等制度，同时完善数据安全、个人信息保护、