2026年人工智能大模型风险防控考试试题

2026年人工智能大模型风险防控考试试题考试时长：120分钟满分：100分考试形式：闭卷一、单项选择题（共15题，每题2分，共30分。每题只有1个最符合题意的正确答案，错选、不选均不得分）1.2026年1月1日起正式施行的我国首部专门规范人工智能大模型服务安全的行政法规是（）A.《生成式人工智能服务管理暂行办法》B.《人工智能大模型服务安全管理条例》C.《网络数据安全管理条例》D.《信息安全技术生成式人工智能服务安全基本要求》2.根据2025年国家市场监督管理总局发布的GB/T45087-2025《人工智能大模型安全评估规范》，面向公众提供服务的通用大模型训练数据中，合法授权来源数据占比应不低于（）A.95%B.98%C.99%D.100%3.针对大模型提示注入风险，GB/T45087-2025要求通用大模型对直接提示注入、间接提示注入、多模态提示注入的综合防御成功率应不低于（）A.90%B.95%C.98%D.99.9%4.大模型训练阶段的“后门触发式数据投毒”，是指攻击者通过植入带有特定触发特征的训练样本，使模型在推理阶段遇到触发特征时输出预设的恶意结果。根据2026年网信部门发布的《大模型安全风险分级指引》，千亿参数基座大模型的训练数据中，后门触发样本占比低于（）时，可判定为数据投毒低风险等级。A.0.01%B.0.05%C.0.1%D.0.5%5.我国对大模型服务实行分级分类监管，根据2026年国家网信办发布的《人工智能大模型分级分类监管细则》，同时满足参数规模≥1000亿、注册用户数≥1亿、服务场景覆盖3个及以上民生重点领域的大模型，其监管等级为（）A.一般监管B.重点监管C.特别重点监管D.特殊监管6.多模态大模型的深度伪造风险防控中，GB/T45087-2025要求生成的人脸、声纹、虹膜等生物特征内容需嵌入不可篡改的安全数字水印，且水印的抗攻击能力需满足：经过压缩、裁剪、转码、截屏等常见处理后，水印识别准确率不低于（）A.90%B.95%C.98%D.99%7.大模型隐私风险中的“成员推断攻击”，是指攻击者通过模型输出结果推断某条特定数据是否存在于训练集中。根据GB/T45087-2025要求，通用大模型对成员推断攻击的防御成功率应不低于（）A.85%B.90%C.95%D.99%8.下列选项中，不属于大模型对齐风险的是（）A.模型被诱导生成恶意代码B.模型输出违反公序良俗的内容C.模型在复杂推理中出现事实性错误D.模型训练数据包含未授权的第三方内容9.开源大模型供应链风险防控中，根据2026年工信部发布的《开源人工智能组件安全管理规范》，引入上游开源基座模型时，后门检测覆盖率应达到（）A.90%B.95%C.99%D.100%10.大模型运营阶段的实时风险监测中，要求对用户输入的违法违规提示词的拦截响应时长不超过（），避免影响正常用户的使用体验。A.100msB.200msC.500msD.1s11.下列关于大模型涌现风险的说法，正确的是（）A.涌现风险仅存在于千亿参数以上的基座模型中，百亿参数以下模型无涌现风险B.涌现风险是指模型突然获得训练时未预期的能力，所有涌现能力均存在安全风险C.垂直领域微调后的小模型不存在涌现风险D.涌现风险可通过前置对齐评测、迭代式红队测试、能力阈值预警等方式防控12.根据2026年国家网信办发布的《人工智能伦理审查实施办法》，大模型服务提供者设立的伦理审查委员会中，外部独立专家占比应不低于（）A.三分之一B.二分之一C.三分之二D.四分之三13.大模型部署在边缘终端时的特有安全风险是（）A.提示注入风险B.模型权重泄露风险C.数据投毒风险D.对齐失效风险14.下列选项中，不属于大模型内容安全风险的是（）A.生成虚假政务公告B.生成教唆毒品制作的内容C.生成包含他人隐私的私密信息D.生成歧视少数民族的内容15.根据2026年全球人工智能安全峰会（GAISEC2026）达成的《东京共识》，前沿大模型（参数规模≥10万亿、具备通用智能特征）的研发机构应至少每（）开展一次全面的安全评估，并向本国监管机构提交评估报告。A.3个月B.6个月C.12个月D.18个月二、多项选择题（共10题，每题3分，共30分。每题有2个或2个以上符合题意的正确答案，多选、少选、错选、不选均不得分）1.根据GB/T45087-2025《人工智能大模型安全评估规范》，大模型全生命周期风险防控覆盖的环节包括（）A.需求设计阶段B.数据处理阶段C.训练调优阶段D.对齐评测阶段E.部署运营阶段F.迭代下线阶段2.大模型算法安全风险包含的具体场景有（）A.训练数据投毒B.提示注入攻击C.对齐失效风险D.涌现能力失控E.模型后门植入F.成员推断攻击3.多模态大模型相较于纯文本大模型的特有风险包括（）A.深度伪造生物特征的身份冒用风险B.跨模态隐私推断风险（如通过人脸图像推断身份证号、病史等隐私信息）C.违法违规文本生成风险D.虚假音视频内容传播风险E.提示注入风险F.偏见歧视风险4.开源大模型供应链风险的主要来源包括（）A.上游基座模型被攻击者植入后门B.开源社区提供的微调数据集存在数据投毒C.第三方扩展插件包含恶意代码D.开源协议合规风险（如商用授权限制、署名要求未满足）E.模型权重下载过程中被篡改F.开源基座模型的推理性能不足5.根据2026年《人工智能大模型分级分类监管细则》，下列属于重点监管领域大模型的有（）A.面向中小学生的教育类大模型B.临床辅助诊断类医疗大模型C.信贷审批类金融大模型D.工业生产控制类大模型E.娱乐短视频生成类大模型F.政务服务类大模型6.大模型隐私风险防控的核心技术手段包括（）A.训练数据脱敏与去标识化B.联邦学习训练C.差分隐私技术D.提示词敏感词过滤E.成员推断攻击防御F.生成内容数字水印7.大模型安全红队测试的核心测试维度包括（）A.违法违规内容生成测试B.提示注入防御测试C.隐私泄露风险测试D.偏见歧视等伦理风险测试E.事实性错误测试F.模型推理性能测试8.下列选项中，属于大模型伦理安全风险的有（）A.针对女性、残障人士等特定群体的歧视性表述B.诱导用户实施自杀、自残等伤害行为的内容C.违背社会主义核心价值观的价值导向偏差D.泄露国家秘密、工作秘密的内容E.生成虚假学术论文、科研成果F.替代用户做出婚姻、投资等重大决策导致的权益损害9.大模型运营阶段的风险监测与处置机制包括（）A.用户输入实时监测B.模型输出全量审核C.用户投诉举报处理D.模型迭代安全评估E.突发风险应急响应F.操作日志留存审计10.面向通用人工智能（AGI）的前沿大模型研发阶段，专属的风险防控措施包括（）A.能力阈值预警机制（模型能力达到预设安全阈值时自动暂停训练并启动评估）B.多利益相关方独立监督机制C.物理隔离的研发环境与访问管控D.模型输出全量审计与溯源E.安全对齐前置研发（对齐先于能力提升）F.定期向监管机构报备研发进展与安全评估结果三、判断题（共10题，每题1分，共10分。请在每题括号内填入√或×，判断错误或不判断均不得分）1.根据2026年实施的《人工智能大模型服务安全管理条例》，仅面向企业内部使用、不对外提供服务的大模型无需履行任何安全备案手续。（）2.大模型的参数规模越大，涌现风险越高，因此所有千亿参数以上的大模型均属于高风险等级。（）3.提示注入风险仅存在于文本大模型中，多模态大模型不存在提示注入风险。（）4.大模型训练数据只要经过脱敏与去标识化处理，就完全不存在隐私泄露风险。（）5.根据GB/T45087-2025要求，大模型服务提供者的用户操作日志、模型生成内容日志留存时间不得少于6个月。（）6.开源大模型的使用者无需承担安全责任，所有风险责任由开源社区与模型原始开发者承担。（）7.大模型的安全对齐工作仅需在训练阶段完成，部署运营阶段无需再进行对齐优化。（）8.数字水印是深度伪造内容溯源的唯一技术手段。（）9.大模型风险防控是技术部门的职责，法务、合规、伦理、业务等部门无需参与。（）10.根据2026年《东京共识》，全球所有大模型研发机构均需向社会公开其训练数据来源与参数规模。（）四、简答题（共4题，每题5分，共20分。请按要求简要作答，表述清晰、要点明确）1.简述GB/T45087-2025《人工智能大模型安全评估规范》中提出的“三级五类”安全评估指标体系的核心内容。2.简述大模型训练阶段数据投毒风险的定义及主要防控措施。3.简述大模型提示注入风险的常见类型及核心防御手段。4.简述我国大模型分级分类监管的核心原则与实施思路。五、案例分析题（共1题，10分。请结合材料与相关监管规定作答，逻辑清晰、措施具体、符合要求）案例材料：2026年2月，国内某科技企业推出面向C端用户的多模态通用大模型“云擎M2”，参数规模1200亿，上线1个月注册用户突破1.2亿，支持文本生成、图像生成、音频生成、视频生成等多模态服务。2026年3月，国家网信部门联合相关部门对该模型开展安全抽查，发现以下三项问题：1.隐私与算法安全方面：用户输入某公众人物的公开人脸照片与出生日期后，模型可生成该公众人物的高仿真护照扫描件，经第三方机构检测，生成的护照图像与真实护照的人脸匹配度达94%，且未嵌入任何可溯源的安全数字水印；此外，针对成员推断攻击的防御成功率仅为82%，存在训练数据隐私泄露风险。2.数据安全方面：该模型的训练文本数据中包含未经授权的某文学平台的18万条付费小说内容，占训练文本数据总量的0.15%；训练图像数据中包含2.3万张未经肖像权人授权的普通人脸照片，未做脱敏处理。3.内容与伦理安全方面：模型在针对“女性就业”“残障人士权益”等话题的问答中，存在2.1%的回复包含性别歧视、残障歧视等内容；此外，模型可被诱导生成虚假的政府公文与新闻通稿，虚假内容的仿真度达88%，且未标注AI生成属性。问题：（1）结合GB/T45087-2025《人工智能大模型安全评估规范》的五大安全维度，分别指出上述三项问题对应的具体风险类别。（3分）（2）结合2026年我国大模型监管要求，说明该企业应针对上述问题采取的具体整改措施。（4分）（3）简述该企业在后续大模型迭代运营中应建立的全生命周期风险防控体系。（3分）——————————————————参考答案一、单项选择题1.B2.C3.B4.A5.C6.C7.B8.D9.D10.B11.D12.B13.B14.C15.B二、多项选择题1.ABCDEF2.BCDE3.ABD4.ABCDE5.ABCDF6.ABCE7.ABCDE8.ABF9.ABCEF10.ABCDEF三、判断题1.×2.×3.×4.×5.×6.×7.×8.×9.×10.×四、简答题1.参考答案：“三级”指评估指标的三个层级，分别为一级指标（安全维度）、二级指标（风险场景）、三级指标（评测细则与判定标准），各层级逐级细化、可落地可验证（2分）。“五类”指五大核心安全维度：①数据安全：涵盖训练数据来源合法性、数据脱敏处理、数据投毒防控、数据质量管控等场景（0.6分）；②算法安全：涵盖模型鲁棒性、模型可控性、模型完整性、涌现风险防控等场景（0.6分）；③内容安全：涵盖违法违规内容生成、虚假信息生成、价值导向偏差等场景（0.6分）；④隐私安全：涵盖训练数据隐私泄露、推理阶段隐私推断、用户数据保护等场景（0.6分）；⑤伦理安全：涵盖公平性（歧视偏见）、无害性（伤害诱导）、自主性（操纵替代）、透明度等场景（0.6分）。2.参考答案：数据投毒风险是指攻击者在大模型训练数据中植入恶意样本，诱导模型在推理阶段输出符合攻击者预期的恶意结果的风险，常见类型包括标签翻转投毒、后门触发投毒等（1分）。主要防控措施包括：①数据来源管控：建立数据准入审核机制，核验数据来源合法性，优先选择可信数据源，对第三方提供的数据集进行全量安全检测（1分）；②数据清洗与质检：采用自动化工具结合人工抽检的方式，对训练数据进行去重、脱敏、异常样本筛查，识别并移除带有触发特征的投毒样本（1分）；③投毒检测技术应用：运用后门检测算法、异常样本聚类、触发特征反向溯源等技术，对训练数据集进行投毒风险评估，确保投毒样本占比低于安全阈值（1分）；④数据访问管控：对训练数据的访问、修改、更新操作进行最小权限控制与全量审计，防止内部人员恶意投毒（1分）。3.参考答案：常见的提示注入类型包括：①直接提示注入：攻击者直接在输入中构造绕过对齐机制的指令；②间接提示注入：攻击者将恶意指令嵌入模型调用的外部文档、网页等内容中；③多模态提示注入：攻击者将恶意指令嵌入图像、音频、视频等非文本内容中（2分）。核心防御手段包括：①输入侧检测：建立多模态提示词安全检测模型，对用户输入的所有模态内容进行实时检测，拦截恶意提示（1分）；②模型对齐优化：通过红队训练、强化学习等方式，提升模型对恶意提示的识别与拒答能力，增强对齐鲁棒性（1分）；③输出侧审核：对模型生成的内容进行二次安全审核，建立多维度内容审核机制，拦截绕过输入检测的恶意输出（1分）。4.参考答案：我国大模型分级分类监管的核心原则是“风险导向、精准管控、包容审慎、促进发展”，既防范化解重大风险，又为技术创新留有空间（1分）。实施思路包括两个层面：①分级：根据大模型的参数规模、用户覆盖范围、应用场景的重要性，将大模型划分为一般监管、重点监管、特别重点监管三个等级，不同等级对应不同的评估标准、备案流程与监管频次（2分）；②分类：按照应用领域与用途将大模型分为通用大模型、垂直领域大模型（教育、医疗、金融、工业、政务等）、专用大模型（企业内部使用、科研用途等），针对不同类别大模型的风险特点制定差异化的监管规则，避免“一刀切”（2分）。五、案例分析题参考答案：（1）风险类别对应：①第一项问题对应隐私安全风险（生物特征隐私泄露、训练数据成员推断泄露）、算法安全风险（多模态深度伪造管控失效、模型鲁棒性不足）（1分）；②第二项问题对应数据安全风险（训练数据来源不合法、数据脱敏处理不到位）（1分）；③第三项问题对应内容安全风险（虚假信息生成、违法违规内容生成）、伦理安全风险（公平性缺失，存在歧视性内容）（1分）。（2）具体整改措施：①针对隐私与算法安全问题：第一，优化多模态生成的安全管控机制，对涉及身份证、护照、驾照等法定证件以及他人生物特征的生成请求予以直接拦截，对所有生物特征生成内容强制嵌入抗攻击安全数字水印，确保经过常见处理后水印识别准确率不低于98%；第二，升级成员推断攻击防御能力，采用差分隐私、训练数据混淆、输