2026年人工智能大模型风险防控考试试题

2026年人工智能大模型风险防控考试试题一、单项选择题（每题2分，共20题，40分）1.大模型“幻觉”是指生成内容（）。A.与事实不符B.过于简短C.包含暴力D.无法理解答案A2.数据脱敏的主要目的是（）。A.提高精度B.防止隐私泄露C.加快训练D.减少参数答案B3.提示注入攻击属于（）。A.供应链攻击B.物理攻击C.对抗性攻击D.拒绝服务攻击答案C4.提供具有舆论属性或社会动员能力的生成式人工智能服务，应当（）。A.安全评估和算法备案B.工商登记C.税务登记D.版权登记答案A5.大模型“越狱”是指（）。A.绕过安全限制B.服务器逃逸C.攻击其他系统D.脱离沙箱答案A6.对抗样本攻击主要破坏模型的（）。A.可用性B.机密性C.完整性D.可控性答案C7.深度伪造最突出的风险是（）。A.生成虚假视频，误导公众B.提高清晰度C.降低成本D.节省空间答案A8.训练数据偏见可能导致模型（）。A.模型崩溃B.参数减少C.速度变慢D.歧视性输出答案D9.大模型生成内容发布前应当（）。A.申请专利B.内容审核C.注册域名D.用户同意答案B10.用户利用大模型实施违法行为，提供者应（）。A.继续服务B.警告C.停止服务并处置D.删除数据答案C11.RLHF的主要作用是（）。A.与人类价值观对齐B.加速生成C.减小体积D.增加数据答案A12.大模型记忆个人信息的主要风险是（）。A.过拟合B.推理慢C.显存大D.隐私泄露答案D13.间接提示注入通过（）实现。A.修改参数B.物理接触C.外部文档隐藏指令D.数据投毒答案C14.数据投毒发生在（）阶段。A.推理B.部署C.评估D.训练答案D15.自动化决策应保证（）。A.效率优先B.成本低C.透明度和结果公平合理D.数据可复制答案C16.免责声明的主要目的是（）。A.增加用户义务B.提高价格C.规避监管D.减轻法律责任答案D17.人工复审主要针对（）。A.所有内容B.可疑或高风险内容C.用户投诉D.安全内容答案B18.金融领域大模型应用最关键防控措施是（）。A.提高精度B.缩短时间C.人工复核机制D.降低频率答案C19.模型窃取攻击导致（）。A.性能提升B.成本增加C.数据冗余D.知识产权受损答案D20.应对公众关切应建立（）。A.投诉举报处理机制B.自动回复C.信息屏蔽D.收费机制答案A二、多项选择题（每题2分，共10题，20分）1.大模型可能引发的风险包括（）。A.生成虚假信息B.泄露隐私C.版权侵权D.算法歧视答案ABCD2.应对大模型提示注入攻击的措施有（）。A.输入过滤B.输出审查C.模型微调D.增加参数量答案ABC解析增加参数量不能直接防御提示注入，反而可能增加复杂性。输入过滤、输出审查和模型微调均可增强对恶意输入的抵抗力。3.大模型服务提供者的安全义务包括（）。A.安全评估B.算法备案C.内容审核D.用户信息保护答案ABCD4.数据脱敏的常用方法包括（）。A.去标识化B.匿名化C.加密D.随机化答案ABD解析加密属于数据保护技术，不属于数据脱敏。脱敏通常采用去标识化、匿名化、泛化、随机化等方法。5.大模型内容审核应关注哪些维度？（）A.政治有害信息B.色情暴力内容C.虚假谣言D.侵权内容答案ABCD6.模型对齐技术包括（）。A.RLHFB.RLAIFC.提示工程D.对抗训练答案AB解析RLHF（基于人类反馈的强化学习）和RLAIF（基于AI反馈的强化学习）是典型的模型对齐技术。提示工程和对抗训练主要解决任务表现和鲁棒性，不属于严格意义上的对齐。7.防止模型记忆泄露个人信息的措施有（）。A.训练数据过滤B.差分隐私C.机器遗忘D.增加模型层数答案ABC解析训练数据过滤、差分隐私和机器遗忘都能降低个人信息被记忆和泄露的风险。增加模型层数不会减少泄露，反而可能加剧过拟合。8.大模型滥用场景包括（）。A.生成钓鱼邮件B.制造谣言C.自动化网络攻击D.辅助科学研究答案ABC9.针对大模型的攻击类型有（）。A.提示注入B.数据投毒C.模型窃取D.对抗样本答案ABCD10.合规要求中，生成式AI服务提供者应当（）。A.对生成内容添加标识B.建立用户投诉机制C.定期评估风险D.无需任何审批答案ABC三、判断题（每题1分，共10题，10分）1.大模型生成的内容完全可靠，可直接用于法律文件。答案错误2.提示注入攻击只影响大模型训练阶段。答案错误3.对大模型进行数据脱敏可以减少隐私泄露风险。答案正确4.《生成式人工智能服务管理暂行办法》要求提供者承担信息安全责任。答案正确5.大模型“幻觉”无法通过任何技术手段缓解。答案错误6.模型窃取攻击通过大量查询可以复制模型功能。答案正确7.深度伪造视频属于受法律保护的言论自由，无需监管。答案错误8.内容审核中，机器审核可以完全替代人工审核。答案错误9.大模型训练数据中的偏见不会影响生成内容的公正性。答案错误10.用户在使用大模型时，应对自身输入信息的合法性负责。答案正确四、简答题（每题6分，共5题，30分）1.简述大模型“幻觉”产生的主要原因及应对策略。答案(1)主要原因：训练数据中本身存在错误或矛盾信息；模型基于概率生成，缺乏真实世界知识；解码策略可能导致不准确表述。(2)应对策略：引入检索增强生成（RAG），结合外部知识库进行事实核查；对高风险场景设置人工审核；采用约束解码或置信度阈值；持续用高质量数据微调模型。2.简述《生成式人工智能服务管理暂行办法》对服务提供者的基本要求。答案(1)遵守法律法规，尊重社会公德和伦理；(2)对生成内容进行显著标识；(3)开展安全评估，履行算法备案义务；(4)建立健全内容审核机制，防止违法信息传播；(5)保护用户个人信息，落实数据安全措施；(6)建立投诉举报处理机制，及时回应公众关切。3.什么是提示注入攻击？如何防范？答案提示注入攻击是攻击者通过精心构造的输入文本，诱导大模型执行非预期操作（如输出内部指令、泄露敏感信息、绕过安全策略等）。防范措施包括：(1)对输入内容进行过滤和清洗，识别恶意指令模式；(2)对输出内容进行审查，阻断敏感信息外传；(3)隔离外部数据与系统指令，防止外部文档中的指令被模型执行；(4)对模型进行安全微调，增强对恶意提示的鲁棒性；(5)实施权限控制，限制模型可访问的系统资源和功能。4.大模型在医疗领域应用时，主要存在哪些风险？如何防控？答案主要风险：(1)生成错误的诊断或治疗建议，导致医疗事故；(2)患者隐私数据在训练或推理过程中泄露；(3)训练数据偏见导致对特定人群的误判；(4)责任归属不明确，出现问题时难以追责。防控措施：(1)设置人工医生复核机制，AI输出仅作辅助参考；(2)对医疗数据进行严格的脱敏和加密，实施访问控制；(3)使用多样化、平衡的医疗数据集训练模型；(4)明确法律责任边界，建立医疗AI应用的监管和应急预案。5.简述大模型