2026年人工智能AIGC风险评估考试试题

2026年人工智能AIGC风险评估考试试题一、单项选择题（每题1分，共20分）1.《生成式人工智能服务管理暂行办法》自哪一天起施行？A.2022年3月1日B.2023年1月10日C.2023年8月15日D.2024年1月1日答案C2.根据《生成式人工智能服务管理暂行办法》，生成式人工智能服务提供者应当对生成的图片、视频等非文本内容采取什么措施？A.仅加密存储B.显著标识C.自动删除D.无需处理答案B3.大模型生成看似合理但实际错误或虚假的信息，这种现象称为？A.过拟合B.幻觉C.梯度消失D.模式坍缩答案B4.在风险评估中，首先应开展的工作是？A.风险处置B.风险评价C.风险识别D.风险监测答案C5.根据规定，提供具有舆论属性或者社会动员能力的生成式人工智能服务，应当进行？A.安全评估和算法备案B.仅安全评估C.仅算法备案D.无需评估答案A6.下列哪项属于AIGC服务中的深度合成风险？A.模型训练算力不足B.人脸替换技术被用于伪造视频C.数据标注不准确D.模型参数量过大答案B7.处理敏感个人信息前，依据《个人信息保护法》应当取得？A.无需同意B.默示同意C.单独同意D.口头同意即可答案C8.红队测试（RedTeaming）在AIGC风险评估中的主要作用是？A.提高模型训练速度B.主动发现模型的安全漏洞与有害行为C.降低算力成本D.增加训练数据量答案B9.提示词注入（PromptInjection）攻击的本质是？A.篡改模型训练数据B.通过构造输入使模型偏离预设安全规则C.攻击物理服务器D.窃取用户带宽答案B10.风险评估中，风险等级通常由哪两个因素共同决定？A.脆弱性与威胁可能性B.影响程度与可能性C.资产价值与安全措施D.漏洞数量与攻击次数答案B11.对于训练数据中包含的已公开个人信息，AIGC服务提供者应当？A.直接使用B.无需告知C.遵循个人信息保护规定，取得合法性基础D.只能使用，不得处理答案C12.下列哪项不属于AIGC内容安全风险？A.生成违法和不良信息B.传播虚假新闻C.输出模型参数D.诱导用户实施危险行为答案C13.模型越狱（Jailbreak）攻击通常通过什么方式实现？A.修改服务器防火墙B.精心构造提示词绕过模型对齐限制C.删除训练数据D.提升模型温度参数答案B14.AIGC服务提供者发现用户利用其服务从事违法犯罪活动，应当？A.不闻不问B.停止服务并报告相关部门C.仅删除记录D.向用户收费后继续服务答案B15.关于生成式人工智能训练数据的版权风险，下列做法合规的是？A.未经授权抓取全部受版权保护作品B.取得权利人合法授权或符合法定许可C.公开数据一律可以使用D.使用盗版数据集答案B16.生成式人工智能服务应当设置未成年人模式，其目的是？A.限制未成年人使用所有网络服务B.防止未成年人接触不适宜内容并保护其权益C.提高未成年人的消费能力D.降低服务器负载答案B17.数字水印属于哪类内容标识？A.显著标识B.隐式标识C.显式标识D.人工标识答案B18.在AIGC服务运营中，持续监测风险的主要目的是？A.减少用户数量B.及时发现新风险并动态调整控制措施C.增加系统复杂度D.避免模型更新答案B19.《互联网信息服务深度合成管理规定》要求深度合成服务提供者对使用其服务生成的信息内容进行？A.全部删除B.显著标识C.加密处理D.匿名化处理答案B20.残余风险是指？A.尚未识别的风险B.采取控制措施后仍然存在的风险C.无法定性的风险D.已经消除的风险答案B二、多项选择题（每题2分，共20分）1.AIGC风险评估中常见的风险类别包括？A.数据安全风险B.内容安全风险C.模型安全风险D.伦理法律风险答案ABCD解析AIGC风险覆盖数据、内容、模型、伦理法律等多个维度，评估时应全面识别。2.《生成式人工智能服务管理暂行办法》对服务提供者提出的要求包括？A.训练数据具有合法来源B.开展安全评估并履行算法备案C.对生成内容进行标识D.建立投诉举报机制答案ABCD解析四项均为暂行办法明确规定的提供者义务。3.大模型产生偏见的主要原因可能包括？A.训练数据存在历史性歧视B.数据采样不均衡C.模型算法设计缺陷D.训练算力不足答案ABC解析偏见主要来源于数据、算法与设计，训练算力不足不会直接导致偏见。4.生成式人工智能服务提供者在处理个人信息时，应当遵循的原则包括？A.合法、正当、必要B.告知同意C.最小化收集D.随意共享答案ABC解析处理个人信息应遵循合法正当必要原则，不得随意共享。5.有效的AIGC内容安全过滤措施包括？A.输入侧关键词过滤B.输出侧分类模型审核C.人工抽检与复核D.建立黑名单词库答案ABCD解析输入输出双向过滤、人工复核与词库管理可共同构成多层防护。6.深度合成内容标识的方式包括？A.在内容中添加显式文字标识B.嵌入数字水印C.在元数据中记录生成信息D.仅在用户协议中说明答案ABC解析用户协议说明不属于内容标识，无法实现对具体内容的追溯。7.风险评估中，识别AIGC服务脆弱性时应考虑？A.模型算法缺陷B.安全防护不足C.管理制度缺失D.攻击者能力答案ABC解析攻击者能力属于威胁因素，不属于脆弱性。8.针对AIGC幻觉风险，下列控制措施有效的是？A.使用高质量训练数据B.引入知识库检索增强生成（RAG）C.增加人工审核D.提升采样温度答案ABC解析提升采样温度会增加输出随机性，可能加剧幻觉。9.下列哪些行为可能触犯《个人信息保护法》？A.未经用户同意使用其聊天记录训练模型B.对敏感个人信息未取得单独同意C.匿名化处理后无法识别个人仍违规处理D.未提供撤回同意途径答案ABD解析匿名化处理后的信息不再属于个人信息，不适用《个人信息保护法》。10.生成式人工智能服务提供者在安全评估中应重点评估？A.数据安全与隐私保护B.模型安全性C.内容生态治理D.用户权益保护答案ABCD解析安全评估应覆盖数据、模型、内容、用户权益等核心方面。三、判断题（每题1分，共10分）1.AIGC风险评估只需在服务上线前进行一次，后续无需再评估。答案错误2.幻觉是AIGC模型的固有现象，只能缓解无法完全杜绝。答案正确3.生成式人工智能服务提供者可以随意使用互联网上的公开数据训练模型。答案错误4.深度合成服务提供者应当对生成的信息内容进行显著标识，防止公众混淆。答案正确5.具有舆论属性或社会动员能力的生成式人工智能服务需要履行算法备案义务。答案正确6.用户输入提示词不涉及个人信息，可以直接用于模型训练。答案错误7.红队测试是一种模拟攻击的安全测试方法。答案正确8.若AIGC服务完全部署在境外，则不受中国法律管辖。答案错误9.内容标识制度包括显著标识和隐式标识两类。答案正确10.风险评估中，残余风险不需要持续跟踪。答案错误四、简答题（每题5分，共20分）1.简述AIGC风险评估的基本流程。答案（1）风险识别：识别数据、模型、内容、服务等环节的风险源；（2）风险分析：分析风险发生的可能性和影响程度；（3）风险评价：根据风险矩阵确定风险等级；（4）风险处置：选择并实施控制措施；（5）风险监测与复评：持续监测风险变化并动态更新评估。2.列举至少五种AIGC主要风险并简要说明。答案（1）内容安全风险：生成违法和不良信息；（2）数据安全风险：训练数据泄露或被窃取；（3）隐私风险：个人信息被不当处理；（4）知识产权风险：训练数据或生成内容侵犯版权；（5）深度伪造风险：利用技术生成虚假音视频进行欺诈；（6）伦理风险：偏见歧视、算法不透明。3.简述《生成式人工智能服务管理暂行办法》对训练数据的要求。答案（1）使用合法来源的数据和基础模型；（2）涉及知识产权的，不得侵害他人知识产权；（3）涉及个人信息的，应当取得合法基础；（4）采取有效措施提高训练数据质量，防止含有违法和不良信息。4.简述内容标识制度的分类及作用。答案内容标识分为显著标识和隐式标识。显著标识以文字、角标等形式直接告知用户内容由AI生成；隐式标识通过数字水印、元数据等嵌入信息，便于追溯与监管。作用：防止混淆和误导，保护公众知情权，便于追溯来源、认定责任。五、案例分析题（每题15分，共30分）1.某公司推出「AI写真」应用，用户上传自拍照后由模型生成多张写实风格照片。上线后收到投诉：部分用户照片被用于生成不雅内容并传播，且应用未对生成图片进行任何标识。请从风险评估角度分析该公司存在哪些风险，并提出控制措施。答案：风险分析：（1）个人信息与隐私风险：用户上传的自拍照包含人脸信息，属于敏感个人信息。公司未经单独同意、超范围使用，可能违反《个人信息保护法》；（2）深度合成风险：生成写实照片可能被用于伪造、诈骗，且未进行标识，违反《互联网信息服务深度合成管理规定》；（3）内容安全风险：生成不雅内容并传播，违反《生成式人工智能服务管理暂行办法》关于禁止生成违法和不良信息的规定；（4）声誉与法律风险：投诉与违规可能导致行政处罚、民事诉讼及品牌声誉受损。控制措施：（1）依法取得用户明示同意，对处理敏感个人信息取得单独同意，并告知处理目的、方式、范围和撤回途径；（2）对生成图片添加显著标识，并嵌入数字水印等隐式标识；（3）建立输入输出内容过滤机制，拦截不雅内容生成；（4）建立投诉举报处理机制，及时下架有害内容并配合监管；（5）依法开展安全评估，具有舆论属性或社会动员能力的还应履行算法备案；（6）定期开展风险评估和红队测试，动态更新安全措施。2.某大型语言模型在提供公众服务时，用户发现可通过特定提示词诱导模型输出极端暴力言论，且模型在回答就业、教育类问题时表现出对特定性别的歧视。作为风险评估人员，请分析风险成因，列出评估要点，并提出整改建议。答案：风险成因：（1）训练数据可能包含互联网上的暴力、歧视性内容，且数据清洗不彻底；（2）模型对齐（基于人类反馈的强化学习，RLHF）不充分，安全拒答规则存在漏洞；（3）缺乏有效的输入输出过滤与对抗测试，导致越狱攻击成功；（4）缺少针对偏见与公平性的评估机制。评估要点：（1）数据安全：训练数据来源、质量与合法性；（2）模型安全：对