基础题2025年人工智能安全试题及答案试卷

基础题2025年人工智能安全试题及答案试卷2025年人工智能安全试题（满分100分）一、单项选择题（共20题，每题2分，共40分。每题的备选项中，只有1个最符合题意）1.根据2024年12月国家互联网信息办公室修订发布的《生成式人工智能服务管理暂行办法》落地实施细则要求，2025年6月起面向公众提供服务的参数规模大于等于100B的通用大模型，其核心训练数据集的可溯源覆盖率最低需达到（）A.90%B.95%C.98%D.100%2.针对图像分类AI模型的物理域对抗样本攻击（如在交通标识上粘贴特殊扰动贴纸误导自动驾驶模型识别）属于人工智能安全风险分类中的哪一类别（）A.数据投毒风险B.对抗样本风险C.模型泄露风险D.推理窃取风险3.2025年3月我国正式实施的国内首部深度合成内容鉴别强制国家标准的编号为（）A.GB/T42808-2025B.GB42808-2025C.GB/T35273-2025D.GB35273-20254.联邦学习场景下攻击者通过梯度传递过程反推参与方本地训练数据的完整敏感信息，这类攻击属于（）A.模型投毒攻击B.成员推理攻击C.梯度泄露攻击D.对抗逃逸攻击5.根据《人工智能安全治理基本规范》要求，我国面向公众提供服务的通用大模型首次上线前必须完成的强制安全测评类型是（）A.第三方红队测试B.内部功能测试C.性能压测D.兼容性测试6.欧盟《人工智能法案》2025年5月正式生效后，以下哪类AI系统被划入最高风险等级、实施全流程准入管控（）A.电商个性化推荐AI系统B.医疗诊断辅助AI系统C.实时远程生物特征识别AI系统D.自动驾驶车载感知AI系统7.差分隐私技术中用于平衡数据可用性和隐私保护强度的核心参数“隐私预算ε”，针对民用级AI训练场景的合理取值区间通常为（）A.0~0.1B.0.1~10C.10~100D.100~10008.2025年我国监管要求面向公众开放的生成式AI服务生成涉及公共利益、公共秩序的内容时，必须嵌入不可篡改、可溯源的数字水印，水印的成功检出率不得低于（）A.95%B.97%C.99%D.100%9.针对大模型的越狱攻击中，攻击者通过构造层层递进的多轮对话引导模型绕过安全对齐规则输出违规内容，这类攻击路径属于（）A.直接提示注入B.间接提示注入C.渐进式越狱D.模型后门触发10.根据我国《生成式人工智能服务知识产权保护指引（2024版）》，由生成式AI自动生成、且无人类用户针对性创意干预的内容，其法定版权归属为（）A.生成内容的输入用户B.生成式AI服务提供者C.内容传播平台D.公有领域资源，不适用版权保护规则11.面向未成年人提供个性化学习辅导的AI服务，根据2025年实施的《未成年人网络保护条例》配套要求，其内容风险过滤准确率不得低于（）A.98%B.99%C.99.5%D.100%12.边端侧部署的AI模型可被攻击者通过逆向工程提取完整模型权重，这类风险属于人工智能全生命周期安全中的哪一环节风险（）A.训练阶段安全B.部署阶段安全C.推理阶段安全D.废弃阶段安全13.2025年2月首尔全球人工智能安全峰会上达成的《关键AI系统安全管控共识》中，明确要求各国优先纳入强制管控范围的AI系统类别不包括（）A.大规模生成式通用大模型B.核武控制系统AI模块C.民生金融风控AI系统D.娱乐类AI图像生成小工具14.AI训练数据投毒攻击中，攻击者在标注阶段刻意篡改千分之三以下的少量样本标注结果，即可触发模型在特定输入场景下输出完全错误结果，这类隐蔽投毒攻击也被称为（）A.清洁标签投毒B.脏标签投毒C.后门投毒D.漂移投毒15.根据我国《汽车数据安全管理若干规定》配套2025年落地的自动驾驶AI安全细则，L3及以上等级自动驾驶车载AI系统的预期功能安全（SOTIF）验证覆盖率需达到（）A.99%场景覆盖B.99.999%场景覆盖C.全部已知可预见危险场景覆盖D.全部道路场景100%覆盖16.以下哪项技术不属于2025年已实现规模化商用落地的AI安全防御技术范畴（）A.大模型对齐红队自动化测试技术B.千亿级参数模型全量同态加密推理技术C.物理域对抗样本前置检测技术D.深度伪造生成源头反向溯源技术17.攻击者通过用户上传的待处理文档嵌入特殊隐藏提示，间接诱导大模型绕过预设安全规则执行非法指令，这类攻击属于（）A.间接提示注入攻击B.数据投毒攻击C.模型窃取攻击D.成员推理攻击18.根据国家网信办2025年更新的《生成式AI服务备案细则》，所有上线运行的生成式AI服务必须向属地网信部门提交备案材料，备案周期最长不得超过（）A.3个月B.6个月C.12个月D.24个月19.AI供应链安全管控中，第三方开源预训练组件接入自有大模型前，必须完成的专项安全测评是（）A.组件漏洞扫描与对齐一致性校验B.组件性能压测C.组件兼容性测试D.组件版权登记20.大模型红队测试要求针对高风险生成场景的覆盖比例不得低于（）A.90%B.95%C.98%D.100%二、多项选择题（共10题，每题3分，共30分。每题的备选项中，有2个或2个以上符合题意，至少有1个错项。错选，本题不得分；少选，所选的每个选项得0.5分）1.我国当前定义的人工智能全生命周期安全管控覆盖的核心环节包括（）A.训练数据采集与标注B.模型预训练与对齐微调C.模型部署与推理服务D.模型下线与数据销毁2.针对AI系统的典型投毒攻击技术路径包括以下哪几类（）A.训练数据集篡改投毒B.模型微调阶段后门植入C.在线数据流增量投毒D.推理阶段对抗样本注入3.2025年技术场景下深度合成技术的高风险滥用场景包括（）A.深度伪造政要人物发声实施电信诈骗B.生成深度伪造影视内容用于网络传播C.伪造人脸识别身份突破金融支付验证D.生成深度伪造虚假证言干扰司法公正4.差分隐私、联邦学习、全同态加密三类隐私计算技术在AI安全场景中的适用边界，以下描述正确的有（）A.差分隐私更适合AI训练阶段的集中式数据隐私保护场景，通过添加噪声避免敏感数据泄露B.联邦学习更适合多参与方分散数据的联合建模场景，无需原始数据出域即可完成模型训练C.全同态加密更适合端云协同的AI推理场景，加密状态下即可完成推理计算过程D.三类技术均可以完全实现AI系统的零隐私泄露风险，不需要配套其他防御方案5.根据我国AI安全相关法规要求，以下属于高风险AI服务范畴、需要实施严格准入管理的有（）A.面向全民提供的远程身份生物特征核验AI系统B.医疗场景下的临床辅助诊断AI系统C.面向公众的短视频个性化推荐AI系统D.教育场景下的学生升学决策AI评估系统6.大模型强制性红队测试的核心测试维度覆盖包括（）A.违规内容生成越狱攻击测试B.敏感信息泄露风险测试C.版权侵权生成风险测试D.恶意指令执行风险测试7.2025年我国监管要求必须强制嵌入可溯源AI数字水印的生成式内容场景包括（）A.生成的面向公众传播的新闻类内容B.生成的用于官方公示的政务信息类内容C.生成的深度合成音视频内容D.个人日常私人对话生成的非公开内容8.人工智能供应链安全的核心管控节点包括（）A.开源预训练模型组件引入环节B.第三方数据集采购环节C.模型部署插件接入环节D.底层AI算力芯片采购环节9.以下属于2025年人工智能安全领域已达成全球共识的核心治理原则的有（）A.风险分级分类管控原则B.全生命周期安全管控原则C.发展与安全并重原则D.绝对禁止高风险AI研发原则10.大模型推理阶段的典型安全风险包括（）A.提示注入攻击风险B.推理侧敏感记忆提取风险C.模型权重窃取风险D.输出内容违规风险三、判断题（共10题，每题1分，共10分。请判断每题的描述是否正确，正确打√，错误打×）1.2025年国内面向公众提供服务的所有生成式AI服务，都必须对生成的对外公开内容配备人工复核机制，不得自动生成直接面向公众的政务类信息。（）2.参数规模小于1B的端侧离线AI应用，只要不接入公共网络就不需要履行任何AI安全备案手续即可直接面向公众提供服务。（）3.生成式AI服务提供者发现平台存在AI生成内容被用于违法活动的情况，必须在24小时内留存相关日志并向属地网信部门上报。（）4.差分隐私技术中隐私预算ε的取值越小，代表隐私保护强度越低、数据可用性越高。（）5.针对大模型的后门攻击可以做到完全不影响模型正常场景下的输出准确率，仅在特定触发条件下输出预设的错误结果。（）6.欧盟AI法案将普通消费级AI图像生成工具划入低风险类别，不需要履行任何安全测评要求。（）7.联邦学习场景下即使各参与方的原始数据完全不出域，依然存在梯度泄露导致的敏感数据还原风险。（）8.我国当前法规明确要求生成式AI服务提供者必须对训练数据的版权合规性承担全部主体责任。（）9.深度伪造生成内容只要嵌入了数字水印，就不需要在内容显性位置标注AI生成标识。（）10.AI模型正式下线退役前，必须对存储的全部训练数据、用户交互数据进行不可逆脱敏销毁，避免数据泄露风险。（）四、案例分析题（共1题，20分）2025年1月某AI企业上线一款面向公众开放的通用代码生成大模型，上线运行3个月后被监管部门通报发现三类核心风险：一是攻击者通过构造特殊越狱提示，可诱导模型生成能绕过主流杀毒软件校验的定制化勒索病毒代码，相关风险内容传播量超过10万次；二是模型训练数据集未经授权收录了10万余份付费开源项目与商业闭源代码片段，已引发超过200起版权侵权投诉；三是模型开发阶段被内部运维人员植入隐蔽后门，攻击者可通过特定触发关键词远程调取用户在平台输入的核心服务器权限配置信息，累计泄露超过3万条企业敏感数据。请结合2025年我国现行人工智能安全相关法规与技术标准要求，指出该企业存在的全部合规漏洞与技术安全缺陷，并给出可落地的全流程整改方案。参考答案及评分标准一、单项选择题答案（每题2分，共40分）1.C解析：2024年底修订的《生成式人工智能服务管理暂行办法》落地细则明确要求100B以上大模型核心训练数据溯源覆盖率2025年6月前不低于98%，年底前需达到100%。2.B解析：物理域扰动干扰模型推理识别属于典型的对抗样本风险范畴。3.B解析：GB42808-2025为国内首部深度合成鉴别强制国家标准，属于国家强制标准序列而非推荐性标准。4.C解析：梯度泄露攻击是联邦学习场景下的特有关注风险类别，可通过梯度反推完整本地敏感数据。5.A解析：通用大模型上线前必须完成由具备资质的第三方机构开展的红队安全测评，取得合格证明后方可备案上线。6.C解析：欧盟AI法案将公共场所实时远程生物特征识别系统划入不可随意使用的最高风险等级，实施特殊准入审批。7.B解析：差分隐私民用场景下隐私预算合理区间为0.1到10，数值过小会导致数据可用性完全丧失，数值过大则无法实现隐私保护效果。8.C解析：2025年国内监管要求涉公共内容的生成式AI水印检出率不得低于99%，确保可溯源能力落地。9.C解析：通过多轮对话逐步绕过安全规则的攻击路径属于渐进式越狱，是当前大模型攻击的主流类型。10.D解析：无人类创造性介入的纯AI生成内容不属于版权保护客体，自动划入公有领域。11.C解析：面向未成年人的AI服务内容过滤准确率要求2025年起提升至99.5%，最大程度过滤不良信息。12.B解析：端侧部署阶段模型被逆向破解属于部署环节的典型安全风险。13.D解析：娱乐类小参数AI图像生成工具不属于高风险关键AI系统，未纳入国际共识优先管控范畴。14.A解析：清洁标签投毒是隐蔽性最高的训练投毒类型，样本标注本身看似合理，仅通过少量篡改实现后门植入。15.C解析：L3及以上自动驾驶AI系统的预期功能安全要求覆盖全部已知可预见的危险场景，实现风险可控。16.B解析：千亿级参数模型全量同态加密推理当前仍处于实验室阶段，2025年尚未实现规模化商用落地。17.A解析：通过第三方文档嵌入隐藏提示的攻击路径属于典型的间接提示注入攻击，防御难度远高于直接提示注入。18.C解析：生成式AI服务备案有效期为12个月，到期前30天需要完成续备案手续。19.A解析：第三方开源预训练组件接入前必须完成漏洞扫描与对齐一致性校验，避免引入未知后门风险。20.C解析：高风险场景红队测试覆盖率要求不得低于98%，剩余2%未覆盖场景需要完成风险评估并提交专项说明。二、多项选择题答案（每题3分，共30分）1.ABCD四个环节均属于全生命周期安全管控的必备覆盖范畴。2.ABC推理阶段对抗样本注入不属于训练投毒攻击路径。3.ACD普通深度伪造影视内容传播属于一般风险，不属于高风险滥用场景。4.ABC三类隐私计算技术均存在一定局限性，无法实现绝对零泄露。5.ABD短视频个性化推荐属于一般风险AI服务，不需要严格准入管理。6.ABCD四个维度均属于大模型红队测试的强制覆盖维度。7.ABC非公开个人生成内容不需要强制嵌入公共可溯源水印。8.ABCD四个节点均属于AI供应链安全的核心管控范畴。9.ABC全球治理共识并不支持绝对禁止高风险AI研发的原则，而是强调风险可控前提下的创新发展。10.ABD模型权重窃取属于部署阶段的风险，不属于推理阶段风险。三、判断题答案（每题1分，共10分）1.√符合2025年生成式AI服务监管最新要求，政务类AI生成内容必须经过人工复核才能对外发布。2.×面向公众提供服务的所有AI应用，无论参数规模大小，只要涉及公共服务场景都需要完成安全测评备案。3.√符合AI安全事件应急响应的法定时限要求。4.×差分隐私隐私预算ε取值越小，隐私保护强度越高，数据可用性越低。5.√大模型隐蔽后门攻击的典型特征就是非触发场景下性能完全不受影响。6.×欧盟AI法案要求所有生成式AI服务都需要完成基础安全测评，低风险AI也需要履行基础备案手续。7.√联邦学习梯度泄露风险是当前技术层面尚未完全解决的共性问题。8.√生成式AI服务提供者是训练数据版权合规的第一责任主