2025网络安全人工智能安全考试题及答案

2025网络安全人工智能安全考试题及答案一、单项选择题（每题2分，共15题，总计30分）1.根据我国《生成式人工智能服务管理暂行办法》，提供生成式人工智能服务的提供者应当履行哪项安全主体义务？A.训练数据安全保护义务B.网络安全防护义务C.个人信息保护义务D.以上都是答案：D解析：我国《生成式人工智能服务管理暂行办法》明确要求，生成式AI服务提供者应当对训练数据的合法性负责，履行网络安全保护义务，落实个人信息保护要求，建立健全内容审核、安全管理等各项制度，因此三项均为法定的主体义务。2.人工智能大模型安全领域中，后门攻击的核心特征是哪一项？A.通过诱导查询窃取大模型的参数信息B.在模型中植入特定恶意逻辑，仅当输入携带触发因子时才会输出恶意结果C.通过投毒训练数据篡改模型的通用输出能力D.推断训练数据中是否包含特定敏感个人信息答案：B解析：后门攻击是当前生成式大模型最突出的安全威胁之一，核心特征是攻击者在模型训练或部署阶段植入隐藏的恶意逻辑，正常输入下模型输出符合预期，只有携带特定触发因子的输入会激活后门，输出攻击者预设的恶意结果，因此B选项正确；A选项为模型窃取攻击特征，C选项为数据投毒攻击特征，D选项为成员推断攻击特征。3.下列选项中，哪一项不属于深度伪造技术的典型安全危害？A.伪造公众人物言论引发网络舆情B.伪造身份信息实施金融诈骗C.基于深度伪造技术生成授权数字人直播内容D.伪造企业公章引发合同诈骗答案：C解析：深度伪造技术本身是人工智能生成内容技术的一类，经权利人授权用于影视内容制作、数字人运营等场景属于合法应用，不属于安全危害；其余选项均为深度伪造技术被滥用引发的典型违法犯罪危害。4.按照我国网络安全等级保护2.0制度要求，面向社会公众提供服务的通用生成式大模型平台，运营者应当至少将其定为第几级保护对象？A.第二级B.第三级C.第四级D.第五级答案：B解析：根据《网络安全等级保护条例》以及《网络安全等级保护定级指南》，面向公众提供服务的重要互联网平台，一旦发生安全事件会对公众利益、社会秩序造成较大危害，应当至少定为第三级保护对象，落实三级等保的安全防护要求，因此B选项正确。5.下列攻击类型中，哪一项属于AI隐私攻击范畴，目标是窃取大模型训练数据中的敏感信息？A.后门注入攻击B.对抗样本攻击C.成员推断攻击D.模型窃取攻击答案：C解析：成员推断攻击是AI隐私攻击的典型类型，攻击者通过给模型输入特定内容，结合输出结果判断该内容是否存在于模型的训练数据集中，进而窃取训练数据中的敏感个人信息，因此C选项正确；A选项属于算法攻击，B选项是针对模型识别能力的攻击，D选项窃取的是模型本身而非训练数据。6.NIST（美国国家标准与技术研究院）AI风险管理框架的核心流程不包括下列哪一项？A.识别AI安全风险B.防护AI安全风险C.变现AI风险价值D.响应恢复AI安全事件答案：C解析：NISTAI风险管理框架延续了网络安全框架的核心逻辑，核心流程为识别、防护、检测、响应、恢复五个环节，不存在“变现AI风险价值”的内容，因此C选项符合题意。7.大模型安全对齐（AIAlignment）的核心目标是哪一项？A.提升大模型的推理速度，降低推理成本B.让大模型的输出符合人类价值观、伦理规范与安全要求C.提升大模型的参数规模，扩大训练数据量D.让大模型适配不同行业的下游任务需求答案：B解析：大模型安全对齐的核心目标是解决大模型生成有害内容、违背人类价值观的问题，通过人类反馈强化学习等方式让大模型输出符合人类安全与伦理要求的结果，因此B选项正确，其余选项均为大模型迭代优化的其他目标，不属于对齐的核心目标。8.根据我国著作权相关法律法规与司法实践，AI生成内容满足哪项条件可以获得著作权保护？A.完全由AI自动生成，无人类参与B.由人类主导创作，具有独创性C.开发者进行版权登记即可获得保护D.只要公开发布就自动获得著作权答案：B解析：我国现行著作权法保护的对象是人类创作的具有独创性的智力成果，AI生成内容如果由人类主导创作，人类对内容的选择、编排、创作体现出独创性，就符合著作权保护的条件；完全由AI自动生成无人类投入的内容暂不获得著作权保护，因此B选项正确。9.下列大模型训练数据中，哪一类属于高风险数据，会直接引发个人信息安全风险？A.经过权利人授权的公开数据集B.未脱敏的包含个人敏感信息的用户数据C.政府公开的政务数据D.合规开源训练数据集答案：B解析：未脱敏的个人敏感信息包括生物识别、医疗健康、金融账户、行踪轨迹等信息，直接用于大模型训练既违反《个人信息保护法》的要求，也会导致大模型被诱导泄露敏感信息，引发个人信息安全风险，因此B选项正确。10.根据我国监管要求，生成式人工智能服务提供者应当自行开展安全评估，评估报告的报送频率是多少？A.每半年一次B.每年一次C.每两年一次D.仅上线前报送一次即可答案：B解析：《生成式人工智能服务管理暂行办法》要求，生成式人工智能服务提供者应当每年对服务安全情况开展评估，向省级网信部门报送年度安全评估报告，因此B选项正确。11.下列哪一项属于对抗样本攻击的典型特征？A.在原输入中添加人眼无法识别的微小扰动，导致AI模型输出错误结果B.在模型中植入后门触发因子C.窃取模型的全部参数用于二次开发D.推断训练数据中的用户属性信息答案：A解析：对抗样本攻击是AI计算机视觉、自动驾驶等场景的典型安全威胁，攻击者通过在原始输入中添加人眼不可感知的微小扰动，就可以欺骗AI模型，使其输出错误的识别或决策结果，因此A选项正确。12.人工智能安全风险中，“算法偏见”会引发哪类危害？A.降低模型的运行效率B.引发公平性问题，导致歧视性结果C.增加模型的训练成本D.泄露用户个人信息答案：B解析：算法偏见是指训练数据中的偏差或者模型设计缺陷导致AI输出带有性别、种族、地域等歧视性的结果，会引发社会公平性问题，属于AI伦理与安全的核心治理范畴，因此B选项正确。13.生成式AI大模型的提示词注入（PromptInjection）攻击的核心目标是什么？A.绕过大模型的安全防护机制，诱导大模型生成有害内容B.窃取大模型的训练数据C.给大模型植入后门D.让大模型无法正常提供服务答案：A解析：提示词注入攻击是生成式AI最常见的应用层攻击，攻击者通过构造特殊提示词，绕过大模型预设的安全对齐规则，诱导大模型生成有害内容、获取敏感信息，因此A选项正确。14.下列哪一项是AI生成内容（AIGC）水印技术的核心作用？A.提升生成内容的画质B.对AI生成内容进行溯源，防范深度伪造滥用C.降低生成内容的大小D.提升大模型的生成速度答案：B解析：AI生成内容水印技术是当前防范深度伪造滥用、实现AIGC溯源的核心技术，通过在生成内容中嵌入不可见的溯源标记，用于识别内容是否为AI生成，追溯生成主体，因此B选项正确。15.关键信息基础设施运营者使用人工智能技术处理核心业务，应当按照规定对AI系统开展什么工作？A.安全评估B.性能测试C.成本核算D.版权登记答案：A解析：根据《关键信息基础设施安全保护条例》，关键信息基础设施运营者采用新技术、新系统开展核心业务，应当按要求开展安全评估，因此A选项正确。二、多项选择题（每题3分，共8题，总计24分）1.人工智能安全的核心覆盖范畴包含下列哪些维度？A.算法模型安全B.训练与应用数据安全C.AI赋能场景的应用安全D.AI供应链安全E.AI伦理与治理安全答案：ABCDE解析：当前人工智能安全已经形成全链条的覆盖范畴，从底层的数据、算法模型，到中层的供应链，再到上层的应用场景，以及顶层的伦理治理，均属于人工智能安全的研究与治理范畴，因此全选。2.根据《生成式人工智能服务管理暂行办法》，生成式AI服务提供者应当落实的安全管理要求包括下列哪些？A.建立健全内容审核机制，拦截有害生成内容B.落实网络安全等级保护制度，完善安全防护措施C.对训练数据的合法性负责，不得非法收集训练数据D.落实个人信息保护要求，告知用户个人信息处理规则E.制定网络安全应急预案，及时处置安全事件答案：ABCDE解析：上述五项均为《生成式人工智能服务管理暂行办法》明确要求生成式AI服务提供者落实的安全管理要求，因此全选。3.大模型隐私攻击的典型类型包括下列哪几项？A.成员推断攻击B.属性推断攻击C.训练数据重构攻击D.模型窃取攻击E.后门注入攻击答案：ABCD解析：隐私攻击以窃取训练数据中的敏感信息或者模型敏感信息为目标，成员推断、属性推断、数据重构、模型窃取均属于隐私攻击范畴；后门注入攻击以篡改模型输出逻辑为目标，属于算法攻击范畴，因此E不选。4.深度伪造检测的主流技术路线包括下列哪几项？A.基于生理特征异常的检测B.基于生成伪影特征的检测C.基于生成模型溯源的检测D.多模态融合检测E.基于大模型的语义一致性检测答案：ABCDE解析：当前深度伪造检测技术已经发展出多条成熟技术路线，从传统的基于生理特征（如心率、瞳孔不对称）、生成伪影的人工特征检测，发展到基于生成模型水印、溯源的检测，再到当前基于多模态融合、大模型语义一致性的检测，因此全选。5.AI供应链安全的典型风险包括下列哪几项？A.上游开源预训练模型被植入后门B.公开训练数据集被投毒C.第三方AI开发组件存在已知漏洞D.训练数据来源不合法，存在侵权风险E.下游部署环境存在安全漏洞答案：ABCDE解析：AI供应链覆盖数据、预训练模型、开发组件、部署环境全流程，每一个环节都存在对应的安全风险，因此上述五项均属于AI供应链的典型风险。6.下列场景中，AI安全缺陷可能引发重大人身财产安全事故的有哪些？A.L3级自动驾驶汽车决策系统B.工业控制系统人工智能调度系统C.智能电网AI调度系统D.AI辅助医疗手术机器人系统E.C端生成式AI聊天机器人答案：ABCD解析：自动驾驶、工业控制、智能电网、医疗手术机器人均属于关系人身安全、公共安全的高风险AI应用场景，AI安全缺陷会直接引发重大事故；C端聊天机器人的安全缺陷一般不会直接引发重大人身财产安全事故，因此E不选。7.防范大模型输出有害内容的核心安全措施包括下列哪几项？A.大模型安全对齐训练B.输入端提示词检测过滤C.输出端内容审核拦截D.对用户进行分级权限管理E.模型参数全量开源答案：ABCD解析：安全对齐训练、输入输出两端的内容审核、分级权限管理都是防范大模型输出有害内容的有效措施；全量开源模型参数会降低攻击门槛，增加有害内容生成的风险，因此E不选。8.我国人工智能安全治理的基本原则包括下列哪几项？A.以人为本、普惠公平B.包容审慎、守正创新C.开放合作、共治共享D.安全可控、责任明晰E.效率优先、忽略安全答案：ABCD解析：我国《新一代人工智能治理原则》明确提出了人工智能治理的八项原则，核心包括以人为本、普惠公平，包容审慎、守正创新，开放合作、共治共享，安全可控、责任明晰，要求发展与安全并重，因此ABCD正确，E错误。三、判断题（每题1分，共10题，总计10分）1.根据我国规定，生成式AI服务提供者留存用户的违规对话记录，留存时间不得少于1年。答案：错误解析：《生成式人工智能服务管理暂行办法》明确要求，生成式AI服务提供者留存用户违规相关的对话记录，保存时间不得少于6个月，因此题干表述错误。2.大模型后门攻击只能在模型训练阶段植入，模型上线部署后无法植入后门。答案：错误解析：攻击者可以通过模型微调、插件注入、升级更新等方式，在已经部署上线的大模型中植入后门，因此题干表述错误。3.成员推断攻击可以判断某一条特定个人信息是否存在于大模型的训练数据集中。答案：正确解析：成员推断攻击是隐私攻击的典型类型，核心功能就是通过模型输出判断特定样本是否属于训练数据集，进而窃取敏感个人信息，因此题干表述正确。4.网络安全等级保护制度不适用于人工智能系统，人工智能系统不需要备案测评。答案：错误解析：我国已经将人工智能系统、大模型平台纳入网络安全等级保护监管范围，要求运营者按照规定完成定级备案与测评，因此题干表述错误。5.AI大模型对齐的核心目标是提升大模型的推理能力，与安全无关。答案：错误解析：AI对齐的核心目标是让大模型输出符合人类价值观与安全规范，解决大模型生成有害内容的安全问题，因此题干表述错误。6.《个人信息保护法》要求，处理用于AI训练的个人信息，必须具备合法的处理基础，取得个人同意或者符合法定情形。答案：正确解析：处理个人信息均需要具备合法处理基础，用于AI训练的个人信息也不例外，因此题干表述正确。7.AI深度伪造技术只能用于违法犯罪，不存在合法应用场景。答案：错误解析：深度伪造技术经权利人授权，可以用于影视内容制作、数字人交互、教育演示等合法场景，只有滥用才属于违法犯罪，因此题干表述错误。8.算法偏见是指训练数据中的偏差导致AI输出歧视性结果，属于AI安全的治理范畴。答案：正确解析：算法偏见会引发公平性问题，侵害公众合法权益，属于人工智能安全与伦理治理的核心内容，因此题干表述正确。9.AI生成内容水印技术可以实现AI生成内容的溯源，帮助防范深度伪造滥用。答案：正确解析：AI生成内容水印技术通过嵌入不可见的溯源标记，可以识别AI生成内容，追溯生成主体，是当前防范深度伪造滥用的核心技术手段，因此题干表述正确。10.大模型训练数据爬取所有公开数据都属于合法行为，不需要获得授权。答案：错误解析：公开数据也存在著作权、个人信息等权利，爬取公开数据用于大模型训练需要符合法律法规要求，获得权利人授权，因此题干表述错误。四、案例分析题（每题18分，共2题，总计36分）1.案例背景：2024年12月，国内某创业公司上线一款C端生成式AI聊天机器人产品，为降低训练成本，开发团队从互联网公开渠道爬取了1500万条未脱敏的用户社交平台公开数据，包含用户手机号、住址、出行轨迹等敏感个人信息，产品上线前未按照要求开展安全评估，也未落实内容审核机制。上线1个月后，安全研究人员发现，通过构造特定提示词可以诱导该聊天机器人输出训练数据中包含的多个用户敏感个人信息，同时该机器人还多次生成虚假诈骗信息、煽动极端情绪的内容，被网民举报后，当地网信部门对该公司开展立案调查。问题：（1）该公司违反了我国哪些现行法律法规要求？（2）该产品存在哪些AI安全风险？（3）针对该产品存在的问题，提出具体整改措施。参考答案：（1）该公司违反的法律法规包括：①违反《生成式人工智能服务管理暂行办法》，未按要求在上线前开展安全评估，未落实内容审核、训练数据合法性审核、网络安全保护等主体义务；②违反《中华人民共和国个人信息保护法》，非法处理未脱敏的个人敏感信息，未取得个人信息处理的合法基础，侵害用户个人信息权益；③违反《中华人民共和国网络安全法》，未落实网络安全等级保护制度，未履行网络安全保护义务；④违反《中华人民共和国著作权法》，未经授权爬取他人享有著作权的内容用于训练，侵害著作权人合法权益。（2）该产品存在的AI安全风险包括：①数据安全风险：训练数据来源不合法，包含大量未脱敏的个人敏感信息，存在个人信息泄露风险，同时存在著作权侵权风险；②模型安全风险：未开展安全对齐，未针对提示词注入攻击设置防护机制，存在被诱导泄露敏感信息、生成有害内容的漏洞；③应用安全风险：未建立内容审核机制，有害内容可以直接对外输出，危害网络空间秩序，侵害公众利益；④合规安全风险：未按监管要求开展安全评估、落实等保要求，存在重大合规风险。（3）具体整改措施包括：①立即暂停该产品的对外服务，全面清理训练数据中的违规个人信息和侵权内容，更换为来源合法、经过脱敏处理的合规训练数据；②按照网络安全等级保护要求完成产品定级、备案与测评，落实等保各项安全防护要求；③开展大模型安全对齐优化，完善提示词注入攻击防护机制，建立输入端提示词检测、输出端内容审核的双层有害内容拦截体系；④按照监管要求完成生成式AI服务安全评估，向网信部门报送安全评估报告，补全各项合规手续；⑤建立健全个人信息保护制度，公开个人信息处理规则，落实用户的知情权、更正权、删除权等各项合法权益，制定网络安全应急预案，定期开展应急演练。2.案例背景：2025年2月，国内某车企推出搭载第三方开源大模型的L3级自动驾驶车型，安全研究人员发现，该开源大模型在发布前被攻击者植入后门，当车辆行驶过程中，摄像头拍摄到粘贴了特定特殊图案的广告牌时，大模型会错误将该广告牌识别为“允许通行”的道路标识，导致车辆不减速直接通过路口，极易引发碰撞事故。该车企在二次开发开源大模型的过程中，未对开源模型开展安全检测，直接用于自动驾驶决策系统。问题：（1）该事件属于哪类AI安全风险？（2）结合本案例分析AI供应链安全的核心风险传导逻辑？（3）提出针对高风险场景AI供应链安全的防护措施。参考答