2026人工智能安全问题试题及答案

2026人工智能安全问题试题及答案一、单项选择题（每题2分，共15题，总计30分）1.根据我国2024年国家互联网信息办公室发布的《人工智能安全治理纲要（2024-2028年）》，我国人工智能安全治理的核心目标是（）A.完全禁止人工智能的研发应用，防范AI风险B.推动人工智能安全健康发展，在保障安全的前提下促进创新C.限制生成式人工智能的公开服务，只允许企业内部使用D.只监管境外人工智能服务，不对境内服务做要求答案：B解析：《人工智能安全治理纲要（2024-2028年）》明确我国AI治理坚持“发展与安全并重”，核心目标是保障人工智能健康有序发展，通过可控治理促进AI创新赋能实体经济，因此B选项正确，其余选项表述均不符合我国治理原则。2.当前生成式大模型研发场景中，攻击者通过在训练数据中插入带有错误标注的恶意样本，诱导模型学习错误规律，植入恶意逻辑，这种攻击方式被称为（）A.对抗样本攻击B.数据投毒攻击C.模型后门攻击D.模型窃取攻击答案：B解析：数据投毒攻击是指攻击者针对AI模型训练阶段发起的攻击，通过污染训练数据诱导模型产生错误逻辑，符合题干描述，因此B正确。对抗样本攻击主要针对模型推理阶段，通过添加人类无法感知的扰动欺骗模型；后门攻击是指在模型中植入特定触发逻辑，与数据投毒的攻击方式存在差异；模型窃取攻击是指攻击者窃取训练好的模型参数或权重，因此ACD不符合题意。3.根据2025年OpenAI与宾夕法尼亚大学联合发布的《AI辅助网络攻击研究报告》，AI生成的个性化针对性钓鱼邮件，成功率相较于传统钓鱼邮件提升约（）A.1倍B.5倍C.14倍D.30倍答案：C解析：该报告测试显示，传统钓鱼邮件的平均成功率约为4.8%，而AI生成的结合受害者个人信息的个性化钓鱼邮件成功率可达72%，整体提升约14倍，因此C选项数据准确。4.人工智能算法偏见产生的最核心根源是（）A.模型算法本身的技术缺陷B.训练数据中携带的人类社会既有偏见C.开发者的主观恶意D.硬件算力不足导致的计算偏差答案：B解析：现有AI模型的能力来源于对训练数据的学习，绝大多数算法偏见并非源于开发者主观恶意，也不是技术本身的固有缺陷，而是训练数据中已经存在人类社会积累的偏见，模型将这种偏见学习固化，因此B选项正确。5.根据我国《生成式人工智能服务管理暂行办法》，生成式AI服务提供者对生成内容的安全责任界定，以下表述正确的是（）A.AI生成内容是自动生成的，服务提供者不承担任何安全责任B.服务提供者应当对生成内容的合法性、安全性负责，建立内容审核机制C.只有用户需要对AI生成内容负责，服务提供者无需担责D.只有开发者需要承担责任，平台提供者无需担责答案：B解析：《生成式人工智能服务管理暂行办法》明确要求，生成式AI服务提供者是AI服务安全的责任主体，应当建立健全内容审核机制，对生成内容的合法性安全性负责，因此B选项正确。6.人工智能领域的“对齐问题”核心指的是（）A.不同AI模型的参数格式对齐适配B.AI的决策目标与人类核心价值观、人类根本利益保持一致C.不同国家AI治理规则对齐统一D.AI模型的训练数据格式对齐标准答案：B解析：对齐问题是当前通用人工智能安全领域的核心议题，核心指通过技术和治理手段保证AI的行为目标符合人类利益和价值观，避免AI出现违背人类意愿的危害行为，因此B选项正确。7.根据我国国家标准《人工智能安全分级分类规范》，AI应用的最高风险等级为（）A.高风险B.极高风险C.特高风险D.重大风险答案：B解析：我国《人工智能安全分级分类规范》将AI应用按照风险程度从低到高分为五类：极低风险、低风险、中风险、高风险、极高风险，其中极高风险指可能对国家安全、公共利益、生命健康造成特别严重危害的AI应用，因此B选项正确。8.美国联邦贸易委员会（FTC）2026年初发布的全球AI诈骗损失报告显示，2025年全球范围内AI相关诈骗造成的直接经济损失约为（）A.50亿美元B.120亿美元C.340亿美元D.800亿美元答案：C解析：该报告统计显示，随着生成式AI和深度伪造技术的普及，2025年全球AI诈骗案件数量和涉案金额同比2024年增长超过90%，总损失达到340亿美元，因此C选项数据准确。9.生成式大模型的“幻觉问题”引发的安全风险属于以下哪类AI安全风险（）A.生成内容安全风险B.数据安全风险C.供应链安全风险D.算法偏见风险答案：A解析：大模型幻觉是指模型生成不符合事实、逻辑混乱的虚假内容，这类风险直接作用于输出内容，属于生成内容安全风险，可能在医疗、法律、政务等场景引发实质性危害，因此A选项正确。10.当前AI供应链安全领域发生率最高的安全风险是（）A.硬件设备质量不合格B.第三方预训练模型被植入后门C.网络带宽不足D.算力成本过高答案：B解析：当前绝大多数企业部署AI应用都会采用第三方开源预训练模型进行微调，攻击者在公开预训练模型中植入后门触发器已经成为AI供应链最常见的攻击方式，据2025年工信部发布的《AI供应链安全态势报告》显示，抽样检测的开源预训练模型中，约12%存在被植入后门的风险，因此B选项正确。11.以下哪项属于AI安全领域的对抗样本攻击（）A.在自动驾驶的交通标志上添加人类无法识别的微小扰动，导致AI识别错误B.爬取公开个人信息训练深度伪造模型C.在训练数据中添加恶意样本污染模型D.窃取大模型的参数用于非法训练答案：A解析：对抗样本攻击的核心特征是在原始输入中添加人类无法感知的微小扰动，导致AI模型输出错误结果，题干中A选项符合对抗样本攻击的定义，因此A正确。12.我国明确要求，生成式AI服务正式上线提供公共服务前，必须完成的法定流程是（）A.安全评估B.商业备案C.知识产权登记D.算法专利申请答案：A解析：根据《生成式人工智能服务管理暂行办法》，提供生成式AI公共服务必须在上线前完成安全评估，因此A选项正确。13.以下哪种AI应用属于我国规定的高风险AI应用（）A.用于网络聊天的个人AI助手B.用于生成短视频内容的AI工具C.用于信贷审批、招聘筛选的AI决策系统D.用于个人图片编辑的AI滤镜工具答案：C解析：高风险AI应用指直接影响公共利益、个人权益的决策类AI应用，信贷审批、招聘筛选直接影响个人的经济权益和就业权益，属于高风险AI应用，需要接受更严格的监管，因此C选项正确。14.深度伪造AI技术诈骗中，犯罪团伙获取训练数据最主要的来源是（）A.黑客入侵窃取用户私密数据B.公开社交平台的用户公开照片、视频、语音数据C.购买非法地下数据交易的数据D.自行拍摄收集数据答案：B解析：公安部2025年发布的AI诈骗治理报告显示，约92%的深度伪造诈骗案件中，犯罪团伙使用的训练数据均来源于公开社交平台用户主动公开的内容，不需要黑客攻击就能获取，犯罪成本极低，因此B选项正确。15.联合国2026年《全球人工智能安全态势报告》显示，2025年全球公开上报的AI安全事件数量，相较于2020年增长约（）A.2倍B.5倍C.11倍D.20倍答案：C解析：该报告统计显示，2020年全球公开上报的AI安全事件为1120起，2025年增长至12870起，整体增长超过11倍，增长的主要原因是AI应用普及度提升，恶意利用AI实施违法犯罪的案例大幅增加，因此C选项数据准确。二、多项选择题（每题3分，共10题，总计30分）1.人工智能安全风险按照全链路环节分类，主要包含以下哪几类（）A.数据安全风险B.算法安全风险C.供应链安全风险D.应用安全风险E.治理安全风险答案：ABCDE解析：AI安全是覆盖研发、部署、应用全链路的系统性问题，五个维度的风险均属于AI安全的核心范畴，数据安全包括训练数据泄露、数据污染等风险；算法安全包括算法偏见、后门、对抗攻击等风险；供应链安全包括第三方模型、组件的安全风险；应用安全包括深度伪造、AI诈骗等风险；治理安全包括规则缺失、责任不清等风险，因此全选。2.生成式人工智能常见的安全风险包括以下哪几项（）A.恶意生成暴力、恐怖、色情等违禁内容B.深度伪造侵害公民权益C.训练数据泄露用户隐私D.幻觉问题引发决策失误E.算法偏见引发不公平歧视答案：ABCDE解析：生成式AI的安全风险覆盖多个维度，上述五类均是生成式AI已经暴露的典型安全风险，因此全选。3.我国已经出台的与人工智能安全相关的规范性文件包括以下哪几项（）A.《生成式人工智能服务管理暂行办法》B.《人工智能安全治理纲要（2024-2028年）》C.《网络安全法》D.《数据安全法》E.《个人信息保护法》答案：ABCDE解析：《网络安全法》《数据安全法》《个人信息保护法》是AI安全治理的基础性法律，《生成式人工智能服务管理暂行办法》《人工智能安全治理纲要（2024-2028年）》是专门针对AI安全的规范性文件，因此全选。4.AI数据投毒攻击按照攻击目标可以分为以下哪几类（）A.可用性投毒B.完整性投毒C.后门投毒D.隐私投毒答案：ABC解析：数据投毒按照攻击目标分为三类：可用性投毒以降低模型整体可用性为目标，完整性投毒以诱导模型输出错误结果为目标，后门投毒以植入特定触发逻辑为目标，因此ABC正确。5.以下属于利用AI实施恶意网络攻击的场景有（）A.AI生成个性化钓鱼邮件B.AI自动化挖掘软件漏洞C.AI生成恶意木马代码免杀样本D.AI辅助自动驾驶识别行人答案：ABC解析：前三项都是AI被恶意用于网络攻击的典型场景，D项是AI的合法应用，因此ABC正确。6.企业部署高风险AI应用应当落实的安全防护措施包括以下哪几项（）A.训练数据脱敏去标识化处理B.上线前完成第三方安全测评C.建立模型输出内容审核机制D.定期开展算法安全审计E.完善访问权限管控机制答案：ABCDE解析：高风险AI应用需要落实全流程安全管控，上述五项均是法定要求的必要安全措施，因此全选。7.深度伪造技术可能引发的安全危害包括以下哪几项（）A.侵害公民个人肖像权、隐私权B.实施金融诈骗C.伪造官员讲话视频干预政治选举D.造谣诽谤扰乱公共秩序答案：ABCD解析：深度伪造技术的恶意应用会引发上述多类危害，因此全选。8.人工智能对齐问题的核心维度包括以下哪几项（）A.价值对齐B.目标对齐C.行为对齐D.安全对齐答案：ABCD解析：AI对齐要求AI在价值层面符合人类伦理、目标层面符合人类利益、行为层面不产生危害、安全层面可管可控，四个维度均是对齐问题的核心内容，因此全选。9.我国对高风险AI应用的监管要求包括以下哪几项（）A.强制开展安全评估B.全流程留存运行日志C.定期开展安全审计D.主动公示风险信息答案：ABCD解析：根据《人工智能安全分级分类规范》，上述四项都是高风险AI应用的法定监管要求，因此全选。10.应对人工智能安全风险的全球治理应当遵循的基本原则包括（）A.权责对等B.风险可控C.包容发展D.多边协同答案：ABCD解析：全球AI安全治理坚持多边协同应对，权责一致、风险可控、包容发展是公认的核心治理原则，因此全选。三、判断题（每题1分，共10题，总计10分）1.生成式AI的幻觉问题只会影响信息准确性，不会造成实质性的人身财产损失。答案：错误解析：在医疗诊断、法律决策、工程设计等专业场景，大模型生成的错误幻觉内容会直接导致误诊、错判、工程设计失误，引发严重的人身财产损失，因此该表述错误。2.AI数据投毒攻击只能发生在模型训练阶段，模型部署上线后无法发起投毒攻击。答案：错误解析：随着对抗生成技术的发展，当前已经出现推理阶段投毒攻击，攻击者可以通过投毒用户上传的增量数据，污染已经部署完成的模型，因此该表述错误。3.我国明确要求，向社会公众提供生成式AI服务必须在上线前完成安全评估。答案：正确解析：根据《生成式人工智能服务管理暂行办法》，该要求是法定的强制性要求，因此表述正确。4.深度伪造技术只能用于恶意违法活动，不存在合法应用场景。答案：错误解析：深度伪造技术可以合法应用于影视制作、虚拟人直播、医疗影像生成等场景，技术本身是中性的，恶意使用才会引发安全风险，因此表述错误。5.联合国2026年发布的数据显示，2025年全球AI安全事件数量较2020年增长超过10倍。答案：正确解析：根据联合国《全球人工智能安全态势报告2026》，2025年全球公开上报AI安全事件为12870起，2020年为1120起，增长约11倍，超过10倍，因此表述正确。6.AI安全只需要政府监管，企业和社会组织不需要参与。答案：错误解析：AI安全是多元主体协同治理的系统工程，企业是AI安全的责任主体，社会组织、公众也需要参与治理，因此表述错误。7.模型后门攻击是指攻击者在AI模型中植入隐藏触发逻辑，当输入满足特定触发条件时，模型就会输出攻击者预设的错误结果。答案：正确解析：该表述符合模型后门攻击的标准定义，因此表述正确。8.算法偏见完全是技术问题，和人类社会现有的偏见无关。答案：错误解析：绝大多数算法偏见来源于训练数据中已经存在的人类社会偏见，AI只是将既有偏见固化放大，因此表述错误。9.通用人工智能的对齐风险是当前AI安全领域最受关注的长期核心风险。答案：正确解析：随着通用人工智能能力的不断提升，对齐问题直接关系到人类对AI的可控性，是长期AI安全的核心议题，因此表述正确。10.AI自动生成的内容不会侵犯他人的知识产权，因为AI不是人类作者，不存在侵权行为。答案：错误解析：当前我国和全球多数国家都明确，如果AI训练未经授权使用他人享有著作权的作品，或者生成内容实质性抄袭他人作品，都会构成知识产权侵权，因此表述错误。四、案例分析题（每题15分，共2题，总计30分）1.案例材料：2025年6月，国内某股份制商业银行收到多名小微企业申请人投诉，称其使用该行AI智能信贷审批系统申请经营贷款被无故拒绝，人工复核后确认所有投诉申请人都符合该行贷款的全部硬性要求，不存在不良征信或资质不达标的问题。第三方安全机构排查后发现，该银行使用的第三方预训练风控AI模型存在算法偏见：模型训练数据中，来自西南某偏远省份的小微企业不良贷款样本占比为23%，远高于该省份所有小微企业实际11%的不良率，模型自动学习到了对该省份小微企业申请人的隐性歧视规则，最终导致该省份申请人的审批通过率比全国平均水平低27个百分点。问题：（1）该案例暴露出的AI安全问题属于哪一类型？请分析其产生的根源；（2）结合我国监管要求，说明该银行应当采取哪些整改措施。参考答案：（1）该案例暴露的是算法安全领域的算法偏见（算法歧视）问题。产生根源包括四个方面：第一，训练数据存在代表性偏差，训练数据中该省份不良贷款样本的占比不符合实际整体分布，导致模型学习到了错误的相关性关联；第二，第三方模型开发者未开展算法公平性校验，模型训练阶段未加入去偏处理流程，未能发现和消除样本偏差带来的偏见；第三，银行引入第三方AI模型时未落实安全审核义务，对高风险信贷审批模型未开展针对性的合规测试和公平性评估，直接上线使用；第四，银行未建立AI模型的定期审计机制，未能在运行过程中及时发现算法偏见带来的不公平问题。（2）银行应当采取以下整改措施：第一，立即停止该风控模型的在线运行，对近一年所有使用该模型审批的贷款进行回溯排查，为被错误拒绝贷款的申请人补做人工审批，依法补偿申请人的相关损失；第二，要求模型开发者重新清洗和调整训练数据，补充该省份合格小微企业的样本，校正样本分布偏差，同时引入对抗去偏、公平正则化等算法去偏技术，消除模型的隐性歧视规则；第三，按照我国《人工智能安全分级分类规范》，信贷审批AI模型属于高风险AI应用，应当主动向监管部门申请安全评估，评估通过后方可重新上线；第四，完善第三方AI模型引入的安全审核机制，所有高风险AI模型上线前必须完成第三方安全测评和公平性校验，落实安全主体责任；第五，建立AI模型季度安全审计机制，定期对模型审批结果的公平性、准确性进行审计，及时发现偏差风险。2.案例材料：2025年9月，南方某市公安局破获一起涉案金额2.3亿元的AI深度伪造诈骗案件：犯罪团伙通过公开社交平台爬取某上市公司董事长的所有公开照片、演讲视频和语音，训练高保真深度伪造模型，伪造该董事长召开远程财务会议的视频和语音，要求财务人员立即向指定账户转账支付项目款，财务人员未核验就完成转账，造成巨额损失。公安部2026年初发布的数据显示，2025年我国共破获AI深度伪造诈骗案件1172起，涉案总金额超过120亿元，同比2024年增长89%，AI深度伪造诈骗已经成为增长最快的诈骗类型。问题：（1）结合案例分析当前AI深度伪造诈骗频发的主要原因；（2）从技术防护、监管治理、公众教育三个层面，提出应对AI深度伪造诈骗的具体措施。参考答案：（1）AI深度伪造诈骗频发的主要原因包括：第一，技术门槛大幅降低，当前开源深度伪造工具链已经成熟，犯罪嫌疑人不需要高端技术能力，仅花费不到1000元就能训练出高保真的深度伪造模型，犯罪成本极低，据2025年中国人工智能产业研究院统计，80%以上的深度伪造诈