2025 年大学计算机应用（人工智能安全）期末测试卷

2025年大学计算机应用（人工智能安全）期末测试卷

（考试时间：90分钟满分100分）班级______姓名______一、单项选择题（总共10题，每题3分，每题只有一个正确答案，请将正确答案填写在括号内）1.人工智能安全领域中，针对模型窃取攻击的关键防护措施是（）A.加密模型参数B.增加模型训练数据量C.限制模型访问权限D.定期更新模型架构2.以下哪种技术可有效防止人工智能系统中的对抗样本攻击？（）A.数据增强B.模型剪枝C.对抗训练D.迁移学习3.在人工智能安全评估中，评估模型鲁棒性的主要指标是（）A.准确率B.召回率C.对抗样本成功率D.模型泛化能力4.人工智能安全中的隐私保护技术，主要是为了防止（）A.数据泄露B.模型被篡改C.网络攻击D.恶意软件入侵5.基于差分隐私的人工智能隐私保护方法，其核心思想是在数据中加入（）A.随机噪声B.加密密钥C.水印D.备份数据6.人工智能安全中，针对恶意软件利用人工智能技术进行攻击的应对策略是（）A.安装防火墙B.定期查杀病毒C.采用安全的人工智能算法设计D.限制网络连接7.评估人工智能系统安全性的常用方法是（）A.漏洞扫描B.代码审查C.安全审计D.以上都是8.在人工智能安全体系中，保障数据完整性的重要手段是（）A.数据加密B.数据备份C.数据校验D.数据脱敏9.人工智能安全领域中，针对物联网设备中人工智能应用的安全风险主要来源于（）A.设备计算能力不足B.网络带宽限制C.设备漏洞多且易被攻击D.数据格式不兼容10.为防止人工智能系统被绕过认证机制，应采用的安全措施是（）A.多因素认证B.增加验证码长度C.限制登录次数D.采用复杂密码策略二、多项选择题（总共5题，每题5分，每题有两个或两个以上正确答案，请将正确答案填写在括号内）1.人工智能安全面临的主要威胁包括（）A.数据泄露B.模型窃取C.对抗样本攻击D.恶意软件利用E.网络拥塞2.以下属于人工智能安全中的隐私保护技术的有（）A.同态加密B.联邦学习C.差分隐私D.数据匿名化E.模型蒸馏3.为提高人工智能系统的安全性，可采取的措施有（）A.加强安全审计B.采用安全的算法和框架C.对数据进行加密处理D.限制系统访问权限E.定期更新系统软件4.在人工智能安全评估中，需要考虑的因素有（）A.模型安全性B.数据安全性C.算法安全性D.系统运行环境安全性E.用户操作安全性5.针对人工智能安全中的对抗样本攻击，可采取的防御策略有（）A.对抗训练B.特征压缩C.模型融合D.输入变换E.模型正则化三、判断题（总共10题，每题2分，判断对错，请在括号内填写“√”或“×”）1.人工智能系统的安全性只与算法有关，与数据无关。（）2.模型窃取攻击只能针对未加密的模型。（）3.对抗训练可以有效提高模型对对抗样本的鲁棒性。（）4.数据加密是保护人工智能数据隐私的唯一方法。（）5.人工智能安全评估只需关注模型的准确性。（）6.恶意软件利用人工智能技术攻击时，主要利用其智能决策能力。（）7.同态加密可以在不解密数据的情况下对数据进行运算。（）8.在人工智能安全中，网络安全防护对系统安全没有影响。（）9.定期更新人工智能模型可以降低安全风险。（）10.人工智能安全中的隐私保护技术主要是针对用户个人信息。（）四、简答题（总共3题，每题10分，请简要回答问题）1.简述人工智能安全中模型窃取攻击的原理及防范措施。2.请说明基于差分隐私的隐私保护技术在人工智能中的应用及优势。3.分析人工智能安全评估的主要内容及重要性。五、案例分析题（总共2题，每题15分，请根据案例回答问题）1.某公司开发了一款智能安防人工智能系统，用于监控公共场所。近期，该系统频繁出现误报情况，导致安保人员疲于应对。同时，有黑客声称获取了系统部分数据。请分析该系统可能存在的安全问题，并提出改进措施。2.一家医疗人工智能公司利用机器学习算法分析患者数据以辅助诊断。但患者担心数据隐私问题，拒绝提供部分关键数据。请结合人工智能安全中的隐私保护技术，为该公司提出解决方案，既能满足患者隐私需求，又能保证算法有效运行。答案：一、单项选择题1.C2.C3.D4.A5.A6.C7.D8.C9.C10.A二、多项选择题1.ABCD2.ABCD3.ABCDE4.ABCD5.ABCDE三、判断题1.×2.×3.√4.×5.×6.×7.√8.×9.√10.√四、简答题1.模型窃取攻击原理：攻击者通过各种手段获取目标模型的参数或结构信息，从而复制出功能相似的模型。防范措施：限制模型访问权限，对模型进行加密处理，采用安全的模型部署方式等。2.应用：在数据发布或共享时，通过加入差分隐私噪声，在保护数据隐私的同时允许进行数据分析。优势：能在不泄露敏感数据的前提下进行数据挖掘和分析，保证数据的可用性和隐私性。3.主要内容：包括模型安全性、数据安全性、算法安全性、系统运行环境安全性等。重要性：保障人工智能系统可靠运行，防止数据泄露、模型被攻击等安全问题，保护用户利益和社会安全。五、案例分析题1.安全问题：可能存在模型鲁棒性不足导致误报，数据安全防护薄弱被黑客获取数据。改进