2025《人工智能与数据安全》考试及答案

2025《人工智能与数据安全》考试及答案一、单项选择题（每题2分，共20分）1.人工智能（AI）系统的核心三要素是（）。A.算力、算法、数据B.算力、模型、场景C.算法、模型、应用D.数据、场景、算力2.以下哪项不属于数据安全的“三性”基本原则？（）A.机密性（Confidentiality）B.完整性（Integrity）C.可用性（Availability）D.可追溯性（Traceability）3.在生成式人工智能（AIGC）中，“幻觉现象”主要指（）。A.模型生成内容与训练数据完全一致B.模型输出符合逻辑但与事实不符的内容C.模型因数据偏差导致的预测错误D.模型对输入数据的过度拟合4.联邦学习（FederatedLearning）的核心目标是（）。A.集中所有数据训练一个全局模型B.在不传输原始数据的前提下联合训练模型C.提高单个设备的计算效率D.减少模型训练的时间成本5.根据《中华人民共和国数据安全法》，关键信息基础设施运营者在境内运营中收集和产生的重要数据（）。A.可自由向境外提供B.经安全评估后可向境外提供C.禁止向境外提供D.需经用户书面同意后向境外提供6.以下哪种攻击方式专门针对AI模型的训练数据，通过注入恶意样本导致模型输出偏差？（）A.对抗样本攻击（AdversarialAttack）B.数据投毒攻击（DataPoisoningAttack）C.模型逆向攻击（ModelInversionAttack）D.后门攻击（BackdoorAttack）7.差分隐私（DifferentialPrivacy）的核心参数ε（epsilon）越小，意味着（）。A.隐私保护强度越低B.隐私保护强度越高C.数据可用性越高D.计算复杂度越低8.欧盟《通用数据保护条例》（GDPR）规定，个人数据控制者对数据泄露事件的最长报告时限为（）。A.24小时B.48小时C.72小时D.1周9.在AI模型的可解释性（Explainability）评估中，SHAP值（SHapleyAdditiveexPlanations）的作用是（）。A.衡量模型的预测准确率B.解释单个预测结果中各特征的贡献度C.评估模型的泛化能力D.检测模型的对抗鲁棒性10.以下哪项技术不属于数据脱敏（DataMasking）的常用方法？（）A.哈希加密（Hashing）B.匿名化（Anonymization）C.泛化（Generalization）D.同态加密（HomomorphicEncryption）二、填空题（每空2分，共20分）1.人工智能的技术路径主要包括符号主义、连接主义和__________。2.数据安全治理的“三同步”原则是指同步规划、同步建设、__________。3.生成式预训练变换器（GPT）的核心架构是__________。4.隐私计算的三大技术方向是联邦学习、安全多方计算和__________。5.《生成式人工智能服务管理暂行办法》要求，生成内容需明确标识__________，避免误导公众。6.AI模型的“黑箱”问题指模型决策过程__________，难以被人类理解。7.数据泄露事件的应急响应流程通常包括检测与确认、__________、处置与修复、总结与改进。8.对抗样本攻击的本质是通过微小扰动改变__________，导致模型误判。9.区块链技术在数据安全中的核心应用是__________，确保数据操作可追溯且不可篡改。10.数据分类分级的核心依据是数据的__________和一旦泄露可能造成的影响。三、简答题（每题8分，共32分）1.简述联邦学习与传统集中式机器学习的主要区别。2.列举数据脱敏的至少4种常用方法，并说明其适用场景。3.解释AI模型“过拟合”（Overfitting）的表现及可能的解决措施。4.结合《数据安全法》与《个人信息保护法》，说明数据处理者的“告知同意”义务。四、案例分析题（18分）2024年，某医疗科技公司开发了一款基于AI的癌症辅助诊断系统，通过整合多家医院的患者病历（包含姓名、身份证号、病理图像、诊断结果）训练模型。系统上线后，因数据库权限管理漏洞，导致10万条患者数据被黑客窃取并在暗网出售。事件暴露后，部分患者因个人信息泄露遭受骚扰，个别患者的病理图像被篡改，导致后续诊断出现偏差。问题：（1）分析该事件中存在的主要数据安全风险点（6分）。（2）依据《中华人民共和国数据安全法》《个人信息保护法》及《医疗数据管理暂行规定》，指出该公司应承担的法律责任（6分）。（3）提出至少3项针对性的整改措施（6分）。五、论述题（10分）结合当前技术发展与法规要求，论述“人工智能与数据安全协同发展”的实现路径。答案及解析一、单项选择题1.A（AI的核心三要素是数据、算法、算力，三者缺一不可）2.D（数据安全的“三性”是机密性、完整性、可用性，可追溯性属于扩展要求）3.B（幻觉现象指模型生成看似合理但不符合事实的内容，常见于AIGC系统）4.B（联邦学习通过本地训练+参数聚合的方式，避免原始数据传输）5.B（《数据安全法》规定关键信息基础设施的重要数据出境需经安全评估）6.B（数据投毒攻击针对训练数据，注入恶意样本污染模型）7.B（ε越小，隐私保护强度越高，但数据可用性可能降低）8.C（GDPR要求数据控制者在知悉泄露后72小时内报告监管机构）9.B（SHAP值用于量化每个特征对单个预测结果的贡献）10.D（同态加密是隐私计算技术，不属于脱敏；脱敏侧重数据变形而非加密）二、填空题1.行为主义2.同步使用3.Transformer（注意力机制架构）4.可信执行环境（TEE）5.生成内容（或“AI生成”标识）6.不透明（或“不可解释”）7.隔离与阻断（或“控制扩散”）8.输入数据（或“输入样本”）9.数据存证（或“可信存证”）10.敏感程度（或“重要程度”）三、简答题1.联邦学习与传统集中式机器学习的区别：数据存储：集中式需将数据集中到中心服务器，联邦学习数据保留在本地（边缘设备或机构）。隐私保护：集中式存在数据泄露风险，联邦学习通过参数聚合避免原始数据传输。应用场景：集中式适用于数据可集中的场景（如企业内部），联邦学习适用于跨机构、跨设备的联合建模（如医疗、金融）。通信成本：集中式通信量低（仅需传输数据），联邦学习需多次传输模型参数，通信成本较高。2.数据脱敏常用方法及场景：匿名化：删除或替换直接标识符（如姓名→“用户123”），适用于公开数据发布（如统计报告）。泛化：将精确值替换为范围（如“30岁”→“2535岁”），适用于需要保留统计特征的场景（如人口分析）。掩码：部分隐藏敏感信息（如身份证号→“4403011234”），适用于界面展示（如APP个人信息页）。随机替换：用随机值替代原始数据（如“收入10000元”→“收入9850元”），适用于数据测试或模型训练。3.AI模型过拟合的表现及解决措施：表现：模型在训练数据上准确率极高，但在新数据（测试集）上准确率显著下降；模型过度学习训练数据的噪声或细节。解决措施：增加训练数据量；使用正则化（如L1/L2正则化）限制模型复杂度；采用早停法（EarlyStopping）在验证集效果下降前终止训练；数据增强（如对图像数据旋转、翻转）增加样本多样性；使用dropout层随机失活部分神经元。4.数据处理者的“告知同意”义务：《个人信息保护法》要求，数据处理者在收集、使用个人信息前，需以显著方式、清晰易懂的语言告知处理目的、方式、范围、保存期限等；同意需由个人自愿、明确作出（如勾选同意框），禁止“默认同意”或“捆绑同意”；特殊情形（如处理敏感个人信息）需取得书面或其他更严格形式的单独同意；告知内容发生变更时，需重新取得同意；《数据安全法》补充要求，涉及重要数据处理时，需额外告知数据安全风险及保护措施。四、案例分析题（1）主要数据安全风险点：数据收集环节：未对患者个人信息（身份证号）及敏感医疗数据（病理图像）进行脱敏处理，原始数据直接用于训练。数据存储环节：数据库权限管理漏洞（如未设置最小权限原则、未定期审计），导致未授权访问。数据使用环节：AI模型训练过程缺乏隐私计算技术（如未采用联邦学习），需整合多家医院原始数据，增加泄露风险。应急响应环节：未及时检测到数据泄露（或检测机制缺失），导致数据在暗网流通后才被发现。（2）法律责任：《数据安全法》：未履行数据安全保护义务（第30条），可能面临警告、罚款（最高500万元），直接责任人罚款（最高50万元）；若造成严重后果，可能被暂停业务或吊销许可证。《个人信息保护法》：违反“告知同意”义务（未明确告知数据用途及风险）、未采取必要保护措施（第51条），可能面临上一年度营业额5%以下罚款（最高5000万元），直接责任人罚款（10万100万元）。《医疗数据管理暂行规定》：医疗数据属于敏感数据，未落实“最小必要”原则（过度收集身份证号等非诊疗必需信息），可能被卫生健康部门责令整改并通报批评。（3）整改措施：技术层面：采用联邦学习重构模型训练流程，各医院仅上传模型参数而非原始数据；对数据库实施细粒度权限控制（如基于角色的访问控制RBAC），定期进行漏洞扫描与渗透测试。管理层面：制定《医疗数据安全管理制度》，明确数据收集范围（仅保留诊疗必需信息）、存储期限（按法规要求设置）；开展员工数据安全培训，提升安全意识。合规层面：完成数据分类分级（将患者病理图像标记为“最高级别敏感数据”）；按《数据安全法》要求，对重要数据出境（若涉及）进行安全评估；在系统中增加数据泄露监测预警功能（如异常访问行为识别）。五、论述题“人工智能与数据安全协同发展”的实现路径：人工智能（AI）的发展依赖海量数据，但数据的收集、使用也带来隐私泄露、算法歧视等安全风险。二者协同需从技术、管理、法律三方面构建体系：1.技术融合：以安全技术赋能AI发展隐私计算技术（如联邦学习、安全多方计算）实现“数据可用不可见”，解决AI训练中的数据孤岛与隐私冲突；差分隐私技术在数据脱敏时保留统计价值，平衡数据利用与隐私保护；可解释性技术（如LIME、SHAP）提升AI决策透明度，减少因“黑箱”导致的信任危机；对抗鲁棒性增强技术（如对抗训练）提高AI模型对恶意攻击的防御能力。2.管理协同：建立全生命周期安全管理机制数据采集阶段：遵循“最小必要”原则，仅收集AI训练必需的数据，避免过度采集；数据存储阶段：采用加密存储、访问控制、审计日志等措施，确保数据机密性与完整性；模型训练阶段：监控数据来源（防止投毒攻击）、评估训练数据偏差（避免算法歧视）；模型部署阶段：进行安全测试（如对抗样本测试）、持续监测模型输出（及时发现异常）；数据销毁阶段：采用不可逆删除技术（如数据擦除、物理销毁），防止数据恢复泄露。3.法律与标准：构建合规发展框架落实《数据安全法》《个人信息