2025年人工智能伦理与法律考试试题及答案

2025年人工智能伦理与法律考试试题及答案一、单项选择题（每题2分，共20分）1.某医疗AI系统在诊断乳腺癌时，对非裔女性患者的误诊率比白人女性高23%。这一现象主要违背了AI伦理的哪项核心原则？A.透明性原则B.公平性原则C.责任可追溯原则D.最小风险原则答案：B2.根据《生成式人工智能服务管理暂行办法》修订版（2024），生成式AI服务提供者对用户输入的个人信息处理应当遵循“最小必要”原则。以下哪项行为符合该原则？A.收集用户浏览记录、通话记录、健康数据用于模型训练B.仅收集用户输入的文本内容，且不关联其他未授权信息C.将用户输入的医疗咨询数据共享给第三方药企用于市场分析D.存储用户所有历史对话记录至永久服务器答案：B3.自动驾驶汽车在突发情况下需在“撞击行人”与“撞击护栏致乘客受伤”间选择。根据欧盟《人工智能责任指令》（2024生效），此类场景的算法决策应优先满足：A.乘客生命权B.道路参与者平等保护C.车辆所有者利益D.制造商技术可行性答案：B4.某AI作曲系统基于用户上传的100首古典音乐片段生成新曲，被法院认定构成侵权。其核心法律争议点在于：A.生成内容是否具有独创性B.训练数据的版权归属是否明确C.用户是否获得上传作品的授权D.系统开发者是否尽到合理注意义务答案：C5.我国《人工智能法（草案）》（2024）规定，对“高风险AI系统”实行事前审批制度。以下哪类系统不属于高风险范畴？A.用于监狱管理的人脸识别系统B.电商平台的商品推荐算法C.辅助法官量刑的司法AI系统D.核电站关键设备故障预测系统答案：B6.某AI招聘系统因训练数据中历史招聘记录存在性别歧视，导致对女性求职者评分普遍偏低。根据《个人信息保护法》，用人单位的主要违法点是：A.未对算法进行公平性审计B.过度收集求职者生物信息C.未向求职者告知算法决策逻辑D.因算法缺陷导致就业歧视答案：D7.欧盟《人工智能法案》（AIAct）将AI系统分为不可接受风险、高风险、有限风险和低风险四类。以下哪项属于“不可接受风险”？A.用于政治选举的舆论操控算法B.银行信贷审批系统C.智能家电的语音助手D.交通信号灯智能调度系统答案：A8.某AI医生在未取得患者明确同意的情况下，将诊疗数据用于医学研究。根据《医师法》和《数据安全法》，该行为侵犯了患者的：A.知情同意权B.隐私权C.数据财产权D.健康权答案：A9.针对深度伪造技术的法律规制，我国《网络安全法》修订案（2024）新增规定：使用深度伪造技术制作、传播信息时，应当：A.提前向网信部门备案B.在显著位置进行标识C.获得信息主体书面同意D.保证内容真实性答案：B10.当AI系统因设计缺陷导致重大事故时，根据“技术中立原则”的司法适用新趋势，开发者的责任认定关键在于：A.是否存在主观故意B.能否预见风险并采取合理预防措施C.系统是否通过第三方安全认证D.用户是否遵守使用规范答案：B二、简答题（每题8分，共40分）1.简述AI伦理中“可解释性”要求的具体内涵及其法律意义。答案：可解释性要求AI系统的决策过程能够被人类理解，包括算法逻辑、关键输入数据、权重分配等核心要素的可追溯与可说明。法律意义体现在三方面：一是保障用户知情权（如《个人信息保护法》要求对自动化决策进行解释）；二是辅助责任认定（通过可解释性明确技术缺陷环节）；三是促进监管有效性（监管机构需通过可解释性评估系统风险）。2.比较“数据隐私”与“数据安全”在AI法律规制中的不同侧重点。答案：数据隐私侧重保护个人信息的自主控制权，核心是“未经同意不处理”（如《个人信息保护法》的告知同意规则）；数据安全侧重保障数据在收集、存储、传输过程中的完整性、保密性和可用性，核心是“风险防控”（如《数据安全法》的分类分级保护、风险评估要求）。在AI场景中，隐私问题多表现为过度收集或非法共享，安全问题多表现为数据泄露或篡改。3.简述自动驾驶汽车“道德算法”设计需遵循的伦理准则。答案：需遵循三原则：（1）人类优先原则：不得以牺牲人类生命为代价保护财产或车辆；（2）平等保护原则：对不同年龄、性别、身份的道路参与者给予同等保护，禁止预设歧视性优先级；（3）最小损害原则：在无法避免伤害时，选择造成最少或最轻微伤害的方案，且需排除与道德无关的因素（如乘客身份）。4.生成式AI“输出内容”的法律属性存在哪些争议？答案：主要争议点包括：（1）版权归属：若输出内容具有独创性，是否视为AI“作者”作品（目前主流观点认为AI无法律主体资格，版权归开发者或用户）；（2）侵权责任：输出内容侵犯他人版权时，开发者、用户、平台的责任划分（需区分是否尽到合理审查义务）；（3）内容真实性：虚假信息传播时的责任认定（如深度伪造需标识，否则可能构成欺诈）。5.我国《人工智能法（草案）》对“AI训练数据”提出了哪些特别要求？答案：（1）合法性要求：训练数据需来源合法，禁止使用非法收集或泄露的个人信息；（2）代表性要求：需覆盖多样化场景，避免因数据偏差导致算法歧视；（3）可追溯要求：需记录数据收集、清洗、标注的全过程，保留审计轨迹；（4）安全性要求：对涉及个人信息或敏感数据的训练数据，需采取加密、去标识化等保护措施。三、案例分析题（每题15分，共30分）案例1：2024年10月，某科技公司开发的“智能法官助手”系统在某故意杀人案中，基于历史判决数据生成“建议量刑12年”的结论。辩护律师质疑该系统训练数据中80%为同类案件的有罪判决，且未包含自首、立功等从轻情节的完整数据，导致量刑建议偏重。问题：结合AI伦理与法律相关规定，分析该系统存在的主要问题及改进建议。答案：主要问题：（1）数据偏差问题：训练数据样本不全面（仅80%有罪判决），未覆盖从轻情节的完整数据，违反《人工智能法（草案）》关于训练数据需具有代表性的要求；（2）算法公平性缺陷：因数据偏差导致对从轻情节的识别不足，可能影响司法公正，违背AI伦理的公平性原则；（3）可解释性缺失：未说明量刑建议的具体数据来源和权重计算逻辑，侵犯当事人的知情权（符合《个人信息保护法》对自动化决策的解释要求）。改进建议：（1）扩大训练数据范围，纳入包含从轻、减轻情节的判决样本，确保数据覆盖全面；（2）增加人工审核环节，由法官对AI量刑建议进行合理性验证；（3）完善算法解释功能，向当事人和律师披露关键数据特征（如自首情节的权重系数）和决策逻辑；（4）定期进行公平性审计，评估系统对不同情节的识别准确率。案例2：2024年12月，用户张某使用某AI绘画工具生成一张与知名画家李某作品高度相似的油画，随后将其以8万元售出。李某起诉张某及AI工具开发商侵犯著作权。法院查明：（1）AI工具训练数据包含李某公开作品；（2）张某未获得李某授权；（3）开发商在用户协议中提示“生成内容可能涉及第三方权利，需自行验证”。问题：本案中各方是否构成侵权？请结合相关法律分析。答案：（1）张某构成侵权：根据《著作权法》，张某生成的油画与李某作品高度相似，属于复制行为；虽通过AI工具生成，但张某作为使用者直接利用他人作品获利，未获得授权，应承担侵权责任。（2）开发商是否侵权需分情况：若开发商在训练数据获取时已获得李某授权，则不承担训练阶段责任；但根据《生成式人工智能服务管理暂行办法》，开发商需对训练数据的合法性负责，若无法证明训练数据来源合法（如李某未授权），则可能因提供侵权工具承担连带责任。（3）本案关键在于训练数据的授权情况：若开发商能证明已获得李某对训练数据的授权，则主要责任在张某；若不能证明，则开发商与张某构成共同侵权。此外，开发商虽在用户协议中提示风险，但该提示不能免除其对训练数据合法性的审查义务（《电子商务法》规定平台需尽到合理注意义务）。四、论述题（每题15分，共30分）1.结合我国当前立法与实践，论述AI时代“数据权利”体系的构建路径。答案：AI时代数据权利体系需包含个人、企业、国家三个层面的权利配置：（1）个人数据权利：核心是《个人信息保护法》确立的“信息自决权”，包括知情权、决定权、查阅复制权、删除权等。需完善的方面：①明确“匿名化数据”与“去标识化数据”的权利边界，避免个人对匿名数据过度主张权利；②建立“数据可携带权”，允许用户将个人数据从一个平台转移至另一个平台，促进数据流通；③规范“算法决策中的数据权利”，要求对影响个人权益的自动化决策提供解释并允许人工干预。（2）企业数据权利：需平衡数据利用与竞争秩序。①确认“数据财产权益”，对企业合法收集、加工的数据赋予财产性权利（如《反不正当竞争法》保护数据权益）；②规范数据交易规则，明确数据来源合法性、匿名化处理等要求，防止非法数据流通；③建立“数据共享义务”，对公共数据、垄断平台数据设定合理共享机制（如《数据安全法》要求公共数据开放），避免数据垄断阻碍创新。（3）国家数据主权：①强化数据跨境流动管理，通过《数据安全法》《个人信息保护法》的“安全评估”“认证”等制度，保障重要数据和个人信息出境安全；②建立数据分类分级保护制度，对涉及国家安全、公共利益的数据（如医疗、金融数据）实施严格保护；③推动数据治理国际合作，参与全球数据规则制定（如CPTPP、DEPA中的数据条款），维护我国数据主权和产业利益。构建路径需坚持“权益平衡”原则：既保障个人对数据的控制，又促进企业数据创新；既维护国家数据安全，又推动数据要素市场化。同时需完善配套制度，如数据确权登记、评估定价、交易平台等，形成“法律规范+技术支撑+市场机制”的综合体系。2.论人工智能法律责任的“分层归责”体系构建。答案：AI法律责任的复杂性源于技术主体的多元性（开发者、生产者、使用者、数据提供者等），需构建“分层归责”体系，根据不同主体的注意义务和风险控制能力分配责任。（1）开发者责任：对算法设计、训练数据、系统测试负主要责任。①过错责任为主：若开发者未履行合理注意义务（如未进行公平性测试、未披露算法缺陷），需承担过错责任；②严格责任补充：对高风险AI（如医疗、自动驾驶），即使无过错，若因设计缺陷导致损害，开发者需承担严格责任（参考《产品质量法》对缺陷产品的责任规定）。（2）生产者/提供者责任：对AI系统的交付、维护负直接责任。①提示义务：需向用户明确告知系统功能边界、潜在风险（如自动驾驶的“接管提示”）；②维护义务：需持续监测系统运行，及时更新补丁修复安全漏洞；③若因未履行提示或维护义务导致损害，需与开发者承担连带责任。（3）使用者责任：对合规使用负次要责任。①合理使用义务：需在系统设计范围内使用（如不擅自修改自动驾驶参数）；②过错责任：若因用户不当使用（如关闭安全提示）导致损害，用户需承担相应责任；③特殊场景下的减责：对普通用户（如老年人使用智能医疗设备），若因操作复杂导致损害，可减轻其责任。（4）数据提供者责任：对训练数据的真实性、合法性负责。①若提供虚假或非法数据导致算法偏差（如招聘系统因歧视性数据侵权），