《信息技术伦理》课件 第13章-信息技术伦理 -法律政策与规范

信息技术伦理——理论、方法与案例主编：左美云副主编：王亚妮、陈劭第13章：信息技术伦理相关的法律、政策与规范本章目录13.1国内法律、政策与规范（13份）13.2国外法律、治理文件、伦理准则（8份）13.3本章结语与思考国内IT伦理相关法律/政策/规范及二维码国内1｜《个人信息保护法》保护什么、适用哪里《个人信息保护法》保护个人信息权益，规范处理活动。境内处理适用本法；境外处理若涉及向境内自然人提供服务或分析其行为，也可能适用。处理要有依据处理应遵循合法、正当、必要、诚信和

公开透明原则，并具备同意、履行合同或法定义务等法定事由；处理前还须充分告知。特殊处理规则敏感个人信息要求特定目的和充分必要性，并取得单独同意；自动化决策、公开信息和跨境提供也有专门要求。个人权利与责任个人可知情、查询、更正、删除；处理者须采取安全措施并开展风险评估。

违法可能承担行政、民事乃至刑事责任。国内2｜《数据安全法》数据安全与利用并重《数据安全法》旨在规范数据处理、保护相关权益、维护国家安全，同时鼓励数据依法合理有效利用，促进数字经济发展。分类分级管理法律建立数据分类分级保护制度。重要数据处理者须明确数据安全负责人和管理机构，落实相应的保护责任。伦理要求写入数据活动数据处理要尊重社会公德和伦理，遵守商业与职业道德，不得损害国家、公共及个人组织合法权益；违法造成损害须承担相应责任。国内3｜《新一代人工智能发展规划》发展目标与应用2017年发布的《新一代人工智能发展规划》

设置2020、2025、2030阶段目标，部署基础理论、关键技术、人才与产业，并推动医疗、教育、养老等应用。技术与社会协同规划不仅关注算法能力，还把智能经济、智能社会建设以及基础设施、创新平台纳入国家发展布局。伦理治理任务文件提出完善法律法规、伦理规范、技术标准、安全监管和评估体系，研究人工智能行为与伦理问题。责任机制规划要求建立人机协作伦理框架，制定研发设计人员道德规范和行为守则，建立可追溯、可问责机制。国内4｜《关于加强科技伦理治理的意见》基本原则《关于加强科技伦理治理的意见》提出增进人类福祉、尊重生命权利、公平公正、合理控制风险、公开透明等要求，强调伦理先行与创新发展相协调。谁来治理形成国家统筹、部门协同、单位落实的体制。高校、科研机构和企业承担主体责任；涉及伦理敏感领域的单位应按要求设立审查委员会并保障独立履职。怎样落地通过规范标准、伦理审查、风险监测预警、违规查处和科技伦理教育，

把原则落实到研究与应用全过程。国内5｜《算法推荐管理规定》要防范的风险《互联网信息服务算法推荐管理规定》针对算法歧视、“大数据杀熟”、诱导沉迷等问题，

规范推荐技术在互联网信息服务中的使用。用户能够选择提供者须建立用户标签管理规则，并提供关闭个性化推荐的选项；算法对用户权益造成重大影响时，应依法说明并承担责任。特殊群体与内容对未成年人、老年人等群体提供专项保护，并建立针对违法和不良信息的特征库，防止推荐机制放大伤害。备案与留痕具有舆论属性或社会动员能力的算法推荐服务须履行备案义务，依法留存网络日志，接受相应监管。国内6｜《深度合成管理规定》覆盖哪些服务《互联网信息服务深度合成管理规定》适用于境内应用深度合成技术提供互联网信息服务的活动，重点防止虚假信息及合成内容造成公众误认。服务提供者责任提供者须落实实名、内容审核、数据安全、个人信息保护与应急处置，审核输入和生成内容，发现违法或不良信息及时处置并报告。标识与特殊数据合成人声、人脸替换、智能对话等易混淆内容须作显著标识，并在元数据中添加隐式标识；

人脸、人声等生物识别信息的处理还须依法取得同意。国内7｜《科技伦理审查办法》什么活动要审查覆盖以人为研究参与者、涉及实验动物，

或可能对生命健康、生态环境、公共秩序等

带来伦理风险的科技活动。单位与委员会高校、科研机构、医疗机构和企业承担管理责任。伦理审查委员会应具备相应专业与伦理知识，并有不同性别、外部委员等结构要求。审查程序文件规定申请受理、一般、简易、专家复核和应急程序。部分高风险新兴科技活动实行清单管理与专家复核。后续监督审查通过不是终点，办法还建立登记报告、跟踪审查、投诉举报和责任追究机制，要求持续控制研究过程中的风险。国内8｜《生成式AI服务管理暂行办法》发展与治理的关系《生成式人工智能服务管理暂行办法》坚持发展和安全并重，鼓励创新，同时对生成式AI服务实行包容审慎、分类分级监管。训练和服务要求文件对训练数据、数据标注和服务提供提出要求。服务者发现违法内容应及时处置，并采取措施防范未成年人过度依赖或沉迷。标识、评估和备案图片、视频等生成内容应按规定标识；具有舆论属性或社会动员能力的服务须开展安全评估、履行算法备案并设置投诉举报机制。国内9｜《生成合成内容标识办法》标识对象《人工智能生成合成内容标识办法》覆盖利用AI生成或合成的文本、图片、音频、视频、虚拟场景等信息，目的在于让公众识别内容来源。显式标识在规定情形下，服务者要添加用户可感知的标识；提供下载、复制、导出功能时，也要确保输出文件带有符合要求的标识。隐式标识文件元数据中还要写入生成属性、服务提供者名称或编码、内容编号等制作要素，为追溯提供线索。发布与禁止行为用户发布生成合成内容时应主动声明并使用标识功能；

任何组织和个人不得恶意删除、篡改、伪造或隐匿标识。国内10｜《新一代AI伦理规范》六项基本要求提出增进福祉、公平公正、隐私安全、可控可信、责任担当和伦理素养，要求伦理融入AI全生命周期。四类活动规范分别面向管理、研发、供应、使用提出具体要求，使组织治理、产品设计、服务提供和使用行为都有可参照的伦理边界。人的主体地位人是最终责任主体，应保有自主决策与退出AI交互的权利；系统要透明、行为可测、可靠可信，不能损害人的安全与尊严。国内11｜《全球AI治理倡议》倡议的主张《全球人工智能治理倡议》强调发展与安全并重、以人为本和智能向善，主张AI服务人类福祉与可持续发展。反对的做法倡议反对利用AI干涉他国内政、

传播虚假信息、实施技术垄断或设置

发展壁垒，要求尊重他国主权与法律。共同治理倡议提出分类分级治理、测试评估、隐私和数据保护、伦理规范与问责，并强调公平、非歧视和广泛参与。国际合作支持提升发展中国家代表性，主张在联合国框架下讨论国际AI治理机构，协调跨国发展与安全问题。国内12｜《生成式AI服务安全基本要求》文件用途《生成式人工智能服务安全基本要求》覆盖语料安全、模型安全、安全措施和安全评估，为服务者自评与主管部门评判提供技术参照。语料从采集前就要检查采集前应评估来源；违法不良信息超过规定比例不得采集。采集后仍须复核，超标内容不得用于训练。重点场景与长期风险医疗、心理咨询、金融等重要场景须有与风险匹配的保护措施；还要关注欺骗、自我复制、恶意软件及生化风险等潜在问题。国内13｜《AI科技伦理审查与服务办法》适用活动与责任主体《人工智能科技伦理审查与服务办法（试行）》面向可能影响尊严、生命健康、公共秩序等的AI科研与开发。高校、科研机构、医疗机构和企业是第一责任主体。审查组织相关单位应建立AI科技伦理委员会或依托服务中心，并提供人员、场地和经费，保障审查独立开展。审查什么重点看人类福祉、公平公正、可控可信、透明可解释、责任追溯及隐私数据保护，并把伦理要求贯穿立项、研发、测试和应用。程序与跟踪设置一般、简易、专家复核和应急程序；高风险活动接受更严格复核及持续跟踪，违规行为依法依规处理。国外IT伦理相关法律/政策/规范及二维码国外1｜欧盟《通用数据保护条例》处理原则与依据GDPR要求个人数据处理具有合法依据，并遵循合法、公正、透明等原则；特殊类别数据如健康和生物特征信息受到更严格保护。数据主体权利个人拥有访问、更正、删除、数据可携和反对等权利。课堂比较时可观察权利如何对应控制者的告知与响应义务。组织义务控制者和处理者须履行问责与安全保护，

必要时开展数据保护影响评估、

指定数据保护官；数据泄露可能触发

72小时内通知监管机构要求。跨境与监督向第三国传输数据有专门条件；

各成员国监管机构及欧洲数据保护委员会

共同构成监督体系，并可对违规行为处罚。国外2｜《安全、可靠与可信的人工智能开发和使用行政令》教材收录的历史文件要求联邦机构统筹AI安全、隐私、公民权利、消费者及劳动者保护。当时的治理措施要求特定高风险基础模型开发企业向政府通报训练情况，并提交公开发布前的安全测试结果，同时强调政府、产业、学界和社会协作。国外3｜

《欧盟人工智能法案》风险分级欧盟《人工智能法案》按照风险设置义务：禁止部分不可接受的实践；对高风险系统规定更严格要求；通用AI模型另有透明度及风险管理规则。高风险系统义务包括风险管理、数据治理、技术文档、透明度、人类监督、网络安全，以及上市前的合规评估。人类监督怎样实现负责人应能理解系统能力边界、识别异常和自动化偏见，并可选择不使用或中止系统，而不是仅在流程上挂名。治理与创新欧盟AI办公室等机构协调实施；法案也鼓励监管沙箱和面向中小企业的支持措施。国外4｜《欧洲委员会人工智能与人权、民主及法治框架公约》公约保护的对象欧洲委员会AI框架公约要求AI系统生命周期内的活动符合人权、民主和法治，关注尊严、自主权及公共制度可能受到的损害。按影响程度采取措施缔约方应根据不良影响的严重程度和发生概率制定差异化措施，反复识别、评估、预防和减缓风险；必要时可暂停或禁止特定用途。适用与落实公约要求通过立法、行政等方式落实，私营部门也应纳入适当约束；缔约方会议负责跟踪执行情况。国外5｜《OECD人工智能原则》面向AI参与者OECD人工智能原则提出包容增长与福祉、以人为本和公平、透明可解释、稳健安全可靠、可问责五项要求。面向政策制定者另有五项建议，涉及研发投入、可信AI环境、

政策生态、人才与劳动力能力，

以及国际合作。版本变化原则于2019年首次通过，2024年更新，以回应生成式AI等技术发展和政策环境变化。文件性质它是政府间原则和政策参照，为组织与国家提供共同语言；具体法律义务仍由各国相应制度确定。国外6｜《人工智能风险管理框架》框架服务谁NIST《人工智能风险管理框架》为设计、开发、部署和使用AI的组织提供自愿采用的方法，帮助管理对个人、群体和社会的潜在伤害。四项核心职能GOVERN（治理）贯穿全流程；MAP（识别情境与风险）、MEASURE（度量）

和MANAGE（管理）可按系统生命周期和具体场景反复使用。可信AI的判断框架关注有效可靠、安全韧性、透明问责、可解释、隐私保护和公平等特征，不限定行业，强调随技术与经验持续更新。国外7｜《以促进创新为导向的人工智能监管方案（白皮书）》五项跨行业原则英国2023年AI监管白皮书提出

安全可靠与稳健、透明可解释、公平、问责与治理、可争议与救济五项原则。谁来执行白皮书主张由既有行业监管机构在各自职责内解释和落实原则，而不是立即设立统一的AI监管机构。法律效力文件发布时属于政策方案和公众咨询材料；原则本身不具有直接法律强制效力，具体要求须结合现行法律与监管指南理解。迭代式监管白皮书提出监管沙箱和支持工具，希望规则随着技术能力、应用场景与社会认识调整。国外8｜《东盟AI治理与伦理指南》七项指导原则东盟AI治理与伦理指南提出透明可解释、公平、安全、以人为本、隐私与数据治理、

问责诚信、稳健可靠等原则。内部治理怎么做建议建立跨学科治理结构，开展生命周期风险评估，并与利益相关方沟通。人类介入可分为“人在回路中”“人在回路上”和“人在回路外”。高风险决策与地区合作对个人有重大影响的决定，指南建议加强人工介入；同时提出人才培养、创新支持及区域治理互操作性建议。国外9｜IEEE行为准则专业交往中的底线IEEE行为准则要求会员和雇员尊重他人，不散布恶意攻击言论，不骚扰或歧视，并尊重隐私与个人信息。诚信与保密不得行贿、腐败或损害他人财产及声誉；

须维护商业和专业机密，遵守适用法律

与IEEE政策。举报保护组织成员不得报复举报违规行为的人。准则把组织活动中的权力关系和工作环境也纳入职业伦理。适用重点这是一份规范IEEE成员及雇员行为的准则，关注专业组织生活中的具体边界，与工程产品设计义务有侧重点之别。国外10｜IEEE伦理准则公众利益优先IEEE伦理准则要求把公众安全、健康和福祉放在首位，遵守伦理设计和可持续发展实践，并及时披露可能危害公众或环境的因素。专业能力与诚信工程人员应避免或披露利益冲突，拒绝行贿腐败；只有具备训练和经验时才承担技术任务，否则应说明能力局限。公平与共同责任准则要求公平对待不同人群