数据思维与大数据基础课件 第5章 大数据伦理与法规

第5章大数据伦理与法规探索大数据时代的伦理与法律边界目录5.1大数据伦理概念5.2大数据伦理产生原因5.3大数据伦理治理5.4大数据伦理案例：亚马逊AI招聘工具性别歧视事件5.5大数据伦理案例：明确零工法律定位，规范平台算法管理5.1大数据伦理概念了解大数据伦理的定义、发展及研究内容大数据伦理的发展历程回顾关键政策法规与理论著作《数据保护指令》1995年欧盟出台，首次以法律形式明确“个人数据”定义，推动全球隐私保护框架。1“情境完整性”理论1996年学者海伦·尼森鲍姆提出，强调数据使用伦理应基于具体场景。2《大数据：抓住机遇，保护价值》2012年美国白宫发布，首次系统讨论大数据伦理问题，强调隐私等。3《大数据伦理学》2012年美国学者戴维斯和帕特森出版，探讨大数据环境下的道德规范。4《通用数据保护条例》2016年欧盟通过，确立新型权利，成为全球数据伦理治理标杆。5《人工智能伦理建议书》2021年联合国教科文组织发布，提出大数据应用应遵循的原则。6《生成式人工智能服务管理暂行办法》2023年我国发布，强调数据来源合法性及算法公平性。7《人工智能法案》2024年欧盟通过，将高风险系统数据治理纳入强制合规框架。8大数据伦理的相关法律规定解读我国相关法规的具体要求开展数据处理活动应促进社会发展，增进人民福祉，符合社会公德和伦理。数据处理的总体要求01收集数据要合法、正当，不得窃取，要在规定目的和范围内进行。数据收集的规范02国家机关需在职责范围内依规收集、使用数据，保密隐私等信息。国家机关数据收集使用03国家机关委托他人处理政务数据需经批准，监督受托方履行义务。委托处理政务数据04国家机关应公正、公平、便民地公开政务数据，构建开放平台。政务数据开放05大数据伦理的定义与阐释明确大数据伦理的内涵与范畴大数据伦理的定义在大数据开发、应用和管理中，各环节应遵循的道德原则、行为规范和社会责任。研究内容包括数据主体权益、处理伦理、共享传播、责任义务等方面。目的规范行为、保护权益、促进大数据技术合理应用与创新发展。范畴涵盖技术伦理、商业伦理、社会伦理和环境伦理等多个领域。040302015.2大数据伦理产生原因剖析大数据伦理问题产生的多元因素技术驱动探讨技术进步带来的伦理挑战1数据规模爆炸性增长物联网等技术发展使数据量剧增，预计2025年全球达175ZB，中国占比27.8％。2算法的“黑箱”特性深度学习算法决策过程难解释，存在非线性复杂性、参数多等问题。3数据关联性与再识别风险多源数据关联可使匿名数据再识别，匿名技术难阻反向识别。数据泄露黑客等技术手段入侵系统窃取数据，如Uber、万豪酒店数据泄露事件。4技术驱动阅读并讨论《中华人民共和国数据安全法》中涉及数据泄露的相关内容。社会需求关注公众权利意识的变化与诉求隐私观念的变化社交媒体曝光隐私问题，公众更关注数据隐私，谨慎使用互联网服务。社会公平诉求的强化大数据算法依赖数据，可能存在偏见，加剧社会不平等，如预测性警务。集体权利与数据主权的兴起全球多数国家制定数据本地化法律，数据主权涉及国家、企业和个人层面。社会需求讨论（1）2021年纽约市通过的《算法问责法》，2023年加州通过的《算法问责法案》。

（2）如何平衡数据开放共享与主权保护，如TikTok数据存储争议。经济诱因数据作为新型生产要素数据成为企业核心资产，驱动商业模式创新，但易引发数据垄断。01成本转嫁与责任逃避企业将数据安全成本转嫁用户，推卸数据滥用责任，政府立法防范。02分析经济利益对伦理的影响经济诱因阅读与讨论（1）《关于加强数据资产管理的指导意见》。

（2）个性化推荐的是与非。法律滞后01现有法律基于“小数据”时代设计，难应对大数据的动态性和跨界性。监管与技术的脱节02用户生成内容归属等问题，数据所有权、使用权界定存在模糊。数据所有权界定模糊监管与技术的脱节法律滞后讨论针对北京互联网法院作出国内第一例生成式人工智能（AIGC）作品著作权的判决进行研讨。跨境数据治理的复杂性应对全球数据流动带来的挑战各国法律矛盾如美国CLOUD法案与欧盟GDPR矛盾，跨国公司利用监管差异“数据套利”。1协调数据流动规则2023年《欧盟-美国数据隐私框架》等试图协调跨大西洋数据流动规则。25.3大数据伦理治理构建有效的大数据伦理治理体系大数据伦理治理的定义明确治理的概念与要点多维度规范涉及伦理、法律、技术、管理等多维度综合规范，保障大数据健康发展。全生命周期覆盖从数据产生到应用，全过程进行伦理治理，确保各环节合规。多方参与政府、企业、社会组织、科研机构和公众共同参与治理，形成合力。道德伦理治理建立价值导向的伦理框架伦理原则体系化制定尊重自主、公平公正等原则，保障用户权益，消除算法歧视。01伦理治理机制在大数据项目各环节引入伦理审查，成立委员会评估潜在伦理问题。02伦理教育和培训在高校和职业教育中加强伦理课程，对从业者进行定期伦理培训。03法律治理强化法律的刚性约束法律法规的完善制定专门大数据法律，修订现有法律，明确数据主体权利和处理者义务。法律执行机制建立执法监督机制，设立专门机构，采取罚款等措施打击违法行为。国际合作加强国际法律合作，制定规则，协调差异，共同应对全球伦理挑战。建立刚性的合规边界技术治理隐私保护技术运用加密、匿名化等技术，保护数据主体隐私，确保数据可用不可见。0102数据和算法治理技术全程追踪数据，使用自动化工具处理，检测和纠正算法偏见。算法的可解释性和公正性开发可解释算法，评估公正性，确保算法决策公平无歧视。0304数据安全管理体系采用备份、入侵检测等技术，严格权限管理，保障数据安全。开发可信的数据基础设施Fairlearn应用介绍促进机器学习模型公平性的工具Fairlearn是Python库，帮助构建公平无偏见的预测模型，推动负责任AI发展。Fairlearn简介1使用“pipinstallfairlearn”命令安装，方便开发者使用。安装命令2通过示例展示如何检查模型不公平度，调整权重实现公平性。（具体程序见课本157页）应用示例3可访问Fairlearn网站查看GitHub存储库、指南和示例程序文件。深入了解更多45.4大数据伦理案例：亚马逊AI招聘工具性别歧视事件分析典型案例，反思大数据伦理问题背景介绍了解亚马逊AI招聘项目的起因项目启动2014年亚马逊启动AI招聘引擎项目，旨在提升招聘效率，缩短招聘周期。1目标与期望目标是将招聘周期缩短50%以上，减少人力资源部门的工作负担。2性别偏见暴露实际应用中发现严重性别偏见，最终迫使亚马逊放弃该工具。3技术实现与数据基础探究算法模型与数据存在的问题算法模型设计基于NLP和协同过滤算法，分析历史数据，为简历生成评分。数据偏见根源训练数据中男性简历占多数，算法形成关键词偏见，优先推荐男性。伦理问题浮现揭示项目中出现的伦理问题系统性性别歧视算法对含女性词汇简历降星，男性候选人评分更高，存在明显歧视。透明度缺失招聘团队不知评分依据，求职者不知由AI筛选，无法申诉，形成“黑箱”。责任归属模糊问题出现后，技术团队推诿，管理层反应迟缓，责任难以界定。事件后果与应对了解事件影响及亚马逊的应对措施事件曝光后，亚马逊股价下跌，引发舆论危机，行业也产生连锁反应。社会影响关闭AI招聘工具，删除性别关联字段，成立伦理委员会审查算法。亚马逊的应对措施伦理反思与改进总结教训，提出改进方向技术设计的伦理缺陷算法未考虑历史数据不平等，开发团队缺乏多样性，放大数据偏见。01行业规范与政策响应欧盟《人工智能法案》等要求提交偏见评估报告，规范行业发展。02技术改进路径采用对抗性训练、生成式AI等，消除性别特征影响，平衡训练集。03案例启示从案例中汲取经验教训01数据伦理必须前置技术开发初期需嵌入伦理风险评估，避免事后补救，承担社会责任。02多元化团队的重要性单一的开发团队可能忽视算法对少数群体的伤害，需多元化验证。03透明度与问责制的必要性企业应公开算法逻辑，建立申诉渠道，满足法律强制要求。模拟程序实现展示符合伦理的招聘筛选过程（具体程序见课本160页）数据隐私保护筛选过程只保留必要信息，不保留年龄、性别等可能导致歧视的信息。01公平性筛选条件基于学历、经验、技能，不涉及性别、年龄等歧视因素。02透明度招聘要求明确列出，求职者可清楚知道筛选标准。035.5大数据伦理案例：

明确零工法律定位，规范平台算法管理探讨零工市场的伦理与法律问题背景了解零工市场的发展与挑战1灵活就业人员规模我国灵活就业人员达2亿人，零工市场成为重要就业形式。政策支持中央和人社部出台政策，强调规范零工市场建设，保障劳动者权益。2法律挑战现有法律难应对新型用工模式，劳动关系认定缺乏依据。3零工劳动者工作现状01工作内容任务化按需用工，按任务确定工作时长和报酬，任务结束合作也结束。02工作场景多元化工作场所不固定，适应不同环境和类型，像“U盘式就业”。03工作方式灵活化工作时间自主，可自行选择工作和任务，但存在工作不饱和问题。04求职行为高频次就业稳定性低，到劳务市场求职频率明显更高。05收入即时性任务结束即获报酬，但存在不按时足额支付问题，劳动者很担心。分析零工劳动者的工作特点当前零工市场劳务人员保障面临的主要问题指出零工市场存在的保障难题1劳动关系认定困难零工用工模式灵活，劳动者对平台从属性减弱，难以认定劳动关系。2算法监控趋于隐蔽企业对劳动者控制方式转变，算法监控不合理，劳动者权益难保障。对策建议提出解决零工市场问题的方案定位法律身份探索以经济从属性判断，明确零工劳动者法律身份，给予倾斜保护。完善法律法规