《人工智能概论》模块8

人工智能概论模块8

AI伦理目录01AI伦理基础02AI伦理培养03AI伦理发展的关键因素AI伦理基础单元1算法伦理核心涵义算法决策须避免基于种族、性别、年龄等无关因素的歧视性结果因根源：数据偏差源头识别数据偏差是引发不公平的关键，训练数据偏见会被模型固化防预防：数据收集事前把控数据收集阶段确保

多样性

和代表性修修正：公平检测持续校正建立公平性检测机制，检查不同群体输出分布，及时修正歧视一、AI的主要伦理挑战公平性与公正性“黑箱”困境深度学习模型的决策生成过程难以被人类理解1高风险场景倒逼透明医疗诊断、司法审判等高风险领域，要求AI决策必须可解释，倒逼模型透明化。2技术路径破局特征重要性排序、自然语言解释文本生成等技术，帮助人类理解模型决策逻辑。一、AI的主要伦理挑战透明度与可解释性客厅角落的智能摄像头旁，手机屏幕显示数据访问权限列表风险认知训练数据常含敏感信息摄像头麦克风

易引发隐私泄露三层技术防线数据加密差分隐私添加噪声实现数据可用不可见联邦学习制度保障建立用户知情同意机制，明确用途、范围与风险一、AI的主要伦理挑战隐私与数据保护安全是AI不可逾越的底线1自动驾驶、军事AI可能因软件故障、算法漏洞或网络攻击引发严重事故2设计阶段融入安全理念，设置故障检测、应急恢复、网络安全防护3高风险应用须通过严格安全评估与反复测试，确保运行稳定一、AI的主要伦理挑战安全性AI治理核心难题：责任链条的模糊性01责任界定难题AI造成损害时，制造商、开发者、医院、操作者四方责任难以清晰划分02法律完善路径需完善法律法规，明确研发、生产、部署、使用各环节责任主体03合同保障机制合同明确权利义务，依法追溯责任、保障受害者合法权益一、AI的主要伦理挑战责任归属与法律追责宗旨增进人类福祉，尊重人的尊严、权利与自主性01人类福祉服务健康、教育、社会公平等公共利益02人类尊严不将人视为工具或数据对象03自主权人类保留最终决定权和控制权二、AI伦理的核心原则以人为本全生命周期需具备充分的安全保障能力外部安全抵御攻击抵御数据投毒、对抗性攻击、网络入侵内部可靠稳固运行可控性、鲁棒性、可靠性、冗余容错、稳定性二、AI伦理的核心原则安全可靠长期协同AI定位为人类智能的补充与增强环境友好优化能源配置、降低碳排放、减少资源浪费技术向善全流程合法合规、过程可监督二、AI伦理的核心原则可持续性各参与方对行为及系统产出承担

明确且可追溯

的责任责任归属清晰界定责任主体并追溯至具体环节审查与监督建立内部审计与外部独立监督机制二、AI伦理的核心原则可问责性应对全球性伦理挑战，需跨越国界、学科与文化协同治理01跨文化对话包容治理尊重价值差异，构建包容性全球治理框架02协同发展数字鸿沟缩小数字鸿沟，通过开源共享与能力建设惠及所有国家二、AI伦理的核心原则协作共治数据增值化数字经济发展的终极目标是

人的全面发展发展成果应具

普惠性

，公平分配数字红利01数据流通数据脱敏、联邦学习、隐私计算促进合规流通02程序公正自动化决策流程透明、机会平等，提供申诉渠道二、AI伦理的核心原则包容共享主动识别、预防并消除算法偏见与歧视01分配公正资源、利益与风险配置公平合理02机会平等弱势群体平等获取并受益于AI服务03无偏见与反歧视检测纠正性别、种族、地域、年龄等偏差二、AI伦理的核心原则公平非歧视决策逻辑与运行过程应尽可能

公开、可理解可解释性高风险场景需呈现推理依据可预测性行为输出稳定、可重复、低方差信息披露发布社会责任报告、算法影响评估可追溯性留存训练数据、模型版本、决策路径记录二、AI伦理的核心原则透明可解释保障个人对其信息的

控制权01知情同意与权利告知自愿授权知晓目的可随时撤回02数据主体权益访问更正删除限制处理可携权03隐私内置设计数据最小化目的限定加密存储差分隐私二、AI伦理的核心原则隐私与数据保护多边机制形成"软法"为核心的规范基础2021年联合国教科文组织通过《人工智能伦理问题建议书》2023年中国提出《全球人工智能治理倡议》，倡导以人为本、智能向善组织相继发布准则与标准IEEEOECDG20ISOIEC三、AI伦理的治理框架全球共识凝聚各国在AI定义、风险分类上存在分歧，治理正从碎片化走向规则协调欧盟·风险分级严管分级治理《人工智能法案》分级治理，禁止就业与教育领域的情感识别应用美国·软法先行行业自律依靠行业自律与州级立法，联邦层面尚未形成统一硬法框架中国·软硬结合软引导+硬约束"软引导"加"硬约束"，出台《生成式人工智能服务管理暂行办法》三、AI伦理的治理框架多边规则协调算法偏见治理工具数据清洗、偏见检测、公平性评估隐私泄露欧盟GDPR要求合法性、正当性、透明性技术滥用联合国磋商联合国磋商“致命性自主武器系统”技术普惠全球协作支持发展中国家，推动跨国实验室与合作平台三、AI伦理的治理框架风险导向治理从“价值对齐”迈向“价值共生”从“价值对齐”迈向价值共生，混合路径动态优化强化全球责任共担机制强化全球责任共担，防范极端性、生存性风险推动多学科协同治理进程多学科协同治理，实现技术、哲学、制度、社会对话三、AI伦理的治理框架未来发展方向AI伦理培养单元2核心定义个体在AI开发或决策中的

道德判断能力、责任意识

与

行为规范价值准则兼顾

公平、隐私、安全

等价值，将人文伦理融入技术实践技术聚焦算法偏见、数据隐私泄露、黑箱决策等

AI特有伦理问题一、AI伦理素养与批判性思维AI伦理素养核心定义理性辨析AI对AI输出内容、算法逻辑、数据来源开展独立思考和判断关键价值01避免AI幻觉与虚假信息误导，摆脱过度依赖02与AI伦理素养相互依存：伦理为批判导向，批判保障伦理落地一、AI伦理素养与批判性思维批判性思维围绕技术向善、开放透明、人本导向与跨界协同，构建负责任的AI研发路径技术向善围绕公平、安全、普惠、可持续开展研发开放透明算法可解释、数据可追溯、决策可监督人本导向人为主导、AI辅助，尊重尊严与选择权跨界协同技术、法律、社科、公众多元共治二、AI伦理的创新精神与责任担当AI伦理的创新精神01安全可控防范数据泄露、深度伪造与自主决策失控02公平公正消除数据偏差与算法歧视，避免扩大数字鸿沟03隐私保护遵循最小必要、知情同意、授权可删原则04社会公益维护公共利益与社会稳定05长期可持续建立事前评估、事中监管、事后追责体系二、AI伦理的创新精神与责任担当AI伦理的责任担当AI伦理发展的关键因素单元3传统著作权以"人类创作"为核心，AIGC归属陷入困境我国《生成式人工智能服务管理暂行办法》要求提供者对内容合法性负责，但AIGC著作权归属尚未明确，司法实践仍处于探索阶段。三种归属性观点归属争议01归开发者02归使用者03不受著作权保护一、知识产权界定AIGC的著作权算法具备新颖性、创造性、实用性可申请专利，需界定抽象思想与具体实现数据训练数据含版权作品未经许可使用将构成侵权模型具备独创性可作为软件作品受著作权法保护跨境应用需熟悉不同地域法律规范，规避侵权风险一、知识产权界定AI知识产权保护高风险AI决策进入法庭场景时，可解释性成为责任认定、权利保障与合规监管的法律基石责任认定高风险AI决策造成损害时，需可追溯、可核查权利保障贷款拒绝、司法量刑需给出解释，保障平等权合规监管可解释性是监管前提，可核验算法与决策流程二、深度学习的可解释性核心方法落地要求内在可解释性设计简洁、透明的模型结构外在可解释性事后分析黑箱模型01法律采用分层要求，高风险领域严格、低风险放宽

02与隐私保护协调，通过数据脱敏、差分隐私实现平衡技术路径二、深度学习的可解释性四大规范领域构建AI行业自律体系国内法规与行业自律结合，国际协同推进合规化行业协会自律准则行业自律文本签署场景，构建AI行业自律体系技术研发规范遵循核心原则开展技术研发安全公平透明可控应用规范医疗、教育等领域设定边界与审批要求医疗教育边界审批要求数据规范遵循数据使用基本原则，保障数据安全合法正当必要数据安全