人工智能基础教程课件

ArtificialIntelligence人工智能伦理与安全第7章人工智能基础教程主讲人：×××目录7.1人工智能伦理问题7.2人工智能安全问题人工智能道德与法律7.37.1.1人工智能伦理概念核心定义：人工智能伦理并非单一的技术规范，而是一套融合了价值体系、原则规范与实践准则的综合框架。它的核心使命是为AI技术的研发与落地划定道德边界，解决系统自主决策中可能出现的道德冲突，确保技术演进始终锚定人类社会的核心价值观，避免技术发展与人文伦理的背离。核心支柱：随着AI自主决策能力的提升，伦理建设聚焦于五大核心支柱：公平性要求算法摒弃偏见，避免对特定群体的歧视；透明度强调系统决策过程可被理解；可解释性让AI的行为逻辑不再是“黑箱”；安全性保障技术应用不会对人类造成物理或数据层面的伤害；问责性则明确了AI行为产生后果时的责任归属主体。深层内核：人工智能伦理的深层内核，在于从“技术可行性”向“伦理正当性”的思维跃迁。当技术不断突破能力边界时，人类需要同步构建道德护栏，不仅要回答“技术能做什么”，更要严肃思考“技术应该做什么”，通过主动的伦理设计，让AI成为服务人类福祉的工具，而非脱离人文约束的独立力量。7.1.2人工智能伦理的类型与产生原因算法偏见是人工智能伦理领域最突出的问题之一，它并非技术自发形成的缺陷，而是人类社会既有认知偏差在数字世界的投射与放大。理解其本质、明确公平准则并落实实现路径，是构建可信AI的关键基石。偏见并非AI主动创造，而是人类社会的固有偏见通过数据收集、算法训练环节，被数字化植入并在系统决策中被进一步放大。偏见的本质溯源01从数据源头保障样本多样性，设计阶段引入公平性约束算法，应用环节建立全流程监督机制，多维度阻断偏见传播。公平落地的实现路径03核心是消除歧视性决策，要求AI系统在运行中，不得基于种族、性别、年龄、地域等敏感属性，对个人或群体区别对待。公平性的核心准则021.算法偏见与公平性7.1.2人工智能伦理的类型与产生原因AI与数据的关系人工智能的发展高度依赖于数据，尤其是海量、多维度的个人数据。人工智能系统通过收集、分析和利用个人数据，能够提供个性化服务，提升效率。例如，智能推荐系统可以根据用户的浏览历史、购买记录等数据，为用户精准推荐符合其兴趣和需求的商品和服务；智能医疗系统可以通过分析患者的病历、基因数据等，为患者提供个性化的诊断和治疗方案。带来的隐私挑战然而，人工智能对数据的依赖也带来了前所未有的隐私挑战。数据收集的普遍性与隐蔽性使得个人信息在不知不觉中被收集，用户可能并不清楚自己的哪些信息被收集以及用于什么目的。此外，数据泄露事件也时有发生，一旦这些高度敏感的个人数据被泄露或滥用，可能导致身份盗用、精准诈骗、名誉损害等严重后果。问题解决方向因此，如何在利用数据价值的同时，有效保护个人隐私，遵循“合理、合法和必要”的原则，成为人工智能伦理和法律必须解决的关键问题。在数据收集方面，应明确告知用户数据收集的目的、范围和使用方式，获得用户的明确同意；在数据存储和使用方面，应采取加密、匿名化等技术手段，保障数据的安全性。2.数据隐私与个人信息保护7.1.2人工智能伦理的类型与产生原因3.人工智能的透明度与可解释性概念与意义透明度指人工智能系统的设计、数据来源、决策逻辑等信息应对利益相关方公开，使其了解系统基本运作方式，既可以增加用户对系统的信任，也便于监管机构对系统进行监督管理，确保其符合法律法规和伦理要求。可解释性更进一步要求人工智能系统能够用人类可理解的语言，解释其做出特定决策的具体原因。比如人工智能医疗系统建议治疗方案时，医生需要理解其诊断依据才能做最终判断；人工智能信贷系统拒绝贷款申请时，用户有权知道具体原因以便申诉或改进。缺乏二者的AI系统难以获得用户信任，出现问题时也难以进行有效审查和问责。为提升人工智能系统的透明度和可解释性，可采用多种方法：在算法设计阶段选择可解释性强的算法模型；在系统开发过程中记录系统的决策过程和关键参数，为解释决策提供依据；在系统应用阶段提供用户友好的解释界面，将复杂的决策过程以简单易懂的方式呈现给用户。可解释性要求提升实现方法7.1.2人工智能伦理的类型与产生原因4.人工智能的责任归属与问责机制

责任归属的复杂性随着人工智能系统自主性的提高，其行为后果的责任归属问题变得日益复杂。当一辆自动驾驶汽车发生事故，责任应由车主、汽车制造商、算法开发者还是传感器供应商承担？不同主体在事故中可能都存在一定的责任，但很难明确界定各自的责任比例。同样，当一个人工智能交易系统做出错误决策导致巨额亏损，谁应该为此负责？是系统的使用者、开发者还是提供数据的服务商？这些问题构成了人工智能伦理中的责任归属与问责机制议题。

问责机制的建立建立清晰的责任链条和有效的问责机制，是确保人工智能技术健康发展的必要保障。这不仅需要在技术层面确保人工智能系统的行为可追溯、可审计，通过记录系统的运行日志和决策过程，以便在出现问题时能够查明原因；更需要在法律层面明确各方主体的权利、义务和责任，制定相关的法律法规和标准，规范人工智能系统的开发、部署和使用。7.1.2人工智能伦理的类型与产生原因5．人工智能对社会就业的冲击部分国家或地区的企业为降低成本、提升效率，往往会加速自动化进程，但同时又未承担足够的再培训责任。与此同时，当地政府的政策监管滞后于技术发展，全民基本收入等社会保障机制尚未完善，在这种情况下，失业引发的焦虑情绪会导致受影响的人群出现心理健康问题。

企业责任与政策滞后自动化技术已显著替代制造业、客服等领域的重复性岗位，导致结构性失业风险加剧。

自动化替代与失业风险技术升级迫使劳动力向数据分析、人工智能开发等高技术岗位转型，但明显呈现出技能错位现象，即传统从业者普遍缺乏对人工智能算法等相关技术的理解和掌握水平，这导致高学历人群更容易获取到理想的工作岗位，而教育弱势群体则难以跨越技能门槛。

技能转型与错位020103

人工智能对社会就业的影响7.1.3人工智能伦理问题应对策略完善法律法规与政策框架制定专项人工智能伦理法律，明确算法透明度、数据隐私保护、责任划分等核心条款，确立“安全、公平、透明、可责、以人为本”核心。可通过指南、标准等灵活手段响应技术迭代，成熟后再立法固化。1制定行业伦理准则与标准由行业协会牵头，联合头部企业制定统一的人工智能伦理规范。企业依规设内部伦理治理体系，开展伦理风险评估、算法偏见检测，建立算法备案追溯机制，留存相关文档数据日志，确保可追溯、可追责。建立全链条责任追溯机制，法律设定自主系统有限责任主体，开发者按系统自主程度承担比例连带责任，对违伦理行为设处罚。2建立人工智能伦理审查机制组建跨学科审查委员会（包含法学、伦理学、技术专家等），强制高风险人工智能项目开展前置伦理审查。3细化数据治理规则强化个人信息保护，严格落实数据最小化、目的限制、知情同意原则。建立数据跨境流动的安全评估机制，规范敏感数据的使用；明确数据所有权、使用权与收益权，保障数据主体的合法权益。4保障社会就业转型针对社会就业问题，可以构建人机协作的新型就业生态。通过建立高危岗位预警系统，联合企业提供技能转换培训。此外，相关部门可以立法承认智能系统的工具属性，明确人类在关键决策中的最终控制权，保障劳动者权益。5目录7.1人工智能伦理问题7.2人工智能安全问题人工智能道德与法律7.37.2.1人工智能安全的类型与产生原因1.数据安全

01数据泄露风险加剧人工智能模型日益庞大且开发流程复杂，导致数据泄露风险点增多、隐蔽性增强。此外，人工智能对海量数据的依赖使得敏感信息泄露风险上升，而数据归属权在法律上尚不明确，这将进一步加剧数据泄露的隐患。

02数据流入门槛降低用户在使用人工智能，特别是借助人工智能工具来提高办公效率时，容易放松警惕，可能会在无意间输入个人隐私、商业机密或科研成果，导致敏感数据被模型吸收并泄露。

03隐私透明化人工智能通过摄像头、手机等设备可以无感采集个人信息。结合强大的关联分析能力，人工智能还能精准匹配身份、行踪甚至社会关系，形成个人隐私画像，引发隐私透明化风险。若数据存储不当或遭攻击，可能导致数据大规模泄露。

04法律滞后与监管挑战现行法律难以全面覆盖人工智能数据泄露的新问题。例如，用户无法监督人工智能决策的“黑箱”过程，数据来源合法性存疑。同时，大语言模型的数据交互削弱了政府监管能力，可能威胁国家安全。训练数据若包含历史歧视、样本失衡或带有偏见的标签，模型会学习并放大这些固有问题。这种“垃圾进，垃圾出”的机制，使得算法成为历史不平等的数字化延续，在招聘、信贷等场景中产生歧视性输出。数据驱动型偏见AI的推荐结果引导用户注意力，形成“信息茧房”，而用户在茧房中的行为数据又被用于模型迭代。这种闭环会不断强化初始的偏见倾向，让算法视野越来越窄，加剧群体极化与认知偏差。反馈循环型偏见算法设计者的认知局限、价值取向或技术选择会直接嵌入模型。例如特征工程中对某些指标的偏好、损失函数设计的导向偏差，都可能让模型输出带有主观偏见，甚至违背公平性原则。算法设计型偏见7.2.1人工智能安全的类型与产生原因2.算法安全生物识别技术的滥用正成为隐私侵犯的重灾区。强制或非自愿的人脸识别采集，不仅逾越了用户知情同意的边界，更可能导致面部特征等永久性生物数据泄露，一旦数据库被攻破，将对个人身份安全造成不可逆的威胁。生物识别滥用与隐私侵犯生成式AI带来的深度伪造技术，正在催生新型网络犯罪。虚假视频、语音可被低成本批量制造，用于电信诈骗、恶意诽谤或伪造证据，不仅让个人财产与名誉受损，更严重破坏社会信任基础，挑战司法取证与社会治理的底线。深度伪造与新型犯罪个性化推荐算法虽提升了信息获取效率，却也悄然构建起“信息茧房”。用户被局限于同质化信息圈层中，观点与认知逐渐固化，不同群体间的理解壁垒加深，极易引发社会认知割裂，进一步加剧社会对立与冲突。信息操控与认知窄化7.2.1人工智能安全的类型与产生原因3.应用安全人工智能安全风险的滋生并非单一因素所致，而是技术演进、制度建设与伦理构建不同步引发的系统性问题。技术的工具属性、规则的更新速度与价值的引导力量之间的失衡，共同造就了当前AI领域的安全挑战。AI技术在赋能产业升级与生活便利的同时，其工具属性也可能被不法分子利用，成为诈骗、信息窃取等违法犯罪的新型手段，这是风险产生的技术根源。技术发展的双刃剑效应01全球尚未形成统一且完善的AI伦理规范体系，技术研发与应用缺乏明确的价值锚点，易引发技术发展与人类社会价值的冲突。伦理规范的缺失03法律条文的制定往往需要时间沉淀，难以跟上AI技术迭代的速度，监管空白的存在为技术滥用留下了可操作的空间。法律法规的滞后性027.2.1人工智能安全的类型与产生原因4.安全风险产生的原因7.2.2人工智能安全问题应对策略数据安全应对构建数据安全防线需技术与制度双管齐下。采用隐私计算、同态加密等前沿技术实现“数据可用不可见”；实施数据分级分类管理，明确核心数据保护红线；同步细化数据安全相关法律法规，为数据流通与使用划定法律边界。算法安全应对聚焦算法全生命周期治理。优化训练数据集与流程，剔除样本偏差，消除算法歧视隐患；部署算法运行实时监测仪表盘，捕捉异常决策；引入独立第三方审计机构，对算法透明度与公平性进行专业评估与合规审查。应用安全应对筑牢终端应用安全屏障。研发深度伪造检测与溯源工具，对抗虚假信息传播；保障用户知情权与选择权，提供“关闭个性化推荐”等隐私功能；常态化开设公众数字素养课程，提升社会对AI风险的辨别与防范能力。社会协同打破单一主体治理局限，构建“技术防御+法律约束+公众参与”的多元协同体系。技术提供底层防护，法律确立行为准则，公众参与形成监督合力，三者有机融合，共同构筑人工智能安全的立体防护网。目录7.1人工智能伦理问题7.2人工智能安全问题人工智能道德与法律7.37.3.1常见的人工智能道德规范框架1.欧盟《可信人工智能伦理指南》欧盟在人工智能伦理治理领域处于世界领先地位。2019年，欧盟高级专家组发布了《可信人工智能伦理指南》。该指南首次提出了“可信人工智能”的概念，并明确了其三大核心支柱，即合法性、伦理性和稳健性。为实现可信人工智能，该指南进一步提出了七个关键要求，具体如下。人类能动性和监督人工智能系统应支持人类的能动性和基本权利，并允许人类对其进行有效监督。透明度人工智能系统的决策过程应可追溯、可解释。隐私和数据治理人工智能系统应充分尊重隐私，并对数据质量和完整性进行有效管理。问责制应建立机制，确保对人工智能系统及其结果的责任。技术鲁棒性和安全性人工智能系统应安全可靠，能够抵御攻击，并防止意外伤害。社会和环境福祉人工智能系统应有益于社会和环境。技术稳健性与安全性人工智能系统应在全生命周期内保持安全、可靠且无害。多样性、非歧视和公平人工智能系统应避免不公平的偏见，并促进多样性。中国围绕人工智能发展与治理提出八项核心原则，构建起兼顾技术创新与人文关怀的治理体系，旨在推动AI造福全人类。7.3.1常见的人工智能道德规范框架2.中国《新一代人工智能治理原则》人工智能发展应以增进人类共同福祉为目标，应符合人类的价值观和伦理道德。和谐友好人工智能系统应安全可控，确保人类拥有充分自主决策权。安全可控人工智能发展应促进公平公正，保障利益相关者的权益，促进机会均等。公平公正人工智能的研发者、使用者及其他相关方应具有高度的社会责任感和自律意识，建立问责机制。共担责任人工智能发展应促进包容性发展，加强国际合作，共享发展成果。包容共享鼓励跨学科、跨领域、跨地区、跨国界的交流合作，推动形成具有广泛共识的国际治理框架。开放协作人工智能发展应尊重和保护个人隐私，保障个人信息安全。尊重隐私尊重人工智能发展规律，推动治理原则落地，形成多元共治、多管齐下的敏捷治理模式。敏捷治理7.3.2人工智能道德规范的具体内容以人为本是人工智能伦理的首要原则，强调人工智能技术发展和应用应以增进人类福祉为最终目标，尊重和保护人的尊严、权利和自由，要求人工智能服务人类而非取代控制人类，决策过程确保人类拥有最终决策权与控制权。例如医疗领域人工智能辅助医生诊断，最终方案由医生制定，自动驾驶领域紧急情况驾驶员可随时接管控制权，同时要求设计充分考虑各类用户尤其是弱势群体的需求，保障技术的普惠性和包容性。

以人为本与福祉原则公平公正是人工智能伦理的核心要求，要求人工智能系统决策对所有用户一视同仁，避免因种族、性别、年龄、宗教、地域等因素产生任何形式歧视，需要在设计、开发、应用全环节采取措施防止消除算法偏见。数据收集阶段要保障训练数据的多样性和代表性，算法设计阶段采用可检测纠正偏见的算法并严格评估测试公平性，应用阶段建立申诉监督机制，允许用户对不公平决策提出异议并及时纠正。公平公正与非歧视原则安全可控是人工智能技术发展的底线，要求人工智能在设计、开发、应用全过程保障安全可靠，能够抵御各类攻击干扰，防止意外伤害发生，需要开展严格的安全测试评估，并采取有效安全防护措施。责任明确是安全可控的保障，要求人工智能系统出现问题时能够明确责任归属，建立有效问责机制，开发者、使用者、所有者等相关方都需要承担对应的责任义务，例如自动驾驶汽车发生事故时，需要根据具体原因确定车主、制造商、软件开发者或算法设计者的责任，并建立对应赔偿机制。安全可控与责任明确原则透明可控是建立公众信任的关键，要求人工智能系统的决策过程和结果清晰易懂，保障用户知情权，实现路径包括尽可能采用可解释性强的算法，为用户提供清晰易懂的解释，说明决策的依据和逻辑，例如信贷审批中，人工智能系统可向用户解释贷款申请被拒的具体原因。同时保障用户对人工智能系统的控制权，用户有权选择是否使用人工智能服务、有权访问更正个人数据、有权拒绝不合理决策。透明可控与可解释性原则7.3.3人工智能相关的现有法律体系1．核心法律法规在人工智能领域，相关核心法律法规主要包括《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》和《生成式人工智能服务管理暂行办法》，其适用场景和关键要求如下表所示。法规名称适用场景关键要求《中华人民共和国网络安全法》人工智能领域数据处理、数据传输环节，规范网络运营者（人工智能服务提供者）的安全保障行为1.数据处理：采取加密、访问控制等技术措施保障数据安全；2.数据保护：建立健全数据安全管理制度，定期评估、加强员工培训；3.应急处理：数据泄露后及时补救并向主管部门报告《中华人民共和国数据安全法》人工智能企业数据处理全流程，重点在训练数据采集、数据存储与跨境传输1.数据采集：确保合法性，需获得数据主体明确同意，告知采集目的、方式和范围；2.数据存储：建立安全存储环境，采取备份、容灾措施保障完整性和可用性；3.跨境传输：重要数据未经批准不得擅自跨境传输《中华人民共和国个人信息保护法》涉及个人信息的人工智能应用，保护用户个人信息权益1.授权要求：需获取用户明确同意，不得强迫授权（如默认勾选、捆绑授权）；2.数据处理：遵循最小化（仅收集必需信息）和透明化（公开处理规则）原则；3.用户权利：保障用户数据删除权，及时响应删除请求（法律法规另有规定除外）《生成式人工智能服务管理暂行办法》针对生成式人工智能服务（提供文本、图片、音频、视频等生成内容）1.算法备案：向监管部门备案所用算法，提交设计原理、训练数据来源、应用场景等信息；2.安全评估：定期开展评估，防范算法偏见、内容安全等风险；3.内容管理：对生成内容进行合规管理，符合法律法规及社会公序良俗7.3.3人工智能相关的现有法律体系2．内容标识与合规要求在生成式人工智能领域，内容标识与合规要求所依据的核心法律法规主要包括《人工智能生成合成内容标识办法》和《互联网信息服务深度合成管理规定》，其规范领域和关键要求如下表所示。法规名称规范领域关键要求《人工智能生成合成内容标识办法》AI生成合成内容的标识1.显式标识：-文本类：在起始或末尾标注“AI生成”字样；-视频类：在画面中添加持续时间不少于2秒的标识（文字、图标等形式均可）；2.隐式标识：-在文件元数据中嵌入生成属性、服务提供者编码等