大语言模型通识微课课件：人工智能伦理原则

大语言模型通识微课

人工智能伦理原则人工智能发展不仅仅是一场席卷全球的科技革命，也是一场对人类文明带来前所未有深远影响的社会伦理实验。在应用层面，人工智能已经开始用于解决社会问题，各种服务机器人及智能应用软件应运而生，各种伦理问题随之产生。机器人伦理与人因工程相关，涉及人体工程学、生物学和人机交互，需要以人为中心的机器智能设计。随着推理、社会机器人进入家庭，如何保护隐私、满足个性都要以人为中心而不是以机器为中心设计。过度依赖社会机器人将带来一系列的家庭伦理问题。为了避免人工智能以机器为中心，需要法律和伦理研究参与其中。微课12.2人工智能伦理原则需要制定人工智能的职业伦理准则，来达到下列目标：（1）为防止人工智能技术的滥用设立红线；（2）提高职业人员的责任心和职业道德水准；（3）确保算法系统的安全可靠；（4）使算法系统的可解释性成为未来引导设计的一个基本方向；（5）使伦理准则成为人工智能从业者的工作基础；（6）提升职业人员的职业抱负和理想。12.2.1职业伦理准则的目标人工智能的职业伦理准则至少应包括下列几个方面：（1）确保人工智能更好地造福于社会；（2）在强化人类中心主义的同时，达到走出人类中心主义的目标，形成双向互进关系；（3）避免人工智能对人类造成任何伤害；（4）确保人工智能体位于人类可控范围之内；（5）提升人工智能的可信性；（6）确保人工智能的可问责性和透明性；（7）维护公平；（8）尊重隐私、谨慎应用；（9）提高职业技能与提升道德修养并行发展。12.2.1职业伦理准则的目标2018年7月11日，中国人工智能产业创新发展联盟发布了《人工智能创新发展道德伦理宣言》分别涉及人工智能系统，人工智能与人类的关系，人工智能与具体接触人员的道德伦理要求，以及人工智能应用和未来发展方向。发布《宣言》是为了宣扬涉及人工智能创新、应用和发展的基本准则，以期无论何种身份的人都能经常铭记本宣言精神，理解并尊重发展人工智能的初衷，使其传达的价值与理念得到普遍认可与遵行。12.2.2创新发展道德伦理宣言《宣言》指出：（1）鉴于全人类固有道德、伦理、尊严及人格之权利，创新、应用和发展人工智能技术当以此为根本基础；（2）鉴于人类社会发展的最高阶段为人类解放和人的自由全面发展，人工智能技术研发当以此为最终依归，进而促进全人类福祉；（3）鉴于人工智能技术对人类社会既有观念、秩序和自由意志的挑战巨大，对技术创新应当设置倡导性与禁止性的规则，凝聚人类基本共识；（4）纵然探索道路曲折与反复，也不应停止AI创新发展步伐。12.2.2创新发展道德伦理宣言建设人工智能系统，要做到：（1）基础数据应当秉持公平性与客观性，摒弃带有偏见的数据和算法，以杜绝可能的歧视性结果。（2）数据采集和使用应当尊重隐私权等一系列人格权利，以维护权利所承载的人格利益。（3）应当有技术风险评估机制，保持对潜在危险的前瞻性控制能力。（4）所具有的自主意识程度应当受到科学技术水平和道德、伦理、法律等人文价值的共同评价。12.2.3创新发展道德伦理宣言为明确人工智能与人类的关系，《宣言》指出：（1）人工智能的发展应当始终以造福人类为宗旨。牢记这一宗旨，是防止人工智能的巨大优势转为人类生存发展巨大威胁的关键所在。（2）无论人工智能的自主意识能力进化到何种阶段，都不能改变其由人类创造的事实。不能将人工智能的自主意识等同于人类特有的自由意志，模糊这两者之间的差别可能抹杀人类自身特有的人权属性与价值。（3）当人工智能的设定初衷与人类整体利益或个人合法利益相悖时，人工智能应当无条件停止或暂停工作进程，以保证人类整体利益的优先性。12.2.3创新发展道德伦理宣言《宣言》指出，人工智能具体接触人员的道德伦理要求是：（1）人工智能具体接触人员是指居于主导地位、可以直接操纵或影响人工智能系统和技术，使之按照预设产生某种具体功效的人员，包括但不限于人工智能的研发人员和使用者。（2）人工智能的研发者自身应当具备正确的伦理道德意识，同时将这种意识贯彻于研发全过程，确保其塑造的人工智能自主意识符合人类社会主流道德伦理要求。12.2.3创新发展道德伦理宣言（3）人工智能产品的使用者应当遵循产品的既有使用准则，除非出于改善产品本身性能的目的，否则不得擅自变动、篡改原有的设置，使之背离创新、应用和发展初衷，以致破坏人类文明及社会和谐。（4）人工智能从业人员可以根据自身经验，阐述其对产品与技术的认识。此种阐述应当本着诚实信用的原则，保持理性与客观，不得诱导公众的盲目热情或故意加剧公众的恐慌情绪。12.2.3创新发展道德伦理宣言针对人工智能的应用，《宣言》指出：（1）人工智能发展迅速，但也伴随着各种不确定性，应当审慎而科学。（2）人工智能可以为决策提供辅助，其本身不能成为决策的主体。（3）人工智能在军事领域存在巨大应用潜力。出于对人类整体福祉的考虑，应当本着人道主义精神，克制在进攻端武器运用人工智能的冲动。（4）人工智能不应成为侵犯合法权益的工具。（5）人工智能的应用可以解放人类在脑力和体力层面的部分束缚，应当鼓励人工智能在相应领域发挥帮助人类自由发展的作用。12.2.3创新发展道德伦理宣言《宣言》指出，当前发展人工智能的方向主要是：（1）探索合作机制，推动核心技术创新与产业发展，推动各方资源结合。（2）制定人工智能产业发展标准，推动协同发展。推动数据规范、应用接口以及性能检测等标准体系制定，为消费者提供更好的服务与体验。（3）打造共性技术支撑平台，构建产业生态。推动领域龙头企业牵头建设平台，为人工智能在社会生活各个领域的创业创新者提供更好支持。（4）健全法律法规体系。在拓展人类人工智能应用能力的同时，避免人工智能对社会和谐的冲击，寻求创新、产业发展与道德伦理的平衡点。12.2.3创新发展道德伦理宣言2019年，欧盟人工智能高级别专家组正式发布了《可信赖的人工智能伦理准则》。根据准则，可信赖的人工智能应该是：（1）合法——尊重所有适用的法律法规。（2）合乎伦理——尊重伦理原则和价值观。（3）稳健——既从技术角度考虑，又考虑到其社会环境。12.2.5欧盟可信赖的伦理准则该指南提出了未来AI系统应满足的7大原则，以便被认为是可信的。并给出一份具体的评估清单，旨在协助核实每项要求的适用情况。（1）人类代理和监督：AI不应该践踏人类的自主性。人们不应该被AI系统所操纵或胁迫，应该能够干预或监督软件所做的每一个决定；（2）技术稳健性和安全性：AI应该是安全而准确的，它不应该轻易受到外部攻击（例如对抗性例子）的破坏，并且应该是相当可靠的；（3）隐私和数据管理：AI系统收集的个人数据应该是安全的，并且能够保护个人隐私。它不应该被任何人访问，也不应该轻易被盗；12.2.5欧盟可信赖的伦理准则（4）透明度：用于创建AI系统的数据和算法应该是可访问的，软件所做的决定应该“为人类所理解和追踪”；（5）多样性、无歧视、公平：AI应向所有人提供服务，不分年龄、性别、种族或其他特征。同样，AI系统不应在