微课14-1 人工智能伦理原则

微课14-1周苏教授QQ：81505050人工智能伦理原则人工智能应用的日益广泛带来了诸多复杂的伦理问题。人工智能科学家李飞飞指出：现在迫切需要让伦理成为人工智能研究与发展的根本组成部分。显然，人们比历史上任何时候都更加需要注重技术与伦理的平衡。因为，一方面，技术意味着速度和效率，应当发挥好技术的无限潜力，善用技术追求效率，创造社会和经济效益。另一方面，人性意味着深度和价值，要追求人性，维护人类价值和自我实现，避免技术发展和应用突破人类伦理底线。只有保持警醒和敬畏，在以效率为准绳的“技术算法”和以伦理为准绳的“人性算法”之间实现平衡，才能确保“科技向善”。微课14-1人工智能伦理原则近年来，人工智能的应用如火如荼，人工智能技术与各产业领域的深度融合，形成智能经济新形态，为实体经济的发展插上了腾飞的翅膀。人工智能加速同产业深度融合，推动产业变革。在各行各业人工智能都有较为成熟的应用。同时，个人身份信息和行为数据有可能被整合在一起，这虽然能让机器更好地为人们服务，但使用不当则可能引发隐私和数据泄露问题。如何更好地解决社会关注的伦理相关问题，需要我们提早考虑和布局，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。14.1.1人工智能与人类的关系由于智能增强技术带来了两个平面，即人类思维平面和机器平面，两个平面之间需要一个接口，接口技术让人与智能机器的沟通成为可能。在这种观念的指引下，今天人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。由人工智能衍生出的技术还有很多，其中潜在的伦理问题与风险也值得我们去深入探讨。14.1.2人与智能机器的沟通网络为信息传输提供了保障，不同部门、不同地区间的信息交流逐步增加。简单地说，数据共享就是让在不同地方使用不同计算机、不同软件的用户能够读取他人数据并进行各种运算和分析。数据共享存在的问题包括如下。（1）数据共享的观念尚未形成。政府各部门收集到的数据具有垄断性。（2）数据共享的机制尚未建立。从法律层面上尚未出现数据共享的要求。（3）信息化标准不统一。在信息孤岛现状下，权利清单、共享目录、数据项标准、交换格式、交换标准等多个方面，数据变化都要进行调整。（4）基础设施不完善。数据共享需要有统一的数据共享交换平台。14.1.3数据共享问题2018年7月11日，中国人工智能产业创新发展联盟发布了《人工智能创新发展道德伦理宣言》（简称《宣言》）。《宣言》除了序言之外，一共有六个部分，分别是人工智能系统，人工智能与人类的关系，人工智能与具体接触人员的道德伦理要求，以及人工智能的应用和未来发展的方向，最后是附则。发布“人工智能创新发展道德伦理宣言”，是为了宣扬涉及人工智能创新、应用和发展的基本准则，以期无论何种身份的人都能经常铭记本宣言精神，理解并尊重发展人工智能的初衷，使其传达的价值与理念得到普遍认可与遵行。14.1.4创新发展道德伦理宣言《宣言》指出：（1）人类固有道德、伦理、尊严及人格权利，发展人工智能以此为基础；（2）人工智能研发以人类解放和自由发展为最终依归，促进人类福祉；（3）对人工智能技术的创新应当设置倡导性与禁止性的规则，这些规则本身应当凝聚不同文明背景下人群的基本价值共识；（4）人工智能技术具有把人类从繁重体力和脑力劳动束缚中解放的潜力，纵然未来的探索道路上出现曲折与反复，也不应停止人工智能创新发展造福人类的步伐。14.1.4创新发展道德伦理宣言为明确人工智能与人类的关系，《宣言》指出：（1）人工智能的发展应当始终以造福人类为宗旨。牢记这一宗旨，是防止人工智能的巨大优势转为人类生存发展巨大威胁的关键所在。（2）无论人工智能的自主意识能力进化到何种阶段，都不能改变其由人类创造的事实。不能将人工智能的自主意识等同于人类特有的自由意志，模糊这两者之间的差别可能抹杀人类自身特有的人权属性与价值。（3）当人工智能的设定初衷与人类整体利益或个人合法利益相悖时，人工智能应当无条件停止或暂停工作进程，以保证人类整体利益的优先性。14.1.4创新发展道德伦理宣言《宣言》指出，人工智能具体接触人员的道德伦理要求是：（1）人工智能具体接触人员是指可以操纵或影响系统和技术，使之按照预设产生某种具体功效的人员，包括人工智能的研发人员和使用者。（2）人工智能的研发者自身应当具备正确的伦理道德意识，同时将这种意识贯彻于研发全过程，确保自主意识符合人类社会主流道德伦理要求。（3）人工智能产品的使用者应当遵循产品的既有使用准则，不得擅自变动、篡改原有设置，使之背离初衷，以致破坏人类文明及社会和谐。（4）对人工智能产品与技术的认识阐述，应当诚实信用、理性与客观。14.1.4创新发展道德伦理宣言2019年，欧盟人工智能高级别专家组发布“可信赖的人工智能伦理准则”。根据准则，可信赖的人工智能应该是：（1）合法——尊重所有适用的法律法规。（2）合乎伦理——尊重伦理原则和价值观。（3）稳健——既从技术角度考虑，又考虑到其社会环境。该指南提