任务1.3 数据安全伦理与职业素养-2

项目一主讲教师:段晓亮Datasecurityethicsandprofessionalethics数据安全伦理与职业素养（下）人工智能伦理PART03EthicsofArtificialIntelligence（一）人工智能发展理念

一是可用。发展人工智能的首要目的，是促进人类发展，给人类和人类社会带来福祉，实现包容、普惠和可持续发展。为此，需要让尽可能多的人可以获取、使用人工智能，让人们都能共享技术红利，避免出现技术鸿沟。可用性还意味着以人为本的发展理念、人机共生、包容性以及公平无歧视。要求践行“经由设计的伦理”理念，将伦理价值融入到人工智能产品、服务的设计当中。

二是可靠。人工智能应当是安全可靠的，能够防范网络攻击等恶意干扰和其他意外后果，实现安全、稳定与可靠。一方面人工智能系统应当经过严格的测试和验证，确保其性能达到合理预期；另一方面人工智能应确保数字网络安全、人身财产安全以及社会安全。1.人工智能伦理

三是可知。人工智能应当是透明的，是人可以理解的，避免技术“黑盒”影响人们对人工智能的信任。目前，学界和业界已在致力于解决人工智能“黑盒”问题，实现可理解的人工智能算法模型。

四是可控。人工智能的发展应置于人类的有效控制之下，避免危害人类个人或整体的利益。短期来看，发展和应用人工智能应确保其带来的社会福祉显著超过其可能给个人和社会带来的可预期的风险和负面影响，确保这些风险和负面影响是可控的，并在风险发生之后积极采取措施缓解、消除风险及其影响。长期来看，虽然人们现在还无法预料通用人工智能和超级人工智能能否实现以及如何实现，也无法完全预料其影响，但应遵循预警原则，防范未来的风险，使未来可能出现的通用人工智能和超级人工智能能够服务于全人类的利益。1.人工智能伦理（二）人工智能安全问题人工智能的普及将会使人工智能产品面临来自多个方面的威胁，人工智能安全问题大致包括算法、数据、模型和生物识别四个维度。

1.来自算法的威胁主要来自于算法实现过程中缺乏对安全性的考虑。

2.在大数据时代，数据隐私问题是数据资源开发利用过程中的主要威胁之一，在人工智能领域也存在着隐私侵犯风险。1.人工智能伦理

3.模型训练方面，包括深度学习框架中对抗学习的恶意样本生成、训练数据的污染等问题等。这些问题可能导致人工智能所驱动的识别系统出现混乱，形成错误的识别结果，使得人工智能识别设备变成攻击工具，在常用的深度学习框架如TensorFlow、Pytorch中，训练模型中任然存在着许多亟待解决的安全漏洞。

4.针对生物识别系统进行的攻击随着生物识别系统的发展成为又一安全隐患。1.人工智能伦理（三）人工智能不同应用场景伦理问题(1)自动驾驶道德问题是制约自动驾驶大范围普及的重要因素。从测试结果来看，自动驾驶比人类驾驶员更安全，但自动驾驶在极端条件下也会导致事故的发生，例如机器学习系统遇到从未遇到的特殊情形，此时自动驾驶可能会对人类造成致命的伤害。我国于2018年出台了《智能网联汽车道路测试管理规范（试行）》，各地都出台了推动智能网联汽车应用落地的政策。自动驾驶汽车技术的发展需要有相应的安全标准，确保自动驾驶技术健康有序发展。1.人工智能伦理(2)医疗健康产业人工智能技术在医疗健康领域有着广泛的应用，例如医学影像、辅助诊疗、疾病预测、药物研发、健康管理等。但医疗应用也面临着医疗数据建设与共享、责任承担和隐私保护等多方面的问题。《信息安全技术个人信息安全规范》规定在收集个人生物识别信息前，应单独向个人信息主体告知收集、使用个人生物识别信息的目的、方式和范围，以及存储时间等规则，并征得个人信息主体的明示同意。1.人工智能伦理(3)APP应用近年来AI换脸技术火爆的同时，也引发了民众对个人隐私的担忧。例如AI换脸视频软件“ZAO”的使用门槛很低，用户不需要编程、数据采集以及相关的AI知识，只需要一部手机就可以进行换脸操作，AI换脸给很多用户带来了前所未有的参与感、体验感与互动感，具有很大的吸引力。据调查发现，AI换脸带来的黑色产业已经形成了完整的产业链。所以在AI换脸技术发展的同时，应当重视个人隐私的保护。1.人工智能伦理感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等。国内有速腾聚创和禾赛科技。雷达传感器：雷达传感器已经在汽车上得到了广泛使用，应该是车厂Tier1的强项。知名的供应商当然是博世、德尔福、电装等。课堂讨论1、思考如何安全合理的使用人工智能相关技术以及在不同应用场景需要注意的事项？我国在出台促进人工智能产业发展政策的同时，也不断加强人工智能伦理和标准方面的建设。2019年6月，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出了人工智能治理的框架和行动指南，旨在更好地协调人工智能发展与治理的关系，确保人工智能安全可控可靠，推动经济、社会及生态可持续发展。发展人工作智能要具有高度的社会责任感和自律意识，严格遵守法律法规、伦理道德和标准规范，防范利用人工智能进行非法活动。建人类命运共同体。在《治理原则》中，尊重隐私被放在一个十分重要的位置。要求充分保障个人的知情权和选择权的同时，在个人信息的收集、存储、处理、使用等各环节应设置边界，建立规范。人工智能应以保障社会安全、尊重人类权益为前提，避免误用，禁止滥用、恶用。2.人工智能伦理治理与监管感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等。国内有速腾聚创和禾赛科技。雷达传感器：雷达传感器已经在汽车上得到了广泛使用，应该是车厂Tier1的强项。知名的供应商当然是博世、德尔福、电装等。课堂讨论1.查阅资料，调研我国与世界其他国家在人工智能伦理监管与治理方面采取了哪些措施？人类历史的发展同时也是科学技术进步的历史，每一次科技革命都会引起社会结构、经济结构的变革，引起人们生活方式的改变。每一次科技革命的出现也许会让人类短时间内无法适应，可能会导致某些工作被新科技所代替，造成部分岗位工人失业，但从长远来看，每次科技革命最终都会使得人类生活更加美好。人工智能很难代替需要人际接触的工作。例如前台接待员，虽然可以使用接待机器人来代替人类服务员的工作，但当遇到一些很难被规范化的服务沟通的时候，还是需要人类服务员来开展工作。所以不必担心人工智能会代替人类的大部分工作，人工智能会给整个社会带来工作结构的调整。3.人工智能会抢夺人类工作吗感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等。国内有速腾聚创和禾赛科技。雷达传感器：雷达传感器已经在汽车上得到了广泛使用，应该是车厂Tier1的强项。知名的供应商当然是博世、德尔福、电装等。课堂讨论1.人工智能会抢夺人类的工作岗位吗？在弱人工智能时代，AI在某些领域已经超越了人类。人工智能的健康发展离不开监管和治理，以期实现安全可靠的、负责任的人工智能。未来还会出现所谓的强人工智能和超人工智能，人类需要在将人工智能可能带来的风险和危害控制在最低限度的前提下，尽可能释放人工智能在社会经济等各方面的积极作用。作为技术人员和从业者应当时刻谨记伦理和道德规范，坚持科技向善的理念，做到自我约束，让人工智能实现安全可持续的发展。4.人工智能从业人员职业素养与未来展望感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等。国内有速腾聚创和禾赛科技。雷达传感器：雷达传感器已经在汽车上得到了广泛使用，应该是车厂Tier1的强项。知名的供应商当然是博世、德尔福、电装等。课堂讨论1.人工智能从业人员应该具有哪些基本职业道德素养？1.智慧城市数据安全智慧城市涉及到5G、物联网技术、大数据技术、云计算和边缘计算协同技术、网络与数据安全技术等，智慧城市数据来源渠道众多，各种类型的数据集中到数据中心，一旦遭到安全攻击，对于经济社会运行将产生很大的危害，影响城市的正常运行，同时，数据如果集中在某些公司的数据中心，也会造成数据过度集中，不利于数据安全保护。另外，智慧城市数据中心包含许多涉及公民个人隐私的数据，也需要引起高度关注。知识加油站2.元宇宙伦理元宇宙集合虚拟现实（VR）、增强现实（AR）、混合现实（MR）、人工智能等技术于一身，能够在一个数字虚拟空间内打造出近乎真实世界的“拟真感”，让用户具有身临其境的感官体验，蕴含着现实生活的无限可能。元宇宙并不只是一个技术问题，同时也是个伦理问题。公平、可靠、安全、隐私和保障、包容、透明等都将作为重要准则，以进一步激发每个人的创造力。知识加油站任务实施Taskimplementation感知传感器包括视觉传感器、激光传感器、雷达传感器等类型。视觉传感器：即摄像头，摄像头分为单目视觉和双目（立体）视觉两类。比较知名的视觉传感器提供商有以色列的Mobileye，加拿大的PointGrey，德国的Pike等。激光传感器：分为单线和多线。每多一线，成本相应上涨，当然检测效果也相对更为出色。比较知名的激光传感器提供商有美国的Velodyne和Quanergy，德国的Ibeo等。国内有速腾聚创和禾赛科技。工单与考核完成任务工单内容完成任务考核评价