人工智能与未来 课件 第12章 未来伦理

FutureEthics第12章

未来伦理2035齐兵辉知识目标：掌握人工智能伦理的概念，了解人工智能技术带来了哪些伦理问题，能理解目前人类针对人工智能伦理问题提出的一些解决思路。能力目标：能描述人工智能技术的发展给人类带来的伦理问题和解决的基本思路。素养目标：能逐步意识到在人工智能技术开发中要时刻考虑伦理因素。12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题

人工智能的便利生活引发小智的思考

01020304语音识别和语言合成在搜索引擎上的使用，减少了输入文字和阅读文字的麻烦人脸识别在交通出行上的使用使不带身份证出行成为可能智能驾驶使长途旅行变得更轻松和愉快但也给小智带来了一些困惑，如有时候感觉自己可能没有人工智能聪明

小智又想到了自己将来的就业问题，担心未来很多就业岗位是不是会被AI替代？

宿舍楼下的大门被一辆自动驾驶的校园售货车给撞坏了，大门的负责人觉得是车主的责任，车主说他购买的是自动驾驶售货车，应该有车辆厂家赔付；厂家说，汽车虽然有自动驾驶，但是汽车事故可能是车主未按照使用手册的标准来操作汽车导致事故产生等。各说各有理，一时矛盾无法解决。

就业的担忧也许是杞人忧天吧，但是眼下就有一件让小智大跌眼镜的事儿，什么事儿呢？应考虑的应用场景：自动驾驶技术、人形机器人、工业机器人、大模型等。责任划分：需要考虑多种因素。讨论：你觉得哪些场景下的AI技术应用要承担责任？如何完成责任划分？

经历了这么多困惑，小智开始冷静下来，体会到新技术的出现在为人类带来显著便利的同时，也对人类的安全、伦理等构成了严峻挑战。正如历史上，基因克隆技术和原子能技术的发展均呈现了此类情形。小智此刻联想到了那个在网站和视频里经常听到一个词汇-伦理问题。

人工智能伦理是指在人工智能技术的设计、开发、应用和管理过程中，应遵循的道德规范和原则。人工智能伦理学的目标是确保AI的使用是道德的和负责任的，确保AI的发展和应用与人类的价值观和道德准则保持一致。我们进一步来看几个人工智能伦理的案例：（1）自动驾驶汽车有内在的道德约束吗？如果一辆自动驾驶汽车陷入这样一种情况，它必须在开车撞向一名儿童或者撞向墙壁以挽救儿童的生命，但可能导致车内人员死亡之间做出选择，它应该如何选择？（2）具备自主控制功能的大规模杀伤性武器是否应该允许使用？（3）人类开发出为抵押贷款申请或者求职申请提供决策建议的算法是否存在偏见和不公正的歧视。（4）商业场所的个别摄像头未经顾客同意识别顾客的人脸信息，甚至通过人脸信息读取数据，是否侵犯了顾客的隐私？（5）网络上活跃的一些人工智能聊天机器人偶尔发生发布种族主义的言论。ArtificialIntelligenceandFuture人工智能与未来2035主讲：齐兵辉FutureEthics第12章

未来伦理2035齐兵辉12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题12.2.1数据隐私安全问题

12.2.2技术滥用问题12.2.3一些建议

12.2.1数据隐私安全问题

谈起隐私，很多人脑海中首先想到的是以下场景，但是又无法准确表述他的含义。接下来我们首先了解数据隐私的含义。身份证照片、电话号码、家庭住址、体检报告、个人邮箱。讨论：你觉得还有哪些隐私数据需要保护？12.2.1数据隐私安全问题接下来我们首先了解数据隐私的含义。数据隐私是指个人或组织对其所拥有或控制的数据保持私密性和保密性的权利。这些数据包括但不限于个人身份信息（如姓名、地址、电话号码）、财务信息、医疗信息、社交媒体活动、电子邮件、通信记录、位置数据等。

数据隐私安全是指个人信息的保密性和完整性，保护我们不受外部威胁的侵害‌。12.2.1数据隐私安全问题

与传统的数据隐私安全问题相比，人工智能时代的数据隐私安全问题展现出了一系列新的特征。隐私泄露的渠道更多更加隐蔽数据匿名化的挑战与局限12.2.1数据隐私安全问题由于AI系统的智能化和自动化，隐私侵犯行为可能更加隐蔽。生物识别技术和物联网设备提供的实时数据也被广泛收集，进一步增加了隐私泄露的复杂性。0304AI采用包括网络爬虫在内的多种数据采集技术，自动捕获公共和个人数据。AI系统依赖于大数据进行训练和优化，因此需要收集和处理海量的个人信息，这增加了数据泄露和滥用的风险0102AI时代隐私泄露渠道更加隐蔽在人工智能技术尚未普及的时代，数据匿名化被视为一种有效的隐私保护措施。人工智能时代，尽管数据匿名化在一定程度上保护了个人隐私，但AI系统仍有可能通过模式识别和预测建模等技术重新识别出个体，从而对匿名化数据进行去匿名化处理，使得原本看似安全的匿名数据变得不再安全。0102AI时代数据匿名化的挑战12.2.1数据隐私安全问题

接下来我们看几个隐私泄露的案例：他们涉及到IT领域的两个巨头：亚马逊、谷歌公司和国内多起事件。12.2.1数据隐私安全问题案例1:美国媒体2019年爆料称，亚马逊雇佣上千名员工收听和分析被智能音箱录下来的对话。他们每天工作9个小时，每人分析多达1000段音频。亚马逊表示这样做的目的是提升语音助手的语言理解能力，改善用户体验。尽管亚马逊表示员工不会获取用户的姓名等信息，但这种做法还是引起人们对隐私安全的关注。他们担心，一旦这些信息被泄露给第三方，后果将不堪设想。12.2.1数据隐私安全问题案例2:2018年5月，美国的某个亚马逊智能音箱用户丹尼尔说，她与丈夫在家里的谈话内容，居然被一位朋友听到了。经过排查，丹尼尔发现，这段对话是亚马逊“回声”智能音箱录制并发送给这位朋友的。亚马逊公司调查后认为，因为丹尼尔在说话时某些词语正好唤醒了智能音箱，而智能音箱又“误解”了丹尼尔的谈话内容，所以错误触发了指令，导致了这一事件。丹尼尔认为，智能音箱侵犯了自己的隐私，以后不会再使用类似的设备。12.2.1数据隐私安全问题案例3:谷歌公司曾经也承认其雇佣的外包合同工会听取用户与其人工智能语音助手的对话，用于让语音服务支持更多语言、音调和方言。12.2.1数据隐私安全问题案例4:广东某员工为省事，将包含客户信息的内部文件上传至公共AI工具，导致数据泄露。律师指出，这种行为可能构成“侵犯商业秘密罪”，公司因此全员禁用AI。12.2.1数据隐私安全问题案例5:多个城市安装的AI摄像头不仅识别人脸，还通过分析步态、穿着等推断职业和收入。这些数据被用于商业广告推送，市民感叹“连散步都被算计”。2020年，青岛某售楼处因强制使用人脸识别系统引发争议。购房者需在入口处“刷脸”才能进入，售楼处内安装9个摄像头全程无死角抓拍，甚至通过口罩和虹膜识别技术完成身份判定。此举旨在区分“自然到访客户”与“中介渠道客户”，导致购房优惠差异高达30万元。为保护隐私，购房者被迫戴头盔看房，引发社会广泛关注。12.2.1数据隐私安全问题12.2.2技术滥用问题带着这两个问题，我们开始下面的学习。什么是技术滥用呢？AI为什么会引发技术滥用呢？12.2.2技术滥用问题

技术滥用是指人们在利用技术进行分析、决策、协调、组织等一系列的活动中，其使用目的、使用方式、使用范围等出现偏差并引发不良影响的行为或情形。太专业了，让我们来举一个例子吧！冶炼技术和钻木生火的广泛使用既可以给人类带来便利也会给人类带来灾难12.2.2技术滥用问题

人工智能技术同样也是一把双刃剑，以科技向善和人类福祉为目的，则会提高生产效率，创新发展方式，给社会带来巨变。但是，人工智能也可能被不法分子或者恶意人员使用，以谋取不合理利益，在违法犯罪的领域更会造成不可估量的后果，这些行为称为人工智能的技术滥用。人工智能的技术滥用表现在以下两个方面：数据过度收集和算法设计偏见问题12.2.2技术滥用问题（1）数据过度收集问题是如何形成的？

人工智能算法需海量训练数据，现场采集是其重要方式，广泛应用于自动驾驶、智慧城市等领域。企业在公开环境部署传感器进行无差别实时采集，但难以预判数据类型和范围，易引发过度采集问题。

例如自动驾驶车辆采集街景数据时，可能涉及行人隐私、敏感基础设施甚至军事区域信息，导致隐私泄露及国家安全风险。12.2.2技术滥用问题案例:某医院AI诊断系统要求患者填写包括家庭住址、职业等非必要信息，并因数据过载误判肿瘤为良性，导致治疗延误。事后调查发现，系统收集的冗余数据未用于诊断，反而增加了泄露风险。此类案例显示医疗AI数据收集与功能需求的严重脱节。（1）数据过度收集问题是如何形成的？12.2.2技术滥用问题（2）算法设计偏见问题是如何形成的？

算法偏见是指在算法设计、开发或应用过程中，由于数据、模型或人为因素导致的结果不公平或歧视性现象。12.2.2技术滥用问题数据偏见如训练数据存在历史性别失衡特征选择偏见如算法选择地区作为判断特征模型设计缺陷如面部识别对深色皮肤人群准确率低评估偏差忽视群体差异而仅关注整体准确率人为主观影响设计者文化背景引入隐性偏见

这些偏见可能加剧社会不平等，需通过数据清洗、公平性指标评估及多方监督机制进行系统性优化。（2）算法设计偏见问题是如何形成的？12.2.2技术滥用问题案例1:奔驰驾驶辅助系统和主动安全部的某负责人曾说，按照无人驾驶汽车的编程思路，如果在行驶途中面临一个道德困境，要么撞到马路上的一名儿童，要么急打方向盘以避免撞到儿童、但可能撞到其他车道的汽车以致本车人员伤亡，那么无人驾驶汽车会“果断”选择优先保护车内人员、宁愿撞到儿童。当然，如果在交通事故当中可以避免伤亡那就再好不过了。此说法被媒体报道后，引起了巨大的争议。12.2.2技术滥用问题案例2:以色列军方使用“薰衣草”和“福音”AI系统自动识别加沙地带目标，导致超45,000名平民伤亡。系统通过海量数据分析标记“武装分子”，但因算法偏差和速度优先原则牺牲准确性，违反国际人道法“区分原则”。此案例凸显战争自动化决策的伦理困境及“有意义的人类控制”缺失问题。12.2.2技术滥用问题案例3:不法分子花1分钱就能用AI生成7篇虚假文章。例如，一篇虚构的“化工厂爆炸”文章2小时内获百万点击，引发当地居民恐慌。这种“谣言工厂”严重扰乱社会秩序。12.2.3一些建议针对以上问题，我们提出了三个建议第一：加大人工智能对社会的影响研究。人工智能社会影响研究受关注，虽部分影响已现，但全面变革尚有时日。需政府加强跨学科研究投入，协同攻关为政策制定提供理论支撑。12.2.3一些建议第二：提高人工智能算法的公正性与透明性。具体做法如下所示：（1）构建深度学习透明化监控机制，破解模型黑箱效应难题（2）规范数据源披露标准，保障训练数据多维覆盖与样本均衡（3）建立人工复核流程，应对AI结果争议场景，强化人机协同决策机制（4）优化人才结构，推动性别/种族/学术背景均衡，促进多元视角融合12.2.3一些建议第三：加强对人工智能科技的监管与调控，政府需要对人工智能的应用限度做出明确的规定，就像对克隆技术的限定那样。ArtificialIntelligenceandFuture人工智能与未来2035主讲：齐兵辉FutureEthics第12章

未来伦理2035齐兵辉12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题12.3.1人工智能的发展对人类的就业问题带来冲击

12.3.2一些建议

12.3.1人工智能的发展对人类的就业问题带来冲击

人们预测，随着全球人工智能技术的突飞猛进，10年之内，人工智能将走进干家万户，满足人类个性化的需求。人工智能可替代的职业，除了快递员、司机、清清工、保安、接待员、零售员等劳动密集型职业之外，还包括演员、外科医生、会计、金融分析师等相对高端的职业。讨论：除了刚刚谈到的，你觉得还有哪些岗位可能被AI替换？12.2.1人工智能的发展对人类的就业问题带来冲击18世纪的工人就开始有组织地捣毁机器，然而并没有阻碍机器的运用，同时也并没有减少工作的岗位，反而创造出了大量的管理岗位和白领阶层。因此，有一种观点认为，人工智能作为一种机器功能，其最终也会创造大量的新岗位而不只是对现有工作机会的替代。12.3.2一些建议（1）积极应对人工智能对就业的影响。认为人工智能可能导致许多人失业，当然人工智能的发展也会创造一些新的工作机会，但这些工作会要求更高的专业知识，一般人可能难以达到。他们认为一些记者和专家夸大了机器代替人类劳动力的程度，而忽视了自动化与劳动力之间存在着巨大的互补性。认为目前人工智能、机器人等技术进步对就业的破坏效应有限，但长期破坏效应不容乐观。悲观派乐观派中立派

对于公众来说，最紧要的问题可能是在人工智能等科技的影响下，哪些职业可能消失，哪些职业会有较好的发展前景，从而提前做好相应的准备？AI在重复性任务占优，而人类在情感交互、艺术创造及复杂决策等领域仍保持优势。应重点培育批判性思维、跨文化沟通等高阶能力，构建人机协作技能体系。尽管AI技术持续进化，但现阶段仍存在适应窗口期，青年群体需针对性提升AI难以替代的创新能力与伦理判断力，以在智能社会中建立竞争优势。12.3.2一些建议（1）积极应对人工智能对就业的影响。（2）努力实现人工智能时代的公平正义。

如何公正分配人工智能带来的社会财富，缩小智能社会中的贫富差距？业界提出了以下一种思路。即实行全民基本收入政策（UniversalBasicIncome，以下简称UBI）。这种收人以现金的形式向社会的每个成员支付，与其他形式的收入无关，也没有任何附加条件。UBI可以保证一个国家的所有公民达到一定的收人额度。12.3.2一些建议12.3.2一些建议

看了以上这些，你是不是也在担心AI让你失业呢？其实大可不必奥，因为很多企业家为我们描绘了AI技术充分融入就业给人类带来的解放。ArtificialIntelligenceandFuture人工智能与未来2035主讲：齐兵辉FutureEthics第12章

未来伦理2035齐兵辉12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题讨论：机器是否应该享有权利？如果无人驾驶汽车发生事故造成人员伤亡，做为汽车的机器是否应该为此承担责任？？

从法律角度来看，目前大多数国家并未赋予机器法律人格，因此机器无法直接承担法律责任。机器人酿成事故怎么解决？

法律层面进行完善：我们应该通过制定更加完善的法律法规来明确责任归属，确保受害者能够得到合理的赔偿。

从伦理角度来看，机器是否应该享有权利是一个更为复杂的问题。目前两派观点互相对立。（1）一些人认为，随着AI技术的不断进步，机器可能在一定程度上具备自主意识和情感，因此应该享有某种形式的权利。（2）另一些人认为，机器与生物体在本质上存在巨大差异，将人类的权利观念直接套用于机器可能并不合适。正方观点反方观点12.4.1机器人权利问题

12.4.2人工智能技术带来的责任划分问题12.4.3案例分析12.4.4一些建议

12.4.1机器人权利问题

机器人是机器还是人？机器人与人的本质区别是什么？这些问题从不同的角度与立场来看，自然会得出不同的结论。虽然至今仍有许多学者认为机器人是“机器”而不是“人”，但随着人工智能、计算机与机器人学等科学技术的快速发展，机器人拥有越来越强大的智能，机器人与人类的差别正在逐渐缩小。被授予公民身份的机器人索菲亚12.4.1机器人权利问题

事实上，各种各样的机器人已经走进了人们的生活。机器人可以满足人类的许多需要，除了可以打扫卫生、照顾老人和孩子之外，机器人甚至还可以在一定程度上满足人类的情感需要。包括日本、美国在内的一些发达国家开发出来的机器人玩具很受小朋友的喜欢，甚至与它们产生了与人一样的情感。12.4.1机器人权利问题

关于机器人权利的论述似乎比许多其他机器人伦理问题更早地引起学者们的关注。早在1964年，当时在麻省理工学院任教的美国哲学家普特南（HilaryPutnam）认为，机器人与人可以遵循同样的心理学法则；把机器人看作是机器还是人造生命，主要取决于人们的决定而不是科学发现；等到机器人技术足够成熟，机器人会提出对权利的要求。12.4.2人工智能技术带来的责任划分问题

各种机器人正逐步渗透到我们生活的方方面面，人工智能与人类的关系越密切，它在伦理道德上给我们带来的冲击就越明显。目前人工智能面临两种责任问题AI行为者本身的责任。设计者与开发者的责任。针对两种责任，相应存在两种观点：第一种认为人工智能及其设计团队需要共同承担责任，第二种观点则认为所有的责任需要由AI系统的开发团队承担。12.4.3案例分析（1）自动驾驶汽车事故。2018年3月18日晚上，美国49岁的伊莱恩·赫茨伯格推着自行车横穿马路。被一辆测试的优步自动驾驶车撞上，导致死亡。

这辆自动驾驶系统检测到了赫茨伯格，但未能识别她为行人；安全驾驶员在事故发生前几秒才注意到赫茨伯格，来不及接管车辆；导致车辆撞上了赫茨伯格并重伤身亡。这是全球首例完全自动驾驶汽车致行人死亡的事件，引发了广泛讨论。12.4.3案例分析（2）机器人伤人事件。2016年深圳高交会上，一台名为“小胖”的家用服务机器人因操作失误撞碎展台玻璃，导致一名观众腿部受伤；2021年美国新泽西州的一家亚马逊仓库发生机器人在搬运货物时意外刺穿了一罐有害喷雾气体，气体泄漏使24名员工中毒等。12.4.3案例分析（3）医疗机器人致人死亡事件。

深圳某三甲医院使用AI手术机器人进行子宫瘤切除时致患者死亡。AI系统因未识别罕见血管变异引发事故，但责任归属模糊（技术缺陷、医生操作或机构管理）。此案例揭示医疗AI高风险场景中的权责划分困境及监管框架缺失。12.4.3案例分析

看完这些案例，是不是觉得这些权利和责任划分问题实在是太要命了，根本无法回避。我们需要从多个方面入手，通过明确伦理原则、强化法规监管、推动伦理审查、加强教育与培训、促进公众参与等方式，共同推动人工智能技术的健康发展。

最后，让我们来给出一些具体的解决方法吧？12.4.4一些建议

为了保证人工智能科技的健康发展，一方面需要从法律的角度对人工智能的研发进行管理、对现有法律进行调整完善、解决人工智能引发的新的社会问题。另一方面要强调科技专家的社会责任。12.4.4一些建议

为了防止当下现实世界中的人工智能系统由于设计缺陷导致意外事故，目前技术专家至少从以下几个方面来保证安全性：首先，证实是否正确的做出了完成既定任务再次，防止非授权当事人的蓄意操控其次，保证系统完成功能之外不会产生多余的行为和后果最后，确保重要人物在人工智能系统开始运作之后控制该系统。ArtificialIntelligenceandFuture人工智能与未来2035主讲：齐兵辉FutureEthics第12章

未来伦理2035齐兵辉12.112.212.312.4人工智能伦理概念人工智能带来的安全问题人工智能引发的就业挑战人工智能带来的权责划分问题目录CONTENTS12.5人机关系问题讨论：地球的无机物能够生成有机物，有机物又进化出了生命，生命进化出了人类智慧，你们觉得人类文明能够进化出更高级的高等文明吗？

人类发展人工智能就是为了要探索未知世界，创造崭新的文明，倘若在目前的AI基础上发展出更为先进的智能形式，人类应当如何应对这种智能，并在其中找到自己的定位，实现与此智能的和谐共存，从而促进文明的繁荣发展呢？

让我们带着这个问题进入本小节的学习。12.5.1人机关系的分级

12.5.2人机关系面临变革

12.5.1人机关系的分级《论语》中有：“子曰：学而时习之，不亦说乎。”

现在让我们来温习下前面第二章的知识，当时谈到了人工智能的三种层次。它们是：？？？开动大脑，思考10秒钟奥。。。。。。。。。。12.5.1人机关系的分级【层次三】超人工智能【层次二】强人工智能【层次一】弱人工智能无自我意识，但能够理解人类的指令，比人类更好的完成某些任务。有自我意识和创新能力，懂得协同工作，是与人类相似或者更高级的智慧。突破自身，能创造出更高级的智慧形态。12.5.1人机关系的分级【层次三】超人工智能【层次二】强人工智能【层次一】弱人工智能人机协同阶段人机共存阶段多文明共存阶段对应三种智能层次，将人机关系分为三个阶段12.5.1人机关系的分级(1)人机协同阶段

什么是人机协同？在人机协同阶段又是怎样协同呢？

让我们先回答第一个问题：人机协同指人类与人工智能系统之间的互动与合作，旨在利用各自的优势，共同完成任务。人机协同的核心在于实现人类与机器之间的优势互补。12.5.1人机关系的分级(1)人机协同阶段人类拥有独特的情感、直觉和创造力，能够在复杂多变的情境中做出灵活判断。而机器则擅长数据处理、模式识别和高效计算，能够在短时间内处理大量信息，