计算基础工程 7

21世纪高等学校计算机类课程创新系列教材计算机工程伦理（微课视频版）第七章人工智能伦理0102030421世纪高等学校计算机类课程创新系列教材人工智能伦理人工智能系统的算法偏见人工智能造假无人驾驶系统的法律责任05机器人的“人权”与道德PART.

01人工智能伦理7.1人工智能伦理【

引导案例】2018年3月，美国Uber自动驾驶汽车在亚利桑那州坦佩市撞死一名横穿马路的行人。当时车辆以64公里时速超速行驶，处于自动驾驶状态，安全员却在玩手机，车辆未刹车。这是全球首例自动驾驶汽车撞死行人的事故。责任认定复杂：安全员分心驾驶是直接原因，但自动驾驶技术在复杂路况下的可靠性、监管漏洞以及行人的违规行为也引发讨论。2016年，微软推出聊天机器人Tay，它能通过与用户互动学习并提供回复。然而，Tay在与偏激用户交流后，开始发布带有性别歧视和种族歧视的言论，仅上线一天就被紧急休眠，至今未重启。这凸显了人工智能在内容审核和价值观引导方面的风险。2022年，OpenAI推出ChatGPT，能通过学习人类语言进行对话，并完成撰写邮件、文案、翻译、代码、论文等任务。其高效能力引发“饭碗焦虑”，许多人担心大量工作将被人工智能取代。ChatGPT的出现也引发了对人工智能伦理、版权和教育公平等问题的深入思考。7.1.1人工智能的产生与发展三次浪潮

人工智能（AI）由约翰·麦卡锡于1955年提出，经历了三次浪潮。第一次浪潮是20世纪50年代末至80年代初，第二次浪潮是20世纪80年代初至20世纪末。前两次浪潮因技术未实现突破，应用效果不佳，商业化受阻，最终归于沉寂。2006年深度学习模型的提出成为转折点，随着信息技术和互联网的发展，人工智能迎来第三次高速成长，至今仍在持续发展。7.1.1人工智能的产生与发展新一代人工智能的发展的五大特征01大数据成为人工智能持续快速发展的基石新一代信息技术推动计算和数据处理能力大幅提升，机器学习算法快速演进。与早期基于推理的人工智能不同，新一代人工智能由大数据驱动，具有高度自主性。AlphaGo输入30万张棋谱并自我对弈后，棋力媲美顶尖棋手。智能终端和传感器普及使海量数据累积，为人工智能发展提供强大动力。文本、图像、语音等信息实现跨媒体交互计算机图像识别、语音识别和自然语言处理技术取得明显进步，成功应用于无人驾驶、智能搜索等行业。互联网和智能终端发展使多媒体数据爆炸式增长，实现跨媒体交互，推动智能化搜索和个性化推荐。未来人工智能将向人类智能靠近，实现多种功能。基于网络的群体智能技术开始萌芽随着互联网、云计算等技术普及，大数据累积，深度学习及强化学习算法优化，人工智能研究从单个智能体向多智能体协同的群体智能转变。群体智能具有去中心化、自愈性强、信息共享高效等优点，相关技术成为热点。例如，我国2017年实现119架无人机集群飞行。0302自主智能系统成为新兴发展方向04长期以来，人工智能结合仿生学研究，如机器骡、人形机器人等，但因技术与场景限制，大规模应用未突破。如今，生产制造智能化升级需求凸显，嵌入智能系统改造机械设备成为务实选择，也是多国战略核心，自主智能系统成为重要发展方向。7.1.2人工智能伦理概述1.人工智能道德算法道德算法的定义与重要性

人工智能道德算法的研究主要是指那些在道德上可接受的算法或合乎伦理的算法，他们使自主系统的决策具有极高的可靠性和安全性。人类的道德推理能力源于先天禀赋和后天学习。道德决策是在具体场景中展现的道德推理能力，可能稳定也可能不稳定。人工智能的道德推理能力是通过将特定群体认可的价值观和道德标准程序化为道德代码嵌入智能系统实现的，但这种能力不能保证其在复杂多变的场景中做出合理道德决策。智能系统还会通过学习算法进行道德训练，以具备类人的道德推理能力。道德算法的挑战

机器的道德学习严重依赖于训练数据样本和特征值的输入，不稳定的对抗样本重复出现可能会导致智能机器被误导做出错误的决策。而且，算法的黑箱特征使道德算法的决策逻辑，缺乏透明性和可解释性。另外，道德学习还会受到使用者价值偏好和道德场景的影响，做出与使用者理性状态下相反的道德判断。从这个意义上讲，人工智能既有可能学好，也有可能学坏。7.1.2人工智能伦理概述2.人工智能设计伦理0102明确价值定位

一方面，设计和研发某种人工智能产品及服务之前，设计者和制造商要有明确的价值定位，能够对其所产生的能力和社会影响有总体的预判内置纠偏机制

另一方面，人工智能在为消费者提供服务的过程中，如果出现价值偏差，系统内置的纠偏机制能够有效防范危害继续发生，防止危险的发生。例如，数据挖掘技术可能将隐藏在数据中的偏见或歧视揭示出来并运用于决策中，但机器自身很难像人类一样自觉抵制一些个人偏见或歧视，这时就需要通过技术手段和社会手段联合消除这种偏见和歧视。7.1.2人工智能伦理概述3.人工智能社会伦理

人工智能社会伦理关注技术研发、设计与应用的合理性边界，以权利义务关系为核心，涵盖道德规范、价值精神、社会条件、交往方式、结构体制合理性等内容。其研究焦点在于避免技术革命带来的新差距，让更多人受益，解决“人工智能鸿沟”问题。同时，人工智能系统对数据的无限需求涉及个人信息安全与隐私权问题，需更新隐私政策、知情同意条款和数据共享方式，以应对伦理风险。

善用和阻止恶用人工智能是社会伦理研究的关键，落脚点在于优化人机合作关系，建立相互适应和信任的机制，使人工智能辅助生产和生活。近年来，多国发布人工智能战略报告，推动产业发展。我国2017年发布《新一代人工智能发展规划》，将伦理法律研究列为重点任务，提出三步走战略目标：到2020年初步建立部分领域伦理规范和政策法规；到2025年建立初步的法律法规、伦理规范和政策体系；到2030年建成更加完善的体系。规划指出，人工智能将深刻改变社会生活，但也可能带来就业结构改变、法律伦理冲击、隐私侵犯、国际关系挑战等问题，需加强前瞻预防与约束引导，确保其安全、可靠、可控发展。7.1.3人工智能伦理风险评估【

案例7-1】威胁用户隐私安全

2022年，诈骗分子通过冒充执法人员，通过“李鬼”APP获取交通银行6名储户的个人信息和人脸影像，再诱骗他们将钱存入交通银行储蓄卡，使用假人脸通过了银行“人脸识别”系统，并窃取资金超过200万。银行系统后台显示，诈骗分子在进行密码重置和大额转账时进行了6次人脸识别比对，均显示“活检成功”。

分析：人脸识别是人工智能领域最常见的技术之一。目前，常见的网络传输与加密协议无法与人脸数据的安全级别与敏感程度相匹配，人脸识别应用的数据存储和传输流程均有可能被劫持，存在严重的安全风险。加之当前数据爬虫、网络入侵、数据泄露等已成为互联网中的常态，收集人脸数据的企业完全有可能主动或被迫在未经用户授权或超出用户许可的范围下，对用户面部数据进行采集、使用、流转等非法操作。一旦人脸特征信息被不法分子截获，攻破用户自己使用的人脸识别服务并获取用户本人才具有的敏感权限（如金融交易、人脸门禁、手机解锁等）可谓轻而易举。更严重地，将该人脸数据结合深度合成技术，被不法分子用于伪造具有人格诋毁性质的多媒体内容，或捏造音频、视频片段，恶意侮辱、诽谤、丑化他人，势必对受害者造成极大的人格侮辱与内心创伤，并产生非常恶劣的社会影响。7.1.3人工智能伦理风险评估【

案例7-2】侵犯用户生命财产等合法权益

2015年2月，英国首例机器人心瓣修复手术进行。原本是一场最尖端医疗AI技术的展示，没想到却成了一场鲜血四溅的惨案。手术期间，机器人控制台传输信号声音小而且质量不佳，主刀医生和助手几乎听不到对方声音，两人只能扯着嗓门大喊。手术过程中，“达芬奇”对病人心脏的缝合位置和方式都不对，导致医生浪费了很长时间拆除缝线重新缝合。更为意外的是，患者主动脉竟然被机器人戳破，血喷到机器人摄像头上。慌乱的医生只得向场外专家求助，但两位专家以为医生不需要帮助，便提早离开。最后医生不得不抛弃机器人操作，开始手动进行胸部手术修复缝合，但患者心脏功能“非常糟糕”，最后死于多器官衰竭。

分析：上述案例中，即便在医生操作下出现毫厘的差错，都会直接导致手术失败与患者死亡。而此时无论是患者还是医生都无法获知该差错是现场操纵机器人的医生的“直接人为错误”，还是由机器人制造商或算法提供商造成的“间接人为错误”，也可能是由外部个人或组织主观恶意的物理攻击、远程干扰，或者电力、数据传输中断造成的意外事故，甚至医生与供应商、制造商都没有出错，只是人工智能算法黑盒特性或自主意识决策下的“机器错误”、患者安全无法得到切实的保障。人工智能在为众多患者带来福音的同时，也面临着技术安全、责任认定等伦理风险与挑战，当人工智能严重侵犯人类的生命权、身体权或健康权时，责任主体是难以认定的。7.1.3人工智能伦理风险评估【

案例7-3】动摇人类感知及思维能力的自主性

智能导航技术极大地增强了人们的路况感知能力，能够规划最优路线并提供及时的路况提示，解决了许多驾驶中的难题。然而，英国uS网站的调查显示，78%的驾驶员使用智能导航，其中超半数完全依赖导航提示，甚至忽视路上的限速标志。这种过度依赖不仅改变了传统因纽特人对环境的感知方式，弱化了他们的天然找路能力，还可能引发安全问题，如冲出道路末端。目前，智能导航的设计者和制造者大多只注重产品的强大功能，以吸引消费者，却没有针对过度依赖的负面影响采取预防措施，如为人自身感知能力保留空间或在产品说明中做出显要提示，这无疑是一种伦理责任的缺失。

分析：在新一代人工智能的发展中，人们越来越多地将思维决策交给偏重逻辑思维的人工智能算法来完成。这种算法虽然能按照规则进行客观判断，但容易忽视事物之间的有机联系，无法像人类那样通过直觉思维获得整体把握和综合判断。因此，人工智能对人类思维能力的过度替代，可能会减少直觉思维发挥作用的机会，进而阻碍逻辑思维的提升，妨碍人类的想象力和创造力。由此可见，人工智能在逻辑思维方面的发展及其对人类思维能力的替代，必须重视人类直觉思维的价值。要保证人工智能技术的健康发展，避免违背“以人为本”的伦理原则，就必须控制逻辑思维与直觉思维失衡的不良后果，承担起相应的伦理责任。7.1.3人工智能伦理风险评估【

案例7-4】动摇劳动主体的相关权利

2022年11月30日，一款由美国OpenAI研发名为ChatGPT（全名：ChatGenerativePre-trainedTransformer）的聊天机器人程序问世，上线仅两个月全球活跃用户破亿。该软件能够通过理解和学习人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码，写论文等任务。谷歌面试官发现ChatGPT能通过年薪18万美元工程师招聘考试；北密歇根大学教授发现班里最好的论文，出自ChatGPT之手；美国房产中介用它生成房源文案，一小时工作量，5秒完成；它参考柯南道尔笔触，不到3分钟完成新的福尔摩斯。ChatGPT的“卓越能力”令不少人开始陷入“饭碗焦虑”，担心未来大量工作将会被人工智能所取代。

分析：随着人工智能逐渐深入生产、生活，其优势令人类难以望其项背。人工智能拥有比人类更高的精确度与工作效率，不会被情感与经历所限，而拥有更小的出错概率。无论是对已有数据知识的回溯检索，还是未来案例内容的学习更新，人工智能的速度都是人类无法企及的。同时，人工智能可能导致未来人类对其技术的过分依赖，而自我降低其对专业技能、知识与工作经验的水准要求，甚至从潜意识层面开始动摇与质疑所学知识技能培养存在的合理性。另一方面，一些特殊的职业其本质体现的是人格尊重与人文关怀（如医生、教师），以及绝大多数人依赖通过劳动行为建立对社会和人际关系的认知。人工智能的渗透可能从根本上改变这一现状，而其所带来的影响仍旧值得深思。7.1.3人工智能伦理风险评估【

案例7-5】加深数字鸿沟

在疫情肆虐的特殊时期里，扫健康码、出行码已成为人们出入各个场合的“通行证”，有“码”走遍天下，无“码”寸步难行。然而，老人因没有健康码出行受阻、去超市买东西不让进的事情屡有发生。2020年，哈尔滨一位满头白发的老人因为无法出示健康码，被公交司机拒载，老人迟迟不肯下车，没人跟老人解释为什么不能乘车，而是直接遭到了满车人的围攻，甚至有些“为老不尊”，“自私自利”这样激进的言语，直到民警到场接走了老人。

分析：健康码的使用在公共卫生安全危机之下的确是一个值得鼓励的创新性公共管理策略，但该策略是默认公民都携带手机出行且都为技术红利的享受者和拥护者，但现阶段我国仍有超过5亿人未接触互联网，很大一部分是老年人和残疾人，他们享有正常社会公共服务与保障的权利正在被剥夺。技术所带来的数字鸿沟，使他们在社会生活中边缘化，而数字鸿沟也进一步导致权力分化。PART.

02人工智能系统的算法偏见7.2人工智能系统的算法偏见

在人工智能所涉及的伦理问题中，算法伦理居于基础地位。在智能时代，算法已经渗透到人们生活的每个角落，深刻地影响着我们对周遭环境的认知和理解，并渐趋成为我们生活世界底层架构的一部分。可以说，在人工智能的广泛应用并引发的越来越多的社会伦理问题中，多数都是由算法所派生的。147.2.1算法与算法伦理

算法是指解题方案的准确而完整的描述，是一系列解决问题的清晰指令，算法代表着用系统的方法描述解决问题的策略机制。

安德森在《依赖代码：算法时代的利与弊》提出，算法的确能帮助我们处理大量数据，这将会带来诸多可见的与不可见的益处，如激发科学突破、提升人们的创造力和自我表达能力、创造新的便捷生活方式等；但在同时，算法的这些益处也伴随着诸多挑战，如过于追求数据和建模，就会产生削弱人类判断、形成算法偏见、加深社会分歧等各种不良后果。

因此，从算法伦理的层面对算法的使用进行规制极为重要。算法伦理是以算法后果的不可预测性和算法的价值负荷为其理论前提，以尊重性、安全性、预防性、透明性和友好性为其基本准则，以培养算法设计主体的道德想象力和遵循价值敏感性为其实现之路。

在一些领域，算法的性能表现和解决任务的能力堪与人类媲美，在某些方面甚至要优于人类的分析和决策。随着算法广泛地嵌入人们的日常生活，对其可靠性要求越来越高，衡量标准既体现在算法技术的进步，也反映在算法在道德上的可接受性。这种价值导向使研究者的关注点主要聚焦于以下两类算法:一是人类很难预测其行为后果的算法;二是造成的事实背后的决策逻辑难以解释的算法。它们将不确定性和不透明性引入计算过程，进而将其延伸到社会生活领域，无形地增加了伦理风险。这两类算法给伦理学带来全新的挑战，而且由于算法所引起的伦理问题与其他技术引起的伦理问题有明显不同，因此具有更大的讨论价值。7.2.2算法偏见的主要表现和特点种族歧视

有形的种族歧视容易精准打击，无形的种族歧视却难以防范。被嵌入种族歧视代码的算法中隐藏的偏见在人工智能客观、公正、科学的正面包装下更容易大行其道，令人放松警惕，并在算法“黑箱”的遮掩下更加隐蔽。【

案例7-6】

美国部分州使用了一款名为Compas的算法来评估犯罪，选用该算法的目的是考虑到计算机在判断嫌疑人风险等问题上不会考虑黑白种族等主观性很强的问题。然而，美国一调查机构发现该算法存在明显的偏见，根据分析，该系统预测的黑人被告再次犯罪的风险要远远高于白人，甚至达到了后者的两倍。【

案例7-7】2019年，美国国家标准与技术研究院发布了一份报告，显示了全球99名开发人员提交的189种人脸识别算法在识别来自不同人口统计数据中的面孔时的表现。测试显示，与白人相比，无法准确识别非洲裔或亚裔人脸照片的可能性高出10至100倍。在搜索数据库以查找给定的面孔时，非洲裔女性显示错误的比例明显高于其他人口。7.2.2算法偏见的主要表现和特点性别歧视

大数据是社会的产物，人类不自觉的性别歧视会影响对大数据进行分析的人工智能算法，可能无意中强化了就业招聘、大学录取等领域中的性别歧视。【

案例7-8】

美国一对夫妇结婚多年，所居住的地区实行共同财产制，他们提交了联合纳税申报表，尽管妻子的信用评分更高，但苹果公司计算出丈夫的信用额度是他妻子的20倍。2019年，丈夫在推特上曝光了Applecard的性别歧视行为。为此，美国国会开始审查金融机构在决定信贷额度时使用的算法。【

案例7-9】

卡内基梅隆大学在针对Google广告的研究中发现，Google的在线广告系统推送给男性的高收入职位广告要比显示给女性的多。在调查研究中，有一则高薪职位招聘广告向男性用户投放了1816次，但投放给女性用户只有311次。在500名模拟男性用户中，402名至少收到了一次高薪职位招聘广告，但只有60名女性用户至少收到了一次相同的广告。Google广告的个性化推送算法对女性的歧视，影响了女性获取优质工作的机会。7.2.2算法偏见的主要表现和特点年龄歧视

在就业招聘、员工管理中，就业者的姓名、性格、兴趣、情感、年龄乃至肤色等数据，往往悉数被采集，运用大数据算法非常方便对年龄等数据进行筛选与评估。比如，对于寻求新工作的不同年龄段的人来说，他或她的日常工作可能包括搜索互联网工作网站和提交在线申请。从表面上看，这似乎是一个非常透明和客观的过程，将所有申请人置于一个只有经验和资格的公平竞争环境中，但实际上年龄歧视无处不在。【

案例7-10】

2016年，ACCESS-WIRE的ResumeterPro项目组发现，在人工有机会审查之前，高达72%的简历会被申请人跟踪系统拒绝。这是通过复杂的算法来完成的，可能会导致基于不准确假设的无意识歧视，雇主则可以使用这些算法根据年龄专门丢弃申请。【

案例7-11】2016年，非营利机构ProPublica发现，Facebook通过精准广告投放，将大龄劳动者排除在广告覆盖范围之外，侵犯了大龄劳动者的权益。令人不安的是，上述这些公然的歧视很难被发现，因为被歧视者很难证明拒绝是由于年龄原因造成的。7.2.2算法偏见的主要表现和特点消费歧视

消费歧视常见的形式有：一、对新老用户制定不同的价格，会员用户价格反而比普通用户价格贵；二、对于不同地区的消费者制定不同价格；三、多次浏览页面的用户可能面临价格上涨；四、利用频繁促销规则和算法实现价格混淆设置，吸引计算真实价格困难的消费者。在某些细分市场，商家在公开透明的原则下进行差别定价是一种正常的商业策略。但是，如果商家针对某个具体的个人或特定群体实行歧视性定价，就会造成选择性目标伤害。

有网友反映，自己经常通过某旅行网站订一家出差常住的酒店，常年价格在380~400元。某日，网友发现自己的账号查到酒店价格是380元，但朋友的账号查询显示仅为300元。

还有很多网友反映，有的网络平台会根据手机型号给出不同的收费待遇。其实早在2000年，亚马逊网站就已经进行了价格实验。当时通过算法对一些DVD制定实施歧视定价策略，例如对Titus碟片进行歧视定价，对新用户收取22美元，对老用户收取26美元，这一项目被消费者发现之后就立刻终止了，但实际上新的价格歧视方式层出不穷。7.2.3算法偏见产生的原因01020304算法自主性产生偏见

机器学习算法通过自我编写代码，依赖大数据训练提升决策能力，但这种自主性也带来了不确定性和不透明性，增加了解释和预测的困难。样本和训练数据的偏见

算法输出受训练数据集质量影响，数据中的偏见会传递给算法，导致不公平的结果，尤其在少数群体数据不足时更为明显。算法设计者的偏见

算法设计过程中，设计者的主观意识和价值取向可能无意中被引入，造成算法反映特定社会价值观，从而产生歧视。算法研发公司及购买企业的利益诉求

算法研发和应用中，企业追求利润可能凌驾于社会责任之上，隐藏算法细节以掩盖潜在的歧视问题，加剧了算法偏见。7.2.3算法偏见产生的原因【

案例7-12】算法自主性产生偏见

2015年，黑人兄弟JackyAlciné震惊地发现，他们被谷歌图像识别算法歧视了：GooglePhotos竟然把他的黑人朋友分类成了“大猩猩”，这位黑人兄弟立马向谷歌发起了抗议。谷歌对此深表歉意，并立刻着手处理这一漏洞。但他们的工程师惊奇地发现，无论怎么修改编程，都无法解决AI智能区分黑人和黑猩猩照片的技术难题。无奈之下，谷歌只好把“gorilla”从系统标签词典中删除了，这就意味着谷歌的图像识别算法中彻底抹去了黑猩猩这个物种。这样，AI就不会把黑人识别成黑猩猩了。不过，大猩猩也不会被认作大猩猩了。因为GooglePhotos的图像识别算法，根本就不知道有大猩猩这个物种存在。【

案例7-13】样本和训练数据的偏见

2016

年，微软在推特平台推出一个名为Tay

的聊天机器人。用户只需在推特上@TayandYou就能得到Tay的回复。用户在@了TayandYou后，Tay就会追踪该用户的网名、性别、喜欢的食物、邮编、感情状况等个人信息。除了聊天，Tay还可以说笑话，讲故事等，用户还可以分享一张照片来得到Tay的点评。Tay会在与人们的交流中不断学习，随着时间积累，她的理解能力将逐步提升，变得愈发“智能”。

然而，在与有偏激言论的人互动后，发布仅仅一天的Tay开始发布带有明显性别歧视和种族歧视倾向的言论，微软只能紧急将Tay休眠，至今未曾重启。

这个例子有力地佐证了在机器学习过程中会产生新的偏见的观点，与原定目标，即靠实践经验吸收优势予以补充模型的想法相去甚远。算法不能决定用户输入数据的性质或特点，只能被动对输入的各类数据进行学习，换句话说，若输入数据的互动者向算法输入了具有偏见的新数据，那学习之后的算法就是一个偏见算法。7.2.3算法偏见产生的原因【

案例7-14】算法设计者的偏见

2020年12月，斯坦福大学医学中心的数十名住院医师和其他医务人员对院方提出了抗议，他们作为一线员工，却在筛选过程中遭到淘汰，无缘第一批新冠肺炎疫苗的接种。医院的管理者把责任推到了医院开发的算法上，认为正是这些算法决定了员工的接种顺序。然而专家对该算法进行详细分析后却发现，真正的错误源自设计算法的人，他们并没有根据员工在病毒环境中的暴露程度来决定接种顺序，而是简单地按照年龄排序。【

案例7-15】算法研发公司及购买企业的利益诉求

2016年的美国总统大选中，Facebook的排名算法疯狂推荐假新闻。美国新闻聚合网站BuzzFeed的调查发现，在美国大选的几个关键月份，来自恶作剧网站和超党派博客的20个表现最佳的虚假选举故事在Facebook上产生了数万次分享与评论，Facebook获得不菲的收益。【

案例7-16】算法研发公司及购买企业的利益诉求

2011年，美国亚马逊网站上一本名为“TheMakingofaFly”的书，其标价竟然为170万美元。其后一个星期，定价不断飙升，最终创下了2369万美元的天价。原因是卖家使用算法定价，他的算法紧盯他的同行，同行涨价，他也涨价。巧合的是，另外一个同行也用算法紧盯他的定价。结果双方算法陷入了循环加价模式，相互不断推高对方定价，最后攀升至天价。7.2.4算法偏见产生的后果

随着人工智能技术逐步广泛地应用在社会的各个领域，大家在称道人工智能给人们日常生活工作带来大量便利、惊叹于人工智能技术的巨大威力的同时，人工智能算法目前本身的偏见带来的负面效应也逐渐被越来越多的人认识到。

算法歧视的反馈循环形成越来越严重的固化偏见。如果用过去不准确甚至有偏见的数据训练算法，其输出结果自然而然也是有偏见的；然后再以其输出产生的数据对系统进行反馈，则会是使算法偏见得到巩固，后果将非常严重。算法歧视固化到算法之中，演化成算法的内在运行机制，算法在不断固化和加深社会原本存在的歧视，并且歧视在算法黑箱中持续、规模化、隐蔽地产生作用，固化和限制受众的思想，甚至形成极端的社会分裂。

算法歧视会造成社会资源分配的马太效应进一步放大。算法对某一人群的集体歧视和偏见，无疑会加深这一群体在社会生活中的不平等待遇。同时，算法也在分化社会、固化阶层、加剧社会不平等。当算法应用于社会福利等资格审查监测中，算法测量和建构出的公民画像是被圈定在原社会条件和位置上的，底层公民、劣势群体、少数群族拥有的通往更多机会和资源的途径和概率越来越小。最终，算法偏见将导致社会资源分配的马太效应进一步放大。PART.

03人工智能造假人工智能造假最早引起关注的是2017年年底，一位名为deepfakes的用户在美国Reddit网站上发布了多个人工智能造假的色情视频，视频中演员的面部被替换成明星人物的脸。从此，媒体和大众开始使用deepfake一词代替基于人工智能技术的造假行为，即“深度伪造”。随着人工智能造假内容的传播，其背后的人工智能技术开始引起了广泛的关注和探索。“深度伪造”是一种基于深度学习的内容合成技术，主要是利用生成对抗网络的深度学习算法，实现初始内容和目标内容的模拟、合成和替换，“深度伪造”可以创建全新的内容或操纵现有的内容，包括视频、图像、音频和文本。该技术具有广泛的应用场景，被大量用于语音导航、新闻传播、智能客服、社交媒体等领域。7.3.1人工智能造假的两面性娱乐与文化领域在影视制作中，利用“深度伪造”技术可以修复老电影的画面和声音，让经典作品焕发新生，如修复《罗马假日》等老电影，让观众重温经典。通过“深度伪造”技术，可以创造虚拟偶像，举办线上演唱会，为粉丝带来全新的娱乐体验，如洛天依等虚拟偶像的演唱会吸引了大量观众。商业与教育领域在商业广告中，利用“深度伪造”技术可以模拟产品使用场景，让消费者更直观地了解产品特点，如化妆品广告中模拟使用后的效果。在教育领域，“深度伪造”技术可以“复活”历史人物，让历史教学更加生动有趣，如通过虚拟孔子讲解儒家思想，增强学生的学习兴趣。社会服务领域在医疗领域，“深度伪造”技术可用于合成医疗影像数据，辅助医生进行疾病诊断，提高诊断准确率，如合成肺癌检测影像帮助医生发现早期病变。在刑侦领域，“深度伪造”技术可以辅助生成犯罪嫌疑人的模拟画像，帮助警方缩小侦查范围，提高破案效率，如根据目击者描述生成嫌疑人图像。人工智能造假的积极应用利用“深度伪造”技术制作虚假视频或音频，可能会侵犯个人隐私，如将某人的脸替换到色情视频中，给当事人带来极大的名誉损害。通过“深度伪造”技术篡改个人言论，可能会误导公众，影响个人的声誉和形象，如伪造名人演讲视频传播错误观点。个人隐私与名誉受损01在政治领域，“深度伪造”技术被用于制造虚假政治言论或事件，可能引发社会动荡，如伪造政客的不当言论引发民众不满。在新闻传播领域，“深度伪造”技术可能导致虚假新闻泛滥，削弱公众对媒体的信任，如伪造新闻事件误导公众舆论。社会信任危机02“深度伪造”技术可用于制造虚假信息，干扰国际关系，如伪造国家领导人言论引发国际争端。利用“深度伪造”技术进行网络诈骗等犯罪活动，可能对国家金融安全造成威胁，如伪造银行高管声音进行诈骗。国家安全威胁03

人工智能造假的负面应用人脸深度伪造语音深度伪造文本伪造7.3.2人工智能造假的主要类型010203通过深度学习算法，将视频中人物的面部替换成另一个人的面部，如“ZAO”APP中的换脸功能，用户可以将自己的脸替换到明星视频中。人脸替换技术可用于影视制作中的替身演员效果，但同时也可能被用于恶意制作虚假视频，侵犯他人肖像权。人脸替换利用Face2Face等技术，可以实时操纵人物的面部表情，如让照片中的人物做出各种表情动作，用于娱乐或特效制作。表情操纵技术可能被黑客利用，破解银行系统的人脸核验系统，通过操纵表情完成指令性动作，从而实施诈骗。表情操纵使用StyleGAN等技术，可以生成完全不存在的人脸图像，如GeneratedPhotos网站提供大量全脸合成的人脸照片，用于各种虚拟场景。全脸合成技术可用于虚拟人物的创建，但也可能被用于制造虚假身份信息，用于非法活动。全脸合成人脸深度伪造01语音合成通过语音合成技术，可以生成目标说话人的声音，如美国Modulate公司开发的产品可以将用户声音变换成奥巴马等名人的声音，用于娱乐或模仿。语音合成技术可用于语音导航、智能客服等领域，但同时也可能被用于诈骗，如伪造公司高管声音进行电话诈骗。03对抗攻击通过对抗攻击技术，可以生成能够欺骗自动说话人验证系统的语音，如对语音识别系统进行攻击，使其误判说话人身份。对抗攻击技术可能被用于攻击金融系统、安全系统等，造成严重的安全隐患。02语音转换利用语音转换技术，可以将一种声音转换成另一种声音的属性，如将男性声音转换成女性声音，用于影视配音或语音特效。语音转换技术可能被用于制造虚假语音证据，干扰司法调查或误导公众。语音深度伪造2020年初，阿联酋的一位银行经理接到了一家大公司董事打来的电话。该董事声称其所在的公司正在进行一项大型收购，所以需要这家银行授权向美国的几个账户转账3500万美元，并表示已经发送一封来自律师的电子邮件来确认这笔转账。该银行经理能够分辨出这位董事的声音，因为他们之前交谈过，并且在收件箱中看到了来自董事和律师的电子邮件，他认为一切程序看起来都是合法的，于是确认了这笔转账。然而这位大公司的“董事”的声音实际上是诈骗团伙利用一种名为“深度伪装”的人工智能技术合成的，听起来很像本人的声音。这并不是语音深度伪装技术第一次被用于网络诈骗犯罪。无独有偶，2019年3月，一家总部位于德国的英国能源公司的管理者也曾被Deepfake技术所骗，损失了约25万美元。诈骗团伙利用深度伪装技术生成了德国母公司CEO的声音，并命令英国分公司的经理紧急汇款。【案例7-17】案例社交媒体评论利用自然语言模型生成社交媒体上的评论，如ChatGPT可以生成各种观点的评论，用于引导舆论或制造话题。社交媒体评论伪造可能导致虚假信息传播，影响公众对事件的看法和判断。新闻与文章通过文本伪造技术生成新闻或文章，如伪造新闻报道或学术论文，用于误导公众或获取不当利益。文本伪造技术可能对新闻媒体的公信力造成严重损害，影响社会的正常秩序。广告与营销利用文本伪造技术生成广告文案，如伪造产品宣传文案，夸大产品功效，误导消费者。广告与营销中的文本伪造可能导致消费者权益受损，影响市场公平竞争。文本伪造2023年2月，一则“浙江省杭州市政府3月1号取消机动车依尾号限行”的“新闻”在网上传开了，这条看起来没头没尾的“新闻”一时间还真让不少人信以为真。原来这是杭州某小区业主群里讨论最近非常热门的AI聊天机器人ChatGPT时，一位业主开玩笑说自己要用ChatGPT来写一条关于杭州取消限行的新闻稿，随后将ChatGPT生成的文章发布到了群里。结果被群内不明真相的其他业主截图转发了，因此在网上流传开来引发误会。案例【案例7-18】我国监管政策国际监管政策7.3.3针对人工智能造假的监管政策美国监管政策美国联邦层面虽无专门立法，但参众两院提出多部法案，如《深度伪造责任法案》，强调市场主体预防和平台自我规制，形成自下而上的治理模式。美国各州积极立法，如加利福尼亚州通过法律禁止在选举期间使用“深度伪造”技术制造虚假政治广告，保护选民的知情权。欧盟监管政策欧盟尚未专门立法，但通过《一般数据保护条例》等法律，对深度伪造技术涉及的个人生物识别信息进行严格限制，保护个人隐私。欧盟提出《可信赖人工智能伦理指引》，从数据管理、算法开发到商业运用，对深度伪造技术的使用提出严格要求，规范技术发展。其他国家监管政策德国、新加坡、英国、韩国等国家将“深度合成”相关犯罪纳入刑法范畴，通过刑事手段打击恶意使用深度伪造技术的行为。各国通过国际合作，共同应对深度伪造技术带来的跨国犯罪问题，如建立信息共享机制和联合调查机制，提高打击犯罪的效率。国际监管政策我国《民法典》为深度伪造技术划定红线，保护公民的肖像权、名誉权等合法权益，明确禁止非法使用深度伪造技术侵犯他人权利。《刑法》中对利用深度伪造技术进行诈骗、诽谤等犯罪行为进行严厉打击，维护社会秩序和公民权益。法律层面我国积极推动深度伪造检测技术研发，提高对虚假内容的识别能力，如建立深度伪造检测平台，为监管部门和平台提供技术支持。加强对人工智能算法的监管，要求算法开发和应用符合伦理和法律要求，防止算法偏见和滥用，确保技术的健康发展。技术监管层面国家互联网信息办等部门制定《网络音视频信息服务管理规定》《网络信息内容生态治理规定》等规范性文件，要求平台对深度伪造内容进行标识和管理。2022年发布的《互联网信息服务深度合成管理规定》明确了深度合成服务提供者和使用者的义务和责任，如取得被编辑个人的同意、不得制作虚假新闻等，为技术应用提供了合法边界。规章层面我国监管政策PART.04无人驾驶系统的法律责任无人驾驶系统可追溯至20世纪20、30年代，美国军方为了尽可能减少战区路边炸弹等袭击导致的军人伤亡，率先提出军用车辆“无人驾驶”这一概念。此后，DARPA持续投入资金资助相关研究但始终发展缓慢，无人驾驶行业也并未受到广泛关注。1987年，梅赛德斯-奔驰公司与德国慕尼黑联邦国防大学共同推行尤里卡普罗米修斯计划，开启了大型公司与研究机构合作研发制造可运作的无人驾驶汽车原型。1999年，美国卡内基梅隆大学研制的无人驾驶汽车完成了第一次无人驾驶试验。2013年，美国第一台民用无人机被批准上路测试，后续特斯拉汽车也率先推出特定环境下的无人驾驶汽车，无人驾驶技术开始受到关注，并越来越趋向实用化、商业化。2020年10月，百度Apollo无人驾驶出租车在北京海淀、亦庄等区域向用户全面开放无人驾驶出行业务。无人驾驶作为人工智能应用中备受关注的热点，现阶段的发展更是如火如荼，很多国家开放道路测试，为无人驾驶汽车开放道路实验的法律法规也相继出台。然而，无人驾驶系统一方面高歌猛进，逐步开放应用；另一方面也冲击着现有的法律秩序，对创新监管制度提出迫切的实际需求。因此，只有精准认清无人驾驶系统的概念、特征和风险，才能为其未来立法打好基础。7.4无人驾驶系统的法律责任技术定义无人驾驶系统通过激光雷达、车载摄像机等技术收集信息，由智能系统代替人类完成驾驶任务，实现自主行驶，如百度Apollo无人驾驶出租车在北京的运营。无人驾驶系统的发展目标是完全替代人类驾驶员，但目前仍处于逐步发展阶段，现有技术主要应用于特定场景和辅助驾驶功能。智能化分级无人驾驶汽车根据自动化程度分为L0到L5六个等级，从完全人工驾驶到完全自动驾驶，如L3级别可在特定模式下自主操控车辆，但驾驶员需随时准备接管。不同等级的无人驾驶汽车在功能和责任认定上存在差异，L4和L5级别的高度自动化和完全自动驾驶车辆对现行法律制度带来更大挑战。概念内涵争议对无人驾驶系统的概念内涵存在理解偏差，如美国交通部和高速公路安全管理局对无人驾驶汽车的定义不同，前者强调智能系统操控，后者强调无需人类直接参与安全控制功能。我国将无人驾驶汽车称为智能网联汽车，其概念和规范也在不断发展和完善，如2018年发布的《智能网联汽车道路测试管理规范》明确了相关定义和管理要求。7.4.1无人驾驶系统概念运行自主性无人驾驶系统在行驶和选择路线上具有自主性，通过车联网收集数据，依靠算法自主决策，如根据实时路况规划最佳路线，实现回避、变速等操作。无人驾驶系统具备自主学习能力，通过收集使用过程中的信息进行学习，如通过CNN学习图像处理方式，但这也导致其决策的不可预测性，增加事故责任认定的难度。数据依赖性无人驾驶系统依赖大量数据实现安全运行和自主决策，如通过地图数据规划路线、传感器数据感知环境、图像数据识别障碍物，数据的准确性和安全性至关重要。数据依赖性带来风险，黑客攻击可能导致数据系统紊乱，如入侵车辆GPS、摄像头等传感器，影响车辆对环境的判断和行驶安全，因此需要加强数据保护技术。操控主体不确定性与传统机动车不同，无人驾驶汽车的驾驶主体可能包括车内驾驶人、智能系统、数据提供者等，随着技术发展，老人、儿童等也可能参与驾驶，责任主体难以确定。现行《道路交通安全法》难以适应无人驾驶汽车的责任认定，如车辆使用人或所有人可能不参与车辆运行，将其作为责任主体缺乏合法性，需要重新审视和调整法律制度。7.4.2无人驾驶系统的特点无人驾驶汽车的高度自主性使传统侵权责任认定标准受到冲击，如车辆处于高度自动化模式时发生事故，难以确定责任主体是车辆、驾驶人还是其他相关方。对于无人驾驶汽车是否具有独立法律人格存在争议，肯定说认为其可作为责任主体，否定说则认为其不具备法律人格，折中说提出赋予其“电子人格”或“准法律人格”，但目前尚无定论。侵权主体认定障碍驾驶模式的复杂性使因果关系难以认定，如自动化等级不同导致驾驶人注意义务和责任承担不同，但具体等级认定困难，如特斯拉事故中生产商与驾驶人责任划分存在争议。无人驾驶汽车的自主学习能力切断了产品质量缺陷与生产者之间的因果关系，其在出厂后可能脱离原有算法设定，导致事故原因难以归咎于生产者。因果关系划分模糊无人驾驶汽车的自主性和学习能力使其难以适用传统的驾驶人过错归责体系和产品责任归责原则，如无法证明事故车辆在出厂时存在产品缺陷，且受害者举证困难。无人驾驶汽车的多主体特性使责任分配复杂，不同主体适用不同的归责原则，需要多方考证才能确定最终责任主体，增加了法律适用的难度。归责原则使用困难7.4.2无人驾驶系统对现行法律制度的挑战我国尚未制定专门法律规则对无人驾驶系统安全风险进行规制，相关立法层级低，缺乏可操作性的法律规范，如侵权责任法、道路交通法等尚未对无人驾驶问题做出明确回应。立法规则的缺失使监管层对无人驾驶汽车的态度保守，限制了其开发进程，如无人驾驶汽车的测试和应用受到严格限制，影响技术的发展和推广。立法规则缺失无人驾驶汽车记录乘客的乘车时间、地点、轨迹等信息，若信息泄露或被恶意利用，将侵犯乘客隐私，如共享交通模式下大量乘客信息的收集和存储存在风险。我国现行法律对个人信息保护虽有规定，但难以涵盖无人驾驶汽车的特殊信息类型，需要进一步明确相关主体的权利和义务，加强信息保护措施。用户信息保护风险无人驾驶汽车的网联化属性使其面临网络安全风险，如黑客攻击可能导致车辆失控，影响行驶安全，如特斯拉、克莱斯勒等公司生产的无人驾驶汽车曾遭受黑客攻击。道路基础设施故障也是网络安全风险来源之一，极端天气或糟糕路况可能导致信息收集和分析失误，增加驾驶危险，如传感器在恶劣环境下无法准确工作。网络安全风险7.4.3无人驾驶系统的监管缺失宏观政策引导我国从战略层面对无人驾驶汽车发展进行引导和规划，如《中国制造2025》提出智能网联汽车发展方向，《智能汽车创新发展战略》明确产业目标和技术路径。现有规范性文件主要关注道路测试和产业标准，但难以有效规制无人驾驶带来的安全风险，如缺乏对侵权责任和网络安全风险的专门规定。国外立法借鉴美国制定《无人驾驶汽车法案》