人工智能伦理导论（第二版）课件 第4章机器伦理

第4章

机器伦理目录CONTNETS4.1对于“机器”的理解4.2机器伦理概念与含义4.3嵌入式机器伦理构建4.4人机关系重定义4.5机器伦理的局限性本章学习要点1.学习和理解机器伦理概念。2.学习和理解机器伦理对人机关系的影响。3.了解机器伦理学概念和含义。机器伦理是近十年诞生的一个伦理学新领域。由于机器的技术属性，本质上属于技术伦理的范畴。机器伦理中的“机器”已经与传统意义上的机器概念有了一定差别。这主要取决于两方面，一方面，机器的自动化、智能化水平越来越高，超越了传统意义的、以机械运动为主的机器；另一方面，随着机器人等特殊类型的智能机器的发展，使得人们将机器看做与动物类似的对象，给予人文关怀。在这样的背景下，机器不再是人们随意支配、使用的对象，而是具有一定伦理关怀意义。对于机器伦理的学习，正是要转变过去对机器刻板、了无生机的印象，转变人类中心观念，将其纳入人类伦理关注范围。本章主要是学习和理解机器伦理的内涵和思想，理解其与人工智能伦理的内在联系。学习导言4.1对于“机器”的理解历史上,人们造出了许多机械装置或机器,比如织布机、手表、时钟等等。从能量角度定义,机器是利用或转换机械能的装置。这样的装置主要有两种类型,一种是将其他形式的能量转换为机械能,称为“原动机”,如内燃机、蒸汽机,电动机等。另一种是利用机械能来完成有用功,称为“工作机”,如各种机床、起重机、压缩机等。各种机械类机器的主要用途是代替人的劳动、进行能量变换、以及产生有用功。百度百科给出“机器”的概念是:机器由各种金属和非金属部件组装成的装置,消耗能源,可以运转、做功。4.1.1机械类机器机器的使用贯穿在人类历史的全过程中但是近代真正意义上的机械类的“机器”,却是在西方工业革命后才逐步被发明出来。最典型的代表就是十九世纪英国发明家瓦特发明的蒸汽机。机械类机器的种类繁多,可以按几个不同方面分为各种类别,如:按功能可分为动力机械、物料搬运机械、粉碎机械等;按服务的产业可分为农业机械、矿山机械、纺织机械等;按工作原理可分为热力机械、流体机械、仿生机械等。

图4.1蒸汽机种类繁多的机器主要包括四部分:

工作部分直接实现机器特定功能、完成生产任务的部分。

控制部分是控制机器起动、停车和变更运动参数的部分。

传动部分按工作要求将动力部分的运动和动力传递、转换或分配给工作部分的中间装置。

动力部分机器能量的来源，它将各种能量转变为机器能（又称机械能）。早期的机械中还有一种特殊类型的机器，这种机器的重要功能不是利用机械运动代替人类劳动，产生有用功，而是通过机械运动完成一种计算过程，辅助人完成一定计算的工作。这样的机器是计算类机器的雏形。早期计算类机械它们的共同特点是各组成部分之间具有确定的相对运动，即当其中一件的位置一定时，则其余各件的位置也就跟着确定了，在生产过程中它们能代替人类的劳动来完成有用的机械功(如刨床的刨削工件)或转换机械能(如发电机将机械能转换为电能及内燃机将热能转换为机械能)。机械的确定运动特点4.1.2计算类机器

图4.2特西比乌斯改造的机械水钟直到公元前三世纪，特西比乌斯运用齿轮将水钟彻底改造成全新的机械水钟（图4.2所示），人类才终于真正有了所谓的时钟。这具机械水钟因此成为自动机器的开端，为后世示范将一些简单的机械元件加以组合，竟然就能造出一部自动机器，会自己按部就班地完成被赋予的任务。机械水钟的诞生与意义计算概念是文艺复兴后伴随机器制造而出现的一个概念。为了描述机器的行为，人们发明了“计算”一词。计算概念的兴起人类历史上最早的具备计算功能的机器是一种称为“水钟”的装置。水钟历史悠久，至少公元前一千五百年的埃及就已经有了。最早的水钟只是在容器底部钻个小孔，让水缓慢地流出，然后看水面降到容器内壁哪个刻度，而得知目前经过多少时间。这种计时方式并不准确，因为水流出的快慢会随着水量减少而改变，流失的速度并不稳定，无法作为可靠的计时装置。早期计算装置：水钟的演变从“水钟”到后来结合天体运行的天文钟，都是以机械装置形式出现的、牵涉到加法与进位计算的计算类机器原型。自动机器里的元件按照预先所设定的程序，自行一步一步地运作，更是计算机的基本精神。因此，除了水钟与天文钟这类实用装置之外，无关乎计算的自动机器及机械计算机，仍间接地造就未来计算机的发明。自动机器与计算机的基本精神自动机器对日后计算机的发明有深远的影响。虽然直到十九世纪，齿轮装置才出现所谓的“通用型计算机”，可以做各种加减乘除的计算，不过回顾这条两千年崎岖而漫长的道路，自动机器一直是重要的推手。自动机器对计算机的影响机械计算机是由杠杆、齿轮等机械部件而非电子部件构成的机器装置。最常见的例子是加法器和机械计数器，它们使用齿轮的转动来增加显示的输出。机械计算机的定义与早期示例被恩格斯称为欧洲文艺复兴时期“时代巨人”的达·芬奇，也曾设计过机械计算器，但没有造出来，以后有人根据他的设计重建成功。达·芬奇的设计构想德国哲学家、物理学家和数学家莱布尼兹改进了帕斯卡的机器，造出能做全部四则运算的分级轮计算器。莱布尼兹是17世纪数理逻辑发明者，数理逻辑也是人工智能的数学和符号计算基础。他研究过古代中国的《易经》和八卦，主要在逻辑机器中采用与“八卦”一致的二进制，他的思想深深影响了后世数字计算机的发展。莱布尼兹的改进与影响1642年，年轻的法国物理学家、数学家、哲学家帕斯卡（BlaisePascal，1623-1662年）扩充了当时的一种打字机的功能，为法国收税业务制造了机械加减法机。这是世界上第一台成功的数学计算器。帕斯卡的首台成功计算器机械计算机的发展历史

图4.3巴贝奇发明的差分机010203早期机械计算机帕斯卡和莱布尼兹造出了数字计算机，它们可以完成加法运算。当然，当时的计算机既不是自动的，也不是主动的。因为它们没有自己的能量，也不会主动思考。因此需要人从外部不断给它充实能量；同时它们也没有控制机制，因此它们的运动也要靠人的随时随地的干预。差分机与分析机的设计1822年，英国人查理斯·巴贝奇设计了差分机和分析机，其设计理论非常超前，类似于百年后的电子计算机，特别是利用卡片输入程序和数据的设计被后人所采用。通用分析机的设想与实现1834年，巴贝奇设想制造一台通用分析机，在只读存储器(穿孔卡片)中存储程序和数据。他在以后的时间里继续他的研究工作，并于1840年将操作位数提高到了40位，并基本实现了控制中心(CPU)和存储程序的设想，而且程序可以根据条件进行跳转，能在几秒内做出一般的加法，几分钟内做出乘、除法。布尔代数的创立1848年，英国数学家乔治·布尔（GeorgeBoole，1815～1864）

创立二进制代数学，提前近一个世纪为现代二进制计算机的发展铺平了道路。ENIAC的诞生直到一百年后的1946年，世界第一台真正意义上的数字电子计算机ENIAC(ElectronicNumericalIntegratorAndComputer)诞生。这台机器开始研制于1943年，完成于1946年，重30吨，用了18000个电子管，功率25千瓦，主要用于计算弹道和氢弹的研制。冯·诺依曼的加入著名匈牙利裔美籍数学家、计算机科学家、物理学家和化学家冯·诺依曼（JohnvonNeumann，1903-1957）被人介绍到ENIAC机研制组并参加ENIAC机研制，带领一批富有创新精神的年轻科技人员，向着更高的目标进军。EDVAC方案提出1945年，他们在共同讨论的基础上，发表了一个全新的“存储程序通用电子计算机方案”--EDVAC（ElectronicDiscreteVariableAutomaticComputer）。这份报告是计算机发展史上一个划时代的文献，它向世界宣告：电子计算机的时代开始了。现代人工智能或智能机器的主要实现载体就是“电子计算机”或者“电脑”。报告的划时代意义报告中，诺伊曼对EDVAC中的两大设计思想作了进一步的论证，为计算机的设计树立了一座里程碑。设计思想之一是二进制，他根据电子元件双稳工作的特点，建议在电子计算机中采用二进制。报告提到了二进制的优点，并预言，二进制的采用将大大简化机器的逻辑线路。两大核心设计思想的论证EDVAC方案明确奠定了新机器由五个部分组成，包括：运算器、控制器、存储器、输入和输出设备，并描述了这五部分的职能和相互关系。EDVAC的五大组成部分在这过程中，诺依曼显示出他雄厚的数理基础知识，充分发挥了他的顾问作用及探索问题和综合分析的能力。诺伊曼以“关于EDVAC的报告草案”为题，起草了长达101页的总结报告。报告广泛而具体地介绍了制造电子计算机和程序设计的新思想。诺依曼的数理基础与报告撰写4.1.3人机类比与“会思考的机器”01古希腊哲学有三种思想至今仍决定着现代科学发展的道路：一是原子论；二是毕达哥拉斯主义；三是目的论。02亚里士多德是目的论的创始人，他认为宇宙是一个有机体。自然是具有内在目的的，他的一切创造物都是合目的的，这种合目的型只有通过自然自身的结构和机制来实现。03亚里士多德在提出目的论过程中，表现出了“程序自动化”和自动机的思想。他认为，在预定程序指导下，由潜在变成现实的过程应当是一种自动执行过程。04亚里士多德以其隐喻式的语言，表达了受精卵就是一台生物自动机器，它内含先定的目的性程序，控制着未来的个体发育的进程并决定其最终目标。05尽管亚里士多德所说的“自动机器”特指一种十分简单的自动机械装置，但它具有的程序性特征，表明它隐含了现代自动机理论的思想萌芽。又由于亚里士多德最早做了明确的生物与自动机的类比，因此，他的思想中已经包含了“人机类比”的思想萌芽，即将人类看做一种生物机器的哲学观点。01机械类机器的人类服务与应用在机械类机器诞生之后，人们不仅将它应用于有关领域，让它们为人类服务，而且充分挖掘它们的潜力，将它们作为理解、解释人的类比工具，如用它们的组成方式解释人的构成，用它们的作用说明人的身体行为，或用机器论述语描述人的构成与行为。02牛顿力学推动工业革命与科学主义03机械论哲学观念的形成以牛顿力学为基础物理学革命引领的机械论科学的成功使人类简直忘乎所以，形成了影响深远的“机械论哲学”观念。04“人是机器”思想的影响拉·美特利提出“人是机器”这一唯物主义思想以来，一直是后世智能模拟、机器思维和仿生学的一面旗帜。人、动物和计算机都是信息处理系统，人是自动机、思维不够就是计算、意识是脑神经活动等等，都是其思想的变体。十七世纪，牛顿力学为主的物理学出现之后，出现以物理学为基础的众多的工程技术，使人类进入工业机械化的革命时代。力学科学对未知事物的预报（如太阳系存在第九、十大行星的预告）的证实更是使科学的声誉空前高涨。这一切自然而然地形成了后物理学的极其乐观的科学主义。从机械论科学到“人是机器”、“宇宙是机器”，一方面是对长期统治人类思想的宗教神学的反抗，宣告人类理性独立，另一方面，反映人类对客观世界的一种哲学认识。机械论的意义这一时期，法国哲学家、数学家笛卡尔宣扬认识论上的理性主义，他第一个以明确的哲学形式宣布了人的理性的独立。笛卡尔的理性主义法国唯物主义者们把包括人在内的一切均看做是机械运动的物质。十八世纪，法国哲学家伏尔泰认为人同样必须服从宇宙间永恒的机械规律，法国启蒙思想家拉·美特利出版了名著《人是机器》，法国著名数学家、物理学家、天文学家拉普拉斯索性认为，整个宇宙就是一部没有历史的永恒自行调节的机器。法国唯物主义的机械观二十世纪四十年代，在神经学和逻辑学研究成果的指引下，处于萌芽期的控制论运动得到蓬勃发展。控制论运动萌芽1943年，控制论之父诺伯特·维纳（NobertWiener）等人在1943年定义了控制论的基本原理，他们想象了一种能够自我校正的机器。控制论基本原理提出1950年，图灵提出的“机器是否能够思考”问题，突破了十八世纪以来诸如“人是机器”等机械论观点，促使人类开始站在机器的角度来思考智能、思维等问题，人类对机器的认识已经发生了翻天覆地的变化。图灵问题突破认识1948年，维纳出版《控制论：或关于在动物和机器中控制和通信的研究》一书，整本书充满了对未来的大胆预测：能够思考和学习，并变得比“人”更聪明的自适应机器，引起巨大轰动。维纳在他自己的著作将人和机器进行了深刻对比：由于人类能够构建更好的计算机器，并且人类更加了解自己的大脑，计算机器和人类会大脑会变得越来越相似。控制论奠基著作出版040302011956年，人工智能先驱之一马文·明斯基提出了智能机器思想。此后，人工智能理论和技术的发展使得机器本身的属性也逐渐开始发生变化，即现代机器开始具备某种智能性。尤其是现代电子计算机出现以后，人类利用电子计算机模拟人的智能，并希望其表现出像人一样的智能性。人工智能机器思想的起源“人机类比”的观念从机械论的“人是机器”转变为“机器能否思维”的“机人类比”，即将具备一定智能性的机器看做像人一样的对象。其实质是一种“功能等价”思想。功能等价机器隐喻的一种极端表现。所谓“功能等价”就是以结果为标准把人的劳动过程等价为机器的机械式运动，把人的思维活动，情感或者精神状态等价为机器的程序化计算。“功能等价”思维隐含的结果就是，人是机器，如果人是机器，那么人们还可以联想到由于机器的功效优势而产生的人不如机器的局面。把人体等价为一部机器，并且作为人的创造物的机器也可以站在与人同样的位置，做与人完全相同的事情，并可能超越人本身，人们可以接受人是机器的形象化比喻，无论如何也不能接受人是机器的现实。05近代以来，“功能等价”思维一直在某些领域发挥其有效性，现代科学更是在实验的基础上证实了人类的思维，情感的机械特征以及可模拟性，现代技术也为设计出功能与人体等价的机器提供了一种技术上的支持。

智能机器的发展与分类由于计算机和人工智能的发展，人们对机器的认识相对于传统的机械装置，已经发生了巨大变化。人工智能技术突飞猛进，智能机器也变得越来越智能、复杂而强大。这些智能机器可能是机器人，也可能是智能计算机或者无人驾驶汽车，或者其他任何搭载人工智能算法或技术的机器。因此，智能机器可以分为广义和狭义两大类。狭义上的机器是指计算机、机器人、无人驾驶汽车等具体装置，广义的机器指具有智能算法、软件或程序及其主导驱动或构成的系统，这类系统一般由软件主导，可以与硬件系统结合，形成具有一定自主性、自治性、分布式、主体性、大小规模不一的智能机器系统。这些智能系统在规模和形式上可能是单一的软硬件平台系统，可能表现为规模庞大的群体机器系统。智能机器的定义与分类使得机器开始具备类人的某种智能性或属性，包括机器人在内的各种智能机器不再是任人摆布的工具，而是不断被人类赋予类人属性的智能机器。由此，与人工智能的发展类似，人类一方面期待智能机器功能强大，能够代替人类完成复杂、危险的任务，另一方面又开始担心智能机器的过度发展失控从而导致对人类产生某些威胁。这正是机器伦理概念产生的人类思想和认识背景。因此，本章和本书讨论的“机器伦理”中的“机器”主要是指具有智能的机器，而不是传统定义所说的机械化或自动化做功转换能量的机器。智能机器的属性与伦理0201智能代理（IntelligentAgent）和AI助手的出现标志着人工智能从单一功能的工具向具有自主性和交互性的智能实体的重要转变。这些系统不再是被动执行指令的程序，而是能够感知环境、制定计划、执行行动并与人类进行自然交互的智能体。随着大语言模型和生成式AI技术的成熟，智能代理和AI助手正在成为连接人类与数字世界的重要桥梁，深刻改变着人机交互的模式和社会生活的方式。4.1.4智能代理与AI助手智能代理的核心特征：智能代理的核心特征在于其自主性（Autonomy）。与传统软件需要明确指令不同，智能代理能够在给定目标的前提下，自主地分析情况、制定策略、选择行动。这种自主性使得智能代理能够处理复杂、动态的任务环境，无需人类的持续干预。例如，一个智能投资代理可以根据市场变化自主调整投资组合，一个智能客服代理可以根据用户需求自主选择合适的回应策略。自主性特征反应性（Reactivity）是智能代理的另一个重要特征。智能代理需要能够感知环境的变化并及时做出相应的反应。这种能力使得代理能够适应动态变化的环境，处理突发情况。现代AI助手通过多模态感知技术，能够同时处理文本、语音、图像等多种输入，实时响应用户的需求和环境的变化。反应性特征主动性（Proactivity）让智能代理不仅能够被动响应，还能够主动采取行动以实现目标。这种前瞻性行为能力使得AI助手能够预测用户需求，主动提供服务。例如，智能日程助手可以根据用户的行为模式主动提醒重要事项，智能健康助手可以根据用户的健康数据主动建议生活方式调整。主动性特征社交能力（SocialAbility）是现代智能代理的重要发展方向。这不仅包括与人类的自然语言交互，还包括与其他AI系统的协作能力。多代理系统（Multi-AgentSystem）允许多个智能代理协同工作，共同完成复杂任务。例如，在智能制造系统中，不同的代理可能分别负责生产计划、质量控制、物流调度等不同功能，通过协作实现整体优化。社交能力学习能力是智能代理持续改进的基础。通过机器学习技术，特别是强化学习，智能代理能够从经验中学习，不断优化自己的行为策略。个性化学习使得AI助手能够逐渐适应特定用户的偏好和习惯，提供越来越贴合的服务。这种学习能力不仅体现在参数调整上，还体现在策略发现和知识积累上。学习能力大语言模型的出现极大地增强了智能代理的能力。基于大语言模型的AI助手具有强大的语言理解和生成能力，能够进行自然流畅的对话，理解复杂的指令，甚至进行多轮推理。这使得AI助手能够处理更加复杂和开放的任务，从简单的信息查询扩展到创作辅助、决策支持、教育指导等高级功能。大语言模型赋能工具使用能力（ToolUse）是现代智能代理的重要特征通过API调用、插件系统等机制，AI助手能够使用各种外部工具和服务，大大扩展了其功能边界。例如，AI助手可以调用搜索引擎获取最新信息，使用计算器进行精确计算，连接日历应用管理日程，甚至控制智能家居设备。这种能力使得单一的AI助手能够成为多功能的智能平台。多模态交互是AI助手发展的重要趋势现代AI助手不仅能够处理文本输入，还能够理解语音、图像、视频等多种模态的信息，并能够以相应的模态输出结果。这种多模态能力使得人机交互更加自然和便利，用户可以通过最适合当前情境的方式与AI助手交互。让智能代理能够处理复杂的多步骤任务。通过将复杂目标分解为子任务，制定执行计划，监控执行进度，智能代理能够自主完成原本需要人类复杂操作的任务。例如，一个旅行规划AI助手可以根据用户需求自主搜索航班、预订酒店、规划行程、处理签证等多个环节。是智能代理提供个性化服务的关键。通过感知用户的位置、时间、设备状态、历史行为等上下文信息，AI助手能够提供更加贴合当前情境的服务。例如，在用户开车时主动切换到语音交互模式，在用户工作时间优先提供工作相关的信息和服务。情境感知能力任务规划和执行能力智能代理和AI助手的发展也带来了新的伦理挑战：01自主性的增强可能导致控制权的转移，用户可能逐渐依赖AI助手做决策，从而丧失自主判断能力。02拟人化的交互方式可能让用户对AI产生不当的情感依赖，特别是对儿童和老年人群体。03隐私保护面临新的挑战，因为AI助手需要了解用户的详细信息才能提供个性化服务，这可能导致隐私泄露风险。04责任归属问题也变得复杂。当智能代理自主做出决策并产生后果时，责任应该由谁承担？是用户、开发者，还是AI系统本身？这种责任模糊性在涉及重要决策时可能产生严重的法律和伦理问题。05透明度和可解释性在智能代理中尤为重要。用户需要理解AI助手的决策逻辑，特别是在重要决策中。然而，基于大语言模型的智能代理往往具有"黑盒"特性，其决策过程难以解释，这可能影响用户的信任和系统的可靠性。数据安全和隐私保护的挑战数据安全和隐私保护是智能代理面临的持续挑战。AI助手通常需要访问用户的大量个人数据，包括通信记录、位置信息、行为习惯等敏感信息。如何在提供个性化服务的同时保护用户隐私，是技术和制度层面都需要解决的问题。偏见和公平性问题的挑战偏见和公平性问题在智能代理中可能被放大。AI助手的决策可能受到训练数据中存在的偏见影响，在长期交互中可能强化某些刻板印象或歧视。确保AI助手的公平性和包容性是开发者的重要责任。未来智能

代理的发展未来智能代理的发展将朝着更加智能、自主、可信的方向演进。技术上，需要提高AI系统的推理能力、常识理解能力和安全性。制度上，需要建立相应的法律法规和伦理规范。社会上，需要促进公众对智能代理的理解和接受，同时培养正确的使用习惯。能代理和AI助手的出现代表了人机关系的新阶段。在这个阶段中，AI不再是简单的工具，而是具有一定自主性的合作伙伴。如何在享受这种新型合作关系带来的便利的同时，保持人类的主体性和控制权，是我们在AI时代需要持续思考和解决的重要问题。只有通过技术创新、制度建设和伦理反思的协同努力，才能确保智能代理真正成为增进人类福祉的有力助手。4.2机器伦理概念与含义4.2.1机器伦理产生的思想基础随后发展起来的动物伦理学、环境伦理学、生态伦理学等思想，正是基于人类道德对象的概念扩展了伦理学的研究领域。如果再进一步，那么不仅应该将动物、环境、自然等非人因素视为道德对象，而且应该将人造的各种技术系统等因素也视为应当考虑与关怀的道德对象。道德对象的扩展在人类发明以蒸汽机为代表的真正的机器之后的很长时间，机器一直作为人类社会和文明进步服务的工具，并没有人从机器的角度考虑过有关伦理问题。机器伦理的产生经历了漫长的历史过程。机器伦理的起源与历史背景从伦理学发展角度，伦理学起源于对人类道德行为的理解，但在古代并非所有的人都被视为具有道德能动性的道德主体一“谁”。比如，在《荷马史诗》、《奥德赛》中，只有男性首领具有道德地位，而他的妻子、孩子、奴隶仅被视为他所拥有的“什么”。随着社会的不断发展与人类观念的解放，整个人类作为道德主体的观点被普遍接受。伦理学的主体演变020103机器伦理的发展历程如果说，计算机和人工智能的发展为机器伦理的产生和发展奠定了物质或物理基础，那么，道德对象由人到动物拓展到机器，使机器成为“道德能动者”和“道德对象”，就是机器伦理产生的伦理学思想基础。机器伦理的产生基础智能机器与自动化机器设备相比，有两个显著不同：第一，它们被赋予了更多的决策权，不再是有限决策或完全被预先设定路线或程式的功能机器；第二，它们被要求在更加复杂、充满不确定性的环境中运行，不仅要和其他各种类型的机器互动，更要和人类或动物产生互动。这是一种从量变到质变的飞跃。智能机器与自动化的区别因此，机器伦理的发展也受到了动物权利和环境伦理思想的启发。面对智能机器不断融入人类世俗生活的现实，人类应当像动物权利和环境伦理所主张的对人之外的自然存在物实施伦理关怀一样，给予机器以“道德承受体”的地位确认，建立人机伦理共同体，把机器纳入伦理关怀的范围。机器伦理的思想基础012009年以前，机器能否成为“道德能动者”作为一个完全假想的问题。现在，随着人工智能技术的发展，搭载各种先进的人工智能算法或技术的自动驾驶汽车、社会服务机器人、无人机、智能家电以及智能无人作战系统等各种智能机器不断被发明和创造出来。这些智能机器有的已经具有一定程度的自主性，随着技术发展，可能发展成为全自主的系统。机器道德决策已经成为了人们不得不面对的现实选项之一。02事实上，人们所期待的“智能社会”本身就暗含矛盾。它是“充满智能机器的社会”与“人类的社会”的结合体。但机器与人类作为两种本质及其属性绝然不同的存在，二者的结合必定是极其复杂和充满矛盾的过程。机器伦理是机器智能化发展与伦理学理论发展的共同需求。03按照伦理对象及内涵的不同，与人工智能伦理类似，机器伦理可划分为狭义机器伦理与广义机器伦理。4.2.2狭义机器伦理01020304由迈克尔-安德森和苏珊-安德森最先提出，主要是指由具体的智能机器及其使用产生的、涉及人类的伦理问题。其伦理对象是包括智能计算机、智能机器人、智能无人驾驶汽车等之类的机器装置。狭义的机器伦理概念关注于机器对于人类使用者和其他机器带来的行为结果。当前机器的智能化、自动化发展趋势，使得人们很愿意利用它们的功能以实现某些目的，特别是在极度危险或者环境恶劣的情况下，机器的优势便凸显出来。机器伦理的关注重点人类对于机器的信任需要一个前提，即机器能够“负责任”地完成这些工作，这就需要机器自身具有伦理属性，能够根据实际情况进行判断，

并执行“有道德的”(至少是不伤害人类的)操作。机器伦理的必要前提认为过去对于技术与伦理问题的思考大多关注于人类是否负责任地使用了技术，以及技术的使用对人类而言有哪些福祉或者弊端。但是，很少有人关心人类应该如何负责任地对待机器。机器伦理的另一种观点机器速度的提升，一方面让工人愤恨不已，但另一个更重要的特征是，它似乎让工厂主和资本家的欲望更加膨胀了。没有一个工厂主不希望自己的机器能够24小时不停转动。当年瓦特改良蒸汽机的初衷，也是为了压榨工人。于是，工人和工厂主之间的矛盾，因为机器的介入，而变得更加对立。事实上，历史上的机械类机器的发展就曾经给人类带来伦理挑战，强大的机器技术引起当时的人们的担忧甚至恐慌。比如，瓦特发明蒸汽机后，确实提高了生产效率，造成大量工人失业。因此，安德森等人认为，机器伦理是“给予机器以伦理原则或伦理程序从而使其在面临伦理困境时能找到解决的方法，并且使它们以一种伦理上负责任的方式运行，并给出自己的伦理决策”。按照这一观点，狭义的机器伦理的目标是“创建一类能够遵循一种正当的伦理原则或者一套准则的机器”。当这类机器面对由自身采取的行为带来的可能结果时，它们可以在这个原则或者这些准则的引导下做出决定。机器伦理的定义与目标随着机器的智能化、自动化程度越来越高，使得人们很愿意利用它们的功能以实现某些目的时，人类的生活越来越仰仗智能机器，因此，机器使用和责任等问题日益成为普遍现象，各种新的伦理问题不断产生，特别是在代替人类做出决策或执行任务时下，机器的伦理问题便会凸显出来。比如，由手术机器人开展的外科手术失败导致病人死亡，应该由谁负责？操控机器的团队还是生产机器人的公司？或者这个手术方案的医生？类似的很多问题都是人类历史上从来不曾有过的问题。机器伦理的背景与问题机器的智能化发展使得机器负载着越来越多的价值和责任，因此，人们应该给某些机器增加伦理维度，从而使机器具有伦理属性，以帮助使用者做出伦理决策，或者设计一种具有伦理意向的机器以实现情景判断、案例分析和实时决策的功能。机器伦理的实践需求4.2.3广义机器伦理涵盖范围与伦理主体定义与概念起源一般而言，广义机器伦理则是在机器具备一定自主智能甚至一定的道德主体地位之后产生的更为复杂的伦理问题，伦理对象是广义的智能智能机器系统。关于广义机器伦理，国外学者詹姆斯·摩尔(JamesMoor)最先提岀“广义机器伦理”的观念。该观念涵盖了一切与机器相关的伦理行为。他根据伦理因素的涉入程度，定义了五种涉及机器伦理的伦理主体(ethicalagent)。agent是一种比较经典的人工智能理论方法，指能够根据其意向主动实施某种行动的实体或主动的行动者，在技术方面通常表现为可执行某种任务的软件系统。广义机器伦理概述0201摩尔机器伦理主体分类（前两类）

标准主体即任何一种可以执行任务、完成工作的“技术主体(technologicalagents)”，该主体不涉及伦理问题，是一种中性的技术，使用者决定了它的伦理属性。实际对应的就是传统的技术伦理问题。

有伦理影响的主体第二种伦理主体是“有伦理影响的主体(ethicalimpactagents)”，该主体不仅执行既定任务，同时具有伦理影响，比如卡塔尔的部分地区在骆驼竞赛中用机器牧童代替了传统的男孩，从而解放了他们。这实际上属于狭义机器伦理。

特点这两种伦理主体是将伦理属性归于机器，是伦理外在于机器的表现。摩尔机器伦理主体分类（后三类）

隐性的伦理主体即机器的行为隐含着伦理方面的考虑。这种伦理主体自身能够潜在地表现伦理行为，是因为设计师能够根据某些伦理原则来进行设计，以避免不道德的结果。这与一种“道德物化”思想非常相似，即技术人工物中隐含了设计师的物化的道德，以使其表现出道德意向。（本书第9章人工智能设计伦理将讨论此类问题）

显性的伦理主体这种意义上的机器能够识别与伦理相关的信息，筛选出当前情境中的可能行为，并且依据内置于其中的伦理机制来评估这些可能的行为，从中计算并挑选出最优的伦理抉择。这实际上一种嵌入式伦理构建思想（4.3节讨论）。

完全伦理主体即能够高度模拟人类思维与伦理意识，在特定情境中做岀判断与选择。这类机器的运行完全独立于人，是一种高度智能的机器，

目前只存在于科幻电影中。比如科幻电影《机械战警》中的机器人战士，能够自动识别敌人并毫不犹豫地射击。这种伦理主体属于超现实主体，人类可能永远也创造不出此类智能机器，因此在本书中将其归为“超现实伦理”010203机器伦理、机器人伦理、人工智能伦理与技术伦理这四个概念之间既有一定区别，又有紧密联系。关于机器伦理与机器人伦理，在学术研究领域，很多专家学者一般在概念上将机器伦理与机器人伦理（在第5章学习）在不加区分。在本书中，二者要加以区别。当人们考虑的机器伦理问题是以“机器人”这种特殊的机器为对象时，这时可以认为“机器伦理”就是“机器人伦理”。但机器人伦理反过来不能等同于机器伦理，原因是显而易见的，机器人只是众多机器类型中的一种，智能机器不都是以机器人的形式被创造或实现的。也就是说，本章中讨论的“机器伦理”包括狭义和广义的机器的发展或应用而产生的伦理问题。4.2.4机器伦理、机器人伦理、人工智能伦理与技术伦理如果机器具有了全自主性或自主智能进而产生了涉及人类的伦理问题，机器伦理问题也就转变为广义的人工智能伦理问题。当人工智能技术在机器人、汽车、武器以及其他形式的机器上使用而产生涉及人类的伦理问题时，就是指向狭义的机器伦理问题。问题的演变与转化关于机器伦理与人工智能伦理，从概念上理解，机器与人工智能都是基本概念，二者之间不存在包含关系。二者只是通过“智能”这种属性产生交集，或者说，当机器被赋予智能，机器具有了智能，成为智能机器，“机器”才与“人工智能”直接联系起来。概念理解此时的机器，其传统的工具属性已经发生了变化。也正是在这个意义上，机器伦理才与人工智能伦理建立联系，二者都同时涉及与智能有关的“机器实体”的伦理问题。伦理联系的基础因为技术伦理是从普遍意义上研究技术带来的伦理问题的，这里的技术既包括物质形态的工具和机器，也包括知识形态的技术原理、技术标准、技术经验等。因此，当技术伦理的对象是狭义的智能机器时，关于技术伦理问题就是关于机器的伦理问题。

技术伦理的定义机器伦理与技术伦理中的信息伦理或计算机伦理也有区别，因为后者更关注于信息技术或计算机技术使用过程中的伦理问题，是一种外在于机器的伦理。而机器伦理在实践上强调在机器中通过程序或算法的形式嵌入伦理原则，使其能够为使用者提供伦理帮助或者使机器自身做出伦理决策，这是一种内在于机器的伦理。

机器伦理与信息伦理的区别当伦理对象是广义的智能机器，伦理问题涉及其自主性、自治性，机器伦理就不再是传统意义上的技术伦理，因为，此时的机器具有了一定自主性、自治性，可能具有一定主体性地位或道德主体属性，而不再是传统意义的工具客体。这类机器的伦理问题已经超出了技术伦理的范围，而成为广义的人工智能伦理问题。

机器伦理的扩展范畴研究视角010203定义与范畴狭义的机器伦理学是研究关于智能机器技术及其使用所引发的涉及人类的伦理道德理论的科学。狭义的机器伦理学主要关注和讨论关于智能机器技术的伦理理论。狭义的机器伦理学是随着人工智能的发展而产生的一门新兴的科技伦理学科。它是人工智能科学技术与伦理学的交叉产物。与狭义的人工智能伦理学类似，它的内容不仅涉及到科技道德的基本原则和主要规范，而且还涉及到智能机器技术提出的新的伦理问题，诸如机器人伦理、自动驾驶汽车伦理、智能无人作战武器伦理等。其目标是正确地规定和约束智能机器的行为及其与人类的关系，最终要创建一种内置伦理原则的智能机器，使其在任何情况下都避免对人类发生危害。“机器伦理”是一个正在兴起的伦理学研究领域。与人工智能伦理相对，机器伦理学也分为狭义和广义的两个范畴。有学者用“人工道德智能体(artificialmoralagents)”“人工智能体(artificialintelligenceagents)”等概念来分析自主机器系统的道德地位和伦理向度。这是一种隐式地实现机器伦理的方式。狭义机器伦理4.2.5机器伦理学广义的机器伦理学与广义的人工智能伦理学一致，主要研究智能机器道德的本质、发展以及人、智能机器与社会相互之间新型道德伦理关系的科学。这主要是由于智能机器在人类社会中逐渐具备一定道德主体性所引发的问题的思考。广义机器伦理学的目的是在在人类赋予机器自主性之后，寻求不仅确保智能机器对于人类的合适的行为的方法，而且也可以扩展所有智能机器的通用伦理行为设计规则。科学家们正在研发能让机器学会人类基本价值体系的方法。如果机器提前学习过关于人类价值体系的案例，知道人类在面对伦理抉择时通常是如何做出选择或决策的，就可以根据人类的行为进行其自己的价值评估。现阶段的智能机器除了能辅助人类完成一定危险、复杂、枯燥的任务，并不具备任何道德观念。

科学家们认为，智能机器最终会学习人类的一切行为，未来的自主智能机器将大量出现。

智能机器的发展趋势01这些智能机器与人之间的伦理关系必将重塑传统人类社会的道德体系，这些都是广义机器伦理学需要研究的问题。伦理问题的影响与研究03这些强大的智能机器将面临很多前所未有的复杂的伦理问题考验。比如，它们与人类之间建立何种伦理关系，如何约定它们与人类之间的伦理关系，人类主体具有哪些道义责任对智能机器进行规范，以使其能够符合各种规范方式进行行为，哪些智能机器具有它们自身的“道德利益”，并能够承担道德责任等。智能机器面临的伦理问题024.3嵌入式机器伦理构建在机器伦理研究领域，受关注较多的问题是狭义的机器伦理，更具体是人类伦理原则如何在机器上构建的问题。狭义的机器伦理问题及其研究侧重于在智能机器中嵌入人工伦理系统或伦理程序，以实现机器的伦理建议及伦理决策功能。随着大语言模型和生成式AI的快速发展，嵌入式机器伦理构建从理论探讨转向实际应用，出现了宪法AI、强化学习人类反馈等具体技术路径。

机器伦理构建的核心问题在机器中嵌入伦理原则是否应该？也即机器伦理存在的合理性论证。答案是肯定的。在机器中加入明确的伦理维度，使其具有伦理决策功能和社会帮辅功能是具有合理性的。除了考虑科技进步带来的未知风险，机器伦理的出现也反映了人机同构的哲学本质。道德行为对象的拓展以及人机之间伦理关系的转变，为机器伦理思想的发展奠定了理论基础，揭示了机器有必要嵌入伦理原则或伦理程序的内在机制，嵌入伦理原则的机器可以被视为具有道德功能的存在物。机器伦理的实践限度然而，人们应当慎重考虑机器中的道德属性该以何为底线。嵌入伦理原则的机器可以通过一种直接的建议行为，使得使用者在遇到困境时主动求助于机器，利用机器的计算优势为自己获取更多的信息，从而帮助使用者做出正确的决定。但是它不能在真正意义上完全取代人类做出道德选择，而是为人类社会的发展提供良性辅助的手段。机器伦理的合理性论证伦理学领域存在伦理相对主义思想，认为不存在绝对正确的伦理理论，伦理无论对于个人还是社会都是相对的。从理论上讲，每一种伦理理论都有其合理性与局限性，而且伦理思想与不同的社会文化、经济发展水平等因素密切相关。因此，要为机器寻找一个完善的、能够解决所有伦理困境、让所有人都满意的伦理理论完全是不可能的。伦理相对主义思想第二个问题是，按照狭义机器伦理学的目标发展，人类的道德伦理思想是否可以通过技术手段在机器上实现？关于这个问题，目前存在着"自上而下"与"自下而上"两种伦理建构理论思路或方式。无论哪种思路，都是希望机器内部能够实现人类的伦理原则，可以统称为嵌入式机器伦理构建。人类伦理的技术实现问题4.3.1宪法AI与价值对齐宪法AI概述宪法AI（ConstitutionalAI，CAI）是由Anthropic公司提出的一种创新性机器伦理构建方法，代表了"自上而下"伦理建构路径的重要进展。这种方法的核心思想是为AI系统制定一套明确的原则或"宪法"，指导AI在生成内容时的行为准则，确保其输出符合人类价值观和伦理标准。监督学习阶段AI系统首先学习一套明确定义的原则或规则，这些原则类似于宪法条款，明确规定了AI应该遵循的行为准则。这些原则通常包括诚实性、有用性、无害性等基本要求，以及更具体的行为指导，如不生成仇恨言论、不提供危险信息、尊重不同文化观点等。强化学习阶段（注：原文仅提及此阶段名称，信息不足，已根据主题扩写）强化学习阶段是宪法AI框架的第二个关键环节。在此阶段，AI系统基于监督学习阶段习得的原则，通过反馈机制不断优化自身的响应。具体而言，系统会生成对用户查询的多个回应，然后由另一个模型（或一套评价标准）依据“宪法”原则对这些回应进行评估和排序，选出最符合原则的回应。通过这种强化学习方法，AI能够学会自动调整其行为，以更可靠地遵循伦理准则，减少对人工监督的依赖，最终实现更安全、更稳健的价值观对齐。这标志着AI伦理从被动遵循规则向主动学习并内化价值观的重要迈进。宪法的制定过程体现了价值对齐的复杂性。不同文化、不同社会群体可能对同一伦理问题持有不同观点，如何制定既具有普遍性又能兼顾多样性的原则是一个重大挑战。Anthropic在制定其AI助手Claude的宪法时，参考了联合国人权宣言、各国宪法中的权利法案、以及不同文化传统中的伦理原则，试图构建一个具有广泛共识基础的价值框架。宪法AI的技术实现采用了自我修正机制。当AI系统生成初步回应后，它会根据宪法原则对自己的输出进行评估和修正。如果发现回应违反了某项原则，系统会自动调整其输出，使其更符合既定的伦理标准。这种自我监督机制减少了对人工监督的依赖，提高了伦理约束的自动化程度。价值对齐的技术挑战体现在多个层面。首先是价值表达的问题：如何将抽象的伦理原则转化为AI系统能够理解和执行的具体指令？其次是价值冲突的处理：当不同原则之间存在矛盾时，AI系统如何进行权衡和选择？最后是价值适应的问题：如何使AI系统能够适应不同文化背景和应用场景下的价值差异？价值对齐的技术挑战宪法AI的评估和验证是确保其有效性的关键环节。这包括原则覆盖度评估（检查宪法是否涵盖了主要的伦理问题）、一致性评估（检查AI行为是否与宪法原则一致）、鲁棒性评估（检查AI在面对边缘案例时的表现）等多个维度。宪法AI的评估和验证然而，宪法AI也面临着重要的局限性。首先是原则的静态性：预先制定的宪法可能无法应对所有新出现的伦理情境。其次是文化特异性：基于特定文化背景制定的宪法可能不适用于其他文化环境。最后是解释的主观性：对同一原则的理解和应用可能因人而异。宪法AI的局限性多层次价值对齐是宪法AI的重要特征。这包括表层价值对齐（确保AI不输出明显有害的内容）、深层价值对齐（确保AI的价值取向与人类一致）、以及动态价值对齐（确保AI能够适应价值观的变化和发展）。每个层次都需要不同的技术方法和评估标准。多层次价值对齐的特征4.3.2RLHF强化学习与人类反馈

（ReinforcementLearningfromHumanFeedback，RLHF）代表了"自下而上"机器伦理构建的重要进展。这种方法通过让人类评估者对AI系统的输出进行反馈，训练AI系统学习人类的价值偏好，从而实现价值对齐。RLHF已成为当前大语言模型安全训练的主流方法。010203监督微调阶段（SFT）首先是监督微调阶段（SupervisedFine-Tuning，SFT），在这个阶段，研究者收集高质量的人工标注数据，对预训练模型进行微调，使其能够更好地理解和执行人类指令。这个阶段主要解决模型的能力对齐问题，确保模型具备完成任务的基本能力。奖励模型训练第二阶段是奖励模型训练。研究者收集大量的模型输出样本，让人类评估者对这些输出进行排序或评分，形成偏好数据集。基于这些偏好数据，训练一个奖励模型，用于评估AI输出的质量和安全性。奖励模型实际上是将人类的价值判断转化为可计算的数值信号，为后续的强化学习提供指导。强化学习优化第三阶段是强化学习优化。使用近端策略优化（PPO）等强化学习算法，根据奖励模型的反馈不断调整AI系统的行为策略，使其生成更符合人类偏好的输出。这个过程是迭代的，AI系统通过不断试错和调整，逐步学习人类的价值偏好。RLHF的技术流程包含三个主要阶段：

人类反馈的质量是RLHF成功的关键因素。评估者的专业水平、文化背景、价值观念都会影响反馈的质量。为了提高反馈质量，一些组织采用了多重评估、专家评估、跨文化评估等策略。同时，建立明确的评估标准和培训机制也是提高反馈质量的重要手段。RLHF在实践中展现出了显著的效果。ChatGPT、Claude、GPT-4等主流大语言模型都采用了RLHF技术，大大降低了有害输出的比例，提高了模型的安全性和有用性。研究表明，经过RLHF训练的模型在拒绝回答有害问题、避免生成偏见内容、提供有用信息等方面都有显著改善。0102RLHF成功的关键因素RLHF的实践效果RLHF也存在一些局限性和挑战：01首先是评估者偏见问题:人类评估者自身的偏见可能被模型学习和放大。其次是标注成本问题:RLHF需要大量人工标注,成本高昂且难以扩展。再次是奖励欺骗问题:模型可能学会迎合评估者的偏好而非真正的价值对齐。02多样性和代表性是RLHF面临的重要挑战。如果评估者群体缺乏多样性,可能导致模型偏向特定群体的价值观。为了解决这个问题,一些研究尝试构建更加多元化的评估团队,包括不同文化背景、年龄层次、专业领域的评估者。安全性评估在RLHF中占据重要地位。研究者需要设计各种测试场景，评估模型在面对有害指令、边缘案例、对抗攻击时的表现。红队测试（RedTeaming）已成为RLHF安全评估的重要方法，通过模拟恶意攻击来发现模型的安全漏洞。安全性评估RLHF与宪法AI的结合代表了机器伦理构建的新趋势。一些研究尝试将两种方法结合，既利用宪法AI的明确性和可解释性，又利用RLHF的适应性和优化能力。这种混合方法有望克服单一方法的局限性，实现更加有效的价值对齐。RLHF与宪法AI的结合迭代改进是RLHF的重要特征。随着模型部署和使用，可以持续收集用户反馈，不断改进奖励模型和训练策略。这种迭代机制使得模型能够逐步适应新的价值要求和应用场景。迭代改进"自下而上"的伦理建构则通过机器学习和复杂适应系统的自组织发展与演化，使机器能够从具体的伦理情境生成普遍的伦理原则，通过道德冲突获得道德感知与伦理抉择的能力。传统的"自上而下"伦理建构运用道义逻辑将道义论的义务和规范转换为逻辑演算，同时通过净利益的计算实现功利的算计与权衡，使机器能够从一般的伦理原则出发对具体的行为做出伦理判断。宪法AI和RLHF技术的出现为这两种理论思路提供了具体的实现路径。但要找到完全有效的、能够达到理想目标的嵌入式机器伦理技术路线仍然是一个持续的挑战。这需要技术创新、理论发展和实践验证的协同推进，也需要跨学科的合作和国际社会的共同努力。010203添加项标题4.4人机关系重定义人类中心主义的涵义人们通常所说的人类中心主义有三层涵义：一是生物学意义上的人类中心主义；二是认识论意义上的人类中心主义；三是价值论意义上的人类中心主义。非人类中心主义的辨析在科技伦理问题上，非人类中心主义并不反对生物学意义上的人类中心主义，因为，在最高的道德意义上，物种的延续是最大的善，是最符合道德原则的事。可以这样说，任何一种道德，如果不利于人的生存，不能保证人的延续，也就失去了自己存在的前提和意义。非人类中心主义也不反对认识论意义上的人类中心主义，因为，任何一种反对人类中心主义的思想都是由人提出来的，都不可避免地打上人的烙印，否则必然会陷入自相矛之中。非人类中心主义要反对的是价值论意义上的人类中心主义，即人类中心主义的价值观和伦理观。在非人类中心主义看来，人类中心主义在经验上是站不住脚的、在实践上是有害的、在道德上是可拒斥的，而且其立场在逻辑上不一致，与明智的开放性理论不和谐。4.4.1人类中心主义与非人类中心主义因此，非人类中心主义认为，有必要冲破传统伦理学对人们思想的束缚，把道德关怀的对象扩展到人以外的其他存在物身上。关于这个问题，可以说一直是非人类中心主义伦理学的主要议题之一。道德关怀对象的扩展人类中心主义与非人类中心主义争论的焦点在于：是否只有人才具有内在价值和权利，是否只有对人才能讲伦理道德。人类中心主义与非人类中心主义之争至今还没有划上一个句号，基于此形成了科技伦理学研究的两种截然不同的思路。目前，已有愈来愈多的学者主张从非人类中心主义出发来构建科技伦理学。0102争论的焦点与现状4.4.2机器伦理对人类中心主义的超越根据人类中心主义的观点，智能机器只是辅助人类实现目的的工具，所以，对此类系统采取伦理控制方法的发展只是一个“以人为中心”的工程伦理原则的特定应用，这种工程伦理可以适用于任何人造的技术对象。从这个角度来看，认为“智能机器本身就是道德行为者的主张”可以说是一种幻想。

人类中心主义的伦理控制如果机器伦理被看作一项系统工程，生物中心主义和生态中心主义者将关注不同的问题。这两种不同的伦理观所依据的是对自然、生物世界的道德尊重，而不是人造的技术对象。系统工程的伦理视角0102生态中心论者把整体自然视为一种终极的伦理主题，对于伦理问题持有一种非工具主义关护。因此，生态中心主义者可能把机器伦理作为人类中心主义的简单延伸。开发“人工道德体”的工程进一步扩大了人类的权力。虽然各种反人类中心主义的各种立场之间有着巨大的差异。但是，它们之间都有一个共同点，即，每个观点都宣称一种“超人类中心主义”的类型，其基于各自的立场对道德地位的概念进行了重塑，即扩大了人类道德界限的范围。每种立场都发展出一种道德世界界限的新概念，从根本上挑战了传统上“以人类为中心”的道德观念。生态中心主义对伦理立场的重塑因此，机器伦理学同以上“超人类中心主义”的观点一样，以各自不同的方式促使对传统伦理承认的道德范围进行超越与延伸。比如，有一种信息中心主义认为如果人造技术对象达到人类或超人的认知能力水平，那么该类对象可以被确认为具有道德地位，是与人类相对的道德实体；生态中心主义则拓宽道德实体的意蕴范围，这不仅包括有生命的物种、植物生命形式，而且也包括海陆范围内无生命特征的实体。因此，无论是扩大道德共同体的过程，还是制定超人类概念的过程中，两种观念都是努力突破传统的道德立场，即人类不再是伦理道德的唯一主体。机器作为生命以外的实体，成为人类伦理关注的新实体、新对象、新方向，这是机器伦理在生态中心主义、生物中心主义等伦理观念基础上，进一步超越人类中心主义的主题思想。机器伦理学的超越性作用0304对智能的模拟是实现人工智能的途径或形式。010203人工智能的目标与早期挑战人工智能的重要目标之一就是创造像人一样有智能的机器。过去，由于人工智能各流派对智能的理解不同，导致各种人工智能技术只是从不同角度来模拟人类的智能，但没有任何一项技术全面达到与人类一样甚至超越人类智能的程度。深度学习的关键突破2016年，深度学习技术首先在围棋领域取得重大突破，颠覆了人类的认知，使人类突然认识到机器智能的巨大威力。随后，2020年11月，AlphaFold2破解了60年以来蛋白质生物学最大的难题-蛋白质三维结构预测，这项成果被科学家誉为“诺贝尔奖”级的重大突破，而这个突破是机器智能实现的。机器智能的新定义科学家认为，以突破围棋的AlphaGo为代表的人工智能技术使机器发展出了独有的“智能”，这是不同于自然生命的智能，是非自然进化产生的智能。目前，以深度学习为基础的人工智能系统已经可以进行比较复杂的音乐、艺术、文学艺术创作，并帮助科学家开展化学、材料、药物分子设计方面的研究，并表现出异于人类并超越人类的智能。深度学习系统的创作能力机器智能的出现使得人类固有的尊严和地位受到挑战，比如，原本属于人类的创造性和科学发现能力，机器也开始具备。这也是对人类中心主义超越的一个现象。机器智能的挑战与意义与其他人工智能技术的重要区别在于，深度学习算法使机器形成了不同于人类的智能形成机制，从而真正拥有了机器自身的智能。由此，事实上，地球上出现了非自然进化的机器智能。深度学习与智能形成机制从马克思的表述中，似乎预见了机器发展到一定阶段后所产生的对于人类的反作用。马克思所生活的时代当然没有智能机器或人工智能的概念，但是马克思的观点已经为今天的人类指明，由于技术的发展，人与机器的关系注定要发生变化，这种变化最显著的特征就是机器作为一种异于人类的力量，对人类发生作用。理论预见与时代背景马克思指出：“工人把工具当作器官，通过自己的技能和活动赋予它以灵魂，因此，掌握工具的能力取决于工人的技艺。相反，机器则代替工人而具有技能和力量，它本身就是能工巧匠，它通过在自身中发生作用的力学规律而具有自己的灵魂......科学通过机器的构造驱使那些没有生命的机器肢体有目的地作为自动机来运转，这种科学并不存在于工人的意识中，而是作为异己的力量，作为机器本身的力量，通过机器对工人发生作用。

”马克思的原始论述4.4.3人机共生01智能机器时代人机关系的新变化在智能机器出现之后，人与非生命的物的关系出现了新的变化，最大的变化就是人与机器这种人造物的关系。对人机关系的不同理解会导致对人、对世界的不同看法，形成不同的世界观、价值观，也会影响到人们做事的方法和态度。02竞争视角下的潜在风险从人机关系的角度来看，如果机器能独立地与人类展开竞争，那么人的主体地位必将受到威胁，人的价值也会受到机器价值的影响而可能降低。人类有什么理由让人的尊严和价值受到机器的践踏？03共生视角下的和谐建构因此，人机共生并不是指机器作为一个异己的力量在社会中与人类竞争，而是强调在新的历史条件下建构人机和谐的新途径。人机共生应该是指一方面人类依赖机器生存，另一方面机器在人的主导下不断进化发展并始终保持与人类关系的和谐。正如马克思所观察到的，历史上工业时代的机器对人的异化使人类在精神上付出了惨重的代价。而在智能社会中，机器的智能因人工智能技术水平的提升而不断提高，机器伦理的发展则提供了使机器向人性化方向发展的可能途径。伦理关系的传统模式在传统伦理学中，人与人之间的伦理关系是无涉技术的。人与人之间的伦理关系和道德行为方式是双向的、直接的，即人—人。

作为道德行为主体和道德对象，人与人之间直接产生道德影响，其伦理价值体现在人类自身的关系之中。04030201技术影响下的关系演变人工智能技术的发展，使人与机器之间形成了新的相互作用模式，产生了

“人一机器一人”、“（人一机器）—人”、“（人一机器）一（人一机器）”、“机器一人一机器”等不同形式的道德关系，其中（人-机器）指的是一种人与机器相互结合形成的新的智能主体（关于此类主体的伦理道德问题在第8章讨论）。机器的中介角色作为中介环节的机器，或者作为单独的中介元素，架构起了道德行为主体与道德对象之间的桥梁；或者与作为道德行为主体的“人”耦合，共同面向道德对象；或者人与机器的耦合物作为道德行为主体，将另外的人与机器的耦合物作为道德对象。机器参与道德关系在这几种情况中，机器都不是作为单纯的外界因素影响着人与人之间的道德关系的，而是直接参与着人与人之间的道德关系。社会结构的智能化转变从社会的角度看，人类生活对智能机器的依赖以及社会被智能机器所改造的广度的进一步扩展。人类社会向智能社会的转向，使整个世界变成了一个巨大的智能机器体系。整个世界也如同一个由各部分相互联系，密不可分的机器零件构成的机器系统。世界机器体系的运作是由人和智能机器共同完成的。智能机器的核心功能在生产领域，智能机器所实现的功能是生产的自动化、智能化和无人化，而在与人协同作用领域所实现的功能则是放大人类的智能，使人们更有效地完成社会的管理，生活秩序的协调以及实现人类更大的创造价值。人与机器的双重主体性机器在智能化社会所扮演的角度既是人们生活的背景，又是独立的“主体”。机器的主体性是人类赋予的生产主体性，人类的主体性在于创造。人们的生产和生活强烈地依赖于机器的智能化运作，人类必须发挥自身的创造主体性，保证世界机器体系的正常稳定和不断发展。在智能机器参与的人对世界的改造过程中，人与机器应处于一种和谐的关系。人与人性化的机器共同促进世界的变化发展。在这个意义上，智能社会也是人机共生的社会。随着智能代理技术的快速发展，人类与AI系统的关系正在经历深刻的变革。传统的人机关系主要表现为人类操作工具的单向控制模式，而现代AI代理的出现催生了一种全新的交互范式——人与AI代理之间形成了更加复杂、动态和互动的伙伴关系。这种新型关系不仅改变了人机交互的方式，更深层次地影响着人类的认知模式、社会结构和文化发展。4.4.4人与AI代理的新型关系0102协作伙伴关系是人与AI代理新型关系的核心特征。在这种关系中，AI不再是被动执行指令的工具，而是能够主动参与任务规划、提供建议、协助决策的智能伙伴。例如，在创意写作中，AI助手不仅能够提供语法建议，还能参与情节构思、角色设计等创作过程；在科学研究中，AI系统能够协助假设生成、实验设计、数据分析等多个环节。这种协作模式要求人类学会与AI"共同思考"，形成人机协同的工作方式。协作伙伴关系AI代理的拟人化特征是新型关系形成的重要基础。现代AI助手通过自然语言处理、情感计算、个性化交互等技术，展现出类似人类的交流方式和行为模式。它们能够记住用户的偏好，适应用户的沟通风格，甚至表现出某种"个性"特征。这种拟人化设计使得用户在与AI交互时产生类似与人交往的感受，从而建立起超越传统工具使用的情感联系。拟人化特征个性化适应是新型关系的重要特征。AI代理通过持续学习用户的行为模式、偏好特征和交互历史，逐渐形成针对特定用户的个性化服务能力。这种适应不仅体现在功能层面，如推荐内容的精准化，更体现在交互风格的调整上。一些AI助手能够识别用户的情绪状态，相应调整回应的语调和内容；能够适应用户的专业背景，提供相应深度的信息和建议。个性化适应特征情感维度的加入使得人与AI代理的关系变得更加复杂。用户可能对AI助手产生信任、依赖、甚至某种形式的情感依恋。这种情感联系虽然在一定程度上提高了用户体验和系统接受度，但也引发了新的伦理问题。特别是对于儿童、老年人或心理脆弱人群，过度的情感依恋可能影响其正常的社会交往和心理健康。情感维度影响权力关系的重新分配是新型关系的重要特征。在传统的人机关系中，人类拥有绝对的控制权和决策权。而在人与AI代理的关系中，决策权开始出现分散化趋势。AI代理在某些领域可能比人类更有知识和经验，用户可能会依赖AI的判断和建议。这种权力关系的变化既可能提高决策效率和质量，也可能导致人类自主性的弱化。权力关系重新分配AI代理不仅从用户那里学习，用户也在与AI的交互中学习新知识、新技能、新的思维方式。这种双向学习关系使得人机系统成为一个共同进化的整体。用户可能通过AI助手学习新的语言、掌握新的技能、接触新的观点，而AI系统也在不断优化其对用户需求的理解和服务能力。学习关系的形成在某些情境下，AI代理开始承担类似朋友、顾问、助手甚至陪伴者的社会角色。这种角色的多元化使得人与AI的关系界限变得模糊，也使得社会交往的概念需要重新定义。当AI能够提供情感支持、知识指导、生活建议时，它是否可以被视为某种形式的"社会存在"？社会角色的模糊化用户对AI代理的信任程度直接影响关系的深度和质量。这种信任的建立需要AI系统展现出一致性、可靠性、透明性等品质。同时，信任关系也是动态的，可能因为AI的错误判断、不当回应或价值冲突而受到影响。如何建立和维护健康的信任关系是新型人机关系发展的重要课题。信任建立机制文化适应性是新型关系面临的重要挑战。不同文化背