关于人工智能的价值反思平

1、人工智能在当代的迅速发展必然会影响到人类生活的各个方面。它将促进人的闲暇，协助人类更加条理化、无危险地去工作，提高社会生产效率，促进社会自我治理变得更加智能。不过人工智能的发展必然会挑战既有的人类价值，促使人类去重新思考人类的基本属性与伦常关系。同时，智能化的技术发展不可避免地会造成社会发展的不均衡，引起人们对于机器是否可控制的担忧。因此，关于人工智能，应该及早评定其发展利弊，确定其社会发展的价值原则，对新技术的发展行使人类应有的表决权。关于人工智能的价值反思孙伟平_上海大学社会科学部_2017.10123一、人工智能的积极社会效应二、人工智能导致的价值冲突和深层次挑战三、智能社会的价值原则与

2、综合对策科沃斯 论文目录 孙伟平.关于人工智能的价值反思J.哲学研究,2017(10):120-126.人工智能的积极社会效应 Business孙伟平.关于人工智能的价值反思J.哲学研究,2017(10):120-126.社会的智能化程度已经成为一个国家、地区发展水平的标志通过人工智能的普遍应用，我们正在建设一个高度信息化、智能化的社会。基于智能网络和智能交通，全球市场正在形成，在全球范围内配置、共享资源成为可能。这大幅提高了资源的使用效率，减少了资源的闲置和浪费。智能时代是人类历史上前所未有的知识和智慧占主导地位的时代，智能社会是最与众不同、也最令人期待的技术社会形态。促使生产方式趋向人性化

3、，帮助人类理性地进行价值评价和选择人工智能的任务是理解自然智能的工作原理和工作机制，开发具有类似人类智能的机器，为人类提供服务。但这种模拟不是刻板地模拟人脑的物质结构，也不是简单地模仿人脑的工作机理，而是一种启发式、创造性的模拟，是模拟支撑人类思维的信息转换和智能创生原理。事实上，对于现实生活中的一些价值难题，特定的人工智能系统正在显现出优势，成为人们倚重的参谋和助手，其发展前景不可限量。增加人的自由时间，促进人与社会的自由、全面发展智能时代的到来，极大地提升了劳动生产率和生产力水平。智能机器人可以直接代替人从事各种劳作，特别是人们不情愿承担的“苦役”。这不仅满足了人们自由全面发展所必需的物质

4、需求，而且逐步把人从繁重的劳动中解放出来，普遍缩短了必要劳动时间，增加了宝贵的自由时间。例：随着人工智能的突破性发展，机器也存在“思维”。当智能机器不仅在存储( 记忆) 、运算、传输等方面超过人脑，而且在想象力、创造力、控制力以及情感的丰富度等方面也超过人时，它就会对人的思维本质构成实质性的挑战。例：劳动或者制造和使用生产工具曾经被认为是人的本质，但未来的智能系统完全可能根据劳动过程的需要，自主地制造生产工具，运用于生产过程，并根据生产的需要而不断调适、完善。如此一来，无论是制造和使用生产工具，还是更一般意义的劳动，都不再是人类的“专利”。例：如果智能机器人在一定意义上是“人”，那么，它是否享

5、有人权等基本权利？是否具有与自然人一样的人格和尊严？是否应该确立为道德或法律主体，承担相应的行为后果? 智能机器人可否像自然人一样，与其他智能机器人自由交往、联合?价值冲突和深层次挑战 Business孙伟平.关于人工智能的价值反思J.哲学研究,2017(10):120-126.有些人特别是青少年终日与各种智能终端打交道，对虚拟对象产生过分的眷恋和依赖，对于虚拟与现实之间的界限感到模糊，影响了个体人格的精神发展。关于隐私权的担忧。迈入信息化、智能化时代，人们的生活正在成为“一切皆被记录的生活”。各类数据采集设施、各种专家系统能够轻易地获取个人的各种信息，在人工智能的应用中，云计算已经被配置为主

6、要架构，许多政府组织、企业、个人等将数据存储至云端，这容易遭到威胁和攻击。智能系统正越来越多地渗入社会的组织管理过程。这有利于减少人为的失误，节省管理成本，提高管理效率。然而，它往往忽视被管理者的文化传统和心理特征，忽视被管理者是一个具体的“人”，从而缺乏人类特有的同情心和“人情味”。关于人的本质传统伦理道德冲击“数字鸿沟”“社会排斥”成为解构社会的革命性因素例：由于生产力发展不均衡，科技实力相差悬殊，人们的素质和能力参差不齐，不同国家、地区的不同的人接触人工智能的机会是不均等的，使用人工智能产品的能力是不平等的，与人工智能相融合的程度是不同的，由此产生了收入的不平等、地位的不平等以及未来预期

7、的不平等，这一切与既有的贫富分化、地区差距城乡差异等叠加在一起，催生了大量的“数字穷困地区”和“数字穷人”。例：由于智能机器人可以源源不断地创造和复制，加之智能机器人相比人更加“吃苦耐劳”，越来越多的人类工人将被取代，汹涌的结构性失业潮将随着生产的智能化以及产业的转型升级接踵而至。在这一背景下，“数字穷人”可能彻底丧失劳动的价值，只能接受失业、彻底被边缘化的命运。这可能成为解构社会、甚至颠覆现存社会秩序的破坏性因素。价值冲突和深层次挑战 Business孙伟平.关于人工智能的价值反思J.哲学研究,2017(10):120-126.超级智能可能导致的最大风险在于: 它是否会通过自我学习和自主创新

8、，突破设计者预先设定的临界点而走向“失控”，反过来控制和统治人类，“将人类关进动物园里”，甚至判定人类“不完美”“没有用”，从而轻视人类，漫不经心地灭绝人类?。即使超级智能本身没有扭曲的价值观和邪恶的动机，但如果某一组织或个人研发、掌握了类似的超级智能，不负责任地滥用技术，以实现自己不可告人的目的，后果也将是灾难性的。就此而言，人类正处在一个决定前途和命运的紧要关头。资源分配不均超级智能的“自主意识”组织包括人工智能专家在内的科学家、工程师和伦理、法律、政治、经济、社会等领域的专家，成立“伦理委员会”，在充分民主协商的基础上，按照“多数决”原则，对人工智能的发展规划和前沿技术的研发进行审慎评估

9、，对人工智能研发、应用中的伦理冲突进行民主审议。“伦理委员会”对新技术研发和应用具有延迟表决权和否决权。目前，人工智能的发展日新月异，“能够”做的事情正不断突破原有的阀限，对于未来超级智能的发展需要人们具体情况具体分析，审慎地进行价值评价、选择和决策。我们正在迈入开放性、异质性的智能社会，科技的威力更甚以往，有时甚至超出了人类的想象力。我们今天对人工智能进行理智的价值评估，对人工智能的研发和应用进行道德规范，进而使价值、伦理、道德成为制约人工智能发展的内在维度。智能社会的价值原则与综合对策 Business审慎确定解决方案1 人本原则：人工智能是一项“人为的”和“为人的”价值活动，必须始终坚持以人为本或以人为中心的原则，尽可能满足人们多方面的愿望和不断增长的需要。同时，绝不允许放任自流，让人工智能的可疑风险、负面效应危害人类。 公正原则：人工智能应该让尽可能多的人获益，创造的成果应该让尽可能多的人共享。同时，完善制度设计，建立健全社会福利和保障体系 责任原则：在人工智能的研发、应用和管理过程中，必须确定不同道德主体的权利、责