《人工智能技术风险探究的文献综述》7600字

人工智能技术风险研究的国内外文献综述目录TOC\o"1-2"\h\u10594人工智能技术风险研究的国内外文献综述 131498一国外研究现状 122778（一）关于负责任创新的研究 128198（二）关于技术风险的研究 227288（三）关于人工智能技术风险的研究 49868二国内研究现状 528483（一）关于负责任创新的研究 511795（二）关于技术风险的研究 715031（三）关于人工智能技术风险的研究 8一国外研究现状（一）关于负责任创新的研究负责任创新是欧美学术界提出的应对“巨挑战”的新理念。欧洲首次大力推广“负责任创新”是在2009年启动的“负责任创新”项目中。近几年来，负责任创新已经成为荷兰学术界的主要研究内容，4TU技术与伦理中心及其成员代尔夫特理工大学、特文特大学、埃恩霍温大学和瓦格宁根大学不仅开展了一系列相关的科研项目，举办了多场高层次学术会议，出版了大量学术成果，还开设了相关的研修课程，包括一些在线网络课程。2003年，哥本哈根商学院的托马斯·赫尔斯顿（TomasHellström）教授在《系统性的创新与风险：技术评估与负责任创新的挑战》一文中通过对新兴复杂技术的系统性创新形式以及在社会多个层面产生的风险进行分析，从技术评估和风险管理的角度提出了“负责任创新”的一般框架，从而对技术创新与风险进行系统性评估与进一步管理。HellströmT.“SystemicInnovationandRisk:TechnologyAssessmentandtheChallengeofResponsibleInnovation”,TechnologyinSociety,2003,25(3):369-384.2011年，苏克利夫（HilarySutcliffe）在《负责任的研究与创新报告》中表示，当前负责任创新的研究重点主要集中在以科学技术为基础的研究与创新，特别是新兴技术——纳米技术，基因组学，合成生物学和地球工程学等。而医疗、能源开发、人工智能等技术的创新在影响范围与影响强度方面变得越来越复杂，更具破坏性与全球性HellströmT.“SystemicInnovationandRisk:TechnologyAssessmentandtheChallengeofResponsibleInnovation”,TechnologyinSociety,2003,25(3):369-384.SutcliffeH.“AReportonResponsibleResearch&Innovation”(EB/OL).https://ec.europa.eu/digital-single-market/sites/digital-agenda/files/dae-library/a_report_on_responsible_research_innovation.pdf,2011-05-16.2013年，在“负责任创新的伦理探索：3TU—5TU科技伦理”国际会议中，荷兰代尔夫特理工大学哲学系教授霍温（JeroenvandenHoven）探讨了负责任创新的伦理问题，明确指出“负责任创新是一种将研究创新与社会需求更好地保持一致的综合性方法，是研究和创新的重要组成部分”。EuropeanCommission.“Optionsforstrengtheningresponsibleresearchandinnovation”.Luxembourg:EuropeanUnion,2013,5.欧盟委员会在召开“地平线2020”远景规划会议时指出，科学技术的负责任创新已成为全球的政治性问题，负责任创新理论可以指导创新并应对不可预测的全球性风险。英国工程与自然科学研究委员会制定了负责任创新的理论框架，用以审查他们资助的一些EuropeanCommission.“Optionsforstrengtheningresponsibleresearchandinnovation”.Luxembourg:EuropeanUnion,2013,5.2013年，在美国正式出版发行了学术期刊《负责任创新》（JournalofResponsibleInnovation），收录了大量关于“负责任创新”的文章、研究报告以及对当前政治、技术、文化等方面的评论或观点，主要分析了负责任创新在纳米技术、合成生物学、地球工程和人工智能等新兴技术的道德伦理和社会复杂性方面的思考与实践意义，提供更广泛的负责任创新方法。在著作方面，2013年，理查德·欧文（RichardOwen）、约翰·贝赞特（JohnBessant）和马吉·海因茨（MaggyHeintz）联合主编了《负责任创新》OwenR,BessantJ,HeintzM.ResponsibleInnovation:ManagingtheResponsibleEmergenceofScienceandInnovationinSociety.London:JohnWiley&SonsLtd,2013.一书，该书旨在研究负责任创新理论的内涵。这部著作具体分析了“负责任创新”的概念，从“责任”和“创新”两方面来界定“负责任创新”，并阐述了二十一世纪的创新管理与负责任创新的愿景规划。同时介绍了一些负责任创新的应用实践案例，并表示新兴科技的风险治理是一项重大挑战，为了解决技术创新的社会与伦理道德问题提出负责任创新的框架，主要包括四个维度：预测、反思、审议、OwenR,BessantJ,HeintzM.ResponsibleInnovation:ManagingtheResponsibleEmergenceofScienceandInnovationinSociety.London:JohnWiley&SonsLtd,2013.综上，国外学者对负责任创新的研究主要侧重于以负责任创新为理论支撑，在科技创新、技术发展、风险管理等方面的应用，形成了丰富的、见解深刻的研究成果，为本文的研究提供了一定的实践价值。（二）关于技术风险的研究技术风险是风险社会中的主要风险，也是现代社会中最主要的一种风险。在现代社会，人们通过技术来改变世界，同时也增加了技术对世界的风险。国外学术界关于技术风险问题的研究始于20世纪70年代，技术风险伴随着科学技术的发展而来，其对社会生活产生的影响也在不断加深，引起了西方科研工作者的高度重视。一些学者从社会学角度探讨了技术风险带来的负面影响。1981年，在加拿大滑铁卢大学召开了一次以“新技术风险”为主题的全球性会议，林德（N.C.Lind）教授和其他学者联合编写了此次的会议报告，重点讨论了技术风险所引发的各种社会问题。1984年，查尔斯·佩罗（CharlesPerrow）在他极具影响力的著作《高风险技术与“正常”事故》〔美〕查尔斯·佩罗：《高风险技术与“正常”事故》，寒窗译，北京：科学技术文献出版社，1988年。中，从技术复杂性和紧密配合性的视角分析了现代技术风险的本质。从1993年到2001年间，一些权威的专家先后编写了有关技术风险特点研究与管理的著作，比如：布兰斯科姆（LewisM.Branscomb）等人编著的《技术风险的承担》。此外，社会学家科劳恩(WolfgangKrohn)等学者在〔美〕查尔斯·佩罗：《高风险技术与“正常”事故》，寒窗译，北京：科学技术文献出版社，1988年。KrohnW,WeyerJ.“SocietyasALaboratory:Thesocialrisksofexperimentalresearch”.Science&PublicPolicy,1994,21(3):173-183.贝克（UlrichBeck）在《风险社会》、《世界风险社会》、《从工业社会到风险社会》《风险社会再思考》等著作和文章中，结合风险实在论与风险建构论的观点，全面、系统地分析了当代的技术风险。他认为，当代技术风险的实质是“文明风险”，这类风险具有高度隐蔽性、不可预测性、高度复杂性、极端危害性以及全球性等特征。他从“无知”和“有组织的不负责任”两个维度进一步探讨了当代技术风险产生的根本原因，并指出可以通过“政治再造”和“跨界治理”来规避技术风险。〔德〕乌尔里希·贝克：《风险社会》，何博闻译，南京：译林出版社，2004年。而吉登斯（AnthonyGiddens）与贝克持有不同的观点，他在《失控的世界》、《现代性的后果》、《现代性与自我认同》等著作中表示，当代技术风险本质上是“被制造出来的风险”，它没有任何历史经验可循，其产生的主要原因有设计错误、操作失误、后果与目的不一致以及知识的循环性构成。〔德〕乌尔里希·贝克：《风险社会》，何博闻译，南京：译林出版社，2004年。美国学者刘易斯（H.W.Lewis）主要从认识论的角度探讨了风险的测量、认识、评估和管理等问题。他在《技术与风险》中指出，我们正被风险所包围，特别是诸多新兴科技带来的风险，而风险的出现也加剧了人们对科技发展的惶恐不安。刘易斯指出了技术发展的两面性，人类需要权衡利弊而不是一味的否认。他认为提高公众对技术评估与风险认知的能力是很有必要的。〔〔美〕H.W.刘易斯：《技术与风险》，杨健、缪建兴译，北京：中国对外翻译出版公司，1994年，第IX页。对于新兴技术产生的技术风险，经济合作与发展组织在《21世纪新兴的系统性风险》中表示，新兴技术具有连通性与普遍性，加快技术变革的速度甚至可能导致环境的根本变化，而在技术变革的过程中可以减少一些风险，同时可能加剧其它风险甚至产生新的风险。对于新兴技术风险的应对措施主要提出了五个方面的建议：1、采用新的风险管理政策方法；2、发展公共部门与私营部门的协同作用；3、向利益相关者与公众提供信息并使其参与；4、加强风险管理的国际合作；5、更好地利用技术潜力并加强研究力度。OrganizationforEconomicCooperationandDevelopment.“EmergingSystemicRisksinthe21stCentury:AnAgendaforAction”.Paris:OECDPublicationsService,2003,15.总体而言，国外学者分别从社会学、认识论等视角对技术风险进行了阐述，分析了技术风险的本质、产生的的根本原因，并以此为理论依据提出了相应的解决方案和规避策略，对本文的写作有一定的借鉴价值。（三）关于人工智能技术风险的研究国外关于人工智能的研究相对较早，其研究方向主要倾向于人工智能的内涵、人机关系以及人工智能与人类智能的比较等方面。进入21世纪以后，研究人员更加关注人工智能的技术风险问题。在早期阶段，科研人员主要关注人工智能在自身发展方面对人类的影响。美国著名科幻小说家、科普作家阿西莫夫（IsaacAsimov）在成功取得硕士学位后便在著作《惊奇》中发表了短篇小说《转圈圈》，其中首次明确提出了“机器人三定律”：1、机器人不能伤害人类个体，或通过不作为而使人类受到伤害；2、机器人必须服从人类的命令，除非这个命令违背第一条定律；3、只要这种保护不与前两条定律相矛盾，机器人必须保护自己。IsaacAsimov.I,Robot.NewYork:RandomHouse,2011,20-33.他的“机器人三定律”突显了人类的主体性地位。而作为辅助工具的机器人不得伤害人类，必须维护人类的尊严，保护自己的生存而又不与人类发生冲突。三定律相互协调，相互作用，互不矛盾。该定律后来成为学术界默认的人工智能研发原则。美国数学家、控制论创始人之一维纳（NorbertWiener）率先明确指出智能机器是一把双刃剑。他在《人有人的用处：控制论和社会》一书中提到，在工厂中机器的使用已经普及，机器有可能替代劳动中的人类，使得人类从劳动中解放出来。但他表示担忧的是，自动化技术将在未来为人类做出贡献的同时也可能危害人类。他的控制论思想还指出，自动化技术以及现在的机器人技术都可能造成“人脑的贬值”。〔美〕N.维纳：《人有人的用处：控制论和社会》，陈步译IsaacAsimov.I,Robot.NewYork:RandomHouse,2011,20-33.〔美〕N.维纳：《人有人的用处：控制论和社会》，陈步译，北京：商务印书馆，1989年，第133-153页。〔美〕刘易斯·芒福德：《机器的神话（下）：权利五边形》，宋俊岭译，北京：中国建筑工业出版社，2015年，第366页。玛格丽特·A·博登（MargaretA.Boden）从哲学的角度来分析人工智能的发展，她认为人工智能的发展主要基于三个方面：1、形式计算理论；2、为实现形式上规定的计算而设计的功能计算机；3、神经元的发现。〔英〕玛格丽特·A·博登：《人工智能哲学》，刘希瑞，王汉琦译，上海：上海世纪出版社，2005年，第2页。在她的著作《人工智能哲学》中共收录了十五篇〔英〕玛格丽特·A·博登：《人工智能哲学》，刘希瑞，王汉琦译，上海：上海世纪出版社，2005年，第2页。〔英〕玛格丽特·A·博登：《人工智能哲学》，刘希瑞，王汉琦译，上海：上海世纪出版社，2005年，第44-72页。通过上面的梳理，可以看出国外学者分别从技术自身发展以及技术在社会中的实践应用等方面分析了人工智能可能带来的风险，对人工智能技术风险问题的研究兴趣较为浓厚，其产生的学术成果也颇为丰富，对本文的写作有一定的帮助。二国内研究现状（一）关于负责任创新的研究目前，有越来越多的国内学者开始进行负责任创新方面的研究，2015年在东北大学召开的第19届国际技术哲学会议将“负责任创新”列为主题之一。此外，清华大学、浙江大学、哈尔滨工业大学、大连理工大学、东南大学、华南理工大学、东北大学、北京理工大学与荷兰的代尔夫特理工大学、特文特大学、埃恩霍温大学、瓦格宁根大学联合成立了以“负责任创新”为主题的中荷科技伦理研究联盟（8TU-4TU）。当前，国内有关负责任创新的研究主要以探索学习和引介为主。基于技术的发展创新角度，赵迎欢在《荷兰技术伦理学理论及负责任的科技创新研究》一文中指出，“负责任创新”是强调在行为后果发生之前进行的责任控制，其本质是“信念伦理”，是技术美德的集中体现。负责任创新的实施要考虑技术创新过程的各个环节和一些利益相关人员，不仅要求技术的设计者与研发者对人类的健康和生命安全负责，而且要求对社会和人类的长期发展负责。赵迎欢：《荷兰技术伦理学理论及负责任的科技创新研究》，《武汉科技大学学报（社会科学版）》2011年第5期，第514-528页。刘宝杰认为负责任创新是技术设计与研发的有机组成部分，也是技术设计哲学的重要组成部分。在一定程度上，它是在诉求一种职业责任。刘宝杰：《技术哲学的荷兰学派研究》（硕士学位论文），东南大学，2013年，第86-87页。负责任创新不仅是荷兰学派“技术—伦理实践”所遵循的创新理念，刘宝杰：《试论技术哲学的荷兰学派》，《科学技术哲学研究》2012年第4期，第64-68页。同样也是设计者与研究者的赵迎欢：《荷兰技术伦理学理论及负责任的科技创新研究》，《武汉科技大学学报（社会科学版）》2011年第5期，第514-528页。刘宝杰：《技术哲学的荷兰学派研究》（硕士学位论文），东南大学，2013年，第86-87页。刘宝杰：《试论技术哲学的荷兰学派》，《科学技术哲学研究》2012年第4期，第64-68页。陈首珠，刘宝杰，夏保华：《论“技术—伦理实践”在场的合法性——对荷兰学派技术哲学研究的一种思考》，《东北大学学报（社会科学版）》2013年第1期，第14-18页。关于技术应用方面，晏萍等人在《“负责任创新”的理论与实践述评》一文中，以大连港的负责任创新发展作为案例论述了其观点，负责任创新注重技术创新所引发的重大社会和环境问题，并从伦理、责任和政策的角度寻求解决这些问题的方法和途径。负责任创新有助于解决“技术创新”与“负责任”容易脱节的问题，从而提升技术创新的整体实力。晏萍，张卫，王前：《“负责任创新”的理论与实践述评》，《科学技术哲学研究》2014年第2期，第84-90页。王小伟在《作为一种价值的互联网——一个比较哲学的思路》中认为，负责任创新的理念是将有益于公共善的价值渗透到技术的设计中。把技术产品作为价值载体，并试图通过技术的应用来保障，实现和提升他们所期望的价值。王小伟：《作为一种价值的互联网——一个比较哲学的思路》，《自然辩证法研究》2016年第11期，第37-41页。其重点是要在技术研发的过程中尽可能多的融入各方面利益群体的讨论，并将责任纳入程序中。因此，负责任创新绝不仅仅晏萍，张卫，王前：《“负责任创新”的理论与实践述评》，《科学技术哲学研究》2014年第2期，第84-90页。王小伟：《作为一种价值的互联网——一个比较哲学的思路》，《自然辩证法研究》2016年第11期，第37-41页。王小伟：《回归积极的技术伦理学》，《科学与社会》2017年第1期，第55-65页。胡明艳在《科学技术创新需要“负责任”》一文中阐释了“负责任创新”理念，她指出，“负责任创新”是一个透明、互动的过程，通过此过程，参与科技创新的科研人员与参与决策的社会公众带着对技术创新过程以及技术创新成果关于道德伦理标准、可持续性、公众接纳程度、是否满足社会需求等方面的看法，彼此积极互动响应，以便让科学技术的创新以适当的方式融入人类社会。胡明艳：《科学技术创新需要“负责任”》，《学习时报》2015胡明艳：《科学技术创新需要“负责任”》，《学习时报》2015年3月16日第7版。负责任创新理念也逐渐进入到政策范围内。2015年，国务院发布的《关于优化学术环境的指导意见》中提出，“建立合理的程序来应对潜在的技术风险，制定管理计划与道德伦理规范，明确科研人员对于涉及社会利益与风险的科学争论应负的社会责任。并引导科研人员进一步规范科研行为，遵守科学道德标准，认真评估科学技术风险，避免对科学技术的不当应用”。《国务院办公厅关于优化学术环境的指导意见》（EB/OL），/xwfbh/xwbfbh/wqfbh/33978/34196/xgzc34202/Document/1469524/1469524.htm，2014-12-29。在2016年发布的《“十三五”国家科技创新规划》更是明确指出，“倡导负责任的研究与创新，加强道德伦理建设，强化科研伦理教育，提高科研人员的伦理规范意识，引导企业在技术创新活动中重视并承担相应的社会责任，包括保护生态环境、保障活动安全等”《国务院办公厅关于优化学术环境的指导意见》（EB/OL），/xwfbh/xwbfbh/wqfbh/33978/34196/xgzc34202/Document/1469524/1469524.htm，2014-12-29。《“十三五”国家科技创新规划》（EB/OL），/zhengce/content/2016-08/08/content_5098072.htm，2016-08-08。此外，国家还实施了“生态文明建设”、“惠民科技计划”、“创新型国家建设”和“创新驱动发展战略”等一系列战略部署，这些举措及其所蕴含的理念也都与负责任创新不谋而合。综上可以看出，负责任创新解决了理论和实际相脱节的现状，对技术创新发展有重要意义，同时对人工智能技术风险的应对有实际的帮助。（二）关于技术风险的研究自20世纪90年代开始，受西方风险社会理论的影响，再加上社会转型期出现了一系列的矛盾与问题，我国学术界开始了对技术风险问题的研究。在技术风险的成因及应对方面，郑功成在20世纪90年代初先后发表了《论科技风险及其控制》、《论科技风险与减灾》、《论计算机事故风险》等一系列文章，阐述了技术风险的内涵、特征以及技术风险所带来的负面影响、产生的原因等，着重强调了技术风险的强危害性并提出相应的应对策略。赵州认为技术风险具有社会建构性的特点，由此推导出现代技术风险的主要成因是制度性缺陷。他在《论技术风险的国际治理》一文中以纳米技术为例，指出由于国与国之间尚未形成合作的利益协调机制，各个国家主要在本国建立和实施技术风险的管理措施，缺乏技术风险的全球治理机制，使得不可避免地产生技术风险。赵州：《论技术风险的国际治理》，《燕山大学学报（哲学社会科学版）》2011年第12期，第81-86页。欧庭高从现代技术的安全性角度出发，提出站在全面综合治理的角度，在实现适度冒险的同时，既能促进物质财富的创造，又要实现社会和谐目标，就需要采用多管齐下、对症治理的方法来处理现代技术风险冲突，即改变技术方向、扩大风险沟通以及改善风险分配。欧庭高，巩红新：《论现代技术风险冲突及其综合治理》，《科技管理研究》2015年第15期，第254-258页。张洋在《技术风险的成因及其规避对策研究》一文中阐述了技术风险可能造成的危害，并分析了技术风险分别在技术层面、社会层面、文化层面以及自然环境层面的成因，最后赵州：《论技术风险的国际治理》，《燕山大学学报（哲学社会科学版）》2011年第12期，第81-86页。欧庭高，巩红新：《论现代技术风险冲突及其综合治理》，《科技管理研究》2015年第15期，第254-258页。张洋：《技术风险的成因及其规避对策研究》（硕士学位论文），武汉科技大学，2011年，第3页。关于新兴技术风险的治理，张乐在《新兴技术风险的挑战及其适应性治理》中表示，相对于传统技术风险，新兴技术风险具有更高的渐进性、隐蔽性、不确定性等。因此，传统的风险治理体系并不适用于新兴技术风险带来的挑战。应根据新兴技术风险的特性从思维模式、治理机制与体制等方面制定出新的风险应对策略。张乐：《新兴技术风险的挑战及其适应性治理》，《上海行政学院学报》2021年第1期，第13-27页。张海波在《大数据的新兴风险与适应性治理》一文中指出大数据新兴风险可以从三个方面进行治理：1、把风险降到最低但不要试图消灭张乐：《新兴技术风险的挑战及其适应性治理》，《上海行政学院学报》2021年第1期，第13-27页。张海波：《大数据的新兴风险与适应性治理》，《探索与争鸣》2018年第5期，第40-42页。总的来说，技术风险是近年来一个新兴的研究热点，我国学术界的研究仍处于初期阶段，目前，学者们从风险社会、技术风险的成因与应对策略以及新兴技术的治理等方面对技术风险进行分析，为本文人工智能的技术风险研究提供了研究思路和理论依据。（三）关于人工智能技术风险的研究国内学者关于人工智能的研究起步相对较晚。1981年9月，中国人工智能学会（CAAI）成立，该学会的宗旨是团结全国各地的智能科学技术工作者和积极分子，通过国内外学术交流、学术研究、学术教育以及科学技术展览会等活动促进中国智能科技的发展，为国家的经济发展、社会进步、文明提升和安全保障提供良好的智能科技服务。1982—2006年，先后创立了《人工智能学报》、《模式识别与人工智能》和《智能系统学报》三份人工智能类的杂志期刊，为国内人工智能学者和高校师生提供了一个相互交流、借鉴的平台，促进了我国人工智能的研究、应用与发展。基于国家对人工智能发展的大力支持，学术界关于人工智能技术风险问题的相关研究也越来越多。闫坤如在《人工智能技术风险规避探析》一文中指出，人工智能的飞速发展，给人们带来了技术无所不能的幻象，“这个社会在技术上正变得越来越完善，它甚至可以提供越来越完美的解决方案，但是，与此相关的后果和危害对受害人而言是无法直观感觉到的”。闫坤如，马少卿：《人工智能技术风险规避探析》，《长沙理工大学学报(社会科学版)》2019年第4期，第7-12页。因此，在不断推进人工智能发展进步的同时，必须同时关注并及时规避人工智能的技术风险，才能避免人工智能带来的的负面影响。为了规范与约束人工智能的发展，需建立有关监管机构，制定相关法律法规，重新建构人工智能的责任体系，完善人工智能伦理规范等才能规避人工智能的技术风险。张文杰在《基于风险社会视角下的人工智能技术风险》一文中认为，人工智能的技术风险是现代风险社会的一个重要体现，主要特征有广泛性、多样性、不确定性，可能会带来一些类似于失业、公共安全等社会性问题。因此，他指出，人工智能在现实实践层面的应用需要相关立法的保护，需要加强人工智能技术与文