【人工智能技术产业应用的风险评价探究14000字（论文）】

人工智能技术产业应用的风险评价研究目录TOC\o"1-2"\h\u12789人工智能技术产业应用的风险评价研究 115455关键词：人工智能、风险、防范、预案、效益 218756一、绪论 231753（一）人工智能 212749（二）人工智能应用 222262（三）人工智能应用风险 316914二、文献综述 310023（一）人工智能应用的现有研究 38734（二）人工智能应用风险的现有研究 46725（三）人工智能应用的风险评价的现有研究 432664三、人工智能应用 52936（一）人工智能交互客服 51212（二）智能投资顾问 54342（三）智能营销管理 622571（四）计算机视觉 6786（五）理财产品推广 629753（六）提高市场竞争能力 712508四、人工智能在产业应用中的风险分析 722943（一）安全问题 722149（二）信息泄漏风险 8182（三）系统防范风险 819497（四）人工智能失控风险 917839五、人工智能在产业应用中的风险评价 922448（一）对于安全问题的风险评价 1012128（二）对于信息泄漏问题的风险评价 108929（三）对于系统防范问题的风险评价 1111678（四）人工智能失控问题的风险评价 127898五、结语 134923参考文献 13摘要：人工智能从最初的萌芽阶段到如今的普及阶段，经历了许多困难与瓶劲期，这样一个新生的事物，却给我们的社会带来了翻天覆地的巨大改变，许多简单劳动工作都交给他们来做了，我们人类未来可能只需要从事一些耗费脑力劳动较多的工作，从整个社会来看，我们对其始终抱有着乐观的心态，但是我们也应该看到人工智能应用中可能存在的风险，如人工智能失控、信息泄漏风险、系统防范风险，越来越多的岗位被人工智能所取代，我们也应该注重关注社会矛盾，注重缓解由于人工智能普及带来的社会问题，对所有可能存在的风险进行预案，并且在实践中不断完善预案，提高抵御风险的能力，让人工智能真正地为人所用，予人以利，为社会创造巨大的经济效益。关键词：人工智能、风险、防范、预案、效益绪论（一）人工智能人工智能，又称AI，是一门新的研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的技术科学。是对人类智能的模拟和延展，以算法为核心，其属于计算机科学的分支之一，对人类社会的发展具有划时代的意义，试图生产出一种新的能够以人工智能相似的方式做出反应的智能机器，它的研究领域包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能这一概念在二十世纪五十年代被首次提出，在这之后，以LISP语言、机器定理证明等为代表的经典技术的呈现标志着人工智能的构成，但由于技术的不足以及产品存在缺陷问题，此时其发展速度处于较慢阶段。随着专家系统的出现，实现了人工智能与实践领域的融合，推动人工智能技术进入快速发展阶段，此时的系统已经能够为使用者决策提供一些比较可靠的数据支撑。在发展的中期阶段，人工智能技术就已经积累了较为丰富的经验，技术也得到了很大的提高，随着第五代计算机研制计划的提出，将人工智能技术的研究也带入了一个新的发展热潮。二十世纪八十年代末期的神经网络技术的出现，为人工智能的发展又提供了相应的新的平台，标志着人工智能技术又来到了一个新的发展的高潮。近年来互联网与网络技术的呈现也为人工智能技术的展开提供了新的路线，推动人工智能在家居、教学、医疗、汽车、教育等多个领域的普及应用，人工智能也由此走进了大众视野并发挥着越来越重要的作用，在生活中，我们已经随处可见人工智能，比如人脸识别门禁，指纹锁等，这一项技术已经与我们的生活息息相关，让我们不得不引起相当的重视，不光是要重视它的作用，也要重视它的风险。（二）人工智能应用虽然在产生之初，人工智能并不被社会各界人士所看好，因为资金匮乏、理论基础差，很多人对其都持者嗤之以鼻的态度，但是随着科学技术的日益发展以及产业融合的不断深入，计算机的性能不断提高，人工智能拥有了一个很好的发展平台，AI时代的来临，人工智能逐渐迈进了人们的视野中，人工智能作为一个新兴科学开始渗入生活中的方方面面，不论是家庭生活还是农业生产以及公司运营，人工智能发挥的作用越来越大，越来越多的产业开始使用人工智能来达到提高工作效率的目的，国家部门也可以通过人工智能来发展民生工程，为人民带来更多生活上的直接的便利，明确提出要大力推动关键核心技术攻关，大力推进人工智能技术发展。在我为此论文设计的问卷中，经过统计回答发现绝大多数居民都对人工智能技术有一些了解并且在日常生活中已经接触到了很多形式的人工智能，如校园人脸识别身份、智慧校园一卡通等，并且其中的大部分受调查者都认为人工智能对社会而言是利大于弊的，当然，对于出现的人工智能问题他们也有一些了解，如特斯拉失控、个人信息被泄漏等，但是怀着对国家的信任和对科技发展的信心，以及现在有很多地方政府在进行政务服务的时候都会利用人工智能这一新兴技术，有了政府的身体力行，大家对人工智能发展的前景还是非常怀有信心的。人工智能作为一门新兴起的技术，还有很多应用盲区是我们目前还未发觉的，若是对这些盲区采取不管不顾的态度，这可能导致社会走向与发展相反的另一个极端，因此，我们也要更加注重对人工智能的深层次研究，确保其能够在我们能够接受的范围内健康发展，在不断挖掘人工智能应用的无限的潜力的同时提前做好风险预估工作，准备好应对之策，为社会发展打好基石。人工智能应用风险人工智能技术虽然目前在各大领域都发挥着重要作用，但是我们也不能因此得意忘形，我们要善于透过现象看本质，针对所有可能存在的问题，做出详细的预案，以至于在出现突发状况的时候我们能够不慌不忙地应对，既要对可能会出现的危机做出精准预测，也要对其进行一个追根溯源的分析，仔细研究其出现的原因，以及我们要如何从根上杜绝，并且对于在人工智能应用途中已经出现了的风险做出相应的评价分析，只有对这些风险有一个深刻的了解，我们才能够以一推十，让推进应用工作的展开能够做到有条不紊，有序不乱。文献综述人工智能应用的现有研究当前来看，我国现有的文献中对于人工智能技术应用的研究涵盖药物研究、教育、工业、物流业、公共采购、银行业等等，可见其应用范围之广泛，并且，在相关文献中不难看出，大众对于人工智能在现实生活中的应用还是满怀着希望的，它在悄然改变我们生产生活方式的同时，也为我们的生活和工作带来了巨大的便利，很多在以往需要繁琐程序的工作，如今只需动动手指，便可以坐享其成，感受人工智能为我们带来的好处，如在2020年全球疫情迅速蔓延，各地防控紧张时，人们就切实地感受到了人工智能应用是如何让我们的生活更加便捷，比如只需在手机微信小程序内输入身份信息并且通过人脸识别，就可以显示你的健康码，一旦你去过高风险地区，系统就能识别出，也便于高铁站、机场工作人员对于流通人员的管控，这就是通过对通信大数据的分析得出你去过的地址并且与国内目前的各地风险相比对得出最后结果，除此之外，中小学生、大学生也可以足不出户，坐在家中使用智能设备就可以与老师“面对面”地上课，在银行营业厅内，接待客户的变成了智能机器人，既减少接触防止疫情传播，又能降低人工成本，提升银行的服务水平。总体来看，我国人工智能应用效果还是比较好的，也在慢慢地得到大众的认可与赞赏，也吸引了众多学者对其开展研究，主要的研究方向包括：人工智能的产生与发展、人工智能应用中的问题、如何解决人工智能在应用中存在的问题。人工智能研究的主要目标是让机器来完成一些需要人类重复机械完成的工作，这样可以极大地解放人类的双手，让具有高素质的人去从事更加高质量的工作，按照人类的思维方式来进行思考并且做出相应的举措。人工智能处在思维科学中的技术应用层次，属于思维科学的应用分支之一，人工智能并不局限于逻辑思维，而且会与其他的思维方式相结合，形成其独有的思维体系。有人认为人工智能是大脑的一种“容器”，但是人工智能只是对人的意识和思维等的模拟，虽然可能超过人的智能，但其始终不能与人脑完全一致或者说取代人脑，人脑通过长期的学习可能还是不能与人工智能并肩，但是人脑生来就具有人工智能无法被赋予的情感、智慧等天赋，因此我们并不能从人工智能和人脑中分出一个高下，两者是完全不同的东西，一个是人类赖以生存的基本器官，人脑死亡了，人类也不能存活，另一个是被人脑创造出来的用来辅助人类工作的工具，就算人工智能消失了，人类也依旧可以依靠自己的力量继续生存。我们要学会使用马克思主义的思想来看待人工智能，摸索合理发挥其作用最大化的途径，将人工智能这一科技定义成人的机器智能，将其完全掌握在人类的控制中。人工智能应用风险的现有研究由于人工智能兴起的时间还不长，人们对其存在的风险认识还不够，所以在目前的研究派系内，关于人工智能应用风险现存的认识主要有：失控风险、隐私泄漏、反控制、伦理道德、生存威胁，虽然还有很多潜在的安全风险，但是现有的研究也为这些风险提出了相应的有效的解决对策，只有将目前存在的风险研究透了，才能够保障好应用方面不出错，为应用打下基础，这些有针对性的对策足以解决现存的问题，让公众对人工智能的应用能够保持一个积极的心态，用平常心去看待，对于在平时看到人工智能产生了错误的时候也不至于产生恐慌，相信我们相关技术人员的能力，也相信相关部门的善后工作，能够保障我们群众的日常生活起居只会越来越好，绝对不会因为人工智能而出现倒退现象。人工智能应用的风险评价的现有研究通过查阅相关的文献，可以发现，现在我国对于人工智能应用的风险已经有了一个大概的评价体系，对现存的风险进行全方面的研究并且找出相对应的对策来解决问题以来应对未来可能出现的各类安全隐患，保障我们人民的利益不受侵犯，为我们的子孙后代承担起相应的责任，让我们能够实现一个可持续发展，也让这些研究成果能够真正地投入使用，发挥它们真正的作用，把人工智能这一项技术的积极作用完全展现出来。本文研究也是以上述内容为出发点，在现存的对于人工智能应用的风险评价的研究的基础上进行一些总结和拓展，力求做到不偏差，以一个客观公正的态度来分析其的利弊，以及我们应该怀着何种心情来对待它，我们在日常生活中应该如何注意保护自己免受人工智能的伤害，这些实质性的建议的提出也能解决现在社会上人工智能使用乱象的问题。三、人工智能应用（一）人工智能交互客服由于目前的大多客服系统为人工客服，针对用户电话沟通之后产生的问题需要人工进行答复，由于用户所提出的问题大多千篇一律，对于客服人员来说工作枯燥乏味，且为了提高解决用户问题的效率，每一个商业银行都需配备大量客服人员，这样下来，日常运营成本极高，为克服现有客服系统的不足，商业银行开始采用智能交互客服。智能交互客服包括服务型客服、投顾型客服以及外呼型客服。服务型客服使用基于大型语料库的自然语言理解技术，基于具体的相关场景和业务进行开发上下文模型用来实现与用户的对话与解答，指在用户拨打客服电话时先接入的不是人工客服，而是智能语音客服，它将用户想要询问的问题分类以及对应的数字按键一一告知，细化用户问题，并且对于基础服务问题，智能客服可以根据关键词直接从数据库中调取回答进行自动答复，无需人工客服的参与，对于智能客服回答不来的问题，用户依旧可以通过按键选择人工客服来回答疑惑，智能客服还会提前根据用户业务类型的不同实现不同的对接，将人工智能可以解决其问题的客户率先筛选出来，然后将仍需人工客服服务的客户对接至相应的人工客服，智能客服能够兼顾多线问答并且24小时在线服务。这样的智能交互系统大大地提高了客服效率，让相关机构仅需配备较少的客服人员就可以满足用户日常需求，减少了运营成本，也让用户减少了连线等待时间，极大地提高了服务质量，树立起一个良好的口碑。（二）智能投资顾问智能投资顾问，也叫机器人投资参谋，是指虚构机器人基于客户本身的理财需要以及马科维茨的投资组合理论搭建数据模型，为用户提供理财顾问服务。智能投顾于2014年进入中国市场，最初是由互联网公司主导的，在之后的发展中，国内主要商业银行以及金融机构也开始逐渐采用这一技术，近几年发展尤其迅速，2016年，招商银行退出了首家国内智能投顾平台“魔蝎智投”，浦发银行也相继推出“财智机器人”，2017年，兴业银行推出兴业智投，光大银行推出光云智投等拓开了中国智能投顾市场的新局面。以前的人工顾问，费用高，形式麻烦，风险大，投资顾问将投资人的钱款卷走的新闻比比皆是，并且人工顾问的主观性过强，受思维定势的影响较大，智能投资顾问则弥补了这些缺点，人们只需通过智能设备就能了解自己适合的投资类型，足不出户便可找到最适合自己的投资方式，智能顾投所拥有的数据库是任何一个人脑都不能与之比拟的，只需填写简单的问卷，它便能通过算法和金融理财知识分析出你是保守型投资者还是激进型投资者，然后根据匹配金融机构中的产品类型为用户提供个性化定制投资建议，并采用“鸡蛋不能放在一个篮子里”投资原则，多元化投资为用户争取最大收益，机器人不同于自然人，它能够跳出思维定势，无论什么时候都能够保持特别的理智，帮助用户做出客观的判断并且能够战胜人性的弱点，没有感性思维是他们的一大优点，因为自然人不可避免的拥有或多或少的感性思维，这些思维会在他们做出判断决策的时候产生影响，造成结果偏差，降低交易成本也是其一大优势，相比于人工顾问所需的巨额顾问费，智能投资参谋打破了传统投资顾问依据买卖的佣金来获利的规定，通常只需要收取低额的服务费用，甚至有些平台都不用收取顾问费，对目前中国的用户群体而言，低额甚至免费的顾问服务当然更能吸引眼球，这些智能投顾平台因此吸引了大量用户，商业银行虽然因此减少了来自投资顾问的收入，但却由于交易成本的降低能够吸引更多的用户，从别处创造更多的收益，有舍才有得，科学的经营才能够实现财源滚滚。（三）智能营销管理智能营销是指建立在智能网络基础上以市场需求为向导，运用智能网络技术为用户提供服务的营销方式，可以通过对数据的实时监测，实现客户需求的精准定位、建立客户画像、预测客户需求、匹配推送个性化产品以及营销文案，于客户各方面的工作进行有效链接，为用户提供更加贴心的个性化服务，提升银行在客户心中的良好形象，为争夺市场份额打下了基础，一个不会智能营销管理的商业银行只能在原地守着老一套的营销方法，竞争中不进则退，无法学习新技术的经营者只会被时代淘汰，虽然银行在老百姓的眼里属于极其不会倒闭的企业，但是，在发展的洪流中，事实告诉我们，如果银行的营销不与时俱进，不采取先进的人工智能管理方法，只会被抛弃在赛道上，眼睁睁看着自己的客户被其他应用先进管理技术的银行夺走，因此现在越来越多的银行开始采用智能营销管理，降低管理成本，提高管理效率，提高自身竞争力，赢得更多优质客户。其实不光是商业银行，在众多上市公司和规模中等的企业中，都已经开始运用这种成本更低、效果更好的营销模式取代了之前的传统方式，利用互联网宣传的广泛性，将自己的营销做大，把宣传的范围做广。（四）计算机视觉计算机视觉作为人工智能技术在工业上的一大主流应用，同时它也属于计算机科学的一大分支，涵盖众多领域，其工作原理就是利用计算机来拍摄图像以用来模拟人类的视觉功能，能够达到延伸人的眼球的视觉的效果，其使用的工作方法主要是：将每一个等待着检测的目标通过特定的产品转变为一个个图像信号，并且将这些图像信号都传输给一个图像处理的分析系统，从此就可以得到被拍摄到的目标的主要情况，根据这些情况，进行仔细的分析，从而转变成完全数字化的信号，这些信号的判别结果也可以用来掌控现场的机器的行为。毋庸置疑的是，机器视觉在我国的工业领域目前发挥着举足轻重的作用，推动中国制造业在国际社会上取得重要地位。（五）理财产品推广随着经济的发展，人均可支配收入的提高，越来越多的国人有投资理财产品的想法，但是选择是一个大问题，随着各大行业对电话营销的需求越来越强烈，但传统的电话推广理财产品需要耗费很大的资源对客服进行大量培训，并且成功率较低，随着科学技术的发展，许多企业开始使用人工智能进行理财产品的推广，其可以核验客户身份并且给予用户反馈和引导，完成营销的相关流程操作，并不断地提升语言能力，使用户无法分辨出其是机器人还是真人，能够轻松代替原本人力应该完成的工作任务，大大节约了推广成本，提高了推广成功概率。在推广效率上来说，人工智能分析出来的最佳投资产品投资效率均能高于真人顾问，因为人工智能所依靠的大数据支撑是人脑无论如何学习也不能达到的计算程度，如今很多网民在进行对基金的投资时，首先使用的不是自己的知识储备，而是先用人工智能软件分析每一款基金的预计收益率，通过人工智能的辅助来实现有效投资，现如今，我们打开各种app，开屏广告都无可避免地被理财产品推广所占据，打广告谁都会打，但是，如何才能将广告打到客户的心里去呢，这个时候我们的人工智能就来发挥作用了，通过大数据分析，针对不同用户平时购买的商品类型，以及搜索引擎喜好，对不同的用户画出相应的画像，并针对该画像寻找最匹配的理财产品，并有针对性的投放广告，对微博这种用户群体较为年轻的app则投放小额理财广告，对贴吧、知乎这种用户群体年纪较大的app选择投放成本较高的理财产品广告，千篇一律只会让人乏味并且提不起进一步了解的兴趣，只有对症下药才能保证药到病除，才能让消费者心甘情愿地买单。（六）提高市场竞争能力人工智能能够在构建智能银行的过程中提供大数据支撑，让银行在充分分析客户需求的前提下为其选择最恰当的切片部署模型，同时能够预测用户客户需求，并依据其需求及时调整资源。变革了业务模式和经营理念的商业银行才能够在众多银行中脱颖而出，人工智能技术能够帮助商业银行提升业务办理效率、优化成本控制，在通过大数据信用评分模型和人工智能决策系统来革新客户体验感的同时能够提升银行业务审批效率，从银行的角度来看，人工智能技术在规范化的高频度金融业务中更加适用，在银行业务中有着巨大的应用潜力。采取了人工智能技术的商业银行在客户服务满意度上有了明显的提升，设想一下，你更愿意去设施陈旧还是配备了先进智能设备的商业银行，在服务业中，用户的体验感是十分重要的，有时候甚至会被放到首位，如海底捞，通过优质的服务打响了品牌名号，他们通过微信排号减少了用餐者的排队时间，送餐机器人让食客在用餐时也能被智能感的氛围包围，提升了用户的体验感就能够将这些客户纳入自己的固定顾客群体中，对企业来说也是如此，若打开了一个用户群体的口子就能吸引到一批优质用户。因为配备人工智能能够极大地提高他们的市场竞争力，所以，当今的企业经营者越来越喜欢利用人工智能为自己扩大用户群体，吸引优质客源，提高销售收入。四、人工智能在产业应用中的风险分析对于人工智能在产业应用中的可能存在的风险，我们不能置之不理或忌疾讳医，而是要通过不断的实践，找出所有会出现的风险，分析其出现的原因、表现、特征、解决方法等，逐个击破，只有积极去应对，才能够保证人工智能技术在实际应用中会出现的风险都已经被掌握，并且对新出现的风险也采取积极态度，相信通过我们的努力能够不断攻坚克难，让人工智能在实际应用中保持良好态势。（一）安全问题我们在对任何技术做开发和应用的时候，必须要将安全放在第一位，人工智能作为一种高科技的产物，收益越高，风险越大，人工智能在安全问题上容易引发的问题主要有：技术方面上的滥用、技术缺陷以及管理不当、诱发过度依赖行为，对于现存的许多人工智能产品，如果使用不当，很容易出现一些安全问题，比如由于技术滥用对公众造成安全隐患，以及技术还存在缺陷却将相关的产品大幅投入市场，这种不顾消费者安全的行为固然能够给企业带来不菲的收入，但是却置广大的消费者群体的利益不顾，如360倒车影像的出现，很多司机过于依赖这一技术进行日常的倒车，一旦这个倒车影像失灵，这些司机就完全失去了倒车的能力，只能在原地等待拖车的救援，这无疑在给人们带来便利的同时也带来了更大的潜在的麻烦，我们如果不对这项技术加以监管保证其质量的话，在问题来临之时，没有做好保护措施，就会造成相当严重的后果。由于互联网属于一种新兴的技术，还存有很多漏洞，所以在运行的时候就会出现一些被黑客入侵、发出错误的指令等的危险行为，这种危险行为很有可能会让使用这些工具的自然人丧失生命。（二）信息泄漏风险现阶段我国对人工智能产品没有建立统一标准，很难确保信息的隐秘性和用户的知情权。人工智能所依靠的大数据所储存的数据非常巨大，并且数据保护措施相对简单，容易出现数据库被攻击导致用户信息泄漏的风险，甚至在数据库对数据处理的每个环节都有可能发生着数据泄露。在数据采集环节，由于不同的数据采集程序对数据采集的标准和精度不同，会造成不符合标准以及精度的数据被泄漏，比如，采集负债状况的程序会把收入数据排除，从而导致收入数据的泄露，目前来说，不少人工智能技术对使用者的信息存在过度采集的情况，采集的信息越大，泄露出去的数据也会更多，严重侵犯了客户的隐私。在数据分析环节，由于算法的分析程序不同，算法会将认为不重要的数据内容剔除，从而导致数据泄露。在数据管理环节，数据的使用者如果对数据管理不当或恶意泄露，将会使数据在管理环节造成泄露，除此之外，由于人工智能技术对数据库使用者的相关权限设置还不够完善，没有办法成功区分使用者的性质，存在信息泄漏的风险。在大数据传输过程中，由于大数据传输的异构、多源以及关联等特点，数据集存在因关联分析而造成个人信息泄漏的风险，大数据传输如果未被妥善处理会对用户的隐私造成巨大侵害，并且会降低客户对银行的信任度，随着社会精神文明的发展，现在大家对隐私的重视度越来越高，如果侵犯隐私的行为被曝光在大众视野中，其实会很影响之后的业务合作，并且如果企业没有对信息泄漏事件对公众做出合理的解释，会引发更大规模的信任危机，失去大量合作伙伴和客户。（三）系统防范风险我国金融监管基本上依靠的是事后监管，在人工智能技术重塑银行运营业务的背景之下，突发金融风险的影响范围将会大大超过传统业务，极有可能导致金融市场混乱，造成投资者产生巨额损失，并且目前并没有现成的法律法规处罚不当行为，分清承担责任者，监管机制的落后导致人工智能系统面临巨大的防范风险。并且人工智能技术还未发展至成熟阶段，它的神秘面纱到现在为止还没有被完全摘下，人类的能力也是有限的，人工智能还有很多我们人类并不能够掌握的潜在风险，比如现在的人工智能都具有很强的学习能力，那么在未来他们会不会通过对人类行为的学习而实现对人类的统治呢，实际上力量弱小的我们也只能逐步解决一个个相继冒出的问题，在解决问题中不断学习，面对人工智能突发的故障，很多操作人员并不能够及时解决，反而会造成智能机器得不到修理导致的长时间闲置以及资源浪费，以及在设计人工智能处理环节时，对突发状况的预测缺失，也导致人工智能机器能够处理的实际问题是很有限的，甚至在实际使用中会暴露出严重缺陷，若对缺陷机器进行摧毁，又会造成大额成本上的浪费。（四）人工智能失控风险算法既可以用来防御也可以用来攻击，在人工智能技术应用如此广泛的情况下，一旦人工智能失控，将会对大量的企业以及市场造成巨大影响，人类是否会被人工智能所操控这个议题一直有着很高的讨论度，当越来越多的决策工作被交给人工智能之时，人类的话语权仿佛越来越低了，很多看不见的自主系统正隐藏在屏幕背后，它们对我们是否能够申请到出国资格、是否能够获得购房资格甚至能否获得入学资格都有影响，当人工智能程序开始具备越来越强烈的学习意识以及相应的自主行动能力之时，它们会开始做一些我们无法控制的事情，人类却对他们缺乏监督，比如在机器人围棋竞赛中，编写围棋机器人代码的程序员甚至不能预测出他们所创造出的机器人会走出的下一步，它们就像两个正常的人类在博弈，人工智能技术现在不仅介入人类的工作生活中，而且也开始介入人类的身体，这种结合既是创造性的也是极具风险性的，这样的人的异化的现象产生之后，如果不重新明确人的本质属性，一旦人工智能技术达到超级模仿、无限放大的程度，就会影响到人类的切身利益，并且带来一系列的社会问题，比如：失业问题、道德问题、社会伦理问题等。且人工智能的责任主体不清晰，当引发责任问题时，人工智能系统的责任主体便很难找到，因此也很难明确谁应站出来承担这个责任，如特斯拉自动驾驶频出意外，因智能辅助驾驶造成的问题，这个辅助系统并不能承担责任，若特斯拉不站出来主动承担责任的话，消费者只能吃哑巴亏，又比如北斗导航事件，由于智能设备掉线导致执法机关默认司机故意逃避检查因而对大货车司机采取高额罚款，而司机也无法拿出非故意掉线的理由来维护自己的权益，维权道路的困难程度使在人工智能技术使用中的受害者们不得不采取偏激的方法来解决问题，如上海车展中特斯拉车主身穿“刹车失灵”印花的T恤站在特斯拉展车的车顶呐喊最终被拖出展厅，被罚款数千元的大货车司机选择在陪伴了数十年的货车中服毒自杀，这些年来，人工智能技术的发展不但没有弱化社会矛盾，反而使社会矛盾被更加激化了，因为基层人员对技术了解的不足，导致很多原本设计出发点是为了更好地为人民服务的产品在实践过程中变成了束缚，除此之外，人工智还能将大量简单劳动的岗位踢出市场，这些被淘汰下来的劳动者若不努力学习劳动技能找到符合自己定位的岗位就会成为社会中的“无用阶级”，这些劳动者的数量越来越来将会成为社会发展的不稳定因素之一，急需政府为这些人寻求新的岗位或提供社会补助以维持基本生活。五、人工智能在产业应用中的风险评价由于我们已经观察到的人工智能现阶段可能会存在的风险分析，作为引领国家发展的有力产业，人工智能产业必须针对这些可能性风险，响应国家相关政策并积极采取自主防范措施，让人工智能能够在阳光下发展，驱散阴霾，摆脱负面影响，成为人类最有力的帮手，为经济发展以及社会进步打下强有力的基础，千里马常有，而伯乐不常有，作为一门优秀的新兴技术，我们作为使用者，必须挖掘它的益处，避免以及剔除它的害处，实现收益最大化。对于安全问题的风险评价对于人工智能技术应用的过程中可能会出现的安全问题，我们应该做一个具体的评估，保证我们的对策都是有针对性的，比如特斯拉的自动驾驶辅助系统，在行驶的过程中可以实现解放驾驶员的双手，但是我们也应该注意到，这样的一个系统也还是需要配套的一个安全系统，在辅助驾驶可能会导致车辆发生危险的时候，能够及时地进行报警甚至是自动做出刹车以保证车辆的安全，一物降一物，只有真正地降住了这些不安全的因素，我们才能够在一个安全的车辆内驾驶，不然一个没有安全系统的电动汽车也不会有这么高的销售量。还有现在在一些需要高精度操作的手术中，有些医院会使用机器人手辅助来操作手术，这样的手术不仅不能报销相关费用，由于机器人辅助手设备的紧缺，如果需要用这样的辅助的话，病人还需要进行一个长时间的排队等待，那么这个机器人手的精准度以及受控制度就无比重要，病人的生死都被这个设备所控制，一旦这个设备出现任何差错，都会对病人的生命健康产生不可挽回的危害，所以生产商如果不能保证这个人工智能设备有百分百的安全性的话，大众也不会接受它也不会在面临众多选择的时候欣然选择最智能的那种。我们也要看到，在一个人工智能产品批量生产之前，我们有必要对其进行一个安全评估。从全方面来测试其面对危险情况时是否能够妥善化解，以及其防范黑客入侵的能力，将其的危害性降到最低，也将其的安全性能最大化。（二）对于信息泄漏问题的风险评价由于用户信息泄漏的问题不断发生，严重影响到了用户日常生活，现需从已有的数据库加密技术基础上研发新型加密技术以满足日常运营需求。同时，现有的网络安全技术已有多种能够投入实践运用的，如数据加密技术、信息隐藏技术、数字签名技术、生物识别技术、入侵检测技术、虚拟网络技术、系统防火墙技术等，我们可以对这些技术通过结合使用的方式提高人工智能系统的安全性能。如实现对密钥加密密钥的隐藏并采用对称加密算法叠加方式以及对称加密算法与非对称加密算法的混合方式两种加密方案作为给不同级别的用户提供的不同服务方式；在信息传输过程中采用信息加密技术，这样即使已经加密的信息被剔除掉了，被其他人捕获时也不会泄漏用户信息，同时对用户的使用密码进行加密，即使系统被入侵，黑客也无法破解系统内存储的用户密码，无法进行下一步入侵工作；使用生物识别技术可以使系统通过确认使用者的声音、指纹等信息明确其身份以及权限，系统不会为其他恶意入侵者打开权限，以及系统防火墙的开启，可以确保信息在管理存储过程中不会泄漏；通过入侵检测技术可以实时监测系统是否存在潜在的入侵风险并且及时上报使用者，对异常情况的出现快速识别并制止，保证系统在工作状态中不会受到损坏，有效避免计算机网络冲突；数字签名技术可以有效加密用户密码，防止用户由于密码被盗取造成损失的情况发生，将拥有该层级权限的使用者的签名作为可以对信息进行操作的密钥，保证了密钥的唯一性和不可替代性，有利于保密信息的存储，人类始终是不断进步的，人类创造出来的科技也是不断向前发展的，我们应该对完善风险防范系统充满自信，道高一尺魔高一丈，每一个可能出现的风险，都会有专门的措施来应对。（三）对于系统防范问题的风险评价技术生产部门作为人工智能技术的应用者，在生产时应该秉持社会的道德标准严格要求自己以及国家相应法规严格约束自己，在获取经济效益的同时需要兼顾社会效益，保障消费者的利益，不断完善升级系统排查潜在的风险，不断地根据用户评价以及反馈对技术进行差错以及纠正，促进现有的技术革新，发挥更佳的社会效果。同时政府作为管理者，也可以采取积极的管理政策对市场进行约束，规范市场主体的行为，避免不符合社会道德伦理观的人工智能出现，对人工智能的自主程度也制定详细的细则来规范它们的行为，掌控自主权，对于不遵守相关法规的企业或个人加大惩处力度，提高违法犯罪成本，并且根据不同的行业制定不同的细致规则，保证人工智能对产业有积极作用的同时有效防止技术的滥用导致的危害，推动人工智能技术的商业应用能够快速投入实践，并且推进智慧医疗、智慧交通等关乎民生的重点领域与企业和产业链一齐培育，通过政策手段，引导人工智能行业向前稳步发展。时间政策重点内容2018年4月《高等学校人工智能创新行动计划》到2020年建立50佳人工智能学院、研究院或交叉研究中心2020年1月《关于“双一流”建设高校促进学科融合加快人工智能领域研究生培养的若干意见》提出要构建基础理论人才与复合人才并重的培养体系，着力提升人工智能领域研究生培养水平2020年3月《教育部关于公布2019年度普通高等学校本科专业备案和审批结果的通知》180所高校开设人工智能专业2020年3月《加强“从0到1”基础研究工作方案》提出要加强基础研究人才培养，建立健全基础研究人才培养机制、实施青年科学家长期项目、在国家科技计划中支持青年科学家2020年6月《全国人大常委会2020年度立法工作计划》重视对人工智能、区块链、基因编辑等新技术新领域相关法律问题的研究。继续推动理论研究工作常态化、机制化，发挥科研机构、智库等作用，加强与有关方面的交流合作，抓紧形成高质量的研究成果。表1:我国对于人工智能技术加强风险评估的相关政策（四）人工智能失控问题的风险评价在将人工智能技术应用到各个领域及产业之前，必须要提前做好相应的计划，不能一窝蜂地都开始应用人工智能技术，这样只会导致社会的混乱，人工智能技术不同于普通的工业技术，由于它的特殊性，它需要政府做好引领作用，将各个行业应如何采用可以在何时采用对哪些业务可以采用都有一个大致的规划，并且对人工智能技术会产生的危害后果作出预测，制定出合理解决风险的规划，做好大局设计之后，再对重点问题重点解决，如针对社会矛盾问题，可以通过提高劳动者职业素质，创造出一些管理人工智能的岗位，促进就业，缓解失业问题，减少“无业游民”的数量，而对于社会伦理道德问题，则需要确立人工智能发展的基本伦理原则，明确机器人不得做出伤害人类的行为，根据人工智能的道德表现对其进行道德评估，并以评估结果为依据决定其是否能够继续为人类工作。成立人工智能伦理委员会，联合多方专业人士，对人工智能发展的问题实时监控并提出相关意见，促进人机和谐相处的伦理道德体系的建立，加强对相关科研人员的相关教育，鼓励它们树立正确的思想观念，从根源上杜绝思想不端的人工智能机器的产生，并且，针对不同地域发展程度的不同，人工智能技术