【人工智能医疗侵权责任研究8800字（论文）】

人工智能医疗侵权责任研究目录TOC\o"1-3"\h\u6982一、绪论 431540（一）研究背景 429403（二）研究意义 432196二、相关理论及概念 57899（一）人工智能的界定 528621（二）人工智能在医疗领域的应用 513120（三）侵权责任及归责原则 63393三、医疗人工智能责任适用存在的问题 731909（一）医疗人工智能产品司法认定的困境 714064（二）人工智能产品缺陷类型及认定标准 711418（三）举证责任划分难以确定 825640四、医疗人工智能侵权责任的完善建议 88520（一）增加人工智能产品证明责任的证明形式 930267（二）规范医疗人工智能对事实认定的作用 927486（三）人工智能医疗侵权责任配套制度的完善 109522结语 113182参考文献 12一、绪论（一）研究背景19世纪，自动化生产进入了高峰期，各工程部门都得到了长足的发展。1942年，阿西莫夫根据力学、电子学和信息学的进展提出了机器人学三大定律。1944年，美国发明了世界上第一台电子计算机ENIAC，而到2005年科学家已经有能力创作出智力与家猫相当的机器人。人工智能技术在短短的几十年飞速发展。在21世纪晚期，人类或将不得不面临一个新物种，即由智慧人工大脑控制的超级智能机器人取代。人工智能的发展给人类世界迎来了新的技术变革，也给人类社会发展带来巨大的机遇和挑战，人类社会将在21世纪末迎来秩序的重塑。人类的社会关系将随着AI的介入变得更为复杂，人与人之间的关系将转换为人与机器的关系，越来越多的工作将被机器人取代，原有对于人的需求转化为对机器的需求，人与人之间的关系将发生根本性变革。法律是调整社会的行为规范，AI的出现不仅推动法律的公平正义也给法律制度提出新的挑战。教育机器人将取代教师，保姆机器人或将取代保姆，人脸识别系统和无人驾驶汽车将进一步被广泛应用；在医疗领域，机器人医生已经能够进行非常复杂的自治工作，如美国加利福尼亚州直觉外科公司推出的达芬奇外科系统，可以在辅助医生或者在医生的监督下完成手术。医疗人工智能的发展可预见性地将会给医疗损害纠纷带来新的责任问题。（二）研究意义在2003年，直觉外科公司收购了计算机运动公司并决定放开对达芬奇系统的控制。三年后达芬奇医生系统被引进中国，截止到2018年末，达芬奇医生已经在中国完成了超过10万场手术。在国家政策和市场需求的影响下，2019年在行业的规模上医疗人工智能将已经到了1510亿元，对比去年增加24％。医疗人工智能行业的市场需求强劲，因为短期内很难平衡国内外供需形势。中央政府发布的十三五医疗人工智能产业发展规划明确要求，到2020年，医疗用人工智能产业将上升30％，已经宣布增加地方政策。已经出现了涉及医疗人工智能的医疗损害的纠纷，而随着医疗人工智能的发展，涉及人工智能的医疗损害纠纷也会在未来的几年内增多，这将给现有的医疗损害责任机制带来冲击，事实认定将会是涉人工智能医疗的重点，法庭中争议的重点不是医生的医德或过失，而是手术机器人是否存在质量问题。中国也已提出了人工智能体独立思考的可能性，根据其是否能实现思考和推理甚至解决问题，可将其划分为弱人工智能和强人工智能两个阶段。而面向未来的强人工智能时代的法律规制必定要从法律运行的首要环节即立法活动入手人工智能体终将脱离人工控制进行独立判断，届时侵权主体的重新界定将会突破现行法的局限。医疗人工智能的发展，使重新审视涉人工智能的医疗损害纠纷中的责任分配机制具备了现实意义。二、相关理论及概念（一）人工智能的界定随着数据处理能力进一步提升，如今我们人类已经进入了人工智能时代，依托海量数据储存归纳分析来做出类似人类、甚至超越人类决策的人工智能在社会的方方面面都具有巨大潜力，向人类暗示着解放人力的、更加公平的、更加美好的全新未来。智能时代的人工智能在本质上是计算机的延伸，但又因其“模仿人类、超越人类”的设计目标需要心理学、哲学、语言学等多类人文学科指导，目标是在承担只有人类才能进行的工作的基础上进行扩展，克服人类身体、精神上的缺陷完成人类不能完成的高难度工作，在排除人类身体、心理上的干扰的优势下做出更加准确合适的决策。一般来说人工智能按照其具备的功能由少到多分为弱人工智能、强人工智能和超人工智能三个阶段，弱人工智能不能进行真正的理解和通过推理解决问题，只能实现如智能导航、语音文字转化等特定的功能；强人工智能具备对事物的识别认识能力，具有独立的、与人类类似的思考意识；超人工智能则代表着人工智能在各个方面全面超越人类能力。由于人工智能在近十年时间内出现了许多惊人的成果，在关于我们目前处于弱人工智能阶段还是强人工智能阶段这一问题上学界存在许多争议。要要厘清这一问题需要回顾人工智能设计的理论并从中提炼出强人工智能的实质判断标准。有部分学者认为现在人类已经进入了强人工智能阶段，他们以人工智能在自动驾驶和智能投资顾问等领域内无需人类控制而独立运行执行较为复杂的任务为依据认为人工智能已经具备独立自主性。笔者认为独立自主性确实是人工智能进入强人工智能时期的最重要标志，但是判断其独立自主性的依据应当是是否成功将人脑智能的结构功能“移植”到计算机中使其拥有人类对事物的识别认识能力而非人工智能程序运行表象，这就是在人工智能领域主流的“人工神经网络理论”所阐述的研究目标。（二）人工智能在医疗领域的应用人工智能应用于医疗领域即称为医疗人工智能，这种应用已经覆盖到了医疗诊断、治疗、护理、医院智慧管理、药物研发、健康管理、传染病预防控制等各个领域，并且已经在提高手术精准度、扩大医生视野范围等方面取得了显著成效，甚至在应对这次“全球大考”新冠肺炎疫情时医疗人工智能也发挥了重要作用。在人民生活水平日益提高的今天，对更好医疗保健服务的需求与医院医生护士数量不足、经验有限、医疗资源分布不均衡之间的矛盾已经产生，而医疗人工智能应用是缓解这个矛盾的重要方法之一。医疗产业的现实需要推动着人工智能导向化升级，人工智能的发展也促进着医疗产业的繁荣。1.医疗人工智能诊断医疗人工智能影像系统可以初步筛选某些疾病的显著症状，辅助医生提高工作效率，这一应用在医疗行业已经得到广泛认可。在本次我国抗击新冠肺炎疫情中，北京天士力医药有限公司研发的新冠肺炎智能热板系统在包括湖北省在内的全国1500多家医疗机构内投入使用，该系统在疫情期间扫描了超过400万张患者的CT影像并且从中筛选出2万多名具有肺炎CT影像特征的疑似患者以供医生进行进一步诊断。除了巨大的扫描数量，新冠肺炎智能热板系统的“阅览”速度也远超人类医生，该系统可以在15秒时间内对1个患者的CT影像进行分析并得出结果，每扫描1个患者可以为医生节省15分钟阅览CT影像时间。2.医疗人工智能治疗医疗人工智能不仅能帮助医生“早发现”还能帮助他们高效治疗患者，这就是外科手术机器人。目前世界上最有名的手术机器人之一——达芬奇手术机器人（LeonardoDaVincisurgicalrobot）最早在2000年被美国食品药品管理局（FDA）批准在美国医院各类微创手术中使用，随后英国也开始使用类似的手术机器人。在临床实践中手术机器人凭借其人类难以匹敌的精准定位、准确执行能力很快成为了手术医生的第二双手，帮助医生完成需要精准定位的高难度手术。（三）侵权责任及归责原则《民法典》侵权责任编对医疗人工智能适用何种侵权责任尚无明确规定，理论界一直存在对医疗损害责任、产品责任、高度危险责任等不同责任的争论，而不同的侵权责任又会导致不同的归责原则，不同的构成要件，当事人不同的举证责任，进而引发案件的不同法律后果。故对侵权责任的分析就显得尤为重要，目前学界对此主要有以下几种观点：产品责任说医疗人工智能属于产品中的医疗器械，因其缺陷致人损害属于产品责任毋容置疑，且《民法典》1223条规定患者因医疗器械致损，可向生产者或者医疗机构请求赔偿无疑更加印证了产品责任说。梁慧星教授认为：“医疗产品缺陷致损虽构成侵权，但应适用《产品质量法》43条的规定。”上文提到，产品生产者和销售者对产品缺陷承担无过错责任。只要产品缺陷导致他人损害的，无论生产者、销售者是否有过错，受害者都可要求其赔偿。将医疗器械损害责任归入产品责任的观点具有合理性，但也存在一些缺陷：首先，产品责任说无法将医疗人工智能的侵权行为完全评价到位，在一定程度上忽视了医疗损害责任中医疗机构的过错行为。由于医疗人工智能不同于普通的产品，它与医疗机构的医疗行为有着密切联系在使用过程中稍有不慎就会直接威胁到患者的健康权、身体权甚至生命权。当医务人员在实施医疗行为时，如存在过错或者过失导致患者损害，就会产生医疗损害责任。其次，医疗人工智能产品属高科技产品，不可避免存在技术黑箱，在证明产品缺陷的问题上，无论是处于相对优势地位的设计者亦或较为弱势地位的受损方都不是件容易的事，这将直接导致产品缺陷与损害结果间的因果关系证明困难。再次，我国尚未出台关于医疗人工智能的国家标准、行业标准，举证程度和标准仍不明确。最后，最近规则的适用不尽合理。《民法典》条规定的医疗机构对缺陷医疗产品致害承担无过错责任实为最近规则的运用，受害方可以依据缺陷医疗产品造成其损害的事实选择造成其损害的医疗机构行使请求权，该规定虽然便于受害方及时提起诉求，但却在无形中加大了医疗机构的赔付责任，不利于医疗机构积极开展医疗行为。三、医疗人工智能责任适用存在的问题（一）医疗人工智能产品司法认定的困境未将缺陷类型化我国《产品质量法》并未直接对产品缺陷进行分类，而是采用较为模糊的标准综合判断产品是否存在缺陷。但在《民法典》出台的背景下，我们对法律精细化的要求越来越高，特别是在复杂的人工智能产品视域下，不区分缺陷类型的粗糙判断模式显然无法满足现实中我们对解决医疗人工智能产品缺陷认定的需求。例如，医疗人工智能的生产包括设计和制造，生产者也就包括设计者和制造者，设计者在医疗人工智能产品质量中的作用不言而喻，但制造者作为既有设计的执行者，可能并不理解或无法识别设计是否存在缺陷或者瑕疵，对产品设计上的缺陷也不具有控制力。若按照《产品质量法》26条的笼统规定：生产者需要承担产品生产环节缺陷所引发的产品责任，那制造者就不得不对自己无法预计、无法控制的损害承担责任，此时的责任承担就丧失了公平性，这也违背了立法的初衷。事实上，比较恰当的做法是采取细致化的分类与分析，即根据不同的侵权主体所处不同阶段所造成的缺陷分别分析适用不同的归责原则、判断方法乃至认定标准，不然，单以某一缺陷为标准进行规制在实践中就会显得捉襟见肘，在责任承担时也有失公允。因此，有必要结合人工智能产品的特性，将医疗人工智能的生产及使用阶段进行划分，对产品缺陷进行类型化分析。（二）人工智能产品缺陷类型及认定标准产品缺陷的类型及归责原则的适用若侵权行为的产生原因是产品缺陷，那由生产者承担产品责任是毋庸置疑的，但综合考虑产品缺陷的分类及缺陷对应的归责原则，无过错责任并不能完全适用，故需要对产品缺陷进行类型化分析，否则在医疗人工智能产品缺陷认定问题上容易陷入桎梏。依据比较法研究与学界通说，产品缺陷主要有三，分别为制造缺陷、基于风险收益一致原则，让其承担责任可督促技术的进步，也有利于受害人的救济，故对医疗人工智能设计缺陷致害同样可适用无过错责任；其三，对跟踪观察缺陷而言，虽然美国《侵权法重述第三版》将违反跟踪观察义务的损害赔偿责任界定为过错责任，但笔者认为将跟踪观察仅停留在传统的义务层面已经无法适应人工智能产品更迭的现实与发展的需要，此外，自带缺陷的医疗人工智能投入使用后迟早会引发侵权行为致损事件，严重时甚至导致患者死亡，基于是产品自身的问题以及保护受害方的需要，跟踪观察缺陷也宜适用无过错责任；其四，针对警示缺陷致害应当放弃无过错责任的适用，回归过错责任原则。主要是因为警示缺陷致害案件的焦点系生产者、销售者警示行为的有无以及是否充分，并不涉及产品，而制造缺陷、设计缺陷、跟踪观察缺陷致害案件则以医疗人工智能本身为中心。因此，警示缺陷致害时采用过错责任原则更为恰当。综上，当产品存在制造缺陷、设计缺陷时，应适用无过错责任。由于医疗人工智能系统尚未达到完全没有风险的状态，故其生产者还需要履行跟踪观察义务。（三）举证责任划分难以确定现阶段，我国依据《产品责任法》和《民事诉讼法》的诉讼举证规则，因果关系要件实行举证责任倒置，即由生产者、销售者承担无因果关系的举证责任，采纳的是完全推定说的理论主张。这种因果关系举证制度的设计目的是为了最大程度的保护受害方，即完全免去了受害者因医学复杂性、人工智能不确定性、自己对相关专业技术知识的缺乏等无法提供证据的责任，降低了受害者的诉讼负担，但相应的要求生产者或销售者对相关证据予以提供，否则就将被推定承担不利的法律后果，增加了被告方的诉讼难度。而医疗人工智能深度学习带来的不确定性以及医疗行为的复杂性本身就不易证明，此举使生产者、销售者背负过重的赔偿责任压力，不利于医疗与人工智能的积极发展。笔者基于合理分配证明责任的考虑提出医疗人工智能侵权责任的举证责任分配适用举证责任缓和规则。在举证责任缓和规则下，对因果关系的举证责任应遵循“受害方对因果关系的存在提供初步证据——推定因果关系成立——生产者、销售者进行反证——不能证明无因果关系时推定有因果关系”的程序。即当受害方对缺陷与损害之间的因果关系的证明无法实现或很难完成时，由受害方提供初步证据，实行因果关系的推定，举证责任转换。这种附条件的因果关系的推定不同于现行法律中规定的完全因果关系推定，它没有完全免除受害方的举证责任。四、医疗人工智能侵权责任的完善建议（一）增加人工智能产品证明责任的证明形式增加证明责任的证明形式上文提到，因果关系的举证应适用举证责任缓和，但当举证责任转移至生产者时，生产者要证明不存在因果关系也并非简单的事。对此可以借鉴引入域外相对成熟国家的辅助证明模式，例如组织医学专家和法学专家作为专家组，共同参与鉴定活动，对鉴定结果发表意见，作出最终结论。日本成立的依法注册的专门从事医疗事故技术鉴定的医疗鉴定所的做法值得肯定。澳大利亚的卫生法庭上，律师有权利以顾问的身份出席，对专门事故的处理发表法律意见，必要时，法院也可以自己的名义行使职权调查取证。此外，可以构建实时监控系统，设立统一的技术认证和追踪平台，从源头寻找责任主体，荷兰乌得勒支大学斯朱尔迪尔科博提出利用人工智能分析人工智能，开发能够追踪人工智能系统的人工智能技术工具，利用算法从复杂的因果关系中提炼重点，寻找归责依据。也可以在医疗人工智能中植入黑箱，需要注意的是，黑箱装置应早于或者与人工智能同时投入使用，并且装置的装配责任应该由生产者承担，生产者如无法提供或者故意采取毁损等不当行为的，则在法律上推定其承担不利后果。首先，实践中存在不少对鉴定机构资质的质疑。如陈宁庆诉浙江省人民医院医疗损害责任纠纷案中，被告提出绍兴文理学院作为鉴定人，不具备相应的资质，申请法院排除其鉴定意见。然而法院以被告未能提交证据证明绍兴文理学院不具有鉴定资质为由驳回了被告的意见。此外，随着人工智能技术在医疗领域的深入应用，我们对医疗鉴定技术的全面化专业化程度提出了更高的要求，鉴定范围的扩大和鉴定内容的丰富，使现在具备资质的鉴定机构未必在将来仍然符合相应的资质要求，即判断鉴定机构出具的鉴定意见是否科学的过程应当是动态的。具体而言，法院应当在查证鉴定意见的内容前，根据每个案件的具体情况对鉴定人的鉴定能力作必要审查。在医疗人工智能侵权纠纷中，鉴定的内容还应包括人工智能产品本身、在使用过程中是否出现故障、能否被医务人员预见等，鉴定范围也需要根据人工智能产品的特征相应增加或改变，如达芬奇机器人的机械臂的使用寿命很短，使用十次就需要更换等。（二）规范医疗人工智能对事实认定的作用患者很难提供医疗损害纠纷的证据，如何在医疗机构和患者之间分配举证责任是医疗困难的核心问题。根据最高人民法院关于我国侵权责任法有关规定的解释以及有关医疗责任纠纷案件适用法律的若干问题，医疗机构应当对医疗纠纷承担赔偿责任。如果患者要求，治疗和受伤的证据。如果患者未能向医疗机构及其医务人员提供疏忽的证据，则诊断和治疗行为与伤害之间存在因果关系，并且依法提起医疗伤害鉴定提议，人民法院将应当给予许可。医疗人工智能不断发展，医疗损害中因果关系和过错鉴定的鉴定将需要更高的水准，在相关人才储备尚未充足的情况下，专家鉴定的成本就愈加高昂。而另一方，从涉及人工智能医生的医疗损害需要鉴定专家同时具备医学和人工智能学的双重背景，所作出的鉴定才更具有说服力。专家根据自身的专业知识、技能和经验，对法官做出事实判断进行辅助。结合实践过程普遍鉴定意见缺乏公信力、鉴定人出庭难等问题，也会在很大程度上影响医疗损害案件处理结果的公正。因此，在筛选鉴定人或专家证人的过程变得更为困难。在中国所涉及到的达芬奇医生医疗纠纷案件中，就出现了对鉴定机构资质的质疑。在陈宁庆诉浙江省人民医院医疗损害责任纠纷案中，患者术后出血，一审法院根据绍兴文理学院的鉴定意见，判决被告承担侵权责任。被告以鉴定程序违法和绍兴文理学院不具备鉴定机构不具备鉴定资质为由上诉。而二审法院则认为对于鉴定机构的筛选符合法定程序，且一审法院所选择的绍兴文理学院具备鉴定资质，采纳了原有的鉴定意见，驳回了被告上诉。（三）人工智能医疗侵权责任配套制度的完善事前、事中和事后三重监管上文提到，我国的医疗人工智能生产者、销售者免责可以引入域外立法的审批登记制度，即事前准入监管。因为医疗人工智能作为人工智能的最前沿技术之一，除了依靠设计者的技术支持外，发展之初也离不开有关部门的有效监管。在医疗人工智能正式投入使用前，事前监管可以可以借鉴美国关于无人驾驶的《自动驾驶法案》：无人驾驶汽车的路测与上市必须经过审批。也可参考《欧共同体产品责任指令》第7条（d）：遵循政府强制性法律规范后导致产品缺陷的免责，这与我国的《医疗器械分类目录》相类似。政府的监管一方面给予了医疗人工智能公示公信力，增强了公众对医疗人工智能的信心；另一方面也有利于区分责任，即符合审批制度的侵权与不符合审批制度的侵权应该区别对待。通过了监管机构的审批和登记，生产者即获得了抗辩是由，制造者与研发者对于审批登记制度的尊重与遵守，换来了承担相对有限的侵权责任。而其本应承担但实际减少的责任可以由下文将提到的保险、基金等方式负担，最大化实现对于受害方的救济，同时也利于对生产者、销售者的保护。而对于未经过审批的人工智能，特别那些未经性能安全标准评估就投产的产品，其研发者、生产者、销售者必须承担严格的责任。此外，由于弱人工智能时期医疗人工智能尚不具有主体资格，故此举不仅有利于为医疗机构输入合法的医疗人工智能资源提高保障，且有利于对市场秩序的安排及后续的行政管理便利。笔者认为，医疗人工智能作为新兴事物，考虑到实践应用中可能遇到的问题，我们还可以将监管的范围扩展至事中乃至事后。事中监管是指在医疗人工智能使用过程中采取必要的措施，防止侵权的发生。主要可以从以下两个方面展开：一是对医疗机构的风控机制。一方面，提高医务人员的风险意识与认知水平，并重点对医疗人工智能的操作行为全程监测，关注上市后的再评价。另一方面，做好使用人员的培训，医务人员除了掌握基础的操作能力，更重要的是学习面对突发状况的应急处理。二是对产品生产设计者的风控机制。一方面，需要提高生产企业的风控意识，突出强调设计、制造商的责任机制。结语在初级阶段，人工智能医生难以进行诸如自然人的价值判断与情感判断活动。人工智能医生或许可以模拟情景，但无论是主体的自我认知，还是价值体系构建和行为模式选择，都是人类的意识。人工智能可以模拟情感，但不能产生感情涟漪。在短期内，人工智能医生既不具备人类的情感，也不具备独立完成手术的能力，人工智能医生需要在人类医生的监督之下工作，在外科手术中起到辅助的作用。这意味着在人工智能发展到一定程度前，要么将人工智能医生视为特殊物或将其赋予有限的法律人格更为妥当。在医患供需关系不断紧张的今天，医疗人工智能缓解了该矛盾、促进了医学领域的发展，但客观上也产生了许多法律风险需要解决。医疗人工智能的发展定位终将是医生的辅助者而非独立个体，这是由人类社会的需求