人工智能伦理导论（第二版）课件 第12章 法律与人工智能

第12章法律与人工智能目录CONTNETS12.1人工智能法律问题12.2人工智能法律主体问题12.3自动驾驶汽车法律问题12.4生成式AI的法律监管挑战12.5人工智能著作权问题12.6人工智能医疗法律问题12.7现行法律对个人信息隐私的保护本章学习要点1.学习和了解人工智能法律问题。2.学习和了解人工智能的法律主体问题。3.学习和了解自动驾驶汽车法律问题。伦理规范与法律是调整、维护人类社会稳定、公平、正义的两种重要方式。传统的伦理道德对人与人之间关系做出种种约束和规范，更多是非强制性的。当社会中人与人之间、人与组织之间的关系超出伦理道德约定的范围，就需要法律来处理。人工智能伦理试图对人与智能机器之间的关系做出约束和规范，某种程度上，是人类对机器的伦理做出强制性规定，以免人工智能产生不符合人类伦理道德行为。但是，如果人工智能技术被恶意地用于伤害人，侵犯人的身体、精神、财产，甚至为祸社会，就超出了人工智能伦理所能约束的范围。同样的，应由法律来处理。人工智能面临的各种法律问题，与人工智能伦理问题类似，都是随着人工智能的快速发展而出现的新问题。目前，尚没有对于人工智能各种违法情况作出全面判断的法律。人工智能法律问题对于法学领域也是全新的研究领域。本章通过自动驾驶汽车、人工智能著作权、智能医疗方面的法律问题，理解人工智能面临的特殊法律问题发生时，法律应如何作出裁决或及时弥补漏洞，防止更大的危害发生。学习导言12.1人工智能法律问题01法律的基本定义法是由国家制定或认可并依靠国家强制力保证实施的，反映由特定社会物质生活条件所决定的统治阶级意志，以权利和义务为内容，以确认、保护和发展对统治阶级有利的社会关系和社会秩序为目的的行为规范体系。02法律的社会作用法律是维护国家稳定、各项事业蓬勃发展的最强有力的武器，也是捍卫人民群众权利和利益的工具，也是统治者统治被统治者的手段。法律是一系列的规则，通常需要经由一套制度来落实。但在不同的地方，法律体系会以不同的方式来阐述人们的法律权利与义务。03法律的明示作用法律的明示作用主要是以法律条文的形式明确告知人们，什么是可以做的，什么是不可以做的，哪些行为是合法的，哪些行为是非法的。04人工智能与法律的关系对于人工智能而言，法律在处理人与人工智能之间的关系或者人工智能引发的问题时，扮演着界定权利与义务、确立行为规范、分配责任以及引导技术发展的关键角色，旨在确保人工智能技术的开发与应用符合社会伦理与安全标准，从而在创新与监管之间寻求平衡。比如，利用深度学习生成对抗网络生成以假乱真的图片或视频来假冒某人有可能实施散布不法信息等违法犯罪行为。比如图12.1中的人脸都是由深度学习生成对抗网络模型生成的，都是世界上根本不存在的人。这些技术可能被用于诈骗、恐吓等违法犯罪行为。

图12.1由深度学习方法生成的人脸因此，对于人工智能而言，有很多超出伦理范畴的法律问题，比如在法律上，当发生机器人意外时，应如何划分设计者、生产者、用户甚至是机器人本身的责任？规范机器人的法律体系是否同人类的法律体系一样？

这些问题已经不是道德伦理规则所能回答和解决的，而必须诉诸于法律。人类除了为人工智能创建一个符合人类利益的伦理体系，也要创建一个合理的、与伦理配套的人工智能法律体系。我国目前也将人工智能的发展上升到了国家战略的高度，相关的法律法规也已经开始了具体的制定和出台。例如，2017年7月20日，国务院印发了关于《新一代人工智能发展规划》的文件，提出了对于人工智能管理的法律政策体系的三步走战略：第一步到2020年，初步建立人工智能相关的伦理法规；第二步到2025年，初步建立新一代人工智能技术体系，形成对于人工智能的安全评估和规范化管控；第三步到2030年，建成关于人工智能完善的法律法规和政策体系。《规划》强调，要从法律法规、伦理规范、重点政策、知识产权与标准、安全监管与评估、劳动力培训、科学普及等方面做好人工智能发展的重要保障。我国发展战略从现阶段来说是在合理限度内促进人工智能发展，而不是限制其发展。世界各国的发展战略大多采取了促进人工智能技术发展的同时，制定配套法律防止人工智能开发风险的取向。例如，美国、德国通过修改或制定道路交通安全法，欧盟承认人工智能为电子人法案，韩国提出人工智能法案等做法都体现了这一趋向。全球发展趋势十三届全国人大常委会第三十次会议2021年8月20日表决通过《中华人民共和国个人信息保护法》。其中明确：通过自动化决策方式向个人进行信息推送、商业营销，应提供不针对其个人特征的选项或提供便捷的拒绝方式。处理生物识别、医疗健康、金融账户、行踪轨迹等敏感个人信息，应取得个人的单独同意。对违法处理个人信息的应用程序，责令暂停或者终止提供服务。12.2

人工智能法律主体问题根据现行我国的《民法通则》第37条规定，法人必须具备四个条件一一依法成立、必要财产、场所、章程。

中国法人设立条件在不远将来，为了适应市场经济和社会的法律关系的确定，为了明确主体责任和义务，类似《民法通则》的法律必然要考虑增加对“软件法人”的定义。而财产、场所和章程对于智能机器来说也是具备的。此时，这种新定义的“软件法人”虽然只是一段不断运行的代码，但由于它的代码运行使其占有某些资源，可以通过资源配置去操控某些设备和市场关系，所以具有民事权利、义务和责任确定的需要。

“软件法人”的未来构想按照现有各个国家的法律制度，法人一般是指具有民事权利能力和民事行为能力，依法独立享有民事权利和承担民事义务的组织。法人是世界各国规范经济秩序和社会秩序的一项重要法律制度。各国法人制度具有共同的特征，但其内容不尽相同。

法人基本概念自然人根据《中华人民共和国民法总则》的相关规定，民法上的法律主体包括自然人和法人，两者具有民事权利能力，依法享有民事权利，承担民事义务。自然人系法律主体而非客体，是基于人本主义的伦理基础，出于对人之为人的尊重。无民事行为能力或限制行为能力人的自然人（例如婴幼儿、儿童、精神病患者），虽然其行为能力须由其法定代理人予以补足，但是其均具有独立的法律人格，得以享受民事权利，承担民事义务。而活体出生的婴儿，因为具备了有限且发展中的伦理地位，在法律上亦被拟制为具有“有限”民事权利能力的法律人格（限于遗产继承、接受赠予等与胎儿利益保护相关的法律关系）。法人此外，基于社会与经济活动的实践需要，民法将法人拟制为法律主体，使之具有独立于设立者或成员的法律人格、财产，独立地享受民事权利、承担民事义务和责任。法人的意思能力和行为能力需借由代表法人的自然人或机构，或者通过代理人来实现。法律界共识

法律地位现状

现行法并没有确立人工智能的法律主体地位。按照常识也可以认为，没有自我意识的、专用智能系统并不具有法律人格。它们只是人类借以实现特定目的或需求的手段或工具，在法律上是处于客体的地位。

目前，法律界对这个的问题的共识是，当前赋予人工智能以法律主体地位是不必要的、不实际的、不符合伦理的。不具备人格的理由即使人类目前很难理解或解释深度学习算法如何且为何作出决策且在很多方面表现出超越人类的智能性，但这并不足以构成赋予人工智能以法律人格的理由，因为深度学习算法的设计、生成、训练机器学习等各个环节都离不开人类的决策与参与。相关法律问题归属而设计者是否要对其无法完全控制的深度学习算法决策及其后果承担责任，并非涉及法律主体的问题，而是关系到归责原则的问题。

人工智能的法律主体地位：12.3

自动驾驶汽车法律问题人无论做什么事情，都要对结果负责，所以有自然人和法人的负责形式。但是，自动驾驶汽车发生事故哪一方应该承担法律责任呢？2016年5月，一辆某知名品牌电动车在美国佛罗里达州以自动驾驶模式行驶时与一辆横穿公路的货车相撞，导致电动车主丧生。这是世界范围内曝光的首例自动驾驶功能的交通死亡事故。图12.1中是这辆事故汽车。图12.1发生事故的首辆自动驾驶汽车这起事件已经显示出了自动驾驶汽车所引发交通事故的法律责任界定的困难。完全自动驾驶汽车实现商用后，一旦发生交通事故，势必挑战现行的法律法规，其中包含了设计、制造、用户的多重法律关系。；经过长期调查，2017年1月公布的调查报告结果显示事故原因与自动驾驶系统无关，这也意味着公司无需承担相应法律责任。；法律是人制定的，也是随时代发展而变化的，为适应自动汽车上路，美国等国家对关于自动驾驶汽车的法律规定解除了限制，允许自动驾驶汽车有条件地上路。；人工智能侵权责任是法律面临的最为急迫的问题，亟待现行法提供调整方法。自动驾驶机动车引发事故的民事责任同样发生了变化。；自动驾驶汽车上路最大的法律基础或法理是，把研发、生产自动驾驶汽车的人员和机构作为责任人（法人）。尽管如此，现今的法律也只是有条件地允许自动驾汽车上路，主要是测试。2017年5月德国通过自动驾驶法律德国法律明确责任划分机制德国法律的具体限制与留白2017年10月日本推出自动驾驶安全标准日本安全标准的具体规定各国法规的开放性比较这部法律首先明确了法律责任，如果在人为驾驶的情况下发生事故，驾驶人承担事故责任；如果是人工智能系统引发事故，将由汽车制造商承担责任。判断人为驾驶还是自动驾驶将由汽车上安装的一个类似黑匣子的装置来确认，该装置可以记录系统运作、要求介入和人工驾驶等不同阶段的具体驾驶情况，以保证在出现交通安全事故时，明确责任划分。2017年10月14日，日本国土交通省首次推出了关于自动驾驶的安全标准。显然，德国的自动驾驶汽车的法律最开放，但时间未定，美国次之，日本的基本还算不上自动驾驶法规。规定必须搭载一种功能，在路上自动行驶时，当司机手离开方向盘超过65秒就自动切换为手动驾驶模式，当驾驶者的手离开方向盘驾驶15秒以上，自动系统将向驾驶席发出警告。如继续保持手离开方向盘的状态，50秒后自动驾驶系统将停止，切换为手动驾驶。该规定只适用于2019年10月起具备自动驾驶功能的新车型。目前正在销售的车型从2021年4月起适用该标准，二手车除外。当然，德国的这部法律也还不涉及自动驾驶的最高级L5级，该法律规定驾驶席必须有司机，并且要保留方向盘、油门和刹车等配置，以保证在自动驾驶系统出现故障的情况下，驾驶者能及时介入，进行人工驾驶，并且在何时能让自动汽车上路也语焉不详。2017年5月12日，德国联邦参议院通过首部自动驾驶汽车的法律，允许汽车自动驾驶系统未来在特定条件下代替人类驾驶。2019年9月，《上海市智能网联汽车道路测试和示范应用管理办法（试行）》的出台，使上海成为国内首个为企业颁发智能网联汽车示范应用牌照的城市，并推动测试牌照区域互认。我国尚无关于自动驾驶汽车的明确法律，但在2018年《智能网联汽车道路测试管理规范（试行）》允许路测后，各地已出台推动其应用落地的政策。长远来看，我国自动驾驶汽车技术和产业的发展普及需要在安全标准、道路测试、商业试点、高精地图、责任保险等多方面配套推进政策措施，并积极废除或修改阻碍发展的既有法规和标准，才能确保在制造业与ICT融合的自动驾驶汽车领域抢占全球高地。北京、广州、长沙、武汉等城市已允许载人、载物、编队行驶等测试情形，例如2019年12月北京出台《北京市自动驾驶车辆道路测试管理实施细则(试行)》，允许此类测试，推动智能网联汽车向商业化和市场化迈进。

无论是国外还是国内，自动驾驶汽车上路和运营还有漫长的路要走。机器人交互的法律等同性如果人们对待机器人就像对待真人一样，那么法律就应该认可人类与机器人之间的互动等同于人与人之间的互动。这提出了一个基本前提：当社会互动模式发生变化时，法律框架是否需要相应调整以反映这种新的现实。01无人驾驶汽车的法律主体争议是否赋予无人驾驶汽车法律主体地位，由它们承担独立的法律责任，这些都是对人类现有法律体系的挑战。核心议题在于，自动驾驶系统能否被视为独立的权利与义务承担者。02支持赋予法律主体的专家观点有专家认为应当赋予无人驾驶汽车作为法律主体，也就是说，如果承认了自动驾驶汽车的软件法人地位，出现事故时，这个软件法人可能承担一定责任，可以用它的资源来进行经济补偿，可以通过限制它的代码运行时间、范围和速度来对其进行惩罚。这种观点试图为事故责任分配提供一种新的、基于技术实体的解决方案。03现阶段赋予法律主体的不成熟性但是按照关于法律主体的认定，现阶段赋予自动驾驶汽车以法律主体地位的时机显然还不够成熟。这是因为当前法律体系对“主体”的定义通常基于自然人或有明确法律人格的组织，而人工智能系统缺乏意识、意图和真正的自主性，将其直接上升为法律主体可能在法理基础、责任追溯和伦理层面存在重大障碍。0412.4

生成式AI的法律监管挑战生成式人工

智能技术01生成式人工智能技术的快速发展为法律监管带来了前所未有的挑战。02与传统的分析型AI不同，生成式AI具有创造性输出、高度自主性和广泛适用性等特点，这些特征使得现有的法律框架在应对生成式AI时显得力不从心。03从内容生成的版权归属到深度伪造的法律责任，从算法偏见的监管到数据使用的合规要求，生成式AI的法律监管涉及多个法律领域的交叉和冲突。1.内容生成的法律地位认定传统的知识产权法基于人类创作者的假设，但生成式AI能够独立创作文本、图像、音乐等作品，这挑战了现有法律体系的基本概念。当AI生成一幅画作或一首诗歌时，谁是真正的作者？是AI系统本身、AI的开发者、提供提示的用户，还是训练数据的原始作者？不同的认定会导致完全不同的法律后果和权利分配。01传统著作权法要求作品具有最低限度的创作性，但如何评判AI生成内容的创作性存在争议。AI的创作过程虽然基于算法和数据，但其输出往往具有新颖性和独创性，这是否满足法律对创作性的要求？02当AI基于现有作品进行“再创作”时，生成的内容是否构成衍生作品？如果构成，是否需要获得原作品著作权人的许可？这种界定对AI训练和应用的合法性具有重大影响。03企业使用生成式AI创作商业内容时，面临版权侵权的法律风险。即使AI生成的内容看似原创，但如果被认定为侵犯他人著作权，使用者可能承担法律责任。04著作权主体认定创作性标准评估衍生作品界定商业使用风险2.训练数据使用的合法性争议合理使用原则的边界支持者认为AI训练类似于人类学习，应当适用合理使用原则。但批评者指出，大规模商业性训练超出了合理使用的范围，特别是当训练数据被用于商业目的时。跨境数据合规挑战AI训练往往涉及全球范围的数据收集和使用，不同国家的数据保护法律要求差异巨大，如何确保合规成为技术公司面临的重大挑战。数据使用的合法性争议生成式AI的训练通常需要大量数据，这些数据的使用是否合法成为监管的焦点。大多数AI系统在未经明确授权的情况下使用互联网上的公开内容进行训练，这种做法的合法性受到广泛质疑。数据权利人同意问题现有的网络服务条款通常不包含AI训练的授权，数据权利人是否在不知情的情况下同意了AI训练使用？这种默示同意的有效性存在法律争议。集体授权机制的探索一些地区开始探索建立集体管理组织来处理AI训练的版权授权问题，但这种机制的有效性和可操作性仍需验证。3.深度伪造与信息真实性监管刑法规制的适用难题生成式AI强大的内容生成能力带来了深度伪造（Deepfake）等信息真实性问题，对现有的法律监管体系提出了严峻挑战。现有的诈骗、诽谤等刑法罪名在应对深度伪造时面临取证难、因果关系复杂等问题。如何在保护言论自由的前提下有效打击恶意深度伪造成为立法难点。技术标识的法律要求一些法域开始要求AI生成内容必须进行技术标识，但这种要求的技术可行性和执行效果存在争议。民事责任的归属问题平台责任的界定当深度伪造内容造成他人损害时，责任应当由内容制作者、传播者还是技术提供者承担？现有的侵权责任法在应对这种新型侵权行为时存在适用困难。社交媒体和内容平台对深度伪造内容应当承担什么样的责任？是否应当建立主动监测和删除义务？这种义务的边界在哪里？4.算法偏见与歧视的法律规制传统反歧视法要求证明歧视意图，但算法歧视往往是无意识的结果，如何在缺乏主观恶意的情况下认定歧视成为法律难题。传统的反歧视救济措施主要针对个案，但算法歧视具有系统性特征，需要更加全面和前瞻性的救济机制。生成式AI可能会放大和传播训练数据中存在的偏见，导致歧视性输出。现有的反歧视法律在应对算法歧视时面临概念和证明上的挑战。一些法域开始建立算法影响评估制度，要求在算法部署前评估其可能的歧视影响，但这种制度的设计和实施仍在探索中。AI系统的决策过程复杂，很难确定特定的偏见来源和影响路径，这增加了歧视认定和责任追究的难度。影响概述预防性监管的建立救济措施的有效性因果关系的复杂性歧视意图的认定困难5.隐私保护与数据安全挑战01020304隐私保护法通常要求遵循数据最小化原则，但生成式AI往往需要大量多样化的数据才能实现良好性能，这两者之间存在内在冲突。数据收集时的用途说明可能不包括AI训练，将数据用于AI训练是否违反目的限制原则？这种用途扩展的合法性需要明确。在大规模AI训练中，很难准确识别和隔离特定个人的数据，这使得数据主体权利（如删除权、更正权）的行使面临技术障碍。AI训练往往涉及全球范围的数据流动，不同国家的数据保护法要求差异巨大，合规成本高昂。12.5

人工智能著作权问题图12.2微软小冰创造的诗集及其中一首诗歌片段深度学习驱动的人工智能系统在文学艺术领域已经绽放异彩。2015年，索尼公司旗下的人工智能品牌FLOW

MACHINE通过大数据分析，根据各地区不同编曲的特点，成功自主谱写了两首通俗歌曲。2017年5月，微软小冰推出了诗集《阳光失了玻璃窗》，如图12.2所示，这部人类历史上第一部100%由人工智能创作的诗集，是“微软小冰”从1920年以来的519位中国现代诗人的作品中学习，经过超过1万次的迭代学习，逐渐形成了自己风格的诗作。12.5.1人工智能体著作权归属法律问题

图12.2微软小冰创造的诗集及其中一首诗歌片段日本、美国也都纷纷出现了人工智能创作的各种文学作品。人工智能已然将触角伸向人类引以为自豪的创作领域。未来，人们将如何看待这些新生的事物？它的出现到底是人类智慧的体现，还是在向人类所特有的创造力挑衅？在法律上，人们又将如何对这类创作物进行定性？这些作品的著作权应该如何认定？人们是否需要对这些作品进行产权立法保护？这些问题牵涉到现行著作权法的适用性以及对这些作品著作权等方面的新的法律规定。2012年3月,我国《著作权法》的第三次修改草案发布。其中,对著作权所保护的作品的范畴做了很明确的界定。即为:为保护文学、艺术和科学作品作者的著作权,以及与著作权有关的权益,鼓励有益于社会主义精神文明、物质文明建设的作品的创作和传播,促进社会主义文化和科学事业的发展与繁荣,根据宪法制定本法。本法所称的作品,包括以下列形式创作的文学、艺术和自然科学、社会科学、工程技术等作品:(一)文字作品;(二)口述作品;(三)音乐、戏剧、曲艺、舞蹈、杂技艺术作品;(四)美术、建筑作品;(五)摄影作品;(六)电影作品和以类似摄制电影的方法创作的作品;(七)工程设计图、产品设计图、地图、示意图等图形作品和模型作品;(八)计算机软;(九)法律、行政法规规定的其他作品。其后，在自2013年3月1日起施行的《著作权法实施条例》中对《著作权法》的作品进行了进一步解释：著作权法所称作品是指文学、艺术和科学领域内具有独创性并能以某种有形形式复制的智力成果。可见，我国《著作权法》保护的对象也是“具有独创性”的“智力成果”。人工智能依托算法的运算逻辑与整合输出生成内容，其整合运算一输出的创作模式已经不同于一般的作品创作，更近似于集体舞蹈创作、大型节目编排等邻接权保护内容的制作。人工智能创作内容若适用邻接权保护的机制，则应当设定客体、内容、主体及权利归属、保护期限、侵权责任判定、权利限制等具体的必备性框架内容。12.5.2

人工智能生成作品的法律判定依据这一案件被媒体称为“人工智能写作领域第一案”，因为目前我国的的著作权法并未明确对人工智能的著作权归属问题作出明确规定，因此此案的判定在司法界具有十分重大的意义。该案件在相关立法尚未明确的情况下，从正面对人工智能生成内容可版权性进行了回应。主要明确的是两个问题：第一，人工智能软件生成的作品是否构成著作权法意义上的作品；第二，如果构成作品，那么著作权主体如何行使权利。这两个问题，在法院的判决书中都做出了解答。其一，法院明确了Dreamwriter软件作品的独创性，这也就回应了此作品构成了法律意义上的作品；其二，虽然Dreamwriter不是自然人，但其作品的完成却是腾讯公司多团队、多人员在腾讯公司主持下完成的作品，因此它的作品也应当是属于创造它的自然人或法人。010203

案件背景介绍

案件核心问题

法院判决解答

这个案例的意义在于在法律上首次定义了人工智能创作作品归属权问题。但是，人们还需要注意到人工智能可能会在其他产业和领域产生类似的知识产权或著作权问题，防患于未然。12.5.3

不同司法管辖区的法律实践欧盟的立场相对保守，强调版权保护的人格性要求，认为AI生成内容缺乏人类作者的个性表达，因此不应享有版权保护。但欧盟也在考虑是否需要为AI生成内容建立特殊的保护制度。欧盟对AI生成内容的版权态度美国版权局在2022年发布的指导意见明确表示，版权保护仅适用于“人类作者”创作的作品，AI生成的内容不能获得版权保护。这一立场基于美国宪法中版权条款的文本解释和最高法院的相关判例。然而，如果人类在AI生成过程中有足够的创作投入，作品仍可能获得版权保护。美国对AI生成内容的版权立场英国在2021年修订的《知识产权法》中规定，对于“计算机生成”的作品，版权归属于“进行必要安排以创作作品的人”。这种规定为AI生成内容提供了某种程度的版权保护，但“必要安排”的具体含义仍需司法实践来明确。英国对AI生成内容的版权规定中国在AI版权问题上采取了相对开放的态度。2020年深圳南山区法院在"腾讯诉网贷之家案"中认定，AI生成的财经报告具有一定的独创性，应受著作权法保护，版权归属于AI软件的使用者。这一判决为AI生成内容的版权保护提供了重要先例。商业实践中的版权安排这种模式认为AI生成内容应该进入公有领域，不受版权保护。其基于AI缺乏人格性的理论，但在商业实践中较少采用。公有领域模式开发者和用户共享AI生成内容的权利。这种安排是一种折中方案，通常通过许可协议实现，允许双方在不同场景下使用相关内容。共享模式一些AI服务提供商将AI生成内容的权利完全归属于用户，作为吸引用户的商业策略。这种模式假设用户的提示和指导构成了足够的创作投入，也较为普遍。用户归属模式AI工具的开发公司通常在用户协议中声明对AI生成内容拥有某种权利，或要求用户将相关权利转让给公司。例如，一些AI图像生成平台声明对用户生成的图像拥有使用权。这是最常见的安排。开发者保留模式12.6

人工智能医疗法律问题01在发展人工智能医疗的同时，需要考虑的是现行法对个人信息隐私的保护是否完善、人工智能医疗对个人信息隐私保护产生哪些挑战，以及在监管层面需如何应对等问题。02人工智能医疗离不开患者的个人健康信息和病历信息，显然须受制与个人信息隐私的法律规制。根据《民法典》第一千零三十六条对“个人信息的处理”的定义，人工智能医疗技术的开发者和使用者（例如医生、医疗机构）对大量的患者信息进行收集、存储、加工、传输、使，即用为“信息处理者”。智能医疗技术的发展对智能医疗数据安全和医疗隐私保护提出了以下三个方面的挑战。首先，法律规定数据处理者在收集个人信息时需要明确告知对方收集、使用信息的目的，并征得信息主体的同意方可收集其个人信息，而且数据的处理也要以该目的为限。但是，人工智能医疗需要使用跨医疗机构、跨地域的电子病历系统中储存的大量患者个人身份信息、健康信息、临床医疗信息等。其中，部分信息是患者自愿向医疗机构提供，部分信息是医疗机构在为患者提供诊疗服务中生成；其收集、生成、储存通常都获得患者的明示或默示的同意，并以诊疗为目的。当电子病历系统中所储存的患者个人信息被用来建立大型的电子病历库而成为人工智能医疗的重要数据源时，这已经超过患者最初知悉并同意的使用目的。电子病历系统中的患者个人信息不属于已被公开的信息。而将其用于人工智能医疗的开发和使用，作为信息主体的患者并不知情，更无法对其个人信息被另作他用来行使知情同意的权利。能否以维护公共利益为理由而不经患者同意即将其个人信息用于人工智能医疗，取决于如何界定公共利益。法律上，泛泛将促进医疗技术发展视为公共利益则有滥用免责规定、侵害信息主体隐私权利之嫌。因此，法律应当要求人工智能医疗的信息处理者对匿名患者信息的再识别风险作常规化的评估，当监测到风险时立即采取补救措施。此外，法律可要求信息处理者作出“反对再识别”的承诺；当其向第三方使用者披露患者信息时其亦可通过合同方式来禁止后者对信息进行再识别。法律规制建议在人工智能医疗开发中，信息处理者收集的患者个人信息即使己作匿名化处理，依然有可能被利用大数据技术重新识别。尽管《网络安全法》第四十二条设定了“经过处理无法识别特定个人且不能复原的”的要求，但是能否复原识别性与再识别技术发展和可获取信息的增加相关。

人工智能医疗中的再识别风险《民法典》第一千零三十五条将“个人信息”定义为“以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息，包括自然人的姓名、出生日期、身份证件号码、生物识别信息住址、电话号码、电子邮箱、健康信息、行踪信息等”，以规范“可识别特定自然人”的信息。换言之，信息处理者处理去识别性的信息则无须受法律制约。

个人信息定义对人工智能医疗而言，汇集的患者健康数据和临床医疗数据越多，机器学习需要的训练数据就越充分，获得的深度学习模型就越精确。但是一旦海量数据集发生数据泄露或被盗的情形，将会对众多的患者或用户的个人隐私构成威胁及侵害。数据价值的双刃性因此，信息处理者必须在收集、存储、加工、传输、使用海量数据的各个环节保障数据安全，防止黑客入侵、违法泄露或使用。一方面，信息处理者需提升保障数据安全的技术措施（例如数据脱敏、数据加密、分类分级管理、数据隔离、数据追踪技术等），并确保数据平台运行的安全（例如传输交换安全、存储安全、访问控制安全、平台管理安全和平台软硬件基础设施的安全等）；另一方面，信息处理者需要加强对其工作人员的管理和培训、密切监督数据接收方的数据处理活动，以防止个人信息被违法使用或滥用。信息安全的核心要求12.7

现行法律对个人信息隐私的保护中国法律明确对个人信息隐私的保护始于2009年的《中华人民共和国刑法修正案（七）》，其新增了关于侵犯公民个人信息罪的相关规定之后，2012年的《全国人民代表大会常务委员会关于加强网络信息保护的决定》第一条规定“国家保护能够识别公民个人身份和涉及公民个人隐私的电子信息。任何组织和个人不得窃取或者以其他非法方式获取公民个人电子信息，不得出售或者非法向他人提供公民个人电子信息。”2017年首次规定2020年加大保护力度定义个人信息规定个人信息处理原则规定处理者免责与主体权利明确安全保障与保密义务2020年5月全国人大通过的《中华人民共和国民法典》加大了对个人信息保护的力度，在“人格权编”单设一章“隐私权和个人信息保护”。第一千零三十五条规定了个人信息的处理应当遵循合法、正当、必要原则，须获得信息主体的同意，公开处理信息的规则，并明示处理信息的目的、方式和范围。第一千零三十八条规定了信息处理者的安全保障义务。最后，第一千零三十九条明确了国家机关、承担行政职能的法定机构及其工作人员对公民个人信息的保密义务。第一千零三十六条规定了信息处理者的免责事由；第一千零三十七条明确个人信息主体的参与权利。《民法典》第一千零三十四条定义了“个人信息”。2017年颁布的《民法总则》首次在民法上对个人信息作出明确规定。该法第一百一十一条规定，“自然人的个人信息受法律保护。任何