人工智能伦理导论 课件 lecture5-隐私泄露问题、lecture6-偏见歧视问题

隐私泄露问题Lecture52024/7/2412024/7/242如果一个人被迫每分钟都与其他人生活在一起，并且他的所有需要、思想、语言、幻想或喜悦都要受到公众监督，那么他就被剥夺了个性和人的尊严。被淹没在大众之中……这样的生命，虽然是有意识的，但却是可替代的；他已经失去了自我。——布鲁斯（EdwardJ.Bloustein）人工智能伦理隐私及隐私权目录隐私泄露方式人工智能隐私隐私概念隐私权123隐私泄露案例4隐私及隐私权2024/7/243人工智能伦理2024/7/244隐私概念4.1隐私及隐私权隐私隐私，是由“隐”和“私”两个可拆分的具有独立意思的字组成，但对隐私的正确理解，必须将“隐”和“私”有机地结合起来。“私”：①个人的、自己的、与“公”相对，②为了自己的，③暗地里的，④秘密而不合法的。“私”具有客观性，是客观存在的事实，必须是真实的而不是他人虚构的。“私”与个人具有极强的关联性，与个人生活、行为等联系在一起，直接来源于人生经历、特异体质、特殊情感经历或生活琐事，只有能够直接或间接判断出当事人的事情才是“私”。“隐”：①藏匿、不显露的、不公开的，②藏在深处的，③秘密的事。“隐”并不是描述某件事情不为人知的事实状态，而是当事人不愿为他人知悉和介入的主观意识。“隐”具有主观性，不同历史时期、不同国家、不同民族、不同文化背景、不同的个人，对其所享有隐私的范围及隐私程度都有不同的认识。“隐”具有能动性，即个人可以决定隐什么、对谁隐。对个人而言，隐的对象可以是所有人也可以是一部分人。隐私，是指一种同“公共利益、群体利益无关，个人不愿外界干涉的个人私密和个人不愿意外界介入或不便介入的个人领域。”隐私既是一种个人价值也是一种个人权利，其核心价值在于寻求个体的相对独立性与自主性。隐私，顾名思义，隐蔽、不公开的私事。人工智能伦理2024/7/245隐私概念4.1隐私及隐私权隐私分为三种形态：个人信息、私人活动和私人空间，分别代表无形的隐私、动态的隐私及有形的隐私。个人信息隐私是指私人信息，包括所有的个人资料，例如姓名、健康状况、财产状况、家庭情况等；私人活动隐私是指个人生活由自己决定，包括生育、家庭和个人切身事务等；私人空隐私是个人隐秘范围，如身体私密部位、家庭住所等。隐私的性质：隐私的客观性：隐私是客观真实的社会存在。社会舆论、国家法律或其他规则可以对特定隐私作否定性的评价，但无法否认它的存在。隐私的自然性：只要主体愿意隐瞒，隐私客体即可成为隐私事实，即使违反法律或公序良俗，隐私照样可以产生并继续存在。而且，是否公开、何时公开隐私内容，也任由当事人自行处置。隐私是一种范围非常广的概念，并没有任何一部立法或文件对隐私权作出明确而又具体的定义。粗略地看，隐私至少包括以下九个方面：关于私有财产的隐私；关于姓名与形象利益的隐私；关于自己之事不为他/她人干涉之隐私；关于一个组织或事业内部事务的隐私；关于某些场合不便露面的隐私；关于尊重他/她人不透露其个人信息之隐私；关于性生活及其它私生活之隐私；关于不被他/她人监视之要求的隐私；私人相对于官员的隐私。人工智能伦理2024/7/2464.1隐私及隐私权隐私的内容即客观方面是指特定个人对其事务、信息或领域秘而不宣、不愿他人探知或干涉的事实或行为。隐私的内容是隐私主体的主观意志作用于客体及客观世界，即主客观因素相统一的过程和结果，也就是隐私中"隐"的表现。隐私的客体是自然人的个人事务、个人信息和个人领域。个人事务是相对于公共事务、群体事务、单位事务而言，是以具体的、有形的形式表现于外界的隐私，且以特定个人为活动的主体，如朋友往来、夫妻生活等。个人信息系指特定个人不愿公开的情报、资料、数据等，是抽象的、无形的隐私。个人领域是指个人的隐秘范围，如身体的隐蔽部位、日记内容、通信秘密等，隐私的客体是隐私中的"私"的具体表现。隐私的主体是自然人。隐私源于人的羞耻感，故只有自然人才可以成为享有隐私的主体。企业法人及其他非法人组织等经营单位的秘密属于商业秘密，仅与商业信誉和经济利益相联系，与人的羞耻感无关，故企业单位不能构成隐私主体。国家机关的秘密，如审判秘密是公共权力运作的表现，此种秘密的泄露将对机关系统的正常运作产生损害，也与羞耻感无关，故国家机关也不能成为隐私主体。隐私概念隐私具有主体、客体和内容共三个方面的属性人工智能伦理2024/7/247隐私概念古老部落的居民为了防止其他部落居民及野兽进入，在居住山洞周围设立屏障，纵使主要是为了安全，其中也包含了自身群体生活不被外界所知的隐私意识。西方《圣经》里记载的故事：人类始祖亚当和夏娃在偷吃禁果后，不愿赤身裸体去见上帝，开始穿上无花果叶子制作裙子来遮羞，其中不乏其对隐私的需求。由此可知，原始社会时期，人们的隐私意识处于朦胧阶段，隐私范围主要体现在躯体方面。隐私意识更加清晰，隐私保护意识逐渐增强，开始被赋予道德意义。隐私范围，除了躯体外，增加了住所、生产和生活方面的秘密。1341年，伦敦一名妇女投诉其邻居，称邻居能透过房子的破损窗户，看见她的花园，侵犯了她的私人空间。从西周时期统治者派人监视路上行人，到明朝的锦衣卫制度，为了维护宗族、封建统治，常以牺牲百姓的个人隐私作为代价，隐私范围和隐私保护十分有限。4.1隐私及隐私权随着社会生产力的发展，政治、经济、文化文明的演变，隐私的概念内涵在不断演化和变迁。以时间为线索，从原始社会、到农业社会、到工业社会、再到信息社会，通过人类隐私意识的进化可以看出隐私概念的嬗变。人工智能伦理原始社会农业社会2024/7/248隐私概念工业社会信息社会社会生产力出现飞跃式进步，随着小农经济的逐渐瓦解，商品经济日益发展，资产阶级逐渐登上历史舞台，为了保障资产阶级私人财产权和和伴随财富积累而来对自由的追求，在资产阶级天赋人权观的基础上形成了明确的隐私观。传统的私人生活领域获得保护，人们不再单纯遵循集体利益，而是开始大胆追求个人利益、关注个人隐私，人格尊严包括个人生活秘密等被首次赋予了法律意义，以满足人们日益增长的对个人私密生活的追求。人类进入高速发展的信息社会，互联网改变了人类传统的生产与生活模式，网络社交逐渐成为主流，人与人之间的互动越来越深入和频繁，也增加了人们私生活被侵犯的可能性，其侵犯速度之快、范围之广、程度之深，也是史无前例的，个人隐私面临着前所未有的威胁。从美国“棱镜门”事件到我国近年频繁发生的网络隐私泄露事件，再次引发了人们对隐私的强烈关注，保护隐私成为人们共识。同时，随着大数据时代的来临，隐私范围也在不断扩展，传统隐私面临着很大的改变。4.1隐私及隐私权人工智能伦理2024/7/249隐私概念4.1隐私及隐私权人工智能伦理棱镜计划（PRISM）棱镜计划（PRISM）是一项由美国国家安全局（NSA）和联邦调查局（FBI）自2007年开始实施的绝密电子监听计划，该计划的正式名号为“US-984XN”。通过“棱镜”项目，当局能够直接进入美国网际网络公司的中心服务器进行数据挖掘、情报收集、民众网络活动监视。包括微软、雅虎、谷歌、Facebook、PalTalk、美国在线、Skype、YouTube、苹果在内的国际网络巨头参与其中。PRISM计划能够对即时通信和既存资料进行深度监听，包括电子邮件、即时消息、视频、照片、存储数据、语音聊天、文件传输、视频会议、登录时间和社交网络资料的细节。通过棱镜项目，NSA能看到个人聊天日志、存储的数据、语音通信、文件传输、个人社交网络数据、私人电话记录(时长、通话地点、通话双方的电话号码)，甚至可以实时监控一个人正在搜索的网络内容。需要说明，PRISM项目的监控目标主要为外籍人士，而非美国人，，从互联网获取信息后，系统会进行筛选，除去美国公民有关的信息。PRISM项目将监控国家国划为三个等级：不侵入、侵入和严重侵入。例如，英国、澳大利亚、新西兰、加拿大被列为不侵入国家；法国被列为侵入国家，每日监听约2百万起通讯；德国被列为严重侵入国家举，每月监听约5亿次，几乎与中国等监控程度相等。仅2012年，在《总统每日简报》中，PRISM项目数据被引用1477次，美国国安局至少有1/7的报告使用项目数据。2024/7/2410隐私概念4.1隐私及隐私权人工智能伦理棱镜计划（PRISM）2013年6月5日，英国《卫报》先扔出了第一颗舆论炸弹：美国国家安全局有一项代号为"棱镜"的秘密项目，要求电信巨头威瑞森公司（Verizon）必须每天上交数百万用户的通话记录。2013年6月6日，美国《华盛顿邮报》披露称，过去6年间，美国国家安全局和联邦调查局通过进入九大网络巨头的服务器，监控美国公民的电子邮件、聊天记录、视频及照片等秘密资料。美国舆论随之哗然。2013年6月7日，在加州圣何塞视察的美国总统奥巴马做出回应，公开承认该计划。他强调说，这一项目不针对美国公民或在美国的人，目的在于反恐和保障美国人安全，而且经过国会授权，并置于美国外国情报监视法庭的监管之下。2013年6月9日，《卫报》抛出专访，应“告密者”本人要求公布其身份。现年29岁的爱德华·斯诺登是美国防务承包商博思艾伦咨询公司的一名雇员，过去4年内一直为美国国家安全局工作。在2013年5月将文件复制后前往香港，并将文件交由媒体陆续公开。他在专访中说，自己良心上无法允许美国政府侵犯全球民众隐私以及互联网自由。2013年6月11日，斯诺登离开在香港居住的酒店去向不明，美多名政府高官谴责斯诺登为“叛国者”。美国公民自由联盟正式起诉美国政府，认为“棱镜”项目侵犯言论自由违宪。2024/7/2411隐私概念4.1隐私及隐私权人工智能伦理棱镜计划（PRISM）2013年6月13日，香港《南华早报》发布斯诺登独家专访，披露美国政府更多监视细节。斯诺登披露，自2009年以来，美国在全球进行了6.1万次的渗透行动，目标包括数百个内地及香港个人及机构。“我们（斯诺登受雇公司以及美国国安局）主要攻击网络中枢，像大型互联网路由器，”“这样我们可以接触数以十万计电脑的通信数据，而不用入侵每一台电脑。”同日，《卫报》和《华盛顿邮报》报道，美国联邦调查局（FBI）局长罗伯特·米勒表示，FBI已经开始对曝光美国国家安全局“棱镜”计划的斯诺登展开调查，这是美国官方首次证实已对斯诺登采取行动。2013年6月14日，英国政府警告全球的航空公司不要让斯诺登乘坐他们的班机前往英国。2013年6月15日，香港特区行政长官梁振英表示，在斯诺登事件上，特区政府将按香港的法律和既定程序处理。2013年6月16日，《卫报》再发斯诺登的文件，曝光英国情报机构曾监听2009年G20峰会。2013年6月20日，美国人事监督机构总监说，一家2011年受雇对斯诺登实施背景审查的公司正受到调查。我愿意牺牲一切的原因是，良心上无法允许美国政府侵犯全球民众隐私、互联网自由。——爱德华·斯诺登2024/7/2412隐私概念4.1隐私及隐私权人工智能伦理棱镜计划（PRISM）2013年6月21日，斯诺登遭美国政府通缉，事发时人在香港，联邦检察官正式指控斯诺登，其中包括根据美国反间谍法提出的刑事指控。2013年6月23日，中国香港特别行政区政府就斯诺登事件发表声明，称斯诺登已自行循合法和正常途径，离开中国香港，前往第三国。据俄媒援引机场内部人士的消息，斯诺登的飞行路线是23日从香港乘坐俄航SU213航班飞抵莫斯科，24日乘坐SU150飞往古巴，当天再飞往委内瑞拉的加拉加斯。俄罗斯航空确认斯诺登飞往古巴哈瓦那的行程。2013年6月24日，据俄罗斯媒体报道，斯诺登24日并未出现在由莫斯科飞往哈瓦那的飞机上，下落成迷。2013年7月1日，斯诺登向俄罗斯递交避难申请，同时发表声明，抨击美国总统奥巴马和美国政府，并威胁向外界披露更多机密。2013年8月1日，斯诺登离开俄罗斯谢列梅捷沃机场前往莫斯科境内，并获得俄罗斯为期1年的临时避难申请。2013年10月8日，斯诺登在俄购物照曝光。这是斯诺登8月离开首都莫斯科机场以来首次出现在公众视线。2014年8月，斯诺登再次获得俄罗斯的居留许可，期限为3年。2020年10月22日，俄罗斯给予斯诺登永久居留权。2020年11月2日，据俄罗斯卫星网报道斯诺登决定提交美俄双重国籍申请。2024/7/2413隐私概念4.1隐私及隐私权人工智能伦理棱镜计划（PRISM）各国就数据保护制订有不同法律，但这些法律倾向于规范公司可以保存何种客户数据、拿这些数据做什么、能保存多长时间，而不是管理政府活动。大多数公司的隐私政策包括一个条款：在收到合法请求情况下，它们将会共享信息。官员们通常会辩称，阻止恐怖主义高于保护隐私权。奥巴马9日在对美国的监视方法进行辩护时称：“你不能在拥有100%安全的情况下同时拥有100%隐私、100%便利。”英国外交大臣黑格在接受BBC采访时称，“英国的守法公民永远不会知道政府部门为了阻止其身份被盗或者挫败恐怖袭击所作的一切事情。”用户数据（例如电子邮件和社交媒体活动）并不总是存储在用户自身所在的国家里。例如，Facebook在其隐私条款中称，所有用户必须同意他们的数据“被转送和存储在美国”。美国2001年的爱国者法案给予美国政府在使用按这种方式存储的欧洲数据新的权力。“隐私国际（PrivacyInternational）”认为：“由于世界主要技术公司的总部都在美国，那些参与我们互联世界、使用谷歌或者SKYPE的人士的隐私都可能被棱镜项目所侵犯。美国政府可能接触到世界的大部分数据。”斯诺登称，出于对隐私权的担心才采取报料行为。他对英国卫报称：“我不想生活在一个做那些事情的社会里，我不想生活在一言一行都被记录的世界里。”2024/7/2414隐私权塞缪尔·D·沃伦路易斯·D·布兰迪斯隐私权（Righttoprivacy）是指公民享有的私人生活安宁与私人信息依法受到保护，不被他人非法侵扰、知悉、搜集、利用和公开等的一种人格权

。隐私权赋予权利人对私人生活的控制权，这种控制权包括防御他人窃取个人隐私与是否向他人公开隐私及公开范围的决定权

。《论隐私权》一文中将隐私权定义为：个人在通常情况下决定他的思想、观点和情感在多大程度上使别人知悉的权利，每一个人都有决定自己的所有事情不被公之于众、不受他人干涉的权利。英国《牛津法律大辞典》认为，隐私权是不受他人干扰的权利，关于人的私生活不受侵犯或不得将人的私生活非法公开的权利要求。1890年12月，哈佛大学法学院的布兰迪斯和沃伦在《哈佛法律评论》上发表了《论隐私权》（TheRighttoPrivacy）一文，首次提出隐私权的概念及系统理论。这是人类历史上第一次使隐私这个主题变得清晰。他们认为隐私权是生存权的延展，是一种不受打扰的独处权利。在其后数百年的发展历程中，经历了各种隐私被侵害的情况发生后，逐渐形成了隐私权这一重要的权利内容，并赋予其重要含义。4.1隐私及隐私权人工智能伦理2024/7/2415隐私权隐私权的几种观点：其一，所谓隐私权，也称为私生活的秘密权，是指公民以自己的个人私生活秘密和个人生活自由为内容，禁止他/她人干涉的一种人格权。其二，隐私权是自然人享有的对其个人的与公共利益无关的个人信息、私人活动和私有领域进行支配的一种人格权。其三，隐私权是指自然人享有的私生活安宁与私人信息依法受到保护，不被他/她人非法侵扰、知悉、搜集、利用和公开等的一种人格权。其四，所谓隐私权，也就是公民个人隐瞒纯属个人的私事和秘密，未经本人允许不得公开的权利。其五，隐私权是自然人对自己私生活秘密信息进行独立支配的一种人格权。其六，隐私权是自然人和社会组织对其秘密信息加以控制、保护的权利。按照主体的多寡，可分为集体隐私权和个人隐私权。集体隐私权是指集团、机构自己决定自己的信息在何时、以何种方式、以及在多大程度上向他人传播的权利。4.1隐私及隐私权人工智能伦理隐私权的主体隐私权的主体应为自然人，自然人拥有理性和情感，需要法律保护其情感安定、维护其人格尊严。隐私权是一种人格权，是存在于权利人自身人格上的权利。隐私权的主体不包括法人，法人也会有不欲人知的秘密，一般表现为国防机密、商业秘密等，但是法人的秘密一般属于公共领域的事务，而非个人的人格尊严内容。隐私权的主体不包括死者，隐私权是一种个人利益，自然人死亡后，个人利益会随着本身的物质载体死亡而消亡，但是对死者生前利益的侵害，可能会对死者的亲属及利害关系人造成伤害，甚至对公序良俗也会造成不良影响。隐私权的客体隐私权的客体应只包含信息，而不涉及其它与个人相关的利益或领域，特别是随着信息社会的建立，各国纷纷调用强大的行政权力来建构庞大的个人资料处理体系，监控着人们日常生活的一举一动，使得隐私权中信息利益的地位得到了进一步的凸显。个人与公共利益无关的事情是构成隐私权客体的前提条件，任何公共的、群体的事情或与之有关的事情都不能成为某个人的隐私。被法律所保护的个人隐私才是法律意义上的隐私，才能真正构成隐私权的客体。2024/7/2416隐私权隐私权的常见类型：生活自由权。权利主体按照自己的意志从事或不从事某种与社会公共利益无关或无害的活动，不受他人干预、破坏或支配；情报保密权。个人生活情报，包括所有的个人信息和资料。诸如，身高、体重、身体缺陷、健康状况、财产状况、婚恋、家庭社会关系、爱好、信仰、心理特征等等。权利主体有权禁止他/她人非法使用个人生活情报资料，例如，未经他人同意不得强制披露其财产状况、社会关系以及其它不为外界知悉或公开的私事等；通讯秘密权。权利主体有权对个人信件、电报、电话、传真及谈论的内容加以保密，禁止他/她人非法窃听或窃取。信息处理及传输技术的飞速发展，使个人通讯内容可以轻而易举地被窃听或窃取，保障个人通讯安全已成为隐私权的重要内容；隐私利用权。权利主体有权依法按自己的意志利用其隐私，以从事各种满足自身需要的活动。如利用个人的生活资料撰写自传、利用自身形象或形体供绘画或摄影的需要等。但隐私的利用不得违反法律的强制性规定，不得有悖于公序良俗，即，权利不得滥用。如，利用自己身体隐私部位制作淫秽物品。4.1隐私及隐私权人工智能伦理隐私权包括四项基本权利：隐私隐瞒权：权利主体对于自己的隐私进行隐瞒，不为人所知的权利。隐私利用权：自然人对于自己的隐私权积极利用，以满足自己精神、物质等方面需要的权利。隐私支配权：公民对自己的隐私有权按照自己的意愿进行支配。隐私维护权：隐私权主体对于自己的隐私享有维护其不受侵犯的权利，在受到非法侵犯时可以寻求公力与私力救济。2024/7/241719世纪60年代，随着机器化大生产的发展，城镇化进程加剧，人们曾经熟悉的熟人社会逐渐被陌生人社会所取代，人与人之间需要一定的空间感和距离感。这就需要人与人之间有一定的私人空间，也就是公民的个人隐私，因此，隐私权应时而生，这是隐私权产生的社会基础。而在另一方面，专业化社会大生产推动了社会文明的进步，人们的独立自主意识日益受到重视，在这种背景下隐私权概念被提出。在信息社会阶段，隐私权保护上升到法律层面，隐私权观念深入人心。从20世纪60年代开始，隐私权逐渐成为一种宪法性权利。1959年德国联邦最高法院作出宪法判例，从法律上确认了对隐私权的保护。1982年，我国在制定宪法时也涉及了相关隐私权保护的法律规定。以法律形式确定对公民隐私权的保护，维护公民生活的安定和自由，也是维护人类生活和谐的重要组成部分。随着人工智能时代到来，各种高科技产品层出不穷，各种新技术应用于社会生活的各个方面。这使人们的生活更加便利，但同时也增加了隐私权被侵犯的风险。隐私权又被赋予新的时代内涵和意义。如何利用人工智能技术加大对隐私权的保护是值得密切关注和重点研究的课题。2017年我国新颁布的《民法总则》是民事立法史上具有里程碑意义的事件。作为对人工智能时代的回应，《民法总则》对隐私、个人信息、数据保护都做了有针对性的规定。4.1隐私及隐私权隐私权人工智能伦理隐私及隐私权目录隐私泄露方式人工智能隐私隐私概念隐私权123隐私泄露案例4隐私权的新特点隐私泄露与侵权2024/7/2418人工智能伦理2024/7/2419隐私权的新特点隐私权的范围不断深化扩大随着现代人格权的发展和丰富，隐私权空间范围从私人住所扩展及公共区域。隐私权判断不能仅从空间上区分，私人住所和公共区域不再是隐私权的绝对界限，公民个人隐私权也及于公共区域。如幼儿园为了方便家长实时关注孩子的情况，在园内安装同步上传画面信息的摄像头。这在一定程度上侵犯了园内教职工和其他孩子的隐私权。随着信息网络的发展，隐私权的保护也从有形空间扩展至无形空间。人工智能技术发展使信息网络的开放性、交互性得到更大的发挥。因而隐私权保护的范围也从物理空间扩展及虚拟空间。4.2人工智能隐私②隐私权的效力在一定程度上发生了变化。隐私权产生之初，是因其消极防御性功能而产生的。隐私权的消极防御功能是为了防止他人侵害，排除他人干涉。因而，个人对其隐私享有处置的权利。个人有权决定个人隐私被他人知悉或者禁止他人知悉。但随着人工智能时代的到来，隐私权已从消极防御性权利向积极利用性权利转化。人们在积极合理的利用人工智能技术保护隐私权方面有了重大进展。如：在医疗方面，通过挖掘社交媒体数据推测用户的健康风险，且在实现护理自动化方面人工智能也发挥了难以替代的作用。甚至在公共安全方面，人工智能以其技术的独特性和创造性在无人机监控、数据算法识别金融诈骗等方面起了至关重要作用。人工智能伦理③隐私权保护与数据共享之间的平衡问题人工智能时代的特点之一是数据共享，数据共享为隐私保护带来新的危机，隐私权的保护也为数据共享造成了一定困扰。为了加强数据共享，用户势必要让渡部分隐私权作为交换。人工智能技术加强用户的数据保护，但也造成了用户信息的全程留痕。在人工智能时代平衡数据共享与保护个人隐私最重要的是要在数据共享中最大程度维护个人隐私。因而如何平衡隐私权保护与数据共享之间的关系是需要重点关注的问题之一。2024/7/2420隐私泄露与侵权4.2人工智能隐私泄露是指不应该让人知道的事情让人知道了。隐私泄露是隐秘信息无意或有意地被他/她人获取。隐私泄露通常是指利用技术手段和工具对个人信息进行的技术性窃取，属于信息安全问题。隐私通常以数据为代表的各种形式进行存储、传输和加工。隐私泄露也称为数据泄露或者信息泄露。隐私泄露可分为直接泄露和间接泄露：隐私直接泄露，也称一次泄露，指个人隐私信息被个人或组织直接获取。即隐私原本只有隐私所有者自己知道，其他人不知道，只有当隐私所有者将隐私以某种信号进行释放，隐私才会被人知道。比如在社交媒体上发送自己的个人基本信息、个人照片。隐私间接泄露，也称二次泄露，指在隐私直接泄露的基础上恶意攻击者依然可以对用户已泄露的隐私进行分析和挖掘，得出进一步的详细用户隐私。比如，社交媒体服务商通过读取用户的通讯录，运用大数据技术将用户与其好友进行一种关联，在用户使用社交软件时推送与好友相关的一些信息。人工智能伦理淘宝类似的消费平台重定向，对普通用户平时浏览的网页、图片、搜索的关键词、消费记录等进行标记，推测分析出用户需求，进行智能推送，激发用户的潜在性消费；百度地图等通过手机可以快速定位用户的位置信息，这些信息综合在一起可以预测用户未来可能的行为或状态。电商通过购物记录的大数据进行分析，可以做到比家人更了解你的消费习惯，甚至推测出你的年龄区间、兴趣爱好、健康体态等。每一个网络用户都会在网络上留下不可磨灭的“印记”，人工智能通过这种“印记”分析用户的兴趣，判断并推测用户的个人信息，以及预测用户未来的行动状态。。2024/7/2421隐私泄露与侵权4.2人工智能隐私人工智能隐私侵权的新特点侵权主体更具多元性隐私侵权主体从个人、组织扩大到企业乃至相关拥有隐私数据的主体。凡隐私数据的拥有者或能够利用人工智能技术对海量数据进行分析利用者，均有可能成为隐私权侵权的新主体。大型企业和政府相关部门拥有海量的数据信息，并且最先进人工智能技术的使用权限，这为他们从海量的数据信息中获取自己需要的精准化信息提供了强有力支撑。侵权客体更具扩展性隐私权客体范围从原本仅与社会生活息息相关的信息扩展到公民社会生活方方面面的信息。除了原有的包含电话号码、家庭住址、身份证信息、户籍信息等依旧为公民的隐私信息外，购物记录、社交聊天记录甚至应用下载记录都是当代隐私信息的范畴。这些不同形式的数据信息是当代隐私权的保护范围。传统公共和私人场所物理空间界限被突破。侵权手段更具多样性除了合法收集的隐私信息被不当利用引发的隐私权侵权现象，还存在着因隐私信息被非法收集而导致隐私侵权事件的发生。各大网络平台成为隐私数据的聚集地，黑客们非法入侵数据源电脑盗取因信息交互而产生的大量数据。黑客熟练运用人工智能技术发现各大网站的漏洞进而盗取大量的用户隐私信息，严重侵犯了公民的隐私权。侵权后果更具严重性丰富的数据源经过先进的人工智能技术运算和分析，可以挖掘出前所未有的大量隐藏信息，并以各种形式发布、被公众所知悉。人们的隐私信息会被过度收集和非法使用，私人空间不仅是原有的生活空间，还包括私密的社交空间、虚拟空间等,几乎囊括了我们日常生活的方方面面，受众面广、波及范围增大，后果将更加严重、不堪设想。人工智能伦理侵权是指侵害他/她人权利或利益的行为，包括一般侵权行为和特殊侵权行为。前者指行为人基于过错直接致人损害，因而适用民法上一般责任条款的行为；后者指行为人虽无过错，但依民法特别责任条款或民事特别法应承担责任的行为。隐私侵权，又称为隐私权侵权，是指对他/她人的隐私信息或隐私权利的侵害。隐私及隐私权目录隐私泄露方式人工智能隐私隐私概念隐私权123隐私泄露案例4隐私权的新特点隐私泄露与侵权数据采集环节数据存储环节数据传输环节数据应用环节人工智能伦理2024/7/2423数据采集环节4.3隐私泄露方式数据采集环节的隐私泄露方式主要是通过便携式终端、远程设备、可穿戴设备等进行数据采集或连接互联网留下的数据信息。主要有两种情况：主动提交，用户通过互联网或者APP进行信息的登记，或发布自己的信息。被动采集，用户在使用软/硬件过程中，软/硬件收集用户信息并记录在数据库。人工智能伦理泄露方式解释主动提交误登录钓鱼网站收到来自类似官方手机短信通知，内容一般为资料、礼品领取等。之后点击登录某个网站进行必要的信息填写。提交明文信息用户在进行信息录入时，APP或者网站采取的是明文(信息未经加密)提交的方式进行信息提交或录入。公共机器遗留cookie用户在公共机器上提交或录入个人隐私信息时，浏览器保存用户录入的信息并存储在cookie里。用户填写隐私信息用户填写的个人信息或其他隐私信息。泄露方式解释被动采集假冒第三方人为采集数据窃取者冒充数据采集人员进行数据的采集。暴力获取数据通过违法暴力等手段，强行获得数据库的数据。法律法规不完善法律法规缺少对隐私数据保护的措施。APP采集Android或IOS等系统的应用软件，在用户使用APP的过程中进行隐私信息的采集。社交账号授权登录登录第三方网站或者APP时，微信、QQ等社交软件的快捷登录，使第三方获得用户的信息。可穿戴设备后台采集用户在使用可穿戴设备进行健康监测时，第三方通过后台直接在用户不知情的情况下将用户的健康隐私信息发送到第三方数据库。身份认证不完善数据采集软件等存在身份认证漏洞，导致攻击者有机可乘。访问控制不健全访问控制的措施的缺失，可能会导致数据的贡献者在数据采集时被其他攻击者利用。生物特征采集通过计算机收集人体固有的生理特征（指纹、虹膜、面相等）或行为特征(步态、击键习惯等)。2024/7/2424数据存储环节4.3隐私泄露方式数据存储环节隐私泄露方式：访问控制不完善：访问控制不完善主要表现在缺乏密钥管理、权限管理、指定的时间和网络环境管理、安全信道访问管理等形式的访问限制。身份认证不健全：身份认证主要是用来确定真实操作者与系统中的数字身份相一致。身份认证的不健全就可能导致其物理身份与数字身份匹配过程产生错误认证，导致非法人员进入数据库。端口爆破：端口爆破是数据库数据泄露的主要途径之一，可以认为是设备与外界通讯交流的出口。通过端口爆破，可以获得服务器IP和登录密码。漏洞利用：除了端口爆破攻击，漏洞攻击也是攻击者攻击数据库善于利用的手段，常用攻击手段有攻击未打安全补丁的数据库、利用网站常见漏洞等。黑客攻击：通过攻击本地的前置机获得权限后，再利用前置机潜入到本地内网当中进行一些列提权操作，从而获取本地的数据库信息。最终导致本地数据库的泄露。操作失误：操作员的低级失误等原因导致隐私数据泄露。遭到人为窃取：人为窃取指数据窃取者通过物理途径接触到本地数据的实体机，进行人为拷贝或者数据介质盗取。数据管理系统不完善：本地数据管理系统管理出现问题，导致数据窃取者可以轻易登录，获取用户隐私数据。人为管理混乱：分工不明，管理混乱等综合因素导致的用户隐私泄露。人工智能伦理医疗互联网服务敏感数据泄露风险调查报告指出：近年来，人为因素造成的医疗数据泄露案例在逐年减少，而权限访问因素和黑客攻击因素在增加，尤其是黑客攻击因素导致的医疗数据的泄露尤为突出。2024/7/2425数据传输环节4.3隐私泄露方式数据传输环节隐私泄露方式：传输错误：传输过程中，安全网站重定向至未知网站导致数据泄露。网络监听：当黑客登录网络主机并取得超级用户权限后，若要登录其它主机，使用网络监听便可以有效地截获网络上数据，通常被用来获取用户密码等。数据篡改：拦截传输过程的数据，篡改数据，造成数据破坏。数据丢失：在网页端传输数据时，虽然是同步发送，不过由于公网传输的网络问题，一般也会有3%到7%的数据丢失，并且基本难以避免。拦截传输过程：第三方可能会在传输过程中截获传输的数据，从而拿到传输的这些用户行为数据。这些用户数据都是体现用户在客户端的一些具体的用户行为，蕴含着用户的隐私。伪造传输过程：第三方可能会在传输过程中伪造数据，从而让后台的分析结果不准确。人工智能伦理在使用社交软件过程中会使用网络上传数据、图片、视频等，甚至还会发布个人位置信息，殊不知这已经泄露了个人信息。人们在分享数据过程中个人的隐私信息可能会被一些别有用心的人利用人工智能技术窃取，信息匿名化程度日趋下降。无线通信中的所有通信内容，包括用户的通话信息、位置信息、数据信息甚至身份信息经由通过无线信道进行传送。只要有适当的无线接收设备，就能对用户的信号进行截取，理论上如果有相应的密码破译手段就能对用户的信息进行解密。2024/7/2426数据应用环节4.3隐私泄露方式数据交易：数据交易过程中隐私泄露风险主要在于交易不当导致的数据隐私泄露问题。例如用途不明，可信度不高交易方进行交易，数据遭受泄露的可能性大大增加。人为管理混乱：主要指数据应用方的管理不当造成的数据泄露。

恶意的人员操作：指在数据应用阶段，数据应用者个人的不当行为导致的用户隐私的泄露，此种行为的不可控因素比较大。数据存储设施遭到人为破坏：在数据应用过程中同样存在，数据应用方存储数据时数据存储介质遭到人为破坏的风险。数据介质遭到窃取：数据应用方的存储介质遭到人为的窃取，也会导致隐私数据的泄露。身份认证不健全：数据应用阶段，大量的数据应用软件都需要身份认证后进行相应数据操作，而身份认证的不健全有可能导致数据攻击者利用漏洞进入到应用软件当中窃取用户隐私数据。数据应用环节隐私泄露方式：权限控制不当：在交换共享过程中，对于数据的应用方的管理，特别是数据应用方对数据的访问和应用权限的管理也很重要，权限控制不合理，会使更多的数据应用人员接触最原始数据，增加隐私泄露的风险。数据脱敏不完善：在处理数据的过程中，如果数据脱敏规则过于简单或者没有进行可靠的数据脱敏，交换分享出去的数据泄露隐私的可能性就会大大增加。违规备份：违规备份是指数据的使用方在使用数据时没有正规流程的情况下备份数据，备份的数据缺乏有效的保护措施，导致数据遭受其他攻击而导致的数据泄露，从而增加隐私数据泄露的可能性。违规分析挖掘：数据应用的主要方式是从数据中挖掘出有用信息，但不合规数据挖掘也可能导致隐私泄露。过度披露隐私：过度隐私披露是指在数据进行脱敏阶段对隐私数据的保护脱敏程度不够，通过简单的分析挖掘即可获取原有的数据完整信息。用户隐私数据。人工智能伦理隐私及隐私权目录隐私泄露方式人工智能隐私隐私概念隐私权123隐私泄露案例4隐私权的新特点隐私泄露与侵权数据采集环节数据存储环节数据传输环节数据应用环节机器学习的案例语音识别的案例人脸识别的案例生物识别的案例2024/7/2427人工智能伦理2007年，英国诺丁汉大学念心理学本科的斯蒂维尔平时爱写一些小程序。毕业前，在Facebook上发布了一个性格测试的第三方小程序：myPersonality。测试是免费的，参与者可以匿名捐献自己在Facebook上的行为数据作为研究使用。有六百万用户使用过这款小程序。其中一小部分同意捐出Facebook上行为数据供研究使用。用户的心理性格测试数据与Facebook行为数据相叠加，就形成了包含有数十万用户数据的myPersonality数据集。2008年，科辛斯基进入了剑桥大学，在心理测量中心攻读硕士。他和斯蒂维尔用myPersonality这个金矿，在《美国国家科学院院刊》上分别于2013、2015年发表了两篇极有影响的文章。第一篇”Privatetraitsandattributesarepredictablefromdigitalrecordsofhumanbehavior”（个人性格特质可以用行为数据来预测），使用机器学习技术，用用户的Facebook行为数据（Facebook上点赞）建立模型，来预测用户的性格和其他特质（如性别，党派），并且得到比较高的准确率。如，对HelloKitty点赞的人较神经质，更可能支持民主党而非共和党。第二篇“Computer-basedpersonalityjudgmentsaremoreaccuratethanthosemadebyhumans”（基于电子足迹的算法模型比你亲近的人更了解你），运用他们之前建立的模型来预测你的性格，竟然比你好友的预测还准确。机器学习的隐私泄露4.3隐私泄露的案例myPersonality数据集远远小于Facebook和剑桥分析所造成的数据泄露的数量（约五千万）。但对于社会科学研究者，这个数据集无疑是一个金矿。传统的定量社科研究，收集数据的方法主要是实验和问卷两种。实验很难规模化，能达到几百人就相当不容易了。但myPersonality数据集把性格量表和用户的Facebook行为结合在一起，样本量远远超过了传统定量研究。2024/7/2428人工智能伦理科辛斯基和斯蒂维尔的研究成果取得了轰动：第一，海量行为数据建模能够精准地预测用户性别、年龄、性取向、政治倾向、购买意愿……之前不管是营销公司，广告公司，还是公关，民调机构，要了解用户，只能辛辛苦苦做访谈、问卷、焦点小组。这些方法不但劳民伤财，准确率也不够高。电子足迹不但精准，而且俯拾皆是，只要是上网，每个人都会有自己的电子足迹。他们的算法并不高深，但海量的电子足迹充分发挥了优势，因此取得了精准程度很高的用户行为画像。第二，他们的研究启发了很多人，原来科研还可以这么做，可以通过第三方app获取Facebook的用户数据。要知道Facebook的海量行为数据极少对外界开放。虽然在Facebook上可以精准投放广告给用户，但是没有靠谱的行为模型做支撑，但是有了myPersonality这样的先例，为大家提供了一个崭新的思路，那就是通过第三方小程序以获取Facebook的行为数据。毫无意外，剑桥分析找上了科辛斯基和斯蒂维尔。虽然叫剑桥，这家公司和剑桥大学没有任何关系。这家公司的背后金主是墨森，他为英国脱欧和特朗普2016年大选做出了贡献。但剑桥分析并没有买到科辛斯基和斯蒂维尔的数据。剑桥分析最后和同在剑桥大学心理系担任的讲师科根达成了协议。在剑桥分析的资助下，科根直接抄袭了科辛斯基和斯蒂维尔的研究设计，也写了一个专做心理测试Facebook第三方小程序：thisisyourdigitallife（据英国卫报报道，科辛斯基和斯蒂维尔举报科根侵犯了他们的知识产权，而科根则认为已发表的知识产权属于公众领域，谁都可以使用）。机器学习的隐私泄露4.3隐私泄露的案例2024/7/2429人工智能伦理在MechaincalTurk和其他网络平台上，科根以五美元的酬金，吸引了27万用户答题并出让自己的Facebook数据。五美元是什么概念呢？MechanicalTurk是亚马逊旗下的兼职网站，上面有很多小任务，完成一项任务会有一定报酬，但是任务价格都非常低廉，耗时十分钟任务的报酬在一角到一元美金不等。相较之下，五美元不亚于一个天文数字。注意，所有参加者都是心甘情愿地让出他们的Facebook行为数据的。Facebook并没有被黑客入侵，也没有所谓的数据“泄露”或是“偷盗”。因为在当时，Facebook小程序在用户同意情况下收集数据是完全合法的。报道中都提到了五千万用户，又是从哪里来的呢？因为科根的程序不仅收集了用户本人的数据（以五美元做交换），也收集了用户的Facebook好友数据。一个用户可能有几百个好友，所以27万个“种子”最后就变成了五千万用户。机器学习的隐私泄露4.3隐私泄露的案例2024/7/2430人工智能伦理至此，整件事情还是合理合法的。下一步则不然。科根本人也是心理学家，他设计这个小程序时声称要研究社交媒体和心理健康。Facebook也是基于这个研究目的，才同意他收集了五千万用户的数据。但不久以后，科根就通过自己开的公司GSR，把这个庞大的数据集转手给了剑桥分析，其用途已经不属于学术研究。这一转手违背了Facebook的安全协议，也违背了小程序本身和用户之间的协议，是整个事件违法的部分。但也有人认为，这时的数据集属于“二手数据”（secondarydata），在数据的监管上属于灰色区域。科根当时和Facebook的用户签订协议时，明确指出收集数据是供研究使用，并且他也的确做了研究，那么数据完成了它的使命之后，是否应该直接删档（这是Facebook对科根的要求）？这时的数据到底归谁所有？机器学习的隐私泄露4.3隐私泄露的案例2024/7/2431（欧美多数的大学和研究机构在做人类相关研究时，都会专门设立一个委员会（InstitutionalReviewBoard，IRB）来监管类似的伦理问题。至少在学术界，因为A而收集的数据后来用作B用途并不少见。很多数据集都是开放下载的，如斯坦福的SNAP，Dataverse等等。）人工智能伦理这里有一个很有意思的问题，就是数据的归属问题。张三有个朋友叫李四，这个信息是张三个人的信息，还是李四的信息？张三为了五块钱出卖自己的数据（其中包括李四的姓名，性别，年龄等等），需不需要李四的同意？很多学者认为，在社交媒体上，隐私不再是一个个人的决定，而已经演变成一个网络共同的决定。但在当时，收集用户好友的基本信息是合乎Facebook规定的。不仅仅科根的小程序这么干，其他数十万个Facebook小程序都这么干。剑桥分析运用这个数据量超过五千万的超大规模的用户数据建立模型，其目的就是找出符合某种特定心理画像的选民（低开放心性，高情绪不稳定性）。在美国“赢者通吃”的大选制度下，绝大部分选票对选举结果都没有影响（比如说深红州和深蓝州选票）。还有一部分选票，无法被广告左右（比如民主党或者共和党的死忠粉）。能左右选举结果，且可以被广告影响的选票数量微乎其微。一旦有了一个特定的心理画像，剑桥分析就可以在茫茫人海中找出他们要的这一小部分选民，集中精力给这一小部分选民施加影响。他们买了大量Facebook广告对这些人进行狂轰滥炸，进行所谓的“信息战争”（informationwarfare），以达到操纵大选的目的。此次Facebook的隐私泄露事件之所以如此严重，就是因为人们恍然发现自己的决定并不是真正的由自己做出，而是很可能是被人操控了。小到购物大到总统的选举，在这个数字时代，经过互联网的放大之后，人们更容易会受到媒介的影响。可以预言，未来无论是政治层面，还是经济、金融、文化、宗教等层面，“战争、斗争、竞争”的主战场将转移到网络线上。在Facebook信息泄露事件中，公民最关心的是自己的信息特别是隐私被泄露，行动行为被误导，网络数据被歪用，甚至稀里糊涂充当了邪恶的打手。Facebook信息泄露事件，已经证明网络大数据超过所有人想象的、比核武器厉害百倍的威力，大数据分析公司具有超过所有人预期的超人般能力。全球要重点盯住与监管大数据巨头公司。目前你、我、他的数据都基本掌握在全球八大公司平台上：苹果、Facebook、亚马逊、谷歌、微软、阿里巴巴、腾讯、百度。“全球所有公民的一切行为都被这八大公司完全掌控了！”对这八大公司的数据要重点盯防，同时，八大公司要协助配合政府保护好个人数据隐私，自觉服从监管，保护好平台个人数据隐私。机器学习的隐私泄露4.3隐私泄露的案例引发的思考？2024/7/2432人工智能伦理警方要求获取亚马逊Echo数据协助破案，引发隐私讨论亚马逊Echo音箱一经推出便成了市场的宠儿，人们买它就是因为音箱的大脑——Alexa虚拟助手。只需通过语音命令，Alexa就能帮你找到答案。2016年，Echo却跟一桩命案搭上了关系，美国阿肯色州警方认为它曾经“听到”过嫌疑犯的某些对话，而这些信息对破解谋杀案至关重要。本顿维尔警方要求亚马逊交出嫌犯家中Echo记录下来的音频信息，如果音频中确实有相关证据，那么嫌犯明年就将出庭受审，他将面临一级谋杀的指控。亚马逊拒绝向警方上缴Echo服务器上的相关信息，但它们将嫌犯的账号信息和购买记录交给了警方。借助这些信息，警方表示自己可以从嫌犯的Echo上获取所需的数据，不过他们到底要拿走什么信息现在还是个谜。语音识别的隐私泄露4.3隐私泄露的案例2024/7/2433人工智能伦理由于Echo有永不掉线的特性，但用户需要用特定的词语才能将其激活，不过在未激活状态下它是否会偶尔“偷听”并记录下一些信息恐怕只有亚马逊知道。警方称嫌犯家中还有其他智能家居设备，其中就包括一款智能水表。这款产品显示当天凌晨1点至3点间嫌犯家用了140加仑水，而当天受害人就是在嫌犯家的浴缸中。检方认为这些水是嫌犯用来洗净犯罪证据的。对于此事，亚马逊发言人表示：“除非收到当局的合法要求，亚马逊不会将用户信息上缴给任何人。”语音识别的隐私泄露4.3隐私泄露的案例关于Echo音箱记录音频的问题，亚马逊表示，只有用户说出唤醒词“Alexa”，Echo才会抓取音频并上传至云端。同时，在录音时Echo顶端会亮起蓝灯提醒用户，而存在云端的音频信息是否删除，则取决于用户自己，一旦删除就永远不能恢复。此外，Echo上的麦克风还可以手动关闭。2024/7/2434人工智能伦理智能音箱Echo记录音频问题曾受到过用户的投诉：Echo未经许可，将用户的私人对话录音，并随机发给了用户联系人列表中的一位朋友。某天晚上，美国俄勒冈州波特兰的一名女士丹尼尔（化名）接到了老公同事的电话，对方称：收到了一封邮件，内容是她与老公的对话录音，并提醒她赶紧关掉亚马逊音箱Echo。“你们俩刚刚在聊木地板”，听到朋友这话，丹尼尔才相信，Echo的确是将她与老公方才的谈话内容，泄露给了距离他们176英里之外的朋友。于是，丹尼尔在第一时间拔掉了屋里4个Echo的电源，并打电话给亚马逊客服，质问为何会发生这种情况。初步调查之后，亚马逊回电解释说，Echo确实出现了故障，但未说出具体原因，只是在30分钟的通话中，说了足足15次“我们真的很抱歉”。丹尼尔表示：“完全就是隐私侵犯。我再也不使用那些设备了，因为我无法再相信它们。”虽然查询智能家居设备信息的目的是破案，但也引起了舆论对于隐私的关注。如果家中智能设备能自动追踪并记录你的习惯和信息，这些信息能在法庭上成为呈堂证供吗？嫌犯的代理律师认为答案是否定的。嫌犯代理律师表示“家中的隐私应该受到保护，但现在执法部门却利用那些可以提高我们生活质量的新技术在法庭上针对我们。”此外，另一个需要注意的问题是，智能家居设备存储的信息到底可靠性如何？4.3隐私泄露的案例2024/7/2435人工智能伦理此后，亚马逊发布声明回应此次泄露隐私事件，对于向好友发送谈话录音的原因，亚马逊解释如下：丹尼尔与丈夫的谈话声中有貌似“Alexa”的单词，于是，Echo被唤醒。然后，在接下来的对话中，又恰巧听到“sendmessage”（发送消息）请求。这时，Alexa问道：“Towhom？”（发给谁?）。接下来，背景对话被理解为用户联系人列表中的一个名字。Alexa又问道：“[contactname]，right？”（“给[联系人名字]，对吧？”）。然后Alexa将背景对话理解为“right”（对）。在以上一连串唤醒Echo并命令其执行任务的流程中，丹尼尔与丈夫“恰巧”命令Echo4次，而对于Echo的2次反问，丹尼尔与丈夫还都无视，甚至同意了Echo的行为。语音识别的隐私泄露媒体报道称，当时Echo错误判断了这对夫妇的对话信息，被激活之后又错误的进行了“发送消息”之类的语音命令，然后，截取了这对夫妇的谈话内容，发送给了通讯录列表上的一位联系人，整个过程充满了各种误识别问题。同时在信中还表示，想知道亚马逊究竟收到了多少用户投诉，包括Echo在用户不知情情况下秘密记录了多少数据。如果能够找到亚马逊使用、存储和保存用户信息的证据，包括语音数据，并且这些证明这些数据是由Echo进行收集和传输，那将会引发整个科技界震动。美国参议院司法委员会成员弗莱克和库恩斯联名签署，向亚马逊首席执行官贝索斯发出了一封担忧亚马逊存在大量隐私问题的公开信，信中专门提到了丹尼尔夫妇的例子。在信中，参议员提出了这样一个问题：“在用户说出激活单词之前，Echo是否被设计成始终待命监听用户语音命令的状态？”如果这种假设成立，那么就会有一系列后续的问题。Siri涉嫌泄露用户隐私2019年7月27日，据《卫报》消息称，苹果Siri团队承包商透露，苹果公司会把Siri收集到的语音记录分发给该公司的员工进行收听，并对录音内容根据评级来评分，用以改善Siri语音体验并帮助Siri更好地理解语音指令。据《卫报》报道，这些泄露的录音片段，会包括机密医疗信息、毒品交易、婚姻行为以及位置、用户数据等私人信息。苹果在对待Siri录音和苹果公司是否能听到录音的问题上含糊不清，只在隐私条例中列出“帮助公司识别你的发音和提供更好的回答，某些信息会发送到使用加密协议的苹果服务器，比如你的名字、联系人、收听的音乐和搜索记录”，而苹果公司是否收听录音并没有交代清楚。语音识别的隐私泄露4.3隐私泄露的案例2024/7/2436人工智能伦理苹果公司的回应苹果公司在给《卫报》的声明中承认，“Siri的一小部分询问请求会被分析，目的在于改进Siri的功能。用户的Siri请求没有与用户的苹果账号关联在一起。Siri的回答在安全的设施中进行分析，所有的审查员都有义务遵守苹果严格的保密要求。”该公司还指出，在这种机制下被分析的Siri日常互动占比不到1%。而且录音长度只有几秒钟。尽管苹果公司坚称“只有不到1%的录音被用于分析，而且录音长度只有‘几秒钟’”，但不少苹果手机用户还是认为，“难免会有涉及位置、医疗信息、家庭对话等敏感内容被泄露”。迫于舆论的压力，苹果公司发表声明宣布，终止人工语音分析业务，并将着手删除用户与Siri的所有对话录音——不过，苹果公司并未放弃对Siri服务的改进，但前提是：用户必须自愿同意将自己与Siri的对话录音用于分析；而且录音只能由苹果公司的员工听取，不能再被发送给苹果公司的承包商；此外，用户有权随时终止这一合作。人脸识别的隐私泄露4.3隐私泄露的案例“售楼处戴口罩也能人脸识别！”“杀伤力惊人的售楼处人脸识别系统”……以“买房”加“人脸识别”为关键词在网上检索，这样的消息比比皆是。在南都记者的调查中，多家售楼处承认安装了人脸识别系统，更有房地产业内人士称，“类似的系统每一个公司都有”。但专家提醒，未经消费者同意就抓拍其人脸照片涉嫌侵权，数据一旦泄露危害极大。房地产中介袁某告诉南都记者，房企安装人脸识别系统，与其“分销模式”有关。每当新楼盘上市，房企一方面会花大量费用做营销宣传，吸引潜在购房者，另一方面也会找各种卖房平台作为“分销渠道”，让渠道帮忙招徕客户。2024/7/2437戴着头盔去看房想买房的你走进了一家售楼处。热情的工作人员举着托盘走到你身边，托盘上放着三种不同的饮料。在接下来的一个小时里，他/她会替你考虑周末去哪娱乐，孩子在哪上学，怎样付款“最划算”……但他/她大概率不会告诉你，当你在畅想未来的美好生活时，天花板上的摄像头正在对你进行人脸识别。小视频“戴头盔看房”在网上流传，视频中还有字幕：“为保护个人信息，戴着头盔去看房”。导致看房者出此奇招的，正是售楼处的人脸识别系统。人工智能伦理如果购房者是看了房企宣传前来买房，叫做“自然到访客户”，说明房企的营销费没白花；如果购房者被渠道中介带上门，就属于“渠道客户”，房企要给予中介一定的“好处费”，即提成佣金。房企销售与渠道中介抢客户的“混战”经常发生。而人脸识别，就是为了帮助房企判断某个购房者是什么类型、是谁的客户，佣金应该发给谁。人脸识别的隐私泄露4.3隐私泄露的案例徐某还提到，房企销售和渠道中介的佣金不一样，一些购房者会在自己到过售楼处后再去找中介。“中介会给他们一些优惠的甜头，但对于房地产公司来说，这一单的销售成本就变高了，既花了营销费，又多付了佣金。”房地产中介程鑫认为，除了房企，中介也能从人脸识别中受益。他告诉南都记者，人脸识别可以确定中介的首看时间、获客数量。在中介首次带客看房后，房企会为中介机构提供两到三个月的保护期。这期间即使有其他中介抢走客户并签约，也不会获得佣金。2024/7/2438南都记者调查发现，为了满足房企需求，多家公司推出了“人脸识别渠道风控”产品，且市场铺得很大。以深圳市明源云客电子商务有限公司（下称“明源”）为例，该公司在其官网宣称，相关产品已覆盖“80+”城市、“1100+”项目。佛山市大迈信息科技有限公司（以下简称“大迈”）则介绍，疫情发生后，看房者往往戴着口罩，但其系统在江门骏景湾集团-领峰项目上线一个月以来，识别率仍然高达97.77%。人工智能伦理“现在基本上每个开发商都有这种人脸识别系统”，房企员工徐某对南都记者说，如果没有人脸识别，就会有很多“灰色地带”。她举例说，客户A和客户B一起来售楼处，销售C接待了他们，但只有客户A登记了信息。当客户B再次上门时，是跟中介D一起来的。最后，客户B通过中介D成交了。销售C发现他接待过客户B，会认为这是他的客户，销售C和中介D就会产生争执。人脸识别的隐私泄露4.3隐私泄露的案例南都记者以购买产品为由，联系上了明源公司销售陈某。据陈某介绍，明源的人脸识别系统分为软、硬件两部分，包括多家合作厂商：摄像头等硬件跟旷视定制，算法与华为合作，数据则缓存在阿里云。“我们做过测试，可以同时识别50个人，戴口罩也可以识别。”与传统的安防视频不同，系统可以识别并预测看房者的行动路径，框选其必经路线，设置摄像头进行抓拍。拍完后，系统还会自动选出一到两张“最优照片”。等看房者确定买房，用“人证一体机”进行身份验证时，系统后台就会将身份证信息绑定到此前记录上，“相当于人、人脸、手机号、所有来访记录进行比对”。2024/7/2439人工智能伦理当记者以前述“戴头盔看房”的视频举例，提出看房者可能有隐私顾虑时，陈某表示，人脸识别摄像头和监控摄像头的外观一样，可以全程“无感”抓拍。“他们是不知道的，之前确实听说过相关的案例，但现在慢慢没有了。”为了体验无感抓拍的效果，南都记者假装看房，来到了北京市的中国铁建国际公馆售楼处。在一个小时的体验中，南都记者看到了多个标着“旷视”字样的摄像头，一楼有三个，二楼样板间区域至少有两个。但无论是在售楼处门口还是楼内，摄像头处均无人脸识别提示，销售人员也并没有提及人脸识别。记者全程戴口罩完成“看房”后，很快找其同事调出了四张抓拍照片——每一张照片都成功拍到了记者，有一张甚至是记者在售楼处外张望的照片，右上角的时间标记精确到秒。为了更全面地展示系统功能，陈某又展示了另一个项目的后台截图。截图显示，戴口罩的陈某在33分钟内被抓拍到三次，每一次抓拍的时间、照片、“人证一体机”拍摄的对比底图及“人脸相似度”均列在其中。此外，系统还有“查看短视频”的功能，其中一个视频展示了陈某从画面外走进售楼处门口的全过程。4.3隐私泄露的案例2024/7/2440人工智能伦理在房地产从业者看来，人脸识别好处多多。但对于消费者来说，其中暗藏猫腻。“一般人对类似人脸识别这样的高科技运用，大概都是一种‘用就用了’的无所谓态度。不过，当人脸识别和购房优惠挂钩，一张脸算下来有好几十万的折扣时，恐怕没人能够淡定了吧？”房地产自媒体“重庆地产news”这段话，道出了其中玄机。人脸识别的隐私泄露某自媒体发布的一篇文章中指出，某项目推出了一系列年底购房优惠，只要购房者第一次到访项目并当场下单，各种折扣算下来可以少花30万元。但购房者必须是第一次到访，或者说此前没有被摄像头拍到过。同一套房屋，消费者从不同渠道购入，差价在几万元到几十万元不等。“货比三家”本是人之常情，但房企用上人脸识别之后，就等于将消费者“一拍定终身”。一位知乎网友提到，她的老公曾经陪朋友去看房，没有主动留下任何信息。今年两口子自己买房，找的是中介，也谈好了“返点”。但他们交完首付后，中介说，两人被人脸识别系统锁定到了此前接待朋友的销售身上，不属于他的客户，也就无法返点。所谓的人脸识别渠道风控产品，最大的卖点之一就是无感抓拍：陈某在向记者推销时，多次提到这一点，并称这会提高客户的体验。售楼处的人脸数据会被保存多久？陈某称，人脸数据、手机号码“都是永久保存的”，但房企内部一般只对指定的管理层开放数据查看权限。在实地体验“无感抓拍”后，记者以看房者身份致电中国铁建国际公馆售楼处，询问人脸识别情况。工作人员承认了系统的存在，但辩称售楼处没有隐瞒客户，“一进门的位置就有摄像头”——她认为，看房者看到了摄像头，就会意识到自己的人脸会被抓拍。只有确定成交的看房者，才会被要求输入身份证等更具体的个人信息。然而，当记者要求删除人脸图片时，该工作人员表示，如果集团核对信息时发现录像缺失，“有的领导肯定会挨说，可能会有相应的处罚”。因此，她拒绝了记者的要求，并坦言短期内相关信息不会被删除。人脸识别的隐私泄露4.3隐私泄露的案例“售楼处的组织方肯定是侵权行为的第一责任人。有个比较有意思的问题是，人脸识别的技术提供方是否侵权。要重点关注技术提供方的主观故意和过错问题。虽然他们在出售产品和技术的时候不一定知道最终用在何处，但他们具有法定义务去审核接收方是否尽到了合理的个人信息保护义务，自己的行为是否在帮助接收方共同侵权。”任何机构与企业应该慎重使用人脸识别系统，使用前需要仔细评估其正当性、必要性、安全性。“用户拥有知情权。如确需使用，应当征得用户同意。”中国信息安全研究院专家指出，售楼处使用人脸识别系统的目的是维护自身利益，而不是保护用户权益，因此使用该系统的正当性、必要性令人怀疑。“目前国家正在制定的人脸识别数据安全标准，对数据的存储、传输、销毁有严格要求。相关企业应该考虑这些问题：永久存储数据有必要吗？是否与用户达成约定？”在房屋销售的场景下，看房者的人脸信息会关联其他个人信息，相关数据一旦泄露，危害极大。App治理工作组专家认为，主打“无感”的个人信息收集和处理行为，存在明显合规问题：既没有单独向看房者告知收集、使用其个人生物识别信息的目的、方式和范围，也没有征得个人信息主体的明示同意。此外，人脸识别将看房者区分为不同类型，给予不同的优惠力度，还有“价格和服务歧视”的嫌疑。2024/7/2441人工智能伦理《网络安全法》和《民法典》已有规定，收集、使用个人信息，应当遵循合法、正当、必要原则，公开收集、使用规则，明示收集、使用信息的目的、方式和范围，并经被收集者同意。售楼处工作人员所谓“购房者看到摄像头就等于知道被抓拍人脸”的说法，完全不能成立。某律师事务所首席合作人认为，售楼处的无感抓拍，已侵犯了看房者的个人信息权益，“侵权行为与侵权结果非常明显”，值得探讨的是有哪些侵权主体。人脸识别的隐私泄露4.3隐私泄露的案例科勒卫浴门店的万店掌2021年3月15日，以“提振消费，从心开始”为主题的3.15国际消费者权益日晚会如期举行。今年也不例外。晚会把人脸识别数据泄露问题排在首位，曝光了部分商家利用人脸识别技术搜集顾客信息的违法行为。国内多个行业的多家商户存在着滥用人脸识别技术抓取顾客信息的情况，如卫浴行业的科勒（KOHLER）卫浴专卖店、汽车销售行业中的宝马4S店、服装销售行业中的Maxmara专卖门店等。2024/7/2442人工智能伦理在上海家饰佳科勒卫浴专卖店，店内的摄像头看起来没有什么特别之处。然而，科勒（中国）投资有限公司一位工作人员却告诉记者，这种摄像头与众不同，具有人脸识别功能，而且不少门店都装有这种摄像头。有了人脸识别功能的摄像头，一旦顾客进入科勒卫浴门店，人脸信息就会被捕捉和记录，以后顾客再去哪家店，去了几次，科勒卫浴都会知道。“比如这个人过来了，B店会提示这个人也逛过A店，B店如何去接待、如何去报价，就有心理准备了。”记者在上海接连走访了三家科勒卫浴的门店，均看到了这种号称具有人脸识别功能的摄像头，然而从记者进店一直到离开，都没有得到明确的提示和告知，征得同意更是无从谈起。人脸识别的隐私泄露4.3隐私泄露的案例2024/7/2443人工智能伦理在科勒卫浴门店，看上去并不起眼的摄像头，真的偷偷捕捉了顾客的人脸信息吗？记者注意到，这个摄像头上标注着“万店掌”字样，记者通过联系，见到了苏州万店掌公司的相关负责人。薛经理承认，科勒卫浴的确装了他们公司具有人脸识别功能的摄像头。记者问到：“科勒是全国性地装吗？每家店都装？”陈经理回答到：“全国性的，科勒有上千家，每家店都安装。”为了证实所言非虚，记者仅仅提供了一个到店时间点，薛经理就通过科勒卫浴系统的后台，调出了记者的照片进店信息。捕捉记录显示，不到两分钟，记者被摄像头的人脸识别功能抓拍了三次，角度虽然不同，但人脸编号都是相同的，不仅如此，记者去过的不同门店，人脸信息均被抓取，而且人脸信息编号也都是相同的，可见记者的人脸信息已经被科勒卫浴精准掌握。记者从后台系统上看到，与记者同一时间段进入科勒卫浴门店的其他顾客，人脸识别信息同样被抓取。陈经理讲到：“跟你讲一下，只要进店，就能够获取。它是在人不知情的情况下被动抓取。每一个后面会生成一个ID。”薛经理介绍到，苏州万店掌能够为商家提供专业的人脸互动营销解决方案，人脸识别率非常高。“基本来讲，现在不戴口罩，人脸识别率肯定有95%，但是戴口罩就不好说了，80%-85%吧。”“除了科勒卫浴，不少企业都安装了类似的人脸识别系统。”人脸识别的隐私泄露4.3隐私泄露的案例2024/7/2444人工智能伦理央视财经频道报道称，一些号称提供“人脸互动营销解决方案”的科技公司，在商家的线下门店中安装可以采集顾客人脸信息的摄像头设备，当顾客一进店就抓取人脸数据，被抓取的顾客人脸信息被传回科技公司的数据后台进行ID分类、储存和分析。安装了这种摄像头设备的商家，利用科技公司提供的数据，能够做到对进店客户的“实时动态分析”，进而完成“精准销售”。这一切，都是在顾客毫不知情情况下进行。这些科技公司包括苏州万店掌网络科技有限公司、上海悠洛客电子科技股份有限公司、雅量智能科技（广州）有限公司、瑞为信息技术（深圳）有限公司等。在被曝光案例中，悠洛客电子科技股份有限公司的客户之一是汽车经销商正通汽车。悠洛客公司的一位经理向央视记者表示，正通汽车有上百家4S店用了他们的人脸识别系统，其中一家店是位于深圳市的宝马4S店。在无锡一家宝马4S店，则安装了瑞为信息技术有限公司提供的设备。央视报道显示，该位悠洛客经理手机系统后台上，除了宝马销售店，还有奥迪、沃尔沃、路虎等多家豪华汽车品牌的销售店在列。当顾客进入正通汽车上百家4S店的任意一家店以后，人脸识别设备摄像头会在10秒钟之内瞬间抓取人脸信息，准确度也相当高。悠洛客公司一位经理称，他们的摄像头是“无感非配合式”，不是人们平时使用手机人脸识别时需要同意才能进行，也不是正对摄像头然后同意的方式，而是无感知获取信息。人脸识别的隐私泄露4.3隐私泄露的案例根据央视调查，