2023我国未成年人数据保护蓝皮书-人民数据研究院-202306

我国未成年人数据保护蓝皮书人民网·人民数据」人民数据研究院出品监制：刘畅陈丽主笔：褚晓坤宋琪叶德恒美编：魏敏2023我国未成年人数据保护蓝皮书我国未成年人数据保护发展背景我国未成年人数据保护发展背景数字时代，心智尚未成熟的未成年人普遍缺乏对个人信息数据、隐私数据、内容安全等自主保护意识、能力与手段，随着我国未成年人互联网普及率的提高，进一步加强未成年人数据保护是紧迫且必要的。人民数据研究院基于中国互联网信息中心、共青团中央等公开数据，梳理我国未成年人数据保护相关立法现状、监管体系以及行业实践等情况；以问卷调研数据为补充，分析我国未成年人在个人信息、隐私数据、网络内容安全等方面的应用情况；以桌面研究、闭门研讨的方式，汇总整理专家对我国未成年人数据保护的相关对策建议，从监管体系完善到技术层面优化再到行业层面倡议，报告旨在促进未成年人身、心、智健康发展，保障未成年人群体数据权益等。未成年人数据保护的界定及特点未成年人数据保护的界定及特点互联网生态对未成年人的成长和发展带来的影响较为显著，良好的互联网生态可以促进未成年人更好地成长在网络时代、更好地运用互联网；反之，互联网生态恶劣则会对未成年人的合法权益造成侵害，对他们的健康成长造成不利影响。然而，当前互联网生态环境下不良信息侵扰、网络欺凌等问题时有发生。为构建良好互联网生态、促进未成年人健康成长，研究互联网背景下未成年人数据保护成为重要课题。因此，首先对儿童、未成年人的概念进行辨析，其次未成年人群体的特殊性决定了未成年人数据的特殊性。相较于成年人而言，未成年人的特点是自治意思不健全、个人信息保护意识较低，在互联网上进行的操作容易使其数据遭受泄露和非法使用，大大增加其数据权益受到侵害的风险，应对未成年人数据予以特殊保护。1.未成年人数据保护含义①儿童、未成年人的概念辨析儿童的概念可以从广义与狭义两个层面进行理解。首先，《联合国儿童权利公约》对儿童的年龄标准作出了明确规定，将儿童认定为所有十八周岁以下的人。在我国，根据《中华人民共和国未成年人保护法》(下称《未成年人保护法》)和《中华人民共和国民法典》(下称《民法典》)的规定，十八周岁以下的自然人是未成年人。这表明我国立法中的未成年人与国际条约中的儿童具有同等意义，也说明二者之间并不存在明显差别。这一标准可以看作广义层面上儿童概念的界定，即广义概念中儿童的年龄认定标准为十八周岁。狭义概念而言，从《中华人民共和国刑法》(下称《刑法》)《民法典》《中华人民共和国劳动法》我国未成年人数据保护蓝皮书2023成年人数据也可以称为未成年人个人信息。个人数据(即可以用来识别或描述自然人的信息数据)所本报告结合未成年人数据在当前社会发展中呈现的新特点、新问题、新趋势等，从未成年人个人信息保护、隐私保护和内容安全保护等三个层面展开研究我国未成年人数据保护，旨在强化未成年人数据保护义务主体的责任意识，促进未成年人的身心智健康发展，保障未成年人群体的数据权益。相关概未成年人个人信息保护，是指针对我国未成年人数据全生命周期中的一系列行为，包括收集、存储、共享、调用、转移、披露、删除等，进行限制、规范与保护。其中，未成年人数据强调可识别性，即数据中承载的信息可以指向某一特定的未成年人，这种指向既可以是单独依靠某一种信息，也可以是通过对多种信息进行综合分析而得出的。未成年人隐私保护，是指确保未成年人群体的敏感信息得到应有的保护，防范个人信息泄漏，并对相关非法行为予以惩处。其中，未成年人隐私数据强调私密性，即在社会普通大众看来属于较为敏感或者私密的未成年人数据，亦或是其本人或其监护人不愿意透露的数据。比如，对于未成年人而言，他们的隐私数据不仅包括一般意义上的隐私信息，姓名、照片、网页浏览记录等在成年人看来不具备隐私属性的数据也具备一定的私密、敏感属性。隔离与删除。其中，本报告将未成年人在网络中遇到的不良内容定义为以网络为传播载体，以文字、图像或者影像等方式呈现的，极易对未成年人的思想造成混乱、心理造成扭曲的内容，主要包括裸露、暴力、性以及封建迷信、价值观扭曲、道德败坏等内容。2.未成年人数据保护的特殊性《2022中国游戏产业未成年人保护进展报告》数据显示，截至2022年12月我国19岁以下的网民规模达1.86亿人，占网民总体的17.6%,其中9岁及以上未成年人手机持有率(指过去一年，通过手机接入互联网)高达97.6%。同时，近两年来，未成年人数据权益遭受侵害的事件频发，涉及在线教育、网络文娱、移动社交等多行业，违规收集、隐形条款及信息滥用现象引发社会关注。与之相应，我国对未成年人的个人信息保护立法和执法工作日渐加强。在此背景下，我国未成年人数据保护的特殊性主要体现在保护主体特殊、个人信息特殊两方面。其中，对于身心发展正处于特殊阶段的未成年人来说，一方面，该主体在复杂的网络环境中更具脆弱数据安全与主体权益密不可分，未成年人作为数据主体，理应享有同等的主体权益。然而，受制于该群体的有限理性与网络的复杂性，需要法律、监护人、平台商家等多方责任主体对儿童的数据主体权利加以补充保护，这是人类文明和社会进步的应有义务。我国未成年人数据保护蓝皮书2023此外，未成年人个人信息的特殊性主要表现为信息的高敏感性。我国《民法典》将八周岁以上至未成年人(儿童)的个人信息属于“敏感个人信息”。由于儿童心智尚不健全，侵害数据安全的行为更易对其身心发展造成重大冲击及深远影响。儿童的健康成长不仅关乎家庭的和谐稳定，也事关社会可持续发展大计，鉴于侵害儿童敏感信息的后果之严重、影响范围之广，应予以未成年人的个人信息高层级保护。未成年人互联网使用情况未成年人互联网使用情况信息获取、休闲娱乐和网络社交是未成年人参与网络的主要行为，是网络生态中的重要内容。然而大数据时代，未成年人的成长早已与互联网的发展、数据应用紧密相连，加剧了未成年人这一特定人群的触网风险，如网络诈骗、网络暴力、网络欺凌等。目前，未成年人数据安全已成为网络空间治理中最具共识的议题之一，针对未成年人数据开展保护正当其时。本节将围绕未成年人互联网使用情况展开探讨，分析未成年人互联网普及、网络使用特点、重点应用场景等方面，描绘主要关涉未成年人数据收集、存储、调用、转移等活动的行业发展情况。1.未成年人互联网普及情况①未成年人的整体互联网普及率进一步提升，且城乡未成年人互联网普及率差距持续缩小共青团中央维护青少年权益部与中国互联网信息中心联合发布的《2021年全国未成年人互联网使用情况研究报告》数据显示，2021年我国未成年网民规模达1.9亿，未成年人互联网普及率为96.8%,较2020年(94.9%)提升1.9个百分点。此外，2021年城镇未成年人的互联网普及率为96.7%,农村未成年人的互联网普及率为97.3%,分别较2020年提升1.7个百分点和2.6个百分点，2021年农村未成年人互联网普及率首次超过城镇。图：2018-2021年城乡未成年人互联网普及率数据来源：中国互联网络信息中心，人民数据研究院整理此外，虽然城乡未成年人在互联网普及率方面的差距已基本弥合。然而，他们在网络使用方面存在较为明显的差异，主要表现为农村未成年网民上网设备相对单一、长时间上网情况更突出、使用休闲娱乐类应用比例较高、使用学习资讯类应用比例较低。《2021年全国未成年人互联网使用情况研究报告》数据显示，2021年节假日平均上网时长在5小时以上的未成年网民中，农村比城镇高3.9个百分点；经常在网上玩游戏、看短视频的未成年网民中，农村比城镇分别高6.0和8.3个百分点；经常使用网络学习、搜索引擎和看新闻的，农村比城镇分别低8.9、6.8和5.0个百分点。此外，超四成农村未成年网民没有和父母双方一起生活，比城镇高近两成。这一方面使得更多农村未成年人需要使用手机进行亲情联络，另一方面也导致农村未成年网民在上网用网上缺少家长的监督约束。只有38.3%的农村未成年网民表示上网时长经常受到家长限制，比城镇低10.4个百分点。②未成年人的互联网接入设备中手机占比仍然最高，未成年人互联网接入时长方面有所改善数据显示，超八成未成年网民拥有属于自己的上网设备，较2020年提升3.8个百分点。其中，手机仍然是未成年网民最主要的上网设备，为60.9%;其次为智能手表(33.3%)和平板电脑(27.9%)。与2020年相比，手机的拥有比例有所下降，而其他上网设备的比例有所提升。此外，未成年网民日均上网时长较短，未成年网民工作日平均每天上网时长为44.9分钟，节假日平均每天上网时长为102.8分钟。未成年人过度上网的情况有所改善，未成年网民工作日平均每天上网时长在2小时以上的比例为8.7%,较2020年(11.5%)下降2.8个百分点；在节假日平均每天上网时长在5小时以上的比例为9.9%,较2020年(12.2%)下降2.3个百分点。26.0%笔记本电脑25.3%2.未成年人互联网应用特点①互联网已成为未成年人学习、娱乐、社交的重要工具，互联网使用偏好存在年龄差异数据显示，未成年网民最经常利用互联网进行学习，占比达88.9%;上网听音乐和玩游戏是未成年人的主要网络休闲娱乐活动，占比分别为63.0%和62.3%;上网聊天作为未成年人主要的网上沟通社交活动，占比为53.4%。此外，不同年龄段的未成年人互联网应用偏好不同。小学生在各类互联网应用的使用比例均低于未成年网民平均水平，小学生经常在网上聊天、使用社交网站和网上购物的比例分别较未成年网民平均水平低18.3、16.6和14.9个百分点；初中生各类互联网应用的使用比例均高于未成年网民平均水平，初中生经常在网上聊天、使用社交网站的比例均高于未成年网民平均水平15个百分点以上；高中生更倾向于在网上从事购物和社交类活动，高中生经常在网上购物、使用社交网站、聊天的比例均超过未成年网民平均水平23个百分点。我国未成年人数据保护蓝皮书网上学习听音乐聊天听电台、听书逛论坛88.9%87.6%91.6%91.7%63.0%76.3%80.0%62.3%51.9%70.7%72.1%77.0%47.6%61.8%66.1%64.8%38.7%52.1%55.1%34.5%51.0%32.5%39.0%47.5%28.6%42.0%24.3%26.5%23.8%未成年网民平均水平24.2%未成年网民平均水平■■小学生网民高中生网民24.8%2.7%9.1%8.1%图：2021年不同年龄段的未成年人互联网应用偏好情况数据来源：中国互联网络信息中心，人民数据研究院整理我国未成年人数据保护蓝皮书2023②随着“互联网+教育”迅速发展，互联网在未成年人学习过程中扮演的角色愈发重要数据显示，利用互联网做作业和在线答疑的未成年网民比例分别为41.7%和32.7%,较2020年下降8.0和5.2个百分点。39.8%的未成年人开始通过互联网学习课外知识，较2020年提升3.9个百分点。49.5%49.5%49.7%46.7%41.7%37.9%2020年图：2020-2021年未成年人在网上从事学习活动未成年人的网上娱乐行为得到控制。未成年网民经常在网络上听音乐、玩游戏、看视频、看短视频、看直播的比例均较2020年有所下降。其中，经常在网上看视频的比例为38.7%,下降4.2个百分点；经常在网上听音乐的比例为63.0%,下降1.8个百分点；经常在网上看短视频的比例为47.6%,下降1.7个百分点；经常在网上看直播的比例为16.7%,下降1.5个百分点。21.1%21.5%18.2%16.7%2020年2023我国未成年人数据保护蓝皮书上网聊天仍是未成年人主要的网上沟通社交活动。未成年网民经常在网上聊天的比例为53.4%,较2020年(55.1%)下降1.7个百分点。未成年网民使用社交网站、逛微博、逛论坛的比例相比2020年有所提升。2020年图：2020-2021年未成年人在网上从事社交活动的情况数据来源：中国互联网络信息中心，人民数据研究院整理3.关涉未成年人数据的重点应用场景结合互联网教育、休闲娱乐和网络社交这三大未成年人网络参与行为，按照涉及数据的收集、存储、调用、转移等流程，本报告将关涉未成年人数据的重点应用场景分为即时通信、游戏、视频直播、在线教育、物联网终端等五大场景。在线教育在线教育物联网终端物联网技术和服务行业、智能家居和智能家电行业、智能可穿戴设备行业、人工智能和大数据分析行业等包括智能手表、智能玩具、智能家居在内的电子设备收集的未成年人位置、心率等健康信息、操作记录、运动数据等账号信息、观看历史、搜索记录、点赞、评论等在线视频直播行业、流媒体技术和服务行业、广告营销行业等通信科技行业、社交网络平台行业、手机通讯行业等教育科技行业、在线教育平台行业、教育培训服务行业网络游戏行业、游戏开发和制作行业、游戏发行和运营行业等账号信息、作业情况、学习成绩、考试次数等聊天记录、个人信息、好友列表等主要涉及行业部分儿童数据类型账号信息、游玩记录、游戏交友信息等即时通信视频直播游戏图：关涉未成年人数据的重点应用场景数据来源：公开信息，人民数据研究院整理我国未成年人数据保护蓝皮书2023上述应用场景涉及的行业十分广泛，主要列举如上表。其中，备受关注的行业主要为网络游戏、在线视频直播、智能可穿戴设备等。人民数据研究院整理相关公开资料发现，上述行业蓬勃发展的同时未根据中国互联网络信息中心(CNNIC)发布的第51次《中国互联网络发展状况统计报告》报告显示，截至2022年12月，我国网络游戏用户规模达5.22亿，较2021年12月减少3186万，占网民整体的48.9%(减少量以未成年用户为主)。然而，未来新入场的用户更可能是未成年中年龄段偏低的网络新二是，在线视频直播行业。作为未成年人休闲娱乐、信息获取的重要渠道，已在防网络沉迷上发挥了积极作用，但在未成年人隐私保护上还存在实践难点。根据《中国网络视听发展研究报告(2023)》占比40.3%,网络直播领域市场规模为1249.6亿，占比17.2%。日益增长的视频直播市场规模也对健根据《中国可穿戴设备市场月度销量跟踪报告》显示，2022年中国腕戴设备市场销量超过4000万台，其中智能手表在儿童市场销量1461万台，手环在儿童市场的销量为1276万台。随着家长对儿童安全防护意识的增强，以及智能手表功能的不断升级，儿童智能手表获得了越来越多未成年人的青睐。然而，除产品质量问题之外，消费者对儿童个人信息泄露带来的安全问题普遍表示担忧。调研数据显示，孩子拥有智能手表的家长中，28.0%表示孩子在使用智能手表时遇到过个人信息、隐私数据泄露的问题；25.1%表示担心孩子的智能手表会自动装载垃圾软件、恶意软件；24.1%担心软件恶意监视、遇到个人信息隐私数据泄露情况担心自动装载垃圾软件、恶意软件的情况发生担心孩子被设备软件恶意监视、监听2023我国未成年人数据保护蓝皮书未成年人作为新时代的网络原住民，其网络参与愈发频繁，相关数据保护问题的关注度也日益增加。尽管互联网对未成年人延伸课堂学习、便利娱乐生活以及拓宽人际交往等诸多方面发挥着正向积极的作用，但同时也带来了日益严重的网络犯罪问题，即网络侵害未成年人安全和权益的违法犯罪行为。未成年人在使用网络时，由于未成年人处于成长阶段，其身心尚未成熟，认识与辨别事物能力与自我保护能力较为薄弱，容易遭受网络暴力与色情等不良内容、个人信息尤其是个人隐私数据泄漏等问题的侵害。因而，未成年人的健康成长迫切需要健康安全的网络环境。由于网络具有突破地域限制的性质，还需要政府层面、行业层面、企业层面制定相关标准，以使在推动网络技术不断创新发展的同时，也能引导网络发展朝着有序、安全的方向，从而最终能够更好地保护未成年人。我国未成年人数据保护体系主要包括国家立法、行业政策、监管机构、行业自律机制等。总体而言，随着相关法律法规不断出台，监管执法力度加强，相关企业积极落实保护措施，我国未成年人数据保护体系正在逐步完善。①国家立法层面关注度与保护力度明显提升针对未成年人数据保护领域早先相关法律不健全，或是有法不依、违法不究、执法不严等问题，我人民共和国未成年人保护法》和《中华人民共和国预防未成年人犯罪法》是未成年人保护领域的两部基础性法律，二者都已经注意到网络对未成年人的重要影响，因此，均规定了未成年人网络安全、数据保护相关方面的内容。《未成年人保护法》规定未成年人的父母或者其他监护人应当通过在智能终端产品上安装未成年人网络保护软件、选择适合未成年人的服务模式和管理功能等方式，避免未成年人接触危害或者可能影响其身心健康的网络信息，合理安排未成年人使用网络的时间，有效预防未成年人沉迷网络，同时规定了国家应防止未成年人受不良网络信息侵害，并对利用网络提供危害未成年人身心健康的内容及信息的行为予以禁止；此外，在网络管理领域具有基础性法律地位的《中华人民共和国网络安全法》也规定了国家应为未成年人提供健康安全的网络环境，第十三条指出国家支持研究开发有利于未成年人健康成长的网络产品和服务，依法惩治利用网络从事危害未成年人身心健康的活动，为未成年人提供安全、健康的网络环境。二是，专门性行政法规和部门规章进一步保护未成年人网络安全。《未成年人网络保护条例》力求在保障未成年人上网权利与未成年人网络保护之间寻求平衡，在网络信息内容建设、未成年人网络权益我国未成年人数据保护蓝皮书2023针对未成年人的网络安全保护问题，我国已成立多家综合/单一保护协会，包括互联网协会(2001年成立)、中国青少年网络协会(2004年成立)、中国青少年新媒体协会(2004年成立)、网络视听节目服务协会(2011年成立)、中国网络空间协会(2016年成立)、中国网络社会组织联合会(2018年成立)等，着手推动未成年人网络安全、数据保护工作，瞄准未成年个人信息保护、网络直播等重点领域问题，制定行业自律规范约束互联网经营者、学校、家庭等多方主体，以他律引导行业自律；通过线上交流、开设课堂、举行知识竞赛等活动，引导未成年人文明上网；聚焦未成年人网络安全、数据保护难题，召开座谈会、评议会等。2.我国未成年人数据保护法律法规主要内容解读加强未成年人数据保护制度建设，织就相关法律体系，才能为其提供长效保护。新修订的《未成年人保护法》设立“网络保护”专章；《网络安全法》《个人信息保护法》筑起普遍适用的规则体系；《儿童个人信息网络保护规定》《互联网信息服务算法推荐管理规定》等法规推动我国儿童个人信息网络保护进入新阶段。本节主要对《未成年人保护法》《个人信息保护法》《儿童个人信息网络保护规定》《互联网信息服务算法推荐管理规定》中涉及未成年人数据保护的内容进行简要梳理。①《未成年人保护法》相关内容及解读作为未成年人保护领域的综合性法律，新修订的《中华人民共和国未成年人保护法》于2020年10月17日经十三届全国人大常委会第二十二次会议表决通过，并于2021年6月1日正式施行。新修订的《未成年人保护法》坚持最有利于未成年人的原则，在家庭保护、学校保护、社会保护和司法保护这四大保护的基础上新增了政府保护和网络保护。其中，“网络保护”专章从网络素养教育、网络信息管理、个人信息保护、网络欺凌防治五大方面切入，与其他章节互补配合，进一步明确了对未成年人隐私权和个人信息保护的具体规定，强化了国家、社会、学校、家庭、网络产品和服务提供者五大主体的法律责任。增强未成年人的网络素养在“网络保护”专章第64条中首先被提及，反映了面对网络风险应持有的积极预防、主动应对的态度。为了平衡发展与保护，保障未成年人受保护权的同时更好地享有使用网络发展的权利，第72条明确规定了未成年人关于个人信息的同意年龄为14周岁，并强调通过网络处理未成年人个人信息的信息处理者应当遵循合法、正当和必要原则。此外，在针对网络信息管理、应对未成年人网络沉迷的问题上，修订后的《未成年人保护法》作出规定：不得向未成年人提供诱导其沉迷的产品和服务。同时要求网络服务提供者针对未成年人使用其服务设置相应的时间管理、权限管理、消费管理等功能。第66条明确规定由网信部门及其他有关部门依法惩处利用网络从事危害未成年人身心健康的活动。强调了未成年人父母或其他监护人在应对网络沉迷及网络欺凌问题上的职责。除了上述具有创设性的“网络保护”专章之外，修订后的《未成年人保护法》从“发现侵害”的角我国未成年人数据保护蓝皮书2023自2019年10月1日起施行的《儿童个人信息网络保护规定》(以下简称《规定》)是我国首部护人在儿童个人信息的全生命周期中享有的权利，对儿童个人信息设计了特殊保护制度，规范了网络运营者的保护义务。在立法的亮点上，《规定》首先将个人信息保护领域的“儿与《刑法》对“儿童”的年龄界定一致，与我国信息网络和智能终端加速普及、儿童心智成熟的年龄段普遍提前的现状相符，体现了立法的统一性、合理性、科学性。《规定》延续了《网络安全法》等个人信息保护立法中的知情同意规则，并进行了细化补全，明确了儿童及其监护人在收集、存储、使用、转共享和披露限制，以及撤回同意、停止服务时的信息删除权均反映了儿童数据全生命周期管理中“安全先于流通”的价值理念。最后，《规定》考虑到儿童数据保护的实践难度，通过设置例外条款在一定程度上平衡了网络运营者的安全保障义务与合规运行成本。同时，特别强调了儿童监护人的教育引导职责。纵览《规定》全文，“严格保护”的思路贯穿其中，以较强落实《未成年人保护法》《网络安全法》等上位法规定，推动我国儿童数据保护体系建设进入新阶段。④《互联网信息服务算法推荐管理规定》相关内容及解读在未成年人内容安全保护方面，自2022年3月1日起施行的《互联网信息服务算法推荐管理规定》(以下简称《规定》)正当其时，是建设我国未成年人友好型网络空间制度框架的重要组成部分。《规定》秉承发展与保护并重的理念，针对未成年人制定了专条，从积极和消极两个方面明确了算法推荐服务提供者对该特殊群体的保护义务。一方面，要求通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式来便利未成年人获取有益身心健康的信息；另一方面，明确禁止算法推荐服务提供者向未成年人推送违反社会公德、具有诱导性质的不良信息。再一次强调了《未成年人保护法》网络保护专章中所提到的不得诱导未成年人沉迷网络的规定。《规定》立足于社会发展实际，明确了应用算法推荐技术的范围，设计了算法分级分类安全管理制度，规范了对互联网企业等算法推荐服务提供者的责任义务，更从履行安全评估和配合监督检查义务方面对其提出了具体要求。此外，《规定》从价值导向和监管框架的层面提供了指引和规范，要求互联网企业等算法推荐服务提供者坚持积极传播正能量的主流价值导向，此外《规定》指出算法推荐服务提供者违反本规定第六条、第十一条、第十三条等规定的，由网信部门和电信、公安、市场监管等有关部门依据职责，按照有关法律、行政法规和部门规章的规定予以处理。通过强化内容生态治理，为包括儿童在内的未成年人打造网络空间的保护屏障。3.我国未成年人数据保护重点相关法律法规梳理①构建了较为完整的未成年人个人信息法律保护体系 2023我国未成年人数据保护蓝皮书我国未成年人数据保护发展现状我国未成年人数据保护发展现状互联网已深刻嵌入未成年人的学习、生活、社交，一方面互联网为未成年人建立崭新的空间，另一方面因互联网使用不当造成不良后果的新闻也屡有发生。未成年人数据安全关乎其人格权益以及身心安全，对未成年人的数据保护亦是重中之重，近年我国未成年人数据保护的立法、管理工作已逐步展开，企业平台也已开展在未成年人数据保护领域的实践探索，以“制度+技术”持续保障未成年人数据安全。未成年人个人信息安全未成年人个人信息安全步入互联网信息时代，人们在享受互联网信息带来便利的同时，也应当意识到个人信息面临着被泄露的风险。尤其对于未成年人而言，他们尚处于成长发展的关键时期，价值观还未完全形成，对于某些数据处理活动并不能完全理解，可能会做出不利于其自身的选择，使得未成年人的个人信息容易被不法分子所掌握，导致未成年人个人信息遭受侵害，互联网背景下未成年人个人信息安全问题亟待关注。本节以未成年人个人信息为研究对象，围绕未成年人在互联网背景下遭遇的网络运营商超期存储其个人信息数据、未成年人个人信息泄露等问题展开探讨，并整理分析目前企业在未成年人个人信息保护方面的1.未成年人个人信息安全问题①部分网络运营者超期存储未成年人个人信息网络运营者超期存储未成年人个人信息加剧了信息被泄露的风险。根据人民数据资产服务平台数据显示，2022年1—12月，“未成年人个人信息安全”话题中敏感信息占比25.6%,同比增长201.7%。进一步分析相关热词发现，“存储”“网络运营者”“被罚”等词成为未成年人个人信息安全相关高频词、图：2022年1-12月未成年人个人信息安全相关热词图我国未成年人数据保护蓝皮书2023虽然《个人信息保护法》将个人信息保护的存储期限规定为“为实现处理目的所必要的最短时间”,但是人民数据研究院分析现实实践中互联网平台隐私政策发现，大部分对于存储期限的表述为“法律规定的最短期限”。加之各行业、企业对于进行信息处理活动所需的时间不尽相同，法律并没有对该时间做出明确的规定。现实中部分网络运营者为了攫取利益，在实现了处理个人信息的目的后，仍然超期保存个人信息。并且，未成年人个人信息处于一个动态变化的过程中，在某一时期敏感性较低的信息伴随着未成年人成长可能会成为具有较高敏感性的个人信息。因此，网络运营者超期存储未成年人个人信息的做法不仅会使得未成年人个人信息处于被泄露的高风险之中，而且可能对于未成年人的成长产生不利影响。②未成年人个人信息泄露问题成为非法侵害的前置风险从营销电话骚扰、垃圾短信到电信诈骗，未成年人个人信息泄露问题逐渐成为非法侵害的前置风险。并且随着未成年人首次触网时间低龄化，个人信息在网络上泄露的风险不断增加。分析未成年人数据保护调研数据发现，66.4%的家长收到过与孩子有关的兴趣班/辅导机构等推销广告电话、垃圾信息骚扰；32.6%的家长表示自己或孩子曾收到冒充客服、行政机关的诈骗电话、诈骗邮件等；此外，个人社交账号/网络账号被盗的情况占比超两成。收到冒充客服、行政机关的诈骗电话诈骗邮件等收到与孩子有关的兴趣班/辅导机构等推销广告电话、垃圾信息骚扰21.5%个人的社交账号/网络账号被盗图：家长或孩子遇到过个人信息泄露的情况数据来源：人民数据研究院未成年人数据保护调研，N=6222023我国未成年人数据保护蓝皮书我国未成年人数据保护蓝皮书20232.未成年人个人信息保护实践情况①落实相关法规要求，制定相关《隐私政策》《用户协议》智能可穿戴设备行业——小天才电话手表全等级保护三级(S3A3G3)备案”(“等保三级”产品全生命周期的数据与个人信息保护标准和流程。从产品的需求提出，研发的概要设计，到测试用例的评审都会开展个人信息安全评估，测试通过后才可对外发布并交付生产。将个人信息安全的理念融入研发的每一个环节。二是技术防御层面，构建了手表端安全、网络安全、云端存储安全、家长端手表端安全云端存储安全手表端安全网络安全网络安全图：小天才儿童数据安全的技术防御体系数据来源：小天才公开资料，人民数据研究院整理②建立未成年人个人信息保护相关的内部管理制度部分企业尤其是互联网头部企业，制定了与未成年人个人信息保护相关的内部管理制度，虽然不同企业的内部管理规则存在一定差异，但大多数都选择从人员管理、硬件管理、事件管理三大方面，减少未成年人个人信息因意外或疏忽大意而遭受损)网络游戏行业——网易游戏网易游戏在建立未成年人个人信息保护相关的内部管理制度方面成立了专门的安全团队，并指定未成年人个人信息保护负责人，负责与未成年人个人信息保护相关的日常工作。主要做法为：建立内我国未成年人数据保护蓝皮书2023部权限管理制度，以最小授权为原则，严格设定个人信息访问权限，控制未成年人个人信息知悉范围并丢失的，会立即采取补救措施，并将事件相关情况告知受影响的监护人和儿童等。网易儿童个人信息保护规则及监护人须知网易集团及旗下各关联公司(以下统称“网易”或“我们)深知儿童(指未满十四周岁的未成年人，下同)个人信息和隐私安全的重要性。我们希望通过《网易儿童个人信息保护规则及监护人须知》(以下简称“本政策”)说明我们在收集和使用儿童个人信息时对应的处理规则等相关事宜。在使用我们的各项产品和服务(以下统称“网易服务”)前，请儿童、儿童的父母或其他监护人(以下统称“监护人”)务必仔细阅读并透彻理解本政策，特别是以租体标识的条款应重点阅读，在确认充分理解并同意全部若我们获悉您的孩子不满十四周岁，我们将根据本政策采取特殊描施保护我们获得的您孩子的个人信息。请帮助我们保护您孩子的个人信息和隐私安全，要求他们在您的监护下共同阅读井接受本政策，且应在您的同意和指导下使用网易服务、提交个人信息。如果您不同意本政策的内容，将可能导致网易服务无法正常运行，或者无法达到我们拟达到的服务效果，您应要求您的孩子立即停止访问/使用网易服务。您于线上点击同意本政策，或者您的孩子使用/继续使用网易服务、提交个人信息，都表示您同意我们按照本政策(包括更新版本)收集、使用、存储、共享、转让和披露您孩子的个人信息。我们建议：任何儿童参加网上活动都应事先取得监护人的同意。如果您是儿童，请通知您的监护人共同阅读本政策，并在您使用网易服务、提交个人信息之前，寻求您的监护人的同意和指导。您于线上点击同意本政策，或者您使用/继续使用网易服务、提交个人信息，都表示您已获得您的监护人的许可，您的监护人均同意我们按照本政案(包括更新版本)收集、使用、存储、共享、转让和披露您的个人信息。本政策适用于我们在中华人民共和国境内通过网络从事收集、使用、存储、共享、转让和披露儿量个人信息等活动。当儿量使用任何网易服务时，监护人同意接受本政策以及我们在该单项服务中发出的特定儿量个人信息保护类规则条款(如有，以下称“特定条款”)的保护，在此情况下特定条款与本政策条款同时对监护人和儿量产生效力。如特定条款与本政策条款存在同类条教的不一致约定，则在特定条教约束范围内应以特定条教为准。如我们提供的某一单项服务不适用本政策的，该服务中会以适当方式明示排除适用本政策。在儿量个人信息保护规则方面，本政策与《网易隐私政策》正文存在不一致的，本政策优先适用，如本政策中未提及的，则以《网易隐私政策》为准。在阅读完本政策后，如对本政策或与本政策相关的事宜有任何问题，可通过本政策“如何联系我们”章节所列的反馈渠道联系我们，我们会尽快作出解答。一、我们如何收集和使用儿量个人信息、我们可能共享、转让或披露的儿量个人信息儿童个人信息第三方服务未成年人隐私数据安全未成年人隐私数据安全伴随着触网低龄化趋势更为明显，未成年人隐私数据保护的紧迫性和重要性也日益凸显。对未成年人隐私权益的侵犯，通常带有损害扩散迅速、受害范围广泛、受害方式隐秘等特点。此外，未成年人作为互联网数据的重要生产者之一，随着互联网服务提供者不断收集、分析和利用这些数据，引发未成年人数字身份失控、隐私数据被滥用等风险亦在增加。基于此，本节以未成年人隐私数据为研究对象，一方面分析我国未成年人所面临的隐私数据安全问题，另一方面整理研究我国法律法规在给未成年人隐私数据加把“安全锁”的护航情况，企业、家庭等相关责任主体为未成年人在数字时代的健康发展保驾护航的实践方式。①未成年人面临数字身份失控的隐私风险大数据时代，人们生活的数字化程度大幅提高，在互联网空间中活动的增多也使得数字身份(是指利用一系列互联网社交媒体工具创建的并且可以跨越多个互联网在线平台的身份集合)成为人们行为活动的重要凭证。目前，我国触网群体逐渐表现出低龄化趋势，网络生活已经逐渐成为未成年人日常生活的一部分，他们在参加线上的各种日常活动时难免会产生一些隐私数据，比如会在自己的社交媒体账号中分享自己的照片、喜好、行踪轨迹等数据，而未成年人隐私数据与未成年人数字身份是相互关联的。一方面，未成年人数字身份中含有大量未成年人隐私数据，侵犯其数字身份必然导致未成年人隐私数据的泄露与滥用。另一方面，未成年人数字身份依靠大量的未成年人隐私数据组成，依靠未成年人隐私数据可以对未成年人数字身份进行复制，从未成年人处获取的数据可能在未来不确定的时刻被网络服务提供者通过不确定的算法用于未知的客户端，从而创建一个他们不知晓的数字身份。此外，未成年人数字身份一旦被构建，后续的删除与遗忘较为困难，对于正处在生长发育时期的未成年人而言数字身份的失控会带来更加严重或未知的风险。②未成年人面临隐私数据被滥用的风险未成年人隐私数据的滥用现象存在于他们互联网活动的方方面面，主要包括隐私数据的非法收集、非法使用、非法传输以及非法泄露等。人民数据研究院整理调研数据发现，个人的数据隐私安全面临着威胁和挑战，超五成家长表示，孩子在使用智能设备时曾被动下载安装垃圾软件、恶意软件；近半数出现互联网推送内容与近期聊天/购物/观看的内容相关的情况；另外，表示孩子被软件/设备违规获取、超范围获取隐私数据权限，被下载的软件/设备窥听、窥屏等情况的占比分别为31.8%、11.3%。图：未成年人使用各类智能设备上网时遇到隐私数据泄露的情况数据来源：人民数据研究院未成年人数据保护调研，N=622我国未成年人数据保护蓝皮书2023首先，作为隐私数据流转过程的源头环节，隐私数据的非法获取本质上是滥用未成年人隐私数据的表现形式之一。除了常见的通过电脑网站、手机App等智能客户端设备来收集使用者的各类隐私数据之外，家庭摄像头、智能手表、智能玩具等专门为未成年人群体设计的互联网智能硬件设备也在无时无刻不收集、记录着隐私数据。然后，网络运营商等商业主体出于经济利益可能最大限度地使用未成年人隐私数据，对其隐私数据权益造成损害。此外，非法的未成年人隐私数据传输属于滥用隐私数据行为范畴，比如未成年人隐私数据的非法贩卖行为与非法传输息息相关。最后，未成年人隐私数据的泄露也是不当使用的结果。比如，网络运营商等未成年人隐私数据的控制主体未履行保护数据安全的义务从而造成隐私数据泄露的问题在现实生活中时有发生。2022年，海南省委网信办针对影响青少年健康成长突出的未成年人隐私泄露、移动应用程序过度索权等突出问题，组织对一批用户量大、与未成年人密切相关的App收集使用个人信息情况进行技术检测。检测结果显示“蜀门”“蚁族崛起”“嘿嘿太空杀”等共计9款App存在不同程度违法违规收集使用个人信息及泄露未成年人隐私的行为。2.未成年人隐私数据保护实践情况①落实合规要求，设置未成年人隐私数据保护相关政策《个保法》特别指出不满十四周岁未成年人的个人信息属于敏感个人信息，只有具备特定的目的和充分的必要性，并采取严格保护措施的情形下，才能处理敏感个人信息。人民数据研究院整理截至2023年5月17日，华为、应用宝、AppStore应用榜单TOP10的应用隐私政策发现，93.3%的App在隐私政策中设置了单独的儿童/青少年隐私保护政策。虽然名称不尽相同(比如“儿童个人信息保护规则”“儿童隐私保护声明”“儿童/青少年个人信息保护规则”),但是都符合《个保法》与《儿童个人信息网络保护规定》中对未成年人敏感信息的处理合规要求。华为一全部应用榜微信抖音淘宝支付宝拼多多百度快手抖音极速版快手极速版√√√√√√√√√√应用宝一流行榜微信支付宝抖音百度淘宝QQ浏览器腾讯视频快手抖音极速版√√√√√√√√√√AppStore-免费榜阿里巴巴快手极速版小红书交管12123得物抖音剪映微信快手拼多多√√√×√√×√√√我国未成年人数据保护蓝皮书收集不得违反法律及行政法规规定和双方约定的目的和范围收集、使用儿童个人信息。因业务需要确需超出约定目的和使用范围的，应当再次征得儿童监护人同意。储存不得超过实现其收集、处理目的所必需的存储期限。采取加密等措施存储儿童个人信息。删除应删除情形：处理目的已实现、无法实现或者为实现处理目的不再必要；企业违反法律、行政法规规定或者双方约定目的范围；超出目的范围或者必要期限收集、处理信息。5转移事前安全评估：向第三方转移儿童个人信息应自行或者委托第三方机构进行安全评估。签署数据处理协议：与第三方合作处理儿童个人信息的，应当通过签署数据处理协议明确双方责任、处理事项、处理期限、处理性质和目的等儿童个人信息保护相关义务，委托行为不得超出授权范围。撤回同意：监护人撤回同意。 组织管理专门管理：指定专人负责儿童个人信息保护；设置专门的儿童个人信息保护规则和用户协议。权限管理：以最小授权为原则，严格设定内部信息访问权限，控制儿童个人信息知悉范围，记录数据访问情况。权限审批：访问儿童个人信息时应当经过儿童个人信息保护负责人或者其授权的管理人员审批，记录访问情况，并采取技术措施，避免违法复制、下载儿童个人信息。安全事件：当发生儿童个人信息泄露、损毁、丢失等信息安全事件时，应启动应急预案，立即向主管部门报告，并以任何可能方式向受影响的儿童及其监护人告知。②企业内部自治性规定为未成年人隐私数据提供保护互联网相关企业在未成年人隐私数据收集、使用的第一线，因此，企业内部的自治性规定是未成年人隐私数据特殊保护非强制性规范的重要组成部分。近年来，腾讯、抖音、网易等互联网内容平台以及苹果、华为、小天才等智能设备企业也都纷纷出台了关于未成年人隐私数据保护的内部治理规定，采取额外的保障措施，提供家长远程管理功能、家人共享功能、将儿童数据视为敏感数据保护等，为孩子提供适龄内容、隔绝不良侵扰，营造绿色健康的网络环境。))网络社交行业——腾讯腾讯公司在儿童安全上网方面的系统探索，形成了以“成长守护平台”为核心的覆盖儿童网络活动事前、事中、事后的安全保障体系。首先，在儿童网络活动的事前阶段，通过设置儿童网络活动的“守护平台”来实现对儿童群体的保护，由家长端、学校端和儿童端三部分组成。家长端的主要功能是限制儿童使用互联网的时长和儿童在互联网中的消费限额；学校端中老师可以实时监控、查询儿童的游戏行为；儿童端的目的在于培养儿童养成自我管理的习惯儿童可以通过儿童端自我设置网络使用时间与每日游戏时间。其次，在儿童参与网络活动的过程中，通过“健康系统”实现对儿童群体的保护，主要由儿童实名认证、游戏时长控制和儿童人脸识别等三大主要功能组成。最后，在儿童网络活动的事后阶段，利用“未成年人主动服务工程”,从筛选告知、在线互动和教育辅导三方面，解决儿童在互联网中的不成长守护小程序是腾讯成长守护面向未成年人及其家庭推出的，培养健康游戏和娱乐习惯的产品，我们致力于2023我国未成年人数据保护蓝皮书③双端授权，平衡家长的监护权与未成年人的隐私权家庭是人生的第一课堂，父母的网络行为对未成年人有言传身教的作用，通过讲解相关网络知识、介绍网络行为规范，更易于被未成年人接受，能够有效防止未成年人隐私数据泄露等问题的出现。调研数据显示，96.1%的家长表示他们会采取相应行为来守护未成年人的隐私数据安全。其中，超六成家长会限制自己或未成年人在朋友圈、社交媒体等网络平台上的信息分享，会在使用网络平台/电子设备时选择性披露个人信息、必要时填写虚假信息或填写不完整信息，自己或教育孩子不在未知来源下载应用程序。此外，会主动查看应用程序和服务条款中的隐私政策，在使用电子设备时会人为收到修改设置改程序。此外，会主动查看应用程序和服务条款中的隐私政策，在使用电子设备时会人为收到修改设置改变相关应用的权限的也分别占到了50.3%和41.2%。保护隐私，限制自己或他们在朋友圈、社交媒体等网络平台上的信息分享3.9%65.9%自己或者教育他们在使用网络平台/电子设备时，选择性披露个人信息，必要时填写虚假信息或填写不完整信息自己或教育他们不在未知来源下载应用程序以上均无自己或教育他们使用电子设备时人为收到修改设置改变相关应自己或者教育他们主动查看应用程序和服务条款中的隐私政策图：家长为守护孩子的隐私数据安全而采取的行为数据来源：人民数据研究院未成年人数据保护调研，N=622与此同时，互联网企业也致力于发挥家长引导作用，从产品功能设计层面追求保护孩子隐私权与维护家长监护权之间的动态平衡。))智能可穿戴设备行业——小天才电话手表小天才电话手表从产品功能设计层面采用默认隐私保护设计(PBD),并建立了规范的业务方案隐我国未成年人数据保护蓝皮书2023私影响评估流程，将隐私保护整合到电话手表系统和软件全生命周期的研发流程，对儿童隐私安全提供充分保护。一是，充分尊重孩子的隐私权，提供双端授权功能(如由家长发起对手表的自动接通请求，需要孩子在手表端确认才能开启),取得家长监护权和孩子隐私权的动态平衡。二是，结合产品安全隐私特性，以显著、清晰的方式告知并征得儿童监护人的有效明示同意，比如手表定位功能默认需要家长端授权、开启运动健康功能需要家长授权打开等，充分发挥家长的知情引导作用。图：小天才电话手表自动接通功能家长App端和孩子手表端双端授权未成年人网络内容安全未成年人网络内容安全当代未成年人的童年生活与数字媒介紧密交织、相伴成长，社交媒体所具备的固续、复制、延伸、检索等特征为他们进行网络社交提供了极大的便利。然而，不适宜未成年人浏览的内容也充斥在网络的方方面面。相比于成年人，这些不良内容对未成年人的危害更加严重，不仅会对未成年人的学习、生活产生负面影响，同时也会造成未成年人价值观扭曲，不利于未成年人塑造正确的世界观、价值观，甚至诱发违法犯罪心理。因此，有必要对未成年人的网络内容安全给予特殊保护，本节聚焦未成年人上网过我国未成年人数据保护蓝皮书程中可能接触到的各类不良信息以及企业平台为保护未成年人健康触网而设置的各类模式尚存的识别漏洞等问题，并整理分析目前相关行业为更好保护未成年人内容安全在网络内容建设、网络内容安全监管等方面的实践情况。1.未成年人内容安全问题①未成年人遭遇网络不良或消极负面信息的情况未成年人心智不成熟，对事物的判断和辨析能力尚未发展完善，未成年人易遭遇网络不良或消极负面信息的情况。根据《2021年全国未成年人互联网使用情况研究报告》数据显示，38.3%的未成年网民在上网过程中遭遇过不良或消极负面信息。其中，炫耀个人财富或家庭背景的内容最为常见，为21.2%;其次为宣扬不劳而获、躺平等思想的内容，为16.3%;血腥暴力内容的比例也达到15.8%。在网络活动中，未成年人一方面难以区分不良信息和违法信息的性质，不能充分认识到这些信息的危害性，另一方面容易受到不良信息和违法信息的影响，导致其学习到不良行为模式和违法手段，加剧未成年人进行违法犯罪的可能性。根据最高人民检察院的相关数据，2021年1—9月，检察机关起诉未成年人利用电信网络实施犯罪2467人，同比增长32.6%。由于未成年人容易沉迷网络、受到各类不良信息诱导，在遇到问题时，易与网络因素叠加，诱发网络犯罪。②未成年人身份识别漏洞的问题有效识别未成年人是未成年人保护的关键起点，也是企业合规落地的难点。目前，国家层面的规范逐步要求信息从业者识别用户身份，各类涉网机构的规范性文件也陆续要求运营商采取用户画像、生物识别等新技术落实账户实名制，但各个行业规范标准、尺度要求不同。此外，受商业利益的驱动，一般情况下由于缺乏主动识别未成年人的制度性激励，即使隐私政策等文件规定了未成年人保护的内容，但网络运营者往往被动依赖于用户主动提供的注册信息来识别其年龄，后续使用过程中也不会采取其他手段来验证用户的真实年龄，使得“青少年模式”中的账户登录仍然存在一些漏洞和不足。比如，部分软件无法识别出未成年人是否使用成年人的账户进行登录；部分软件允许任何人以游客身份登录，未成年人在自行退出“青少年模式”后，可以以游客身份再次登录。人民数据研究院整理调研数据发现，虽然98.7%的家长认为青少年模式在帮助未成年人减少网络依赖和网络不良信息影响方面发挥了较为积极的作用。81.4%的家长认为这些模式可以限制孩子的使用时长和登陆时间，有效防止沉迷网络；超六成家长认为它们可以减少不良信息弹出，防止未成年人过早接触不合适的内容，也可以筛选/推送适合它们年龄段观看的内容等。但是，认为现有青少年模式存在不足的家长亦有96.9%。他们中的绝大多数人认为目前青少年模式的甄别机制不完善、身份识别不够精准、实名认证不够严格(60.8%);防沉迷控制机制不完善，系统设置不够人性化(60.6%);专属内容池不健全，内容的分级不够明确，推荐的内容不够丰富(54.3%)。此外，部分家长还认为这些模式在密码设计、安全漏洞、交易安全保护、使用频次等方面仍具有一定的改进空间。甄别机制不完善，身份识别不够精准，实名认证不够严格防沉迷控制机制不完善，系统设置不够人性化《比如使用时长、登录时时间限制等)专属内容池不健全，内容的分级不够明确，推荐的内容不够丰富密码设计过于简单，很容易自行退出模式或破解软件自身痛洞较明显，隐私数据得不到足够保护交易安全保护不健全，容易造成财产损失其他使用率不高，其他有的软件找不到设置入口，有的软件不能设置相关模式以上均无①有效监管和及时处置违法不良信息维护未成年人网络内容安全在线视频直播行业在线视频直播行业——抖音我国未成年人数据保护蓝皮书2023闻时事等知识内容。快手持续升级青少年模式内容池，作品以“时间维度+多重选优”推荐机制，设立专业团队、人工推荐审核，精选教育、历史、科学等40余类适合未成年人观看的正向内容，并引入优质政务内容和媒体资讯。网络游戏行业——人民网联合数十家游戏公司人民网联合腾讯、网易等10家游戏公司于2019年6月发起了《游戏适龄提示倡议》,将游戏适龄范围划分为18岁以上、16岁以上、12岁以上和6岁以上4个等级，不同等级有其对应的游戏内容类型、付费方面的标准。内容上，通过负面清单的形式设置相应的内容底线；类型上，等级不同则推荐的游戏类型不同，且年龄越高的等级适用的类型越多；运营上，对不同等级游戏在游戏系统、游戏时间和游戏付费等方面提出不同的游戏运营措施建议。16岁及以上【16+】16岁及以上【16+】教育类、跑酷类、消除类、解谜类、搭建类、放置类、飞行类、弹射类、音乐舞蹈类、体育类、角色扮演类、动作类、塔防类、模拟经营类、模拟即时战略类、棋牌类6住论6岁及以上【6+】12岁及以上【12+】音乐舞蹈类、体育类、角色扮演模拟养成类、角色扮演类、卡牌18岁及以上【18+】教育类、跑酷类、消除类、解谜类、搭建类、放置类、飞塔防类、模拟经营类、模拟养卡牌类、即时战略类、棋牌类幼儿教育类、跑酷类、消除类、简单解谜类、简单弹射类、音乐类、体育类我国未成年人数据保护蓝皮书③助力家长引导未成年人健康网络社交行为未成年人使用社交媒体的多种功能与亲朋好友保持联系交流、进行自我表达与呈现等，也可以结识新朋友，满足了他们希望与他人亲近的社交需求，而家庭作为未成年人上网的主要场所，社交网络的有效治理离不开家庭教育的支持和引导。因此，互联网企业在开展未成年人网络生态治理的过程中积极助力家长发挥家庭教育作用、及时有效引导未成年人网络社交行为。一是，打造连接家长和孩子的专属亲子平台，通过将家长账号和孩子账号绑定亲子关系，以实现家长可以远程开启或关闭孩子账号的青少年模式，设置和控制孩子每天使用的时长以及查看孩子每天使用时长等，为家长提供必要的管理工具来帮助孩子养成健康上网习惯。二是，完善社交安全机制，过滤不恰当内容、守护健康社交环境。调研数据显示，电话手表作为家长和孩子通信的重要工具，58.9%的家长表示会担忧孩子的社交安全，会限制其交友聊天功能等。智能可穿戴设备——小天才电话手表小天才电话手表采用家长管控交友机制，保障孩子的沟通对象安全；同时提供多重内容审核机制，保孩子交友，家长可管控。小天才电话手表的“碰一碰”交好友设计，鼓励孩子进行面对面熟人社交，减少社交风险。所有的交友消息，都会同步到家长端，家长可在App端随时查看与管理，对于孩子的交友信息家长有充分的知情权和管控权。二是，多重内容审核机制，打造更健康、更安全的社交网络环境。小天才电话手表对用户发布内容设置严格的内容审核流程，包括机器审核、举报后人工审核等多道防护。用户举报内容后，审核人员会在收到举报信息后第一时间完成审核。如果被举报的内容核实确为不良内容后，官沟通对象的安全沟通对象的安全/孩子加好友，家长可管控/家长可管控沟通内容的安全沟通内容的安全/内容管控多重审核/机器审核针对用户发布的内容，使用Al机器审核技术，机器算法可极大概率识人工审核举报电话手表里的内容发布口(包含微聊、好友圈)均设置了“内容举报”通道图：小天才营造绿色安全的交友环境数据来源：小天才公开资料，人民数据研究院整理飞速发展的互联网也对开展未成年人网络保护带来了更大的挑战，未成年人在网络空间面临个人信息、隐私数据泄露、接触不良或有害信息、遭受网络违法犯罪行为侵害等诸多潜在风险，这些风险因素严重危害未成年人的健康成长。为了防范网络风险对未成年人的危害，守护未成年人数据安全，由人民网舆情数据中心、人民在线主办“保护未成年人数据安全守护金色童年清朗未来”2023未成年人数据保护闭门研讨会。邀请共青团中央、工信部、高校专家学者、互联网企业代表等共同探讨，围绕开展未成年人数据保护服务、织密织牢未成年人保护网、搭建未成年人服务网络等建言献策。针对未成年人个人信息安全、隐私数据安全、内容安全等网络生态治理问题，人民数据研究院整理分析域外相关制度经验、国内外相关专家观点以及“2023未成年人数据保护闭门研讨会”的研讨成果，对互联网背景下我国未成年人数据保护机制完善提出建议，对未成年人数据保护的挑战、举措进行分析论证，以期对未成年人数据保护工作的进一步开展提供参考。未成年人尚处于成长发育阶段，个人心智尚未成熟，加之近年互联网的快速发展对未成年人的个人信息保护又提出了新的挑战。相对于成年人而言，未成年人个人信息作为网络时代未成年人的一项重要权益，既需要通过立法修改提升网络保护与家庭保护、社会保护和司法保护之间的协同能力，也需要细化网络保护内部各部门、各企业之间的协同规定。1.细化未成年人个人信息保护相关监管细则根据我国关于未成年人数据监管主体的规定，目前各级网信部门、各级政府中的相关责任机构、市场监管部门、各级工信部门都可以从不同方面对其进行监管，并不存在一个独立的、专门的行政监管部门。这就导致各部门无法明确权责所在，“政出多门”“九龙治水”的问题难以避免，监管主体多样化也会导致监管权限分散化，不同的监管部门难以形成未成年人数据的监管合力，最终影响未成年人数据特殊保护制度的实际效果。因此，针对我国未成年人个人信息保护中存在的问题，应进一步强化科学立法，坚持法律制定与修改的及时性、科学性，为未成年人个人信息保护机制提供完备的法律支撑。一方面，对未成年人个人信息保护进行科学、系统规范，为保护工作提供更具体的法律指引。另一方面，中央层面出台统一的法律、行政法规的同时，各地根据当地情况出台相关地方性法规、地方政府规章，从而建立起从中央到地方的完备的未成年人个人信息保护法律体系。其次，基于原则性、框架性的法律保护体系，相关机构可以进一步明确未成年人个人信息保护相关监管细则。行政监管作为未成年人个人信息保护最基础、最常规的救济方式，不仅效率高、机动性强，更有助于事前预防和审查。行政监管应当充分发挥其明确法治边界和企业经营红线的作用，以监管带动企业自治，进而最终实现个人信息保护与利用的平衡。一是，出台类似《个人信息安全规范》的实操指导类文件，根据不同的实践场景明确细分合规监管要求，在法律法规适用过程中，结合技术发展、保护情况等新情况、新问题适时调整，出台相关配套解释以契合未成年人个人信息保护的实际需求。二是，以合理监管带动企业合规明确法治边界、监管边界和企业经营红线，由此形成良性生态的循环。对于新兴技术、新的信息收集利用行为，监管机构既要鼓励其健康发展，也要根据科技创新背后可能存在的未成年人个人信息安全风险和法律风险，合理运用指导、建议、约谈和处罚等方式，明确监管底线和企业经营红线，使企业的市场行为符合法律规范和未成年人个人信息安全的要求。在措施上，监管重点要放在企业合规的审查之上，以合规监管带动企业合规经营。在合规监管的模式下，企业能够充分知晓监管的底线和企业行为边界，并通过对合规范例的模仿借鉴让企业收集、处理个人信息的行为符合法律的规定，落实未成年人个人信息保护的合规要求。2.实施未成年人个人信息保护的动态年龄划分机制对于未成年个人信息的保护要平衡好“赋权”和“保护”之间的关系。我国现有制度对于14周岁以下的未成年人采取父母知情同意原则，而给予14—18周岁的未成年人个人自治的权利，这会造成14—18周岁的未成年人在个人信息保护领域存在保护空档，这部分未成年人可能面临着不良诱导、信息茧房、隐私泄露等个人信息风险。因此，未成年人个人信息保护的动态年龄划分机制应以未成年人的认知能力为基础，在对所有未成年人普遍予以特殊保护的前提下，细化年龄区段并针对不同类型的个人信息区别设置不同的保护措施，结合不同场景中未成年人个人信息可能面临的风险，将未成年人划分为三个年龄段，对不同年龄段的未成年人赋予不同的权利，采取不同的保护措施。一是14周岁以下的未成年人，对于此类未成年人个人信息的处理应当适用敏感个人信息的处理规则。采用最严格的保护制度，比如获取14周岁以下的未成年人个人信息必须获取监护人同意，通过绑定监护人账号等方式由监护人进行授权和管理。同时，对于14周岁以下的未成年人，算法推荐服务的接受与否必须得到其家长明确的同意。“同意”的获取途径包括但不限于人脸识别、支付认证、电子签名等不易伪造的方式，甚至可以不定时以发送邮件的方式提醒家长未成年人保护模式/青少年模式的存在，并尽量简化该模式的设置过程等。二是14—16周岁的未成年人，相较于14周岁以下的未成年人其心智发育更为成熟，虽然有一定的判断能力，但由于其尚属未成年人，对于部分私密性较强、与人格尊严和人格利益关联性较强的个人信息的风险判断能力仍然较弱。因此，对于14—16周岁的未成年人应当采用相对严格的保护制度，根据其个人信息应用场景不同给予差别化的保护。在应用私密性较低的个人信息时给予其自主决定权，比如在线教育类、音视频类、日常生活等软件在获取其昵称、设备信息、浏览记录等个人信息时，可以由未成年人自主授权、无需经过监护人同意。在获取未成年人肖像、IP地址、订单信息等私密性较强的个人信息，以及将未成年人的个人信息与第三方共享时需要获取监护人的同意。三是对于已满16周岁、尚未满18周岁的未成年人，其心智已经接近成熟状态，对于大部分情况下个人信息所面临的风险能够进行准确判断，对此类未成年人的个人信息进行保护时标准可以适当降低，可赋予他们一定的自由决定权，但仍旧需要发挥父母辅助决定的作用。在获取一般个人信息时只需要获得未成年人本人明示即可，但对于获取生物识别信息等敏感性较高的个人信息时，仍需获取监护人的同意、由家长进行辅助决定。辅助决定的必要性可根据算法推荐服务应用的具体场景进行区分，比如教育类场景可给予孩子足够的自我同意权，对商业类场景则需要家长辅助决定。此外，辅助决定的途径包括通过邮件获取家长同意，或者定期发送行为轨迹报告，以便家长及时对孩子进行行为纠偏。3.完善未成年人个人信息保护中监护人同意规则一是，借鉴GDPR和COPPA多元化获取监护人同意的方式，结合不同应用场景中未成年人个人信息面临的风险，对获取监护人同意采用不同的方式。在风险性较低的场景中可以通过向监护人手机发14.14.周岁以下的未成年人送验证码，或者向绑定的监护人账号发送通知，以及通过电子邮件验证等方式来获取监护人同意。在风险性较高的场景中，则通过视频验证、电话验证等方式来获取监护人的同意。同时，在设置告知同意政策时应简明扼要，确保监护人能够理解同意政策的内容。比如，通过视频动画的方式向监护人介绍获取未成年人个人信息的目的、途径以及获取的个人信息将会被用于何处等，方便监护人理解同意的内容。二是，为避免陷入“监护人同意疲劳”,可以对获取的未成年人个人信息设置负面清单(负面清单事先默认监护人不同意网络运营商获取某些敏感性较高的个人信息),在一定程度上避免了网络运营商频繁获取监护人同意的情况出现，防止监护人因陷入“同意疲劳”而做出对未成年人个人信息权益不利的选择。此外，应当补充增加监护人同意规则的例外情形。未成年人个人信息承载多方利益，并不以保护未成年人个人信息权益为唯一目的，同时也要维护公共利益、国家利益等，实现信息的高效利用。未来，还需进一步规定包括对未成年人信息权益不会造成实质影响的正当行为以及高于未成年人信息权益的合法事由4.引入对侵害未成年人个人信息权益的惩罚性损害赔偿机制由于没有明确规定未成年人个人信息犯罪的适用条文，在司法实践中，大多数情况下只能将侵犯未成年人个人信息犯罪按照《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》第5条第5款“非法获取、出售或者提供第3项、第4项规定以外的公民个人信息五千条以上的”进行认定，在量刑情节方面也通常做轻缓化的处理。因此，对于侵害未成年人个人信息权益的行为可以考虑引入惩罚性赔偿机制。损害赔偿可以分为补偿性损害赔偿和惩罚性损害赔偿，民法中以补偿性损害赔偿为主，其中惩罚性赔偿是为了弥补补偿性损害赔偿不足而设立的。在未成年人个人信息保护案件中，被侵权的未成年人的损失通常难以证明、难以估量，未成年人及其监护人可能会因为并不能获得较高的赔偿额或者难以举证而放弃诉讼。引入惩罚性赔偿能够有效遏制未成年人个人信息侵权行为的发生。当适用惩罚性赔偿的侵权行为发生时，被侵权人会为了获得赔偿而积极诉讼，维护自身合法权利。并且，在侵犯未成年人个人信息权益案件中所涉及的未成年人人数通常较多，监督力量能够有效遏制侵犯未成年人个人信息权益行为的发生。因此，通过在未成年人个人信息保护领域引入惩罚性赔偿，以弥补被侵权的未成年人的损失，实现对侵权人的制裁，以此有效遏制侵权行为的发生。不断完善未成年人隐私保护机制不断完善未成年人隐私保护机制在大数据时代，未成年人的隐私数据需要得到特殊保护。互联网的迅速发展以及网络产品与服务的开发使用，使得各类网络文化充盈着人们的生活，由于未成年人心智不成熟、缺乏必要的媒介素养和自控能力等因素，更易受到负面信息、隐私数据泄露的影响和伤害。因此，本节在明确了未成年人隐私保护机制的理论基础后，从企业和平台、家庭和学校多方面出发，为我国未成年人隐私数据特殊保护提出具体行动路径和策略建议。1.完善未成年人隐私数据权利规则体系，细化删除权制度完善未成年人隐私数据权利规则体系的理论基础是首要条件，而未成年人隐私数据权利规则内容的构建需要在科学的理论基础指导下，结合我国未成年人隐私数据特殊保护的实际情况来设计每一项未成年人隐私数据权利的内容，最终形成一套科学合理的未成年人隐私数据权利规则体系。在未成年人隐私数据权利规则体系的构建思路方面，我国现有立法中已经做出了诸多规定，体系框架已初步搭建起来。下一步的工作重点是进一步完善现有规定，从而最大限度地保障未成年人的隐私数据权益，一方面不断巩固现有的立法规定，提升未成年人隐私数据权的实践效果，另一方面不断弥补立法空白，不断丰富未成年人隐私数据权利规则体系的内容。以权利的功能为标准划分，我国未成年人隐私数据权利规则可以分为核心权利规则、赋权性权利规则、限制性权利规则、保护性权利规则等四大类，其中每一大类下面都包含多个具体的隐私数据权利规则。一是，未成年人隐私数据核心权利规则，包含“知情一同意”规则和被遗忘规则两点。其中“知情一同意”规则又包含了同意授权规则与拒绝授权规则两方面的内容。二是，未成年人隐私数据的赋权性规则。未成年人隐私数据特殊保护立法直接赋予此群体的隐私数据权利，主要包括透明性权利规则、可携带权利规则和可访问权利规则三个方面的内容。三是，未成年人隐私数据的限制性权利规则。我国未成年人隐私数据的限制性权利规则包括禁止数据有害使用规则、未成年人隐私数据披露与共享的限制规则、助推技术的运用规则、互联网智能硬件设备的限制规则等四方面的内容。四是，未成年人隐私数据的保护性权利规则。对未成年人隐私数据权益起到直接保护作用的立法规则，具体包括默认数据设置规则、数据最小化规则、地理位置数据规则、监护人控制规则等四项内容。作为未成年人隐私数据特殊保护的核心规则，我国现有的未成年人隐私数据特殊保护立法中对“知情一同意”规则的规定已经基本完善，并且现实中“知情一同意”规则的运行也逐渐步入正轨，越来越多的互联网企业开始依法收集、使用、处理未成年人的个人隐私数据。而未成年人隐私数据的被遗忘规则(又称为删除规则),是指儿童及其监护人等数据权利主体可以要求网络运营商等数据控制主体删除相关的未成年人隐私数据。目前，我国现行法律和相关文件仅规定了删除权的适用条件，可操作性较低，尤其是针对未成年人个人信息保护不够。因此，有必要在借鉴域外被遗忘权制度的基础上细化我国的删首先，在删除权的行使主体上，应当由法律明确规定未成年人及其监护人都享有对未成年人个人信息进行删除的权利。其次，在删除权行使的时间上，应当规定未成年人及其监护人在未成年人成年后的某一时间段内仍享有该项权利。如果对此不加以时间限制，可能会导致滥用删除权。再次，在删除权的内容上，允许删除的内容包括在网络上发布的不当的、不相关的、过时的、继续保留会对未成年人不利的内容。最后，在删除权行使的限制因素上，《个人信息保护法》仅规定了法律、行政法规规定的保存期限未届满以及技术上难以实现删除这两种情形，可以借鉴GDPR将公共利益以及公众知情权作为限制因素。2.完善企业合规与问责机制在未成年人隐私数据特殊保护实践中，网络运营商为了追求经济利益往往成为最常见的侵犯未成年人隐私数据权益的主体，在未成年人隐私数据特殊保护制度框架中单独对网络运营商的约束机制作出规定，完善企业合规与问责机制对于未成年人隐私数据的特殊保护具有积极作