抖音-2020抖音未成年人保护透明度报告-2021.04正式版WN4

前言打造负责任的属于未来的产品随着移动设备的快速普及，互联网逐渐成为未成年人重要的学习工具、沟通桥梁和娱乐平台。如何让未成年人安全、合理、健康地使用网络，成为全社会共同关注的话题。1992年，我国签署了《儿童权利公约》，公约将儿童最基本的权利概括为四种：生存权、受保护权、发展权、参与权。短视频时代，未成年人的受保护权、发展权、参与权发展与数字平台尤为相关。抖音作为“记录美好生活”的短视频平台，除了为广大用户呈现美好，也肩负起守护这份美好的责任，致力于通过技术手段、产品策略、内容优化和行业自律机制，防止用户特别是未成年人沉迷网络，建设良好内容生态，以良善的科技伴随未成年人健康成长。目前，抖音已建立起覆盖内容过滤、隐私保护、消费保护、投诉处理等方面的全方位未成年人保护机制，上线了青少年模式、时间锁、亲子平台等未成年人保护工具，并成立了抖音青少年网络健康成长中心。在建立起未成年人保护体系的同时，抖音也在大力开展未成年人保护专项活动，推动未成年人网络素养教育工作开展，鼓励未成年人及其家长参与保护体系建设。此外，抖音还不断地迭代保护机制和标准，2020年，抖音青少年模式两次升级，并上线了“青少年守护官”产品功能。抖音未成年人保护机制从上线以来，一直在努力为未成年人营造健康成长的网络环境。而这种成果和经验，也可以传递和复用到其他受未成年人欢迎、但尚未建立完善的防沉迷与安全保护机制的网络领域和产品中——如网络社交、网络文学等，助力这些产品更好地开展未成年人保护工作，从而全方位营造有利于未成年人健康成长的网络生态。网络生态的营造需要全社会共同参与，也需要统一的规范和指南。2020年10月17日，新修订的《未成年人保护法》正式通过，其中增设“网络保护”专章，对网络保护的理念、网络环境管理、相关企业责任、网络信息管理、个人网络信息保护、网络沉迷防治等作出全面规范，对互联网平台的未成年人保护工作提出了新的更高的要求。为了落实好新《未成年人保护法》提出的要求、进一步完善平台现有的未成年人保护体系，抖音在新《未成年人保护法》通过后，立即组织专项会议，对平台各项未成年人保护政策进行梳理，总结过往未成年人保护实践中的经验教训，以期能够更好地为未成年人的网络健康成长和发展护航。未成年人是社会的希望和民族的未来，他们的健康成长也牵动着每个互联网从业者的心。作为未成年人网络保护体系中的一环，短视频平台在面临未成年人保护风险的同时，也已经成为未成年人探索世界的窗口、日常学习的助手和休闲放松的途径。作为国内最大的短视频平台之一，抖音将一如既往地坚持最有利于未成年人的原则，保障未成年人安全健康使用互联网的权利，让孩子们接触到更优质的青少年内容。抖音希望与各界同仁一道，共同打造一款负责任的、属于未来的产品，激发创造，赋能成长。CONTENTS目录保护：从内容到功能，构建全方位保护体系未成年人保护接诉与处理不良内容过滤数据安全与隐私保护消费保护青少年模式、亲子平台、时间锁等赋能工具发展：认知世界，赋能成长内容池建设网络素养教育益童乐园项目参与：多方协同，向阳而生

04060810121416181921222020抖音未成年人保护透明度报告从内容到功能构建全方位保护体系42020抖音未成年人保护透明度报告保护：从内容到功能，构建全方位保护体系保护：从内容到功能，构建全方位保护体系2020抖音未成年人保护透明度报告5未成年人保护接诉与处理为了引导未成年人树立正确的价值观、保护未成年人的生命财产安全、营造健康良好的网络生态环境，抖音制定了标准全覆盖的风险审核规则，对低俗色情、危险行为、不良导向、血腥暴力等违法违规内容进行严格的审核和过滤，并建立了全面的风险识别机制，通过模型监控、举报监控、舆情监控等多种方式，及时发现和识别内容风险、个人信息泄露风险、诱导交互风险等。在筛查与发现风险的同时，为了及时应对和处理风险，抖音的各个职能模块均成立了专项团队，对识别到的风险进行分类，并根据风险类别制定处置方案，定期进行处置进度追踪和效果评估。完善的接诉与处理机制是抖音风险处置的重要方式之一。为了更好地解决用户遇到的各类未成年保护问题，抖音设置未成年人安全相关的专项举报入口，对侵害未成年人权益的行为进行顶格处罚，切实保障未成年人的合法权益。同时，抖音还成立了客服中心，人员由线上客服和电话客服组成，线上客服负责处理与审核各种渠道反馈的未成年保护问题，电话客服负责接听与未成年人各类风险有关的求助电话、解答用户提出的各类问题。

未成年直播充值消费问题引导用户端内退款入口、特殊情况引导反馈、内部工单快速流转未成年小游戏、小程序充值问题引导用户邮箱申请、内部工单快速流转用户来电青少年模式使用问题解答用户如何设置使用、密码问题引导用户端内申诉重置2020年未成年人守护热线日均服务用户470人次，且接起率稳定保持在96%以上、特别是未成年直播充值消费问题满意度达90%以上，保证了绝大多数用户的反馈可被及时接起，建立起高效服务、快速解决、兜底安全的服务通道，迅速赶超行业服务水平，实现风险安全问题早发现、早解决的“防火墙”。

470日均服务用户人次96%+接起率90%+未成年直播充值消费问题满意度

其他意见、建议在统一的接诉处理机制的基础上，抖音也会根据风险类型和投诉量，设置专门解决某类问题的守护专线。例如，受疫情影响，2020年1月后抖音客服中心收到未成年消费相关的来电量增加，为了更好地解决未成年直播打赏问题，抖音客服中心于2020年3月开始成立未成年专项。2020年6月正式成立未成年守护专线，并组成了31人的守护专线团队，开启用户退款线上化工具，支持专线未成年打赏退款咨询及24小时退款申请审核，目前客服专线覆盖7:00-24:00，且在APP内以及电话端均有专门的入口，电话接起率超过96%。在退款流程完成后，还会对用户进行回访建联，保证其完成返还。除及时筛查过滤风险、做好接诉处理外，抖音还建立了违法问题强制上报机制，针对可能涉及到侵害未成年人的风险，制定了高优先级的筛查和处理方案。一旦发现此类风险，抖音会按照法律法规要求积极与管理部门联动配合，及时上报风险内容与有关情况，协助管理部门处理有关违法行为，共同维护健康的未成年人成长环境。6 2020抖音未成年人保护透明度报告 保护：从内容到功能，构建全方位保护体系

保护：从内容到功能，构建全方位保护体系 2020抖音未成年人保护透明度报告 7不良内容过滤在平台内容安全策略的指导下，在风险识别和过滤方面，抖音建立了对平台内容风险的筛选识别机制。首先，将平台上可能出现的所有对未成年人有害的内容进行分类。具体可分为以下几个大类，并对每个大类下的具体风险点进行细分。互联网平台内容对未成年人的价值观塑造产生影响，同时可能对未成年人的个人信息安全、生命财产安全造成影响。保护未成年人也是抖音的安全底线责任，平台始终将内容安全作为未成年人保护体系的重要一环，努力为未成年人营造清朗的网络环境。近年来，在愈加复杂的网络环境下，抖音对涉及未成年的风险内容也采取了更全面、升级的安全处理策略：通过细分风险场景和类型、分析风险内容特征，完善对违法违规账号的识别机制，确保更及时地发现并控制风险。同时，完善内部沟通机制，从多角度、多层次主动发现风险，把潜在危害降至最低。此外，为了从源头遏制风险，根据不同风险类型的社会危色情低俗类违法违规类违反公序良俗类危险行为类害程度，完善对违法违规账号、内容的打击机制，不断调整、加大处罚力度。其次，梳理不同风险类型的场景特征，列举风险案例，据此设置未成年人专审队列，以确保审核标准尽量覆盖至所有风险类型和场景。在识别和发现风险之外，内容审核团队还会定期风险类型的覆盖情况进2020年，国家网信办、教育部、国家新闻出版署等部门开展了未成年人网络环境专项治理工作。行查漏补缺，不断对风险审核模型进行升级和改进。在风险处理方面，对于涉及未成年人内容风险的用户、抖音结合专项整治工作，对平台内容安全进行了自查。在专项整治过程中，我们积极配合监管部视频、评论，抖音建立了覆盖各类风险的处置标准体系。门，主动对平台不良、有害内容和风险进行了梳理排查，梳理未成年人风险类型、场景并主动采取预防措施。除了严控平台内容风险外，抖音还在青少年模式下为未成年人提供了专属的优质内容池，内容池以泛知识内容为基础，并要求内容有信息增量、对青少年有正确的价值观引导、核心观点和内容要素严谨准确且生动易懂。并且推荐内容全部由人工审出，确保不含广告。此外，青少年模式下的内容标准会定期迭代，不断拔高优质短视频制作标准，力求将更富教育性、信息准确、生动易懂的短视频呈现在青少年面前。82020抖音未成年人保护透明度报告保护：从内容到功能，构建全方位保护体系保护：从内容到功能，构建全方位保护体系2020抖音未成年人保护透明度报告9在用户个人隐私信息使用与保护上，抖音以国际公认的、标准化的隐私保护准则为基础，遵从国家个人信息保护相关法律法规，合规、合理地处理用户个人信息。抖音始终秉持责任担当、合法正当、公开透明、目的限制、最少够用、安全保障、主体参与的隐私总体原则。通过抖音的隐私政策，用户可以了解平台是如何收集、使用、存储、传输、共享、转让（如适用）与保护个人信息的，也可以在隐私政策中了解到查询、访问、删除、更正、撤回授权个人信息的方式。未经用户同意，平台不会共享、转让、公开披露用户个人信息。在隐私政策的基础上，抖音青少年模式还制定了《儿童/青少年使用须知》，建立了更为严格的未成年人信息收集、使用规则，严格限定收集未成年人个人信息的类型和使用目的，确保对未成年人的信息收集、使用在最小限度与范围内。并成立了专门的安全部门，采取最严格的措施和制度保护未成年人信息安全。在平台未成年人隐私保护政策的基础上，抖音建立了全面的隐私保护机制，在产品中配置隐私设置入口，用户拥有对个人信息的查询、访问、修改、删除、撤回同意授权、注销帐号、投诉举报以及设置隐私功能的相关权利。通过弹窗提醒、更改设置等方式，充分保障未成年人及其监护人的知情同意权、撤回权。知情同意权：抖音在用户注册、使用等多环节提供相关个人信息管理功能，保障用户的知情同意权。在个人信息主体首次打开抖音、注册账户等情形时，抖音会通过弹窗等形式主动向其展示《“抖音”隐私政策》，帮助用户理解抖音的个人信息处理范围和规则，用户可以据此决定是否继续使用抖音。值得说明的是，平台并不会仅因用户同意隐私政策而采用强制捆绑的方式一揽子收集个人信息。为进一步保障未成年人的隐私知情同意权，抖音在青少年模式弹窗和开启确认页增加《儿童使用须知》，以显著、清晰的方式将平台关于未成年人个人信息保护的规则告知监护人及未成年人。青少年模式下，抖音数据安全与隐私保护将收集点赞、收藏、关注等信息，在收集信息前会征得用户同意，不会收集未经授权的信息。我们深刻认识到，数据安全与隐私保护是抖音用户得以自由记录与分享生活的基础。为不断提高抖音用撤回权：除保障用户关于个人信息采集的知情同意权外，抖音还上线了隐私撤回机制，用户可户数据安全，我们在制定数据安全政策以及相关配套指导性文件外，还遵循数据分级管理原则，对不同以随时通过【我】-【设置】-【隐私设置】，改变或撤回关于个人信息的同意授权，保密级别的数据启用不同强度的数据安全技术措施。除用户自愿公开的头像、昵称等信息、自行发布的如改变或撤回朋友推荐设置、敏感权限设置、授权的信息处理等。内容信息或法律法规另有规定以外，其他与用户个人敏感信息相关内容均属于最高保密级别，利用最严格的保密手段保障数据在收集、传输、存储、使用、共享环节的安全性。在布鲁塞尔举行的2019欧洲数除了平台自身严格限定收集未成年人个人信息的类型和使用目的外，抖音也对可能造成未成年人个人信据保护年会上，抖音获得了国际权威标准组织英国标准协会（BSI）颁发的全球首批ISO/IEC27701隐私息泄露的场景保持高度敏感，主动防范风险、及时发现对未成年人个人信息的违法行为。一是在未成年信息管理体系国际认证。作为隐私保护和个人信息管理的ISO国际标准，ISO/IEC27701不仅带来新增的相关视频评论区采取策略，避免有关未成年人的信息或资源聚合，防范有目的性地使用未成年人信息的特定隐私要求，以便有效整合现行ISO/IEC27001信息安全管理体系，未来更是针对隐私保护之特定领违法行为。二是形成关于未成年人不良信息的应对处理机制，如平台发现有涉及未成年人的不良信息，域(PIMS-Specific)，以ISO/IEC27001延伸认证的方式实施，信息安全管理将与隐私信息管理进行密切平台会第一时间对相关信息内容进行下架处理，同时上报监管部门和协助提供证据、查找相关违规发布整合。者或行为人的线索，过程中对相关信息内容严格保密，防止未成年人受到二次伤害，及时止损，必要时联合专家向未成年人提供心理援助服务。102020抖音未成年人保护透明度报告保护：从内容到功能，构建全方位保护体系保护：从内容到功能，构建全方位保护体系2020抖音未成年人保护透明度报告11消费保护为保障用户财产安全，对未成年人进行正确的价值观引导，抖音坚持“事前防范、事中审核、事后处理”的原则，建立了全生命周期的未成年人消费保护机制。01事前防范：对诱导未成年打赏的主播零容忍从严处罚。平台针对直播把好第一道关打赏严格自查，如发现主播违规行为，如引导打赏送礼、诈骗等行为，会根据违规内容进行安全分扣分处理，并联动账号分级体系，采取相应处罚措施，并定期向监管部门进行批量上报。同时，抖音青少年模式下无法观看直播、打赏。用户每日首次登录时，可根据弹窗提示选择开启青少年模式。开启青少年模式后，用户无法开播、无观看直播、无法充值、无法打赏、无法提现，从根源上切断了未成年人打赏的可能性。02事中审核：为规范用户打赏流程，避免发生未成年人大额打赏情况，设置提醒与确认程序抖音还设置了打赏限额与提示，在用户进行大额充值和打赏时，平台会通过站内提醒、短信确认等方式，对用户进行提醒，通过人脸识别的方式核实用户身份。同时，平台也会为用户大额充值提供冷静期，确保充值和打赏流程安全规范。03事后处理：针对未成年人打赏问题，抖音已形成“反馈问题-提交材料-线上审核-启动退款”的退款处理机制。用户遇到未成年建立未成年人打赏返还机制打赏问题时，可通过APP客户端内专门渠道或客服电话进行反馈，并根据提示提交证明材料，材料经工作人员核实后，便会启动退款程序，并在24小时内完成退款。如果用户提交的材料不能够证明存在未成年打赏行为，而用户对此有异议的，审核人员会通过回访等形式对材料作进一步核实评估，如确认符合未成年人打赏特征，仍会启动退款程序。12 2020抖音未成年人保护透明度报告 保护：从内容到功能，构建全方位保护体系

2020年初，抖音成立未成年客服专项团队，开启用户退款线上化工具，支持专线未成年打赏退款咨询及24小时退款申请审核，目前客服专线覆盖7:00-24:00，且在APP内以及电话端均有专门的入口，电话接起率超过95%，用户端内申请直播充值退款的审核时效可在24小时内完成。除了平台建立全方位的未成年人消费保护机制外，未成年人充值打赏问题的解决也需要全社会的共同参与。在未成年人打赏返还的过程中，一个现象引起了我们的注意：成年人冒充未成年人要求充值打赏返还的案例增长迅速，给平台正常运营带来一定困扰。2020年3月以来，成年人冒充未成年人要求充值打赏返还的案例已有14000余例，接近消费申诉总量的1/4。特别是我们梳理了2020年3月至9月因充值打赏返还问题投诉至有关部门的案例，发现其中超过90%为成年人冒充未成年申请退款。这在一定程度上也增加了未成年人充值打赏返还的审核压力，影响未成年人充值返还效率。保护：从内容到功能，构建全方位保护体系 2020抖音未成年人保护透明度报告 13青少年模式、亲子平台、时间锁等赋能工具根据《青少年蓝皮书：中国未成年人互联网运用报告（2020）》，调查显示娱乐、学习和社交是未成年人上网最主要的目的，使用软件类型方面居于前5位的分别为音乐（45.7%）、游戏（41.8%）、在线学习（37.0%）、微信（32.5%）和视频（26.2%）。在主要使用的网络应用和网站方面，以抖音、快手等为代表的短视频平台以62%位列第2。这让我们充分意识到预防沉迷的重要性，激励我们不断改进和提供更好的防沉迷工具。2019年3月起，抖音先后上线时间锁、青少年模式、亲子平台等未成年保护工具，从时间、内容、功能、消费四个方面夯实产品防沉迷与安全机制。时间锁可以帮助用户实现使用时长管控；青少年模式提供了专属于未成年人的内容和功能，独立于平台本身；亲子平台帮助监护人为未成年子女开启保护工具，促进亲子间建立更密切的联系。三大工具彼此独立又相互交叉、环环相扣，共同构筑起平台全方位的未成年人保护体系。抖音青少年模式是平台上线的综合性未成年人保护工具，从功能、时间、内容等方面对未成年人进行保护，在功能保护中也涵盖了对未成年人的消费保护。平台每日会进行全量的弹窗提醒，以引导未成年及家长用户主动开启青少年模式。用户也可通过【我】-【未成年保护工具】-【青少年模式】，设定密码后，可在任意使用时间切换至青少年模式。功能管理 青少年模式下的用户无法开启直播，无法进行充值、打赏、提现等行为，同时“同城”“热搜”等入口也被隐藏。时间管理开启青少年模式后，未成年人使用产品的时长限制在40分钟内，并且在每日晚10时至早6时无法使用内容管理为未成年人提供专属的优质内容池。内容池以泛知识内容为基础，并要求内容有信息增量、对青少年有正确的价值观引导、核心观点和内容要素严谨准确且生动易懂。视频推荐流中只出现由人工审出的精品内容，并且确保不含广告。14 2020抖音未成年人保护透明度报告 保护：从内容到功能，构建全方位保护体系

为了能为更多未成年人的成长保驾护航，抖音青少年模式上线以来历经多次迭代，不断地巩固防护体系、优化未成年人使用体验。2020年，青少年模式功能两次升级，一方面侧重提升未成年人体验，对功能体验、交互体验进行了优化；另一方面开展了“青少年守护官”计划，与家长共同守护未成年人成长环境。在此之前，抖音青少年模式经历了从未成年保护工具到独立上线，逐渐增加了亲子平台功能、引导弹窗、开启功能限制、在弹窗和开启确认页增加《儿童使用须知》等保护动作，保护体系不断完善。未来抖音青少年模式也将不断升级、迭代，与未成年用户共同成长。在通过青少年模式加强未成年保护的同时，为了促进亲子间建立更密切的联系，抖音通过“亲子平台”功能协助家长与未成年子女对使用网络的时长、方式达成共识。当监护人发现未成年人过度沉迷软件使用及其他相关服务时，可以向抖音提供申请资料，资料审核通过后，抖音可根据监护人的需求对未成年人的抖音帐号采取限制措施，如开启时间锁、青少年模式等，与家长共同守护未成年人的健康成长。为了更好地帮助未成年人管理用网时间，抖音为用户提供了时间锁工具。用户可通过【我】-【未成年保护工具】-【时间锁】，在设定密码后开启时间锁工具。用户可以为时间锁设置触发时长（40分钟、60分钟、90分钟、120分钟），一旦单日使用时间超过上限，系统会自动锁定，用户需要重新输入密码才可以继续使用。保护：从内容到功能，构建全方位保护体系 2020抖音未成年人保护透明度报告 152020抖音未成年人保护透明度报告认知世界赋能成长162020抖音未成年人保护透明度报告发展：认知世界，赋能成长发展：认知世界，赋能成长2020抖音未成年人保护透明度报告17内容池建设“向日葵计划”的打造友好内容生态是从儿童的特点与个体发展规律出发，为儿童生产和分发更加负责任的内容信息，倡导全社会关注儿童发展、保护儿童身心健康，倡导互联网内容平台提升“儿童友好”意识。在打造友好内容生态的目标指导下，抖音进行了青少年模式下的内容池建设。目前青少年模式内容池里有包括知识科普、兴趣素养、通识在内的七大类、30小类优质内容。内容要求： 抖音青少年模式下的内容池以泛知识内容为基础，并要求内容有一定的信息增量、对青少年有正确的价值观引导、核心观点和内容要素严谨准确、生动易懂。此外，青少年模式下的内容标准会定期迭代，不断拔高优质短视频制作标准，力求将更富教育性、信息准确、生动易懂的短视频呈现在青少年面前。内容来源： 青少年模式下推荐的视频，均是经过人工审核的，进审视频主要来源于白名单作者和tag模型。其中，白名单作者类型主要为泛知识类和正向休闲类，tag模型的选取主要以寓教于乐、教学娱乐化、知识生活化、拓展眼界为原则。根据青少年模式内容审核标准，2020年共有543600+个短视频被人工审出进入青少年模式内容池1490+个平均每天新的优质视频被呈现在全国的孩子们面前。为了提高内容质量，未来内容池进审视频还将增加创作者公益投稿、教师有偿投稿、“青少年守护官”计划等供给路径，继续丰富优质内容的来源。18 2020抖音未成年人保护透明度报告 发展：认知世界，赋能成长

网络素养教育新修订的未成年人保护法提出，国家、社会、学校和家庭应当加强未成年人网络素养宣传教育，培养和提高未成年人的网络素养，增强未成年人科学、文明、安全、合理使用网络的意识和能力。作为最大的短视频平台之一，抖音一直将未成年人及其家长的网络素养教育作为重要责任，发起了多领域的网络素养教育公益活动，开展了专注短视频青少年教育的“青椒计划”，并先后发起一系列面向青少年的优质内容促进计划，覆盖科普教育、文化艺术、网络素养与安全教育三大主题，来助力青少年认知更大的世界、获取更丰富的知识、实现更好的自我发展。从2018年起，抖音发起“青少年移动互联网词典”“护苗行动·绿书签”青少年网络素养课、“安全过一夏——暑期安全教育宣传月”等系列活动。2020年4月初，抖音和抖音火山版发起“战疫护苗行动2020”话题活动，引导青少年抗疫期间安全健康用网、掌握运用网络进行正确有效学习的方式方法。话题涉及未成年防疫科普、安全用网、心理健康科普等诸多领域，截至目前活动累计播放近1.3亿次。2020年，抖音与中国青少年宫协会合作，围绕“网络安全”“网络健康”“网络文明与法治”三大主题，联合制作《网络素养课》动画课程及小读本，用于面向公众、教育系统开展线上、线下的网络素养课程活动。其中，网络安全部分，将讲解包含网络社交在内的网络安全风险和自我保护知识；网络健康部分，将融入利用青少年模式等平台举措实现自我保护与发展等内容。2020年，向日葵计划发起“守护”主题活动，针对开学安全、网络安全、消防安全等议题在抖音发起话题挑战赛，吸引众多专家学者、明星、优质创作者参与，累计播放32.7亿。发展：认知世界，赋能成长 2020抖音未成年人保护透明度报告 19益童乐园项目益童乐