广播电视新媒体直播弹幕风控操作指南（试行）

广播电视新媒体直播弹幕风控操作指南（试行）一、总则弹幕风控是广播电视新媒体直播内容安全的最后一道实时防线，直接关系播出导向正确与公众舆论引导实效，所有开放弹幕功能的直播活动必须纳入统一风控体系管理，杜绝“重流量、轻安全”的管理盲区。1.制定依据：本指南依据《广播电视管理条例》《互联网直播服务管理规定》《网络音视频信息服务管理规定》《中华人民共和国网络安全法》及广电总局关于新媒体内容管理的相关要求制定，适用于各级广播电视台、所属融媒体中心运营的自有客户端、微信视频号、抖音、快手、B站等所有开通实时弹幕功能的直播活动。2.核心原则：坚持“先审后发、分级处置、留痕可溯、体验平衡”——所有公开展示的弹幕必须经过机审与人审环节，严禁无审核机制裸开弹幕；按风险等级匹配对应处置权限，避免权责错配；所有操作日志与处置记录全量留存，满足监管追溯要求；在守住安全底线的前提下保留正常互动空间，不搞“一关了之、全拦了之”的懒政式风控。3.底线要求：任何直播场景下，弹幕内容不得出现违反法律法规、违背公序良俗、妨害社会稳定的内容，不得因弹幕管控失当引发重大舆情或播出事故。二、组织架构与岗位职责清晰的权责划分是避免风控缺位、处置滞后的核心前提，必须建立“值班领导统管、组长牵头、专人专岗、技术兜底”的责任体系，杜绝“人人有责却人人不负责”的管理真空。1.直播风控总值班由当日值班的新媒体中心负责人担任，每场直播必须1人到岗，为直播弹幕安全第一责任人；需在直播前30分钟到岗、直播结束后20分钟确认无风险后方可离岗；拥有弹幕风控最高处置权限，可决定临时关闭弹幕、中断直播、向上级主管部门及网信部门上报事件；严禁安排无内容安全管理经验的人员承担总值班职责。2.弹幕审核组组长每场直播配置1名，优先从有3年以上广电内容审核经验的人员中选拔，对弹幕审核的及时性、准确性直接负责；职责包括：播前组织人员排班、更新专属关键词库、开展岗前尺度交底；播中巡检已上墙弹幕、协调审核员轮休、研判二级风险事件、向总值班上报一级风险；播后组织复盘、更新全局词库、提交风控报告。组长需承担备岗职责，当审核员临时缺岗时第一时间补位。3.一线弹幕审核员按直播峰值在线人数足额配备：峰值<1万人配2名审核员，1万-10万人配4名审核员，10万-50万人配6名审核员，峰值每增加20万人增配2名审核员，另按审核员总数的20%配备备岗人员；严格执行15分钟轮休制，每名审核员连续盯屏时长不得超过15分钟，由备岗人员轮换休息5分钟——据人机工程学研究，人在持续紧盯高速滚动的文字15分钟后，视觉注意力会下降40%，违规内容漏检率升至27%以上，轮休可将漏检率控制在1%以内。一线审核员负责待审弹幕的判定处置、违规内容初报，严禁安排无审核资质的实习人员、临时借调人员独立承担审核操作权限。4.技术运维岗每场直播配置1名，对弹幕审核系统的稳定性、功能可用性直接负责；职责包括：播前调试审核系统、设置弹幕延迟、配置审核权限；播中监控系统负载、处置系统故障、临时调整审核规则；播后导出弹幕日志、备份存证材料。

所有风控岗位人员在直播值守期间，严禁同时承担导播、场控、客服回复等其他分散注意力的工作，严禁在岗期间刷手机、闲聊、从事与值守无关的活动。三、直播全流程风控操作规范弹幕风控不是直播开始后的临时盯防，而是贯穿播前准备、播中值守、播后复盘全周期的闭环管理，据行业测算，80%的弹幕内容风险可以在播前准备环节提前阻断。3.1播前准备（直播前24小时至开播前10分钟）所有播前准备工作必须形成书面检查记录，由审核组组长签字确认后方可开播，无检查记录的直播严禁开放弹幕功能。1.直播前24小时完成动作■风险研判与词库更新：根据直播主题梳理专属敏感词库，词库分为三类：①绝对拦截词（涉政反宣、涉恐涉暴、教唆犯罪、民族宗教歧视等违法内容，机审直接拦截，不进入人工审核池）；②人工复核词（涉及热点敏感事件、低俗隐喻、引战对立、未经证实的信息，机审标记后弹入人工待审队列，审核通过后方可展示）；③低风险词（普通吐槽、无恶意玩梗、日常互动，机审通过后可直接展示）。时政类直播需重点加严政策误读、造谣传谣类关键词；民生类直播需重点加严群体性事件、个人隐私类关键词；文娱类直播需重点加严低俗玩梗、粉丝互撕类关键词；少儿类直播需重点加严诱导打赏、危险动作模仿类关键词。■人员排班：明确各岗位人员、到岗时间、联络方式，预留1名备岗人员应对突发流量增长；将排班表同步至所有参与人员，确保人人知晓自身职责。■系统配置：严禁设置0秒弹幕延迟（0延迟状态下违规内容会直接展示给所有观众，无任何审核缓冲窗口，一旦出现高危内容，从发现到删除至少需要5-10秒，足够被观众截图传播引发跨平台舆情）；普通民生、文化类直播优先设置3-5秒延迟，重大时政、主题宣传类直播必须设置8-10秒延迟，为机审与人审留足反应时间。2.直播前30分钟完成动作■功能测试：逐一验证弹幕通过/拦截、用户禁言/拉黑、一键清屏、一键关弹幕、证据截图、日志导出功能是否正常；开启高风险内容红色高亮提示功能，待审队列新消息提示音量调至60分贝以上，确保新到待审内容可及时提醒；测试主备两套审核系统的连通性，确保主系统故障时可在10秒内切换至备用系统。■岗前交底：由总值班主持5分钟短会，同步当日最新突发热点事件、临时需加拦的关键词，明确本场直播的审核尺度、重点关注风险点。■队列分配：将审核员按“2人盯高风险待审队列、1人巡检已上墙内容、1人备岗轮休”的原则分工，避免所有人盯同一队列造成漏审。3.直播前10分钟完成动作开启弹幕预审模式，提前进入直播间的用户发送的弹幕全部进入人工审核池，待直播正式开始后按规则逐批放行；技术岗再次确认系统负载正常、网络延迟<50ms。3.2播中值守（开播至直播正式结束）播中值守的核心要求是“眼快、手快、判定准”，所有处置动作必须在规定时限内完成，杜绝拖沓。1.日常审核操作■审核员需优先处置红色高亮的一级风险待审内容，每条弹幕的审核判定时长不得超过2秒：对无违规内容点击“通过”；对发无关广告、无意义刷屏的三级违规内容，执行“拦截+用户单次禁言10分钟”；对发低俗内容、造谣信息、恶意引战的二级违规内容，执行“拦截+用户禁言7天+拉黑”；对涉政、涉恐、煽动对立等一级违规内容，执行“拦截+永久拉黑+截图存证（含用户ID、IP属地、发送时间、内容原文）+立即上报审核组长”。■审核过程中遇到拿不准的内容，应当先拦截，再发给审核组长研判，严禁抱着“可能没事”的心态随意放行；组长拿不准的，立即报总值班研判，研判时间不得超过10秒，避免待审弹幕积压。■审核组长每15分钟开展一次已上墙弹幕巡检，发现漏审的违规内容必须在10秒内删除，同时倒查漏审原因——若为关键词缺失则立即补充到词库，若为审核员疏忽则提醒纠正，若为系统漏判则反馈技术岗调整规则。■总值班每30分钟巡查一次弹幕区整体氛围，若发现1分钟内连续出现10条以上同类型带节奏内容，立即指令技术岗将弹幕延迟临时调整为15秒，开启“所有弹幕全量人工审核”模式，待风险消除后再恢复正常延迟。2.特殊情况处置■若直播现场出现主持人口误、环节事故、场外突发舆情等意外情况，技术岗需在5秒内将弹幕延迟调至15秒，临时拦截所有与意外事件相关的弹幕，避免用户集中刷屏引发次生舆情。■当弹幕发送量超过系统承载阈值（单秒弹幕>100条）时，技术岗自动触发频率限制（同一用户10秒内只能发送1条弹幕），避免系统崩溃导致审核功能失效。■若遇到用户发布自杀、自残等极端言论，除立即拦截内容、固定证据外，需第一时间同步所属平台方及网信部门，配合提供用户信息协助公安机关干预，不得仅做删帖处理。3.3播后复盘（直播结束后24小时内）直播结束不等于风控结束，必须完成收尾清理与复盘改进，形成风控闭环。1.收尾清理：直播结束后20分钟内，风控岗位人员不得离岗，需继续巡查弹幕区内容，待所有观众退出直播间、弹幕停止发送后，逐一清理回放中的违规弹幕，确认无遗漏后方可上线回放；回放上线后2小时内安排1名审核员巡检回放评论区，防止违规内容残留。2.日志留存：所有弹幕发送日志（含用户ID、IP属地、发送时间、内容、处置记录）必须留存不少于6个月，涉及违规内容的存证材料必须留存不少于3年，满足《中华人民共和国网络安全法》的日志留存要求与监管追溯需要。3.复盘改进：直播结束后24小时内，审核组组长需组织全体值守人员召开15分钟复盘会，出具本场直播弹幕风控报告，内容包括：本场弹幕总量、机审/人审拦截量、违规内容类型占比、新发现的违规变体梗、漏审问题及原因、风险事件处置情况；将新发现的有效违规关键词更新到全局词库，对漏审问题明确整改措施，若发生责任事故按规定追责。四、风险分级与应急处置流程弹幕风险演化速度极快，一条违规弹幕从发送上墙到引发集体截图、跨平台传播往往只需要30秒，必须按严重程度建立分级响应机制，明确各岗位临机处置权限，严禁层层请示贻误最佳处置窗口。风险等级判定标准风险演化路径处置权限最长处置时限处置流程一级（红色）弹幕出现涉政反宣、涉恐涉暴、煽动民族宗教对立、恶意攻击党和国家领导人、泄露国家秘密、传播可能引发社会动荡的重大谣言；或1分钟内出现50条以上有组织的刷屏攻击内容单条违规弹幕上墙→被用户截图转发至社交平台→被恶意账号或境外媒体炒作→造成重大意识形态安全事件一线审核员可先处置、后报备，无需等待请示10秒1.立即删除违规内容，对发送用户永久拉黑，固定全量证据；2.1分钟内逐级上报审核组长、总值班；3.若为零星内容处置完成后持续观察；若为有组织刷屏，立即执行一键关闭弹幕，由总值班在3分钟内决定是否上报台领导、属地网信部门；4.风险消除后，经总值班批准方可重新开放弹幕二级（橙色）弹幕出现低俗色情内容、恶意侮辱诽谤他人、传播本地民生类谣言、挑动地域/群体/性别对立、泄露当事人隐私（手机号、住址、身份证号）；或1分钟内出现20条以上同类恶意刷屏内容单条违规内容上墙→其他用户跟风刷同类内容→弹幕区秩序混乱→引发用户投诉、监管部门关注审核组长可直接决策处置，事后报备总值班30秒1.立即删除违规内容，视情节对发送用户禁言7-30天；2.将对应违规关键词加入临时拦截库，开启该类内容的全量人工审核；3.处置完成后5分钟内报总值班备案三级（黄色）弹幕出现与直播无关的商业广告、无意义字符刷屏、无恶意的轻度吐槽、普通玩梗内容内容本身无意识形态风险，量大时会影响其他用户观看体验一线审核员直接处置2分钟1.拦截广告内容，对发广告用户禁言10分钟；2.对无意义刷屏通过发送频率限制（同一内容1分钟内仅可发送1次）减少展示量；3.正常的用户互动、善意吐槽予以放行，不得过度拦截1.系统故障应急：若主审核系统崩溃、功能失效，技术岗需在10秒内切换至备用审核系统；若备用系统也无法正常运行，必须立即临时关闭弹幕功能，待系统修复、功能测试正常后，经总值班批准方可重新开放弹幕，严禁在审核功能失效状态下开放弹幕。2.容错机制：授予一线审核员一级风险先处置权，对一线人员按一级风险标准先行处置的行为，即使事后判定内容不属于违规，也不予追责，打消一线人员“怕处置错被问责”的顾虑；严禁要求一线人员“发现重大问题先请示、待批准后再处置”，避免贻误处置时机。五、审核尺度边界与弹性原则弹幕风控的目标不是“一关了之”“全拦了之”，而是在守住内容安全底线的前提下，保留正常的用户互动空间，平衡好内容安全与传播效果的关系，避免过度审核损害用户信任、削弱主流媒体传播力。1.必须拦截的刚性底线内容所有直播场景下，以下内容必须100%拦截，不得放行：■违反《网络音视频信息服务管理规定》第十一条列明的违法违规内容；■调侃重大灾害、事故、英烈模范的内容；■针对特定地域、性别、职业、残障群体的歧视性言论；■诱导用户点击第三方链接、加群、转账的诈骗内容；■泄露直播未公开流程、内部工作信息的内容；■少儿类直播中涉及诱导打赏、模仿危险动作、低俗对话的内容。2.可以放行的正常互动内容以下内容无违规、无恶意，必须予以放行，不得因“是负面评价”“不够正面”随意拦截：■用户对节目质量、主持人表现、直播安排的正常批评与建议，如“今天镜头有点晃”“主持人语速太快了”——用户的正常监督是改进工作的重要依据，拦截正常批评反而会引发用户反感，损害媒体公信力；■无恶意的正向网络热梗、粉丝友好互动，如对主持人、嘉宾的正面评价、普通观众之间的地域打招呼等内容；■用户对直播涉及的公共政策、民生服务的正常提问与诉求表达。3.尺度动态调整规则不同类型直播可在守住底线的前提下弹性调整审核尺度，不得搞“一刀切”：■重大时政直播（全国两会、重大政策发布、国家庆典等）：实行全量弹幕先审后发，拿不准的内容一律先拦截，宁严勿宽，确保内容安全零差错；■民生服务类直播（助农带货、民生问政、便民服务等）：尺度适当放宽，优先保障用户提问、建议、诉求的正常展示，提升互动性与服务性；■文化文娱类直播（晚会、综艺、慢直播等）：尺度可进一步放宽，允许用户正常玩梗、友好互动，只要不涉低俗、不引战就予以放行，提升直播的传播感染力。严禁两种错误倾向：一是为了“热闹”“流量”，故意放行引战、低俗内容博眼球；二是为了“不出事”，把所有不同意见、正常批评全部拦截，搞弹幕区“清一色好评”的形式主义。六、考核、培训与责任追溯可落地的考核机制与常态化培训是风控体系长期有效运行的保障，责任追溯既要避免追责泛化打击一线人员积极性，也要杜绝出了问题无人担责的情况。1.考核激励■对当月值班无漏审、无内容安全事故、处置及时的风控人员，给予当月绩效加10%的奖励；对成功处置一级风险事件、避免重大舆情的人员，给予专项绩效奖励，优先参评年度优秀员工。■对未按规定到岗、值守期间从事无关工作、漏审违规内容造成不良影响的人员，按情节轻重给予扣减绩效、停岗培训、调离岗位的处理。2.责任判定标准责任追溯需区分问题原因，不得简单“谁值班谁担责”：■因系统故障、词库未及时更新、人员配备不足导致的漏审事故，追究技术运维岗、审核组组长的管理责任，不追究一线审核员责任；■因审核员在岗注意力不集中、未按规定时限处置、随意放行明确违规内容导致的事故，追究当事审核员的直接责任；■因一线人员上报后，值班领导迟迟不决策、贻误处置时机导致风险扩散的，追究总值班的领导责任；■一线人员按规定对疑似一级风险内容先处置后报备，事后判定内容不违规的，不追究任何责任。3.培训与演练■所有风控岗位人员必须完成不少于24学时的岗前培训，内容包括内容安全法规、违规内容识别、系统操作、应急流程，考试合格后方可上岗；严禁未经培训直接上岗。■每月组织4学时的常态化培训，及时传达最新监管要求、解析新出现的违规暗语与变体梗、复盘近期行业典型风控事故。■每季度组织1次不少于2小时的应急演练，模拟一级风险刷屏、系统崩溃、直播现场突发意外等场景，确保所有人员熟练掌握一键关弹幕、证据固定、上报流程的操作要求。附件1：直播弹幕风控岗位排班表（模板）直播基本信息填写内容直播主题（如：202X年XX市春节联欢晚会直播）直播时间年月日时分至时分预估峰值在线人数弹幕延迟设置秒岗位姓名风控总值班审核组组长一线审核员1一线审核员2一线审核员N技术运维岗备岗人员备注1.所有人员必须提前30分钟到岗，直播结束后20分钟无异常方可离岗；2.轮休间隔不超过15分钟，严禁单人连续值守超过30分钟附件2：弹幕风险分级处置快速对照表风险等级判定标准处置权限最长处置时限核心动作一级（红色）涉政反宣、涉恐涉暴、煽动对立、攻击党和国家领导人、泄露国家秘密、重大谣言、1分钟内50条以上有组织刷屏一线审核员可先处置后报备10秒删帖、永久拉黑、固定证据、逐级上报，必要时一键关弹幕、上报主管部