发布内容审核实施细则

发布内容审核实施细则第一章总则1.1目的为建立统一、透明、可追溯的内容审核闭环，防止违法不良信息流入公域流量池，保障用户合法权益，降低平台运营风险，特制定本实施细则。1.2适用范围适用于××公司（以下简称“公司”）所有面向公众的内容型产品，包括但不限于图文社区、短视频、直播、评论、弹幕、头像、昵称、签名、私信、群聊、小程序、UGC活动页、AIGC输出通道。1.3基本原则a.合法合规：以《网络安全法》《互联网信息服务管理办法》《网络信息内容生态治理规定》《个人信息保护法》《未成年人保护法》为底线。b.先审后发：所有公域可见内容必须完成安全审核后方可展示。c.分级管控：按内容风险等级匹配机审、人审、专家审三级策略。d.全程留痕：从上传、识别、处置、申诉到复核，日志保存≥36个月，加密存储，仅授权岗位可访问。e.用户最小感知：在保障安全前提下，减少误杀、缩短延迟，提升体验。第二章组织架构与职责2.1内容安全委员会（以下简称“安委会”）主任：CEO副主任：法务副总裁、技术副总裁、运营副总裁职责：审批年度审核策略、预算、重大舆情应急预案；对重大违规账号处置拥有一票否决权。2.2内容安全中心（以下简称“安中心”）下设政策组、质检组、应急响应组、数据组、培训组。a.政策组：跟踪立法动态，每月5日前更新《敏感词库》《审核红线》并邮件通告全组。b.质检组：每日随机抽检前一日已审内容5%，错误率＞1%即触发回炉培训；连续3天错误率＞2%暂停该审核员权限。c.应急响应组：7×24小时轮班，重大舆情10分钟内响应，30分钟内给出封禁/下架/降权方案。d.数据组：建立Snowflake数据仓库，按日输出《内容安全日报》，含量级、违规率、高发垂类、高危账号。e.培训组：每月组织一次“新法速递+案例复盘”双周会，缺席≥2次视为不胜任，调岗或淘汰。2.3业务线审核团队各产品线设“审核接口人”，向安中心双线汇报。接口人负责配置本垂类策略、召回样本、迭代关键词。2.4外部协同与××互联网法院、××公证处、××司法鉴定中心签订三方协议，实现电子证据固化、在线出庭、区块链存证。第三章风险分级与审核策略3.1风险等级矩阵将内容风险划分为P0～P4五级：P0：刑事犯罪（暴恐、毒品、枪支、儿童色情）——零容忍，1分钟内下架，24小时内报案。P1：行政违法（色情、赌博、诈骗、侮辱英烈）——5分钟内下架，账号封禁7天起。P2：低俗不良（性暗示、血腥、惊悚、封建迷信）——30分钟内下架，权重降90%。P3：营销引流（灰产、兼职、微商、外链）——1小时内处理，权重降50%。P4：轻微不适（错别字、低质灌水）——24小时内处理，仅作者可见。3.2审核方式a.机审：自建“玄武”模型，CNN+BERT+多模态融合，色情识别召回率99.2%，误杀率0.3%。b.人审：通过“三级考试+实习”准入，正式员工需签《保密与竞业协议》，外包人员仅能看脱敏数据。c.专家审：建立200人外部专家库（法学、心理学、医学、枪械、宗教），需30分钟内接单，2小时内给出结论。3.3策略配置流程Step1：数据组导出近7天违规样本→Step2：政策组标注→Step3：算法组训练→Step4：灰度A/B测试24小时→Step5：质检组验证→Step6：安委会邮件审批→Step7：全量上线。第四章审核标准与操作指引4.1政治类a.禁止映射、影射、内涵党和国家领导人；b.禁止篡改党史、军史、新中国史；c.禁止借“苏联笑话”“苏联梗”影射现实；d.禁止集中发布领导人健康、出行、家庭信息。操作：发现后先下架→冻结账号→固定证据→30分钟内报告属地网信办。4.2色情低俗类a.儿童色情一律报案；b.成人色情按“露点、露毛、露性器官”三要素判定；c.音频呻吟、性暗示ASMR视为软色情；d.二次元R18图需打码且年龄标签≥18才可展示。操作：模型先审→人工复核→打回作者修改或下架；对连续3次发布者永久封禁设备+手机号+证件号。4.3暴力恐怖类a.暴恐音视频MD5黑名单1.2万条，秒级拦截；b.极端主义旗帜、标志、手势、口号，一律P0；c.战争游戏实况需加“虚拟场景”水印，否则下架。操作：先下架→封群→溯源UID→调API向“全国互联网安全管理服务平台”报送。4.4诈骗类a.杀猪盘关键词8900条，如“区块链搬砖”“USDT套利”“高频彩”；b.头像+昵称+签名+私信组合判断，置信度≥0.9即封；c.涉诈支付二维码、外链，先替换为“风险页面”提示。操作：封禁→短信告知受害人→将银行账号、微信、QQ线索推送至“公安部电信诈骗案件侦办平台”。4.5侵权类a.版权：音乐、影视、赛事、电子书，建立4800万条指纹库，3秒比对；b.肖像：未经授权使用他人人脸，可被判侵权；c.隐私：泄露他人身份证号、手机号、住址，一律下架。操作：收到权利人邮件后24小时内删除；提供“反通知”通道，5个工作日内完成复核。第五章流程与SLA5.1发布前审核UGC上传→机审≤200ms→高风险直接拦截→中风险进入人审队列→低风险直接发布。SLA：P01分钟，P15分钟，P230分钟，P360分钟，P424小时。5.2发布后巡查a.模型实时扫全库，每30分钟一轮；b.用户举报入口：站内向客服、电话400-×××-××××、邮件jubao@××.com；c.举报SLA：P05分钟，P115分钟，P21小时，P312小时，P448小时。5.3申诉与复核a.被处置用户可在“个人中心-安全记录”发起申诉；b.申诉窗口期：7天；c.复核时限：24小时内完成；d.复核结果：维持、撤销、减轻；复核为终局，同一内容仅受理一次。5.4证据固化a.使用司法级区块链“××链”生成哈希，保存原文件、截图、日志、账号信息；b.哈希写入法院认可的“××互联网公证处”节点；c.证据包保留5年，可随时在线出具公证书。第六章技术系统建设6.1玄武智能审核平台a.架构：网关层→推理层（TensorRT）→策略层（Lua脚本）→日志层（Kafka→ClickHouse）；b.性能：GPUA10080G×40卡，峰值QPS3.2万，平均延迟38ms；c.灰度：支持按UID尾号、地域、版本、垂类分流；d.热更新：模型权重、关键词、正则、图片MD5均支持秒级热更新，零中断。6.2多模态融合文本：BERT-wwm-ext+BiLSTM+CRF；图像：EfficientNetV2+自研SE模块；音频：VGGish+Transformer；视频：关键帧抽8帧→每帧图像打分→取最大值；融合：LateFusion，权重文本0.4、图像0.35、音频0.15、行为0.1。6.3敏感词引擎a.支持简体中文、繁体、拼音、拆字、谐音、竖排、藏头诗；b.支持正则、DFA、AC自动机三种模式；c.每日增量更新，版本号vYYYYMMDD.N；d.提供“白名单”机制，如“习近平新时代中国特色社会主义思想”可豁免。6.4审核工作台a.一屏四看：原文、图片、视频、音频波形；b.快捷键：通过1、删除2、高优3、冻结4、标注5；c.自动计时：每单限时30秒，超时强制提交；d.质检插桩：随机插入已判定样本，答错即弹出警告。第七章数据指标与考核7.1核心指标a.违规率=违规条数/发布条数×10000‱；b.误杀率=申诉成功条数/删除条数×100%；c.漏放率=巡查发现条数/（巡查发现+用户举报）条数×100%；d.审核时效达成率=按时完成条数/总条数×100%。7.2考核权重业务线负责人：违规率40%+漏放率30%+时效达成率30%；审核员：质检错误率50%+时效20%+工作量30%；算法团队：召回率40%+误杀率30%+时效30%。7.3奖惩a.连续3个月违规率＜5‱，奖励团队10万元；b.单个审核员月度质检错误率＜0.8%，奖励1500元；c.发生重大漏放（P0级内容曝光＞30分钟），扣除业务线季度奖金50%，相关审核员立即停岗。第八章培训与准入8.1审核员招聘a.学历：大专及以上；b.测试：政治敏感、色情、暴力、诈骗各50题，≥90分合格；c.心理：使用SCL-90量表，抑郁、焦虑任一因子分＞2分不予录用；d.背景：无犯罪记录，直系亲属无境外敌对组织背景。8.2实习期a.两周封闭培训，每日80题模拟，错误率＞2%淘汰；b.师傅带教，双人双屏，实习1个月；c.结业考试：理论100题+实操200条，综合≥95分方可转正。8.3持续教育a.每月“新法速递”考试，不合格扣500元；b.每季度心理减压课程，强制参加；c.每年10月组织“红色教育”基地参观，缺席需补交2000字心得。第九章应急响应与舆情处置9.1事件分级Ⅰ级：中央网信办、公安部书面督办；Ⅱ级：属地网信办电话督办；Ⅲ级：微博热搜top50且负面；Ⅳ级：内部监测发现，尚未外溢。9.2处置流程Step1：发现→2分钟内安中心值班经理确认；Step2：分级→5分钟内通知相应级别群组；Step3：封禁→10分钟内完成账号、内容、传播链路的“三断”；Step4：报告→15分钟内提交《首报》至属地网信；Step5：溯源→30分钟内输出UID、手机号、设备号、邀请人、支付账号；Step6：声明→45分钟内发布官方回应；Step7：复盘→24小时内召开跨部门复盘会，输出8D报告。9.3工具包a.一键封禁脚本：支持批量冻结UID、禁言、清空粉丝、下架视频、替换头像；b.舆情雷达：爬取1200家媒体、2.5万公众号、80万微博博主，T+0预警；c.外呼系统：自动拨打95开头号码，向监管部门报告。第十章未成年人保护专项10.1年龄验证a.注册环节：接入公安部“实名认证”接口；b.直播环节：人脸识别比对，差异＞15%强制下线；c.支付环节：未满8岁禁止充值；8～16岁单次≤50元，月累计≤200元。10.2内容过滤a.建立“青少年模式”独立词库3.7万条；b.晚22:00～次日6:00禁止直播打赏；c.同城页、附近人、私信默认关闭。10.3家长守护平台a.绑定后家长可查看孩子每日使用时长、消费记录；b.一键远程强制下线；c.提供“教育直播”优质内容池1.2万条，仅青少年模式可见。第十一章隐私与数据安全11.1数据分级L4：生物识别、支付、密聊；L3：实名、手机号、地址；L2：昵称、头像、发布内容；L1：公开点赞、评论。11.2访问控制a.堡垒机+LDAP，双因子认证；b.最小权限，审核员仅能查看L2及以下；c.导出需VP级邮件审批，水印+PDF加密。11.3日志审计a.所有操作落库，字段：操作人、时间、UID、IP、设备、动作、结果；b.每日凌晨自动对比NSA算法生成摘要，发现篡改即时告警；c.第三方审计机构每半年一次，出具SOC2TypeⅡ报告。第十二章合作方管理12.1外包商准入a.注册资本≥1000万元；b.通过ISO27001、ISO27701认证；c.提供50名核心人员无犯罪证明；d.缴纳200万元履约保证金。12.2合同关键条款a.保密：违约金100万元/次；b.数据删除：合同终止7日内完成，提交销毁证明；c.审计权：公司可随时现场检查，拒绝即视为违约。12.3绩效考核a.月度质检错误率＞1.5%，扣10%服务费；b.连续两次＞2%，公司可无条件终止合作并扣除全部保证金。第十三章法律合规与案件配合13.1报案流程a.发现P0内容→固定证据→填写《网络违法犯罪线索移交单》→打印+盖章→扫描上传“公安部网络违法犯罪报警网站”→快递原件；b.24小时内电话确认是否立案；c.7日内补充材料。13.2配合调取证据a.收到《调取证据通知书》后30分钟内提取；b.提供：注册信息、登录日志、支付记录、聊天记录、设备信息、IP、MAC、IMEI；c.使用司法光盘刻录，一式两份，一份邮寄，一份留档。13.3出庭作证a.由法务部统一安排，审核员不得私自出庭；b.提供《技术说明函》加盖公司公章；c.交通、住宿、误工费由申请机关承担。第十四章内部审计与持续改进14.1审计频次a.安中心内部：每月一次；b.公