DB31T 1560-2025互联网信息内容安全审核能力通 用要求

3131 1本文件规定了互联网信息内容安全审核能力的等级划分与要求、技术能力、管理能力等要求。本文件适用于上海地区互联网信息服务提供者开展信息内容安全审核能力建设，本市监管部门、第三方机构进行监督管理和评估时可参考使用。2规范性引用文件下列文件中的内容通过文中的规范性引用而构成本文件必不可少的条款。其中，注日期的引用文件，仅该日期对应的版本适用于本文件；不注日期的引用文件，其最新版本(包括所有的修改单)适用于本文件。GB/T40645—2021互联网信息服务安全通用要求3术语和定义GB/T40645—2021界定的术语和定义适用于本文件。基于信息发布、交互、传播等相关技术和功能属性，通过互联网面向社会公众提供的信息服务。[来源：GB/T40645—2021,3.1]信息源informationsource互联网信息服务中信息的提供者及信息内容。[来源：GB/T40645—20使用互联网信息服务的个人或组织。[来源：GB/T40645—202互联网信息服务提供者internetinformationserviceprovider为用户提供互联网信息服务的组织或机构。[来源：GB/T40645—202利用深度学习、虚拟现实等生成合成类算法制作文本、图片、音频、视频、虚拟场景等网络信息的技术。2互联网信息内容安全审核能力internetinformationcontentsecuritycensorcapabilities互联网信息服务提供者检测、过滤、溯源和处置违法和不良信息的能力。计算机或系统检出并识别文本、图片、音频和视频信息的能力。违反法律法规和影响网络生态健康的信息。对于给定的数据集，违法和不良样本判断正确的数量占违法和不良样本数量的比率。对于给定的数据集，违法和不良样本判断正确的数量占判断为违法和不良样本数量的比率。4等级划分与要求本文件将互联网信息服务提供者的信息内容安全审核能力划分为两个等级，分别是基本级和增强级。互联网信息服务提供者应根据其企业规模、业务范围和用户规模等情况确定信息内容安全审核能力等级，见表1。表1互联网信息内容安全审核能力等级划分审核能力等级√一中型企业-√一√业务范围√图片√一-√100万及以下√-100万以上-√互联网信息服务提供者确定审核能力等级后，应按照附录B中的要求进行信息内容安全审核能力建设。5技术能力5.1违法和不良信息检测能力45.2.1.2应具备对信息源生成内容进5.2.2.1应具备对技术检测命中疑似违法和不良信息的内容进行风险提5.2.2.2应具备对技术检测命中疑似违法和不良信息的内容进行风险量化的能力，并对风险值较高的5.3.1应具备对互联网信息服务用户的账号信息、操作时间、操作内容、操作结果等进行日志记录的5.3.2应具备对信息源的相关信息进行日志记录的能力，如信息的采集来源、发布时间、发布渠道、5.3.3日志留存时间不少于6个月。6.2.1.1应指定至少1名负责人，负责组织开展相关信息内容审核工作，机构应为信息内容审核工作6.2.1.3信息内容审核人员数量与6.2.2.1对信息内容审核人员应开展岗前背景6.2.2.2对信息内容审核人员进行管理，应制定从业人6.2.2.3对参与信息内容审核的相关人员应建立培训制度，制定年度培训计划，培训内容应包括信息6.2.2.4信息内容审核的从业人员每年应至少参加1次业务培训。56.2.2.5根据不同内容审核岗位的从业人员，应定期进行岗位培训和考核，内容包括但不限于审核标6.3.1.2信息内容审核标准化手册应包括审核程序、审核标准、审核时限、信息源和用户账号的分类等。6.3.2.2应具备审核策略，包括：A.1中所述信息的分级审核、审核技术检测能力(文本、图片、音频、视频)、审核覆盖语种(汉语、英语、方言、小语种)及审核方式(机器抽审、机器全审、人工抽审、人工全审)等。6.3.2.3针对首屏推送、弹窗信息、热榜话题信息、紧急特殊类信息等，6.3.3.2技术检测命中疑似A.1中所述的信息，应进行二轮审核。6.3.3.3发生重大事件时，应对技术检测命中疑似A.1中所述的信息进行三轮审核。技术检测命中疑似违法和不良信息的内容宜在30分钟内由审核人员审核完毕。6.4.1.2宜从信息源可信度、信息内容质量等方面制定相关分类标准。6.4.2.2宜从账号IP、账号实名情况、影响力、活跃度等方