UGC信息审核-如何降低审核延时

UGC信息审核——如何降低审核延时对于一个成熟产品，我们在网上创建的任何UGC信息都会被审核，只是审核的方式各不相同，对审核速度的感知也不一样。本文对“降低审核延时”方面的内容进行了分析，一起来看一下吧。18年毕业，从毕业至今一直从事产品工作，工作的一部分一直和风控相关，只是不全是风控，以及不同时间段工作重点不同，做过包括直播风控、登录注册风控、审核体系搭建、生态治理、内容治理、内容安全、反作弊、风控中台等工作。想结合着自己做过的、用过的、见过的、搜集资料研究过的总结成经验，在不泄露公司机密的前提下，尽量详细的写成系列文章。不只是复盘概念和框架，可能会是些具体的策略和直接可用的经验。一方面作为自己总结经验，以后更熟悉的运用。另一方面可以为行业做一些贡献，毕竟，风控行业容易涉及公司机密、逻辑太隐藏，比较难能从公开资料学习到直接可用的经验。打算先围绕曾经的OKR展开，即我做过的事项展开来写，先以各个小点切入，然后再放入整个风控框架中去，最终会形成下图的框架（未完全按风控架构的逻辑梳理）。今天先聊一个问题，降低审核延时。一、审核非相关专业的人不一定很清楚，对于一个成熟产品，我们在网上创建的任何UGC信息都会被审核，包括头像昵称、签名，微信发布音频/视频/文件/图片/文本，微博、小红书发布动态，B站发布视频等都无一例外。只是由于机审/人审、先发后审/先审后发、隐性处罚/降低分发等导致我们不知道自己被审核了。二、目标：审核速度满意度我们团队有一个体验型的指标，审核速度满意度，即用户对所发布内容被审核时间长短的满意度，这个指标会影响生产者生产体验，进而影响他们留存。一些人拿到这个指标可能就开始着手思考怎么降低审核延时了，但这是一个主观性的指标，最主要的是让用户感觉很快，而不只是在绝对值上做到真的很快。三、用户不感觉到慢（感官）我们产品原来在用户发布的内容上有一个状态，用户能看到自己的内容处于「审核中」，所以会觉得慢。权衡利弊后，将审核状态去掉，让用户对审核无感知。注：不一定所有都适合去掉，得根据自己业务决定，例如我前司，是设计师上传自己的作品，然后被审核，这个就不适合去掉审核状态。四、缩短审核延时（绝对值）在去掉审核状态后，开始缩短审核延时绝对值，但也并不一定是需要针对所有用户统一缩短。1.降低部分用户延时可以优先降低有被快速被审核需求的人的延时。我们产品虽然不直接展示审核状态，但未经审核的内容依然不支持分享，用户在分享时依然会提示，当前作品正在审核中。所以可知，无分享需求的人对审核是无感知的，需要分享的人才知道审核的存在。注：此为考虑安全原因，若未经审核的内容被分享出去，依然可能出现安全问题。例如某红书就存在这个风险点，不管发布的任何东西，发布成功即可立即分享（未过机审，且和账号无关，我用新注册的账号发布确定违规的文本+违规图片测试过），可查看小图、部分文本，此时存在风险的内容已经被传播出去（读者朋友可以自行测试，但温馨提示，红线类内容不可随意乱试）。但不知道他们是否是为了便于用户分享，是在考虑了风险和收益后，接受这种低概率风险存在的。下图内容还处于审核中，但可分享至微信，依然可看到部分文字和图片。所以，我们可以针对不同渠道来源、不同等级、不同信用分、不同标签等调整审核优先级。例如，有分享需求的用户，高优先级审核（具体判断有分享需求的用户，可根据自己产品来判断，这涉及具体逻辑，不适合展开写了）。例如，无延时需求的内容，低优先级审核，如运营账号发布的内容（即使是公司内部员工，不同人对风险的把控、专业度也是不一样的，即使是运营人员发布，也有可能会触及风险点，也需要被审核）。2.降低全体用户延时对于我们，延时长和短，只是相差了大约10min。对平台分发几乎无影响，对用户消费几乎无影响，对审核无感知的用户也无影响。所以解决其他全体用户的延时已经相对没那么重要了，这里可简单提下我们用过的一些策略，对于其他产品可能有帮助。1）基于数据分析发现当前延时的主要原因——例如出现生产波峰，导致审核出现积压，则可调整人力安排。——例如审核人员在审核列表上看了上百条后，才操作一次通过，导致大量内容已经被审核人员判断为通过，只是还未在界面上操作，导致内容一直处于审核中，则结合审核效率和审核延时综合考虑，将页面展示内容缩小到一定值。——例如细化机审策略、优化机审的算法模型，提升召回率、准确率，进而提升机审直接处理率，减少推到人审量级。——例如待审列表中还包含用户已删除内容，则将已删除内容从待审列表中踢出（用户发布成功立马删除，所以也不必要再审核）。2）设置兜底策略当延时≥一定值之后，则由先审后发流程，变为机审风险较小但又推到人审的改为先发后审流程。避免一些系统或人为原因，影响线上用户。注：这需先评估对于你们平台先发后审的风险是否可接受。3）设置对相关指标的监控当延时≥一定值的待审量也≥一定值之后，可预警，邮件/短信或其他方式通知到审核管理，排查是否哪里出了问题。五、对满意度提升效果上面的这些策略大致