图像识别图像识别周报_180913-0919

1、内容安全中心监测研究周报周期：2018年9月13日 9月19日一、图像识别-YY直播 1.1 YY直播-模型过检&推送概况本周过检总量：10.8亿张总推送率：0.28%或着装不雅躺直播涉及版权涉政涉恐抽烟广告政治人物前四周0.17%0.05%0.04% 0.01%前三周0.17%0.05%0.04% 0.01%前两周0.14%0.04%0.04% 0.01%上周0.14%0.06%0.03%0.00%本周0.16%0.06%0.03%0.01%本周高危推送总量：299万或着装不雅躺直播涉及版权涉政涉恐抽烟广告政治人物前四周160433411 541前三周157453713 6 41前两周131

2、363412 542上周14257355 5 121本周171623513 7 61 1.2 YY直播-违规发现概况（生产数据）违规总量发现占比75%73%62%2000080%63%65%19134190301900060% 17755 176111800040%171091700020%160000%前四周前三周前两周上周本周 1.2.1 YY直播-违规工单召回率（生产数据）注：A/B/C类工单全部来自实际生产数据，以便观察平台内总体违规发生中，图像识别能够在安 全工作中发挥的作用，因此未做任何工单质检及剔除操作。 1.3 YY直播-违规发现概况（人工质检）违规总量发现占比1700085%

3、83%81%15798160001550477%1531180%1516577%76% 146041500075%140001300070%前四周前三周前两周上周本周本周B类工单：5686例召回率：50%本周C类工单：11639例召回率：73%70% 69%50% 44% 50%上 周 本 周78% 77%74% 73%70%上 周 本 周本周A类工单：286例召回率：47%65%50% 44% 52% 47%上 周 本 周 1.3.1 YY直播-违规工单召回率（人工质检）注： A类工单全面人工质检（剔除非图像识别能力范围内能识别的工单）、 B/C类暂未进行全面人工质检（已剔除音频及低质内容等

4、部分非图像识别能力范围内能识别的工单）；（仅供参考）实际图片检出量746前四周654782前三周641824前两周717708上周686680本周647 YY直播-A类截图时效（人工质检）（发现时效=推送高危时间 - 截图时间）0-1秒1-2秒2-3秒3-4秒4-5秒5-6秒6-7秒7-8秒146217882911441 YY直播-A类截图召回率（人工质检）本周B类工单：3558例 召回率：74%（部分质检）本周C类工单：10881例召回率：78%（部分质检）79% 76%74%74%72%上 周 本 周84% 82%79% 78%76%上 周 本 周本周A类工单：165例召回率：100%（人

5、工质检）100%99%99%98%98%上 周 本 周情 网页 大图中小图违规 敏感部位部分暴露行为动 YY直播-A类截图未识别案例（人工质检）二、图像识别-短视频 2.1 短视频-违规发现概况（生产数据）违规总量发现占比（右轴）800060%52%52%48%44%43%600040%400020%200000%前四周前三周前两周上周本周 2.1.1 短视频-违规工单召回率（生产数据）94%88%74%69%67%86%62%84%48%46%80%42%41%39%40%上 周 本 周上周本周上周本周违规工单检出量170前四周153149前三周138133前两周110106上周96136本

6、周130注：短视频A/B/C类工单全部来自生产，未做任何剔除操作，因人力问题暂未展开短视频图像识 别质检工作； 短视频-A类工单召回率（生产数据）本周A类工单：143例召回率：94%本周B类工单：3585例召回率：48%本周C类工单：494例召回率：67% 动作行为 男性 身体情 主体模糊未成年 短视频-A类未识别案例（生产数据）三、合作平台-熊猫 3.1 熊猫（人工质检）熊猫推送量YY检出量（仅模型）推送覆盖率（右轴）30000060%20000040%10000020%00%前四周前三周前两周上周本周前四周前三周前两周上 周本周336539194584242932761884152841002161297456%39%89%89%91%四、合作平台-小爱 4.1 小爱（人工质检）小爱推送量YY检出量（仅模型）推送覆盖率（右轴）6%4000030000200001000004% 2% 0%前四周前三周前