数据图像识别图像识别周报_190110-190116

1、内容安全中心图像识别周报周期：2019年01月17日 2019年01月23日一、图像识别-直播 1.1 直播-模型过检&推送概况本周过检总量：8.6亿张总推送率：0.37%或着装不雅政治人物版权赛事躺直播涉及版权开车动作蒙包玉石涉政涉恐抽烟赌博广 告广告小卡片禁播游戏个人证件前四周0.14%0.06%0.04%0.02%前三周0.17%0.07%0.05%0.02%前两周0.14%0.08%0.04% 0.02%上周0.15%0.07%0.04%0.04%本周0.16%0.08%0.04% 0.03%本周高危推送总量：316万或着装不雅政治人物版权赛事躺直播涉及版权开车动作蒙包玉石涉政涉恐抽烟

2、赌博广 告广告小卡片禁播游戏个人证件前四周1245635198 10前三周143623820 8 9前两周1257337218 10上周135693422 810 1.2 直播-违规发现概况（生产数据）违规总量发现占比2000070%69%170241588016229155091500068% 1000066%5000064%前四周前三周前两周上周本周 1.2.1 直播-违规工单召回率（生产数据）注：A/B/C类工单全部来自实际生产数据，以便观察平台内总体违规发生中，图像识别能够在安 全工作中发挥的作用，因此未做任何工单质检及剔除操作。 1.3 直播-违规发现概况（

3、人工质检）违规总量发现占比1300089%88%87%88%88%88% 12633 87%1200012337116331200486% 86%85%84%1100010000前四周前三周前两周上周本周109581412566%68%68%68%本周B类工单：3801例召回率：41%本周C类工单：10091例召回率：79%36% 34% 34% 32% 41%上周 本周84% 83% 83%81%79%上周 本周本周A类工单：233例召回率：85%74% 85% 85%61%39%上周 本周 1.3.1 直播-违规工单召回率（人工质检）注：一、A类工单全面人工质检（剔除非图像识别能力范围内能

4、识别的工单）。二、B类部分工单人工质检（违规B类-销售行为与B类-黑屏低质未加入质检，已剔除该类工单） 三、C类工单暂未进行人工质检，已剔除音频类违规骂等部分非图像识别能力范围内能识别的工单和 C类-轻微其他（财经荐股）等未接入识别模型的工单。未更新实际图片检出量985前四周前三周前两周上周本周8368187955855771017974718700 直播-违A类规色截情图类时工效单（截人图工时质效检（）人工质检）（发现时效=推送高危时间 - 截图时间）0-1秒1-2秒2-3秒3-4秒4-5秒5-6秒6-7秒7-8秒8-9秒9-10秒12-13秒17-18秒23-24秒36-37秒52-53秒

5、6125184682412211213111未更新 直播-A类类工单截图召回率（人工质检）本周A类工单：205例 召回率：98%（人工质检）本周B类工单：1899例 召回率：72%（部分质检）本周C类工单：8854例 召回率：90%（部分质检）99%99%99%98%98%上 周 本 周72%72%69% 70%64%上 周 本 周91% 91% 92%91%90%上 周 本 周 男性裸露性器官 违规主体模糊 APP列表 网 站、AV违规前兆 直播-A类 类工单截图未识别案例（人工质检）二、图像识别-短视频 2.1 国内短视频-违规发现概况（生产数据）违规总量发现占比（右轴）400070%34

6、0165%64%2658300065%27292465 200060%100055%050%前四周前三周前两周上周本周 2.1.1 国内短视频-违规工单召回率（生产数据）95%95%95%55%82%81%94%80%52%49%48%92%76%76%47%上周本周上 周 本 周上周 本周 2.1.2 国内短视频-A类工单召回率（生产数据）违规工单检出量293前四周272145前三周139183前两周177167上周159219本周209注：短视频A/B/C类工单全部来自生产，未做任何剔除操作，因人力问题暂未展开短视频图像识 别质检工作；61%271060% 58%本周A类工单：221例召回

7、率：95%本周B类工单：1548例召回率：47%本周C类工单：696例召回率：81% 2.2 海外短视频-违规发现概况（生产数据）违规总量发现占比（右轴）60%2500200015001000500040% 20% 0%前四周前三周前两周上周本周 2.2.1 海外短视频-违规工单召回率（生产数据）100% 100% 100%45%47%41%44%37%35%33%93%33%25%88%10%上周本周上 周 本 周上周本周违规工单检出量15前四周131313前三周1818前两周3636上周3434本周注：短视频A/B/C类工单全部来自生产，未做任何剔除操作，因人力问题暂未展开短视频图像识 别

8、质检工作； 2.2.2海外短视频-A类工单召回率（生产数据）本周A类工单：34例召回率：100%本周B类工单：182例召回率：45%本周C类工单：10例召回率：10%1936 34% 1559 132250%51% 38% 37% 247226 文字水印违规 接口调用超时买卖性用品女性上身露点2.3 短视频-A类未识别案例（生产数据）三、合作平台-熊猫 3.1 熊猫（人工质检）熊猫推送量推送覆盖率（右轴）YY检出量（仅45%模型）46%45%46013260000050%40%30%20%10%0%39%39%442007368198 3309194000002716342074212044821670811288382000001064240前四周前三周前两周上周本周前四周前三周前两周上 周本周291515951561319517692578148314742932167588%93%94%92%95%四、合作平台-小爱 4.1 小爱（人工质检）小爱推送量YY检出量（仅模型）推送覆盖率（右轴）2%8000060000400002000002%2%2%前四周前三周前两周上周本周前四周前三周前