CN119513344A 一种图像审核的方法及相关装置 （腾讯科技（深圳）有限公司）

本申请提供了一种图像审核的方法以及相其方法包括：从数据库中提取待审核的N个候选图像，将N个候选图像输入目标筛选模型进行筛筛选过获得的X预设标签中预设标签对应的目标2所述响应于针对所述目标对应关系集的输入响应于针对目标对应关系集的输入，获得所述目标对应关系集中目标视频的审核结对所述目标对应关系集中目标图像执行所述审核或，所述目标对应关系集中目标图像的审核结果包5.根据权利要求1所述的方法，其特征在于，通过交互界面展示所述目标对应关系集所述响应于针对所述目标对应关系集的输入3通过交互界面展示所述目标标签对应的目标所述响应于针对所述目标标签对应的目标图像的输入，获取所述X个预设标签和所述X个预设标签中每个预根据所述X个预设标签和所述X个预设标签中每个预设标签对应的训练图片生成所述在数据库中检索所述X个预设标签中每个预设标签所述在数据库中检索所述X个预设标签中预设标签，获得所在数据库中检索所述X个预设标签中预设标签，获得所若所述中间模型的精确率指标小于或等于所述阈值，增加所述X个预设标签中每个预根据所述X个预设标签和所述更新后的每个预设标签对应的训练图片生成更新后的中4根据所述m个验证图像和所述更新后的中间模型，计算所述更新后的中间模型的精确若所述更新后的中间模型的精确率指标大于所述阈值标对应关系集包括X个预设标签和所述X个预设标签中预设标签与目标图像之间的对应关交互模块，用于当所述目标对应关系集非空集所述交互模块，还用于响应于针对所述目标对应关系所述处理器用于执行所述存储器中的程序，包括执行如权利要求1至12中任一项所述所述总线系统用于连接所述存储器以及所述处理器，以使5[0004]但是突发性事件的发生可能会引发某一类图像作品在某一时段不适合被展示给联网平台就急需找出该社会事件相关的图像作品和该当事人相关的图像作品进行二次审[0010]响应于针对目标对应关系集的输入，获得目标对应关系集中目标图像的审核结6[0028]交互模块，具体用于响应于针对目标标签对应的目标对象中任一目标图像的输7[0038]在数据库中检索X个预设标签中预设标签，获得X个预设标签中预设标签对应的C标小于或等于阈值，增加X个预设标签中每个预设标签对应的训练图片获得更新后的每个[0046]生成模块，还用于根据X个预设标签和更新后的每个预设标签对应的训练图片生标签和X预设标签中预设标签对应的目标图像组成的目标对应关系集，再通过交互界面展示目标对应关系集，以便于审核人员对筛选过获得的X预设标签中预设标签对应的目标图8[0072]图10a为本申请实施例提供的分类损失函数权重与模型识别的准确度之间的关系[0081]人工智能(ArtificialIntelligence,AI)是利用数字计算机或者数字计算机控9[0086]YOLO(youlookonlyonce)算法采用一个单独的CNN模型实现端到端(end_to_end)的目标检测，核心思想就是利用整张图作为网络的输入，直接在输出层回归边界框[0089]但是突发性事件可能会引发某一类图像作品在某一时段不适合被展示给平台用核员进行筛选，将需要审核员审核的待审作品的数量缩减至符合要求的待审作品的数量，如图1所示，本申请实施例中图像审核的方法应用于图像审核的系统。图像审核的系统包制。[0135]示例性的，当目标对应关系集中目标图像的审核结果为“目标图像为违规图像”[0139]本申请实施例中，根据目标对应关系集中目标图像的审核结果标识可以为任何预先约定好告知审核员对N个候选图像无需进行审核的标识即可，此处不[0148]在本申请的图2对应的实施例提供的图像审核的方法的一个可选实施例中，请参[0168]审核员从交互界面展示的目标对应关系集中的X个预设标签中选取目标标签，响获得目标标签对应的目标视频的审核结果，或，针对目标视频对应的目标视频进行审核结标标签对应的目标视频的目标时刻的缩略图，例如，当目标标签为“战火”时，展示可以通过粗略观看目标视频的目标时刻的缩略图，完成对目标视频的粗审核，通过点击预设审核结果，完成对目标标签对应的目标视频的审核，获得目标标签对应的目标视频的审签对应的目标视频的输入，获得目标对应关系集中目标图像的审核结果的方式略有不同，[0182]更进一步的，审核员在对目标标签的目标视频中至少一个目标标识可以为任何预先约定好告知审核员对N个候选视频无需进行审核的标识即可，此处不[0206]在本申请的图2对应的实施例提供的图像审核的方法的一个可选实施例中，请参[0210]可选的，X个预设标签还可以为技术人员预先设定的满足一定条件输入的预设标签中预设标签对应的M个训练图片的说明仅为示例，在实际应用中应结合具体应用场景进样本中正样本和负样本按照一定的比例进行设置，确保训练获得的模型具有一定的鲁棒[0223]S330、根据X个预设标签和X个预设标签中预设标签对应的M个训练图片生成中间[0225]具体的，将X个预设标签和X个预设标签中预设标签对应的M个训练图片输入YOLOv8模型，设置YOLOv8模型的批次大小为16，设置分类损失函数的权重为0.8，使用[0226]可以理解的是，此处对根据X个预设标签和X个预设标签中预设标签对应的M个训[0234]若否，增加训练图片获得更新后的训练图片，利用更新后的训练图片执行步骤从网络上搜索预设标签获得1000张符合阅图14，获取模块110，还用于获取目标对应关系集中目标图像的审核结果对应的处理方[0263]装置还包括执行模块140，用于对目标对应关系集中目标图像执行审核结果对应对应关系集中目标图像的审核结果对应的处理[0267]装置还包括选取模块150，用于从目标对应关系集中选取目标标签对应的目标图[0271]交互模块130，具体用于响应于针对目标标签对应的目标对象中任一目标图像的[0275]生成模块160，还用于根据X个预设标签和X个预设标签中每个预设标签对应的训[0281]在数据库中检索X个预设标签中预设标签，获得X个预设标签中预设标签对应的C[0292]图15是本申请实施例提供的一种服务器结构示意图，该服务器300可因配置或性能不同而产生比较大的差异，可以包括一个或一个以上中央处理器(centralprocessing说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现存取存储器(randomaccessmemory，RAM)、磁碟或者光盘等各种可以存储程序代码的介