CN110851835A 图像模型检测方法、装置、电子设备及存储介质 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中测图像模型对所述原始图像样本进行识别后获型对所述对抗图像进行识别后获得的第二识别2使用所述主流图像分类模型，基于动量的梯度迭代获取待检测图像模型对所述原始图像样本进行所述待检测图像模型对所述对抗图像进行识别后若所述第一识别结果与所述第二识别结果一致，确将所述原始图像样本以及所述对抗图像分别输入至将携带有所述原始图像样本以及所述对抗图像的识别请求发送至用户端设备，其中，若所述第一识别结果与所述第二识别结果不一致，确定所述待检测图像模型发生误3将经过图片增强处理后的所述原始图像样本输入训练第二获取模块，用于获取待检测图像模型对识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结行存储器中存储的计算机程序以实现如权利要求1至7中任意一项所述的图像模型检测方4获取所述待检测图像模型对所述对抗图像进行5[0031]将所述样本特征输入开源模型框架中进行训练，获得训练好的主流图像分类模处理器用于执行所述存储器中存储的计算机程序6像样本进行对抗攻击来生成对抗图像，进而通过对抗图像来对待检测图像模型进行测试，[0057]将所述样本特征输入开源模型框架中进行训练，获得训练好的主流图像分类模[0058]在该可选的实施方式中，所述开源模型框架基于主流的图片分类框架，比如7所述训练好的主流图像分类模型进行推理之前，对所述原始图像样本进行随机的改变大tgt+1流图像分类模型的倒数第二层全连接层的输出结果与原始图像样本的类别之间的交叉熵8[0080]S14、电子设备获取待检测图像模型对所述原始图像样本进行识别后获得的第一识别结果，以及获取所述待检测图像模型对所述对抗图像进行识别后获得的第二识别结述原始图像样本的第一识别结果以及所述对抗设备上安装所述待检测模型，只需要用户端一侧提供API接口(ApplicationProgramming9可通过该API接口将针对所述原始图像样本的第一识别结果以及针对所述对抗图像的第二图片中下降了10则待检测图像模型为轻微的安全问题，如果待检测图像模型的准确率在扰动的图片中下降20则待检测图像模型为中度的安全问题，如果待检测图像模型的准确率在扰动的图片中下降30％及以上则待检测图像像样本进行对抗攻击来生成对抗图像，进而通过对抗图像来对待检测图像模型进行测试，tgt+1’流图像分类模型的倒数第二层全连接层的输出结果与原始图像样本的类别之间的交叉熵[0129]第二获取模块204，用于获取待检测图像模型对所述原始图像样本进行识别后获[0137]图3是本发明实现图像模型检测方法的较佳实施例的电子设备的结构示意图。所[0139]所述至少一个处理器32可以是中央处理单元(CentralProcessingUnit，CPU)，电路(ApplicationSpecificIntegratedCircuit，ASIC)、现场可编程门阵列(Field-获取所述待检测图像模型对所述对抗图像进行[0148]具体地，所述处理器32对上述指令的具体实现方法可参考图1对应实施例中相关图像样本进行对抗攻击来生成对抗图像，进而通过对抗图像来对待检测图像模型进行测[0150]所述电子设备3集成的模块/单元如果以软件功能单元的形式实现并作为独立的现上述实施例方法中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完