CN110717522A 图像分类网络的对抗防御方法及相关装置 （平安科技（深圳）有限公司）

道福安社区益田路5033号平安金融中本申请是关于一种图像分类网络的对抗防2将原始图像样本及对抗攻击样本输入深度神经网络，将所述原始图像样本及所述去噪后对抗攻击样本，输入所述正则化后的深度神经网所述将原始图像样本及对抗攻击样本输入深度神经网络将原始图像样本及每个所述对抗攻击样本分别输入深l(x')为所述输入特征中提取的所述对抗攻击样本输入所述深度神经网络的预定层的网络特征，所述fl(x)为所述输入特征中提取的所述原始图像样本输入所述深度将所述原始图像样本输入所述深度神经网络，提取所述原始图像样3将所述对抗攻击样本输入所述深度神经网络，提取所述对抗攻击提取模块，用于将原始图像样本及对抗攻击样本输入深生成模块，用于根据所述输入特征生成所述深度神经网去噪模块，用于利用所述对抗防御去噪器对所述正则化模块，用于对所述深度神经网络的损失函数分类模块，用于将所述原始图像样本及所述去噪后对抗所述图像分类网络的对抗防御程序被处理器执行时实现权利要求1为经由执行所述图像分类网络的对抗防御程序来执行权4就越来越高，尽管深度神经网络可以在进行图像分类的过程中可以有非常高的准确率表抗样本攻击的特点也就要求深度神经网络提升防御能力，降低对抗样本欺骗网络的可能5[0020]将网络参数调整一致的所述原始图像样本及所述对抗攻击样本输入深度神经网l(x')为所述输入特征中提取的所述对抗攻击样本输入所述深度神经网络的预定层的网络特征，所述fl(x)为所述输入特征中提取的所述原始图像样本输入所述[0023]在本示例的一种实施方式中，所述对所述深度神经网络的损失6配置为经由执行所述图像分类网络的对抗防御程序来执攻击样本输入深度神经网络，以提取所述深度神经网络高于预定层数的目标层的输入特式，将高阶特征损失对攻击样本进行降噪得到的图像输入到梯度正则化后的原始神经网[0046]图5示意性示出一种用于实现上述图像分类网络的对抗防御方法的电子设备示例[0047]图6示意性示出一种用于实现上述图像分类网络的对抗防御方法的计算机可读存7以实践本申请的技术方案而省略所述特定细节中的一个或更多，或者可以采用其它的方8成的图片对抗样本进行误分类。黑盒攻击相比白盒攻击无需知道被攻击模型的具体信息，可以使得基于高阶特征差异得到的对抗防御去噪器进行去噪的方式适用的神经网络可以9[0076]这样可以结合多网络(resnet、Inception和nasnet等网络)的攻击手段得到原始续步骤中决定深度神经网络的损失函数设置。可以进一步保证防御模型有更好的泛化能入特征(高于预定层的目标层的输入特征)的差异明显特性，生成深度学习网络的损失函学习网络的损失函数可以是根据输入特征中提取的对抗攻击样本输入所述深度神经网络的预定层的对抗特征及原始图像样本输入深度神经网络的预定层的原始特征生成平均绝l(x')为所述输入特征中提取的所述对抗攻击样本输入所述深度神经网络的预定层的网络特征，所述fl(x)为所述输入特征中提取的所述原始图像样本输入所述[0089]这样可以迫使深度神经网络分类时不会偏离原始图像样本的网络特征fl(x)和对如通过邻域平均法，将一个像素及其邻域中所有像素的平均值赋给输出图像中相应的像的所述对抗攻击样本输入所述深度神经网络的预定层的对抗特征及所述原始图像样本输损失对攻击样本进行降噪得到的对抗攻击样本与原始图像样本输入到梯度正则化后的原[0099]相关方法中，对抗攻击方式主要是基于FGSM和I-FGSM的白盒攻击和黑盒攻击，[0104]提取模块410用于将原始图像样本及对抗攻击样本输入深度神经网络，以提取所[0105]生成模块420用于根据所述输入特征生成所述深度神经网络的损失函数，作为对[0106]去噪模块430用于利用所述对抗防御去噪器对所述对抗攻击样本进行去噪，得到[0107]正则化模块440用于对所述深度神经网络的损失函数进行正则化，得到正则化后[0108]分类模块450将所述原始图像样本及所述去噪后对抗攻击样本，输入所述正则化[0109]上述图像分类网络的对抗防御装置中各模块的具体细节已经在对应的图像分类块或者单元的特征和功能可以进一步划分为由多个[0115]下面参照图5来描述根据本发明的这种实施方式的电子设备500。图5显示的电子[0117]其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元510执[0118]存储单元520可以包括易失性存储单元形式的可读介质，例如随机存取存储单元[0119]存储单元520还可以包括具有一组(至少一个)程序模块5205的程序/实用工具[0120]总线530可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储[0121]电子设备500也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备[0124]参考图6所示，描述了根据本发明的实施方式的用于实现上述方法的程序产品[0128]可以以一种或多种程序设计语言的任意组合来编写用于执行本发明操作的程序[0129]此外，上述附图仅是根据本发明示例性实施例的方法所包括的处理的示意性说