CN118692055B 用于自动驾驶可迁移式对抗攻击的样本生成方法及装置 （天津大学）

A,2022.07.12A,2023.08.04A,2023.10.03A,2024.03.08用于自动驾驶可迁移式对抗攻击的样本生本公开提供了一种用于自动驾驶可迁移式的特征混合块对原始样本图像的干净特征和对抗特征进行混合处理，得到待更新对抗样本图用基于梯度的优化算法对待更新对抗样本图像2利用干扰块对原始样本图像中补丁位置进行利用目标识别模型中的特征混合块对所述原始样本图像的干净特征和对抗特征进行利用基于梯度的优化算法对所述待更新对抗样所述利用所述目标识别模型中的特征混合块对所述原始样本图像的干净特征和对抗在所述目标识别模型中的所述特征混合块处于工作状态的情况所述利用基于梯度的优化算法对所述待更新对抗样本图像中的所述干扰块进行更新，在所述目标识别模型中的所述特征混合块处于工作状态的情况在所述目标识别模型中的多个所述特征混合块均不处于工3’ft为在第t次迭代过程中与所述待更新对抗样本图像对应的混合特征，fe为在所述第所述补丁位置是将所述原始样本图像输入训练后的自注意力机制混合处理模块，用于利用目标识别模型中的特征混合块对的损失函数处理所述原始样本图像和所述对抗样本图更新模块，用于利用基于梯度的优化算法对所述待更新对抗样本混合处理子模块用于在所述目标识别模型中的所述特征混合块处于工作状态的情况更新子模块用于在所述目标识别模型中的所述特征混合块处于工4块是具有噪声的图像，补丁位置是将原始样本图像输入训练后的自注意力机制模型得到从对抗样本图像中特征提取得到的，目标识别模型是基于损失函数值训练识别模型得到5后的识别模型的待调整模型参数；利用基于梯度的优化算法对待调整模型参数进行微调，到微调模型参数包括：在目标识别模型中的多个特征混合块均不处于工作状态的情况’[0018]本公开的第二方面提供了一种用于自动驾驶可迁移式对于利用目标识别模型中的特征混合块对原始样本图像的干净特征和对抗特征进行混合处从对抗样本图像中特征提取得到的，目标识别模型是基于损失函数值训练识别模型得到6[0026]图1示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0027]图2示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0028]图3示意性示出了根据本公开实施例利用干扰块对原始样本图像中补丁位置进行[0029]图4示意性示出了根据本公开实施例可迁移式对抗攻击的样本生成过程的示意[0030]图5示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0031]图6示意性示出了根据本公开实施例的适于实现自动驾驶可迁移式对抗攻击的样7统均为用户提供相应的操作入口，供用户选择同意或者拒绝自动化决策结果；若用户选择业水平的人员进行决策的活动。[0039]图1示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0040]如图1所示，根据该实施例的应用场景100可以包括汽车101、网络102和服务器[0042]汽车101可以是具有显示屏并且支持网页浏览的各种电子设备，包括但不限于智8对抗攻击的样本生成装置一般可以设置于服务器103中。本公开实施例所提供的用于自动驾驶可迁移式对抗攻击的样本生成也可以由不同于服务器103且能够与汽车101和/或服务移式对抗攻击的样本生成也可以设置于不同于服务器103且能够与汽车101和/或服务器[0046]图2示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0047]如图2所示，该实施例的用于自动驾驶可迁移式对抗攻击的样本生成方法包括操失函数值是基于识别模型的损失函数处理原始样本图像和对9[0075]si=[ps·H/HS,ps·(H+HS/HS)]，sj=[ps·w/ws,ps·(w+ws/w5s)]，pS为预设[0077]图3示意性示出了根据本公开实施例利用干扰块对原始样本图像中补丁位置进行[0078]如图3所示，首先通过在原始样本图像上寻找最佳的目标掩码位置来提高对抗性过生成的类别注意力图确定目标掩码位置。对原始样本图像中目标掩码位置进行掩码处后的识别模型的待调整模型参数；利用基于梯度的优化算法对待调整模型参数进行微调，[0088]θt可以为在第t次迭代过程中的模型参数，可以f为重新定义后的损失函数。到微调模型参数包括：在目标识别模型中的多个特征混合块均不处于工作状态的情况[0090]根据本公开的实施例，干净特征是通过目标识别模型对原始样本图像进行存储[0093]R-(1-)-f"tr-h.（7）t次迭代过程中与待更新对抗样本图像对应的混合特征，fc为在第t次以概率p重新激活特征混合块，基于梯度的优化算法可以Adam(adaptivemoment[0101]图4示意性示出了根据本公开实施例可迁移式对抗攻击的样本生成过程的示意[0102]如图4所示，利用干扰块对原始样本图像中补丁位置进行处理，得到对抗样本图[0114]图5示意性示出了根据本公开实施例的用于自动驾驶可迁移式对抗攻击的样本生[0116]处理模块510用于利用干扰块对原始样本图像中补丁位置进行处理，得到对抗样[0117]混合处理模块520用于利用目标识别模型中的特征混合块对原始样本图像的干净和对抗样本图像得到的。在一实施例中，混合处理模块520可以用于执行前文描述的操作[0118]更新模块530用于利用基于梯度的优化算法对待更新对抗样本图像中的干扰块进个特征混合块分别位于目标识别模型的不同的结训练模块用于基于损失函数值训练识别模型，得到训练后的识别模型的待调整模型参数。微调模块用于利用基于梯度的优化算法对待调整模型参数进行微调，得到微调模型参数。驾驶可迁移式对抗攻击的样本生成装置部分的描述具体参考自动驾驶可迁移式对抗攻击者，这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结块510、混合处理模块520和更新模块530中的至少一个可以至少被部分地实现为计算机程[0128]图6示意性示出了根据本公开实施例的适于实现自动驾驶可迁移式对抗攻击的样例的方法流程的不同动作的单一处理单元或602以及RAM603通过总线604彼此相连。处理器601通过执行ROM602和/或RAM603中的程ROM602和RAM603以外的一个或多个存储器中。处理器601也可以通过执行存储在所述一个或多个存储器中的程序来执行根据本公开实施例的方法605的以下部件中的一项或多项：包括键盘、鼠标等的输入部分606；包括诸如阴极射线管其上读出的计算机程序根据需要被安装入存以是任何包含或存储程序的有形介质，该程序可以被指令执行系统、装置或者器件使用或者与其结合使用。例如，根据本公开的实施例，计算机可读存储介质可以包括上文描述的ROM602和/或RAM603和/或ROM602和RAM603以外的一个或多个存储器。包含用于执行流程图所示的方法的程序代码。当计算机程序产品在计算机系统中运行时，该程序代码用于使计算机系统实现本公开实施例所提供的自动驾驶可迁移式对抗攻击的[0135]在该计算机程序被处理器601执行时执行本公开实施例的系统/装置中限定的上的编程语言、和/或汇编/机器语言来实施这些计算程序。程序设计语言包括但不限于诸如[0140]本领域技术人员可以理解，本公开的各个实施例和/或权利要求中记载的特征可不脱离本公开精神和教