CN112750064B 一种水印信息嵌入方法以及装置 （阿里巴巴集团控股有限公司）

本申请公开了一种水印信息嵌入方法以及信息和待嵌入目标神经网络模型的目标水印信型提供的目标水印嵌入数据更新目标神经网络2使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述嵌入神经网络模型用于根据所述目标神经网络其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经获得预先训练的未嵌入水印信息的参考神经网络模型的权根据所述参考神经网络模型的权重信息、所述随机噪声信息、所将所述目标神经网络模型的权重信息作为第一水印训练集的实模型的模型损失函数更新所述嵌入神经网络模型的权重信息，直至所述模型损失函数收所述嵌入神经网络模型从所述目标神经网络模型的第一权重信息中提取出的水印信3权重信息对应的目标神经网络模型确定为嵌入有所述目标水印信息的目标神经网络模根据所述第一目标水印嵌入数据更新所述目标神经网络模将所述目标神经网络模型的第二权重信息输入到所述完成第一训练的嵌入神经网络所述目标神经网络模型中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模型，所述目标神经网络模型中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模型，获得参考神经网络模型的第一权重信息，所述参考神经网络根据所述目标水印嵌入数据获得用于嵌入水印信息的正则在使用常规训练集训练所述目标神经网络模型基于所述模型损失函数和所述用于嵌入水印信息的正则项，更获得已嵌入部分水印信息的目标神经网络模型的目标权重信息；所据所述检测神经网络模型输出的所述参考权重信息与所述目标权重信息的可区分程度数所述获得已嵌入部分水印信息的目标神经网络模型通过如4使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经获得所述检测神经网络模型输出的所述参考权重信息与所述第一目标权重信息的第如果所述第一可区分程度数据表明所述参考权重信息与所述第一目标权重信息不可如果所述第一可区分程度数据表明所述参考权重信息与所述第一目标权重信息可区目标可区分程度数据对应的目标神经网络模型确定为满足水印信息隐藏条件的目标神经对所述参考权重信息进行排序，并针对排序后的参考权重信息添对所述目标权重信息进行排序，并针对排序后的目标权重信息添将所述排序后的参考权重信息及其标签信息作为第一训练样本，5根据所述可区分程度信息获得用于隐藏水印信息的正则在使用常规训练集训练所述目标神经网络模型时所对应的模型基于所述模型损失函数、所述用于嵌入水印信息的正则项、将所述目标权重信息输入到嵌入神经网络模型，获得所述所述目标神经网络模型的权重信息获得所述目标神经网络模型中所嵌入将所述目标水印信息与嵌入所述目标神经网络模定所述目标水印信息是否为所述目标神经网络模型使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经6其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述嵌入神经网络模型用于根据所述目标神经网络其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经参考权重信息获得单元，用于获得未嵌入水印信息的参考神7所述获得嵌入部分水印信息的目标神经网络模型通过如使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经获得嵌入部分水印信息的目标神经网络模型的目标权重信息；据所述检测神经网络模型输出的所述参考权重信息与所述目标权重信息的可区分程度数所述获得嵌入部分水印信息的目标神经网络模型通过如使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模8所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经述嵌入神经网络模型用于根据所述目标神经网络模型的权重信息获得所述目标神经网络水印信息匹配单元，用于将所述目标水印信息与嵌入所述目标神经网使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经存储器，用于存储针对神经网络的水印信息提取程序，所述程序将所述目标权重信息输入到嵌入神经网络模型，获得所述所述目标神经网络模型的权重信息获得所述目标神经网络模型中所嵌入将所述目标水印信息与嵌入所述目标神经网络模定所述目标水印信息是否为所述目标神经网络模型9使用所述目标水印信息和所述目标神经网络模型的权重信息训练嵌入神经网络模型，并根据所述嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经数据获取模块、水印信息嵌入模块、水印信息隐藏模块以及目标神具有相同网络结构；所述水印信息隐藏模块用于，以所述神经网络模型更新模块提供的检测神经网络模型输出的所述嵌入有水印信息的权重信息与所述参考权重信息的可区分所述神经网络模型更新模块用于，按照可使所述目标神经网络模型其中，所述根据所述嵌入神经网络模型提供的目标将所述目标神经网络模型的第一权重信息输入到所述嵌入神获得所述嵌入神经网络模型输出的第一目标水印嵌入数据，如入数据表明第一权重信息中未完全嵌入所述目标水印信息，则训练所述嵌入神经网络模所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经挖掘等多种领域，其可运行在计算机中央处理器(CPU)、图形加速器(GPU)、张量处理器装置以及一种电子设备。本申请另外的实施例还提供一种水印信息隐藏装置以及电子设述嵌入神经网络模型用于根据所述目标神经网络模型的权重信息获得目标水印嵌入数据，所述目标水印嵌入数据用于表示所述目标神经网络模型中所嵌入水印信息的嵌入水印嵌入数据包括所述嵌入神经网络模型从所述目标神经网络模型的第一权重信息中提目标水印信息的目标神经网络模型和能够从所述目标神经网络模型的权重信息中提取出神经网络模型时所对应的模型损失函数的基础上，添加所述用于嵌入水印信息的正则项；所述参考权重信息和所述目标权重信息进行经网络模型的模型损失函数更新所述检测神印信息时的所述目标神经网络的权重信息和嵌入所述目标神经网络模型的原始水印信息用于获得未嵌入水印信息的参考神经网络模型的参考权重信息；目标权重信息获得单元，入水印信息时的所述目标神经网络的权重信息和嵌入所述目标神经网络模型的原始水印入神经网络模型根据嵌入水印信息时的所述目标神经网络的权重信息和嵌入所述目标神所述检测神经网络模型输出的所述嵌入有水印信息的权重信息与所述参考权重信息的可息的参考神经网络模型的参考权重信息和处于嵌入水印信息过程中的目标神经网络模型[0037]图1-B是本申请第一实施例提供的欲嵌入深度神经网络模型中的原始水印信息的[0038]图1-C是是本申请第一实施例提供的从深度神经网络模型的权重信息中提取出的[0040]图2-A是本申请第二实施例提供的隐藏目标神经网络模型中所嵌入的水印信息的经网络模型的过程同时进行，从而使得嵌入的水印信息对神经网络模型的性能不产生影[0051]针对神经网络模型的水印信息嵌入场景，为了提高嵌入的水印信息对于覆写攻水印信息嵌入神经网络模型的计算设备应用，图1为本申请第一实施例提供的水印信息嵌入方法流程图，图1-A为本申请第一实施例提供的目标神经网络模型中嵌入水印信息的示滑动窗口中，按照网络卷积核(convolutionkernel)参数计算输入数字信号的加权权重值，作为对下一层的输入。不同参数决定不同的加权权重值。神经网络的卷积层(convolutionlayer)中，采用较小尺寸的卷积核(convolutionkernel)滑动覆盖输入数表述该模型)指的是待嵌入水印信息的神经网络模型，目标神经网络模型的权重信息指的是该欲嵌入水印信息的神经网络模型中权重[0060]在上述步骤获得目标神经网络模型的权重信息以及待嵌入上述目标神经网络模是使该嵌入神经网络模型能够将目标神经网络模型的权重信息映射到待嵌入的目标水印训练目标神经网络之前，还需获得参考神经网络模型的参考权重信息以及随机噪声信息，根据嵌入神经网络模型提供的目标水印嵌入数据更新所述目标神经网络模型的权重信息，[0078]更新θ的过程即为训练嵌入神经网络模型Embedder的过程，以使嵌入神经网络模型Embedder能够将目标神经网络模型的权重信息w映射到目标水印信息mwm，并将参考神经网络模型的权重信息wunwm映射到随机噪声信息mran神经网络模型时所对应的模型损失函数的基础上，添加所述用于嵌入水印信息的正则项，数据包括所述嵌入神经网络模型从所述目标神经网络模型的第一权重信息中提取出的水[0088]C：如果所述第一目标水印嵌入数据表明所述第一权重信息中已嵌入所述目标水[0089]D：如果所述第一目标水印嵌入数据表明所述第一权重信息中未完全嵌入所述目[0091]F：将所述目标神经网络模型的第二权重信息输入到所述完成第一训练的嵌入神[0093]H：如果所述第二目标水印嵌入数据表明所述第二权重信息中未完全嵌入所述目并将所述第二目标水印嵌入数据提供给所述目从所述目标神经网络模型的权重信息中提取出所述目标水印信息的嵌入神经网置迭代训练的迭代次数为3次，或者设置目标水印嵌入数据的终止条件为当权重信息中嵌软件研究的大型可视化数据库)的数据集训练具有深层网络结构的ResNet(残差网络)，即系统性的深度神经网络模型共享平台或用于购买和销售已完成训练的深度神经网络模型的电子商务平台，采用Fine-tuning(利用已有模型训练其它数据集)或迁移学习等可使已[0100]为了在共享和推广深度神经网络模型的过程中能够保护深度神经网络模型的知络模型中的原始水印信息，图1-C为采用本实施例提供的水印信息嵌入方法将原始水印信fine-tuning方法，使用相同数据集和不同数据集分别对嵌入水印信息后的深度神经网络藏神经网络中所嵌入的水印信息的计算设备应用。图2为本申请第二实施例提供的水印信息隐藏方法的流程图，图2-A为本申请第二实施例提供的隐藏目标神经网络模型中嵌入的水印信息的示意图，以下结合图2和图2-A对本实施例提供的方法进行详细描述。如图2所[0107]所述参考神经网络模型与所述目标神经网络模型具有相[0110]检测神经网络模型的训练过程与目标神经网络模型在嵌入水印信息时的训练过[0120]上述根据所述检测神经网络模型输出的所述参考权重信息与所述目标权重信息[0129]LossR：用于嵌入水印的正则项，例如第一实施例的水印信息嵌入过程中的将所述目标可区分程度数据对应的目标神经网络模型确定为满足水印信息隐藏条件的目进行对抗训练，检测神经网络模型希望能够准确判断输入的权重信息是否嵌入有水印信型用于根据所述目标神经网络模型的权重信息获得所述目标神经网络模型中所嵌入的水[0149]所述水印信息隐藏模块403用于，以所述神经网络模型更新模块提供的嵌入有水获得所述检测神经网络模型输出的所述嵌入有水印信息的权重信息与所述参考权重信息[0150]所述神经网络模型更新模块404用于，按照可使所述目标神经网络模型实现其预所述水印信息隐藏模块提供的可区分程度数据，更新所述目标神经网络模型的权重信息，[0154]请参考图5理解该实施例，图5为本实施例提供的水印信[0157]目标神经网络模型获得单元503，用于使用目标水印信息和目标神经网络模型的为第一水印训练集的标签，将参考神经网络模型的权重信息作为第二水印训练集的实例，入神经网络模型从目标神经网络模型的第一权重信息中提取神经网络模型的权重信息中提取出目标水印[0182]基于模型损失函数和用于嵌入水印信息的正则项，更新目标神经网络的权重信[0183]在上述的实施例中，提供了一种水印信息嵌入方法以及为第一水印训练集的标签，将参考神经网络模型的权重信息作为第二水印训练集的实例，入神经网络模型从目标神经网络模型的第一权重信息中提取神经网络模型的权重信息中提取出目标水印[0215]基于模型损失函数和用于嵌入水印信息的正则项，更新目标神经网络的权重信[0218]参考权重信息获得单元701，用于获得未嵌入水印信息的参考神经网络模型的参[0219]目标权重信息获得单元702，用于获得嵌入部分水印信息的目标神经网络模型的[0220]目标神经网络模型获得单元703，用于以参考权重信息和目标权重信息作为训练[0223]获得检测神经网络模型输出的参考权重