CN119416915A 基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法 （福建师范大学）

基于注意力引导特征蒸馏和原型对比对齐本发明公开了基于注意力引导特征蒸馏和引导的特征蒸馏和原型对比对齐机制实现了在保护客户端隐私的同时提升联邦学习模型的个2S2、客户端本地训练：在每个通信轮次中服务器将全局特S3、在本地模型训练的过程中，每个客户端采用注S5、客户端将更新后的本地模型参数和计算S6、服务器将更新后的全局模型参数和全局原2.根据权利要求1所述的基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，3.根据权利要求1所述的基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，其中，pl表示在块中提取的特征图，l表示层，是经过通道注意力调制后的avgpool和maxpool分别表示全局平均池化和全局最大池化，avgpoolc和maxpoolc分别A=M,(F)O(MC(F)OF)3S3_4、在学生网络之间建立跨层连接路径，为S3_5、使用最低层的特征图为第一横向卷积从下至融合结果，Af表示教师模型在第l层的注意力图，"表示学生模型在第l层的特征图，F表示教师模型在第l层的特征图。4.根据权利要求3所述的基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，5.根据权利要求1所述的基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，6.根据权利要求1所述的基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法，;征表示；4S4_4、使用服务器分发的全局模型wf,t+1在客户端i的本地数据集D:=(x,y)"t上生成;S4_5、基于从服务器接收到的全局原型pt将输出特征嵌入zi对齐pt表示第t轮迭代时，所有客户端所有类别全局原型；胜表示第t轮迭代时,标签为c的全局;标签视为负样本；鉴于全局原型对应于所有客户端的类别∣C∣,构建正对和负对:yj=c,iE{1,…,N),jE{1,…,b}个数据点的标签，zij表示生成的嵌入数据第i个客户端中第j个数据点，C表示所有标签类其中，τ是一个温度超参数，用于调整对正负样本的关注程度，而s()是余弦相似度；表示在第t+1轮迭代时，对于第i个客户端的数据集Di中的数据点的期望值，Df+1表示第i个客户端在第t+1轮迭代时的数据集，xi,j表示第i个客户端中的第j5其中，L⃞表示为第i个客户端在第t+1轮迭代中的交叉熵损失；ce表示交叉熵损失函数；W""表示为第个客户端在第t+1轮迭代中的分类器参数，g表示分类器函数；6[0004]进一步地，为了从客户端特定的角度解决联邦学习中的挑战，个性化联邦学习享全局知识与保留局部任务特定知识之间取得平衡。现正则化，而FedGH使用局部表示来监督全局投影层的训练，也专注于相同标签表示的对信息遗忘问题的同时个性化与泛化之间的冲突的方法成为本领域技术人员亟待解决的技7[0007]本发明的目的在于提供基于注意力引导特征蒸馏和原型对比对齐的联邦学习方别表示沿通道方向的全局平均池化和最大池化，MLP表示多层感知器，表示激活函数，8[0024]A=M;(F)O(MC(F)OF)层的学生特征之间实现了有效的集成。为每个输入特征层创建了三种类型的卷积层：合步骤可以表示为：t最终的融合结果，Af表示教师模型在第l层的注意力图，"表示学生模型在第l层的特征样本；c表示本地数据集Di中的标签集，zi,k表示第i个客户端中类别为c的第k个样本所对[0036]S4_2、通过收集本地数据集Di中所有标签的表示，第i个客户端的本地原型表示[0037]pf=(PCIceci9[0041]S4_4、使用服务器分发的全局模型wf,t胜表示第t轮迭代时,标签为c的全局原型；具体表达式如下：类别的全局原型；yi,j表示第i个客户端中第j个数据点的标签，zi1j表示生成的嵌入数据第i度；表示在第t+1轮迭代时，对于第i个客户端的数据集Di中的数据点(xijyij)的期望值，Df+4表示第个客户端在第t+1=轮迭代时的数据集，xi,j表示第i个损失函数；叫""表示为第个客户端在第t+1轮迭代中的分类器参数，g表示分类器函征提取器并开始本地模型更新时,进行注意力引导特征蒸馏；然后在客户端完成特征提取[0061]图1为本发明基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法的流程示[0062]图2为本发明基于注意力引导特征蒸馏和原型对比对齐的联邦学习方法的系统框别表示沿通道方向的全局平均池化和最大池化，MLP表示多层感知器，表示激活函数，[0079]A=M;(F)O(MC(F)OF)层的学生特征之间实现了有效的集成。为每个输入特征层创建了三种类型的卷积层：合步骤可以表示为：Al.s表示最终的融合结果；conv是横向卷积，统一了不同尺度输t最终的融合结果，Af表示教师模型在第l层的注意力图，"表示学生模型在第l层的特征样本；c表示数据集本地Di中的标签集，zi,k表示第i个客户端中类别为c的第k个样本所对[0091]S4_2、通过收集本地数据集Di中所有标签的表示，第i个客户端的本地原型表示[0092]pf=(PCIceci[0096]S4_4、使用服务器分发的全局模型wf,t胜表示第t轮迭代时,标签为c的全局原型；具体表达式如下：除zzy所属类别之外的其他类别的全局原型；yi,j表示第i个客户端中第j个数据点的标签，zi1j表示生成的嵌入数据第i个客户端中第j个数据点，C表示所有标签类别；度；表示在第t+1轮迭代时，对于第i个客户端的数据集Di中的数据点(xijyij)的期望值，Df+4表示第个客户端在第t+1=轮迭代时的数据集，xi,j表示第i个